ZPRÁVA o návrhu nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie

22.5.2023 - (COM(2021)0206 – C9‑0146/2021 – 2021/0106(COD)) - ***I

Výbor pro vnitřní trh a ochranu spotřebitelů
Výbor pro občanské svobody, spravedlnost a vnitřní věci
Zpravodaj: Brando Benifei, Ioan-Dragoş Tudorache
(Postup společných schůzí výborů – článek 58 jednacího řádu)
Zpravodajové přidružených výborů podle článku 57 jednacího řádu:
Eva Maydell, Výbor pro průmysl, výzkum a energetiku
Marcel Kolaja, Výbor pro kulturu a vzdělávání
Axel Voss, Výbor pro právní záležitosti

Pozměňovací návrhy

• 001-771 (PDF - 1052 KB)
• 001-771 (DOC - 272 KB)
• 772-773 (PDF - 112 KB)
• 772-773 (DOC - 39 KB)
• 774-783 (PDF - 141 KB)
• 774-783 (DOC - 41 KB)
• 784-789 (PDF - 134 KB)
• 784-789 (DOC - 40 KB)
• 790-790 (PDF - 122 KB)
• 790-790 (DOC - 72 KB)
• 791-795 (PDF - 122 KB)
• 791-795 (DOC - 78 KB)
• 796-796/REV1 (PDF - 105 KB)
• 796-796/REV1 (DOC - 71 KB)
• 797-799 (PDF - 126 KB)
• 797-799 (DOC - 76 KB)
• 800-801 (PDF - 110 KB)
• 800-801 (DOC - 39 KB)
• 802-802 (PDF - 110 KB)
• 802-802 (DOC - 71 KB)
• 803-807 (PDF - 119 KB)
• 803-807 (DOC - 39 KB)
• 808-808 (PDF - 1070 KB)
• 808-808 (DOC - 314 KB)

NÁVRH LEGISLATIVNÍHO USNESENÍ EVROPSKÉHO PARLAMENTU

o návrhu nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie

(COM2021/0206 – C9‑0146/2021 – 2021/0106(COD))

(Řádný legislativní postup: první čtení)

Evropský parlament,

– s ohledem na návrh Komise předložený Evropskému parlamentu a Radě (COM(2021)0206),

– s ohledem na čl. 294 odst. 2 a články 16 a 114 Smlouvy o fungování Evropské unie, v souladu s nimiž Komise předložila svůj návrh Parlamentu (C9‑0146/2021),

– s ohledem na čl. 294 odst. 3 Smlouvy o fungování Evropské unie,

– s ohledem na článek 59 jednacího řádu,

– s ohledem na společná jednání Výboru pro vnitřní trh a ochranu spotřebitele a Výboru pro občanské svobody, spravedlnost a vnitřní věci podle článku 58 jednacího řádu,

– s ohledem na stanoviska Výboru pro průmysl, výzkum a energetiku, Výboru pro kulturu a vzdělávání, Výboru pro právní záležitosti, Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin a Výboru pro dopravu a cestovní ruch,

– s ohledem na zprávu Výboru pro vnitřní trh a ochranu spotřebitelů a Výboru pro občanské svobody, spravedlnost a vnitřní věci (A9‑0188/2023),

1. přijímá níže uvedený postoj v prvním čtení;

2. vyzývá Komisi, aby věc znovu postoupila Parlamentu, jestliže svůj návrh nahradí jiným textem, podstatně jej změní nebo má v úmyslu jej podstatně změnit;

3. pověřuje svou předsedkyni, aby předala postoj Parlamentu Radě a Komisi, jakož i vnitrostátním parlamentům.

 

Pozměňovací návrh  1

 

Návrh nařízení

Právní východisko 4 a (nové)

Znění navržené Komisí	Pozměňovací návrh
	s ohledem na stanovisko Evropské centrální banky,

Pozměňovací návrh  2

 

Návrh nařízení

Právní východisko 4 b (nové)

Znění navržené Komisí	Pozměňovací návrh
	s ohledem na společné stanovisko Evropského sboru pro ochranu údajů a evropského inspektora ochrany údajů,

Pozměňovací návrh  3

 

Návrh nařízení

Bod odůvodnění 1

Znění navržené Komisí	Pozměňovací návrh
(1) Účelem tohoto nařízení je zlepšit fungování vnitřního trhu stanovením jednotného právního rámce zejména pro vývoj umělé inteligence, její uvádění na trh a využívání v souladu s hodnotami Unie. Toto nařízení sleduje řadu naléhavých důvodů veřejného zájmu, jako je například vysoká úroveň ochrany zdraví, bezpečnosti a základních práv, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů UI, pokud to není tímto nařízením výslovně povoleno.	(1) Účelem tohoto nařízení je podporovat zavádění důvěryhodné umělé inteligence zaměřené na člověka a zajistit vysokou úroveň ochrany zdraví, bezpečnosti, základních práv, demokracie a právního státu a životního prostředí před škodlivými účinky systémů umělé inteligence v Unii a zároveň podporovat inovace a zlepšovat fungování vnitřního trhu. Toto nařízení stanoví jednotný právní rámec, zejména pro vývoj, uvádění na trh, uvádění do provozu a používání umělé inteligence v souladu s hodnotami Unie, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů umělé inteligence (systémů UI), pokud to není tímto nařízením výslovně povoleno. Některé systémy UI mohou mít rovněž dopad na demokracii, právní stát a životní prostředí. Tyto obavy jsou konkrétně řešeny v kritických odvětvích a případech použití uvedených v přílohách tohoto nařízení.

Pozměňovací návrh  4

 

Návrh nařízení

Bod odůvodnění 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(1a) Toto nařízení by mělo zachovávat hodnoty Unie tím, že usnadní rozdělení přínosů umělé inteligence ve společnosti, bude chránit jednotlivce, podniky, demokracii a právní stát a životní prostředí před riziky a současně podpoří inovace a zaměstnanost a zajistí Unii vedoucí postavení v této oblasti.

Pozměňovací návrh  5

 

Návrh nařízení

Bod odůvodnění 2

Znění navržené Komisí	Pozměňovací návrh
(2) Systémy umělé inteligence (systémy UI) lze snadno uplatnit v řadě hospodářských a společenských odvětví, včetně přeshraničních, a mohou obíhat v celé Unii.  Některé členské státy již zkoumají možnost přijetí vnitrostátních pravidel, která by zajišťovala, že umělá inteligence bude bezpečná a že bude vyvíjena a používána v souladu s povinnostmi v oblasti základních práv. Rozdílné vnitrostátní předpisy mohou vést k roztříštěnosti vnitřního trhu a ke snížení právní jistoty pro provozovatele, kteří systémy UI vyvíjejí nebo používají. Proto je třeba zajistit jednotnou a vysokou úroveň ochrany v celé Unii a zároveň zabránit rozdílům, které jsou překážkou volného oběhu systémů UI a souvisejících produktů a služeb na vnitřním trhu, tím, že budou stanoveny jednotné povinnosti provozovatelů a bude zaručena jednotná ochrana naléhavých důvodů obecného zájmu a práv osob na celém vnitřním trhu na základě článku 114 Smlouvy o fungování Evropské unie (SFEU). V rozsahu, v němž toto nařízení obsahuje zvláštní pravidla ochrany fyzických osob v souvislosti se zpracováním osobních údajů, která se týkají omezení používání systémů UI pro biometrickou identifikaci na dálku v „reálném čase“ na veřejně přístupných místech pro účely prosazování práva, je vhodné, aby se ve vztahu k těmto zvláštním pravidlům zakládalo na článku 16 SFEU. S ohledem na tato zvláštní pravidla a na použití článku 16 SFEU je vhodné provést konzultace s Evropským sborem pro ochranu osobních údajů.	(2) Systémy UI lze snadno uplatnit v řadě hospodářských a společenských odvětví, včetně přeshraničních, a mohou obíhat v celé Unii. Některé členské státy již zkoumají možnost přijetí vnitrostátních pravidel, která by zajišťovala, že umělá inteligence bude důvěryhodná a bezpečná a že bude vyvíjena a používána v souladu s povinnostmi v oblasti základních práv. Rozdílné vnitrostátní předpisy mohou vést k roztříštěnosti vnitřního trhu a ke snížení právní jistoty pro provozovatele, kteří systémy UI vyvíjejí nebo používají. Proto je třeba zajistit jednotnou a vysokou úroveň ochrany v celé Unii s cílem dosáhnout důvěryhodné UI a zároveň zabránit rozdílům, které jsou překážkou volného oběhu, inovací, zavádění a využívání systémů UI a souvisejících produktů a služeb na vnitřním trhu, tím, že budou stanoveny jednotné povinnosti provozovatelů a bude zaručena jednotná ochrana naléhavých důvodů obecného zájmu a práv osob na celém vnitřním trhu na základě článku 114 Smlouvy o fungování Evropské unie (SFEU).

Pozměňovací návrh  6

 

Návrh nařízení

Bod odůvodnění 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(2a) Vzhledem k tomu, že umělá inteligence často závisí na zpracování velkého objemu dat a mnohé systémy UI a jejich aplikace závisí na zpracování osobních údajů, je vhodné, aby se toto nařízení zakládalo na článku 16 SFEU, který zakotvuje právo fyzických osob na ochranu jejich osobních údajů a stanoví přijetí pravidel o ochraně fyzických osob v souvislosti se zpracováním osobních údajů.

Pozměňovací návrh  7

 

Návrh nařízení

Bod odůvodnění 2 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(2b) Základní právo na ochranu osobních údajů je chráněno zejména nařízeními (EU) 2016/679 a (EU) 2018/1725 a směrnicí 2016/680. Směrnice 2002/58/ES navíc chrání soukromý život a důvěrný charakter sdělení a stanoví podmínky pro uchovávání jakýchkoli osobních a neosobních údajů v koncovém zařízení a také podmínky pro přístup k těmto údajům z tohoto zařízení. Tyto právní akty poskytují základ pro udržitelné a odpovědné zpracování údajů, včetně případů, kdy datové soubory zahrnují kombinaci osobních a neosobních údajů. Tímto nařízením není dotčeno uplatňování stávajících právních předpisů Unie upravujících zpracování osobních údajů, včetně úkolů a pravomocí nezávislých dozorových úřadů příslušných pro sledování dodržování těchto nástrojů. Tímto nařízením nejsou dotčena základní práva na soukromý život a ochranu osobních údajů stanovená právními předpisy Unie o ochraně údajů a soukromí a zakotvená v Listině základních práv Evropské unie (dále jen „Listina“).

Pozměňovací návrh  8

 

Návrh nařízení

Bod odůvodnění 2 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(2c) Systémy umělé inteligence v Unii podléhají příslušným právním předpisům o bezpečnosti výrobků, které poskytují rámec pro ochranu spotřebitelů před nebezpečnými výrobky obecně, a tyto právní předpisy by se měly nadále uplatňovat. Tímto nařízením nejsou dotčena ani pravidla stanovená jinými právními akty Unie týkajícími se ochrany spotřebitele a bezpečnosti výrobků, včetně nařízení (EU) 2017/2394, nařízení (EU) 2019/1020 a směrnice 2001/95/ES o obecné bezpečnosti výrobků a směrnice 2013/11/EU.

Pozměňovací návrh  9

 

Návrh nařízení

Bod odůvodnění 2 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	(2d) V souladu s čl. 114 odst. 2 SFEU toto nařízení doplňuje práva a zájmy zaměstnanců, přičemž by je nemělo  žádným způsobem oslabovat. Tímto nařízením by tudíž nemělo být dotčeno právo Unie v oblasti sociální politiky a vnitrostátní pracovní právo a praxe, tj. jakákoli právní a smluvní ustanovení týkající se podmínek zaměstnávání, pracovních podmínek, včetně bezpečnosti a ochrany zdraví při práci, a vztahů mezi zaměstnavateli a zaměstnanci, včetně informování, konzultování a účasti. Tímto nařízením by neměl být dotčen výkon základních práv uznávaných členskými státy a na úrovni Unie, včetně práva na stávku nebo práva přijmout jiná opatření na základě zvláštních systémů členských států v oblasti pracovněprávních vztahů, a to v souladu s vnitrostátním právem a/nebo zvyklostmi. Neměla by jím být dotčena ani jednání ve vzájemné shodě, právo sjednávat, uzavírat a prosazovat kolektivní smlouvy nebo podnikat kolektivní akce v souladu s vnitrostátními právními předpisy nebo zvyklostmi. V žádném případě by Komisi nemělo bránit v tom, aby navrhla zvláštní právní předpisy týkající se práv a svobod pracovníků dotčených systémy UI.

Pozměňovací návrh  10

 

Návrh nařízení

Bod odůvodnění 2 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	(2e) Tímto nařízením by neměla být dotčena ustanovení, jejichž účelem je zlepšit pracovní podmínky při práci prostřednictvím platforem stanovená ve směrnici ... [COD 2021/414/ES].

Pozměňovací návrh  11

 

Návrh nařízení

Bod odůvodnění 2 f (nový)

Znění navržené Komisí	Pozměňovací návrh
	(2f) Toto nařízení by mělo pomoci při podpoře výzkumu a inovací, nemělo by oslabovat činnost v oblasti výzkumu a vývoje a mělo by respektovat svobodu vědeckého výzkumu. Je proto nezbytné vyloučit z oblasti jeho působnosti systémy UI speciálně vyvinuté výhradně za účelem vědeckého výzkumu a vývoje a zajistit, aby nařízení žádným jiným způsobem neovlivnilo činnost v oblasti vědeckého výzkumu a vývoje systémů UI. Veškerá činnost v oblasti výzkumu a vývoje by měla za všech okolností probíhat v souladu s Listinou, právem Unie a vnitrostátním právními předpisy.

Pozměňovací návrh  12

 

Návrh nařízení

Bod odůvodnění 3

Znění navržené Komisí	Pozměňovací návrh
(3) Umělá inteligence je rychle se vyvíjející skupina technologií, které mohou přispět k široké škále hospodářských a společenských přínosů v celém spektru průmyslových odvětví a sociálních aktivit. Díky zlepšení predikcí, optimalizaci provozu a přidělování zdrojů a personalizaci digitálních řešení dostupných pro jednotlivce a organizace může využívání umělé inteligence poskytnout společnostem klíčové konkurenční výhody a podpořit sociálně a environmentálně prospěšné výsledky, například v oblasti zdravotnictví, zemědělství, vzdělávání a odborné přípravy, správy infrastruktury, energetiky, dopravy a logistiky, veřejných služeb, bezpečnosti, spravedlnosti, účinného využívání zdrojů a energetické účinnosti a zmírňování změny klimatu a přizpůsobování se této změně.	(3) Umělá inteligence je rychle se vyvíjející skupina technologií, které mohou přispět a již přispívají k dosažení široké škály hospodářských, environmentálních a společenských přínosů v celém spektru průmyslových odvětví a sociálních aktivit, pokud jsou vyvíjeny v souladu s příslušnými základními zásadami Listiny a s hodnotami, na nichž je Unie založena. Díky zlepšení predikcí, optimalizaci provozu a přidělování zdrojů a personalizaci digitálních řešení dostupných pro jednotlivce a organizace může využívání umělé inteligence poskytnout společnostem klíčové konkurenční výhody a podpořit sociálně a environmentálně prospěšné výsledky, například v oblasti zdravotnictví, zemědělství, bezpečnosti potravin, vzdělávání a odborné přípravy, sdělovacích prostředků, sportu a kultury, správy infrastruktury, energetiky, dopravy a logistiky, řízení krizí, veřejných služeb, bezpečnosti, spravedlnosti, účinného využívání zdrojů a energetické účinnosti, monitorování životního prostředí, ochrany a obnovu biologické rozmanitosti a ekosystémů a zmírňování změny klimatu a přizpůsobování se této změně.

Pozměňovací návrh  13

 

Návrh nařízení

Bod odůvodnění 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(3a) S cílem přispět k dosažení cílů v oblasti uhlíkové neutrality by evropské společnosti měly usilovat o využití veškerého dostupného technického pokroku, který může ke splnění tohoto cíle napomoci. Umělá inteligence je technologie, která má potenciál k tomu, aby byla využita při zpracovávání neustále rostoucího množství dat vytvářených v průběhu průmyslových, environmentálních, zdravotnických a jiných procesů. Aby se usnadnily investice do analytických a optimalizačních nástrojů založených na UI, mělo by toto nařízení zajistit předvídatelné přiměřené prostředí pro nízkoriziková průmyslová řešení.

Pozměňovací návrh  14

 

Návrh nařízení

Bod odůvodnění 4

Znění navržené Komisí	Pozměňovací návrh
(4) Umělá inteligence může zároveň v závislosti na okolnostech týkajících se jejího konkrétního uplatňování a využívání vytvářet rizika a působit újmu veřejným zájmům a právům, které jsou chráněny právem Unie. Tato újma může být hmotná nebo nehmotná.	(4) Umělá inteligence může zároveň v závislosti na okolnostech týkajících se jejího konkrétního uplatňování a využívání, jakož i úrovně technologického vývoje, vytvářet rizika a působit újmu veřejným nebo soukromým zájmům a základním právům fyzických osob, které jsou chráněny právem Unie. Tato újma může být hmotná nebo nehmotná, včetně fyzické, psychické, společenské nebo ekonomické újmy.

Pozměňovací návrh  15

 

Návrh nařízení

Bod odůvodnění 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(4a) Vzhledem k velkému dopadu, který může mít umělá inteligence na společnost, a potřebě budovat důvěru je nezbytné, aby umělá inteligence a její regulační rámec byly rozvíjeny v souladu s hodnotami Unie zakotvenými v článku 2 SEU, základními právy a svobodami zakotvenými ve Smlouvách, Listině a mezinárodních právních předpisech v oblasti lidských práv. Základním předpokladem je, aby byla umělá inteligence technologií zaměřenou na člověka. Neměla by nahrazovat lidskou autonomii ani s sebou nést ztrátu osobní svobody a měla by sloužit především potřebám společnosti a obecnému blahu. Měly by být poskytnuty záruky, které zajistí rozvoj a používání eticky zakotvené umělé inteligence, která respektuje hodnoty Unie a Listinu.

Pozměňovací návrh  16

 

Návrh nařízení

Bod odůvodnění 5

Znění navržené Komisí	Pozměňovací návrh
(5) Je proto nezbytné zavést právní rámec Unie, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, s cílem podpořit vývoj, využívání a zavádění umělé inteligence na vnitřním trhu, který by zároveň splňoval vysokou úroveň ochrany veřejných zájmů, jako je například zdraví, bezpečnost a ochrana základních práv, která jsou uznávána a chráněna právem Unie. K dosažení tohoto cíle by měla být stanovena pravidla, která budou regulovat uvádění určitých systémů UI na trh a do provozu a tím zajišťovat bezproblémové fungování vnitřního trhu a umožňovat, aby tyto systémy měly prospěch ze zásady volného pohybu zboží a služeb. Stanovením těchto pravidel toto nařízení podporuje cíl Unie zastávat v celosvětovém kontextu čelnou pozici, pokud jde o rozvoj bezpečné, důvěryhodné a etické umělé inteligence, který vytyčila Evropská rada, a zajišťuje ochranu etických zásad, kterou výslovně požadoval Evropský parlament34.	(5) Je proto nezbytné zavést právní rámec Unie, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, s cílem podpořit vývoj, využívání a zavádění umělé inteligence na vnitřním trhu, který by zároveň splňoval vysokou úroveň ochrany veřejných zájmů, jako je například zdraví, bezpečnost, ochrana základních práv, demokracie a právního státu a životního prostředí, která jsou uznávána a chráněna právem Unie. K dosažení tohoto cíle by měla být stanovena pravidla, která budou v případě určitých systémů UI regulovat jejich uvádění na trh a do provozu a jejich používání, a tím zajišťovat bezproblémové fungování vnitřního trhu a umožňovat, aby tyto systémy měly prospěch ze zásady volného pohybu zboží a služeb. Tato pravidla by měla být jasná a spolehlivá, pokud jde o ochranu základních práv, podporu nových inovativních řešení a umožnění evropského ekosystému veřejných a soukromých subjektů vytvářejících systémy UI v souladu s hodnotami Unie. Stanovením těchto pravidel a rovněž opatření na podporu inovací se zvláštním zaměřením na malé a střední podniky a začínající podniky podporuje toto nařízení cíl, kterým je podpora UI vyrobené v Evropě a čelná pozice Unie  v celosvětovém kontextu, pokud jde o rozvoj bezpečné, důvěryhodné a etické umělé inteligence, jak vytyčila Evropská rada33, a zajišťuje ochranu etických zásad, kterou výslovně požadoval Evropský parlament.
__________________	__________________
33 Evropská rada, mimořádné zasedání Evropské rady (1. a 2. října 2020) – závěry, EUCO 13/20, 2020, s. 6.	33 Evropská rada, mimořádné zasedání Evropské rady (1. a 2. října 2020) – závěry, EUCO 13/20, 2020, s. 6.
34 Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k rámci pro etické aspekty umělé inteligence, robotiky a souvisejících technologií, 2020/2012(INL).	34 Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k rámci pro etické aspekty umělé inteligence, robotiky a souvisejících technologií, 2020/2012(INL).

Pozměňovací návrh  17

 

Návrh nařízení

Bod odůvodnění 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(5a) Dále je v zájmu podpory rozvoje systémů UI v souladu s hodnotami Unie třeba, aby se Unie zabývala hlavními nedostatky a překážkami, které brání využití potenciálu digitální transformace, včetně nedostatku digitálně kvalifikovaných pracovníků, obav v oblasti kybernetické bezpečnosti, nedostatečných investic a nedostatečného přístupu k investicím i stávajících a potenciálních rozdílů mezi velkými společnostmi a MSP a začínajícími podniky. Zvláštní pozornost by se měla věnovat zajištění toho, aby byl přínos UI a inovací v oblasti nových technologií pociťován ve všech regionech Unie a aby byly poskytnuty dostatečné investice a zdroje zejména těm regionům, které mohou v některých digitálních ukazatelích zaostávat.

Pozměňovací návrh  18

 

Návrh nařízení

Bod odůvodnění 6

Znění navržené Komisí	Pozměňovací návrh
(6) Je třeba jednoznačně definovat pojem „systém UI“ s cílem zajistit právní jistotu a zároveň poskytnout flexibilitu umožňující přizpůsobit se budoucímu technologickému vývoji. Tato definice by měla být založena na klíčových funkčních vlastnostech tohoto softwaru, zejména na jeho schopnosti generovat pro danou sadu člověkem definovaných cílů výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí, které ovlivňují prostředí, s nímž systém komunikuje, ať už ve fyzické, nebo digitální dimenzi. Systémy UI mohou být navrženy tak, aby fungovaly s různou úrovní samostatnosti a aby mohly být použity buď samostatně, nebo jako součást určitého produktu bez ohledu na to, zda je systém do tohoto produktu fyzicky zabudován (vestavěný systém), nebo zda napomáhá funkčnosti tohoto produktu, aniž by do něho byl zabudován (nevestavěný systém). Definici systému UI by měl doplňovat seznam konkrétních technik a přístupů využívaných při jeho vývoji, který by měl být průběžně aktualizován s ohledem na vývoj trhu a technologií prostřednictvím přijímání aktů v přenesené pravomoci Komisí za účelem změny uvedeného seznamu.	(6) Pojem „systém UI“ v tomto nařízení by měl být jasně definován a úzce sladěn s činností mezinárodních organizací zabývajících se umělou inteligencí, aby byla zajištěna právní jistota, harmonizace a široké přijetí a současně poskytnuta flexibilita umožňující přizpůsobit se rychlému technologickému vývoji v této oblasti. Mimo to by tato definice měla být založena na klíčových vlastnostech umělé inteligence, jako je její schopnost učení, uvažování nebo modelování, a měla by ji odlišit od jednodušších softwarových systémů a programovacích přístupů. Systémy UI jsou navrženy tak, aby fungovaly s různou úrovní samostatnosti, což znamená, že mají alespoň určitou míru nezávislosti činností na lidské kontrole a schopnosti fungovat bez lidského zásahu. Pojem „strojové“ odkazuje na skutečnost, že systémy UI fungují prostřednictvím strojů. Odkaz na explicitní nebo implicitní cíle zdůrazňuje, že systémy UI mohou fungovat na základě explicitních cílů definovaných člověkem nebo implicitních cílů. Cíle systému UI se mohou v konkrétním kontextu lišit od jeho zamýšleného účelu. Odkaz na predikce zahrnuje obsah, který je v tomto nařízení považován za formu predikce jakožto jeden z možných výstupů systému UI. Pro účely tohoto nařízení by se prostředím měl rozumět kontext, v němž systém UI funguje, zatímco výstupy generované systémem UI, tj. predikce, doporučení nebo rozhodnutí, odpovídají cílům systému na základě vstupů z uvedeného prostředí. Takový výstup dále ovlivňuje uvedené prostředí, a to i tím, že do něj pouze vkládá nové informace.

Pozměňovací návrh  19

 

Návrh nařízení

Bod odůvodnění 6 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(6a) Systémy UI mají často schopnosti strojového učení, které jim umožňují, aby se adaptovaly a prováděly nové úkoly samostatně.  Strojovým učením se rozumí výpočetní proces optimalizace parametrů modelu z dat, což je matematický koncept vytvářející výstup na základě vstupních údajů. Přístupy strojového učení zahrnují např. učení s učitelem, bez učitele a posilované učení, a to za využití celé řady metod včetně hlubokého učení neuronových sítí.  Cílem tohoto nařízení je řešit nová potenciální rizika, která mohou vzniknout v důsledku přenesení kontroly na systémy UI, zejména na ty systémy UI, které se mohou po zavedení vyvíjet. Funkce a výstupy mnoha z těchto systémů UI jsou založeny na abstraktních matematických vztazích, které je pro člověka obtížné pochopit a monitorovat a u nichž je těžké zpětně vysledovat konkrétní vstupy. Tyto složité a nejasné vlastnosti (prvek „černé skříňky“) mají dopad na odpovědnost a vysvětlitelnost.  Srovnatelně jednodušší techniky, jako jsou přístupy založené na znalostech, bayesovském odhadování nebo rozhodovacích stromech, mohou rovněž vést k právním mezerám, které je třeba řešit v tomto nařízení, zejména pokud jsou používány v kombinaci s přístupy strojového učení v hybridních systémech.

Pozměňovací návrh  20

 

Návrh nařízení

Bod odůvodnění 6 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(6b) Systémy UI lze používat jako samostatný softwarový systém, který je integrován do fyzického produktu (vestavěný), mohou být používány k plnění funkčnosti fyzického produktu, aniž by do něj byly zabudovány (nevestavěný), nebo je lze používat jako součást UI v rámci většího systému. Pokud by tento větší systém nefungoval bez dotyčné součásti UI, měl by být celý větší systém považován podle tohoto nařízení za jediný systém UI.

Pozměňovací návrh  21

 

Návrh nařízení

Bod odůvodnění 7

Znění navržené Komisí	Pozměňovací návrh
(7) Pojem „biometrické údaje“ používaný v tomto nařízení je v souladu s pojmem „biometrické údaje“ definovaným v čl. 4 bodě 14 nařízení Evropského parlamentu a Rady (EU) 2016/67935, v čl. 3 bodě 18 nařízení Evropského parlamentu a Rady (EU) 2018/172536 a v čl. 3 bodě 13 směrnice Evropského parlamentu a Rady (EU) 2016/68037 a měl by být vykládán konzistentně s nimi.	(7) Pojem „biometrické údaje“ používaný v tomto nařízení je v souladu s pojmem „biometrické údaje“ definovaným v čl. 4 bodě 14 nařízení Evropského parlamentu a Rady (EU) 2016/67935. Biometrické údaje jsou dodatečné údaje vyplývající ze specifického technického zpracování souvisejícího s fyzickými, fyziologickými nebo behaviorálními signály fyzické osoby, jako jsou výrazy obličeje, pohyby, tepová frekvence, hlas, stisky kláves nebo chůze, které mohou nebo nemusí umožnit nebo potvrdit jedinečnou identifikaci fyzické osoby.
__________________	__________________
35 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).	35 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).
36 Nařízení Evropského parlamentu a Rady (EU) 2018/1725 ze dne 23. října 2018 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů orgány, institucemi a jinými subjekty Unie a o volném pohybu těchto údajů a o zrušení nařízení (ES) č. 45/2001 a rozhodnutí č. 1247/2002/ES (Úř. věst. L 295, 21.11.2018, s. 39).
37 Směrnice Evropského parlamentu a Rady (EU) 2016/680 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů příslušnými orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, o volném pohybu těchto údajů a o zrušení rámcového rozhodnutí Rady 2008/977/SVV (směrnice o prosazování práva) (Úř. věst. L 119, 4.5.2016, s. 89).

Pozměňovací návrh  22

 

Návrh nařízení

Bod odůvodnění 7 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(7a)  Je třeba, aby byl pojem „biometrická identifikace“ používaný v tomto nařízení definován jako automatizované rozpoznání fyzických, fyziologických, behaviorálních a psychických lidských vlastností, jako jsou obličej, pohyb očí, výrazy obličeje, tvar těla, hlas, mluva, chůze, držení těla, srdeční frekvence, krevní tlak, zápach, stisk kláves, psychologické reakce (hněv, úzkost, zármutek atd.), pro účely ověření totožnosti jednotlivce porovnáním biometrických údajů dané osoby s uloženými biometrickými údaji jednotlivců v databázi (identifikace jednoho z mnoha, tj. porovnáním údajů ostatních), a to bez ohledu na to, zda daný jedinec poskytl svůj souhlas či nikoli.

Pozměňovací návrh  23

 

Návrh nařízení

Bod odůvodnění 7 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(7b) Je třeba, aby byl pojem „biometrická kategorizace“ používaný v tomto nařízení definován jako zařazení fyzických osob do určitých kategorií nebo odvození jejich vlastností nebo atributů, jako je gender, pohlaví, věk, barva vlasů, barva očí, tetování, etnický nebo sociální původ, zdravotní, duševní nebo fyzické schopnosti, behaviorální nebo osobnostní znaky, jazyk, náboženské vyznání nebo příslušnost k národnostní menšině nebo sexuální či politická orientace, a to na základě jejich biometrických údajů nebo údajů vycházejících z biometrických údajů nebo toho, co lze z těchto údajů odvodit.

Pozměňovací návrh  24

 

Návrh nařízení

Bod odůvodnění 8

Znění navržené Komisí	Pozměňovací návrh
(8) Pojem „systém biometrické identifikace na dálku“ používaný v tomto nařízení by měl být definován funkčně jako systém UI určený k identifikaci fyzických osob na dálku prostřednictvím porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi a bez předchozích znalostí, zda bude cílová osoba přítomna a zda ji bude možné identifikovat, bez ohledu na konkrétní technologii, procesy nebo typy použitých biometrických údajů.  Vzhledem k jejich různým vlastnostem a způsobům, jimiž jsou používány, jakož i různým souvisejícím rizikům, je třeba rozlišovat mezi systémy biometrické identifikace na dálku, která probíhá „v reálném čase“ a „zpětně“.  V případě systémů provádějících identifikaci „v reálném čase“ probíhá jak zaznamenání biometrických údajů, tak porovnání a identifikace okamžitě, téměř okamžitě nebo v každém případě bez významného zpoždění.  V tomto ohledu by neměl existovat žádný prostor pro obcházení pravidel tohoto nařízení o používání dotčených systémů UI „v reálném čase“ stanovením menších zpoždění.  Systémy fungující „v reálném čase“ zahrnují použití materiálu „živě“ nebo jen „s malým časovým posunem“ jako jsou například videozáznamy generované kamerou nebo jiným zařízením s podobnými funkcemi.  Naproti tomu v případě systémů, ve kterých identifikace probíhá „zpětně,“ dochází k porovnání a identifikaci zachycených údajů až se značným zpožděním.  Jedná se o materiály, jako jsou například fotografie nebo videozáznamy generované kamerami s uzavřeným televizním okruhem nebo soukromými zařízeními, které byly vytvořeny před použitím tohoto systému ve vztahu k dotčeným fyzickým osobám.	(8) Pojem „systém biometrické identifikace na dálku“ používaný v tomto nařízení by měl být definován funkčně jako systém UI určený k identifikaci fyzických osob na dálku prostřednictvím porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi a bez předchozích znalostí, zda bude cílová osoba přítomna a zda ji bude možné identifikovat, bez ohledu na konkrétní technologii, procesy nebo typy použitých biometrických údajů, a to s vyloučením ověřovacích systémů, jež pouze porovnávají biometrické údaj jednotlivce s údaji, které tento jednotlivec dříve poskytl (identifikace jedna k jedné). V případě systémů provádějících identifikaci „v reálném čase“ probíhá jak zaznamenání biometrických údajů, tak porovnání a identifikace okamžitě, téměř okamžitě nebo v každém případě bez významného zpoždění. V tomto ohledu by neměl existovat žádný prostor pro obcházení pravidel tohoto nařízení o používání dotčených systémů UI „v reálném čase“ stanovením menších zpoždění. Systémy fungující „v reálném čase“ zahrnují použití materiálu „živě“ nebo jen „s malým časovým posunem“ jako jsou například videozáznamy generované kamerou nebo jiným zařízením s podobnými funkcemi. Systémy fungující „v reálném čase“ zahrnují použití materiálu „živě“ nebo jen „s malým časovým posunem“ jako jsou například videozáznamy generované kamerou nebo jiným zařízením s podobnými funkcemi Naproti tomu v případě systémů, ve kterých identifikace probíhá „zpětně,“ dochází k porovnání a identifikaci zachycených údajů až se značným zpožděním. Jedná se o materiály, jako jsou například fotografie nebo videozáznamy generované kamerami s uzavřeným televizním okruhem nebo soukromými zařízeními, které byly vytvořeny před použitím tohoto systému ve vztahu k dotčeným fyzickým osobám. Jelikož biometrická identifikace nezávisí souhlasu dotčeného jednotlivce,, použije se tato definice i v případě, že varovná upozornění jsou umístěna v místě, které je sledováno systémem biometrické identifikace na dálku, a není de facto zrušena předběžným zanesením.

Pozměňovací návrh  25

 

Návrh nařízení

Bod odůvodnění 8 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(8a) Identifikace fyzických osob na dálku je chápána tak, že se odlišují systémy biometrické identifikace na dálku od systémů ověřování totožnosti jednotlivce v těsné blízkosti používajících prostředky pro biometrickou identifikaci, jejichž jediným účelem je potvrdit, zda je povolena konkrétní fyzická osoba, která se k identifikaci dostaví, například za účelem získání přístupu ke službě, zařízení nebo prostorám.

Pozměňovací návrh  26

 

Návrh nařízení

Bod odůvodnění 9

Znění navržené Komisí	Pozměňovací návrh
(9) Pro účely tohoto nařízení by se pod pojmem „veřejně přístupné místo“ mělo rozumět jakékoli fyzické místo, které je přístupné veřejnosti, bez ohledu na to, zda je dané místo v soukromém nebo veřejném vlastnictví. Tento pojem proto nezahrnuje místa, která jsou soukromé povahy a obvykle nejsou volně přístupná třetím stranám, včetně donucovacích orgánů, pokud k tomu tyto strany nebyly výslovně vyzvány nebo oprávněny, jako jsou například domácnosti, soukromé kluby, kanceláře, sklady a továrny. Tento pojem nezahrnuje ani on-line prostory, protože se nejedná o prostory fyzické. Pouhá skutečnost, že pro přístup do konkrétního prostoru může být nezbytné splnění určitých podmínek, jako jsou například vstupenky nebo věková omezení, však neznamená, že daný prostor není veřejně přístupný ve smyslu tohoto nařízení. V důsledku toho jsou kromě veřejných prostor, jako jsou ulice, příslušné části státních budov a většina dopravní infrastruktury, zpravidla veřejně přístupné také prostory jako kina, divadla, obchody a nákupní centra. To, zda je daný prostor přístupný veřejnosti, by však mělo být určováno případ od případu s ohledem na zvláštnosti dané konkrétní situace.	(9) Pro účely tohoto nařízení by se pod pojmem „veřejně přístupné místo“ mělo rozumět jakékoli fyzické místo, které je přístupné veřejnosti, bez ohledu na to, zda je dané místo v soukromém nebo veřejném vlastnictví, a bez ohledu na případná omezení kapacity. Tento pojem proto nezahrnuje místa, která jsou soukromé povahy a obvykle nejsou volně přístupná třetím stranám, včetně donucovacích orgánů, pokud k tomu tyto strany nebyly výslovně vyzvány nebo oprávněny, jako jsou například domácnosti, soukromé kluby, kanceláře, sklady a továrny. Tento pojem nezahrnuje ani on-line prostory, protože se nejedná o prostory fyzické. Pouhá skutečnost, že pro přístup do konkrétního prostoru může být nezbytné splnění určitých podmínek, jako jsou například vstupenky nebo věková omezení, však neznamená, že daný prostor není veřejně přístupný ve smyslu tohoto nařízení. V důsledku toho jsou kromě veřejných prostor, jako jsou ulice, příslušné části státních budov a většina dopravní infrastruktury, zpravidla veřejně přístupné také prostory jako kina, divadla, sportoviště, školy, univerzity, příslušné části nemocnic a bank, zábavní parky, festivaly, obchody a nákupní centra. To, zda je daný prostor přístupný veřejnosti, by však mělo být určováno případ od případu s ohledem na zvláštnosti dané konkrétní situace.

Pozměňovací návrh  27

 

Návrh nařízení

Bod odůvodnění 9 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(9a) Je důležité poukázat na to, že by systémy UI měly vyvíjet maximální úsilí o dodržování obecných zásad, na nichž se zakládá rámec na vysoké úrovni, který v souladu s Listinou základních práv Evropské unie a s hodnotami, na nichž je Unie založena, včetně ochrany základních práv, lidské činnosti a dohledu ze strany člověka, technické propracovanosti a bezpečnosti, soukromí a správy údajů, transparentnosti, zákazu diskriminace, spravedlnosti a blaha společnosti a životního prostředí, prosazuje ucelený přístup k etické a důvěryhodné UI, který se zaměřuje na člověku.

Pozměňovací návrh  28

 

Návrh nařízení

Bod odůvodnění 9 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(9b) „Gramotnost v oblasti umělé inteligence“ odkazuje na dovednosti, znalosti a chápání, které poskytovatelům, uživatelům a dotyčným osobám umožňují, aby s přihlédnutím k jejich příslušným právům a povinnostem v souvislosti s tímto nařízením zaváděli systémy UI informovaným způsobem a aby si byli vědomi možností a rizik spojených s UI a možnými škodami, které může způsobit, a prosazovaly proto její demokratickou kontrolu. Gramotnost v oblasti umělé inteligence by se neměla omezovat na poznatky týkající se nástrojů a technologií, ale jejím cílem by mělo být také to, aby se poskytovatelům a uživatelům dostalo poznatků a dovedností, které by zajistily dodržování a prosazování tohoto nařízení. Je proto nezbytné, aby Komise, členské státy a poskytovatelé a uživatelé systémů UI podporovali ve spolupráci se všemi příslušnými zúčastněnými stranami vývoj dostatečné míry gramotnosti v oblasti umělé inteligence, a to ve všech částech společnosti, u osob všeho věku, včetně žen a dívek, a aby se důsledně sledovalo, jakého pokroku bylo v tomto směru dosaženo.

Pozměňovací návrh  29

 

Návrh nařízení

Bod odůvodnění 10

Znění navržené Komisí	Pozměňovací návrh
(10) V zájmu zajištění rovných podmínek a účinné ochrany práv a svobod jednotlivců v celé Unii by se pravidla stanovená tímto nařízením měla vztahovat na poskytovatele systémů UI nediskriminačním způsobem bez ohledu na to, zda jsou usazeni v Unii nebo ve třetí zemi, a na uživatele systémů UI usazené v Unii.	(10) V zájmu zajištění rovných podmínek a účinné ochrany práv a svobod jednotlivců v celé Unii a na mezinárodní úrovni by se pravidla stanovená tímto nařízením měla vztahovat na poskytovatele systémů UI nediskriminačním způsobem bez ohledu na to, zda jsou usazeni v Unii nebo ve třetí zemi, a na provozovatele systémů UI usazené v Unii. Aby byla Unie věrná svým základním hodnotám, měly by být systémy UI určené k použití pro postupy, které jsou podle tohoto nařízení považovány za nepřijatelné, rovněž považovány za nepřijatelné mimo Unii z důvodu jejich obzvláště škodlivého účinku na základní práva zakotvená v Listině. Je proto vhodné zakázat vývoz těchto systémů UI do třetích zemí poskytovateli usazenými v Unii.

Pozměňovací návrh  30

 

Návrh nařízení

Bod odůvodnění 11

Znění navržené Komisí	Pozměňovací návrh
(11) Do oblasti působnosti tohoto nařízení by měly spadat i určité systémy UI s ohledem na svou digitální povahu, i když nejsou uvedeny ani na trh, ani do provozu, ani nejsou používány v Unii. Jedná se například o provozovatele usazeného v Unii, který smluvně zadává určité služby provozovateli usazenému mimo Unii v souvislosti s činností, kterou má provádět systém UI, jejž by bylo možno označit jako vysoce rizikový a jehož účinky mají dopad na fyzické osoby nacházející se v Unii. Za těchto okolností by systém UI používaný provozovatelem mimo Unii mohl zpracovávat údaje zákonně shromážděné v Unii a převáděné z Unie a poskytovat zadávajícímu provozovateli v Unii výstup z tohoto systému UI vyplývající z tohoto zpracování, aniž by byl tento systém UI uveden na trh nebo do provozu v Unii nebo v ní byl používán. Aby se předešlo obcházení tohoto nařízení a aby byla zajištěna účinná ochrana fyzických osob nacházejících se v Unii, mělo by se toto nařízení vztahovat také na poskytovatele a uživatele systémů UI, kteří jsou usazeni ve třetí zemi, v rozsahu, v jakém jsou výstupy vytvořené těmito systémy používány v Unii. S ohledem na již existující ujednání a na zvláštní potřeby spolupráce se zahraničními partnery, s nimiž probíhá výměna informací a důkazů, by se však toto nařízení nemělo vztahovat na veřejné orgány třetí země a na mezinárodní organizace, pokud jednají v rámci mezinárodních dohod týkajících se prosazování práva a justiční spolupráce s Unií nebo s jejími členskými státy, uzavřených na vnitrostátní nebo evropské úrovni. Tyto dohody byly uzavřeny dvoustranně mezi členskými státy a třetími zeměmi nebo mezi Evropskou unií, Europolem a dalšími agenturami EU a třetími zeměmi a mezinárodními organizacemi.	(11) Do oblasti působnosti tohoto nařízení by měly spadat i určité systémy UI s ohledem na svou digitální povahu, i když nejsou uvedeny ani na trh, ani do provozu, ani nejsou používány v Unii. Jedná se například o provozovatele usazeného v Unii, který smluvně zadává určité služby provozovateli usazenému mimo Unii v souvislosti s činností, kterou má provádět systém UI, jejž by bylo možno označit jako vysoce rizikový a jehož účinky mají dopad na fyzické osoby nacházející se v Unii. Za těchto okolností by systém UI používaný provozovatelem mimo Unii mohl zpracovávat údaje zákonně shromážděné v Unii a převáděné z Unie a poskytovat zadávajícímu provozovateli v Unii výstup z tohoto systému UI vyplývající z tohoto zpracování, aniž by byl tento systém UI uveden na trh nebo do provozu v Unii nebo v ní byl používán. Aby se předešlo obcházení tohoto nařízení a aby byla zajištěna účinná ochrana fyzických osob nacházejících se v Unii, mělo by se toto nařízení vztahovat také na poskytovatele, uživatele a provozovatele systémů UI, kteří jsou usazeni ve třetí zemi, v rozsahu, v jakém jsou výstupy vytvořené těmito systémy zamýšleny k používání v Unii. S ohledem na již existující ujednání a na zvláštní potřeby spolupráce se zahraničními partnery, s nimiž probíhá výměna informací a důkazů, by se však toto nařízení nemělo vztahovat na veřejné orgány třetí země a na mezinárodní organizace, pokud jednají v rámci mezinárodních dohod týkajících se prosazování práva a justiční spolupráce s Unií nebo s jejími členskými státy, uzavřených na vnitrostátní nebo evropské úrovni. Tyto dohody byly uzavřeny dvoustranně mezi členskými státy a třetími zeměmi nebo mezi Evropskou unií, Europolem a dalšími agenturami EU a třetími zeměmi a mezinárodními organizacemi. Tato výjimka by však měla být omezena na důvěryhodné země a mezinárodní organizace, které sdílejí hodnoty Unie.

Pozměňovací návrh  31

 

Návrh nařízení

Bod odůvodnění 12

Znění navržené Komisí	Pozměňovací návrh
(12) Toto nařízení by se mělo vztahovat také na instituce, úřady, orgány a agentury Unie, pokud jednají jako poskytovatel nebo uživatel systému UI. Systémy UI vyvinuté nebo používané výhradně pro vojenské účely by měly být z oblasti působnosti tohoto nařízení vyloučeny, pokud toto použití spadá do výlučné působnosti společné zahraniční a bezpečnostní politiky upravené v hlavě V Smlouvy o EU (SEU). Tímto nařízením by neměla být dotčena ustanovení týkající se odpovědnosti poskytovatelů zprostředkovatelských služeb stanovená ve směrnici Evropského parlamentu a Rady 2000/31/ES [ve znění aktu o digitálních službách].	(12) Toto nařízení by se mělo vztahovat také na instituce, úřady, orgány a agentury Unie, pokud jednají jako poskytovatel nebo provozovatel systému UI. Systémy UI vyvinuté nebo používané výhradně pro vojenské účely by měly být z oblasti působnosti tohoto nařízení vyloučeny, pokud toto použití spadá do výlučné působnosti společné zahraniční a bezpečnostní politiky upravené v hlavě V Smlouvy o EU (SEU). Tímto nařízením by neměla být dotčena ustanovení týkající se odpovědnosti poskytovatelů zprostředkovatelských služeb stanovená ve směrnici Evropského parlamentu a Rady 2000/31/ES [ve znění aktu o digitálních službách].

Pozměňovací návrh  32

 

Návrh nařízení

Bod odůvodnění 12 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(12a) Software a data, která jsou svobodně sdílena a k nimž nebo k jejichž upraveným verzím mají uživatelé svobodný přístup a mohou je používat, upravovat a redistribuovat, mohou přispět k výzkumu a inovacím na trhu. Výzkum Komise rovněž ukazuje, že svobodný software  s otevřeným zdrojovým kódem může přispět k HDP Evropské unie částkou mezi 65 a 95 miliardami EUR a může nabídnout evropskému hospodářství významné možnosti růstu. Uživatelé mohou používat, kopírovat, distribuovat, studovat, měnit a zdokonalovat software a data, včetně modelů  ve formě svobodných licencí s otevřeným zdrojovým kódem. S cílem podpořit vývoj a zavádění UI, zejména malými a středními podniky, začínajícími podniky, akademickým výzkumem, ale i jednotlivci, by se toto nařízení nemělo vztahovat na tyto svobodné součásti UI s otevřeným zdrojovým kódem, s výjimkou případů, kdy jsou uváděny na trh nebo do provozu poskytovatelem jako součást vysoce rizikového systému UI nebo systému UI, na který se vztahuje hlava II nebo IV tohoto nařízení.

Pozměňovací návrh  33

 

Návrh nařízení

Bod odůvodnění 12 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(12b) Ani společný vývoj svobodných složek UI s otevřeným zdrojovým kódem, ani jejich zpřístupňování v otevřených úložištích by nemělo představovat uvádění na trh nebo do provozu. Obchodní činnost ve smyslu zpřístupnění na trhu by se však mohla, s výjimkou transakcí mezi mikropodniky, vyznačovat stanovením ceny za svobodnou součást UI s otevřeným zdrojovým kódem, ale také stanovením ceny za technické podpůrné služby, poskytnutím softwarové platformy, jejímž prostřednictvím poskytovatel zpeněžuje jiné služby, nebo použitím osobních údajů z jiných důvodů, než je výlučně zlepšení bezpečnosti, kompatibility nebo interoperability softwaru.

Pozměňovací návrh  34

 

Návrh nařízení

Bod odůvodnění 12 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(12c) Vývojáři svobodných složek UI s otevřeným zdrojovým kódem by neměli být podle tohoto nařízení povinni dodržovat požadavky zaměřené na hodnotový řetězec AI, zejména ne na poskytovatele, který tuto svobodnou součást UI s otevřeným zdrojovým kódem použil. Vývojáři svobodných složek UI s otevřeným zdrojovým kódem by však měli být vybízeni k tomu, aby zavedli široce přijaté dokumentační postupy, jako jsou modelové a datové karty, jako způsob, jak urychlit sdílení informací v celém hodnotovém řetězci UI, což umožní podporu důvěryhodných systémů UI v Unii.

Pozměňovací návrh  35

 

Návrh nařízení

Bod odůvodnění 13

Znění navržené Komisí	Pozměňovací návrh
(13) V zájmu zajištění jednotné a vysoké úrovně ochrany veřejných zájmů, pokud jde o zdraví, bezpečnost a základní práva, by měly být pro všechny vysoce rizikové systémy UI stanoveny společné normativní standardy. Tyto standardy by měly být v souladu s Listinou základních práv Evropské unie (dále jen „Listina“) a se závazky Unie v oblasti mezinárodního obchodu a měly by být nediskriminační.	(13) V zájmu zajištění jednotné a vysoké úrovně ochrany veřejných zájmů, pokud jde o zdraví, bezpečnost a základní práva, jakož i demokracie a právního státu a životního prostředí by měly být pro všechny vysoce rizikové systémy UI stanoveny společné normativní standardy. Tyto standardy by měly být v souladu s Listinou, Zelenou dohodou pro Evropu, společným prohlášením Unie o digitálních právech a etickými pokyny pro důvěryhodnou umělou inteligenci vydanými odbornou skupinou na vysoké úrovni pro umělou inteligenci  a měly by být nediskriminační.

Pozměňovací návrh  36

 

Návrh nařízení

Bod odůvodnění 14

Znění navržené Komisí	Pozměňovací návrh
(14) Aby bylo možné zavést přiměřený a účinný soubor závazných pravidel pro systémy UI, měl by být dodržován jasně definovaný přístup založený na posouzení rizik. Tento přístup by měl přizpůsobit typ a obsah těchto pravidel intenzitě a rozsahu rizik, která mohou systémy UI vytvářet. Je proto nezbytné zakázat některé postupy v oblasti UI a stanovit požadavky na vysoce rizikové systémy UI a povinnosti příslušných provozovatelů, jakož i povinnosti transparentnosti pro určité systémy UI.	(14) Aby bylo možné zavést přiměřený a účinný soubor závazných pravidel pro systémy UI, měl by být dodržován jasně definovaný přístup založený na posouzení rizik. Tento přístup by měl přizpůsobit typ a obsah těchto pravidel intenzitě a rozsahu rizik, která mohou systémy UI vytvářet. Je proto nezbytné zakázat některé nepřijatelné postupy v oblasti UI a stanovit požadavky na vysoce rizikové systémy UI a povinnosti příslušných provozovatelů, jakož i povinnosti transparentnosti pro určité systémy UI.

Pozměňovací návrh  37

 

Návrh nařízení

Bod odůvodnění 15

Znění navržené Komisí	Pozměňovací návrh
(15) Na jedné straně přináší využívání umělé inteligence celou řadu výhod, avšak tuto technologii lze používat i nesprávně a může se stát zdrojem nových a výkonných nástrojů umožňujících manipulativní a vykořisťovatelské praktiky a praktiky v oblasti sociální kontroly. Tyto praktiky jsou mimořádně škodlivé a měly by být zakázány, protože jsou v rozporu s hodnotami Unie v oblasti úcty k lidské důstojnosti, svobody, rovnosti, demokracie a právního státu a se základními právy Unie, včetně práva na zákaz diskriminace, na ochranu údajů a soukromí a práva dítěte.	(15) Na jedné straně přináší využívání umělé inteligence celou řadu výhod, avšak tuto technologii lze používat i nesprávně a může se stát zdrojem nových a výkonných nástrojů umožňujících manipulativní a vykořisťovatelské praktiky a praktiky v oblasti sociální kontroly. Tyto praktiky jsou mimořádně škodlivé a nesprávné a měly by být zakázány, protože jsou v rozporu s hodnotami Unie v oblasti úcty k lidské důstojnosti, svobody, rovnosti, demokracie a právního státu a se základními právy Unie, včetně práva na zákaz diskriminace, na ochranu údajů a soukromí a práva dítěte.

Pozměňovací návrh  38

 

Návrh nařízení

Bod odůvodnění 16

Znění navržené Komisí	Pozměňovací návrh
(16) Mělo by být zakázáno uvádění na trh, uvádění do provozu nebo využívání určitých systémů UI určených k ovlivňování lidského chování, které by mohly způsobit fyzickou nebo psychickou újmu. Tyto systémy UI využívají součásti uplatňující podprahové techniky, které jednotlivci nejsou schopni vnímat, případně zneužívají zranitelnosti dětí a jiných osob v důsledku jejich věku nebo fyzické nebo mentální nezpůsobilosti. Činí tak s úmyslem podstatně ovlivnit chování určité osoby, a to takovým způsobem, který této nebo jiné osobě působí nebo by mohl způsobit újmu. Tento záměr nelze předpokládat, pokud je lidské chování ovlivněno v důsledku faktorů nesouvisejících se systémem UI, které jsou mimo kontrolu poskytovatele nebo uživatele. Uvedený zákaz by neměl bránit výzkumu těchto systémů UI pro legitimní účely, pokud se dotčený výzkum nezaměřuje na využívání systému UI ve vztazích člověk-stroj, které vystavuje fyzické osoby újmě, a pokud je prováděn v souladu s uznávanými etickými standardy vědeckého výzkumu.	(16) Mělo by být zakázáno uvádění na trh, uvádění do provozu nebo využívání určitých systémů UI s cílem nebo za účelem podstatného ovlivnění lidského chování, které by mohly způsobit fyzickou nebo psychickou újmu. Toto omezení by mělo být chápáno tak, že zahrnuje neurotechnologie s pomocí systémů UI, které se používají k monitorování, používání nebo ovlivňování neurálních údajů shromážděných prostřednictvím rozhraní mozku-počítače, pokud podstatně narušují chování fyzické osoby způsobem, který této osobě nebo jiné osobě způsobuje nebo může způsobit významnou újmu. Tyto systémy UI využívají součásti uplatňující podprahové techniky, které jednotlivci a zvláštní skupiny osob nejsou schopny vnímat v důsledku jejich známých nebo předvídatelných osobních charakteristik, věku, fyzické nebo mentální nezpůsobilosti a sociální či ekonomické situace. Činí tak s úmyslem podstatně narušit chování určité osoby nebo s tímto účinkem, a to takovým způsobem, který této nebo jiné osobě nebo skupinám osob způsobuje nebo může způsobit podstatnou újmu,  včetně újem, jež se mohou v průběhu času nahromadit. Tento záměr narušit chování nelze předpokládat, pokud k narušení dochází v důsledku faktorů nesouvisejících se systémem UI, které jsou mimo kontrolu poskytovatele nebo uživatele, tedy faktorů, které poskytovatel ani provozovatel systému UI nemůže důvodně předvídat a zmírnit. V každém případě nemusí mít poskytovatel nebo uživatel v úmyslu způsobit fyzickou nebo psychickou újmu, pokud tato újma vyplývá z manipulativních nebo vykořisťujících praktik založených na UI. Zákazy pro tyto praktiky UI doplňují ustanovení obsažená ve směrnici 2005/29/ES, podle nichž jsou nekalé obchodní praktiky zakázány, bez ohledu na to, zda jsou prováděny za použití systémů UI nebo jiným způsobem.  V takovéto situaci by zákonné obchodní praktiky, například v oblasti reklamy, které jsou v souladu s právem Unie, neměly být samy o sobě považovány za porušující zákaz. Uvedený zákaz by neměl bránit výzkumu těchto systémů UI pro legitimní účely, pokud se dotčený výzkum nezaměřuje na využívání systému UI ve vztazích člověk-stroj, které vystavuje fyzické osoby újmě, a pokud je prováděn v souladu s uznávanými etickými standardy vědeckého výzkumu a na základě zvláštního informovaného souhlasu jednotlivců, kteří jsou těmto praktikám vystaveni, nebo případně jejich poručníka.

Pozměňovací návrh  39

 

Návrh nařízení

Bod odůvodnění 16 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(16a) Systémy UI, které kategorizují fyzické osoby tím, že je zařazují do konkrétních kategorií, podle známých nebo odvozených citlivých nebo chráněných charakteristik, jsou obzvláště rušivé, porušují lidskou důstojnost a představují velké riziko diskriminace. Tyto charakteristiky zahrnují pohlaví a genderovou identitu, rasu, etnický původ, postavení související s migrací nebo občanstvím, politickou orientaci, sexuální orientaci, náboženství, zdravotní postižení nebo jiné důvody, na jejichž základě je diskriminace zakázána podle článku 21 Listiny základních práv Evropské unie, jakož i podle článku 9 nařízení (EU) 2016/769. Takové systémy by proto měly být zakázány.

Pozměňovací návrh  40

 

Návrh nařízení

Bod odůvodnění 17

Znění navržené Komisí	Pozměňovací návrh
(17) Systémy UI provádějící hodnocení sociálního kreditu fyzických osob pro obecné účely ze strany veřejných orgánů nebo jejich jménem mohou vést k diskriminačním výsledkům a k vyloučení určitých skupin. Mohou porušovat právo na důstojnost a zákaz diskriminace a hodnoty rovnosti a spravedlnosti. Tyto systémy UI hodnotí nebo klasifikují důvěryhodnost fyzických osob na základě jejich sociálního chování v různých kontextech nebo známých či předvídaných osobních či osobnostních vlastností. Sociální kredit získaný na základě těchto systémů UI může vést ke znevýhodňujícímu nebo nepříznivému zacházení s fyzickými osobami nebo s celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny, případně ke znevýhodňujícímu zacházení, které je nepřiměřené nebo neodůvodněné s ohledem na závažnost jejich sociálního chování. Tyto systémy UI by proto měly být zakázány.	(17) Systémy UI provádějící hodnocení sociálního kreditu fyzických osob pro obecné účely mohou vést k diskriminačním výsledkům a k vyloučení určitých skupin. Porušují právo na důstojnost a zákaz diskriminace a hodnoty rovnosti a spravedlnosti. Tyto systémy UI hodnotí nebo klasifikují důvěryhodnost fyzických osob nebo skupin na základě vícedatových bodů a časových výskytů souvisejících s jejich sociálním chováním v různých kontextech nebo známých, odvozených či předvídaných osobních či osobnostních vlastností. Sociální kredit získaný na základě těchto systémů UI může vést ke znevýhodňujícímu nebo nepříznivému zacházení s fyzickými osobami nebo s celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny, případně ke znevýhodňujícímu zacházení, které je nepřiměřené nebo neodůvodněné s ohledem na závažnost jejich sociálního chování. Tyto systémy UI by proto měly být zakázány.

Pozměňovací návrh  41

 

Návrh nařízení

Bod odůvodnění 18

Znění navržené Komisí	Pozměňovací návrh
(18) Využívání systémů UI pro biometrickou identifikaci fyzických osob na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva je považováno za zvláště rušivý zásah do práv a svobod dotčených osob, neboť může ovlivnit soukromý život velké části populace, vyvolávat pocit neustálého sledování a nepřímo odrazovat od využívání svobody shromažďování a dalších základních práv. Bezprostřednost dopadu a omezené možnosti dalších kontrol nebo oprav v souvislosti s používáním těchto systémů fungujících „v reálném čase“ s sebou navíc nesou zvýšené riziko z hlediska práv a svobod osob, kterých se týkají činnosti v oblasti prosazování práva.	(18) Využívání systémů UI pro biometrickou identifikaci fyzických osob na dálku „v reálném čase“ na veřejně přístupných místech je zvláště rušivý zásah do práv a svobod dotčených osob a může ve výsledku ovlivnit soukromý život velké části populace, vyvolávat pocit neustálého sledování, poskytnout stranám zavádějícím biometrickou identifikaci na veřejně dostupných místech nekontrolovatelnou moc a nepřímo odrazovat od využívání svobody shromažďování a dalších základních práv. Technické nepřesnosti systémů UI určených pro biometrickou identifikaci fyzických osob na dálku mohou vést ke zkresleným výsledkům a mít diskriminační účinky. To je relevantní zejména v případě věku, etnického původu, pohlaví nebo zdravotních postižení. Bezprostřednost dopadu a omezené možnosti dalších kontrol nebo oprav v souvislosti s používáním těchto systémů fungujících „v reálném čase“ s sebou navíc nesou zvýšené riziko z hlediska práv a svobod osob, kterých se týkají činnosti v oblasti prosazování práva. Používání těchto systémů na veřejně přístupných místech by proto mělo být zakázáno. Podobně by měly být zakázány i systémy UI pro analýzu záznamů z veřejně přístupných prostorů prostřednictvím systémů „zpětné“ biometrické identifikace na dálku, pokud nebylo vydáno předsoudní povolení pro použití v souvislosti s vymáháním práva, kdy jsou tyto systémy výhradně nezbytné pro cílené vyhledávání spojené s konkrétním závažným trestným činem, k němuž již došlo, a pouze na základě předsoudního povolení.

Pozměňovací návrh  42

 

Návrh nařízení

Bod odůvodnění 19

Znění navržené Komisí	Pozměňovací návrh
(19) Používání těchto systémů pro účely prosazování práva by proto mělo být zakázáno s výjimkou tří taxativně vyjmenovaných a úzce definovaných situací, kdy je toto použití nezbytně nutné k dosažení významného veřejného zájmu, jehož význam převažuje nad uvedenými riziky. Tyto situace zahrnují hledání potenciálních obětí trestných činů, včetně pohřešovaných dětí; některé případy ohrožení života nebo fyzické bezpečnosti fyzických osob nebo hrozby teroristického útoku a odhalování, lokalizaci, identifikaci nebo stíhání pachatelů nebo osob podezřelých z trestných činů uvedených v rámcovém rozhodnutí Rady 2002/584/SVV38 , pokud lze tyto trestné činy v dotčeném členském státě potrestat trestem odnětí svobody nebo ochranným opatřením spojeným s odnětím osobní svobody s horní hranicí sazby v délce nejméně tři roky a jsou-li vymezeny právem tohoto členského státu. Tato hranice pro trest odnětí svobody nebo ochranné opatření spojené s odnětím osobní svobody v souladu s vnitrostátními právními předpisy přispívá k zajištění toho, že použití systémů biometrické identifikace na dálku „v reálném čase“ bude možno potenciálně odůvodnit jen dostatečnou závažností daného trestného činu. Je navíc pravděpodobné, že některé z 32 trestných činů uvedených v rámcovém rozhodnutí Rady 2002/584/SVV budou v praxi relevantnější než jiné v tom smyslu, že nezbytnost a přiměřenost využívání biometrické identifikace na dálku „v reálném čase“ bude pravděpodobně velmi různorodá jak z hlediska praktické snahy o odhalování, lokalizaci, identifikaci nebo stíhání pachatelů jednotlivých uvedených trestných činů nebo osob podezřelých z jejich spáchání, tak s ohledem na pravděpodobné rozdíly v závažnosti, pravděpodobnosti a rozsahu způsobené újmy nebo možných negativních důsledků.	vypouští se
__________________
38 Rámcové rozhodnutí Rady 2002/584/SVV ze dne 13. června 2002 o evropském zatýkacím rozkazu a postupech předávání mezi členskými státy (Úř. věst. L 190, 18.7.2002, s. 1).

Pozměňovací návrh  43

 

Návrh nařízení

Bod odůvodnění 20

Znění navržené Komisí	Pozměňovací návrh
(20) Aby bylo zajištěno odpovědné a přiměřené používání těchto systémů, je rovněž důležité stanovit, že v každé z těchto tří taxativně vyjmenovaných a úzce definovaných situací je třeba zohlednit určité prvky, zejména pokud jde o povahu situace, která vedla k předložení žádosti, o důsledky užití těchto systémů pro práva a svobody všech dotčených osob a o záruky a podmínky zajištěné při tomto použití. Na využívání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by se navíc měla vztahovat vhodná časová a prostorová omezení, zejména s ohledem na důkazy nebo náznaky týkající se daných hrozeb, obětí nebo pachatele. Pro každý případ použití v každé ze tří výše uvedených situací by mělo být vhodné využití referenční databáze osob.	vypouští se

Pozměňovací návrh  44

 

Návrh nařízení

Bod odůvodnění 21

Znění navržené Komisí	Pozměňovací návrh
(21) Každé použití systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by mělo podléhat výslovnému a konkrétnímu povolení justičního orgánu nebo nezávislého správního orgánu členského státu. Toto povolení by mělo být v zásadě získáno před tímto použitím s výjimkou řádně odůvodněných naléhavých situací, tj. situací, kdy je potřeba použít dotyčné systémy tak naléhavá, že je účinně a objektivně nemožné získat povolení před zahájením tohoto použití. V těchto naléhavých situacích by použití mělo být omezeno na absolutně nezbytné minimum a mělo by podléhat příslušným zárukám a podmínkám, které stanoví vnitrostátní právo a specifikuje samotný donucovací orgán v kontextu každého jednotlivého případu naléhavého použití. Donucovací orgán by měl v těchto situacích rovněž usilovat o co nejvčasnější získání povolení a měl by uvést důvody, proč o něj nemohl požádat již dříve.	vypouští se

Pozměňovací návrh  45

 

Návrh nařízení

Bod odůvodnění 22

Znění navržené Komisí	Pozměňovací návrh
(22) Dále je vhodné v rámci taxativně vymezeném tímto nařízením stanovit, že toto použití na území členského státu v souladu s tímto nařízením by mělo být možné pouze tehdy a do té míry, do níž se dotčený členský stát rozhodl výslovně stanovit možnost povolit toto použití ve své podrobné vnitrostátní úpravě. V důsledku toho se členské státy mohou podle tohoto nařízení i nadále dle vlastního uvážení rozhodnout, že tuto možnost vůbec nestanoví, případně že ji stanoví pouze ve vztahu k některým cílům, které mohou povolené použití určené v tomto nařízení odůvodnit.	vypouští se

Pozměňovací návrh  46

 

Návrh nařízení

Bod odůvodnění 23

Znění navržené Komisí	Pozměňovací návrh
(23) Využívání systémů UI pro biometrickou identifikaci fyzických osob na dálku „v reálném“ čase na veřejně přístupných místech pro účely prosazování práva nutně zahrnuje i zpracování biometrických údajů. Pravidla tohoto nařízení, která toto použití až na určité výjimky zakazují a která jsou založena na článku 16 SFEU, by se měla použít jako lex specialis, pokud jde o pravidla zpracování biometrických údajů uvedená v článku 10 směrnice (EU) 2016/680, což by toto použití a zpracování biometrických údajů vyčerpávajícím způsobem regulovalo. Toto použití a zpracování by proto mělo být možné jen v případě, že bude slučitelné s rámcem stanoveným tímto nařízením, a mimo tento rámec by neměl existovat prostor pro to, aby příslušné orgány jednající za účelem prosazování práva používaly tyto systémy a zpracovávaly tyto údaje v souvislosti s nimi z důvodů uvedených v článku 10 směrnice (EU) 2016/680. V této souvislosti není cílem tohoto nařízení poskytnout právní základ zpracování osobních údajů podle článku 8 směrnice 2016/680. Na používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro jiné účely než prosazování práva, a to i příslušnými orgány, by se však neměl vztahovat zvláštní rámec týkající se tohoto použití pro účely prosazování práva, stanovený tímto nařízením. Toto použití pro jiné účely než pro účely prosazování práva by proto nemělo podléhat požadavku na povolení podle tohoto nařízení a použitelným podrobným pravidlům vnitrostátního práva, která ho případně mohou uvést v účinnost.	vypouští se

Pozměňovací návrh  47

 

Návrh nařízení

Bod odůvodnění 24

Znění navržené Komisí	Pozměňovací návrh
(24) Jakékoli zpracování biometrických údajů a dalších osobních údajů související s používáním systémů UI pro účely biometrické identifikace jinak než v souvislosti s používáním systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva podle tohoto nařízení, včetně případů, kdy tyto systémy používají příslušné orgány na veřejně přístupných místech pro jiné účely než pro účely prosazování práva, by mělo i nadále splňovat všechny případné požadavky vyplývající z čl. 9 odst. 1 nařízení (EU) 2016/679, z čl. 10 odst. 1 nařízení (EU) 2018/1725 a z článku 10 směrnice (EU) 2016/680.	(24) Jakékoli zpracování biometrických údajů a dalších osobních údajů související s používáním systémů UI pro účely biometrické identifikace jinak než v souvislosti s používáním systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech podle tohoto nařízení, by mělo i nadále splňovat všechny případné požadavky vyplývající z čl. 9 odst. 1 nařízení (EU) 2016/679, z čl. 10 odst. 1 nařízení (EU) 2018/1725 a z článku 10 směrnice (EU) 2016/680.

Pozměňovací návrh  48

 

Návrh nařízení

Bod odůvodnění 25

Znění navržené Komisí	Pozměňovací návrh
(25) V souladu s článkem 6a Protokolu č. 21 o postavení Spojeného království a Irska s ohledem na prostor svobody, bezpečnosti a práva, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, není Irsko vázáno pravidly stanovenými v čl. 5 odst. 1 písm. d) a čl. 5 odst. 2 a 3 tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU, pokud není Irsko vázáno pravidly Unie upravujícími formy justiční spolupráce v trestních věcech nebo policejní spolupráce, v jejichž rámci musí být dodržována pravidla přijatá na základě článku 16 Smlouvy o fungování EU.	(25) V souladu s článkem 6a Protokolu č. 21 o postavení Spojeného království a Irska s ohledem na prostor svobody, bezpečnosti a práva, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, není Irsko vázáno pravidly stanovenými v čl. 5 odst. 1 písm. d) tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU, pokud není Irsko vázáno pravidly Unie upravujícími formy justiční spolupráce v trestních věcech nebo policejní spolupráce, v jejichž rámci musí být dodržována pravidla přijatá na základě článku 16 Smlouvy o fungování EU.

Pozměňovací návrh  49

 

Návrh nařízení

Bod odůvodnění 26

Znění navržené Komisí	Pozměňovací návrh
(26) V souladu s články 2 a 2a Protokolu č. 22 o postavení Dánska, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, nejsou pro Dánsko závazná ani použitelná pravidla stanovená v čl. 5 odst. 1 písm. d) a v čl. 5 odst. 2 a 3 tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU.	(26) V souladu s články 2 a 2a Protokolu č. 22 o postavení Dánska, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, nejsou pro Dánsko závazná ani použitelná pravidla stanovená v čl. 5 odst. 1 písm. d) tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU.

Pozměňovací návrh  50

 

Návrh nařízení

Bod odůvodnění 26 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(26a) Systémy UI používané donucovacími orgány nebo jejich jménem k vytváření predikcí, profilů nebo posouzení rizik založených na profilování fyzických osob nebo na analýze údajů týkajících se osobnostních rysů a vlastností, včetně určení lokace osoby, nebo minulého trestného chování fyzických osob nebo skupin osob za účelem predikce výskytu nebo opakování skutečného nebo potenciálního trestného činu či trestných činů nebo jiného kriminalizovaného společenského chování nebo přestupků, včetně systémů pro predikci podvodů, s sebou nesou zvláštní riziko diskriminace určitých osob nebo skupin osob, neboť porušují lidskou důstojnost, jakož i klíčovou právní zásadu presumpce neviny. Takové systémy UI by proto měly být zakázány.

Pozměňovací návrh  51

 

Návrh nařízení

Bod odůvodnění 26 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(26b) Nerozlišující a necílené získávání biometrických údajů ze sociálních médií nebo ze záznamu CCTV za účelem vytvoření nebo rozšíření databází rozpoznávání obličeje přispívá k pocitu hromadného sledování a může vést k hrubému porušování základních práv, včetně práva na soukromí. Používání systémů UI, které mají tento zamýšlený účel, by proto mělo být zakázáno.

Pozměňovací návrh  52

 

Návrh nařízení

Bod odůvodnění 26 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(26c) Existují vážné obavy ohledně vědeckého základu systémů UI, jejichž cílem je odhalit emoce z výrazů obličeje, fyzických nebo fyziologických rysů, jako jsou výrazy obličeje, pohyby, tepová frekvence nebo hlas. Emoce nebo výrazy obličeje a jejich vnímání se v jednotlivých kulturách a situacích značně liší, a to i u téhož jednotlivce. Mezi klíčové nedostatky těchto technologií patří omezená spolehlivost (kategorie emocí nejsou spolehlivě vyjádřeny prostřednictvím společného souboru fyzických nebo fyziologických pohybů, ani s ním nejsou jednoznačně spojeny), nedostatečná určitost (fyzické nebo fyziologické projevy zcela neodpovídají kategoriím emocí) a omezená zobecnitelnost (nejsou dostatečně zohledněny účinky kontextu a kultury). Problémy se spolehlivostí, a tudíž i velká rizika zneužití, mohou vzniknout zejména při zavádění systému v reálných situacích souvisejících s vymáháním práva, správou hranic, pracovištěm a vzdělávacími institucemi. Uvádění na trh, uvádění do provozu nebo používání systémů UI určených k použití v těchto kontextech k odhalování emočního stavu by proto mělo být zakázáno.

Pozměňovací návrh  53

 

Návrh nařízení

Bod odůvodnění 26 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	(26d) Tímto nařízením by neměly být dotčeny praktiky, které jsou zakázány právními předpisy Unie, včetně právních předpisů o ochraně údajů, nediskriminaci, ochraně spotřebitele a hospodářské soutěži.

Pozměňovací návrh  54

 

Návrh nařízení

Bod odůvodnění 27

Znění navržené Komisí	Pozměňovací návrh
(27) Vysoce rizikové systémy UI by měly být uváděny na trh Unie nebo do provozu pouze tehdy, splňují-li určité závazné požadavky. Tyto požadavky by měly zajistit, aby vysoce rizikové systémy UI, které jsou dostupné v Unii nebo jejichž výstupy jsou v Unii jinak využívány, nepředstavovaly nepřijatelné riziko pro důležité veřejné zájmy Unie uznané a chráněné právem Unie. Systémy UI označené jako vysoce rizikové by měly být omezeny na systémy, které mají významný škodlivý dopad na zdraví, bezpečnost a základní práva osob v Unii, a toto omezení minimalizuje jakékoli případné omezení mezinárodního obchodu.	(27) Vysoce rizikové systémy UI by měly být uváděny na trh Unie, do provozu nebo používány pouze tehdy, splňují-li určité závazné požadavky. Tyto požadavky by měly zajistit, aby vysoce rizikové systémy UI, které jsou dostupné v Unii nebo jejichž výstupy jsou v Unii jinak využívány, nepředstavovaly nepřijatelné riziko pro důležité veřejné zájmy Unie uznané a chráněné právem Unie, včetně základních práv, demokracie, právního státu nebo životního prostředí.  V zájmu zajištění souladu s odvětvovými právními předpisy a s cílem zamezit zdvojování by požadavky na některé vysoce rizikové systémy UI zohledňovat odvětvové právní předpisy, které stanoví dostatečné požadavky na vysoce rizikové systémy UI zahrnuté do působnosti tohoto nařízení,  jako je nařízení (EU) 2017/745 o zdravotnických prostředcích a nařízení (EU) 2017/746 o diagnostických prostředcích in vitro a směrnice 2006/42/ES o strojních zařízeních. Systémy UI označené jako vysoce rizikové by měly být omezeny na systémy, které mají významný škodlivý dopad na zdraví, bezpečnost a základní práva osob v Unii, a toto omezení minimalizuje jakékoli případné omezení mezinárodního obchodu. Vzhledem k rychlému tempu technologického vývoje, jakož i k potenciálním změnám ve využívání systémů UI, by měl být nicméně seznam vysoce rizikových oblastí a případů použití v příloze III podroben stálému přezkumu prostřednictvím pravidelného posuzování.

Pozměňovací návrh  55

 

Návrh nařízení

Bod odůvodnění 28

Znění navržené Komisí	Pozměňovací návrh
(28) Systémy UI by mohly mít nepříznivé účinky na zdraví a bezpečnost osob, zejména pokud tyto systémy fungují jako součásti produktů. V souladu s cíli harmonizačních právních předpisů Unie, které mají usnadnit volný pohyb produktů na vnitřním trhu a zajistit, aby se na trh dostávaly pouze bezpečné a jinak vyhovující produkty, je důležitá náležitá prevence a zmírňování bezpečnostních rizik, která mohou případně vyplývat z produktu jako celku v důsledku jeho digitálních prvků, včetně systémů UI. Například stále autonomnější roboti, ať už v kontextu výroby, nebo osobní asistence a péče, by měli být schopni bezpečně fungovat a vykonávat své funkce ve složitých prostředích. Obdobně ve zdravotnictví, kde existuje obzvláště vysoké riziko v oblasti života a zdraví, by měly být stále sofistikovanější diagnostické systémy a systémy podporující lidská rozhodnutí spolehlivé a přesné. Míra nepříznivého dopadu systému UI na základní práva chráněná Listinou je obzvláště důležitá v případě, že je systém UI klasifikován jako vysoce rizikový. Tato práva zahrnují právo na lidskou důstojnost, respektování soukromého a rodinného života, ochranu osobních údajů, svobodu projevu a informací, svobodu shromažďování a sdružování a zákaz diskriminace, ochranu spotřebitele, práva pracovníků, práva osob s postižením, právo na účinnou právní ochranu a spravedlivý proces, právo na obhajobu a presumpci neviny a právo na řádnou správu. Kromě těchto práv je třeba zdůraznit zvláštní práva dětí zakotvená v článku 24 Listiny základních práv EU a v Úmluvě OSN o právech dítěte (ve vztahu k digitálním prostředí dále rozpracovaná v obecné připomínce č. 25 k Úmluvě o právech dítěte), které v obou případech vyžadují zohlednění zranitelnosti dětí a poskytnutí této ochrany a péče, která je nezbytná pro jejich blaho. Při posuzování závažnosti újmy, kterou může systém UI způsobit, a to i ve vztahu ke zdraví a bezpečnosti osob, by mělo být zohledněno také základní právo na vysokou úroveň ochrany životního prostředí zakotvené v Listině a provedené do politik Unie.	(28) Systémy UI by mohly mít nepříznivý dopad na zdraví a bezpečnost osob, zejména pokud tyto systémy fungují jako bezpečnostní součásti produktů. V souladu s cíli harmonizačních právních předpisů Unie, které mají usnadnit volný pohyb produktů na vnitřním trhu a zajistit, aby se na trh dostávaly pouze bezpečné a jinak vyhovující produkty, je důležitá náležitá prevence a zmírňování bezpečnostních rizik, která mohou případně vyplývat z produktu jako celku v důsledku jeho digitálních prvků, včetně systémů UI. Například stále autonomnější roboti, ať už v kontextu výroby, nebo osobní asistence a péče, by měli být schopni bezpečně fungovat a vykonávat své funkce ve složitých prostředích. Obdobně ve zdravotnictví, kde existuje obzvláště vysoké riziko v oblasti života a zdraví, by měly být stále sofistikovanější diagnostické systémy a systémy podporující lidská rozhodnutí spolehlivé a přesné.

Pozměňovací návrh  56

 

Návrh nařízení

Bod odůvodnění 28 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(28a) Míra nepříznivého dopadu systému UI na základní práva chráněná Listinou je obzvláště důležitá v případě, že je systém UI klasifikován jako vysoce rizikový. Tato práva zahrnují právo na lidskou důstojnost, respektování soukromého a rodinného života, ochranu osobních údajů, svobodu projevu a informací, svobodu shromažďování a sdružování a zákaz diskriminace, právo na vzdělání, ochranu spotřebitele, práva pracovníků, práva osob se zdravotním postižením, genderovou rovnost, práva duševního vlastnictví,  právo na účinnou právní ochranu a spravedlivý proces, právo na obhajobu a presumpci neviny a právo na řádnou správu. Kromě těchto práv je třeba zdůraznit zvláštní práva dětí zakotvená v článku 24 Listiny základních práv EU a v Úmluvě OSN o právech dítěte (ve vztahu k digitálnímu prostředí dále rozpracovaná v obecné připomínce č. 25 k Úmluvě o právech dítěte), které v obou případech vyžadují zohlednění zranitelnosti dětí a poskytnutí této ochrany a péče, která je nezbytná pro jejich blaho. Při posuzování závažnosti újmy, kterou může systém UI způsobit, a to i ve vztahu ke zdraví a bezpečnosti osob nebo k životnímu prostředí, by mělo být zohledněno také základní právo na vysokou úroveň ochrany životního prostředí zakotvené v Listině a provedené do politik Unie.

Pozměňovací návrh  57

 

Návrh nařízení

Bod odůvodnění 29

Znění navržené Komisí	Pozměňovací návrh
(29) Pokud jde o vysoce rizikové systémy UI, které jsou bezpečnostními součástmi produktů nebo systémů, případně které jsou samy produkty nebo systémy spadajícími do působnosti nařízení Evropského parlamentu a Rady (ES) č. 300/200839, nařízení Evropského parlamentu a Rady (EU) č. 167/201340, nařízení Evropského parlamentu a Rady (EU) č. 168/201341, směrnice Evropského parlamentu a Rady 2014/90/EU42, směrnice Evropského parlamentu a Rady (EU) 2016/79743, nařízení Evropského parlamentu a Rady (EU) 2018/85844, nařízení Evropského parlamentu a Rady (EU) 2018/113945 a nařízení Evropského parlamentu a Rady (EU) 2019/214446, je vhodné tyto akty pozměnit s cílem zajistit, aby Komise při přijímání jakýchkoli budoucích relevantních aktů v přenesené pravomoci nebo prováděcích aktů na základě výše uvedených aktů zohledňovala povinné požadavky na vysoce rizikové systémy UI stanovené v tomto nařízení na základě technických a regulačních specifik jednotlivých odvětví, aniž by zasahovala do stávajících mechanismů správy, posuzování shody a prosazování ani do orgánů zřízených v rámci uvedených aktů.	(29) Pokud jde o vysoce rizikové systémy UI, které jsou bezpečnostními součástmi produktů nebo systémů, případně které jsou samy produkty nebo systémy spadajícími do působnosti nařízení Evropského parlamentu a Rady (ES) č. 300/200839, nařízení Evropského parlamentu a Rady (EU) č. 167/201340, nařízení Evropského parlamentu a Rady (EU) č. 168/201341, směrnice Evropského parlamentu a Rady 2014/90/EU42, směrnice Evropského parlamentu a Rady (EU) 2016/79743, nařízení Evropského parlamentu a Rady (EU) 2018/85844, nařízení Evropského parlamentu a Rady (EU) 2018/113945 a nařízení Evropského parlamentu a Rady (EU) 2019/214446, je vhodné tyto akty pozměnit s cílem zajistit, aby Komise při přijímání jakýchkoli budoucích relevantních aktů v přenesené pravomoci nebo prováděcích aktů na základě výše uvedených aktů zohledňovala povinné požadavky na vysoce rizikové systémy UI stanovené v tomto nařízení na základě technických a regulačních specifik jednotlivých odvětví, aniž by zasahovala do stávajících mechanismů správy, posuzování shody, dozoru nad trhem a prosazování ani do orgánů zřízených v rámci uvedených aktů.
__________________	__________________
39 Nařízení Evropského parlamentu a Rady (ES) č. 300/2008 ze dne 11. března 2008 o společných pravidlech v oblasti ochrany civilního letectví před protiprávními činy a o zrušení nařízení (ES) č. 2320/2002 (Úř. věst. L 97, 9.4.2008, s. 72).	39 Nařízení Evropského parlamentu a Rady (ES) č. 300/2008 ze dne 11. března 2008 o společných pravidlech v oblasti ochrany civilního letectví před protiprávními činy a o zrušení nařízení (ES) č. 2320/2002 (Úř. věst. L 97, 9.4.2008, s. 72).
40 Nařízení Evropského parlamentu a Rady (EU) č. 167/2013 ze dne 5. února 2013 o schvalování zemědělských a lesnických vozidel a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 1).	40 Nařízení Evropského parlamentu a Rady (EU) č. 167/2013 ze dne 5. února 2013 o schvalování zemědělských a lesnických vozidel a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 1).
41 Nařízení Evropského parlamentu a Rady (EU) č. 168/2013 ze dne 15. ledna 2013 o schvalování dvoukolových nebo tříkolových vozidel a čtyřkolek a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 52).	41 Nařízení Evropského parlamentu a Rady (EU) č. 168/2013 ze dne 15. ledna 2013 o schvalování dvoukolových nebo tříkolových vozidel a čtyřkolek a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 52).
42 Směrnice Evropského parlamentu a Rady 2014/90/EU ze dne 23. července 2014 o lodní výstroji a o zrušení směrnice Rady 96/98/ES (Úř. věst. L 257, 28.8.2014, s. 146).	42 Směrnice Evropského parlamentu a Rady 2014/90/EU ze dne 23. července 2014 o lodní výstroji a o zrušení směrnice Rady 96/98/ES (Úř. věst. L 257, 28.8.2014, s. 146).
43 Směrnice Evropského parlamentu a Rady (EU) 2016/797 ze dne 11. května 2016 o interoperabilitě železničního systému v Evropské unii (Úř. věst. L 138, 26.5.2016, s. 44).	43 Směrnice Evropského parlamentu a Rady (EU) 2016/797 ze dne 11. května 2016 o interoperabilitě železničního systému v Evropské unii (Úř. věst. L 138, 26.5.2016, s. 44).
44 Nařízení Evropského parlamentu a Rady (EU) 2018/858 ze dne 30. května 2018 o schvalování motorových vozidel a jejich přípojných vozidel, jakož i systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla a o dozoru nad trhem s nimi, o změně nařízení (ES) č. 715/2007 a č. 595/2009 a o zrušení směrnice 2007/46/ES (Úř. věst. L 151, 14.6.2018, s. 1).	44 Nařízení Evropského parlamentu a Rady (EU) 2018/858 ze dne 30. května 2018 o schvalování motorových vozidel a jejich přípojných vozidel, jakož i systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla a o dozoru nad trhem s nimi, o změně nařízení (ES) č. 715/2007 a č. 595/2009 a o zrušení směrnice 2007/46/ES (Úř. věst. L 151, 14.6.2018, s. 1).
45 Nařízení Evropského parlamentu a Rady (EU) 2018/1139 ze dne 4. července 2018 o společných pravidlech v oblasti civilního letectví a o zřízení Agentury Evropské unie pro bezpečnost letectví, kterým se mění nařízení (ES) č. 2111/2005, (ES) č. 1008/2008, (EU) č. 996/2010, (EU) č. 376/2014 a směrnice Evropského parlamentu a Rady 2014/30/EU a 2014/53/EU a kterým se zrušuje nařízení Evropského parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nařízení Rady (EHS) č. 3922/91 (Úř. věst. L 212, 22.8.2018, s. 1).	45 Nařízení Evropského parlamentu a Rady (EU) 2018/1139 ze dne 4. července 2018 o společných pravidlech v oblasti civilního letectví a o zřízení Agentury Evropské unie pro bezpečnost letectví, kterým se mění nařízení (ES) č. 2111/2005, (ES) č. 1008/2008, (EU) č. 996/2010, (EU) č. 376/2014 a směrnice Evropského parlamentu a Rady 2014/30/EU a 2014/53/EU a kterým se zrušuje nařízení Evropského parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nařízení Rady (EHS) č. 3922/91 (Úř. věst. L 212, 22.8.2018, s. 1).
46 Nařízení Evropského parlamentu a Rady (EU) 2019/2144 ze dne 27. listopadu 2019 o požadavcích pro schvalování typu motorových vozidel a jejich přípojných vozidel a systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla z hlediska obecné bezpečnosti a ochrany cestujících ve vozidle a zranitelných účastníků silničního provozu, o změně nařízení Evropského parlamentu a Rady (EU) 2018/858 a o zrušení nařízení Evropského parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nařízení Komise (ES) č. 631/2009, (EU) č. 406/2010, (EU) č. 672/2010, (EU) č. 1003/2010, (EU) č. 1005/2010, (EU) č. 1008/2010, (EU) č. 1009/2010, (EU) č. 19/2011, (EU) č. 109/2011, (EU) č. 458/2011, (EU) č. 65/2012, (EU) č. 130/2012, (EU) č. 347/2012, (EU) č. 351/2012, (EU) č. 1230/2012 a (EU) 2015/166 (Úř. věst. L 325, 16.12.2019, s. 1).	46 Nařízení Evropského parlamentu a Rady (EU) 2019/2144 ze dne 27. listopadu 2019 o požadavcích pro schvalování typu motorových vozidel a jejich přípojných vozidel a systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla z hlediska obecné bezpečnosti a ochrany cestujících ve vozidle a zranitelných účastníků silničního provozu, o změně nařízení Evropského parlamentu a Rady (EU) 2018/858 a o zrušení nařízení Evropského parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nařízení Komise (ES) č. 631/2009, (EU) č. 406/2010, (EU) č. 672/2010, (EU) č. 1003/2010, (EU) č. 1005/2010, (EU) č. 1008/2010, (EU) č. 1009/2010, (EU) č. 19/2011, (EU) č. 109/2011, (EU) č. 458/2011, (EU) č. 65/2012, (EU) č. 130/2012, (EU) č. 347/2012, (EU) č. 351/2012, (EU) č. 1230/2012 a (EU) 2015/166 (Úř. věst. L 325, 16.12.2019, s. 1).

Pozměňovací návrh  58

 

Návrh nařízení

Bod odůvodnění 30

Znění navržené Komisí	Pozměňovací návrh
(30) Pokud jde o systémy UI, které jsou bezpečnostními součástmi produktů nebo jsou produkty samy o sobě, a které spadají do oblasti působnosti některých harmonizačních právních předpisů Unie, je vhodné je podle tohoto nařízení klasifikovat jako vysoce rizikové, pokud u daného produktu provádí postup posuzování shody subjekt, který vykonává činnosti posuzování shody jakožto třetí strana podle příslušných harmonizačních právních předpisů Unie. Těmito produkty jsou zejména strojní zařízení, hračky, výtahy, zařízení a ochranné systémy určené k použití v prostředí s nebezpečím výbuchu, rádiová zařízení, tlaková zařízení, zařízení pro rekreační plavidla, lanové dráhy, spotřebiče plynných paliv, zdravotnické prostředky a diagnostické zdravotnické prostředky in vitro.	(30) Pokud jde o systémy UI, které jsou bezpečnostními součástmi produktů nebo jsou produkty samy o sobě, a které spadají do oblasti působnosti některých harmonizačních právních předpisů Unie uvedených v příloze II, je vhodné je podle tohoto nařízení klasifikovat jako vysoce rizikové, pokud s cílem zajistit u daného produktu soulad se základními bezpečnostními požadavky provádí postup posuzování shody subjekt, který vykonává činnosti posuzování shody jakožto třetí strana podle příslušného harmonizačního práva Unie. Těmito produkty jsou zejména strojní zařízení, hračky, výtahy, zařízení a ochranné systémy určené k použití v prostředí s nebezpečím výbuchu, rádiová zařízení, tlaková zařízení, zařízení pro rekreační plavidla, lanové dráhy, spotřebiče plynných paliv, zdravotnické prostředky a diagnostické zdravotnické prostředky in vitro.

Pozměňovací návrh  59

 

Návrh nařízení

Bod odůvodnění 31

Znění navržené Komisí	Pozměňovací návrh
(31) Klasifikace systému UI jako vysoce rizikového podle tohoto nařízení by neměla nutně znamenat, že produkt, jehož je daný systém UI bezpečnostní součástí, případně tento samotný systém UI jako produkt, je považován za „vysoce rizikový“ podle kritérií stanovených v příslušných harmonizačních právních předpisech Unie, které se na tento produkt vztahují. To platí zejména pro nařízení Evropského parlamentu a Rady (EU) 2017/74547 a nařízení Evropského parlamentu a Rady (EU) 2017/74648, kde je pro produkty se středním a vysokým rizikem vyžadováno posuzování shody subjektem, který vykonává činnosti posuzování shody jakožto třetí strana.	(31) Klasifikace systému UI jako vysoce rizikového podle tohoto nařízení by neměla nutně znamenat, že produkt, jehož je daný systém UI bezpečnostní součástí, případně tento samotný systém UI jako produkt, je považován za „vysoce rizikový“ podle kritérií stanovených v příslušných harmonizačních právních předpisech Unie, které se na tento produkt vztahují. To platí zejména pro nařízení Evropského parlamentu a Rady (EU) 2017/74547 a nařízení Evropského parlamentu a Rady (EU) 2017/74648, kde je pro produkty se středním a vysokým rizikem vyžadováno posuzování shody subjektem, který vykonává činnosti posuzování shody jakožto třetí strana.
__________________	__________________
47 Nařízení Evropského parlamentu a Rady (EU) 2017/745 ze dne 5. dubna 2017 o zdravotnických prostředcích, změně směrnice 2001/83/ES, nařízení (ES) č. 178/2002 a nařízení (ES) č. 1223/2009 a o zrušení směrnic Rady 90/385/EHS a 93/42/EHS (Úř. věst. L 117, 5.5.2017, s. 1).	47 Nařízení Evropského parlamentu a Rady (EU) 2017/745 ze dne 5. dubna 2017 o zdravotnických prostředcích, změně směrnice 2001/83/ES, nařízení (ES) č. 178/2002 a nařízení (ES) č. 1223/2009 a o zrušení směrnic Rady 90/385/EHS a 93/42/EHS (Úř. věst. L 117, 5.5.2017, s. 1).
48 Nařízení Evropského parlamentu a Rady (EU) 2017/746 ze dne 5. dubna 2017 o diagnostických zdravotnických prostředcích in vitro a o zrušení směrnice 98/79/ES a rozhodnutí Komise 2010/227/EU (Úř. věst. L 117, 5.5.2017, s. 176).	48 Nařízení Evropského parlamentu a Rady (EU) 2017/746 ze dne 5. dubna 2017 o diagnostických zdravotnických prostředcích in vitro a o zrušení směrnice 98/79/ES a rozhodnutí Komise 2010/227/EU (Úř. věst. L 117, 5.5.2017, s. 176).

Pozměňovací návrh  60

 

Návrh nařízení

Bod odůvodnění 32

Znění navržené Komisí	Pozměňovací návrh
(32) Pokud jde o samostatné systémy UI, jimiž se rozumí vysoce rizikové systémy UI s výjimkou těch, které představují bezpečnostní součásti produktů nebo které jsou samy produkty, je vhodné je klasifikovat jako vysoce rizikové, pokud s ohledem na určený účel představují vysoké riziko újmy na zdraví a bezpečnosti nebo na základních právech osob s přihlédnutím jak k závažnosti možné újmy, tak k pravděpodobnosti, že nastane, a pokud jsou využívány v celé řadě oblastí uvedených v tomto nařízení, které jsou výslovně definovány předem. Identifikace těchto systémů je založena na stejné metodice a kritériích, jaké se předpokládají i u jakýchkoli budoucích změn seznamu vysoce rizikových systémů UI.	(32) Pokud jde o samostatné systémy UI, jimiž se rozumí vysoce rizikové systémy UI s výjimkou těch, které představují bezpečnostní součásti produktů nebo které jsou samy produkty a spadají do některé z oblastí a případů použití uvedených v příloze III, je vhodné je klasifikovat jako vysoce rizikové, pokud s ohledem na účel představují významné riziko újmy na zdraví a bezpečnosti nebo na základních právech osob  a v případě,kdy je dotčený systém UI používán jako bezpečnostní součást kritické infrastruktury, na životním prostředí. Toto významné riziko újmy by mělo být určeno tak, že se na jedné straně posoudí účinek tohoto rizika s ohledem na jeho závažnost, intenzitu, pravděpodobnost výskytu a dobu trvání při zvážení kombinace všech těchto faktorů, a na straně druhé se posoudí, zda se toto riziko může dotknout jednotlivce, více osob nebo konkrétní skupiny osob. Taková kombinace by například mohla vést k vysoké závažnosti, ale nízké pravděpodobnosti dopadu na fyzické osoby, nebo k vysoké pravděpodobnosti dopadu na skupinu lidí s nízkou závažností po dlouhou dobu, a to v závislosti na kontextu.  Identifikace těchto systémů je založena na stejné metodice a kritériích, jaké se předpokládají i u jakýchkoli budoucích změn seznamu vysoce rizikových systémů UI.

Pozměňovací návrh  61

 

Návrh nařízení

Bod odůvodnění 32 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(32a) Poskytovatelé, jejichž systémy UI spadají do jedné z oblastí a případů použití uvedených v příloze III, kteří se domnívají, že jejich systém nepředstavuje významné riziko poškození zdraví, bezpečnosti, základních práv nebo životního prostředí, by měli informovat vnitrostátní dozorové orgány tím, že předloží odůvodněné oznámení. To by mohlo mít podobu jednostránkového shrnutí příslušných informací o daném systému UI, včetně jeho zamýšleného účelu a odůvodnění, proč by nepředstavoval významné riziko poškození zdraví, bezpečnosti, základních práv nebo životního prostředí. Komise by měla stanovit kritéria, která společnostem umožní posoudit, zda by jejich systém takováto rizika představoval, a měla by vypracovat snadno použitelný a standardizovaný vzor pro oznámení. Poskytovatelé by měli oznámení předložit co nejdříve a v každém případě před uvedením systému UI na trh nebo do provozu, nejlépe ve fázi vývoje, a měli by mít možnost jej uvést na trh kdykoli po oznámení. Pokud se však orgán domnívá, že dotčený systém UI byl nesprávně klasifikován, měl by ve lhůtě tří měsíců vznést proti oznámení námitku. Námitka by měla být odůvodněna a měla by řádně vysvětlit, proč byl systém UI nesprávně klasifikován. Poskytovatel by si měl ponechat právo na odvolání tím, že předloží další argumenty. Pokud po uplynutí tří měsíců nebudou proti oznámení vzneseny žádné námitky, mohly by vnitrostátní dozorové orgány přesto zasáhnout, pokud systém UI představuje riziko na vnitrostátní úrovni, jako je tomu v případě jakéhokoli jiného systému UI na trhu. Vnitrostátní dozorové orgány by měly Úřadu pro umělou inteligenci předkládat výroční zprávy s podrobnými údaji o obdržených oznámeních a přijatých rozhodnutích.

Pozměňovací návrh  62

 

Návrh nařízení

Bod odůvodnění 33

Znění navržené Komisí	Pozměňovací návrh
(33) Technické nepřesnosti systémů UI určených pro biometrickou identifikaci fyzických osob na dálku mohou vést ke zkresleným výsledkům a mít diskriminační účinky. To je relevantní zejména v případě věku, etnického původu, pohlaví nebo zdravotních postižení. Proto by měly být systémy biometrické identifikace na dálku „v reálném čase“ i „zpětně“ klasifikovány jako vysoce rizikové. S ohledem na rizika, která oba typy systémů biometrické identifikace na dálku představují, by se na ně měly vztahovat zvláštní požadavky v oblasti schopnosti zaznamenávání dat a lidského dohledu.	vypouští se

 

Pozměňovací návrh  63

 

Návrh nařízení

Bod odůvodnění 33 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(33a) Vzhledem k tomu, že biometrické údaje představují  v souladu s nařízením 2016/679 zvláštní kategorii citlivých osobních údajů, je vhodné klasifikovat jako vysoce rizikové několik zásadních případů použití biometrických a biometrických systémů. Za vysoce rizikové systémy je tedy třeba označit systémy UI určené k biometrické identifikaci fyzických osob a systémy UI určené k použití za účelem vyvozování závěrů o osobních vlastnostech fyzických osob na základě biometrických údajů či údajů, které z biometrických údajů vycházejí, včetně systémů rozpoznávání emocí, s výjimkou systémů, které jsou zakázány podle tohoto nařízení. Neměly by být zahrnuty systémy UI určené k biometrickému ověřování, včetně autentizace,  jejichž jediným účelem je potvrdit, zda konkrétní fyzická osoba je osobou, za niž se prohlašuje, a systémy, které se používají k potvrzení totožnosti fyzické osoby za jediným účelem, kterým je získání přístupu ke službě, zařízení nebo prostorám (ověřování jedna ku jedné). Biometrické systémy a systémy založené na biometrických údajích, které jsou stanoveny v právních předpisech Unie s cílem umožnit kybernetickou bezpečnost a opatření na ochranu osobních údajů, by neměly být považovány za systémy představující významné riziko poškození zdraví, bezpečnosti a základních práv.

Pozměňovací návrh  64

 

Návrh nařízení

Bod odůvodnění 34

Znění navržené Komisí	Pozměňovací návrh
(34) Pokud jde o správu a provoz kritické infrastruktury, je vhodné klasifikovat jako vysoce rizikové takové systémy UI, které jsou určeny k použití jako bezpečnostní součásti při řízení a provozu silniční dopravy a při zásobování vodou, plynem, teplem a elektřinou, protože jejich porucha nebo chybné fungování může ohrozit život a zdraví osob ve velkém rozsahu a vést ke značnému narušení běžného provozování sociálních a hospodářských činností.	(34) Pokud jde o správu a provoz kritické infrastruktury, je vhodné klasifikovat jako vysoce rizikové takové systémy UI, které jsou určeny k použití jako bezpečnostní součásti při řízení a provozu v oblasti zásobování vodou, plynem, teplem a elektřinou a kritické digitální infrastruktury, protože jejich porucha nebo chybné fungování může  narušit bezpečnost a integritu této kritické infrastruktury nebo  může ohrozit život a zdraví osob ve velkém rozsahu a vést ke značnému narušení běžného provozování sociálních a hospodářských činností. Bezpečnostní součásti kritické infrastruktury, včetně kritické digitální infrastruktury, jsou systémy používané k přímé ochraně fyzické integrity fyzické infrastruktury nebo zdraví a bezpečnosti osob a majetku. Selhání nebo špatné fungování těchto součástí může přímo vést k ohrožení fyzické integrity kritické infrastruktury, a tím i k ohrožení zdraví a bezpečnosti osob a majetku. Součásti určené k použití výhradně pro účely kybernetické bezpečnosti by neměly být považovány za bezpečnostní součásti. Mezi příklady bezpečnostních součástí mohou patřit systémy pro monitorování tlaku vody nebo systémy řízení požárního poplachu ve střediscích cloud computingu.

Pozměňovací návrh  65

 

Návrh nařízení

Bod odůvodnění 35

Znění navržené Komisí	Pozměňovací návrh
(35) Za vysoce rizikové by měly být považovány systémy UI používané ve vzdělávání nebo v odborné přípravě, zejména při určování přístupu osob do školských institucí a institucí odborného vzdělávání, jejich přidělování do těchto institucí nebo pro hodnocení osob v testech jako součásti nebo jako předpokladu jejich vzdělávání, protože mohou určovat vzdělávací a profesní průběh života lidí a tak ovlivňovat jejich schopnost zajišťovat si živobytí. Pokud budou tyto systémy navrženy a používány nesprávně, mohou porušovat právo na vzdělávání a odbornou přípravu i právo nebýt diskriminován a fixovat historické vzorce diskriminace.	(35) Zavádění systémů UI ve vzdělávání je důležité pro modernizaci celých vzdělávacích systémů a zvýšení kvality vzdělávání, a to jak offline, tak online, a pro urychlení digitálního vzdělávání, a tím i jeho zpřístupnění širší veřejnosti. Jako vysoce rizikové by měly být klasifikovány systémy UI používané ve vzdělávání nebo v odborné přípravě, zejména při určování přístupu osob nebo věcně ovlivňující jejich přijetí do školských institucí a institucí odborného vzdělávání, jejich přidělování do těchto institucí nebo pro hodnocení osob v testech jako součásti nebo jako předpokladu jejich vzdělávání nebo pro posouzení vhodné úrovně vzdělávání jednotlivce nebo věcného vlivu úrovně vzdělávání a odborné přípravy, které tito jedinci obdrží, nebo pro určení přístupu nebo pro monitorování a detekci zakázaného chování studentů během testů, neboť takovéto systémy mohou určovat vzdělávací a profesní průběh života lidí a tak ovlivňovat jejich schopnost zajišťovat si živobytí. Pokud budou tyto systémy navrženy a používány nesprávně, mohou být mimořádně obtěžující a mohou porušovat právo na vzdělávání a odbornou přípravu i právo nebýt diskriminován a fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace.

Pozměňovací návrh  66

 

Návrh nařízení

Bod odůvodnění 36

Znění navržené Komisí	Pozměňovací návrh
(36) Jako vysoce rizikové mohou být klasifikovány systémy UI používané při zaměstnávání, řízení pracovníků a při přístupu k samostatné výdělečné činnosti, zejména při náboru a výběru osob, při rozhodování o povýšení nebo propuštění a při přidělování úkolů, monitorování nebo hodnocení osob ve smluvních pracovněprávních vztazích, protože mohou významně ovlivnit budoucí kariérní vyhlídky a živobytí těchto osob. Příslušné smluvní pracovněprávní vztahy by měly zahrnovat zaměstnance a osoby poskytující služby prostřednictvím platforem, jak je uvedeno v pracovním programu Komise na rok 2021. Tyto osoby by v zásadě neměly být považovány za uživatele ve smyslu tohoto nařízení. Tyto systémy mohou v průběhu celého procesu náboru a při hodnocení, povyšování nebo udržování osob ve smluvních pracovněprávních vztazích fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace. Systémy UI používané k monitorování výkonnosti a chování těchto osob mohou ovlivnit rovněž jejich práva na ochranu údajů a soukromí.	(36) Jako vysoce rizikové by měly být klasifikovány také systémy UI používané při zaměstnávání, řízení pracovníků a při přístupu k samostatné výdělečné činnosti, zejména při náboru a výběru osob, při rozhodování o povýšení nebo propuštění nebo které mají věcný dopad na přijímání, povýšení nebo propuštění, a při personalizovaném přidělování úkolů na základě chování jednotlivce, jeho osobních vlastností nebo biometrických údajů, systémy pro monitorování nebo hodnocení osob ve smluvních pracovněprávních vztazích, protože mohou významně ovlivnit budoucí kariérní vyhlídky, živobytí a pracovní práva těchto osob. Příslušné smluvní pracovněprávní vztahy by měly ve významné míře zahrnovat zaměstnance a osoby poskytující služby prostřednictvím platforem, jak je uvedeno v pracovním programu Komise na rok 2021. Tyto systémy mohou v průběhu celého procesu náboru a při hodnocení, povyšování nebo udržování osob ve smluvních pracovněprávních vztazích fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace. Systémy UI používané k monitorování výkonnosti a chování těchto osob mohou rovněž oslabit podstatu jejich základních práv na ochranu údajů a soukromí a mít na tato práva dopad. Toto nařízení se použije, aniž jsou dotčeny pravomoci Unie a členských států stanovit konkrétnější pravidla pro používání systémů UI v souvislosti se zaměstnáním.

Pozměňovací návrh  67

 

Návrh nařízení

Bod odůvodnění 37

Znění navržené Komisí	Pozměňovací návrh
(37) Další oblastí, ve které si používání systémů UI zaslouží zvláštní pozornost, je přístup k určitým základním soukromým a veřejným službám a výhodám nezbytným pro plné zapojení osob do společnosti nebo pro zlepšení jejich životní úrovně. Jako vysoce rizikové systémy UI by měly být klasifikovány zejména systémy UI používané k hodnocení rizika úvěrů nebo úvěruschopnosti fyzických osob, protože určují přístup těchto osob k finančním zdrojům nebo k základním službám, jako je bydlení, elektřina a telekomunikační služby. Systémy UI používané k tomuto účelu mohou vést k diskriminaci osob nebo skupin a fixovat historické vzorce diskriminace, například na základě rasového nebo etnického původu, zdravotního postižení, věku a sexuální orientace, nebo vytvářet nové formy diskriminačních dopadů. Vzhledem k velmi omezenému rozsahu tohoto dopadu a dostupným alternativám na trhu je vhodné stanovit výjimku pro systémy UI užívané pro účely posouzení úvěruschopnosti a hodnocení rizika úvěrů, pokud je uvedou do provozu malí poskytovatelé pro svou vlastní potřebu. Fyzické osoby, které žádají o dávky sociálního zabezpečení a veřejné asistenční služby u orgánů veřejné správy, případně kterým jsou tyto dávky a služby poskytovány, jsou zpravidla na těchto dávkách a službách závislé a nacházejí se ve vztahu k odpovědným orgánům ve zranitelném postavení. Využívání systémů UI k určování toho, zda by tyto orgány měly tyto výhody a služby zamítnout, omezit, zrušit nebo žádat jejich navrácení, může mít významný dopad na živobytí daných osob a může porušovat jejich základní práva, jako je právo na sociální ochranu, na zákaz diskriminace, na lidskou důstojnost nebo na účinnou právní ochranu. Tyto systémy by proto měly být klasifikovány jako vysoce rizikové. Toto nařízení by však nemělo bránit rozvoji a využívání inovativních přístupů ve veřejné správě, pro kterou by mohlo být širší využívání vyhovujících a bezpečných systémů UI prospěšné, pokud tyto systémy nepředstavují vysoké riziko pro právnické a fyzické osoby. A konečně by měly být jako vysoce rizikové klasifikovány rovněž systémy UI používané při dispečinku pohotovostních služeb nebo stanovení priorit při tomto dispečinku, protože rozhodují v situacích, které jsou velmi kritické pro život a zdraví osob a jejich majetek.	(37) Další oblastí, ve které si používání systémů UI zaslouží zvláštní pozornost, je přístup k určitým základním soukromým a veřejným službám, včetně služeb zdravotní péče, a základním službám, mimo jiné také bydlení, elektřině, vytápění/chlazení a internetu,  a výhodám nezbytným pro plné zapojení osob do společnosti nebo pro zlepšení jejich životní úrovně. Jako vysoce rizikové systémy UI by měly být klasifikovány zejména systémy UI používané k hodnocení rizika úvěrů nebo úvěruschopnosti fyzických osob, protože určují přístup těchto osob k finančním zdrojům nebo k základním službám, jako je bydlení, elektřina a telekomunikační služby. Systémy UI používané k tomuto účelu mohou vést k diskriminaci osob nebo skupin a fixovat historické vzorce diskriminace, například na základě rasového nebo etnického původu, genderu, zdravotního postižení, věku a sexuální orientace, nebo vytvářet nové formy diskriminačních dopadů. Systémy UI stanovené právem Unie pro účely odhalování podvodů při nabízení finančních služeb by však neměly být podle tohoto nařízení považovány za vysoce rizikové. Fyzické osoby, které žádají o dávky sociálního zabezpečení a veřejné asistenční služby u orgánů veřejné správy, včetně služeb zdravotní péče a základních služeb, mimo jiné pokud jde o bydlení, elektřinu, vytápění/chlazení a internet, a kterým jsou případně tyto dávky a služby poskytovány, jsou zpravidla na těchto dávkách a službách závislé a nacházejí se ve vztahu k odpovědným orgánům ve zranitelném postavení. Využívání systémů UI k určování toho, zda by tyto orgány měly tyto výhody a služby zamítnout, omezit, zrušit nebo žádat jejich navrácení, může mít významný dopad na živobytí daných osob a může porušovat jejich základní práva, jako je právo na sociální ochranu, na zákaz diskriminace, na lidskou důstojnost nebo na účinnou právní ochranu. Podobně mohou mít systémy UI určené k rozhodování nebo věcnému ovlivňování rozhodnutí o způsobilosti fyzických osob pro zdravotní a životní pojištění rovněž významný dopad na živobytí osob a mohou porušovat jejich základní práva, například omezením přístupu ke zdravotní péči nebo zachováním diskriminace na základě osobních charakteristik. Tyto systémy by proto měly být klasifikovány jako vysoce rizikové. Toto nařízení by však nemělo bránit rozvoji a využívání inovativních přístupů ve veřejné správě, pro kterou by mohlo být širší využívání vyhovujících a bezpečných systémů UI prospěšné, pokud tyto systémy nepředstavují vysoké riziko pro právnické a fyzické osoby. A konečně by měly být jako vysoce rizikové klasifikovány rovněž systémy UI používané pro hodnocení a klasifikaci tísňových volání fyzických osob nebo při dispečinku pohotovostních služeb nebo stanovení priorit při tomto dispečinku, protože rozhodují v situacích, které jsou velmi kritické pro život a zdraví osob a jejich majetek.

Pozměňovací návrh  68

 

Návrh nařízení

Bod odůvodnění 37 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(37a) Vzhledem k úloze a odpovědnosti policejních a soudních orgánů a k dopadu rozhodnutí, která přijímají za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, je třeba klasifikovat některé zvláštní případy použití aplikací UI v oblasti vymáhání práva jako vysoce rizikové, zejména  existuje-li možnost, že by měly významný dopad na život nebo základní práva jednotlivců.

Pozměňovací návrh  69

 

Návrh nařízení

Bod odůvodnění 38

Znění navržené Komisí	Pozměňovací návrh
(38) Opatření donucovacích orgánů zahrnující určitá použití systémů UI se vyznačují značným stupněm nerovnováhy sil a mohou vést ke sledování fyzické osoby, jejímu zatčení nebo zbavení svobody, jakož i k dalším nepříznivým dopadům na základní práva zaručená Listinou. Zejména v případě, že systém UI nebyl trénován na vysoce kvalitních datech, nesplňuje odpovídající požadavky na přesnost nebo spolehlivost nebo není před uvedením na trh nebo jiným uvedením do provozu řádně navržen a otestován, může dojít k vyčleňování osob diskriminačním nebo jinak nesprávným nebo nespravedlivým způsobem. Kromě toho by mohl být omezen výkon důležitých základních procesních práv, jako je právo na účinnou právní ochranu a na spravedlivý proces, jakož i právo na obhajobu a presumpce neviny, zejména pokud tyto systémy UI nejsou dostatečně transparentní, vysvětlitelné a zdokumentované. Je proto vhodné označit za vysoce rizikové celou řadu systémů UI určených k použití v kontextu prosazování práva, kde je přesnost, spolehlivost a transparentnost obzvláště důležitá, s cílem zabránit nepříznivým dopadům, zachovat důvěru veřejnosti a zajistit odpovědnost a účinné opravné prostředky. S ohledem na povahu dotčených činností a na rizika s nimi spojená by tyto vysoce rizikové systémy UI měly zahrnovat zejména systémy UI určené k využívání donucovacími orgány k individuálnímu hodnocení rizik, polygrafy a podobné nástroje, případně systémy užívané k detekci emočního stavu fyzických osob, k odhalování tzv. deep fakes, k vyhodnocování spolehlivosti důkazů v trestním řízení, k predikci výskytu nebo opakování skutečné nebo potenciální trestné činnosti na základě profilování fyzických osob nebo k posuzování osobnostních a povahových rysů nebo předchozí trestné činnosti fyzických osob nebo skupin, k profilování v průběhu odhalování, vyšetřování nebo stíhání trestných činů, jakož i k analýze trestné činnosti ve vztahu k fyzickým osobám. Systémy UI výslovně určené k použití daňovými a celními orgány při správním řízení by neměly být považovány za vysoce rizikové systémy UI používané donucovacími orgány za účelem prevence, odhalování, vyšetřování a stíhání trestných činů.	(38) Opatření donucovacích orgánů zahrnující určitá použití systémů UI se vyznačují značným stupněm nerovnováhy sil a mohou vést ke sledování fyzické osoby, jejímu zatčení nebo zbavení svobody, jakož i k dalším nepříznivým dopadům na základní práva zaručená Listinou. Zejména v případě, že systém UI nebyl trénován na vysoce kvalitních datech, nesplňuje odpovídající požadavky na výkonnost, přesnost nebo spolehlivost nebo není před uvedením na trh nebo jiným uvedením do provozu řádně navržen a otestován, může dojít k vyčleňování osob diskriminačním nebo jinak nesprávným nebo nespravedlivým způsobem. Kromě toho by mohl být omezen výkon důležitých základních procesních práv, jako je právo na účinnou právní ochranu a na spravedlivý proces, jakož i právo na obhajobu a presumpce neviny, zejména pokud tyto systémy UI nejsou dostatečně transparentní, vysvětlitelné a zdokumentované. Je proto vhodné označit za vysoce rizikové celou řadu systémů UI určených k použití v kontextu prosazování práva, kde je přesnost, spolehlivost a transparentnost obzvláště důležitá, s cílem zabránit nepříznivým dopadům, zachovat důvěru veřejnosti a zajistit odpovědnost a účinné opravné prostředky. S ohledem na povahu dotčených činností a na rizika s nimi spojená by tyto vysoce rizikové systémy UI měly zahrnovat zejména systémy UI určené k využívání donucovacími orgány nebo jejich jménem nebo orgány, institucemi a jinými subjekty Unie v rámci podpory donucovacích orgánů, jako např. polygrafy a podobné nástroje, pokud je jejich použití povoleno příslušným unijním a vnitrostátním právem, a k vyhodnocování spolehlivosti důkazů v trestním řízení, k profilování v průběhu odhalování, vyšetřování nebo stíhání trestných činů, jakož i k analýze trestné činnosti ve vztahu k fyzickým osobám. Systémy UI výslovně určené k použití daňovými a celními orgány při správním řízení by neměly být klasifikovány jako vysoce rizikové systémy UI používané donucovacími orgány za účelem prevence, odhalování, vyšetřování a stíhání trestných činů. Využívání nástrojů UI donucovacími a soudními orgány by se nemělo stát faktorem nerovnosti, sociálního rozkolu nebo vyloučení. Dopad používání nástrojů UI na práva podezřelých osob na obhajobu by neměl být opomíjen, zejména pokud jde o obtíže při získávání důležitých informací o jejich fungování a následné problémy při vznesení námitek proti jejich výsledkům u soudu, zejména ze strany vyšetřovaných osob.

Pozměňovací návrh  70

 

Návrh nařízení

Bod odůvodnění 39

Znění navržené Komisí	Pozměňovací návrh
(39) Systémy UI využívané pro účely migrace, azylu a řízení ochrany hranic ovlivňují osoby, které jsou často v obzvláště zranitelném postavení a jsou závislé na výsledku činnosti příslušných orgánů veřejné moci. Přesnost, nediskriminační povaha a transparentnost systémů UI používaných v těchto kontextech jsou proto obzvláště důležité pro zajištění dodržování základních práv dotčených osob, zejména jejich práva na volný pohyb, na zákaz diskriminace, na ochranu soukromého života a osobních údajů, na mezinárodní ochranu a na řádnou správu. Je proto vhodné označit jako vysoce rizikové ty systémy UI, které jsou určeny k použití příslušnými orgány veřejné moci pověřenými úkoly v oblasti migrace, azylu a řízení ochrany hranic, jako jsou například polygrafy a podobné nástroje, případně nástroje určené k detekci emočního stavu fyzické osoby; k posuzování určitých rizik, která představují fyzické osoby vstupující na území členského státu nebo žádající o vízum nebo azyl; k ověření pravosti příslušných dokladů fyzických osob; jako pomoc příslušným orgánům veřejné správy při posuzování žádostí o azyl, vízum a povolení k pobytu a souvisejících stížností, pokud jde o cíl, jímž je zjištění způsobilosti fyzických osob žádajících o určitý status. Systémy UI v oblasti migrace, azylu a řízení ochrany hranic, na které se vztahuje toto nařízení, by měly splňovat příslušné procesní požadavky stanovené směrnicí Evropského parlamentu a Rady 2013/32/EU49, nařízením Evropského parlamentu a Rady (ES) č. 810/200950 a dalšími příslušnými právními předpisy.	(39) Systémy UI využívané pro účely migrace, azylu a řízení ochrany hranic ovlivňují osoby, které jsou často v obzvláště zranitelném postavení a jsou závislé na výsledku činnosti příslušných orgánů veřejné moci. Přesnost, nediskriminační povaha a transparentnost systémů UI používaných v těchto kontextech jsou proto obzvláště důležité pro zajištění dodržování základních práv dotčených osob, zejména jejich práva na volný pohyb, na zákaz diskriminace, na ochranu soukromého života a osobních údajů, na mezinárodní ochranu a na řádnou správu. Je proto vhodné označit jako vysoce rizikové ty systémy UI, které jsou určeny k použití příslušnými orgány veřejné moci  nebo jejích jménem nebo orgány, institucemi a jinými subjekty Unie pověřenými úkoly v oblasti migrace, azylu a řízení ochrany hranic, jako jsou například polygrafy a podobné nástroje, je-li jejich použití povoleno podle příslušného unijního a vnitrostátního práva, případně nástroje určené k detekci emočního stavu fyzické osoby, a k posuzování určitých rizik, která představují fyzické osoby vstupující na území členského státu nebo žádající o vízum nebo azyl; k ověření pravosti příslušných dokladů fyzických osob; jako pomoc příslušným orgánům veřejné správy při posuzování a hodnocení věrohodnosti důkazů souvisejících s  žádostmi o azyl, vízum a povolení k pobytu a souvisejících stížností, pokud jde o cíl, jímž je zjištění způsobilosti fyzických osob žádajících o určitý status; kmonitorování, sledování nebo zpracování osobních údajů v souvislosti se správou hranic, a to za účelem odhalování, rozpoznávání nebo identifikace fyzických osob; k předpovídání nebo odhadování trendů souvisejících s migračními pohyby a překračováním hranic. Systémy UI v oblasti migrace, azylu a řízení ochrany hranic, na které se vztahuje toto nařízení, by měly splňovat příslušné procesní požadavky stanovené směrnicí Evropského parlamentu a Rady 2013/32/EU49, nařízením Evropského parlamentu a Rady (ES) č. 810/200950 a dalšími příslušnými právními předpisy. Členské státy nebo orgány, instituce nebo jiné subjekty Unie by za žádných okolností neměly používat systémy UI při řízení migrace, azylu a ochrany hranic jako prostředek k obcházení svých mezinárodních závazků vyplývajících z Úmluvy o právním postavení uprchlíků ze dne 28. července 1951 ve znění protokolu ze dne 31. ledna 1967, ani by tyto systémy neměly být využívány k jakémukoli porušování zásady nenavracení nebo k odepření bezpečných a účinných legálních cest na území Unie, včetně práva na mezinárodní ochranu.
__________________	__________________
49 Směrnice Evropského parlamentu a Rady 2013/32/EU ze dne 26. června 2013 o společných řízeních pro přiznávání a odnímání statusu mezinárodní ochrany (Úř. věst. L 180, 29.6.2013, s. 60).	49 Směrnice Evropského parlamentu a Rady 2013/32/EU ze dne 26. června 2013 o společných řízeních pro přiznávání a odnímání statusu mezinárodní ochrany (Úř. věst. L 180, 29.6.2013, s. 60).
50 Nařízení Evropského parlamentu a Rady (ES) č. 810/2009 ze dne 13. července 2009 o kodexu Společenství o vízech (vízový kodex) (Úř. věst. L 243, 15.9.2009, s. 1).	50 Nařízení Evropského parlamentu a Rady (ES) č. 810/2009 ze dne 13. července 2009 o kodexu Společenství o vízech (vízový kodex) (Úř. věst. L 243, 15.9.2009, s. 1).

Pozměňovací návrh  71

 

Návrh nařízení

Bod odůvodnění 40

Znění navržené Komisí	Pozměňovací návrh
(40) Určité systémy UI určené k výkonu spravedlnosti a demokratických procesů by měly být klasifikovány jako vysoce rizikové s ohledem na jejich potenciálně významný dopad na demokracii, právní stát a individuální svobody, jakož i na právo na účinnou právní ochranu a na spravedlivý proces. Jako vysoce rizikové je vhodné kvalifikovat systémy UI, jejichž cílem je poskytovat pomoc justičním orgánům při zkoumání a výkladu skutečností a práva a při uplatňování práva na konkrétní soubor skutečností, zejména z důvodu řešení rizik možného zkreslení, chyb a neprůhlednosti. Tato kvalifikace by se však neměla vztahovat na systémy UI určené pro čistě pomocné správní činnosti, které neovlivňují faktický výkon spravedlnosti v jednotlivých případech, jako je například anonymizace nebo pseudonymizace soudních rozhodnutí, dokumentů nebo údajů, komunikace mezi zaměstnanci, administrativní úkoly nebo přidělování zdrojů.	(40) Určité systémy UI určené k výkonu spravedlnosti a demokratických procesů by měly být klasifikovány jako vysoce rizikové s ohledem na jejich potenciálně významný dopad na demokracii, právní stát a individuální svobody, jakož i na právo na účinnou právní ochranu a na spravedlivý proces. Jako vysoce rizikové je vhodné klasifikovat systémy UI, které mají být používány soudním orgánem nebo správním subjektem nebo jejich jménem s cílem poskytovat pomoc justičním orgánům nebo správním subjektům při zkoumání a výkladu skutečností a práva a při uplatňování práva na konkrétní soubor skutečností nebo které jsou používány obdobným způsobem v rámci alternativního řešení sporů, zejména z důvodu řešení rizik možného zkreslení, chyb a neprůhlednosti. Využívání nástrojů umělé inteligence může podpořit rozhodovací pravomoci soudců nebo nezávislost soudnictví, ale nemělo by je nahrazovat, neboť konečné rozhodnutí musí i nadále přijímat člověk. Tato kvalifikace by se však neměla vztahovat na systémy UI určené pro čistě pomocné správní činnosti, které neovlivňují faktický výkon spravedlnosti v jednotlivých případech, jako je například anonymizace nebo pseudonymizace soudních rozhodnutí, dokumentů nebo údajů, komunikace mezi zaměstnanci, administrativní úkoly nebo přidělování zdrojů.

Pozměňovací návrh  72

 

Návrh nařízení

Bod odůvodnění 40 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(40a) S cílem řešit rizika nepřiměřeného vnějšího zasahování do volebního práva zakotveného v článku 39 Listiny a nepřiměřených dopadů na demokratické procesy, demokracii a právní stát by systémy UI, které jsou určeny k ovlivňování výsledku voleb nebo referenda nebo hlasování fyzických osob ve volbách nebo referendech, měly být klasifikovány jako vysoce rizikové systémy UI, s výjimkou systémů UI, jejichž výstupu nejsou fyzické osoby přímo vystaveny, jako jsou nástroje používané k organizaci, optimalizaci a strukturování politických kampaní z administrativního a logistického hlediska.

Pozměňovací návrh  73

 

Návrh nařízení

Bod odůvodnění 40 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(40b) Vzhledem k množství fyzických osob, které využívají služby poskytované platformami sociálních médií označenými jako velmi velké online platformy, mohou být tyto online platformy využívány způsobem, který výrazně ovlivňuje bezpečnost v online prostředí, formování veřejného mínění a diskurzu, volební a demokratické procesy a společenské otázky. Je proto vhodné, aby se na systémy UI, které tyto online platformy používají ve svých doporučovacích systémech, vztahovalo toto nařízení, a zajistilo se tak, aby tyto systémy UI splňovaly požadavky stanovené tímto nařízením, včetně technických požadavků na správu údajů, technickou dokumentaci a sledovatelnost, transparentnost, lidský dohled, přesnost a spolehlivost. Dodržování tohoto nařízení by mělo těmto velmi velkým online platformám umožnit, aby plnily své širší povinnosti v oblasti posuzování rizik a zmírňování rizik stanovené v článcích 34 a 35 nařízení (EU) 2022/2065. Povinnostmi stanovenými v tomto nařízení není dotčeno nařízení (EU) 2022/2065 a měly by doplňovat povinnosti požadované podle nařízení (EU) 2022/2065, pokud byla platforma sociálního média označena za velmi velkou online platformu. Vzhledem k celoevropskému dopadu platforem sociálních médií označených jako velmi velké online platformy by orgány určené podle nařízení (EU) 2022/2065 měly jednat jako donucovací orgány pro účely prosazování tohoto ustanovení.

Pozměňovací návrh  74

 

Návrh nařízení

Bod odůvodnění 41

Znění navržené Komisí	Pozměňovací návrh
(41) Skutečnost, že daný systém UI je podle tohoto nařízení klasifikován jako vysoce rizikový, by neměla být vykládána v tom smyslu, že používání tohoto systému musí být nezbytně zákonné podle jiných aktů práva Unie nebo podle vnitrostátních právních předpisů slučitelných s právem Unie, které se týkají například ochrany osobních údajů, používání polygrafů a podobných nástrojů nebo jiných systémů ke zjišťování emočního stavu fyzických osob. K jakémukoli takovému využívání by mělo i nadále docházet pouze v souladu s příslušnými požadavky vyplývajícími z Listiny a z příslušných aktů sekundárního práva Unie a vnitrostátního práva. Toto nařízení by nemělo být chápáno tak, že poskytuje právní základ pro zpracování osobních údajů, případně včetně zvláštních kategorií osobních údajů.	(41) Skutečnost, že daný systém UI je podle tohoto nařízení klasifikován jako  rizikový systém UI, by neměla být vykládána v tom smyslu, že používání tohoto systému musí být nezbytně zákonné nebo nezákonné podle jiných aktů práva Unie nebo podle vnitrostátních právních předpisů slučitelných s právem Unie, které se týkají například ochrany osobních údajů.

Pozměňovací návrh  75

 

Návrh nařízení

Bod odůvodnění 41 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(41a) V současnosti se na systémy UI již  vztahuje nebo s nimi souvisí řada právně závazných pravidel na evropské, celostátní nebo mezinárodní úrovni, mimo jiné primární právo EU (Smlouvy Evropské unie a její Listina základních práv), sekundární právo EU (jako je obecné nařízení o ochraně osobních údajů, směrnice o odpovědnosti za výrobky, nařízení o volném toku neosobních údajů, antidiskriminační směrnice, spotřebitelské právo a směrnice o bezpečnosti a ochraně zdraví při práci), smlouvy OSN o lidských právech a úmluvy Rady Evropy (jako je Evropská úmluva o lidských právech) a vnitrostátní právní předpisy. Kromě horizontálně uplatňovaných pravidel existují různá pravidla pro konkrétní oblasti platná pro jednotlivé aplikace UI (například nařízení o zdravotních prostředcích v odvětví zdravotnictví).

Pozměňovací návrh  76

 

Návrh nařízení

Bod odůvodnění 42

Znění navržené Komisí	Pozměňovací návrh
(42) Ke zmírnění rizik, která vyplývají uživatelům a dotčeným osobám z vysoce rizikových systémů UI uváděných na trh Unie nebo jinak uváděných do provozu na tomto trhu, by měly být uplatňovány určité povinné požadavky s přihlédnutím k určenému účelu používání tohoto systému a v souladu se systémem řízení rizik, který stanoví poskytovatel.	(42) Ke zmírnění rizik, která vyplývají provozovatelům a dotčeným osobám z vysoce rizikových systémů UI uváděných na trh Unie nebo jinak uváděných do provozu na tomto trhu, by měly být uplatňovány určité povinné požadavky s přihlédnutím k určenému účelu a důvodně předvídatelnému nesprávnému použití tohoto systému a v souladu se systémem řízení rizik, který stanoví poskytovatel. Tyto požadavky by měly být objektivní, vhodné pro daný účel, přiměřené a účinné, aniž by vytvářely nepřiměřenou regulační zátěž nebo náklady pro provozovatele.

Pozměňovací návrh  77

 

Návrh nařízení

Bod odůvodnění 43

Znění navržené Komisí	Pozměňovací návrh
(43) Na vysoce rizikové systémy UI by se měly vztahovat požadavky týkající se kvality použitých souborů dat, technické dokumentace a uchovávání záznamů, transparentnosti a poskytování informací uživatelům, lidského dohledu a spolehlivosti, přesnosti a kybernetické bezpečnosti. Tyto požadavky jsou nezbytným předpokladem účinného zmírňování rizik pro zdraví, bezpečnost a základní práva v závislosti na určeném účelu tohoto systému; žádná další opatření méně omezující obchod nejsou rozumně dostupná, a tudíž nedochází k bezdůvodným omezením obchodu.	(43) Na vysoce rizikové systémy UI by se měly vztahovat požadavky týkající se kvality  a významu použitých souborů dat, technické dokumentace a uchovávání záznamů, transparentnosti a poskytování informací provozovatelům, lidského dohledu a spolehlivosti, přesnosti a kybernetické bezpečnosti. Tyto požadavky jsou nezbytným předpokladem účinného zmírňování rizik pro zdraví, bezpečnost a základní práva, jakož i pro životní prostředí, demokracii a právní stát, a to v závislosti na určeném účelu tohoto systému nebo na jeho důvodně předvídatelném nesprávném použití; žádná další opatření méně omezující obchod nejsou rozumně dostupná, a tudíž nedochází k bezdůvodným omezením obchodu.

Pozměňovací návrh  78

 

Návrh nařízení

Bod odůvodnění 44

Znění navržené Komisí	Pozměňovací návrh
(44) Pro výkonnost celé řady systémů UI má zásadní význam vysoká kvalita dat, zejména pokud jsou používány techniky zahrnující trénování modelů s cílem zajistit, aby vysoce rizikový systém UI fungoval dle předpokladu a bezpečně a aby se nestal zdrojem diskriminace, kterou právo Unie zakazuje. Soubory vysoce kvalitních tréninkových dat, dat pro ověřování platnosti a testovacích dat vyžadují zavedení vhodných postupů správy a řízení dat. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly být dostatečně relevantní, reprezentativní, bez chyb a úplné s ohledem na určený účel systému. Měly by rovněž vykazovat příslušné statistické vlastnosti, včetně údajů o osobách nebo skupinách osob, pro které má být daný vysoce rizikový systém UI používán. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly s ohledem na svůj určený účel zohledňovat zejména rysy, vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální nebo funkční prostředí nebo kontext, ve kterém má být systém UI používán. V zájmu ochrany práva jiných osob na zabránění diskriminaci, která by mohla vyplynout ze zkreslení v rámci systémů UI, by poskytovatelé měli mít možnost zpracovávat také zvláštní kategorie osobních údajů jako záležitost významného veřejného zájmu s cílem zajistit sledování, detekci a opravu tohoto zkreslení ve vztahu k vysoce rizikovým systémům UI.	(44) Přístup k vysoce kvalitním datům má zásadní úlohu při poskytování struktury a zajištění výkonnosti celé řady systémů UI, zejména pokud jsou používány techniky zahrnující trénování modelů s cílem zajistit, aby vysoce rizikový systém UI fungoval dle předpokladu a bezpečně a aby se nestal zdrojem diskriminace, kterou právo Unie zakazuje. Soubory vysoce kvalitních tréninkových dat, dat pro ověřování platnosti a testovacích dat vyžadují zavedení vhodných postupů správy a řízení dat. Soubory tréninkových dat a případně soubory dat pro ověřování platnosti a testovacích dat, včetně označování, by měly být dostatečně relevantní,  reprezentativní, náležitě prověřené z hlediska chyb a co nejúplnější s ohledem na určený účel systému. Měly by  rovněž vykazovat příslušné statistické vlastnosti, včetně údajů osobách nebo skupinách osob, v souvislosti s nimiž má být daný vysoce rizikový systém UI používán, se zvláštním důrazem na zmírnění možného zkreslení v souborech dat, jež by mohlo vést k ohrožení základních práv nebo diskriminačním výsledkům pro osoby, jichž se vysoce rizikový systém UI týká. Zkreslení mohou být inherentní součástí základních datových souborů, zejména pokud jsou používána historická data, která byla vložena vývojáři algoritmů nebo generována při zavádění systémů v reálných podmínkách. Výsledky poskytnuté systémy UI jsou ovlivněny takovýmito zkresleními, která mají tendenci postupně zvyšovat, a tudíž zachovávat a posilovat existující diskriminaci, zejména v případě osob patřících k určitým zranitelným etnickým skupinám nebo rasizovaným komunitám. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly s ohledem na svůj určený účel zohledňovat zejména rysy, vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, kontextuální, behaviorální nebo funkční prostředí nebo kontext, ve kterém má být systém UI používán. V zájmu ochrany práva jiných osob na zabránění diskriminaci, která by mohla vyplynout ze zkreslení v rámci systémů UI, by poskytovatelé ve výjimečných případech a po uplatnění všech příslušných podmínek stanovených v tomto nařízení a v nařízení (EU) 2016/679, směrnici (EU) 2016/680 a v nařízení (EU) 2018/1725 měli mít možnost zpracovávat také zvláštní kategorie osobních údajů jako záležitost významného veřejného zájmu s cílem zajistit detekci a opravu tohoto zkreslení ve vztahu k vysoce rizikovým systémům UI. Negativní zkreslení by mělo být chápáno jako zkreslení, které vytváří přímý nebo nepřímý diskriminační účinek vůči fyzické osobě. Požadavky týkající se správy dat lze splnit využitím třetích stran, které nabízejí certifikované služby souladu s předpisy, včetně ověřování správy dat, integrity datových souborů a trénování, validace a testování dat.

Pozměňovací návrh  79

 

Návrh nařízení

Bod odůvodnění 45

Znění navržené Komisí	Pozměňovací návrh
(45) Při vývoji vysoce rizikových systémů UI by měli mít některé subjekty, jako jsou poskytovatelé, oznámené subjekty a další příslušné subjekty, například centra pro digitální inovace, pokusná zkušební zařízení a výzkumní pracovníci, přístup k vysoce kvalitním datovým souborům ve svých příslušných oborech činnosti, které souvisejí s tímto nařízením. Zásadní význam pro zajištění důvěryhodného, odpovědného a nediskriminačního přístupu k vysoce kvalitním datům pro účely trénování, ověřování a testování systémů UI budou mít společné evropské datové prostory vytvořené Komisí, jakož i usnadnění sdílení údajů ve veřejném zájmu mezi podniky a s vládou. Například v oblasti zdraví umožní společný evropský prostor pro data z oblasti veřejného zdraví nediskriminační přístup k údajům o zdraví a trénování algoritmů umělé inteligence na těchto souborech dat, a to způsobem, který bude chránit soukromí, bude bezpečný, včasný, transparentní a důvěryhodný a bude u něj zajištěna vhodná institucionální správa. Poskytování vysoce kvalitních dat pro účely trénování, ověřování a testování systémů UI mohou podporovat rovněž odpovídající příslušné orgány, včetně odvětvových, které poskytují nebo podporují přístup k datům.	(45) Při vývoji a posuzování vysoce rizikových systémů UI by měli mít některé subjekty, jako jsou poskytovatelé, oznámené subjekty a další příslušné subjekty, například centra pro digitální inovace, pokusná zkušební zařízení a výzkumní pracovníci, přístup k vysoce kvalitním datovým souborům ve svých příslušných oborech činnosti, které souvisejí s tímto nařízením. Zásadní význam pro zajištění důvěryhodného, odpovědného a nediskriminačního přístupu k vysoce kvalitním datům pro účely trénování, ověřování a testování systémů UI budou mít společné evropské datové prostory vytvořené Komisí, jakož i usnadnění sdílení údajů ve veřejném zájmu mezi podniky a s vládou. Například v oblasti zdraví umožní společný evropský prostor pro data z oblasti veřejného zdraví nediskriminační přístup k údajům o zdraví a trénování algoritmů umělé inteligence na těchto souborech dat, a to způsobem, který bude chránit soukromí, bude bezpečný, včasný, transparentní a důvěryhodný a bude u něj zajištěna vhodná institucionální správa. Poskytování vysoce kvalitních dat pro účely trénování, ověřování a testování systémů UI mohou podporovat rovněž odpovídající příslušné orgány, včetně odvětvových, které poskytují nebo podporují přístup k datům.

Pozměňovací návrh  80

 

Návrh nařízení

Bod odůvodnění 45 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(45a) Právo na soukromí a na ochranu osobních údajů musí být zaručeno během celého životního cyklu systému UI. V tomto ohledu, pokud zpracování údajů představuje významná rizika pro základní práva jednotlivců, mají velký význam  zásady minimalizace údajů a záměrné a standardní ochrany údajů, jak jsou stanoveny v právních předpisech Unie o ochraně údajů. Poskytovatelé a uživatelé systémů UI by měli zavést nejmodernější technická a organizační opatření na ochranu těchto práv. Tato opatření by měla zahrnovat nejen anonymizaci a šifrování, ale také využívání stále dostupnější technologie, která umožňují vkládat do dat algoritmy a získávat cenné informace bez přenosu mezi stranami nebo bez zbytečného kopírování samotných nezpracovaných nebo strukturovaných dat.

Pozměňovací návrh  81

 

Návrh nařízení

Bod odůvodnění 46

Znění navržené Komisí	Pozměňovací návrh
(46) Pro ověření souladu s požadavky tohoto nařízení má zásadní význam, aby byly k dispozici informace, jak byly vysoce rizikové systémy UI vytvořeny a jak fungují po celou dobu své životnosti. To vyžaduje vedení záznamů a dostupnost technické dokumentace obsahující informace nezbytné k posouzení souladu daného systému UI s příslušnými požadavky. Tyto informace by měly zahrnovat obecné vlastnosti, schopnosti a omezení tohoto systému, použité algoritmy, data, postupy při trénování, testování a ověřování, jakož i dokumentaci příslušného systému řízení rizik. Technická dokumentace by měla být průběžně aktualizována.	(46) Pro ověření souladu s požadavky tohoto nařízení má zásadní význam, aby byly k dispozici srozumitelné informace, jak byly vysoce rizikové systémy UI vytvořeny a jak fungují po celou dobu své životnosti. To vyžaduje vedení záznamů a dostupnost technické dokumentace obsahující informace nezbytné k posouzení souladu daného systému UI s příslušnými požadavky. Tyto informace by měly zahrnovat obecné vlastnosti, schopnosti a omezení tohoto systému, použité algoritmy, data, postupy při trénování, testování a ověřování, jakož i dokumentaci příslušného systému řízení rizik. Technická dokumentace by měla být řádně aktualizována po celou dobu životního cyklu systému UI. Systémy UI mohou mít během svého životního cyklu významný dopad na životní prostředí a vysokou spotřebu energie. V zájmu lepšího pochopení dopadu systémů UI na životní prostředí by technická dokumentace vypracovaná poskytovateli měla obsahovat informace o spotřebě energie systému UI, včetně spotřeby během vývoje a očekávané spotřeby během používání. Tyto informace by měly zohledňovat příslušné unijní a vnitrostátní  právní předpisy. Tyto oznamované informace by měly být srozumitelné, srovnatelné a ověřitelné a za tímto účelem by Komise měla vypracovat pokyny týkající se harmonizované metodiky pro jejich výpočet a oznamování. S cílem zajistit, aby byla možná jediná dokumentace, by měly být pojmy a definice související s touto požadovanou dokumentací a veškerou dokumentací požadovanou v příslušných  právních předpisech Unie co nejvíce sladěny.

Pozměňovací návrh  82

 

Návrh nařízení

Bod odůvodnění 46 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(46a) Systémy UI by měly zohlednit nejmodernější metody a příslušné platné normy, pokud jde o snižování spotřeby energie, využívání zdrojů a odpad, jakož i zvyšování energetické účinnosti a celkové účinnosti systému. Environmentálními aspekty systémů UI, které jsou důležité z hlediska cílů tohoto nařízení, jsou spotřeba energie systému UI ve fázi vývoje, trénování a zavádění, jakož i zaznamenávání, vykazování a uchovávání těchto údajů. Návrh systémů UI by měl umožnit měření a zaznamenávání spotřeby energie a zdrojů v každé fázi vývoje, trénování a zavádění. Monitorování a vykazování emisí ze systémů UI musí být spolehlivé, transparentní, konzistentní a přesné. Aby bylo zajištěno jednotné uplatňování tohoto nařízení a stabilní právní ekosystém pro poskytovatele a provozovatele na jednotném trhu, měla by Komise vypracovat společnou specifikaci pro metodiku, aby byl splněn požadavek týkající se podávání zpráv a dokumentace v souvislosti se spotřebou energie a zdrojů během vývoje, trénování a zavádění. Tyto společné specifikace týkající se metodiky měření mohou vytvořit základ, na němž může Komise po provedení posouzení dopadů, které zohlední stávající právní předpisy, lépe rozhodnout, zda jsou zapotřebí budoucí regulační zásahy.

Pozměňovací návrh  83

 

Návrh nařízení

Bod odůvodnění 46 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(46b) Za účelem dosažení cílů tohoto nařízení a s cílem přispět k environmentálním cílům Unie při současném zajištění hladkého fungování vnitřního trhu může být nezbytné stanovit doporučení a pokyny a případně cíle v oblasti udržitelnosti. Za tímto účelem je Komise oprávněna vypracovat metodiku, která přispěje k vytvoření klíčových ukazatelů výkonnosti a referenční hodnoty pro cíle v oblasti udržitelného rozvoje. Cílem by mělo být v první řadě umožnit spravedlivé srovnání mezi možnostmi zavádění UI poskytujícími pobídky k podpoře využívání účinnějších technologií UI, které řeší problémy v oblasti energie a zdrojů. Aby bylo dosaženo tohoto cíle, mělo by toto nařízení poskytnout prostředky pro stanovení základního sběru údajů o emisích spojených s vývojem, trénováním a zaváděním.

Pozměňovací návrh  84

 

Návrh nařízení

Bod odůvodnění 47 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(47a) Tyto požadavky na transparentnost a vysvětlitelnost rozhodnutí přijímaných na základě UI by měly působit proti odrazujícímu účinku digitální asymetrie a tzv. temných vzorců, které se zaměřují na jednotlivce a získání jejich informovaného souhlasu.

Pozměňovací návrh  85

 

Návrh nařízení

Bod odůvodnění 49

Znění navržené Komisí	Pozměňovací návrh
(49) Vysoce rizikové systémy UI by měly po celou dobu svého životního cyklu fungovat konzistentně a splňovat příslušnou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti v souladu s obecně uznávaným nejnovějším vývojem.Uživatelé by měli být informováni o úrovni a měřítkách přesnosti.	(49) Vysoce rizikové systémy UI by měly po celou dobu svého životního cyklu fungovat konzistentně a splňovat příslušnou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti v souladu s obecně uznávaným nejnovějším vývojem. Metriky výkonnosti a jejich očekávaná úroveň by měly být definovány s primárním cílem, kterým je omezit rizika a negativní dopady systémů UI. O očekávané úrovni metriky výkonnosti by měli  být provozovatelé informováni jasným, transparentním a snadno srozumitelným způsobem. Prohlášení o metrice výkonnosti nelze považovat za důkaz budoucích úrovní, nýbrž je třeba použít příslušné metody k zajištění jednotných úrovní během používání. Zatímco pro stanovení norem existují normalizační organizace, je nutná koordinace referenčního srovnávání, aby bylo možné stanovit, jak by měly být tyto standardizované požadavky a vlastnosti systémů UI měřeny. Evropský úřad pro umělou inteligenci by měl sdružovat vnitrostátní a mezinárodní orgány pro metrologii a referenční srovnávání a poskytovat pokyny k řešení technických aspektů toho, jak měřit odpovídající úroveň přesnosti a spolehlivosti dat.

Pozměňovací návrh  86

 

Návrh nařízení

Bod odůvodnění 50

Znění navržené Komisí	Pozměňovací návrh
(50) U vysoce rizikových systémů UI je klíčovým požadavkem technická spolehlivost. Tyto systémy by měly být odolné vůči rizikům souvisejícím s omezeními systému (například chyby, poruchy, nekonzistentnost, neočekávané situace), jakož i vůči svévolným zásahům, které mohou ohrozit bezpečnost systému UI a vést ke škodlivému nebo jinak nežádoucímu chování. Neschopnost ochrany před těmito riziky by mohla vést k dopadům na bezpečnost nebo negativně ovlivnit základní práva, například v důsledku chybných rozhodnutí nebo nesprávných či zkreslených výstupů systému UI.	(50) U vysoce rizikových systémů UI je klíčovým požadavkem technická spolehlivost. Tyto systémy by měly být odolné vůči rizikům souvisejícím s omezeními systému (například chyby, poruchy, nekonzistentnost, neočekávané situace), jakož i vůči svévolným zásahům, které mohou ohrozit bezpečnost systému UI a vést ke škodlivému nebo jinak nežádoucímu chování. Neschopnost ochrany před těmito riziky by mohla vést k dopadům na bezpečnost nebo negativně ovlivnit základní práva, například v důsledku chybných rozhodnutí nebo nesprávných či zkreslených výstupů systému UI. Uživatelé systému UI by měli přijmout opatření k zajištění toho, aby možný kompromis mezi spolehlivostí a přesností dat nevedl k diskriminaci nebo negativním výsledkům pro menšinové podskupiny.

Pozměňovací návrh  87

 

Návrh nařízení

Bod odůvodnění 51

Znění navržené Komisí	Pozměňovací návrh
(51) Zásadní úlohu při zajišťování odolnosti systémů UI proti pokusům o změnu jejich použití, chování nebo výkonnosti nebo o ohrožení jejich bezpečnostních vlastností třetími stranami, které se škodlivým záměrem zneužívají zranitelných míst tohoto systému, hraje kybernetická bezpečnost. Kybernetické útoky na systémy UI mohou využívat aktiva specifická pro UI, jako jsou například soubory tréninkových dat (například tzv. data poisoning) nebo trénované modely (například nepřátelské útoky), nebo zneužívat slabých míst digitálních aktiv daného systému UI nebo příslušné infrastruktury IKT. Pro zajištění úrovně kybernetické bezpečnosti odpovídající těmto rizikům by proto poskytovatelé vysoce rizikových systémů UI měli přijmout vhodná opatření, případně současně zohlednit i příslušnou infrastrukturu IKT.	(51) Zásadní úlohu při zajišťování odolnosti systémů UI proti pokusům o změnu jejich použití, chování nebo výkonnosti nebo o ohrožení jejich bezpečnostních vlastností třetími stranami, které se škodlivým záměrem zneužívají zranitelných míst tohoto systému, hraje kybernetická bezpečnost. Kybernetické útoky na systémy UI mohou využívat aktiva specifická pro UI, jako jsou například soubory tréninkových dat (například tzv. data poisoning) nebo trénované modely (například nepřátelské útoky nebo útoky na důvěrnost), nebo zneužívat slabých míst digitálních aktiv daného systému UI nebo příslušné infrastruktury IKT. Pro zajištění úrovně kybernetické bezpečnosti odpovídající těmto rizikům by proto poskytovatelé vysoce rizikových systémů UI a rovněž oznámené subjekty, příslušné vnitrostátní orgány a orgány dohledu nad trhem měli přijmout vhodná opatření, případně současně zohlednit i příslušnou infrastrukturu IKT. Vysoce rizikové systémy UI by měly být doplněny bezpečnostními a opravnými řešeními po celou dobu životnosti produktu, nebo v případě, že není  systém závislý na konkrétním produktu, po dobu, kterou musí výrobce uvést.

Pozměňovací návrh  88

 

Návrh nařízení

Bod odůvodnění 53 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(53a) Unie a členské státy jsou jakožto signatáři Úmluvy Organizace spojených národů o právech osob se zdravotním postižením ze zákona povinny chránit osoby se zdravotním postižením před diskriminací a podporovat jejich rovnost, zajistit, aby osoby se zdravotním postižením měly na rovnoprávném základě s ostatními přístup k informačním a komunikačním technologiím a systémům, a zaručit respektování soukromí osob se zdravotním postižením. Vzhledem k rostoucím významu a nárůstu používání systémů UI by uplatňování zásad univerzálního designu na veškeré nové technologie a služby mělo zajistit plný, rovný a neomezený přístup každému, na koho mohou mít technologie UI vliv, nebo kdo je používá, včetně osob se zdravotním postižením, a to způsobem, který by plně zohlednil jejich neodmyslitelnou důstojnost a rozmanitost. Je proto nutné, aby poskytovatelé zajistili plný soulad s požadavky na přístupnost, včetně směrnice (EU) 2016/2102 a směrnice (EU) 2019/882. Poskytovatelé by měli zajistit soulad s těmito požadavky již od fáze návrhu. Nezbytná opatření by proto měla být v co největší míře začleněna již do návrhu vysoce rizikového systému UI.

Pozměňovací návrh  89

 

Návrh nařízení

Bod odůvodnění 54

Znění navržené Komisí	Pozměňovací návrh
(54) Poskytovatel by měl zavést spolehlivý systém řízení jakosti, zajistit provedení požadovaného postupu posuzování shody, vypracovat příslušnou dokumentaci a zavést spolehlivý systém monitorování po uvedení na trh. Orgány veřejné moci, které uvádějí do provozu vysoce rizikové systémy UI pro vlastní potřebu, mohou přijímat a provádět pravidla pro systém řízení jakosti jako součást systému řízení jakosti přijatého na vnitrostátní nebo regionální úrovni, případně s přihlédnutím ke zvláštnostem daného odvětví a k pravomocím a organizaci příslušného orgánu veřejné moci.	(54) Poskytovatel by měl zavést spolehlivý systém řízení jakosti, zajistit provedení požadovaného postupu posuzování shody, vypracovat příslušnou dokumentaci a zavést spolehlivý systém monitorování po uvedení na trh. U poskytovatelů, kteří již zavedli systémy řízení kvality založené na normách, jako je ISO 9001 nebo jiné příslušné normy, by neměl být očekáván žádný plný duplicitní systém řízení kvality, ale spíše by se jejich stávající systémy měly přizpůsobit určitým aspektům spojeným s dodržováním zvláštních požadavků tohoto nařízení. To by se mělo rovněž odrazit v budoucích normalizačních činnostech nebo pokynech přijatých v tomto ohledu Komisí. Orgány veřejné moci, které uvádějí do provozu vysoce rizikové systémy UI pro vlastní potřebu, mohou přijímat a provádět pravidla pro systém řízení jakosti jako součást systému řízení jakosti přijatého na vnitrostátní nebo regionální úrovni, případně s přihlédnutím ke zvláštnostem daného odvětví a k pravomocím a organizaci příslušného orgánu veřejné moci.

Pozměňovací návrh  90

 

Návrh nařízení

Bod odůvodnění 56

Znění navržené Komisí	Pozměňovací návrh
(56) Aby bylo umožněno prosazování tohoto nařízení a byly vytvořeny rovné podmínky pro provozovatele, a rovněž s přihlédnutím k různým formám zpřístupňování digitálních produktů, je důležité zajistit, aby osoby usazené v Unii mohly za všech okolností poskytnout orgánům veškeré nezbytné informace o souladu systému UI. Poskytovatelé usazení mimo Unii proto v případě, že dodávají do Unie systémy UI, u nichž nelze identifikovat dovozce, předem jmenují formou písemného pověření svého zplnomocněného zástupce usazeného v Unii.	(56) Aby bylo umožněno prosazování tohoto nařízení a byly vytvořeny rovné podmínky pro provozovatele, a rovněž s přihlédnutím k různým formám zpřístupňování digitálních produktů, je důležité zajistit, aby osoby usazené v Unii mohly za všech okolností poskytnout orgánům veškeré nezbytné informace o souladu systému UI. Poskytovatelé usazení mimo Unii proto v případě, že dodávají do Unie systémy UI, předem jmenují formou písemného pověření svého zplnomocněného zástupce usazeného v Unii.

Pozměňovací návrh  91

 

Návrh nařízení

Bod odůvodnění 58

Znění navržené Komisí	Pozměňovací návrh
(58) Vzhledem k povaze systémů UI a rizikům z hlediska bezpečnosti a základních práv, která mohou souviset s jejich používáním, a to i pokud jde o potřebu zajistit řádné monitorování výkonnosti daného systému UI v reálných podmínkách, je vhodné stanovit konkrétní odpovědnost uživatelů. Uživatelé by zejména měli vysoce rizikové systémy UI využívat v souladu s návodem k použití a měly by být stanoveny některé další povinnosti týkající se monitorování fungování systémů UI a případně uchovávání záznamů.	(58) Vzhledem k povaze systémů UI a rizikům z hlediska bezpečnosti a základních práv, která mohou souviset s jejich používáním, a to i pokud jde o potřebu zajistit řádné monitorování výkonnosti daného systému UI v reálných podmínkách, je vhodné stanovit konkrétní odpovědnost provozovatelů. Provozovatelé by zejména měli vysoce rizikové systémy UI využívat v souladu s návodem k použití a měly by být stanoveny některé další povinnosti týkající se monitorování fungování systémů UI a případně uchovávání záznamů.

Pozměňovací návrh  92

 

Návrh nařízení

Bod odůvodnění 58 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(58a) Zatímco rizika spojená se systémy UI mohou vyplývat ze způsobu, jakým jsou tyto systémy navrhovány, mohou rizika rovněž vzniknout v souvislosti s tím, jak jsou tyto systémy používány. Provozovatelé vysoce rizikového systému UI proto hrají zásadní úlohu při zajišťování ochrany základních práv a doplňují povinnosti poskytovatele při vývoji systému UI. Provozovatelé mají nejlepší předpoklady k tomu, aby posoudili, jak bude vysoce rizikový systém UI konkrétně používán, a mohou proto identifikovat potenciální rizika, která se ve fázi vývoje nepředpokládala, a to díky přesnější znalosti kontextu používání a osob nebo skupin osob, na které bude mít systém pravděpodobně dopad, včetně marginalizovaných a zranitelných skupin. Provozovatelé by měli určit vhodné struktury správy a řízení v tomto konkrétním kontextu použití, jako jsou opatření pro lidský dohled, postupy vyřizování stížností a postupy pro zjednávání nápravy, protože rozhodnutí v rámci správních struktur mohou mít zásadní význam pro zmírnění hrozeb pro základní práva v konkrétních případech použití. S cílem účinně zajistit ochranu základních práv by měl tedy provozovatel vysoce rizikových systémů UI před jejich uvedením do provozu provést posouzení dopadů na základní práva. Posouzení dopadů by mělo být doprovázeno podrobným plánem popisujícím opatření nebo nástroje, které pomohou zmírnit rizika pro základní práva, která by měla být určena nejpozději v době uvedení systému do provozu. Nelze-li takový plán určit, měl by se provozovatel zdržet uvedení systému do provozu. Při provádění tohoto posouzení dopadů by měli provozovatelé informovat vnitrostátní dozorový orgán a v co největší možné míře příslušné zúčastněné strany, jakož i zástupce skupin osob, které by mohly být systémem UI dotčeny, s cílem shromáždit relevantní informace, které jsou považovány za nezbytné pro provedení posouzení dopadů, a jsou vybízení k tomu, aby souhrn svého posouzení dopadů na základní práva zveřejnili na svých internetových stránkách. Tyto povinnosti by se neměly vztahovat na malé a střední podniky, pro které by vzhledem k nedostatečným zdrojům mohlo být obtížné takové konzultace provádět. Provozovatelé by však měli rovněž usilovat o zapojení těchto zástupců do provádění posouzení dopadů na základní práva. Vzhledem k potenciálnímu dopadu a potřebě demokratického dohledu a kontroly by provozovatelé vysoce rizikových systémů UI, kteří jsou veřejnými orgány nebo orgány, institucemi a jinými subjekty Unie, jakož i provozovatelé, kteří jsou podniky určenými za strážce přístupu podle nařízení (EU) 2022/1925, měli mít také povinnost registrovat používání jakéhokoli vysoce rizikového systému UI ve veřejné databázi. Ostatní provozovatelé se mohou zaregistrovat na dobrovolném základě.

Pozměňovací návrh  93

 

Návrh nařízení

Bod odůvodnění 59

Znění navržené Komisí	Pozměňovací návrh
(59) Je vhodné předjímat, že uživatelem systému UI by měla být fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, pod jehož vedením je systém UI provozován, s výjimkou případů, kdy je systém používán v rámci osobní neprofesionální činnosti.	(59) Je vhodné předjímat, že provozovatelem systému UI by měla být fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, pod jehož vedením je systém UI provozován, s výjimkou případů, kdy je systém používán v rámci osobní neprofesionální činnosti.

Pozměňovací návrh  94

 

Návrh nařízení

Bod odůvodnění 60

Znění navržené Komisí	Pozměňovací návrh
(60) S ohledem na složitost hodnotového řetězce umělé inteligence by měly příslušné třetí strany, zejména ty, které se podílejí na prodeji a dodávkách softwaru, softwarových nástrojů a součástí a předtrénovaných modelů a dat, případně strany, které jsou poskytovateli síťových služeb, podle potřeby spolupracovat s poskytovateli a uživateli s cílem umožnit jim dodržování povinností podle tohoto nařízení, jakož i s příslušnými orgány zřízenými podle tohoto nařízení.	(60) V rámci hodnotového řetězce UI mnoho subjektů často dodává nástroje a služby, ale také součásti nebo procesy, které poskytovatel následně začleňuje do systému UI, a to i v souvislosti se shromažďováním a předběžným zpracováním údajů, trénováním modelu, opětovným trénováním modelu, testováním a hodnocením modelu, integrací do softwaru nebo jinými aspekty vývoje modelu. Zúčastněné subjekty mohou svou nabídku přímo nebo nepřímo komerčně zpřístupnit prostřednictvím rozhraní, jako jsou aplikační programovací rozhraní (API), distribuovaných v rámci svobodných licencí a licencí s otevřeným zdrojovým kódem, ale také stále více prostřednictvím platforem pracovníků v oblasti UI, trénovaných parametrů pro další prodej, souprav pro svépomocné vytváření modelů nebo nabízení placeného přístupu k modelu sloužícímu jako struktura pro vývoj a trénování modelů. S ohledem na tuto složitost hodnotového řetězce UI by všechny příslušné třetí strany, zejména ty, které se podílejí na vývoji, prodeji a komerčních dodávkách softwarových nástrojů, součástí, předtrénovaných modelů nebo dat začleněných do systému UI, nebo poskytovatelé síťových služeb měli zpřístupnit požadované informace, trénování nebo odborné znalosti, aniž by tím byla ohrožena jejich vlastní práva duševního vlastnictví nebo obchodní tajemství, a případně spolupracovat s poskytovateli s cílem umožnit jim kontrolu nad všemi aspekty systému UI spadajícího do působnosti tohoto nařízení, které jsou relevantní pro dodržování předpisů. Aby bylo možné nákladově efektivní řízení hodnotového řetězce UI, musí každá třetí strana, která poskytovateli dodává nástroj, službu, součást nebo proces, které poskytovatel později začlení do systému UI, výslovně zveřejnit úroveň kontroly.

Pozměňovací návrh  95

 

Návrh nařízení

Bod odůvodnění 60 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60a) Pokud má jedna strana silnější vyjednávací pozici, existuje riziko, že by tato strana mohla využít tuto pozici na úkor druhé smluvní strany při sjednávání dodávek nástrojů, služeb, součástí nebo procesů, které jsou používány ve vysoce rizikovém systému UI nebo jsou do něj integrovány, nebo nápravných opatření v případě porušení nebo ukončení souvisejících povinností. Tato smluvní nerovnováha poškozuje zejména mikropodniky, malé a střední podniky, jakož i začínající podniky, pokud nejsou ve vlastnictví nebo subdodavatelem podniku, který je schopen subdodavatele odpovídajícím způsobem kompenzovat, neboť nejsou v pozici, kdy by mohly skutečně vyjednávat o podmínkách smluvního ujednání a nemají jinou volbu než přijmout smluvní podmínky typu „ber nebo nech být“. Nepřiměřené smluvní podmínky upravující poskytování nástrojů, služeb, součástí nebo procesů, které jsou používány ve vysoce rizikovém systému UI nebo jsou do něj začleněny, nebo prostředky nápravy v případě porušení nebo ukončení souvisejících povinností by proto v případě, že jim byly jednostranně uloženy, neměly být pro tyto mikropodniky, malé nebo střední podniky a začínající podniky závazné.

Pozměňovací návrh  96

 

Návrh nařízení

Bod odůvodnění 60 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60b) Pravidla týkající se smluvních podmínek by měla zohledňovat zásadu smluvní svobody jako pojem, který je ve vztazích mezi podniky zásadní. Zkoušce nepřiměřenosti by tudíž neměly podléhat všechny smluvní podmínky, ale pouze ty, které jsou jednostranně uloženy mikropodnikům, malým a středním podnikům a začínajícím podnikům. To se týká situací typu „ber nebo nech být“, kdy jedna strana stanoví určitou smluvní podmínku a mikropodnik, malý a střední podnik nebo začínající podnik nemůže obsah této podmínky ovlivnit navzdory snaze o jeho vyjednání. Smluvní podmínka, která byla pouze předložena jednou stranou a přijata mikropodnikem, malým a středním nebo začínajícím podnikem, nebo podmínka, která je sjednána a následně dohodnuta změněným způsobem mezi smluvními stranami, by neměla být považována za jednostranně uloženou.

Pozměňovací návrh  97

 

Návrh nařízení

Bod odůvodnění 60 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60c) Kromě toho by se pravidla týkající se nepřiměřených smluvních podmínek měla vztahovat pouze na ty prvky smlouvy, které se týkají dodávek nástrojů, služeb, součástí nebo procesů, které jsou používány ve vysoce rizikovém systému UI nebo jsou do něj začleněny, nebo prostředků nápravy v případě porušení nebo ukončení souvisejících povinností. Zkouška nepřiměřenosti stanovená v tomto nařízení by se neměla vztahovat na jiné části téže smlouvy, které s těmito prvky nesouvisejí.

Pozměňovací návrh  98

 

Návrh nařízení

Bod odůvodnění 60 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60d) Kritéria pro určení nepřiměřených smluvních podmínek by se měla uplatňovat pouze na neúměrné smluvní podmínky, kdy dochází ke zneužití silnější vyjednávací pozice. Převážná většina smluvních podmínek, které jsou z obchodního hlediska výhodnější pro jednu stranu než pro druhou, včetně těch, které jsou běžné ve smlouvách mezi podniky, jsou běžným vyjádřením zásady smluvní svobody a platí i nadále. Pokud smluvní podmínka není uvedena na seznamu podmínek, které jsou vždy považovány za nepřiměřenou, použije se obecné ustanovení o nepřiměřenosti. V tomto ohledu by seznam nepřiměřených smluvních podmínek měl sloužit jako měřítko pro výklad obecného ustanovení o nepřiměřenosti.

Pozměňovací návrh  99

 

Návrh nařízení

Bod odůvodnění 60 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60e) Základní modely jsou novinkou a v jejich případě  jsou modely umělé inteligence vyvíjeny z algoritmů navržených k optimalizaci všeobecnosti a všestrannosti výstupů. Tyto modely jsou často trénovány na široké škále zdrojů údajů a na velkém množství údajů, aby mohly plnit celou řadu navazujících úkolů, včetně některých, pro které nebyly konkrétně vyvinuty a vytrénovány. Základní model může být unimodální nebo multimodální a může být trénován různými metodami, jako je učení pod dohledem nebo posílené učení. Systémy UI se specifickým účelem nebo systémy UI s obecným účelem mohou být provedením základního modelu, což znamená, že každý základní model může být opětovně použit v nesčetných navazujících systémech UI nebo systémech UI s obecným účelem. Tyto modely mají rostoucí význam pro mnoho navazujících aplikací a systémů.

Pozměňovací návrh  100

 

Návrh nařízení

Bod odůvodnění 60 f (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60f) V případě základních modelů poskytovaných jako služba, například prostřednictvím přístupu k rozhraní API, by spolupráce s navazujícími poskytovateli měla probíhat po celou dobu, kdy je tato služba poskytována a podporována, aby bylo možné odpovídajícím způsobem zmírnit riziko, pokud poskytovatel základního modelu nepřevede trénovací model, jakož i rozsáhlé a vhodné informace o datových souborech a procesu vývoje systému, nebo neomezí službu, jako je přístup k API, takovým způsobem, aby navazující poskytovatel byl schopen plně dodržovat toto nařízení bez další podpory původního poskytovatele základního modelu.

Pozměňovací návrh  101

 

Návrh nařízení

Bod odůvodnění 60 g (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60g) Vzhledem k povaze a složitosti hodnotového řetězce systémů UI je nezbytné objasnit úlohu aktérů, kteří přispívají k vývoji systémů UI.  Panuje značná nejistota ohledně toho, jak se budou základní modely vyvíjet, a to jak z hlediska typologie modelů, tak z hlediska samosprávy. Je proto nezbytné vyjasnit právní situaci poskytovatelů základních modelů. S ohledem na jejich složitost a neočekávaný dopad, nedostatečnou kontrolu navazujícího poskytovatele UI nad vývojem základního modelu a následnou nerovnováhu sil a s cílem zajistit spravedlivé sdílení odpovědnosti v celém hodnotovém řetězci UI by tyto modely měly podléhat přiměřeným a konkrétnějším požadavkům a povinnostem podle tohoto nařízení, a sice že by základní modely měly posuzovat a zmírňovat možná rizika a škody prostřednictvím vhodného návrhu, testování a analýzy, měly by provádět opatření v oblasti správy údajů, včetně posouzení zkreslení, a měly by splňovat požadavky na technický design, aby se zajistila odpovídající úroveň výkonnosti, předvídatelnost, interpretovatelnost, kontrolovatelnost, bezpečnost a kybernetická bezpečnost, a tyto modely by měly být v souladu s environmentálními normami. Tyto povinnosti by měly být doplněny normami. Základní modely by rovněž měly mít povinnosti týkající se informací a měly by připravovat veškerou nezbytnou technickou dokumentaci pro potenciální navazující poskytovatele, aby tak byli schopni plnit své povinnosti podle tohoto nařízení. Generativní základní modely by měly zajistit transparentnost, pokud jde o skutečnost, že obsah generuje systém UI, nikoli lidé. Tyto konkrétní požadavky a povinnosti neznamenají, že základní modely jsou považovány za vysoce rizikové systémy UI, ale měly by zaručit dosažení cílů tohoto nařízení, jimiž je zajištění vysoké úrovně ochrany základních práv, zdraví a bezpečnosti, životního prostředí, demokracie a právního státu. Předtrénované modely vyvinuté pro užší, méně obecnější a omezenější soubor aplikací, které nelze přizpůsobit široké škále úkolů, jako jsou jednoduché víceúčelové systémy UI, by neměly být považovány za základní modely pro účely tohoto nařízení vzhledem k jejich větší interpretovatelnosti, která snižuje nepředvídatelnost jejich chování.

Pozměňovací návrh  102

 

Návrh nařízení

Bod odůvodnění 60 h (nový)

Znění navržené Komisí	Pozměňovací návrh
	(60h) Vzhledem k povaze základních modelů chybí odborné znalosti v oblasti posuzování shody a metody auditu prováděné třetí stranou se stále vyvíjejí. Samotné odvětví proto vyvíjí nové způsoby posuzování základních modelů, které částečně splňují cíl auditu (např. hodnocení modelů, tzv. červené týmy nebo metody ověřování a ověřování strojového učení). Tato interní posouzení základních modelů by měla být široce použitelná (např. nezávisle na distribučních kanálech, způsobu, metodách vývoje) s cílem řešit rizika specifická pro tyto modely s přihlédnutím k nejmodernějším postupům v daném odvětví a měla by se zaměřit na rozvoj dostatečného technického porozumění modelu a kontroly nad ním, řízení důvodně předvídatelných rizik a rozsáhlé analýzy a testování modelu prostřednictvím vhodných opatření, například zapojením nezávislých hodnotitelů. Vzhledem k tomu, že základní modely představují rychle rozvíjející se novinku v oblasti umělé inteligence, je vhodné, aby Komise a Úřad pro umělou inteligenci sledovaly a pravidelně posuzovaly legislativní a správní rámec těchto modelů, a zejména generativních systémů UI založených na těchto modelech, které vyvolávají významné otázky týkající se vytváření obsahu, který je v rozporu s právem Unie a  pravidly autorského práva, a možného nesprávného použití. Je třeba vyjasnit, že tímto nařízením by neměly být dotčeny právní předpisy Unie v oblasti autorského práva a práv s ním souvisejících, včetně směrnic Evropského parlamentu a Rady 2001/29/ES, 2004/48/ES a (EU) 2019/790.

Pozměňovací návrh  103

 

Návrh nařízení

Bod odůvodnění 61

Znění navržené Komisí	Pozměňovací návrh
(61) Klíčovou úlohu při poskytování technických řešení zajišťujících dodržování tohoto nařízení poskytovatelům by měla hrát normalizace. Jeden z prostředků, které poskytovatelům umožní prokázat soulad s požadavky tohoto nařízení, by mělo představovat dodržování harmonizovaných norem definovaných v nařízení Evropského parlamentu a Rady (EU) č. 1025/201254. V oblastech, kde harmonizované normy buď neexistují, nebo jsou nedostatečné, by však Komise mohla přijmout společné technické specifikace.	(61) Klíčovou úlohu při poskytování technických řešení zajišťujících dodržování tohoto nařízení poskytovatelům by měla hrát normalizace. Jeden z prostředků, které poskytovatelům umožní prokázat soulad s požadavky tohoto nařízení, by mělo představovat dodržování harmonizovaných norem definovaných v nařízení Evropského parlamentu a Rady (EU) č. 1025/2012[1]. K zajištění účinnosti norem jakožto politického nástroje Unie a vzhledem k významu norem pro zajištění souladu s požadavky tohoto nařízení a pro konkurenceschopnost podniků je nezbytné zajistit vyvážené zastoupení zájmů, a to podporou účasti všech příslušných zúčastněných stran při vypracovávání norem. Normalizační proces by měl být transparentní z hlediska právnických a fyzických osob, které se  normalizační činnosti účastní.
__________________	__________________
54 Nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci, změně směrnic Rady 89/686/EHS a 93/15/EHS a směrnic Evropského parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES, a kterým se ruší rozhodnutí Rady 87/95/EHS a rozhodnutí Evropského parlamentu a Rady č. 1673/2006/ES (Úř. věst. L 316, 14.11.2012, s. 12).	54 Nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci, změně směrnic Rady 89/686/EHS a 93/15/EHS a směrnic Evropského parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES, a kterým se ruší rozhodnutí Rady 87/95/EHS a rozhodnutí Evropského parlamentu a Rady č. 1673/2006/ES (Úř. věst. L 316, 14.11.2012, s. 12).

Pozměňovací návrh  104

 

Návrh nařízení

Bod odůvodnění 61 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(61a) V zájmu usnadnění souladu by Komise měla první žádosti o normalizaci vydat nejpozději dva měsíce po vstupu tohoto nařízení v platnost. To by mělo sloužit ke zlepšení právní jistoty, a tím podpořit investice a inovace v oblasti UI, jakož i konkurenceschopnost a růst trhu Unie, a zároveň posílit správu se zapojením mnoha zúčastněných stran zastupující všechny příslušné evropské zúčastněné strany, jako je Úřad pro umělou inteligenci, evropské normalizační organizace a subjekty nebo skupiny odborníků zřízené podle příslušných odvětvových právních předpisů Unie, jakož i průmysl, malé a střední podniky, začínající podniky, občanská společnost, výzkumní pracovníci a sociální partneři, a v konečném důsledku by to mělo usnadnit celosvětovou spolupráci v oblasti normalizace v oblasti UI způsobem, který je v souladu s hodnotami Unie. Při přípravě žádosti o normalizaci by Komise měla konzultovat Úřad pro umělou inteligenci a poradní fórum pro UI s cílem shromáždit příslušné odborné znalosti.

Pozměňovací návrh  105

 

Návrh nařízení

Bod odůvodnění 61 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(61b) V případě, kdy mají být systémy UI používány na pracovišti, měly by být harmonizované normy omezeny na technické specifikace a postupy.

Pozměňovací návrh  106

 

Návrh nařízení

Bod odůvodnění 61 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(61c) Komise by měla mít možnost přijmout za určitých podmínek společné specifikace, pokud neexistuje žádná příslušná harmonizovaná norma, nebo řešit konkrétní otázky týkající se základních práv. Během celého procesu vypracovávání návrhu by Komise měla pravidelně konzultovat Úřad pro umělou inteligenci a jeho poradní fórum, evropské normalizační organizace a subjekty nebo odborné skupiny zřízené podle příslušných odvětvových právních předpisů Unie, jakož i příslušné zúčastněné strany, jako jsou průmysl, malé a střední podniky, začínající podniky, občanská společnost, výzkumní pracovníci a sociální partneři.

Pozměňovací návrh  107

 

Návrh nařízení

Bod odůvodnění 61 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	(61d) Při přijímání společných specifikací by Komise měla usilovat o sladění právních předpisů v oblasti UI s podobně smýšlejícími globálními partnery, což je klíčové pro podporu inovací a přeshraničních partnerství v oblasti umělé inteligence, neboť koordinace s podobně smýšlejícími partnery v mezinárodních normalizačních orgánech má velký význam.

Pozměňovací návrh  108

 

Návrh nařízení

Bod odůvodnění 62

Znění navržené Komisí	Pozměňovací návrh
(62) Aby byla zajištěna vysoká úroveň důvěryhodnosti vysoce rizikových systémů UI, mělo by být u těchto systémů před jejich uvedením na trh nebo do provozu provedeno posouzení shody.	(62) Aby byla zajištěna vysoká úroveň důvěryhodnosti vysoce rizikových systémů UI, mělo by být u těchto systémů před jejich uvedením na trh nebo do provozu provedeno posouzení shody. Pro účely zvýšení důvěry v hodnotový řetězec a poskytnutí jistoty podnikům ohledně výkonnosti jejich systémů, mohou třetí strany, které dodávají součásti UI,  dobrovolně požádat o posouzení shody třetí stranou.

Pozměňovací návrh  109

 

Návrh nařízení

Bod odůvodnění 64

Znění navržené Komisí	Pozměňovací návrh
(64) Vzhledem k rozsáhlejším zkušenostem profesionálních ověřovatelů před uvedením na trh v oblasti bezpečnosti produktů a k odlišné povaze souvisejících rizik je vhodné alespoň v počáteční fázi uplatňování tohoto nařízení omezit oblast působnosti posuzování shody vysoce rizikových systémů UI třetími stranami v případech, které se netýkají produktů. Posuzování shody těchto systémů by proto měl provádět zpravidla poskytovatel na vlastní odpovědnost s jedinou výjimkou, kterou tvoří systémy UI určené pro biometrickou identifikaci osob na dálku, u nichž by mělo být předpokládáno zapojení oznámeného subjektu do posuzování shody, pokud nejsou tyto systémy zakázány.	(64) Vzhledem ke složitosti vysoce rizikových systémů UI a rizikům, která jsou s nimi spojena, je nezbytné vytvořit přiměřenější kapacitu pro uplatňování posuzování shody třetích stran u vysoce rizikových systémů UI. Nicméně vzhledem k současným zkušenostem profesionálních ověřovatelů před uvedením na trh v oblasti bezpečnosti produktů a k odlišné povaze souvisejících rizik je vhodné alespoň v počáteční fázi uplatňování tohoto nařízení omezit oblast působnosti posuzování shody vysoce rizikových systémů UI třetími stranami v případech, které se netýkají produktů. Posuzování shody těchto systémů by proto měl provádět zpravidla poskytovatel na vlastní odpovědnost s jedinou výjimkou, kterou tvoří systémy UI určené pro biometrickou identifikaci osob na dálku nebo systémy UI určené k použití za účelem vyvozování závěrů o osobních charakteristikách fyzických osob na základě biometrických údajů či údajů, které z biometrických údajů vycházejí, včetně systémů rozpoznávání emocí, u nichž by mělo být předpokládáno zapojení oznámeného subjektu do posuzování shody, pokud nejsou tyto systémy zakázány.

Pozměňovací návrh  110

 

Návrh nařízení

Bod odůvodnění 65

Znění navržené Komisí	Pozměňovací návrh
(65) Příslušné vnitrostátní orgány by v souladu s tímto nařízením měly určit oznámené subjekty pro účely posouzení shody systémů UI určených pro biometrickou identifikaci osob na dálku třetími stranami pod podmínkou, že splňují určitý soubor požadavků, zejména požadavku na nezávislost, způsobilost a neexistenci střetu zájmů.	(65) Příslušné vnitrostátní orgány by v souladu s tímto nařízením měly, pokud je to požadováno, určit oznámené subjekty pro účely posouzení shody třetími stranami pod podmínkou, že splňují určitý soubor požadavků, zejména požadavku na nezávislost, způsobilost a neexistenci střetu zájmů a minimálních požadavků na kybernetickou bezpečnost. Členské státy by měly podporovat určení dostatečného počtu subjektů pro posuzování shody, aby byla certifikace proveditelná včas. Postupy posuzování, určování, oznamování a sledování subjektů pro posuzování shody by měly být v členských státech prováděny co nejjednotněji s cílem odstranit administrativní překážky na hranicích a zajistit využití potenciálu vnitřního trhu.

Pozměňovací návrh  111

 

Návrh nařízení

Bod odůvodnění 65 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(65a) V souladu se závazky EU podle Dohody Světové obchodní organizace o technických překážkách obchodu je vhodné maximalizovat uznávání výsledků testů provedených příslušnými subjekty pro posuzování shody, bez ohledu na to, kde jsou usazeny, je-li to nezbytné k prokázání shody s příslušnými požadavky tohoto nařízení. Komise by za tímto účelem měla aktivně prozkoumat možné mezinárodní nástroje a zejména usilovat o možné uzavření dohod o vzájemném uznávání se zeměmi, které jsou na srovnatelné úrovni technického rozvoje a které mají kompatibilní přístup k UI a posuzování shody.

Pozměňovací návrh  112

 

Návrh nařízení

Bod odůvodnění 66

Znění navržené Komisí	Pozměňovací návrh
(66) V souladu s obecně zavedeným pojmem „podstatná změna“ u produktů regulovaných harmonizačními právními předpisy Unie je vhodné provést nové posouzení shody systému UI pokaždé, když dojde ke změně, která může ovlivnit soulad daného systému s tímto nařízením, nebo pokud se změní určený účel tohoto systému. U systémů UI, které se i po uvedení na trh nebo do provozu dále „učí“ (tj. automaticky přizpůsobují způsob výkonu funkcí), je navíc nezbytné stanovit pravidla určující, že změny algoritmu a jeho výkonnosti, které byly předem stanoveny poskytovatelem a posouzeny v okamžiku posuzování shody, by neměly představovat podstatnou změnu.	(66) V souladu s obecně zavedeným pojmem „podstatná změna“ u produktů regulovaných harmonizačními právními předpisy Unie je vhodné provést nové posouzení shody vysoce rizikového systému UI pokaždé, když dojde k neplánované změně, která jde nad rámec změn kontrolovaných nebo předem stanovených poskytovatelem, včetně průběžného učení, a která může vytvořit nové nepřijatelné riziko a významně ovlivnit soulad daného vysoce rizikového systému UI s tímto nařízením, nebo pokud se změní určený účel tohoto systému. U systémů UI, které se i po uvedení na trh nebo do provozu dále „učí“ (tj. automaticky přizpůsobují způsob výkonu funkcí), je navíc nezbytné stanovit pravidla určující, že změny algoritmu a jeho výkonnosti, které byly předem stanoveny poskytovatelem a posouzeny v okamžiku posuzování shody, by neměly představovat podstatnou změnu. Totéž by mělo platit pro aktualizace systému UI z bezpečnostních důvodů obecně a za účelem ochrany před vyvíjejícími se hrozbami manipulace se systémem za předpokladu, že nepředstavují podstatnou změnu.

Pozměňovací návrh  113

 

Návrh nařízení

Bod odůvodnění 67

Znění navržené Komisí	Pozměňovací návrh
(67) Vysoce rizikové systémy UI by měly být opatřeny označením CE prokazujícím jejich shodu s tímto nařízením, aby jim byl umožněn volný pohyb v rámci vnitřního trhu. Členské státy by neměly vytvářet neodůvodněné překážky uvádění na trh nebo do provozu u vysoce rizikových systémů UI, které jsou v souladu s požadavky stanovenými v tomto nařízení a jsou opatřeny označením CE.	(67) Vysoce rizikové systémy UI by měly být opatřeny označením CE prokazujícím jejich shodu s tímto nařízením, aby jim byl umožněn volný pohyb v rámci vnitřního trhu. Na fyzických vysoce rizikových systémech UI by mělo být připevněno fyzické označení CE, které může být doplněno digitálním označením CE. U pouze digitálních vysoce rizikových systémů UI by se mělo používat digitální označení CE. Členské státy by neměly vytvářet neodůvodněné překážky uvádění na trh nebo do provozu u vysoce rizikových systémů UI, které jsou v souladu s požadavky stanovenými v tomto nařízení a jsou opatřeny označením CE.

Pozměňovací návrh  114

 

Návrh nařízení

Bod odůvodnění 68

Znění navržené Komisí	Pozměňovací návrh
(68) Rychlá dostupnost inovativních technologií může mít za určitých podmínek zásadní význam pro zdraví a bezpečnost osob i pro společnost jako celek. Je proto vhodné, aby členské státy mohly z výjimečných důvodů veřejné bezpečnosti nebo ochrany života a zdraví fyzických osob a ochrany průmyslového a obchodního vlastnictví povolit uvedení na trh nebo do provozu v případě systémů UI, u nichž nebylo provedeno posouzení shody.	(68) Rychlá dostupnost inovativních technologií může mít za určitých podmínek zásadní význam pro zdraví a bezpečnost osob, životní prostředí a změnu klimatu i pro společnost jako celek. Je proto vhodné, aby členské státy mohly z výjimečných důvodů ochrany života a zdraví fyzických osob, ochrany životního prostředí a ochrany kritické infrastruktury povolit uvedení na trh nebo do provozu systémů UI, u nichž nebylo provedeno posouzení shody.

Pozměňovací návrh  115

 

Návrh nařízení

Bod odůvodnění 69

Znění navržené Komisí	Pozměňovací návrh
(69) Z důvodu usnadnění práce Komise a členských států v oblasti umělé inteligence a zvýšení transparentnosti vůči veřejnosti by poskytovatelé vysoce rizikových systémů UI s výjimkou těch, které se vztahují k produktům spadajícím do oblasti působnosti příslušných stávajících harmonizačních právních předpisů Unie, měli mít povinnost zaregistrovat svůj vysoce rizikový systém UI do databáze EU, kterou zřídí a bude spravovat Komise. Komise by měla být správcem této databáze v souladu s nařízením Evropského parlamentu a Rady (EU) 2018/172555. Aby byla zajištěna plná funkčnost této databáze při jejím zavedení, měl by postup při vytváření databáze zahrnovat vypracování funkčních specifikací ze strany Komise a nezávislou zprávu o auditu.	(69) Z důvodu usnadnění práce Komise a členských států v oblasti umělé inteligence a zvýšení transparentnosti vůči veřejnosti by poskytovatelé vysoce rizikových systémů UI s výjimkou těch, které se vztahují k produktům spadajícím do oblasti působnosti příslušných stávajících harmonizačních právních předpisů Unie, měli mít povinnost zaregistrovat svůj vysoce rizikový systém UI a základní modely do databáze EU, kterou zřídí a bude spravovat Komise. Tato databáze by měla být volně a veřejně přístupná, snadno srozumitelná a strojově čitelná. Databáze by rovněž měla být uživatelsky přívětivá a snadno splavná a měla by přinejmenším umožňovat široké veřejnosti vyhledávat v databázi konkrétní vysoce rizikové systémy, místa, kategorie rizika podle přílohy IV a klíčová slova. Provozovatelé, kteří jsou orgány veřejné správy nebo orgány, institucemi a jinými subjekty Unie, nebo provozovatelé jednající jejich jménem a provozovatelé, kteří jsou podniky určenými jako strážci podle nařízení (EU)2022/1925, by se rovněž měli před prvním uvedením do provozu nebo použitím vysoce rizikového systému UI a po každé podstatné změně zaregistrovat v databázi EU. Ostatní provozovatelé by měli mít právo tak učinit dobrovolně. Veškeré podstatné změny vysoce rizikových systémů UI se rovněž zaregistrují v databázi EU. Komise by měla být správcem této databáze v souladu s nařízením Evropského parlamentu a Rady (EU) 2018/172555. Aby byla zajištěna plná funkčnost této databáze při jejím zavedení, měl by postup při vytváření databáze zahrnovat vypracování funkčních specifikací ze strany Komise a nezávislou zprávu o auditu. Komise by měla při plnění svých úkolů správce údajů v databázi EU zohlednit kybernetickou bezpečnost a rizika. Aby byla databáze co nejvíce dostupná a využívaná veřejností, měla by včetně informací, které jsou jejím prostřednictvím zpřístupňovány, splňovat požadavky směrnice 2019/882.
__________________	__________________
55 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).	55 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).

Pozměňovací návrh  116

 

Návrh nařízení

Bod odůvodnění 71

Znění navržené Komisí	Pozměňovací návrh
(71) Umělá inteligence je rychle se vyvíjející skupina technologií, která vyžaduje nové formy regulačního dohledu a bezpečný prostor pro experimentování při současném zajištění odpovědné inovace a integrace vhodných záruk a opatření ke zmírnění rizika. K zajištění právního rámce příznivého pro vznik inovací, použitelného i v budoucnosti a odolného vůči narušení je třeba podporovat příslušné vnitrostátní orgány jednoho nebo více členských států ve vytváření regulačních pískovišť umělé inteligence s cílem usnadnit vývoj a testování inovativních systémů UI pod přísným regulačním dohledem dříve, než budou tyto systémy uvedeny na trh nebo jinak uvedeny do provozu.	(71) Umělá inteligence je rychle se vyvíjející skupina technologií, která vyžaduje regulační dohled a bezpečný a kontrolovaný prostor pro experimentování při současném zajištění odpovědné inovace a integrace vhodných záruk a opatření ke zmírnění rizika. Aby byl zajištěn právní rámec, který podporuje inovace, obstojí i v budoucnu a odolný vůči narušení, měly by členské státy zřídit alespoň jedno regulační pískoviště pro umělou inteligenci s cílem usnadnit vývoj a testování inovativních systémů UI pod přísným regulačním dohledem před uvedením těchto systémů na trh nebo jiným způsobem do provozu. Je skutečně žádoucí, aby dalším krokem, který by měl být učiněn závazným na základě stanovených kritérií, bylo zřízení regulačních pískovišť, jejichž zřízení je v současné době ponecháno na uvážení členských států. Toto povinně zřizované pískoviště by mohlo rovněž být zřízeno společně s jedním nebo několika dalšími členskými státy, pokud by pokrývalo příslušnou vnitrostátní úroveň dotčených členských států. Další pískoviště mohou být rovněž zřízena na různých úrovních, včetně úrovně napříč členskými státy, s cílem usnadnit přeshraniční spolupráci a součinnost. S výjimkou povinného pískoviště na vnitrostátní úrovni by členské státy měly mít rovněž možnost zřizovat virtuální nebo hybridní pískoviště. Všechna regulační pískoviště by měla být schopna pojmout jak fyzické, tak virtuální produkty. Zřizující orgány by rovněž měly zajistit, aby regulační pískoviště měla pro své fungování odpovídající finanční a lidské zdroje.

Pozměňovací návrh  117

 

Návrh nařízení

Bod odůvodnění 72

Znění navržené Komisí	Pozměňovací návrh
(72) Cílem těchto regulačních pískovišť by měla být podpora inovací UI na základě vytvoření kontrolovaného experimentálního a testovacího prostředí ve fázi vývoje a před uvedením na trh s cílem zajistit soulad inovativních systémů UI s tímto nařízením a s dalšími příslušnými právními předpisy Unie a členských států; dále posílení právní jistoty inovátorů, dohledu příslušných orgánů a jejich porozumění příležitostem, vznikajícím rizikům a dopadům používání UI, jakož i urychlení přístupu na trhy, mimo jiné odstraněním překážek pro malé a střední podniky a začínající podniky. Aby bylo zajištěno jednotné provádění v celé Unii a úspory z rozsahu, je vhodné stanovit společná pravidla pro zavádění regulačních pískovišť a rámec spolupráce mezi příslušnými orgány, které se podílejí na dohledu nad těmito pískovišti. Toto nařízení by mělo poskytnout právní základ pro použití osobních údajů shromážděných pro jiné účely k vývoji určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI v souladu s čl. 6 odst. 4 nařízení (EU) 2016/679 a s článkem 6 nařízení (EU) 2018/1725, aniž je dotčen čl. 4 odst. 2 směrnice (EU) 2016/680. Účastníci pískoviště by měli zajistit vhodné záruky a spolupracovat s příslušnými orgány, mimo jiné tím, že budou postupovat podle jejich pokynů a budou jednat rychle a v dobré víře s cílem zmírnit veškerá vysoká rizika pro bezpečnost a základní práva, která případně vzniknou v průběhu vývoje a experimentování v rámci pískoviště. Chování účastníků pískoviště by mělo být zohledněno při rozhodování příslušných orgánů o tom, zda uloží správní pokutu podle čl. 83 odst. 2 nařízení 2016/679 a podle článku 57 směrnice 2016/680.	(72) Cíli těchto regulačních pískovišť by mělo být : v případě zřizujících orgánů: aby lépe porozuměly technickému vývoji, zlepšily metody dohledu a poskytovaly pokyny vývojářům a poskytovatelům systémů UI s cílem dosáhnout souladu s tímto nařízením nebo případně dalšími platnými právními předpisy Unie a členských států, jakož i s Listinou základních práv; v případě potenciálních poskytovatelů:  umožnit a usnadnit jim testování a vývoj inovativních řešení souvisejících se systémy UI ve fázi před uvedením na trh s cílem zvýšit právní jistotu, umožnit větší učení v oblasti regulace pro zřizující orgány v kontrolovaném prostředí s cílem vypracovat lepší pokyny a určit možná budoucí zlepšení právního rámce prostřednictvím řádného legislativního postupu. Veškerá významná rizika, která budou zjištěna během vývoje a testování těchto systémů, budou mít za následek okamžité zmírnění, a pokud se to nezdaří, pozastavení procesu vývoje a testování, dokud k tomuto zmírnění nedojde. Aby bylo zajištěno jednotné provádění v celé Unii a úspory z rozsahu, je vhodné stanovit společná pravidla pro zavádění regulačních pískovišť a rámec spolupráce mezi příslušnými orgány, které se podílejí na dohledu nad těmito pískovišti. Členské státy by měly zajistit, aby regulační pískoviště byla široce dostupná v celé Unii, přičemž účast na nich by měla zůstat dobrovolná. Je obzvláště důležité zajistit, aby malé a střední podniky a začínající podniky měly k těmto pískovištím snadný přístup, byly aktivně zapojeny do vývoje a testování inovativních systémů UI a podílely se na něm, aby mohly přispívat svým know-how a zkušenostmi.

Pozměňovací návrh  118

 

Návrh nařízení

Bod odůvodnění 72 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(72a) Toto nařízení by mělo poskytnout právní základ pro použití osobních údajů shromážděných pro jiné účely k vývoji určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI, a to pouze za podmínek určených v souladu s čl. 6 odst. 4 nařízení (EU) 2016/679 a s článkem 6 nařízení (EU) 2018/1725, aniž je dotčen čl. 4 odst. 2 směrnice (EU) 2016/680. Potenciální poskytovatelé na pískovišti by měli zajistit vhodné záruky a spolupracovat s příslušnými orgány, mimo jiné tím, že budou postupovat podle jejich pokynů a budou jednat rychle a v dobré víře s cílem zmírnit veškerá vysoká rizika pro bezpečnost, zdraví, životní prostředí a základní práva, která případně vzniknou v průběhu vývoje a experimentování v rámci pískoviště. Jednání potenciálních poskytovatelů na pískovišti by mělo být zohledněno při rozhodování příslušných orgánů o dočasném nebo trvalém pozastavení jejich účasti na pískovišti a o tom,  zda uložit správní pokutu podle čl. 83 odst. 2 nařízení 2016/679 a článku 57 směrnice 2016/680.

Pozměňovací návrh  119

 

Návrh nařízení

Bod odůvodnění 72 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(72b) Aby bylo zajištěno, že umělá inteligence povede k sociálně a environmentálně prospěšným výsledkům, měly by členské státy podporovat a prosazovat výzkum a vývoj umělé inteligence na podporu sociálně a environmentálně prospěšných výsledků tím, že na to přidělí dostatečné zdroje, včetně veřejného financování a financování Unie, a poskytnou projektům vedeným občanskou společností přednostní přístup k regulačním pískovištím. Tyto projekty by měly být založeny na zásadě interdisciplinární spolupráce mezi vývojáři umělé inteligence, odborníky na nerovnost a nediskriminaci, přístupnost, spotřebitelská, environmentální a digitální práva, jakož i akademickými pracovníky.

Pozměňovací návrh  120

 

Návrh nařízení

Bod odůvodnění 73

Znění navržené Komisí	Pozměňovací návrh
(73) V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně zvyšování povědomí a informační komunikace. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů.	(73) V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně gramotnosti v oblasti umělé inteligence, zvyšování povědomí a informační komunikace. Členské státy musí využít stávající kanály, a případně vytvořit speciální kanál pro komunikaci s malými, středními a začínajícími podniky, uživateli a dalšími inovátory, kde by byly poskytovány pokyny a který by reagoval na dotazy týkající se provádění tohoto nařízení. Tyto stávající kanály by mohly mimo jiné zahrnovat skupiny agentury ENISA pro reakci na počítačové bezpečnostní incidenty, vnitrostátní úřady pro ochranu údajů, platformu pro umělou inteligenci na vyžádání, evropská centra pro digitální inovace, další důležité nástroje financované na základě programů EU a testovací a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni Unie. Tyto kanály případně musí spolupracovat na vytváření synergií a zajištění jednotných pokynů pro začínající, malé a střední podniky a uživatele. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Komise pravidelně posuzuje náklady malých, středních a začínajících podniků na certifikaci a dodržování předpisů, mj. na základě transparentních konzultací s malými, středními a začínajícími podniky a uživateli, a spolupracuje s členskými státy na snižování těchto nákladů. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat například náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů. Střední podniky, které nedávno přešly z kategorie malých do kategorie středních podniků ve smyslu přílohy doporučení 2003/361/ES (článek 16), musí mít přístup k těmto iniciativám a pokynům po dobu, kterou členské státy považují za vhodnou, neboť tyto nové střední podniky někdy nemusejí mít k dispozici právní zdroje a odbornou přípravu nezbytné k zajištění řádného pochopení a dodržování ustanovení.

 

Pozměňovací návrh  121

 

Návrh nařízení

Bod odůvodnění 74

Znění navržené Komisí	Pozměňovací návrh
(74) K provádění tohoto nařízení s cílem minimalizovat rizika v oblasti provádění vyplývající z nedostatku věcných a odborných znalostí na trhu, jakož i usnadnit dodržování povinností poskytovatelů a oznámených subjektů podle tohoto nařízení, by mohly potenciálně přispět platformy pro UI na vyžádání, evropská centra pro digitální inovace a zkušební a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni EU. Tyto organizace mohou poskytovatelům a oznámeným subjektům poskytovat zejména technickou a vědeckou podporu v rámci svých úkolů a oblastí působnosti.	(74) K provádění tohoto nařízení s cílem minimalizovat rizika v oblasti provádění vyplývající z nedostatku věcných a odborných znalostí na trhu, jakož i usnadnit dodržování povinností poskytovatelů a oznámených subjektů podle tohoto nařízení, by měly přispět platformy pro UI na vyžádání, evropská centra pro digitální inovace a zkušební a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni EU. Tyto organizace mohou poskytovatelům a oznámeným subjektům poskytovat zejména technickou a vědeckou podporu v rámci svých úkolů a oblastí působnosti.

Pozměňovací návrh  122

 

Návrh nařízení

Bod odůvodnění 76

Znění navržené Komisí	Pozměňovací návrh
(76) V zájmu usnadnění hladkého, účinného a harmonizovaného provádění tohoto nařízení by měla být zřízena Evropská rada pro umělou inteligenci. Tato rada by měla odpovídat za řadu poradenských úkolů, včetně vydávání stanovisek, doporučení, rad nebo pokynů v záležitostech souvisejících s prováděním tohoto nařízení, včetně technických specifikací nebo stávajících norem týkajících se požadavků stanovených v tomto nařízení a poskytování poradenství a pomoci Komisi v konkrétních otázkách týkajících se umělé inteligence.	(76) S cílem zabránit roztříštěnosti, zajistit optimální fungování jednotného trhu, zajistit účinné a harmonizované provádění tohoto nařízení, dosáhnout vysoké úrovně důvěryhodnosti a ochrany zdraví a bezpečnosti, základních práv, životního prostředí, demokracie a právního státu v celé Unii, pokud jde o systémy UI, aktivně podporovat vnitrostátní orgány dohledu, orgány, instituce a jiné subjekty Unie v záležitostech týkajících se tohoto nařízení a zvýšit využívání umělé inteligence v celé Unii by měl být zřízen Úřad Evropské unie pro umělou inteligenci. Úřad EU pro umělou inteligenci by měl mít právní subjektivitu, měl by jednat zcela nezávisle, měl by odpovídat za řadu poradních a koordinačních úkolů, včetně vydávání stanovisek, doporučení, poradenství nebo pokynů k záležitostem souvisejícím s prováděním tohoto nařízení, a měl by být financován a personálně vybaven odpovídajícím způsobem. Členské státy by měly spolu s Komisí, evropským inspektorem ochrany údajů a Agenturou pro základní práva zajistit strategické řízení a kontrolu úřadu pro UI prostřednictvím správní rady úřadu. Za řízení činností sekretariátu úřadu pro umělou inteligenci a za zastupování kanceláře pro umělou inteligenci by měl odpovídat výkonný ředitel. Zúčastněné strany by se měly na činnosti Úřadu pro umělou inteligenci formálně podílet prostřednictvím poradního fóra, jež by mělo zajistit různorodé a vyvážené zastoupení zúčastněných stran a mělo by Úřadu pro umělou inteligenci poskytovat poradenství v záležitostech, které se týkají. V případě, že se zřízení Úřadu pro umělou inteligenci ukáže jako nedostatečné k zajištění plně jednotného uplatňování tohoto nařízení na úrovni Unie, jakož i účinných přeshraničních donucovacích opatření, měla by být zvážena možnost vytvoření agentury pro umělou inteligenci.

Pozměňovací návrh  123

 

Návrh nařízení

Bod odůvodnění 77

Znění navržené Komisí	Pozměňovací návrh
(77) Při uplatňování a prosazování tohoto nařízení hrají klíčovou roli členské státy. V tomto ohledu by měl každý členský stát určit jeden nebo více příslušných vnitrostátních orgánů pro účely dohledu nad uplatňováním a prováděním tohoto nařízení. V zájmu zvýšení efektivity organizace na straně členských států a stanovení oficiálního kontaktního místa pro veřejnost a další protistrany na úrovni členských států a Unie by měl každý členský stát určit jeden vnitrostátní orgán jako vnitrostátní dozorový orgán.	(77) Každý členský stát by měl určit vnitrostátní dozorový orgán pro účely dohledu nad uplatňováním a prováděním tohoto nařízení. Ten by měl rovněž zastupovat svůj členský stát ve správní radě úřadu pro umělou inteligenci; s cílem zvýšit účinnost organizace na straně členských států a zřídit oficiální kontaktní místo pro veřejnost a další protějšky na úrovni členských států a Unie. Každý vnitrostátní dozorový orgán by měl při plnění svých úkolů a výkonu svých pravomocí v souladu s tímto nařízením jednat zcela nezávisle.

Pozměňovací návrh  124

 

Návrh nařízení

Bod odůvodnění 77 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(77a) Vnitrostátní dozorové orgány by měly sledovat uplatňování ustanovení podle tohoto nařízení a přispívat k jejich jednotnému uplatňování v celé Unii. Za tímto účelem by vnitrostátní dozorové orgány měly spolupracovat mezi sebou, s příslušnými vnitrostátními orgány, s Komisí a s Úřadem pro umělou inteligenci.

Pozměňovací návrh  125

 

Návrh nařízení

Bod odůvodnění 77 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(77b) Člen či členové a pracovníci každého dozorového úřadu jsou, v souladu s právem Unie nebo členského státu,  během funkčního období i po jeho skončení vázáni služebním tajemstvím, pokud jde o veškeré důvěrné informace, o nichž se během plnění svých úkolů či výkonu svých pravomocí dozvědí. Během jejich funkčního období by se tato povinnost zachovávat služební tajemství měla vztahovat zejména na obchodní tajemství a na oznamování porušení tohoto nařízení fyzickými osobami.

Pozměňovací návrh  126

 

Návrh nařízení

Bod odůvodnění 78

Znění navržené Komisí	Pozměňovací návrh
(78) Všichni poskytovatelé vysoce rizikových systémů UI by měli mít zaveden systém monitorování po uvedení na trh s cílem zajistit, že budou schopni zohlednit zkušenosti s používáním vysoce rizikových systémů UI při zlepšování svých systémů a procesu návrhu a vývoje, případně že budou schopni včas přijmout veškerá případná nápravná opatření. Tento systém je rovněž klíčovým předpokladem zajištění účinnějšího a včasnějšího řešení potenciálních rizik vyplývajících ze systémů UI, které se po uvedení na trh nebo do provozu dále „učí“. Poskytovatelé by měli mít v této souvislosti rovněž povinnost zavést systém hlášení veškerých závažných incidentů nebo porušení vnitrostátních právních předpisů a právních předpisů Unie na ochranu základních práv, k nimž dojde v důsledku používání jejich systémů UI, příslušným orgánům.	(78) Všichni poskytovatelé vysoce rizikových systémů UI by měli mít zaveden systém monitorování po uvedení na trh s cílem zajistit, že budou schopni zohlednit zkušenosti s používáním vysoce rizikových systémů UI při zlepšování svých systémů a procesu návrhu a vývoje, případně že budou schopni včas přijmout veškerá případná nápravná opatření. Tento systém je rovněž klíčovým předpokladem zajištění účinnějšího a včasnějšího řešení potenciálních rizik vyplývajících ze systémů UI, které se po uvedení na trh nebo do provozu dále „učí“ nebo vyvíjejí. Poskytovatelé by měli mít v této souvislosti rovněž povinnost zavést systém hlášení veškerých závažných incidentů nebo porušení vnitrostátních právních předpisů a právních předpisů Unie, včetně těch, které chrání základní práva a práva spotřebitelů, v důsledku používání jejich systémů UI příslušným orgánům, a podniknout vhodné nápravné kroky. Provozovatelé by měli rovněž hlásit příslušným orgánům jakékoli závažné incidenty nebo porušení vnitrostátního práva a práva Unie vyplývající z používání jejich systému UI, pokud se o těchto závažných incidentech nebo porušeních dozví.

Pozměňovací návrh  127

 

Návrh nařízení

Bod odůvodnění 79

Znění navržené Komisí	Pozměňovací návrh
(79) V zájmu zajištění náležitého a účinného vymáhání požadavků a povinností stanovených tímto nařízením, které představuje harmonizační právní předpis Unie, by se měl v plném rozsahu uplatňovat systém dozoru nad trhem a souladu výrobků s předpisy stanovený nařízením (EU) 2019/1020. Vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty dohlížející na uplatňování právních předpisů Unie na ochranu základních práv, včetně orgánů pro rovné zacházení, by rovněž měly mít přístup k veškeré dokumentaci vytvořené podle tohoto nařízení, pokud je to nutné pro výkon jejich pověření.	(79) V zájmu zajištění náležitého a účinného vymáhání požadavků a povinností stanovených tímto nařízením, které představuje harmonizační právní předpis Unie, by se měl v plném rozsahu uplatňovat systém dozoru nad trhem a souladu výrobků s předpisy stanovený nařízením (EU) 2019/1020. Pro účely tohoto nařízení by vnitrostátní dozorové orgány měly působit jako orgány dozoru nad trhem se systémy UI, na něž se vztahuje toto nařízení, s výjimkou systémů UI, na něž se vztahuje příloha II tohoto nařízení. V případě systémů UI, na něž se vztahují právní akty uvedené v příloze II, by příslušnými orgány podle těchto právních aktů měly zůstat vedoucí orgán. Vnitrostátní dozorové orgány a příslušné orgány v právních aktech uvedených v příloze II by měly v případě potřeby spolupracovat. Je-li to vhodné, měly by příslušné orgány v právních aktech uvedených v příloze II vyslat do vnitrostátního dozorového orgánu kvalifikované pracovníky, aby jim pomohli při plnění jeho úkolů. Pro účely tohoto nařízení by vnitrostátní dozorové orgány měly mít stejné pravomoci a povinnosti jako orgány dozoru nad trhem podle nařízení (EU) 2019/1020. Vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty dohlížející na uplatňování právních předpisů Unie na ochranu základních práv, včetně orgánů pro rovné zacházení, by rovněž měly mít přístup k veškeré dokumentaci vytvořené podle tohoto nařízení, pokud je to nutné pro výkon jejich pověření. Po vyčerpání všech ostatních rozumných způsobů posouzení/ověření shody a na základě odůvodněné žádosti by měl být vnitrostátnímu dozorovému orgánu umožněn přístup k souborům tréninkových dat, dat pro ověřování platnosti a testovacím modelům vysoce rizikového systému UI, včetně jeho příslušných parametrů modelu a jejich prováděcího/provozního prostředí. V případě jednodušších softwarových systémů spadajících do oblasti působnosti tohoto nařízení, které nejsou založeny na vyškolených modelech, a pokud byly vyčerpány všechny ostatní způsoby ověření shody, může mít vnitrostátní dozorový orgán výjimečně na odůvodněnou žádost přístup ke zdrojovému kódu. Pokud byl vnitrostátnímu dozorovému orgánu udělen přístup k souborům údajů o trénování, ověřování platnosti a testování v souladu s tímto nařízením, měl by být tento přístup zajištěn prostřednictvím vhodných technických prostředků a nástrojů, včetně přístupu na místě a ve výjimečných případech dálkového přístupu. Vnitrostátní dozorový orgán by měl s veškerými informacemi včetně případně zdrojového kódu, softwaru a získaných údajů nakládat jako s důvěrnými informacemi a dodržovat příslušné právní předpisy Unie o ochraně duševního vlastnictví a obchodního tajemství. Vnitrostátní dozorový orgán by měl veškeré informace získané po ukončení vyšetřování vymazat.

Pozměňovací návrh  128

 

Návrh nařízení

Bod odůvodnění 80

Znění navržené Komisí	Pozměňovací návrh
(80) Právní předpisy Unie týkající se finančních služeb zahrnují pravidla a požadavky vnitřní správy a řízení rizik, které se vztahují na regulované finanční instituce v průběhu poskytování těchto služeb, včetně případů, kdy využívají systémy UI. V zájmu zajištění jednotného uplatňování a vymáhání povinností vyplývajících z tohoto nařízení a příslušných pravidel a požadavků právních předpisů Unie o finančních službách by měly být jako příslušné orgány pro účely dohledu nad prováděním tohoto nařízení, včetně činností dozoru nad trhem ve vztahu k systémům UI poskytovaným nebo používaným finančními institucemi, které jsou předmětem regulace nebo dozoru, určeny orgány odpovědné za dohled nad právními předpisy o finančních službách a jejich vymáhání, tam, kde je to relevantní, včetně Evropské centrální banky. V zájmu dalšího posílení souladu mezi tímto nařízením a pravidly platnými pro úvěrové instituce podléhající směrnici Evropského parlamentu a Rady 2013/36/EU56 je rovněž vhodné začlenit postup posuzování shody a některé procesní povinnosti poskytovatelů v souvislosti s řízením rizik, monitorováním po uvedení na trh a dokumentací do stávajících povinností a postupů podle směrnice 2013/36/EU. Aby nedocházelo k překrývání, je třeba počítat rovněž s omezenými výjimkami ve vztahu k systému řízení kvality poskytovatelů a k povinnosti monitorování uložené uživatelům vysoce rizikových systémů UI v rozsahu, v jakém se vztahují na úvěrové instituce podléhající směrnici 2013/36/EU.	(80) Právní předpisy Unie týkající se finančních služeb zahrnují pravidla a požadavky vnitřní správy a řízení rizik, které se vztahují na regulované finanční instituce v průběhu poskytování těchto služeb, včetně případů, kdy využívají systémy UI. V zájmu zajištění jednotného uplatňování a vymáhání povinností vyplývajících z tohoto nařízení a příslušných pravidel a požadavků právních předpisů Unie o finančních službách by měly být jako příslušné orgány pro účely dohledu nad prováděním tohoto nařízení, včetně činností dozoru nad trhem ve vztahu k systémům UI poskytovaným nebo používaným finančními institucemi, které jsou předmětem regulace nebo dozoru, určeny orgány odpovědné za dohled nad právními předpisy o finančních službách a jejich vymáhání, tam, kde je to relevantní, včetně Evropské centrální banky. V zájmu dalšího posílení souladu mezi tímto nařízením a pravidly platnými pro úvěrové instituce podléhající směrnici Evropského parlamentu a Rady 2013/36/EU56 je rovněž vhodné začlenit postup posuzování shody a některé procesní povinnosti poskytovatelů v souvislosti s řízením rizik, monitorováním po uvedení na trh a dokumentací do stávajících povinností a postupů podle směrnice 2013/36/EU. Aby nedocházelo k překrývání, je třeba počítat rovněž s omezenými výjimkami ve vztahu k systému řízení kvality poskytovatelů a k povinnosti monitorování uložené poskytovatelům vysoce rizikových systémů UI v rozsahu, v jakém se vztahují na úvěrové instituce podléhající směrnici 2013/36/EU.
__________________	__________________
56 Směrnice Evropského parlamentu a Rady 2013/36/EU ze dne 26. června 2013 o přístupu k činnosti úvěrových institucí a o obezřetnostním dohledu nad úvěrovými institucemi a investičními podniky, o změně směrnice 2002/87/ES a zrušení směrnic 2006/48/ES a 2006/49/ES (Úř. věst. L 176, 27.6.2013, s. 338).	56 Směrnice Evropského parlamentu a Rady 2013/36/EU ze dne 26. června 2013 o přístupu k činnosti úvěrových institucí a o obezřetnostním dohledu nad úvěrovými institucemi a investičními podniky, o změně směrnice 2002/87/ES a zrušení směrnic 2006/48/ES a 2006/49/ES (Úř. věst. L 176, 27.6.2013, s. 338).

Pozměňovací návrh  129

 

Návrh nařízení

Bod odůvodnění 80 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(80a) Vzhledem k cílům tohoto nařízení, totiž zajištění rovnocenné úrovně ochrany zdraví, bezpečnosti a základních práv fyzických osob, zajištění ochrany právního státu a demokracie a s přihlédnutím k tomu, že zmírnění rizik systému UI proti těmto právům nemusí být uspokojivě dosaženo na vnitrostátní úrovni nebo mohou být předmětem rozdílného výkladu, což by v konečném důsledku mohlo vést k nerovnoměrné úrovni ochrany fyzických osob a způsobit roztříštěnost trhu, by vnitrostátní dozorové orgány měly být zmocněny k provádění společných šetření nebo k využívání ochranného postupu Unie stanoveného v tomto nařízení za účelem účinného prosazování. Společná šetření by měla být zahájena, pokud má vnitrostátní dozorový orgán dostatečné důvody domnívat se, že porušení tohoto nařízení představuje rozsáhlé protiprávní jednání nebo rozsáhlé protiprávní jednání s unijním rozměrem, nebo pokud systém UI nebo základní model představuje riziko, které má nebo pravděpodobně bude mít dopad na nejméně 45 milionů osob ve více než jednom členském státě.

Pozměňovací návrh  130

 

Návrh nařízení

Bod odůvodnění 82

Znění navržené Komisí	Pozměňovací návrh
(82) Je důležité, aby systémy UI související s produkty, které podle tohoto nařízení nejsou vysoce rizikové, a proto nemusí splňovat požadavky, které jsou v něm stanoveny, byly při uvedení na trh nebo do provozu přesto bezpečné. Jako záchranná síť pro přispění k tomuto cíli by se uplatnila směrnice Evropského parlamentu a Rady 2001/95/ES57.	(82) Je důležité, aby systémy UI související s produkty, které podle tohoto nařízení nejsou vysoce rizikové, a proto nemusí splňovat požadavky, které jsou stanoveny pro vysoce rizikové systémy UI, byly při uvedení na trh nebo do provozu přesto bezpečné. Jako záchranná síť pro přispění k tomuto cíli by se uplatnila směrnice Evropského parlamentu a Rady 2001/95/ES57.
__________________	__________________
57 Směrnice Evropského parlamentu a Rady 2001/95/ES ze dne 3. prosince 2001 o obecné bezpečnosti výrobků (Úř. věst. L 11, 15.1.2002, s. 4).	57 Směrnice Evropského parlamentu a Rady 2001/95/ES ze dne 3. prosince 2001 o obecné bezpečnosti výrobků (Úř. věst. L 11, 15.1.2002, s. 4).

Pozměňovací návrh  131

 

Návrh nařízení

Bod odůvodnění 83

Znění navržené Komisí	Pozměňovací návrh
(83) V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní úrovni by měly všechny strany zapojené do uplatňování tohoto nařízení respektovat důvěrnost informací a údajů získaných při plnění svých úkolů.	(83) V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní úrovni by všechny strany zapojené do uplatňování tohoto nařízení měly usilovat o transparentnost a otevřenost a zároveň respektovat důvěrnost informací a údajů získaných při plnění svých úkolů zavedením technických a organizačních opatření na ochranu bezpečnosti a důvěrnosti získaných informací při výkonu svých činností, včetně ochrany práv duševního vlastnictví a zájmů veřejné a národní bezpečnosti. Pokud činnosti Komise, příslušných vnitrostátních orgánů a oznámených subjektů podle tohoto nařízení povedou k porušení práv duševního vlastnictví, měly by členské státy stanovit vhodná opatření a nápravná opatření k zajištění dodržování práv duševního vlastnictví při uplatňování směrnice 2004/48/ES.

Pozměňovací návrh  132

 

Návrh nařízení

Bod odůvodnění 84

Znění navržené Komisí	Pozměňovací návrh
(84) Členské státy by měly přijmout veškerá nezbytná opatření k zajištění toho, aby byla ustanovení tohoto nařízení prováděna, a to i stanovením účinných, přiměřených a odrazujících sankcí za jejich porušení. U určitých konkrétních porušení by členské státy měly zohlednit rozpětí a kritéria stanovená v tomto nařízení. Evropský inspektor ochrany údajů by měl být oprávněn ukládat pokuty orgánům, institucím a subjektům Unie spadajícím do oblasti působnosti tohoto nařízení.	(84) Dodržování tohoto nařízení by mělo být vymahatelné na základě pokut, které ukládá vnitrostátní dozorový orgán v rámci řízení vedeného podle postupu stanoveného v tomto nařízení. Členské státy by měly přijmout veškerá nezbytná opatření k zajištění toho, aby byla ustanovení tohoto nařízení prováděna, a to i stanovením účinných, přiměřených a odrazujících sankcí za jejich porušení. Za účelem posílení a harmonizace správních sankcí za porušení tohoto nařízení by měly být stanoveny horní hranice pro stanovení správních pokut za určitá konkrétní porušení; Při posuzování výše pokut by příslušné vnitrostátní orgány měly v každém jednotlivém případě zohlednit všechny relevantní okolnosti konkrétní situace, s náležitým ohledem zejména na povahu, závažnost a dobu trvání protiprávního jednání a jeho důsledků a na velikost poskytovatele, zejména pokud je poskytovatelem malý nebo střední podnik nebo začínající podnik. Evropský inspektor ochrany údajů by měl být oprávněn ukládat pokuty orgánům, institucím a subjektům Unie spadajícím do oblasti působnosti tohoto nařízení. Sankce a náklady na soudní spory podle tohoto nařízení by neměly být předmětem smluvních doložek ani jiných ujednání.

Pozměňovací návrh  133

 

Návrh nařízení

Bod odůvodnění 84 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(84a) Vzhledem k tomu, že práva a svobody fyzických a právnických osob a skupin fyzických osob mohou být vážně ohroženy systémy UI, je nezbytné, aby fyzické a právnické osoby nebo skupiny fyzických osob měly smysluplný přístup k mechanismům oznamování a nápravy a měly právo na přístup k přiměřeným a účinným opravným prostředkům. Měli by mít možnost hlásit porušení tohoto nařízení svému vnitrostátnímu dozorovému orgánu a měli by mít právo podat stížnost na poskytovatele nebo provozovatele systémů UI. Provozovatelé by měli případně zajistit interní mechanismy pro podávání stížností, které mají moci používat fyzické a právnické osoby nebo skupiny fyzických osob. Aniž jsou dotčeny jakékoli jiné správní nebo mimosoudní opravné prostředky, měly by mít fyzické a právnické osoby a skupiny fyzických nebo právnických osob rovněž právo na účinný soudní opravný prostředek, pokud jde o právně závazné rozhodnutí vnitrostátního dozorového orgánu nebo Komise, které se jich týká, nebo pokud vnitrostátní dozorový orgán nevyřídí stížnost, neinformuje stěžovatele o pokroku nebo předběžném výsledku podané stížnosti nebo neplní svou povinnost dospět ke konečnému rozhodnutí ohledně stížnosti.

Pozměňovací návrh  134

 

Návrh nařízení

Bod odůvodnění 84 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(84b) Dotčené osoby by měly být o tom, že se na ně vztahuje používání vysoce rizikového systému UI,  vždy informovány, pokud provozovatelé používají vysoce rizikový systém UI, aby jim pomohl při rozhodování nebo přijímání rozhodnutí týkajících se fyzických osob. Tyto informace mohou dotčeným osobám poskytnout základ pro uplatnění jejich práva na vysvětlení podle tohoto nařízení. Pokud provozovatelé poskytnou dotčeným osobám vysvětlení podle tohoto nařízení, měli by zohlednit úroveň odborných znalostí a znalostí průměrného spotřebitele nebo jednotlivce.

Pozměňovací návrh  135

 

Návrh nařízení

Bod odůvodnění 84 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(84c) Právo Unie o ochraně oznamovatelů (směrnice (EU) 2019/1937) se plně vztahuje na akademické pracovníky, návrháře, vývojáře, přispěvatele projektů, auditory, manažery produktů, inženýry a hospodářské subjekty, kteří získají informace o porušování práva Unie ze strany poskytovatele systému UI nebo jeho systému UI.

Pozměňovací návrh  136

 

Návrh nařízení

Bod odůvodnění 85

Znění navržené Komisí	Pozměňovací návrh
(85) Za účelem zajištění toho, že v případě potřeby bude možné regulační rámec upravit, by měla být na Komisi přenesena pravomoc přijímat akty v souladu s článkem 290 Smlouvy o fungování EU, pokud jde o změnu technik a přístupů uvedených v příloze I pro účely definice systémů UI, harmonizačních právních předpisů Unie uvedených v příloze II, vysoce rizikových systémů UI uvedených v příloze III, ustanovení týkajících se technické dokumentace uvedených v příloze IV, obsahu EU prohlášení o shodě uvedeného v příloze V, ustanovení týkajících se postupů posuzování shody v přílohách VI a VII a ustanovení zavádějících vysoce rizikové systémy UI, na které by se měl vztahovat postup posuzování shody založený na posouzení systému řízení kvality a posouzení technické dokumentace. Je obzvláště důležité, aby Komise v rámci přípravné činnosti vedla odpovídající konzultace, a to i na odborné úrovni, a aby tyto konzultace probíhaly v souladu se zásadami stanovenými v interinstitucionální dohodě o zdokonalení tvorby právních předpisů ze dne 13. dubna 201658. Pro zajištění rovné účasti na vypracovávání aktů v přenesené pravomoci obdrží Evropský parlament a Rada veškeré dokumenty současně s odborníky z členských států a jejich odborníci mají automaticky přístup na setkání skupin odborníků Komise, jež se věnují přípravě aktů v přenesené pravomoci.	(85) Za účelem zajištění toho, že v případě potřeby bude možné regulační rámec upravit, by měla být na Komisi přenesena pravomoc přijímat akty v souladu s článkem 290 Smlouvy o fungování EU, pokud jde o změnu harmonizačních právních předpisů Unie uvedených v příloze II, vysoce rizikových systémů UI uvedených v příloze III, ustanovení týkajících se technické dokumentace uvedených v příloze IV, obsahu EU prohlášení o shodě uvedeného v příloze V, ustanovení týkajících se postupů posuzování shody v přílohách VI a VII a ustanovení zavádějících vysoce rizikové systémy UI, na které by se měl vztahovat postup posuzování shody založený na posouzení systému řízení kvality a posouzení technické dokumentace. Je obzvláště důležité, aby Komise v rámci přípravné činnosti vedla odpovídající konzultace, a to i na odborné úrovni, a aby tyto konzultace probíhaly v souladu se zásadami stanovenými v interinstitucionální dohodě o zdokonalení tvorby právních předpisů ze dne 13. dubna 201658. Do těchto konzultací by měl být zapojen vyvážený výběr zúčastněných stran, včetně spotřebitelských organizací, občanské společnosti, sdružení zastupujících dotčené osoby, zástupců podniků z různých odvětví a různých velikostí, jakož i výzkumných pracovníků a vědců. Pro zajištění rovné účasti na vypracovávání aktů v přenesené pravomoci obdrží Evropský parlament a Rada veškeré dokumenty současně s odborníky z členských států a jejich odborníci mají automaticky přístup na setkání skupin odborníků Komise, jež se věnují přípravě aktů v přenesené pravomoci.
__________________	__________________
58 Úř. věst. L 123, 12.5.2016, s. 1.	58 Úř. věst. L 123, 12.5.2016, s. 1.

Pozměňovací návrh  137

 

Návrh nařízení

Bod odůvodnění 85 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(85a) Vzhledem k rychlému technickému vývoji a požadovaným technickým odborným znalostem při posuzování vysoce rizikových systémů UI by Komise měla alespoň jednou ročně pravidelně přezkoumávat provádění tohoto nařízení, zejména zakázané systémy UI, povinnosti transparentnosti a seznam vysoce rizikových oblastí a případů použití, přičemž by měla konzultovat Úřad pro UI a příslušné zúčastněné strany.

Pozměňovací návrh  138

 

Návrh nařízení

Bod odůvodnění 87 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(87a) Vzhledem k tomu, že spolehlivé informace o využívání zdrojů a energie, produkci odpadů a dalších dopadech systémů UI a souvisejících technologií IKT na životní prostředí, včetně softwaru, hardwaru a zejména datových center, jsou omezené, měla by Komise zavést odpovídající metodiku pro měření dopadu a účinnosti tohoto nařízení na životní prostředí s ohledem na cíle Unie v oblasti životního prostředí a klimatu.

Pozměňovací návrh  139

 

Návrh nařízení

Bod odůvodnění 89

Znění navržené Komisí	Pozměňovací návrh
(89) V souladu s čl. 42 odst. 2 nařízení (EU) 2018/1725 byl konzultován evropský inspektor ochrany údajů a Evropský sbor pro ochranu osobních údajů, a jejich stanovisko bylo vydáno dne […].	(89) V souladu s čl. 42 odst. 2 nařízení (EU) 2018/1725 byl konzultován evropský inspektor ochrany údajů a Evropský sbor pro ochranu osobních údajů, a jejich stanovisko bylo vydáno dne 18. června 2021.

Pozměňovací návrh  140

 

Návrh nařízení

Čl. 1 – odst. 1 (nový)

Znění navržené Komisí	Pozměňovací návrh
	1. Účelem tohoto nařízení je podporovat zavádění důvěryhodné umělé inteligence zaměřené na člověka a zajistit vysokou úroveň ochrany zdraví, bezpečnosti, základních práv, demokracie a právního státu a životního prostředí před škodlivými účinky systémů umělé inteligence v Unii a zároveň podporovat inovace;

Pozměňovací návrh  141

 

Návrh nařízení

Čl. 1 – odst. 1 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) harmonizovaná pravidla transparentnosti pro systémy UI určené k interakci s fyzickými osobami, pro systémy rozpoznávání emocí a pro systémy biometrické kategorizace, jakož i pro systémy UI používané k vytváření obrazového, zvukového nebo video obsahu nebo k manipulaci s ním;	d) harmonizovaná pravidla transparentnosti pro některé systémy UI;

Pozměňovací návrh  142

Návrh nařízení

Čl. 1 – odst. 1 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) pravidla monitorování trhu a dozoru nad ním.	e) pravidla řízení, monitorování trhu, dozoru nad správou trhu a prosazování tohoto nařízení;

Pozměňovací návrh  143

 

Návrh nařízení

Čl. 1 – odst. 1 – písm. e a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ea) opatření na podporu inovací se zvláštním zaměřením na malé a střední podniky a začínající podniky, včetně zřizování regulačních pískovišť a cílených opatření ke snížení regulační zátěže malých a středních podniků a začínajících podniků;

Pozměňovací návrh  144

 

Návrh nařízení

Čl. 1 – odst. 1 – písm. e b (nové)

Znění navržené Komisí	Pozměňovací návrh
	eb) pravidla pro zřízení a fungování Úřadu Unie pro umělou inteligenci (Úřad pro umělou inteligenci).

Pozměňovací návrh  145

 

Návrh nařízení

Čl. 2 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) uživatele systémů UI nacházející se v Unii;	b) provozovatelé systémů UI, kteří mají místo usazení nebo kteří se nacházejí v Unii;

Pozměňovací návrh  146

 

Návrh nařízení

Čl. 2 – odst. 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) poskytovatele a uživatele systémů UI, kteří se nacházejí ve třetí zemi, pokud se výstup systému používá v Unii.	c) poskytovatelům a provozovatelům systémů UI, kteří mají místo usazení nebo kteří se nacházejí ve třetí zemi, kde se uplatňuje právo některého členského státu na základě mezinárodního práva veřejného, nebo pokud je výstup vytvořený systémem určen k použití v Unii;

Pozměňovací návrh  147

 

Návrh nařízení

Čl. 2 – odst. 1 – písm. c a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ca) poskytovatelé uvádějící na trh nebo do provozu systémy UI uvedené v článku 5 mimo Unii, pokud se poskytovatel nebo distributor těchto systémů nachází v Unii;

Pozměňovací návrh  148

 

Návrh nařízení

Čl. 2 – odst. 1 – písm. c b (nové)

Znění navržené Komisí	Pozměňovací návrh
	cb) dovozci a distributoři systémů UI, jakož i zplnomocnění zástupci poskytovatelů systémů UI, pokud tito dovozci, distributoři nebo zplnomocnění zástupci mají sídlo nebo se nacházejí v Unii;

Pozměňovací návrh  149

 

Návrh nařízení

Čl. 2 – odst. 1 – písm. c c (nové)

Znění navržené Komisí	Pozměňovací návrh
	cc) dotčené osoby ve smyslu čl. 3 odst. 8a, které se nacházejí v Unii a jejichž zdraví, bezpečnost nebo základní práva jsou nepříznivě ovlivněny používáním systému UI, který je uváděn na trh nebo do provozu v Unii.

Pozměňovací návrh  150

 

Návrh nařízení

Čl. 2 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Pro vysoce rizikové systémy UI, které představují bezpečnostní součásti produktů nebo systémů nebo které jsou samy o sobě produkty nebo systémy a které spadají do oblasti působnosti následujících aktů, se použije pouze článek 84 tohoto nařízení:	2. Pro rizikové systémy UI, které představují bezpečnostní součásti produktů nebo systémů nebo které jsou samy o sobě produkty nebo systémy a které spadají do oblasti působnosti aktů uvedených v příloze II oddíle B, se použije pouze článek 84 tohoto nařízení:

Pozměňovací návrh  151

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) nařízení (ES) č. 300/2008;	vypouští se

Pozměňovací návrh  152

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) nařízení (EU) č. 167/2013;	vypouští se

Pozměňovací návrh  153

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) nařízení (EU) č. 168/2013;	vypouští se

Pozměňovací návrh  154

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) směrnice 2014/90/EU;	vypouští se

Pozměňovací návrh  155

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) směrnice (EU) 2016/797;	vypouští se

Pozměňovací návrh  156

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. f

Znění navržené Komisí	Pozměňovací návrh
f) nařízení (EU) 2018/858;	vypouští se

Pozměňovací návrh  157

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) nařízení (EU) 2018/1139;	vypouští se

Pozměňovací návrh  158

 

Návrh nařízení

Čl. 2 – odst. 2 – písm. h

Znění navržené Komisí	Pozměňovací návrh
h) nařízení (EU) 2019/2144.	vypouští se

Pozměňovací návrh  159

 

Návrh nařízení

Čl. 2 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Toto nařízení se nevztahuje na orgány veřejné moci ve třetí zemi ani na mezinárodní organizace spadající do oblasti působnosti tohoto nařízení podle odstavce 1, pokud tyto orgány nebo organizace používají systémy UI v rámci mezinárodních dohod o prosazování práva a o justiční spolupráci s Unií nebo s jedním či více členskými státy.	4. Toto nařízení se nevztahuje na orgány veřejné moci ve třetí zemi ani na mezinárodní organizace spadající do oblasti působnosti tohoto nařízení podle odstavce 1, pokud tyto orgány nebo organizace používají systémy UI v rámci mezinárodních dohod o prosazování práva a justiční spolupráci s Unií nebo s jedním či více členskými státy a vztahuje se na ně rozhodnutí Komise přijaté v souladu s článkem 36 směrnice (EU) 2016/680 nebo článkem 45 nařízení 2016/679 (dále jen „rozhodnutí o odpovídající ochraně“) nebo jsou součástí mezinárodní dohody uzavřené mezi Unií a danou třetí zemí nebo mezinárodní organizací podle článku 218 Smlouvy o fungování EU, která stanoví přiměřené záruky s ohledem na ochranu soukromí a základních práv a svobod fyzických osob;

Pozměňovací návrh  160

 

Návrh nařízení

Čl. 2 – odst. 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. Na osobní údaje zpracovávané v souvislosti s právy a povinnostmi stanovenými v tomto nařízení se vztahuje právo Unie o ochraně osobních údajů, soukromí a důvěrnosti sdělení. Tímto nařízením nejsou dotčena nařízení (EU) 2016/679 a (EU) 2018/1725 a směrnice 2002/58/ES a (EU) 2016/680, aniž jsou dotčena ujednání stanovená v čl. 10 odst. 5 a článku 54 tohoto nařízení.“;

Pozměňovací návrh  161

 

Návrh nařízení

Čl. 2 – odst. 5 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	5b. Tímto nařízením nejsou dotčena pravidla stanovená jinými právními akty Unie týkajícími se ochrany spotřebitele a bezpečnosti výrobků;

Pozměňovací návrh  162

 

Návrh nařízení

Čl. 2 – odst. 5 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	5c. Toto nařízení nebrání členským státům nebo Unii v tom, aby zachovaly nebo zavedly právní a správní předpisy, které jsou pro pracovníky příznivější, pokud jde o ochranu jejich práv v souvislosti s používáním systémů UI zaměstnavateli, nebo které podporují či umožňují uplatňování kolektivních smluv, které jsou pro pracovníky příznivější.

Pozměňovací návrh  163

 

Návrh nařízení

Čl. 2 – odst. 5 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	5d. Toto nařízení nemá vliv na výzkum, testování a vývoj systémů umělé inteligence předtím, než je takový systém uveden na trh nebo do provozu, pokud je prováděn za dodržování základních práv a příslušných právních předpisů Unie. Na zkoušky v reálných podmínkách se tato výjimka nevztahuje.Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73, které objasní uplatňování tohoto odstavce za účelem upřesnění této výjimky, aby se zabránilo jejímu stávajícímu a potenciálnímu zneužití. Úřad pro umělou inteligenci poskytuje pokyny týkající se řízení výzkumu a vývoje podle článku 56, rovněž s cílem koordinovat jejich uplatňování vnitrostátními dozorovými orgány;

Pozměňovací návrh  164

 

Návrh nařízení

Čl. 2 – odst. 5 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	5e. Toto nařízení se nevztahuje na součásti UI poskytované na základě bezplatných licencí a licencí s otevřeným zdrojovým kódem, s výjimkou případů, kdy jsou uvedeny na trh nebo do provozu poskytovatelem jako součást vysoce rizikového systému UI nebo systému UI, který spadá do hlavy II nebo IV. Tato výjimka se nevztahuje na základní modely definované v článku 3.

Pozměňovací návrh  165

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1

Znění navržené Komisí	Pozměňovací návrh
(1) „systémem umělé inteligence“ (systém UI) software, který je vyvinut pomocí jedné nebo více technik a přístupů uvedených v příloze I, a který může pro danou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují;	(1) „systémem umělé inteligence“ (systém UI) strojový systém, který je navržen tak, aby fungoval s různou úrovní autonomie, a který může pro explicitní nebo implicitní cíle generovat výstupy, jako jsou předpovědi, doporučení nebo rozhodnutí, které ovlivňují fyzické nebo virtuální prostředí;

Pozměňovací návrh  166

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(1a) „rizikem“ se rozumí kombinace pravděpodobnosti toho, že dojde k újmě, a závažnosti takové újmy;

Pozměňovací návrh  167

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(1b) „významným rizikem“ riziko, které je významné v důsledku kombinace závažnosti, intenzity, pravděpodobnosti výskytu a trvání jeho účinků a jeho schopnosti postihnout jednotlivce, více osob nebo ovlivnit konkrétní skupinu osob;

Pozměňovací návrh  168

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(1c) „nadačním modelem“ model systému UI, který je trénován na širokých datech v měřítku, je navržen pro obecnou povahu výstupů a lze jej přizpůsobit široké škále specifických úkolů;

Pozměňovací návrh  169

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	(1d) „všeobecným systémem UI“ systém UI, který lze používat v široké škále aplikací, pro něž nebyl záměrně a konkrétně navržen, a který je pro ni přizpůsoben;

Pozměňovací návrh  170

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	(1e) „průběhem rozsáhlé odborné přípravy“ se rozumí výrobní proces silného modelu UI, který vyžaduje výpočetní zdroje nad velmi vysokou prahovou hodnotou;

Pozměňovací návrh  171

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 3

Znění navržené Komisí	Pozměňovací návrh
(3) „malým poskytovatelem“ poskytovatel, který je mikropodnikem nebo malým podnikem ve smyslu doporučení Komise 2003/361/ES;	vypouští se
__________________
61 Doporučení Komise ze dne 6. května 2003 o definici mikropodniků a malých a středních podniků (Úř. věst. L 124, 20.5.2003, s. 36).

Pozměňovací návrh  172

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 4

Znění navržené Komisí	Pozměňovací návrh
(4) „uživatelem“ jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které v rámci své pravomoci využívají systém UI, s výjimkou případů, kdy je tento systém UI využíván při osobní neprofesionální činnosti;	(4) „uživatelem“ jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které v rámci své pravomoci využívají systém UI, s výjimkou případů, kdy je tento systém UI využíván při osobní neprofesionální činnosti;

Pozměňovací návrh  173

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 8

Znění navržené Komisí	Pozměňovací návrh
(8) „provozovatelem“ poskytovatel, uživatel, zplnomocněný zástupce, dovozce a distributor;	(8) „provozovatelem“ poskytovatel, zavádějící subjekt, zplnomocněný zástupce, dovozce a distributor;

Pozměňovací návrh  174

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 8 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(8a) „dotčenou osobou“ jakákoli fyzická osoba nebo skupina osob, na něž se systém UI vztahuje nebo které jsou tímto systémem dotčeny;

Pozměňovací návrh  175

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 11

Znění navržené Komisí	Pozměňovací návrh
(11) „uvedením do provozu“ dodání systému UI k prvnímu použití přímo uživateli nebo pro vlastní použití na trhu Unie za určeným účelem;	(11) „uvedením do provozu“ dodání systému UI k prvnímu použití přímo uživateli nebo pro vlastní použití na trhu Unie za určeným účelem;

Pozměňovací návrh  176

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 13

Znění navržené Komisí	Pozměňovací návrh
(13) „důvodně předvídatelným nesprávným použitím“ použití systému UI způsobem, který není v souladu s jeho určeným účelem, avšak může vyplývat z důvodně předvídatelného lidského chování nebo z interakce s jinými systémy;	(13) „důvodně předvídatelným nesprávným použitím“ použití systému UI způsobem, který není v souladu s jeho určeným účelem uvedeným v návodu k použití stanoveném poskytovatelem, ale který může vyplývat z důvodně předvídatelného lidského chování nebo interakce s jinými systémy, včetně jiných systémů UI;

Pozměňovací návrh  177

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 14

Znění navržené Komisí	Pozměňovací návrh
(14) „bezpečnostní součástí produktu nebo systému“ součást produktu nebo systému, která plní bezpečnostní funkci pro daný produkt nebo systém, případně jejíž porucha nebo chybné fungování ohrožuje zdraví a bezpečnost osob nebo majetku;	(14) „bezpečnostní součástí produktu nebo systému“ v souladu s harmonizačními právními předpisy Unie uvedenými na seznamu součásti výrobku nebo systému, který plní bezpečnostní funkci pro daný produkt nebo systém, nebo jehož selhání či špatné fungování ohrožuje zdraví a bezpečnost osob;

Pozměňovací návrh  178

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 15

Znění navržené Komisí	Pozměňovací návrh
(15) „návodem k použití“ informace poskytnuté poskytovatelem, které uživatele informují zejména o určeném účelu a řádném použití daného systému UI, včetně konkrétního geografického, behaviorálního nebo funkčního prostředí, ve kterém má být tento vysoce rizikový systém UI používán;	(15) „návodem k použití“ informace poskytnuté poskytovatelem s cílem informovat provozovatele zejména o zamýšleném účelu a řádném použití systému UI, jakož i informace o veškerých preventivních opatřeních, která mají být přijata; včetně konkrétního zeměpisného, behaviorálního nebo funkčního prostředí, v němž má být vysoce rizikový systém UI používán;

Pozměňovací návrh  179

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 16

Znění navržené Komisí	Pozměňovací návrh
(16) „stažením systému UI z oběhu“ jakékoli opatření, jehož cílem je dosáhnout, aby byl systém UI zpřístupněný uživatelům navrácen poskytovateli;	(16) „stažením systému UI z oběhu“ jakékoli opatření, jehož cílem je dosáhnout, aby byl systém UI, který byl zpřístupněn uživatelům, navrácen poskytovateli;

Pozměňovací návrh  180

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 20

Znění navržené Komisí	Pozměňovací návrh
(20) „posuzováním shody“ postup ověřování toho, zda byly splněny požadavky stanovené v hlavě III kapitole 2 tohoto nařízení týkající se systému UI;	(20) „posuzováním shody“ postup ověřování toho, zda byly splněny požadavky stanovené v hlavě III kapitole 2 tohoto nařízení týkající se systému UI;

Pozměňovací návrh  181

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 22

Znění navržené Komisí	Pozměňovací návrh
(22) „oznámeným subjektem“ subjekt posuzování shody určený v souladu s tímto nařízením a dalšími příslušnými harmonizačními právními předpisy Unie;	(22) „oznámeným subjektem“ subjekt posuzování shody určený v souladu s tímto nařízením a dalšími příslušnými harmonizačními právními předpisy Unie;

Pozměňovací návrh  182

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 23

Znění navržené Komisí	Pozměňovací návrh
(23) „podstatnou změnou“ změna systému UI po jeho uvedení na trh nebo do provozu, která ovlivňuje soulad systému UI s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení nebo vede ke změně určeného účelu, podle kterého byl systém UI posuzován;	(23) „podstatnou změnou“ změna nebo řada změn systému UI po jeho uvedení na trh nebo do provozu, která není plánována nebo plánována v počátečním posouzení rizik poskytovatelem a v jejímž důsledku je ovlivněn soulad systému UI s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení nebo výsledkem je změna určeného účelu, pro který byl systém UI posuzován;

Pozměňovací návrh  183

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 24

Znění navržené Komisí	Pozměňovací návrh
(24) „označením shody CE“ nebo „označením CE“ označení, kterým poskytovatel vyjadřuje, že systém UI je ve shodě s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení a v dalších příslušných právních předpisech Unie harmonizujících uvádění produktů na trh („harmonizační právní předpisy Unie“), které upravují jeho umísťování;	(24) „označením shody CE“ nebo „označením CE“ fyzické nebo digitální označení, kterým poskytovatel vyjadřuje, že systém UI nebo produkt se zabudovaným systémem UI je ve shodě s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení a v dalších příslušných právních předpisech Unie harmonizujících uvádění produktů na trh („harmonizační právní předpisy Unie“), které upravují jeho umísťování;

Pozměňovací návrh  184

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 29

Znění navržené Komisí	Pozměňovací návrh
(29) „tréninkovými daty“ data používaná pro trénování systému UI přizpůsobováním jeho parametrů, které se lze naučit, včetně vah neuronové sítě;	(29) „tréninkovými daty“ data používaná pro trénování systému UI přizpůsobováním jeho parametrů, které se lze naučit;

Pozměňovací návrh  185

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 30

Znění navržené Komisí	Pozměňovací návrh
(30) „daty pro ověřování platnosti“ data používaná pro vyhodnocení trénovaného systému UI a pro vyladění jeho parametrů, které se nelze naučit, a jeho procesu učení, mimo jiné s cílem zabránit přeučení; přičemž soubor dat pro ověřování platnosti může být samostatný soubor dat nebo součást souboru tréninkových dat, ať už jako pevné, nebo variabilní rozdělení;	(30) „daty pro ověřování platnosti“ data používaná pro vyhodnocení trénovaného systému UI a pro vyladění jeho parametrů, které se nelze naučit, a jeho procesu učení, mimo jiné s cílem zabránit nedostatečnému učení nebo  přeučení; přičemž soubor dat pro ověřování platnosti je samostatný soubor dat nebo součást souboru tréninkových dat, ať už jako pevné, nebo variabilní rozdělení;

Pozměňovací návrh  186

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 33

Znění navržené Komisí	Pozměňovací návrh
(33) „biometrickými údaji“ osobní údaje vyplývající z konkrétního technického zpracování, týkající se fyzických či fyziologických znaků nebo znaků chování fyzické osoby, které umožňují nebo potvrzují její jedinečnou identifikaci, například zobrazení obličeje nebo daktyloskopické údaje;	(33) „biometrickými údaji“ biometrické údaje definované v čl. 4 bodě 14 nařízení (EU) 2016/679;

Pozměňovací návrh  187

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 33 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(33a) Biometrické údaje jsou dodatečné údaje vyplývající z konkrétního technického zpracování, týkající se fyzických či fyziologických znaků nebo znaků chování fyzické osoby.

Pozměňovací návrh  188

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 33 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(33b) „biometrickou identifikací“ automatizované rozpoznávání tělesných, fyziologických, behaviorálních a psychických lidských znaků za účelem zjištění totožnosti jednotlivce porovnáním biometrických údajů této osoby s uloženými biometrickými údaji jednotlivců v databázi (identifikace jedné osoby);

Pozměňovací návrh  189

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 33 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(33c) „biometrickým ověřením“ automatizované ověřování totožnosti fyzických osob porovnáním biometrických údajů jednotlivce s dříve poskytnutými biometrickými údaji (ověření „one-to-one“, včetně ověření pravosti);

Pozměňovací návrh  190

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 33 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	(33d) „zvláštními kategoriemi osobních údajů“ kategorie osobních údajů definované v čl. 9 odst. 1 nařízení (EU) 2016/679;

Pozměňovací návrh  191

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 34

Znění navržené Komisí	Pozměňovací návrh
(34) „systémem rozpoznávání emocí“ systém UI pro účely zjišťování nebo odvozování emocí nebo záměrů fyzických osob na základě jejich biometrických údajů;	(34) „systémem rozpoznávání emocí“ systém UI za účelem identifikace nebo vyvozování emocí, myšlenek nebo záměrů jednotlivců nebo skupin na základě jejich biometrických údajů a údajů vycházejících z biometrických údajů;

Pozměňovací návrh  192

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 35

Znění navržené Komisí	Pozměňovací návrh
(35) „systémem biometrické kategorizace“ systém UI pro účely zařazení fyzických osob do určitých kategorií podle pohlaví, věku, barvy vlasů, barvy očí, tetování, etnického původu nebo sexuální či politické orientace, na základě jejich biometrických údajů;	(35) „biometrickou kategorizací“ zařazení fyzických osob do konkrétních kategorií nebo odvození jejich charakteristik a atributů na základě jejich biometrických nebo biometrických údajů, nebo které lze z těchto údajů odvodit;

Pozměňovací návrh  193

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 36

Znění navržené Komisí	Pozměňovací návrh
(36) „systémem biometrické identifikace na dálku“ systém UI pro účely identifikace fyzických osob na dálku na základě porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi, aniž by uživatel systému UI předem věděl, zda bude daná osoba přítomna a zda ji bude možné identifikovat;	(36) „systémem biometrické identifikace na dálku“ systém UI pro účely identifikace fyzických osob na dálku na základě porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi, aniž by uživatel systému UI předem věděl, zda bude daná osoba přítomna a zda ji bude možné identifikovat;

Pozměňovací návrh  194

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 37

Znění navržené Komisí	Pozměňovací návrh
(37) „systémem biometrické identifikace na dálku‚ v reálném čase‘“ systém biometrické identifikace na dálku, kdy zachycení biometrických údajů, porovnání a identifikace probíhá bez významné prodlevy. To zahrnuje nejen okamžitou identifikaci, ale také omezená krátká zpoždění, jejichž cílem je zabránit obcházení systému;	(37) „systémem biometrické identifikace na dálku‚ v reálném čase‘“ systém biometrické identifikace na dálku, kdy zachycení biometrických údajů, porovnání a identifikace probíhá bez významné prodlevy. To zahrnuje nejen okamžitou identifikaci, ale také omezená krátká zpoždění, jejichž cílem je zabránit obcházení systému;

Pozměňovací návrh  195

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 39

Znění navržené Komisí	Pozměňovací návrh
(39) „veřejně přístupným místem“ jakékoli fyzické místo přístupné veřejnosti bez ohledu na to, zda pro něj platí určité podmínky přístupu;	(39) „veřejně přístupným prostorem“ jakékoli fyzické místo ve veřejném nebo soukromém vlastnictví přístupné veřejnosti bez ohledu na to, zda mohou platit určité podmínky přístupu, a bez ohledu na potenciální omezení kapacity;

Pozměňovací návrh  196

Návrh nařízení

Čl. 3 – odst. 1 – bod 41

Znění navržené Komisí	Pozměňovací návrh
(41) „prosazováním práva“ činnosti prováděné donucovacími orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, včetně ochrany před hrozbami pro veřejnou bezpečnost a jejich předcházení;	(41) „prosazováním práva“ činnosti prováděné donucovacími orgány nebo jejich jménem za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, včetně ochrany před hrozbami pro veřejnou bezpečnost a jejich předcházení;

Pozměňovací návrh  197

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 42

Znění navržené Komisí	Pozměňovací návrh
(42) „vnitrostátním dozorovým orgánem“ orgán, kterému členský stát svěřuje odpovědnost za provádění a uplatňování tohoto nařízení, za koordinaci činností svěřených danému členskému státu, za to, že funguje jako jednotné kontaktní místo pro Komisi a za zastupování daného členského státu v Evropské radě pro umělou inteligenci;	(42) „vnitrostátním dozorovým orgánem“ orgán, kterému členský stát svěřuje odpovědnost za provádění a uplatňování tohoto nařízení, za koordinaci činností svěřených danému členskému státu, za to, že funguje jako jednotné kontaktní místo pro Komisi a za zastupování daného členského státu ve správní radě Úřadu pro UI;

Pozměňovací návrh  198

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 43

Znění navržené Komisí	Pozměňovací návrh
(43) „příslušným vnitrostátním orgánem“ vnitrostátní dozorový orgán, oznamující orgán a orgán dozoru nad trhem;	(43) „příslušným vnitrostátním orgánem“ kterýkoli z vnitrostátních orgánů, které jsou odpovědné za prosazování tohoto nařízení;

Pozměňovací návrh  199

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 – návětí

Znění navržené Komisí	Pozměňovací návrh
(44) „závažným incidentem“ incident, který přímo nebo nepřímo vede, mohl vést nebo může vést k některému z těchto následků:	(44) „závažným incidentem“ incident nebo chybné fungování systému UI, které přímo nebo nepřímo vedou, mohly vést nebo mohou vést k některému z těchto následků:
	a) smrt určité osoby nebo závažné poškození zdraví určité osoby;
	b) závažné narušení správy a provozu kritické infrastruktury;
	ba) porušení základních práv chráněných právem Unie;
	bb) závažná škoda na majetku nebo životním prostředí;

Pozměňovací návrh  200

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44a) „osobními údaji“ osobní údaje definované v čl. 4 bodě 1 nařízení (EU) 2016/679;

Pozměňovací návrh  201

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44b) „neosobními daty“ data jiná než osobní údaje;

Pozměňovací návrh  202

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44c) „profilováním“ jakákoli forma automatizovaného zpracování osobních údajů ve smyslu čl. 4 bodu 4 nařízení (EU) 2016/679; nebo v případě donucovacích orgánů – podle čl. 3 bodu 4 směrnice (EU) 2016/680 nebo v případě orgánů, institucí a jiných subjektů Unie podle čl. 3 bodu 5 nařízení (EU) 2018/1725;

Pozměňovací návrh  203

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44d) termínem „deep fake“ zmanipulovaný nebo syntetický zvukový, obrazový nebo video obsah, který se neprávem jeví jako autentický nebo pravdivý a který obsahuje vyobrazení osob, u kterých se zdá, že říkají nebo dělají věci, které neříkají ani dělají, bez jejich souhlasu, vyrobený za použití technik umělé inteligence, včetně strojového učení a hlubokého učení;

Pozměňovací návrh  204

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44e) „rozsáhlým porušením právních předpisů“ se rozumí jakékoli jednání nebo opomenutí, které je v rozporu s právem Unie a které chrání zájmy jednotlivců:
	a) a) které poškodilo nebo by mohlo poškodit společné zájmy jednotlivců s bydlištěm v nejméně dvou jiných členských státech, než je členský stát, v nichž:
	i) má předmětné jednání nebo opomenutí původ nebo v němž k němu došlo;
	ii) je usazen dotčený poskytovatel nebo případně jeho zplnomocněný zástupce; nebo
	iii) je usazen uživatel, pokud se protiprávního jednání dopustil uživatel;
	b) b) které chrání zájmy jednotlivců, které způsobily, způsobily nebo mohou poškodit společné zájmy jednotlivců a které mají společné rysy, včetně stejných protiprávních praktik, porušení téhož zájmu a souběžného výskytu téhož hospodářského subjektu nejméně ve třech členských státech;

Pozměňovací návrh  205

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 f (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44f) „rozsáhlým protiprávním jednáním v unijním rozsahu“ rozsáhlé protiprávní jednání, které poškodilo nebo může poškodit společné zájmy jednotlivců alespoň ve dvou třetinách členských států, které společně představují alespoň dvě třetiny celkového počtu obyvatel Unie.

Pozměňovací návrh  206

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 g (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44g) „regulačním pískovištěm“ kontrolované prostředí zřízené orgánem veřejné moci, které usnadňuje bezpečný vývoj, testování a validaci inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle zvláštního plánu pod regulačním dohledem;

Pozměňovací návrh  207

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 h (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44 h) „kritickou infrastrukturou“ aktivum, zařízení, vybavení, síť nebo systém nebo část aktiva, zařízení, vybavení, sítě nebo systému, které jsou nezbytné pro poskytování základní služby ve smyslu čl. 2 odst. 4 směrnice (EU) 2022/2557;

Pozměňovací návrh  208

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 k (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44k) „hodnocením sociálního kreditu“ hodnocení nebo klasifikace fyzických osob na základě jejich sociálního chování, socioekonomického postavení nebo známých či předvídaných osobních či osobnostních charakteristik;

Pozměňovací návrh  209

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 l (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44l) „sociálním chováním“ způsob, jakým fyzická osoba komunikuje s jinými fyzickými osobami nebo společností a ovlivňuje je;

Pozměňovací návrh  210

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 m (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44m) „současným stavem techniky“ se rozumí rozvinutá fáze technické způsobilosti v daném okamžiku, pokud jde o výrobky, procesy a služby, na základě příslušných konsolidovaných výsledcích vědy, techniky a zkušeností;

Pozměňovací návrh  211

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 n (nový)

Znění navržené Komisí	Pozměňovací návrh
	(44n) „testováním v reálných podmínkách“ dočasné testování systému UI pro jeho určený účel v reálných podmínkách mimo laboratoř nebo jinak simulované prostředí;

Pozměňovací návrh  212

 

Návrh nařízení

Článek 4

Znění navržené Komisí	Pozměňovací návrh
Článek 4	vypouští se
Změny přílohy I
Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem změny seznamu technik a přístupů uvedených v příloze I s cílem tento seznam aktualizovat podle tržního a technologického vývoje na základě vlastností, které jsou podobné technikám a přístupům, jež jsou v něm uvedeny.

Pozměňovací návrh  213

 

Návrh nařízení

Článek 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 4a
	Obecné zásady týkající se všech systémů UI
	1. Všichni provozovatelé, na něž se vztahuje toto nařízení, vynaloží veškeré úsilí na vývoj a používání systémů UI nebo základních modelů v souladu s těmito obecnými zásadami, které stanoví rámec na vysoké úrovni, který podporuje soudržný evropský přístup k etické a důvěryhodné umělé inteligenci zaměřený na člověka, který je plně v souladu s Listinou i s hodnotami, na nichž je Unie založena:
	a) „lidským působením a dohledem“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány jako nástroj, který slouží lidem, respektuje lidskou důstojnost a osobní autonomii a který funguje způsobem, jenž může být ovládán člověkem a kontrolován člověkem,
	b) „technickou robustností a bezpečností“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány takovým způsobem, který minimalizuje nezamýšlenou a neočekávanou újmu, musejí být v případě problémů robustní a odolné vůči pokusům o změnu používání nebo výkonnosti daného systému ze strany nepřátelských třetích stran,
	c) „správou soukromí a dat“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány v souladu se stávajícími pravidly pro ochranu soukromí a osobních údajů a zároveň zpracovávat údaje, které splňují vysoké standardy kvality a integrity,
	d) „transparentností“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány takovým způsobem, který umožňuje jejich příslušné dohledání a vysvětlení, s tím, že si lidé musejí být vědomi toho, že komunikují nebo interagují se systémem umělé inteligence, a musejí být řádně informováni o schopnostech a omezeních daného systému umělé inteligence a dotyčné osoby o svých právech,
	e) „diverzitou, zákazem diskriminace a spravedlností“ se rozumí to, že systémy umělé inteligence musejí být vyvíjeny a používány takovým způsobem, který zahrnuje nejrůznější aktéry a podporuje rovná přístup, rovnost mezi muži a ženami a kulturní rozmanitost a zároveň brání diskriminačnímu působení a nespravedlivé zaujatosti, které jsou podle právních předpisů Unie a členských států zakázány,
	f) „dobrými sociálními a environmentálními podmínkami“ se rozumí to, že systémy umělé inteligence musejí být vyvíjeny a používány udržitelným způsobem šetrným k životnímu prostředí, ve prospěch všech lidí, přičemž je třeba sledovat a posuzovat dlouhodobý dopad na jednotlivce, společnost a demokracii.
	2. Prvním odstavcem nejsou dotčeny povinnosti stanovené v právních předpisech Unie a členských států. U vysoce rizikových systémů UI jsou obecné zásady převedeny do poskytovatelů nebo provozovatelů a jsou jimi dodržovány prostřednictvím požadavků stanovených v článcích 8 až 15 a příslušných povinností stanovených v hlavě III kapitole 3 tohoto nařízení. U základových modelů jsou obecné zásady převedeny do poskytovatelů a jsou jimi dodržovány prostřednictvím požadavků stanovených v článcích 28 až 28b. U všech systémů UI lze zásad uvedených v odstavci 1 případně dosáhnout prostřednictvím ustanovení článků 28 a 52 nebo uplatněním harmonizovaných norem, technických specifikací a kodexů chování podle článku 69, aniž by se vytvářely nové povinnosti podle tohoto nařízení.
	3. Komise a Úřad pro umělou inteligenci začlení tyto hlavní zásady do žádostí o normalizaci, jakož i doporučení sestávající z technických pokynů, které poskytovatelům a provozovatelům pomohou při vývoji a používání systémů UI. Evropské normalizační organizace přihlédnou při vývoji příslušných jednotných norem pro rizikové systémy umělé inteligence, jak je uvedeno v čl. 40 odst. 2b, k obecným zásadám uvedeným v prvním odstavci jako k cílům založeným na výsledcích.

Pozměňovací návrh  214

 

Návrh nařízení

Článek 4 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 4b
	Gramotnost v oblasti umělé inteligence
	1. Při provádění tohoto nařízení Unie a členské státy podporují v zájmu demokratické kontroly systémů UI opatření a nástroje pro rozvoj dostatečné úrovně gramotnosti v oblasti umělé inteligence napříč odvětvími a přihlížejí přitom k odlišným potřebám skupin poskytovatelů, uživatelů a dotčených osob, mimo jiné prostřednictvím vzdělávání a odborné přípravy a kvalifikačních a rekvalifikačních programů, a současně zajišťují náležitou genderovou a věkovou vyváženost.
	2. Poskytovatelé a uživatelé systémů UI podporují nástroje a přijímají opatření k zajištění dostatečné úrovně gramotnosti v oblasti umělé inteligence svých zaměstnanců a všech dalších osob, které se jejich jménem zabývají provozem a používáním systémů UI, přičemž zohledňují jejich technické znalosti, zkušenosti, vzdělání a odbornou přípravu a prostředí, v němž mají být systémy UI používány, a přihlížejí k osobám nebo skupinám osob, na něž mají být systémy UI používány.
	3. Tato opatření v oblasti gramotnosti spočívají zejména ve výuce základních pojmů a dovedností týkajících se systémů UI a jejich fungování, včetně různých druhů produktů a použití, jejich rizik a přínosů.
	4. Úroveň gramotnosti v oblasti umělé inteligence je dostatečná, pokud nezbytně přispívá ke schopnosti poskytovatelů a uživatelů zajistit dodržování a prosazování tohoto nařízení.

Pozměňovací návrh  215

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají podprahových technik mimo vědomí osob s cílem podstatně ovlivnit chování těchto osob tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;	a) uvádění na trh, uvádění do provozu nebo používání systému UI, který používá podprahové techniky mimo vědomí dané osoby nebo záměrně manipulativní či klamavé techniky, s cílem nebo důsledkem podstatného narušení chování osoby nebo skupiny osob tím, že znatelně zhoršuje schopnost dané osoby činit informované rozhodnutí, což vede k tomu, že daná osoba přijme rozhodnutí, které by jinak neučinila způsobem, který této osobě, jiné osobě nebo skupině osob způsobuje nebo pravděpodobně způsobí významnou újmu;
	Zákaz systému UI, který zavádí podprahové techniky, uvedený v prvním pododstavci se nevztahuje na systémy UI určené k použití pro schválené léčebné účely na základě konkrétního informovaného souhlasu jednotlivců, kteří jsou jim vystaveni, nebo případně jejich zákonného opatrovníka;

Pozměňovací návrh  216

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají zranitelnosti určité skupiny osob v důsledku jejich věku nebo tělesného nebo mentálního postižení, s cílem podstatně ovlivnit chování osoby náležející k této skupině tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;	b) uvádění na trh, uvádění do provozu nebo používání systému UI, který využívá kterékoli ze zranitelných míst určité osoby nebo konkrétní skupiny osob, včetně vlastností známých nebo předpokládaných osobnostních znaků této osoby nebo této skupiny nebo věku sociální či ekonomické situace, fyzické nebo duševní způsobilosti s cílem nebo v důsledku podstatného narušení chování této osoby nebo osoby náležející k této skupině způsobem, který této osobě nebo jiné osobě způsobuje nebo může způsobit významnou újmu;

Pozměňovací návrh  217

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) uvádění na trh, uvádění do provozu nebo používání biometrických kategorizačních systémů, které kategorizují fyzické osoby podle citlivých nebo chráněných vlastností nebo charakteristik nebo na základě dovození těchto vlastností nebo charakteristik. Tento zákaz se nevztahuje na systémy UI určené k použití pro schválené léčebné účely na základě konkrétního informovaného souhlasu jednotlivců, na které mají být použity, nebo případně jejich zákonného opatrovníka.

Pozměňovací návrh  218

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. c – návětí

Znění navržené Komisí	Pozměňovací návrh
c) uvádění na trh, uvádění do provozu nebo používání systémů UI orgány veřejné moci nebo jejich jménem pro účely hodnocení nebo klasifikace důvěryhodnosti fyzických osob v určitém časovém úseku na základě jejich sociálního chování nebo známých nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede k jednomu nebo oběma následujícím důsledkům:	c) uvádění na trh, uvádění do provozu nebo používání systémů UI pro účely bodování občanů nebo klasifikace fyzických osob či jejich skupin v určitém časovém úseku na základě jejich sociálního chování nebo známých, dovozovaných nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede k jednomu nebo oběma následujícím důsledkům:

Pozměňovací návrh  219

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. c – bod i

Znění navržené Komisí	Pozměňovací návrh
i) ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny;	(Netýká se českého znění.)

Pozměňovací návrh  220

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d – návětí

Znění navržené Komisí	Pozměňovací návrh
d) používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva, pokud to není nezbytně nutné pro jeden z následujících cílů a jen do té míry, do níž je to nezbytně nutné:	d) používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech;

Pozměňovací návrh  221

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d – bod i

Znění navržené Komisí	Pozměňovací návrh
i) cílené vyhledávání určitých potenciálních obětí trestných činů, včetně pohřešovaných dětí;	vypouští se

Pozměňovací návrh  222

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d – bod ii

Znění navržené Komisí	Pozměňovací návrh
ii) prevenci konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti fyzických osob nebo teroristického útoku;	vypouští se

Pozměňovací návrh  223

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d – bod iii

Znění navržené Komisí	Pozměňovací návrh
iii) odhalování, lokalizaci, identifikaci nebo stíhání pachatelů nebo osob podezřelých z trestného činu uvedeného v čl. 2 odst. 2 rámcového rozhodnutí Rady 2002/584/SVV62, pokud lze tento trestný čin v dotčeném členském státě potrestat trestem odnětí svobody nebo ochranným opatřením spojeným s odnětím osobní svobody s horní hranicí sazby v délce nejméně tři roky, jak je stanoveno v právních předpisech tohoto členského státu.	vypouští se
__________________
62 Rámcové rozhodnutí Rady 2002/584/SVV ze dne 13. června 2002 o evropském zatýkacím rozkazu a postupech předávání mezi členskými státy (Úř. věst. L 190, 18.7.2002, s. 1).

Pozměňovací návrh  224

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d a (nové)

Znění navržené Komisí	Pozměňovací návrh
	da) uvádění na trh, uvádění do provozu nebo používání systému UI k posuzování fyzických osob nebo skupin fyzických osob za účelem posouzení rizika, že fyzická osoba spáchá trestný čin nebo opětovně spáchá trestný čin, nebo k předvídání výskytu nebo opakování skutečného nebo potenciálního trestného činu nebo správního deliktu na základě profilování fyzické osoby nebo na základě posouzení osobnostních rysů a charakteristik, včetně určení lokace osoby, nebo minulého trestného chování fyzických osob nebo skupin fyzických osob;

Pozměňovací návrh  225

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d b (nové)

Znění navržené Komisí	Pozměňovací návrh
	db) uvádění na trh, uvádění do provozu nebo používání systémů UI, které vytvářejí nebo rozšiřují databáze rozpoznávání obličeje prostřednictvím vymazávání zobrazení obličeje z internetu nebo kamerových záznamů;

Pozměňovací návrh  226

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d c (nové)

Znění navržené Komisí	Pozměňovací návrh
	dc) uvádění na trh, uvádění do provozu nebo používání systémů UI k odvození emocí fyzické osoby v oblasti prosazování práva, správy hranic, na pracovišti a vzdělávacích institucích.

Pozměňovací návrh  227

 

Návrh nařízení

Čl. 5 – odst. 1 – písm. d d (nové)

Znění navržené Komisí	Pozměňovací návrh
	dd) uvedení do provozu nebo používání systémů UI pro analýzu záznamů z veřejně přístupných prostorů prostřednictvím systémů „zpětné“ biometrické identifikace na dálku, pokud nepodléhají předsoudnímu povolení v souladu s právem Unie a nejsou nezbytně nutné pro cílené vyhledávání spojené s konkrétním závažným trestným činem ve smyslu čl. 83 odst. 1 SFEU, které se již začalo provádět pro účely vymáhání práva.

Pozměňovací návrh  228

 

Návrh nařízení

Čl. 5 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Tímto článkem nejsou dotčeny zákazy, které se použijí, pokud praxe umělé inteligence porušuje jiné právo Unie, včetně práva Unie v oblasti ochrany údajů, nediskriminace, ochrany spotřebitele nebo hospodářské soutěže;

Pozměňovací návrh  229

 

Návrh nařízení

Čl. 5 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Při používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva pro dosažení kteréhokoli z cílů uvedených v odst. 1 písm. d) je nutno zohlednit následující prvky:	vypouští se
a) povahu situace, která vede k jejich potenciálnímu použití, zejména závažnost, pravděpodobnost a rozsah újmy způsobené v případě, že by systém použit nebyl;
b) důsledky používání systému pro práva a svobody všech dotčených osob, zejména závažnost, pravděpodobnost a rozsah těchto důsledků.
Použití systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva pro dosažení kteréhokoli z cílů uvedených v odst. 1 písm. d) musí být navíc v souladu s nezbytnými a přiměřenými zárukami a podmínkami ve vztahu k tomuto použití, zejména pokud jde o časová, zeměpisná a osobní omezení.

Pozměňovací návrh  230

 

Návrh nařízení

Čl. 5 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Pokud jde o odst. 1 písm. d) a odstavec 2, každé jednotlivé použití systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva podléhá předchozímu povolení ze strany justičního orgánu nebo nezávislého správního orgánu členského státu, ve kterém má k tomuto použití dojít, vydanému na základě odůvodněné žádosti a v souladu s podrobnými pravidly vnitrostátního práva uvedenými v odstavci 4. V řádně odůvodněné naléhavé situaci však může být používání systému zahájeno bez povolení a o povolení lze požádat až v průběhu používání nebo po něm.	vypouští se
Příslušný justiční nebo správní orgán udělí povolení pouze v případě, že je na základě objektivních důkazů nebo jednoznačných údajů, které mu byly předloženy, přesvědčen, že použití dotčeného systému biometrické identifikace na dálku „v reálném čase“ je nezbytné a přiměřené k dosažení jednoho z cílů specifikovaných v odst. 1 písm. d), který je uveden v žádosti. Při rozhodování o žádosti zohlední příslušný justiční nebo správní orgán skutečnosti uvedené v odstavci 2.

Pozměňovací návrh  231

 

Návrh nařízení

Čl. 5 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Členský stát se může rozhodnout, že umožní plně nebo částečně povolit používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva v mezích a za podmínek uvedených v odst. 1 písm. d) a v odstavcích 2 a 3. Daný členský stát stanoví ve svých vnitrostátních právních předpisech nezbytná podrobná pravidla upravující žádosti o povolení uvedená v odstavci 3, vydávání a výkon těchto povolení a dohled nad nimi. Tato pravidla rovněž stanoví, ve vztahu ke kterému cíli uvedenému v odst. 1 písm. d) a ke kterému trestnému činu uvedenému v písmenu iii) tohoto odstavce lze příslušným orgánům povolit používání těchto systémů pro účely prosazování práva.	vypouští se

Pozměňovací návrh  232

 

Návrh nařízení

Čl. 6 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systém UI je určen k použití jako bezpečnostní součást výrobku nebo je sám výrobkem, na který se vztahují harmonizační právní předpisy Unie uvedené v příloze II;	a) systém UI je určen k použití jako bezpečnostní součást výrobku nebo samotný systém UI je produktem, na který se vztahuje harmonizační právo Unie uvedené v příloze II;

Pozměňovací návrh  233

 

Návrh nařízení

Čl. 6 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) na produkt, jehož je daný systém UI bezpečnostní součástí, případně na samotný tento systém UI jako produkt se vztahuje povinnost posouzení shody třetí stranou za účelem uvedení tohoto produktu na trh nebo do provozu podle harmonizačních právních předpisů Unie uvedených v příloze II.	b) na produkt, jehož je daný systém UI bezpečnostní součástí ve smyslu písm. a), případně na samotný tento systém UI jako produkt se vztahuje povinnost posouzení shody třetí stranou v souvislosti s riziky pro zdraví a bezpečnost za účelem uvedení tohoto produktu na trh nebo do provozu podle harmonizačního práva Unie uvedeného v příloze II;

Pozměňovací návrh  234

 

Návrh nařízení

Čl. 6 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Kromě vysoce rizikových systémů UI uvedených v odstavci 1 jsou za vysoce rizikové považovány také systémy UI uvedené v příloze III.	2. Kromě vysoce rizikových systémů UI uvedených v odstavci 1 jsou za vysoce rizikové považovány systémy UI, které spadají do jedné nebo více kritických oblastí a případů použití a jsou uvedeny v příloze III, pokud představují významné riziko poškození zdraví, bezpečnosti nebo základních práv fyzických osob. Pokud systém UI spadá do přílohy III bodu 2, považuje se za vysoce rizikový, pokud představuje významné riziko poškození životního prostředí.
	Šest měsíců před vstupem tohoto nařízení v platnost poskytne Komise po konzultaci s Úřadem pro UI a příslušnými zúčastněnými stranami pokyny, v nichž jasně upřesní okolnosti, za nichž by výstup systémů UI uvedených v příloze III představoval významné riziko poškození zdraví, bezpečnosti nebo základních práv fyzických osob, nebo případy, kdy by tomu tak nebylo.

Pozměňovací návrh  235

 

Návrh nařízení

Čl. 6 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Pokud se poskytovatelé spadající do jedné nebo více kritických oblastí a případů použití uvedených v příloze III domnívají, že jejich systém UI nepředstavuje významné riziko, jak je popsáno v odstavci 2, předloží vnitrostátnímu dozorovému úřadu odůvodněné oznámení, že se na ně nevztahují požadavky hlavy III kapitoly 2 tohoto nařízení. Má-li být systém UI používán ve dvou nebo více členských státech, je toto oznámení zasláno Úřadu pro UI. Aniž je dotčen článek 65, vnitrostátní dozorový orgán oznámení přezkoumá a odpoví na ně, a to přímo nebo prostřednictvím Úřadu pro UI, do tří měsíců, pokud se domnívají, že systém UI byl nesprávně klasifikován.

Pozměňovací návrh  236

 

Návrh nařízení

Čl. 6 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2b. Poskytovatelé, kteří nesprávně klasifikují svůj systém UI jako systém, na který se nevztahují požadavky hlavy III kapitoly 2 tohoto nařízení, a uvádějí jej na trh před uplynutím lhůty pro podání námitek vnitrostátními dozorovými orgány, podléhají pokutám podle článku 71.

Pozměňovací návrh  237

 

Návrh nařízení

Čl. 6 – odst. 2 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	2c. Vnitrostátní dozorové orgány předkládají Úřadu pro UI výroční zprávu, v níž uvedou počet obdržených oznámení, související vysoce rizikové oblasti a rozhodnutí přijatá v souvislosti s obdrženými oznámeními.

Pozměňovací návrh  238

 

Návrh nařízení

Čl. 7 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace seznamu v příloze III přidáním vysoce rizikových systémů UI, pokud jsou splněny obě tyto podmínky:	1. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem změny přílohy III doplněním nebo změnou oblastí nebo případů použití vysoce rizikových systémů UI, pokud tyto systémy představují významné riziko poškození zdraví a bezpečnosti nebo nepříznivého dopadu na základní práva, životní prostředí nebo demokracii a právní stát, a pokud jde o závažnost a pravděpodobnost výskytu, je toto riziko rovnocenné riziku újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI již uvedené v příloze III, nebo vyšší než riziko újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI již uvedené v příloze III.

Pozměňovací návrh  239

 

Návrh nařízení

Čl. 7 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI jsou určeny pro použití v kterékoli z oblastí uvedených v bodech 1 až 8 přílohy III;	vypouští se

Pozměňovací návrh  240

 

Návrh nařízení

Čl. 7 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) systémy UI představují riziko újmy na zdraví a bezpečnosti nebo riziko nepříznivého dopadu na základní práva, které je z hlediska závažnosti a pravděpodobnosti výskytu stejné nebo větší než riziko újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI, jež jsou již uvedeny v příloze III.	vypouští se

Pozměňovací návrh  241

 

Návrh nařízení

Čl. 7 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Komisi je rovněž svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem odstranění případů použití vysoce rizikových systémů UI ze seznamu v příloze III, pokud již neplatí podmínky uvedené v odstavci 1;

Pozměňovací návrh  242

 

Návrh nařízení

Čl. 7 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Při posuzování toho, zda systém UI představuje riziko újmy na zdraví a bezpečnosti nebo riziko nepříznivého dopadu na základní práva stejné nebo větší než riziko újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI, jež jsou již uvedeny v příloze III, pro účely odstavce 1, zohlední Komise tato kritéria:	2. Při posuzování systému UI pro účely odstavců 1 a 1a zohlední Komise tato kritéria:

Pozměňovací návrh  243

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) obecné schopnosti a funkce systému umělé inteligence bez závislosti na jeho určeném účelu;

Pozměňovací návrh  244

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) druh a množství údajů zpracovávaných a používaných systémem UI;

Pozměňovací návrh  245

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. b b (nové)

Znění navržené Komisí	Pozměňovací návrh
	bb) to, do jaké míry systém umělé inteligence jedná autonomně;

Pozměňovací návrh  246

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) do jaké míry již používání systému UI způsobilo újmu na zdraví a bezpečnosti nebo nepříznivý dopad na základní práva nebo vzbudilo významné obavy ohledně toho, že by k této újmě nebo nepříznivému dopadu mohlo dojít, jak vyplývá ze zpráv nebo zdokumentovaných obvinění předložených příslušným vnitrostátním orgánům;	c) do jaké míry již používání systému UI způsobilo újmu na zdraví a bezpečnosti, mělo nepříznivý dopad na základní práva, životní prostředí, demokracii a právní stát nebo vzbudilo významné obavy ohledně pravděpodobnosti takové újmy nebo nepříznivého dopadu, jak vyplývá například ze zpráv nebo zdokumentovaných obvinění předložených vnitrostátním dozorovým orgánům, Komisi, Úřadu pro UI, evropskému inspektorovi ochrany údajů nebo Agentuře Evropské unie pro základní práva;

Pozměňovací návrh  247

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) potenciální rozsah této újmy nebo nepříznivého dopadu, zejména pokud jde o jejich intenzitu a schopnost ovlivnit více osob;	d) potenciální rozsah této újmy nebo nepříznivého dopadu, zejména pokud jde o jejich intenzitu a schopnost ovlivnit více osob nebo nepřiměřeně ovlivnit určitou skupinu osob;

Pozměňovací návrh  248

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) do jaké míry jsou osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, závislé na výsledku vytvořeném pomocí systému UI zejména proto, že z praktických nebo právních důvodů není přiměřeně možné odmítnout účast na tomto výsledku;	e) do jaké míry jsou osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, závislé na výsledku vytvořeném se zapojením systému UI, kdy tento výsledek je čistě doplňkový, pokud jde o příslušné opatření nebo rozhodnutí, které má být přijato, zejména proto, že z praktických nebo právních důvodů není přiměřeně možné odmítnout účast na tomto výsledku;

Pozměňovací návrh  249

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. e a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ea) možné zneužití a využívání systému UI a technologie, na níž je založen, k nekalým účelům;

Pozměňovací návrh  250

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. f

Znění navržené Komisí	Pozměňovací návrh
f) do jaké míry se osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, nacházejí ve zranitelném postavení ve vztahu k danému uživateli systému UI, zejména v důsledku nerovnováhy sil, znalostí, ekonomických nebo sociálních podmínek nebo věku;	f) do jaké míry existuje nerovnováha moci, do jaké míry se osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, nacházejí ve zranitelném postavení ve vztahu k danému uživateli systému UI, zejména v důsledku postavení, autority, znalostí, ekonomických nebo sociálních podmínek nebo věku;

Pozměňovací návrh  251

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) do jaké míry je výsledek vytvořený systémem UI snadno zvrátitelný, přičemž výsledky, které mají dopad na zdraví nebo bezpečnost osob, se za snadno zvrátitelné nepovažují;	g) do jaké míry je výsledek vytvořený se zapojením systému UI snadno zvrátitelný nebo napravitelný, přičemž výsledky, které mají nepříznivý dopad na zdraví, bezpečnost  a základní práva osob, životní prostředí nebo na demokracii a právní stát, se za snadno zvrátitelné nepovažují;

Pozměňovací návrh  252

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. g a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ga) rozsah dostupnosti a využití účinných technických řešení a mechanismů pro kontrolu, spolehlivost a napravitelnost systému UI;

Pozměňovací návrh  253

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. g b (nové)

Znění navržené Komisí	Pozměňovací návrh
	gb) rozsah a pravděpodobnost přínosu zavedení systému UI pro jednotlivce, skupiny nebo společnost obecně, včetně možného zlepšení bezpečnosti výrobků;

Pozměňovací návrh  254

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. g c (nové)

Znění navržené Komisí	Pozměňovací návrh
	gc) rozsah lidského dohledu a možnost, aby člověk zasáhl a zvrátil rozhodnutí nebo doporučení, která mohou vést k potenciální újmě;

Pozměňovací návrh  255

 

Návrh nařízení

Čl. 7 – odst. 2 – písm. h

Znění navržené Komisí	Pozměňovací návrh
i) účinná nápravná opatření ve vztahu k rizikům, která daný systém UI představuje, s výjimkou nároků na náhradu škody;	h) do jaké míry stávající právní předpisy Unie stanoví:
	i) účinná nápravná opatření ve vztahu ke škodám způsobeným systémem UI, s výjimkou nároků na náhradu přímé nebo nepřímé škody;
	ii) účinná opatření vedoucí k prevenci nebo podstatné minimalizaci těchto rizik.

Pozměňovací návrh  256

 

Návrh nařízení

Čl. 7 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Při posuzování systému UI pro účely odstavců 1 nebo 1a Komise konzultuje Úřad pro UI a případně zástupce skupin, na něž má systém UI dopad, průmysl, nezávislé odborníky, sociální partnery a organizace občanské společnosti. Komise v tomto ohledu rovněž organizuje veřejné konzultace a výsledky těchto konzultací a závěrečného posouzení zveřejní;

Pozměňovací návrh  257

 

Návrh nařízení

Čl. 7 – odst. 2 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	2b. Úřad pro UI, vnitrostátní dozorové orgány nebo Evropský parlament mohou požádat Komisi, aby přehodnotila a překvalifikovala kategorizaci rizik systému UI v souladu s odstavci 1 a 1a. Komise své rozhodnutí odůvodní a zveřejní.

Pozměňovací návrh  258

 

Návrh nařízení

Čl. 8 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Při plnění požadavku stanoveného v této kapitole se náležitě zohlední pokyny vypracované podle článku 82b, obecně uznávaný nejnovější vývoj, včetně toho, co je uvedeno v příslušných harmonizovaných normách a společných specifikacích uvedených v článcích 40 a 41 nebo již stanoveno v harmonizačních právních předpisech Unie;

Pozměňovací návrh  259

 

Návrh nařízení

Čl. 8 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Při zajišťování souladu s těmito požadavky se zohlední určený účel daného vysoce rizikového systému UI a systém řízení rizik uvedený v článku 9.	2. Při zajišťování souladu s těmito požadavky se zohlední určený účel daného vysoce rizikového systému UI, rozumně předvídatelná zneužití a systém řízení rizik uvedený v článku 9.

Pozměňovací návrh  260

 

Návrh nařízení

Čl. 8 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Pokud jsou požadavky hlavy III kapitol 2 a 3 nebo hlavy VIII kapitol 1, 2 a 3 na vysoce rizikové systémy UI upraveny v harmonizačních právních předpisech Unie uvedených v příloze II oddíle A, považují se požadavky nebo povinnosti uvedené v těchto kapitolách tohoto nařízení za splněné, pokud zahrnují složku UI. Požadavky hlavy III kapitol 2 a 3 nebo hlavy VIII kapitol 1, 2 a 3 na vysoce rizikové systémy UI, které nejsou upraveny harmonizačními právními předpisy Unie uvedenými v příloze II oddíle A, se případně začlení do tohoto harmonizačního práva Unie. Příslušné posouzení shody se provádí v rámci postupů stanovených harmonizačními právními předpisy Unie uvedenými v příloze II oddíle A.

Pozměňovací návrh  261

 

Návrh nařízení

Čl. 9 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Ve vztahu k vysoce rizikovým systémům UI bude zaveden, uplatňován, zdokumentován a udržován systém řízení rizik.	1. Ve vztahu k vysoce rizikovým systémům UI bude zaveden, uplatňován, zdokumentován a udržován systém řízení rizik, a to po celou dobu jeho životního cyklu. Systém řízení rizik může být začleněn do již existujících postupů řízení rizik týkajících se příslušných odvětvových právních předpisů Unie nebo jejich části, pokud splňuje požadavky tohoto článku.

Pozměňovací návrh  262

 

Návrh nařízení

Čl. 9 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Systém řízení rizik spočívá v nepřetržitém opakujícím se procesu prováděném v rámci celého životního cyklu vysoce rizikového systému UI, který vyžaduje pravidelnou systematickou aktualizaci. Zahrnuje následující kroky:	2. Systém řízení rizik spočívá v nepřetržitém opakujícím se procesu prováděném v rámci celého životního cyklu vysoce rizikového systému UI, který vyžaduje pravidelný přezkum a pravidelnou aktualizaci procesu řízení rizik s cílem zajistit jeho trvalou účinnost a dokumentaci všech významných rozhodnutí a opatření přijatých podle tohoto článku. Zahrnuje následující kroky:

Pozměňovací návrh  263

 

Návrh nařízení

Čl. 9 – odst. 2 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) identifikaci a analýzu známých a předvídatelných rizik souvisejících s jednotlivými vysoce rizikovými systémy UI;	a) identifikaci, odhad a hodnocení známých a rozumně předvídatelných rizik, která může vysoce rizikový systém UI představovat pro zdraví nebo bezpečnost fyzických osob, jejich základní práva, včetně rovného přístupu a příležitostí, demokracie a právního státu nebo prostředí, pokud je vysoce rizikový systém UI používán v souladu se svým zamýšleným účelem a za podmínek důvodně předvídatelného zneužití;

Pozměňovací návrh  264

 

Návrh nařízení

Čl. 9 – odst. 2 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) odhad a vyhodnocení rizik, která mohou vzniknout, když je vysoce rizikový systém UI používán v souladu s určeným účelem a za podmínek důvodně předvídatelného nesprávného použití;	vypouští se

Pozměňovací návrh  265

 

Návrh nařízení

Čl. 9 – odst. 2 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) hodnocení dalších rizik, která mohou potenciálně vzniknout, na základě analýzy shromážděných údajů ze systému monitorování po uvedení na trh uvedeného v článku 61;	c) hodnocení nově vznikajících významných rizik popsaných v písmenu a) a zjištěných na základě analýzy shromážděných údajů ze systému monitorování po uvedení na trh uvedeného v článku 61;

Pozměňovací návrh  266

 

Návrh nařízení

Čl. 9 – odst. 2 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) přijetí vhodných opatření k řízení rizik v souladu s ustanoveními následujících odstavců.	d) přijetí náležitých a cílených opatření k řízení rizik určených k řešení rizik zjištěných podle písmen a) a b) tohoto odstavce v souladu s ustanoveními následujících odstavců

Pozměňovací návrh  267

 

Návrh nařízení

Čl. 9 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Opatření k řízení rizik uvedená v odst. 2 písm. d) věnují náležitou pozornost účinkům a možným interakcím vyplývajícím z kombinovaného uplatňování požadavků stanovených v této kapitole 2. Zohledňují obecně uznávaný nejnovější vývoj, včetně toho, jak se odráží v příslušných harmonizovaných normách nebo společných specifikacích.	3. Opatření k řízení rizik uvedená v odst. 2 písm. d) věnují náležitou pozornost účinkům a možným interakcím vyplývajícím z kombinovaného uplatňování požadavků stanovených v této kapitole 2 s cílem účinně mírnit rizika a současně zajistit vhodné a přiměřené uplatňování požadavků.

Pozměňovací návrh  268

 

Návrh nařízení

Čl. 9 – odst. 4 – návětí

Znění navržené Komisí	Pozměňovací návrh
4. Opatření k řízení rizik uvedená v odst. 2 písm. d) musí být taková, aby bylo jakékoli zbytkové riziko spojené s každým nebezpečím a rovněž celkové zbytkové riziko vysoce rizikových systémů UI považováno za přijatelné za předpokladu, že je daný vysoce rizikový systém UI používán v souladu s určeným zamýšleným účelem nebo za podmínek důvodně předvídatelného nesprávného použití. Uživatel je o těchto zbytkových rizicích informován.	4. Opatření k řízení rizik uvedená v odst. 2 písm. d) musí být taková, aby bylo relevantní zbytkové riziko spojené s každým nebezpečím a rovněž celkové zbytkové riziko vysoce rizikových systémů UI důvodně považováno za přijatelné za předpokladu, že je daný vysoce rizikový systém UI používán v souladu s určeným zamýšleným účelem nebo za podmínek důvodně předvídatelného nesprávného použití. Provozovatel je o těchto zbytkových rizicích a o odůvodněných posouzeních informován. .
	Při určování nejvhodnějších opatření k řízení rizik je třeba zajistit:

Pozměňovací návrh  269

 

Návrh nařízení

Čl. 9 – odst. 4 – pododstavec 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) vyloučení rizik nebo jejich snížení na nejnižší možnou míru prostřednictvím bezpečného návrhu a vývoje;	a) vyloučení zjištěných rizik nebo jejich snížení, pokud je to technicky proveditelné, prostřednictvím bezpečného návrhu a vývoje vysoce rizikového systému UI, případně se zapojením odborníků a externích zúčastněných stran;

Pozměňovací návrh  270

 

Návrh nařízení

Čl. 9 – odst. 4 – pododstavec 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) ve vhodných případech zavedení odpovídajících zmírňujících a kontrolních opatření, pokud jde o rizika, která nelze vyloučit;	b) ve vhodných případech zavedení odpovídajících zmírňujících a kontrolních opatření zaměřených na významná rizika, která nelze vyloučit;

Pozměňovací návrh  271

 

Návrh nařízení

Čl. 9 – odst. 4 – pododstavec 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) poskytování odpovídajících informací podle článku 13, zejména pokud jde o rizika uvedená v odst. 2 písm. b) tohoto článku, a v případě potřeby zajistit pro uživatele školení.	c) poskytování požadovaných informací podle článku 13 a v případě potřeby zajistit pro provozovatele školení.

Pozměňovací návrh  272

 

Návrh nařízení

Čl. 9 – odst. 4 – pododstavec 2

Znění navržené Komisí	Pozměňovací návrh
Při vylučování nebo snižování rizik souvisejících s používáním daného vysoce rizikového systému UI by měly být náležitě zváženy technické znalosti, zkušenosti, vzdělání, školení, které může uživatel očekávat, a případně prostředí, ve kterém má být systém používán.	Při vylučování nebo snižování rizik souvisejících s používáním daného vysoce rizikového systému UI poskytovatelé náležitě zohlední technické znalosti, zkušenosti, vzdělání a školení, které může provozovatel potřebovat, a to i v souvislosti s předpokládaným kontextem použití.

Pozměňovací návrh  273

 

Návrh nařízení

Čl. 9 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Vysoce rizikové systémy UI jsou testovány za účelem identifikace nejvhodnějších opatření k řízení rizik. Testování zajistí, aby vysoce rizikové systémy UI podávaly výkony konzistentní s jejich určeným účelem a aby byly v souladu s požadavky stanovenými v této kapitole.	5. Vysoce rizikové systémy UI jsou testovány za účelem identifikace nejvhodnějších a nejlépe cílených opatření k řízení rizik a zvážení veškerých takových opatření z hlediska potenciálních přínosů a zamýšlených cílů systému. Testování zajistí, aby vysoce rizikové systémy UI podávaly výkony konzistentní s jejich určeným účelem a aby byly v souladu s požadavky stanovenými v této kapitole.

Pozměňovací návrh  274

 

Návrh nařízení

Čl. 9 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Zkušební postupy musí být vhodné k dosažení určeného účelu systému UI a nemusí překračovat rámec toho, co je pro dosažení tohoto účelu nezbytné.	6. Zkušební postupy musí být vhodné k dosažení určeného účelu systému UI.

Pozměňovací návrh  275

 

Návrh nařízení

Čl. 9 – odst. 7

Znění navržené Komisí	Pozměňovací návrh
7. Testování vysoce rizikových systémů UI se provádí podle potřeby kdykoli v průběhu celého procesu vývoje a v každém případě před uvedením na trh nebo do provozu. Testování musí být provedeno na základě předem definovaných měřítek a pravděpodobnostních prahových hodnot, které jsou vhodné pro určený účel vysoce rizikového systému UI.	7. Testování vysoce rizikových systémů UI se provádí před uvedením na trh nebo do provozu. Testování musí být provedeno na základě předem definovaných měřítek a pravděpodobnostních prahových hodnot, které jsou vhodné pro určený účel nebo důvodně předvídatelné zneužití vysoce rizikového systému UI.

Pozměňovací návrh  276

 

Návrh nařízení

Čl. 9 – odst. 8

Znění navržené Komisí	Pozměňovací návrh
8. Při zavádění systému řízení rizik popsaného v odstavcích 1 až 7 je třeba věnovat zvláštní pozornost tomu, zda je pravděpodobné, že k danému vysoce rizikovému systému UI budou mít přístup děti nebo zda bude mít na ně dopad.	8. Při zavádění systému řízení rizik popsaného v odstavcích 1 až 7 poskytovatelé zvláště zváží, zda je pravděpodobné, že vysoce rizikový systém UI bude mít nepříznivý dopad na zranitelné skupiny osob nebo dětí.

Pozměňovací návrh  277

 

Návrh nařízení

Čl. 9 – odst. 9

Znění navržené Komisí	Pozměňovací návrh
9. U úvěrových institucí podléhajících směrnici 2013/36/EU jsou aspekty popsané v odstavcích 1 až 8 součástí postupů pro řízení rizik stanovených těmito institucemi podle článku 74 uvedené směrnice.	9. U poskytovatelů a systémů UI, na které se již vztahuje právo Unie, jež od nich vyžaduje, aby zavedli zvláštní řízení rizik, včetně úvěrových institucí podléhajících směrnici 2013/36/EU, jsou aspekty popsané v odstavcích 1 až 8 součástí postupů pro řízení rizik stanovených tímto právem Unie nebo jsou s těmito postupy kombinovány.

Pozměňovací návrh  278

 

Návrh nařízení

Čl. 10 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Vysoce rizikové systémy UI, které využívají techniky zahrnující trénování modelů obsahujících data, jsou vyvíjeny na základě souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat, které splňují kritéria kvality uvedená v odstavcích 2 až 5.	1. Vysoce rizikové systémy UI, které využívají techniky zahrnující trénování modelů obsahujících data, jsou vyvíjeny na základě souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat, které splňují kritéria kvality uvedená v odstavcích 2 až 5, pokud je to technicky proveditelné podle konkrétního segmentu trhu nebo oblasti působnosti.
	Techniky, které nevyžadují značené vstupní údaje, jako je učení bez učitele a posilované učení, se vyvinou na základě souborů údajů, jako jsou soubory pro testování a ověřování, které splňují kritéria kvality uvedená v odstavcích 2 až 5.

Pozměňovací návrh  279

 

Návrh nařízení

Čl. 10 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat podléhají příslušným postupům v oblasti správy a řízení dat. Tyto postupy se týkají zejména:	2. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat podléhají správě dat odpovídající kontextu použití, jakož i zamýšlenému účelu systému UI. Tato opatření se týkají zejména:

Pozměňovací návrh  280

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) transparentnosti, pokud jde o původní účel sběru dat;

Pozměňovací návrh  281

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) sběru dat;	b) postupů při sběru dat;

Pozměňovací návrh  282

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) příslušných operací zpracování přípravy dat, jako jsou anotace, označování, čištění, obohacování a agregace;	c) operací zpracování přípravy dat, jako jsou anotace, označování, čištění, aktualizace obohacování a agregace;

Pozměňovací návrh  283

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) formulace příslušných předpokladů, zejména s ohledem na informace, které mají daná data měřit a představovat;	d) formulace předpokladů, zejména s ohledem na informace, které mají daná data měřit a představovat;

Pozměňovací návrh  284

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) předchozího posouzení dostupnosti, množství a vhodnosti potřebných souborů dat;	e) posouzení dostupnosti, množství a vhodnosti potřebných souborů dat;

Pozměňovací návrh  285

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. f

Znění navržené Komisí	Pozměňovací návrh
f) zkoumání s ohledem na potenciální zkreslení;	f) zkoumání s ohledem na potenciální zkreslení, která by mohla ovlivnit zdraví a bezpečnost osob, negativně ovlivnit základní práva nebo vést k diskriminaci, která je zakázána podle práva Unie, zejména pokud výstupy dat ovlivňují vstupy pro budoucí operace („smyčky zpětné vazby“), a vhodná opatření k odhalování, prevenci a zmírňování potenciálních zkreslení;

Pozměňovací návrh  286

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. f a (nové)

Znění navržené Komisí	Pozměňovací návrh
	fa) vhodných opatření k odhalení a zmírnění potenciálních zkreslení a k předcházení takovým zkreslením;

Pozměňovací návrh  287

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) identifikace případných nedostatků nebo chyb v datech a způsob, jak tyto nedostatky a chyby vyřešit.	g) identifikace příslušných nedostatků nebo chyb v datech, které brání dodržování tohoto nařízení, a způsob, jak tyto nedostatky a chyby vyřešit;

Pozměňovací návrh  288

 

Návrh nařízení

Čl. 10 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat musí být relevantní, reprezentativní, bez chyb a úplné. Musí mít příslušné statistické vlastnosti a tam, kde je to relevantní, rovněž s ohledem na osoby nebo skupiny osob, pro které má být daný vysoce rizikový systém UI používán. Tyto vlastnosti souborů dat lze splnit na úrovni jednotlivých souborů dat nebo jejich kombinací.	3. Soubory tréninkových dat a v případech, kdy se používají, pak i soubory dat pro ověřování platnosti a testovacích dat, včetně označování, musí být relevantní, dostatečné reprezentativní, náležitě prověřené z hlediska chyb a musí být co nejúplnější s ohledem na určený účel. Musí mít příslušné statistické vlastnosti a tam, kde je to relevantní, rovněž s ohledem na osoby nebo skupiny osob, v souvislosti s nimiž má být daný vysoce rizikový systém UI používán. Tyto vlastnosti souborů dat musí být splněny na úrovni jednotlivých souborů dat nebo jejich kombinací.

Pozměňovací návrh  289

 

Návrh nařízení

Čl. 10 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat zohledňují v rozsahu nezbytném pro jejich určený účel vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální nebo funkční prostředí ve kterém má být daný vysoce rizikový systém UI používán.	4. Soubory dat zohledňují v rozsahu nezbytném pro jejich určený účel nebo rozumně předvídatelné zneužití systému UI vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, kontextové, behaviorální nebo funkční prostředí, ve kterém má být daný vysoce rizikový systém UI používán.

Pozměňovací návrh  290

 

Návrh nařízení

Čl. 10 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Pokud je to nezbytně nutné pro zajištění monitorování, detekce a oprav zkreslení ve vztahu k vysoce rizikovým systémům UI, mohou poskytovatelé těchto systémů zpracovávat zvláštní kategorie osobních údajů uvedené v čl. 9 odst. 1 nařízení (EU) 2016/679, v článku 10 směrnice (EU) 2016/680 a v čl. 10 odst. 1 nařízení (EU) 2018/1725 s výhradou vhodných záruk týkajících se základních práv a svobod fyzických osob, včetně technických omezení opakovaného používání a používání nejmodernějších opatření v oblasti bezpečnosti a ochrany soukromí, jako je pseudonymizace nebo šifrování v případech, kdy anonymizace může významně ovlivnit sledovaný účel.	5. Pokud je to nezbytně nutné pro zajištění detekce a oprav negativního zkreslení ve vztahu k vysoce rizikovým systémům UI, mohou poskytovatelé těchto systémů výjimečně zpracovávat zvláštní kategorie osobních údajů uvedené v čl. 9 odst. 1 nařízení (EU) 2016/679, článku 10 směrnice (EU) 2016/680 a čl. 10 odst. 1 nařízení (EU) 2018/1725, s výhradou vhodných záruk týkajících se základních práv a svobod fyzických osob, včetně technických omezení opakovaného používání a používání nejmodernějších opatření v oblasti bezpečnosti a ochrany soukromí. K tomu, aby k tomuto zpracování došlo, musí platit zejména všechny tyto podmínky: a) detekce a opravy zkreslení nelze účinně provést zpracováním syntetických nebo anonymizovaných údajů;
	b) údaje jsou pseudonymizovány;
	c) poskytovatel přijme vhodná technická a organizační opatření k zajištění toho, aby údaje zpracovávané pro účely tohoto odstavce byly zabezpečeny a chráněny, a to s výhradou vhodných záruk, a aby pouze oprávněné osoby měly přístup k těmto údajům s odpovídajícími povinnostmi zachovávat důvěrnost;
	d) údaje zpracovávané pro účely tohoto odstavce nesmějí být přenášeny, převáděny nebo jinak zpřístupněny jiným stranám;
	e) údaje zpracovávané pro účely tohoto odstavce jsou chráněny vhodnými technickými a organizačními opatřeními a vymazány, jakmile bylo zkreslení opraveno nebo po uplynutí doby uchovávání osobních údajů;
	f) jsou zavedena účinná a vhodná opatření k zajištění dostupnosti, bezpečnosti a odolnosti systémů a služeb zpracování proti technickým nebo fyzickým incidentům;
	g) jsou zavedena účinná a vhodná opatření k fyzickému zabezpečení míst, kde jsou údaje uchovávány a zpracovávány, a k zajištění vnitřního řízení IT systémů a jejich bezpečnosti a certifikace procesů a produktů.
	Poskytovatelé využívající tohoto ustanovení vypracují dokumentaci vysvětlující, proč bylo zpracování zvláštních kategorií osobních údajů nezbytné k detekci a opravě zkreslení.

Pozměňovací návrh  291

 

Návrh nařízení

Čl. 10 – odst. 6 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	6a. Pokud poskytovatel nemůže splnit povinnosti stanovené v tomto článku, protože tento poskytovatel nemá přístup k datům a data má výhradně provozovatel, může být provozovatel na základě smlouvy odpovědný za jakékoli porušení tohoto článku.

Pozměňovací návrh  292

 

Návrh nařízení

Čl. 11 – odst. 1 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Technická dokumentace musí být vypracována tak, aby prokazovala, že daný vysoce rizikový systém UI splňuje požadavky stanovené v této kapitole, a aby poskytovala příslušným vnitrostátním orgánům a oznámeným subjektům veškeré informace nezbytné k posouzení souladu systému UI s těmito požadavky. Obsahuje přinejmenším prvky uvedené v příloze IV.	Technická dokumentace musí být vypracována tak, aby prokazovala, že daný vysoce rizikový systém UI splňuje požadavky stanovené v této kapitole, a aby poskytovala dozorovým vnitrostátním orgánům a oznámeným subjektům informace nezbytné k posouzení souladu systému UI s těmito požadavky. Obsahuje přinejmenším prvky uvedené v příloze IV nebo v případě malých a středních podniků a začínajících podniků (startupů) jakoukoli rovnocennou dokumentaci, která splňuje stejné cíle a kterou schválil příslušný vnitrostátní orgán.

Pozměňovací návrh  293

 

Návrh nařízení

Čl. 11 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Pokud je uváděn na trh nebo do provozu vysoce rizikový systém UI související s produktem, na který se vztahují právní akty uvedené v příloze II oddíle A, musí být vypracována jediná technická dokumentace obsahující všechny informace uvedené v příloze IV, jakož i informace požadované podle těchto právních aktů.	2. Pokud je uváděn na trh nebo do provozu vysoce rizikový systém UI související s produktem, na který se vztahují právní akty uvedené v příloze II oddíle A, musí být vypracována jediná technická dokumentace obsahující všechny informace uvedené v odstavci 1, jakož i informace požadované podle těchto právních aktů.

Pozměňovací návrh  294

 

Návrh nařízení

Čl. 11 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Poskytovatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, vedou technickou dokumentaci jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.

Pozměňovací návrh  295

 

Návrh nařízení

Čl. 12 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby v průběhu své činnosti umožňovaly automatické zaznamenávání událostí („protokoly“). Tyto možnosti vedení protokolů musí být v souladu s uznávanými normami nebo společnými specifikacemi.	1. Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby v průběhu své činnosti umožňovaly automatické zaznamenávání událostí („protokoly“). Tyto možnosti vedení protokolů musí být v souladu s nejnovějším vývojem a s uznávanými normami nebo společnými specifikacemi.

Pozměňovací návrh  296

 

Návrh nařízení

Čl. 12 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Schopnosti vedení protokolů zajistí úroveň sledovatelnosti fungování systému UI v průběhu jeho životního cyklu, která odpovídá určenému účelu tohoto systému.	2. Aby byla zajištěna úroveň sledovatelnosti fungování systému UI v průběhu celé doby jeho životnosti, která odpovídá určenému účelu tohoto systému, usnadní možnosti vedení protokolů monitorování operací podle čl. 29 odst. 4, jakož i monitorování po uvedení na trh uvedené v článku 61. Zejména umožní zaznamenávání událostí významných pro zjištění situací, které mohou:
	a) vést k tomu, že systém UI představuje riziko ve smyslu čl. 65 odst. 1; nebo
	b) vést k podstatné změně systému UI.

Pozměňovací návrh  297

 

Návrh nařízení

Čl. 12 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby možnosti vedení protokolů umožňovaly zaznamenávání spotřeby energie, měření nebo výpočet využívání zdrojů a dopadu vysoce rizikového systému UI na životní prostředí ve všech fázích životního cyklu systému.

Pozměňovací návrh  298

 

Návrh nařízení

Čl. 12 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Schopnosti vedení protokolů umožňují zejména monitorování činnosti vysoce rizikového systému UI ve vztahu k výskytu situací, které mohou vést k tomu, že daný systém UI bude představovat riziko ve smyslu čl. 65 odst. 1, nebo které mohou vést k podstatné změně, a usnadňují monitorování po uvedení na trh uvedené v článku 61.	vypouští se

Pozměňovací návrh  299

 

Návrh nařízení

Čl. 13 – název

Znění navržené Komisí	Pozměňovací návrh
Transparentnost a poskytování informací uživatelům	Transparentnost a poskytování informací

Pozměňovací návrh  300

 

Návrh nařízení

Čl. 13 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby bylo jejich fungování dostatečně transparentní a uživatelům umožňovalo interpretovat výstup systému a vhodně jej používat. Je zajištěn vhodný typ a stupeň transparentnosti s cílem dosáhnout souladu s příslušnými povinnostmi uživatele a poskytovatele stanovenými v kapitole 3 této hlavy.	1. Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby bylo jejich fungování dostatečně transparentní a poskytovatelům i uživatelům umožňovalo přiměřeně porozumět fungování systému. V souladu s určeným účelem systému UI je zajištěna odpovídající transparentnost s cílem dosáhnout souladu s příslušnými povinnostmi poskytovatele a uživatele stanovenými v kapitole 3 této hlavy.
	Transparentnost znamená, že v okamžiku, kdy je vysoce rizikový systém UI uveden na trh, se používají všechny dostupné technické prostředky odpovídající obecně uznávanému nejnovějšímu vývoji s cílem zajistit, aby byly výstupy systému UI poskytovatelem i uživatelem interpretovatelné. Uživateli musí být umožněno systém UI náležitě chápat a používat, a to na základě obecných vědomostí o tom, jak systém UI funguje a jaká data zpracovává, aby mohl vysvětlit rozhodnutí přijatá systémem UI dotčené osobě podle čl. 68 písm. c).

Pozměňovací návrh  301

 

Návrh nařízení

Čl. 13 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Vysoce rizikové systémy UI musí být opatřeny návodem k použití ve vhodném digitálním nebo jiném formátu, který obsahuje stručné, úplné, správné a jasné informace, které jsou pro uživatele relevantní, přístupné a srozumitelné.	2. Vysoce rizikové systémy UI musí být opatřeny srozumitelným návodem k použití ve vhodném digitálním formátu nebo ve formátu, jenž jej jiným způsobem zpřístupní na trvalém nosiči, který obsahuje stručné, správné, jasné a pokud možno úplné informace, jež pomáhají provozovat a udržovat systém UI, podporují informované rozhodování uživatelů a jsou pro uživatele přiměřeně relevantní, přístupné a srozumitelné.

Pozměňovací návrh  302

 

Návrh nařízení

Čl. 13 – odst. 3 – návětí

Znění navržené Komisí	Pozměňovací návrh
3. Informace podle odstavce 2 uvádějí:	3. Za účelem dosažení výsledků uvedených v odstavci 1 informace podle odstavce 2 uvádějí:

Pozměňovací návrh  303

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) totožnost a kontaktní údaje poskytovatele a tam, kde je to relevantní, jeho zplnomocněného zástupce;	a) totožnost a kontaktní údaje poskytovatele a tam, kde je to relevantní, jeho zplnomocněných zástupců;

Pozměňovací návrh  304

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) není-li totožný s poskytovatelem, totožnost a kontaktní údaje subjektu, který provedl posouzení shody, a tam, kde je to relevantní, jeho zplnomocněného zástupce;

Pozměňovací návrh  305

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. b – návětí

Znění navržené Komisí	Pozměňovací návrh
b) vlastnosti, schopnosti a omezení výkonnosti vysoce rizikového systému UI, včetně:	b) vlastnosti, schopnosti a omezení výkonnosti vysoce rizikového systému UI, případně včetně:

Pozměňovací návrh  306

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. b – bod ii

Znění navržené Komisí	Pozměňovací návrh
ii) úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti uvedené v článku 15, ve vztahu k níž byl daný vysoce rizikový systém UI testován a ověřen a kterou lze očekávat, a jakékoli známé a předvídatelné okolnosti, které mohou mít na tuto očekávanou úroveň přesnosti, spolehlivost a kybernetické bezpečnosti dopad;	ii) úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti uvedené v článku 15, ve vztahu k níž byl daný vysoce rizikový systém UI testován a ověřen a kterou lze očekávat, a jakékoli jednoznačně známé a předvídatelné okolnosti, které mohou mít na tuto očekávanou úroveň přesnosti, spolehlivost a kybernetické bezpečnosti dopad;

Pozměňovací návrh  307

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. b – bod iii

Znění navržené Komisí	Pozměňovací návrh
iii) jakýchkoli známých nebo předvídatelných okolností souvisejících s používáním daného vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, které mohou vést k rizikům pro zdraví a bezpečnost nebo pro základní práva;	iii) jakýchkoli jednoznačně známých nebo předvídatelných okolností souvisejících s používáním daného vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, které mohou vést k rizikům pro zdraví a bezpečnost, pro základní práva nebo pro životní prostředí, případně včetně ilustrativních příkladů takových omezení a scénářů, pro něž by systém neměl být používán;

Pozměňovací návrh  308

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. b – bod iii a (nový)

Znění navržené Komisí	Pozměňovací návrh
	iiia) míry, do jaké může systém UI poskytovat vysvětlení rozhodnutí, která přijímá;

Pozměňovací návrh  309

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. b – bod v

Znění navržené Komisí	Pozměňovací návrh
v) případně specifikací vstupních údajů nebo jakýchkoli dalších informací příslušných z hlediska použitých souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat při zohlednění určeného účelu systému UI;	v) relevantních informací o činnostech uživatelů, které mohou ovlivnit výkonnost systému, včetně druhu či kvality vstupních údajů nebo jakýchkoli dalších informací příslušných z hlediska použitých souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat při zohlednění určeného účelu systému UI;

Pozměňovací návrh  310

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) očekávanou životnost vysoce rizikového systému UI a veškerá nezbytná opatření v oblasti údržby a péče umožňující zajistit řádné fungování tohoto systému UI, včetně aktualizací softwaru.	e) veškerá nezbytná opatření v oblasti údržby a péče umožňující zajistit řádné fungování tohoto systému UI, včetně aktualizací softwaru, po celou dobu jeho očekávané životnosti.

Pozměňovací návrh  311

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. e a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ea) popis mechanismů zahrnutých do systému UI, které uživatelům umožňují řádně shromažďovat, uchovávat a interpretovat protokoly v souladu s čl. 12 odst. 1.

Pozměňovací návrh  312

 

Návrh nařízení

Čl. 13 – odst. 3 – písm. e b (nové)

Znění navržené Komisí	Pozměňovací návrh
	eb) Tyto informace se poskytují alespoň v jazyce země, v níž se systém UI používá.

Pozměňovací návrh  313

 

Návrh nařízení

Čl. 13 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Za účelem splnění povinností stanovených v tomto článku musí poskytovatelé a uživatelé zajistit dostatečnou úroveň gramotnosti v oblasti umělé inteligence v souladu s článkem 4b.

Pozměňovací návrh  314

 

Návrh nařízení

Čl. 14 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Vysoce rizikové systémy UI musí být navrženy a vyvinuty takovým způsobem, a to i pomocí vhodných nástrojů rozhraní člověk-stroj, aby na ně mohly během období, kdy je daný systém UI používán, účinně dohlížet fyzické osoby.	1. Vysoce rizikové systémy UI musí být navrženy a vyvinuty takovým způsobem, a to i pomocí vhodných nástrojů rozhraní člověk-stroj, aby na ně účinně dohlížely fyzické osoby tak, jak je to přiměřené rizikům spojeným s těmito systémy. Fyzické osoby pověřené zajišťováním lidského dohledu musí mít dostatečnou úroveň gramotnosti v oblasti UI v souladu s článkem 4b a dále nezbytnou podporu a pravomoc k výkonu této funkce během období, kdy je daný systém UI používán, a k důkladnému vyšetřování po případném incidentu.

Pozměňovací návrh  315

 

Návrh nařízení

Čl. 14 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Lidský dohled je zaměřen na prevenci nebo minimalizaci rizik pro zdraví, bezpečnost nebo základní práva, která mohou vzniknout při používání vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, zejména pokud tato rizika přetrvávají bez ohledu na uplatňování dalších požadavků stanovených v této kapitole.	2. Lidský dohled je zaměřen na prevenci nebo minimalizaci rizik pro zdraví, bezpečnost, základní práva nebo životní prostředí, která mohou vzniknout při používání vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, zejména pokud tato rizika přetrvávají bez ohledu na uplatňování dalších požadavků stanovených v této kapitole a pokud mají rozhodnutí založená výhradně na automatizovaném zpracování systémy UI právní nebo jinak významné dopady na osoby nebo skupiny osob, na něž se má systém používat.

Pozměňovací návrh  316

 

Návrh nařízení

Čl. 14 – odst. 3 – návětí

Znění navržené Komisí	Pozměňovací návrh
3. Lidský dohled je zajištěn prostřednictvím jednoho nebo všech následujících opatření:	3. Lidský dohled zohledňuje specifická rizika, úroveň automatizace a kontext systému UI a je zajištěn prostřednictvím jednoho nebo všech následujících druhů opatření:

Pozměňovací návrh  317

 

Návrh nařízení

Čl. 14 – odst. 4 – návětí

Znění navržené Komisí	Pozměňovací návrh
4. Opatření uvedená v odstavci 3 umožňují jednotlivcům, kteří jsou pověřeni lidským dohledem, aby v závislosti na okolnostech:	4. Pro účely provádění odstavců 1 až 3 je vysoce rizikový systém UI poskytován uživateli takovým způsobem, aby fyzickým osobám, které jsou pověřeny lidským dohledem, umožňoval, pokud je to vhodné a přiměřené okolnostem, aby:

Pozměňovací návrh  318

 

Návrh nařízení

Čl. 14 – odst. 4 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) plně porozuměli kapacitám a omezením daného vysoce rizikového systému UI a byli schopni náležitě monitorovat jeho fungování tak, aby bylo možné co nejdříve objevit a řešit příznaky anomálií, dysfunkcí a neočekávaného výkonu;	a) si uvědomovaly a dostatečně chápaly příslušné kapacity a omezení daného vysoce rizikového systému UI a byly schopny náležitě monitorovat jeho fungování tak, aby bylo možné co nejdříve objevit a řešit příznaky anomálií, dysfunkcí a neočekávaného výkonu;

Pozměňovací návrh  319

 

Návrh nařízení

Čl. 14 – odst. 4 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) byli schopni zasáhnout do fungování vysoce rizikového systému UI nebo jej přerušit tlačítkem „stop“ nebo podobným postupem.	e) byly schopny zasáhnout do fungování vysoce rizikového systému UI nebo jej přerušit tlačítkem „stop“ nebo podobným postupem, který umožňuje zastavení systému v bezpečném stavu, s výjimkou případů, kdy lidský zásah zvyšuje rizika nebo by měl negativní dopad na výkonnost s ohledem na obecně uznávaný aktuální stav technologického vývoje.

Pozměňovací návrh  320

 

Návrh nařízení

Čl. 14 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. U vysoce rizikových systémů UI uvedených v bodě 1 písm. a) přílohy III musí být opatření uvedená v odstavci 3 taková, aby navíc zajišťovala, že uživatel neprovede žádné kroky ani rozhodnutí na základě identifikace vyplývající z tohoto systému, pokud tato identifikace nebude ověřena a potvrzena alespoň dvěma fyzickými osobami.	5. U vysoce rizikových systémů UI uvedených v bodě 1 písm. a) přílohy III musí být opatření uvedená v odstavci 3 taková, aby navíc zajišťovala, že uživatel neprovede žádné kroky ani rozhodnutí na základě identifikace vyplývající z tohoto systému, pokud tato identifikace nebude ověřena a potvrzena alespoň dvěma fyzickými osobami s dostatečnými kompetencemi, školeními a pravomocemi.

Pozměňovací návrh  321

 

Návrh nařízení

Čl. 15 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Vysoce rizikové systémy UI jsou navrženy a vyvinuty tak, aby s ohledem na svůj určený účel dosahovaly odpovídající úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti a aby v tomto ohledu dosahovaly konzistentních výsledků v průběhu celého svého životního cyklu.	1. Vysoce rizikové systémy UI jsou navrženy a vyvinuty v souladu se zásadou bezpečnosti již od návrhu a na základě výchozího nastavení. S ohledem na svůj určený účel by měly dosahovat odpovídající úrovně přesnosti, spolehlivosti, bezpečnosti a kybernetické bezpečnosti a v tomto ohledu dosahovat konzistentních výsledků v průběhu celého svého životního cyklu. Splnění těchto požadavků musí být spojeno s prováděním nejmodernějších opatření podle konkrétního segmentu trhu nebo oblasti použití.

 

Pozměňovací návrh  322

 

Návrh nařízení

Čl. 15 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. S cílem řešit technické aspekty toho, jak měřit odpovídající úrovně přesnosti a robustnosti stanovené v odstavci 1 tohoto článku, sdružuje Úřad pro UI vnitrostátní a mezinárodní metrologické a referenční orgány a poskytne nezávazné pokyny k této záležitosti, jak je stanoveno v čl. 56 odst. 2 písm. a).

Pozměňovací návrh  323

 

Návrh nařízení

Čl. 15 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	1b. Do řešení nových problémů na vnitřním trhu týkajících se kybernetické bezpečnosti se zapojí Agentura Evropské unie pro kybernetickou bezpečnost (ENISA) spolu s Evropskou radou pro umělou inteligenci, jak je stanoveno v čl. 56 odst. 2 písm. b).

Pozměňovací návrh  324

 

Návrh nařízení

Čl. 15 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Úrovně přesnosti a příslušná měřítka přesnosti vysoce rizikových systémů UI jsou oznámeny v přiloženém návodu k použití.	2. Úrovně přesnosti a příslušná měřítka přesnosti vysoce rizikových systémů UI jsou oznámeny v přiloženém návodu k použití. Použité formulace musejí být jasné a nesmějí vést k nedorozumění nebo obsahovat zavádějící tvrzení.

Pozměňovací návrh  325

 

Návrh nařízení

Čl. 15 – odst. 3 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Vysoce rizikové systémy UI musí být odolné vůči chybám, poruchám nebo nesrovnalostem, které se mohou vyskytnout v daném systému nebo v prostředí, ve kterém tento systém funguje, zejména v důsledku jejich interakce s fyzickými osobami nebo jinými systémy.	Je třeba přijmout technická a organizační opatření, jež zajistí, aby vysoce rizikové systémy UI byly co nejodolnější vůči chybám, poruchám nebo nesrovnalostem, které se mohou vyskytnout v daném systému nebo v prostředí, ve kterém tento systém funguje, zejména v důsledku jejich interakce s fyzickými osobami nebo jinými systémy.

Pozměňovací návrh  326

 

Návrh nařízení

Čl. 15 – odst. 3 – pododstavec 2

Znění navržené Komisí	Pozměňovací návrh
Spolehlivosti vysoce rizikových systémů UI lze dosáhnout pomocí technicky redundantních řešení, která mohou zahrnovat plány zálohování nebo zajištění proti selhání.	Spolehlivosti vysoce rizikových systémů UI může příslušný poskytovatel, v případě nutnosti za přispění uživatele, dosáhnout pomocí technicky redundantních řešení, která mohou zahrnovat plány zálohování nebo zajištění proti selhání.

Pozměňovací návrh  327

 

Návrh nařízení

Čl. 15 – odst. 3 – pododstavec 3

Znění navržené Komisí	Pozměňovací návrh
Vysoce rizikové systémy UI, které se po uvedení na trh nebo do provozu dále učí, musí být vyvíjeny způsobem zajišťujícím, že výstupy, které budou případně zkresleny v důsledku výstupů použitých jako vstup pro budoucí operace („smyčky zpětné vazby“) budou řádně řešeny formou vhodných zmírňujících opatření.	Vysoce rizikové systémy UI, které se po uvedení na trh nebo do provozu dále učí, musí být vyvíjeny způsobem zajišťujícím, že výstupy, které budou případně zkresleny a které ovlivňují vstup pro budoucí operace („smyčky zpětné vazby“), a zlovolné manipulace se vstupy použitými při učení během operace budou řádně řešeny formou vhodných zmírňujících opatření.

Pozměňovací návrh  328

 

Návrh nařízení

Čl. 15 – odst. 4 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Vysoce rizikové systémy UI musí být odolné proti pokusům neoprávněných třetích stran změnit jejich použití nebo výkonnost zneužitím zranitelných míst těchto systémů.	Vysoce rizikové systémy UI musí být odolné proti pokusům neoprávněných třetích stran změnit jejich použití, chování, výstupy nebo výkonnost zneužitím zranitelných míst těchto systémů.

Pozměňovací návrh  329

 

Návrh nařízení

Čl. 15 – odst. 4 – pododstavec 3

Znění navržené Komisí	Pozměňovací návrh
Technická řešení umožňující řešení zranitelných míst specifických pro UI zahrnují tam, kde je to vhodné, opatření pro prevenci a kontrolu útoků, které se pokoušejí manipulovat soubory tréninkových dat (tzv. data poisoning), vstupů, jejichž cílem je přimět daný model k tomu, aby udělal chybu (tzv. matoucí vzory), nebo chyb v modelech.	Technická řešení umožňující řešení zranitelných míst specifických pro UI zahrnují tam, kde je to vhodné, opatření pro prevenci, detekci, řešení a kontrolu útoků, které se pokoušejí manipulovat soubory tréninkových dat (tzv. data poisoning) nebo předtrénovaných součástí používaných v tréninku (tzv. model poisoning), vstupů, jejichž cílem je přimět daný model k tomu, aby udělal chybu (tzv. matoucí vzory nebo vyhýbání se modelu), útoků na důvěrnost nebo chyb v modelech, které mohou vést k závadnému rozhodování, a také opatření týkající se reakcí na tyto útoky.

Pozměňovací návrh  330

 

Návrh nařízení

Hlava III – kapitola 3 – název

Znění navržené Komisí	Pozměňovací návrh
POVINNOSTI POSKYTOVATELŮ A UŽIVATELŮ VYSOCE RIZIKOVÝCH SYSTÉMŮ UI A DALŠÍCH STRAN	POVINNOSTI POSKYTOVATELŮ A PROVOZOVATELŮ VYSOCE RIZIKOVÝCH SYSTÉMŮ UI A DALŠÍCH STRAN

Pozměňovací návrh  331

 

Návrh nařízení

Čl. 16 – název

Znění navržené Komisí	Pozměňovací návrh
Povinnosti poskytovatelů vysoce rizikových systémů UI	Povinnosti poskytovatelů a provozovatelů vysoce rizikových systémů UI a dalších stran

Pozměňovací návrh  332

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) zajišťují, aby jejich vysoce rizikové systémy UI splňovaly požadavky stanovené v kapitole 2 této hlavy;	a) zajišťují, aby jejich vysoce rizikové systémy UI před uvedením na trh nebo do provozu splňovaly požadavky stanovené v kapitole 2 této hlavy;

Pozměňovací návrh  333

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) uvádějí na vysoce rizikovém systému UI, případně není-li to možné, v doprovodné dokumentaci, své jméno, zapsaný obchodní název nebo zapsanou ochrannou známku, adresu a kontaktní údaje;

Pozměňovací návrh  334

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. a b (nové)

Znění navržené Komisí	Pozměňovací návrh
	ab) zajišťují, aby fyzické osoby pověřené zajišťováním lidského dohledu nad vysoce rizikovými systémy UI byly konkrétně upozorněny na riziko automatizačního nebo konfirmačního zkreslení;

Pozměňovací návrh  335

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. a c (nové)

Znění navržené Komisí	Pozměňovací návrh
	ac) stanovují specifikace vstupních údajů nebo jakýchkoli jiných relevantních informací z hlediska použitých souborů dat, včetně jejich omezení a předpokladů, s přihlédnutím k zamýšlenému účelu a předvídatelným a rozumně předvídatelným zneužitím systému UI;

Pozměňovací návrh  336

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) vypracovávají technickou dokumentaci daného vysoce rizikového systému UI;	c) vypracovávají a vedou technickou dokumentaci daného vysoce rizikového systému UI uvedeného v článku 11;

Pozměňovací návrh  337

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) pokud jsou vysoce rizikové systémy UI pod jejich kontrolou, zajišťují automatické generování protokolů těmito systémy;	d) pokud jsou vysoce rizikové systémy UI pod jejich kontrolou, zajišťují automatické generování protokolů těmito systémy, což je v souladu s článkem 20 nezbytné pro zajištění a prokázání souladu s tímto nařízením;

Pozměňovací návrh  338

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) zajišťují, aby byl u daného vysoce rizikového systému UI před jeho uvedením na trh nebo do provozu proveden příslušný postup posuzování shody;	e) zajišťují, aby byl u daného vysoce rizikového systému UI před jeho uvedením na trh nebo do provozu proveden příslušný postup posuzování shody v souladu s článkem 43;

Pozměňovací návrh  339

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. e a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ea) vypracovávají EU prohlášení o shodě v souladu s článkem 48;

Pozměňovací návrh  340

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. e b (nové)

Znění navržené Komisí	Pozměňovací návrh
	eb) umisťují na své vysoce rizikové systémy UI označení CE k označení souladu s tímto nařízením podle článku 49;

Pozměňovací návrh  341

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) přijímají nezbytná nápravná opatření v případě, že daný vysoce rizikový systém UI není v souladu s požadavky stanovenými v kapitole 2 této hlavy;	g) přijímají nezbytná nápravná opatření uvedená v článku 21 a poskytují v tomto ohledu informace;

Pozměňovací návrh  342

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. h

Znění navržené Komisí	Pozměňovací návrh
h) informují příslušné vnitrostátní orgány členských států, do kterých daný systém UI dodali nebo jej uvedli do provozu, případně oznámený subjekt o nesouladu a o případných přijatých nápravných opatřeních;	vypouští se

Pozměňovací návrh  343

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. i

Znění navržené Komisí	Pozměňovací návrh
i) umisťují na své vysoce rizikové systémy UI označení CE, aby vyjádřili jejich soulad s tímto nařízením podle článku 49;	vypouští se

Pozměňovací návrh  344

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. j

Znění navržené Komisí	Pozměňovací návrh
j) na žádost příslušného vnitrostátního orgánu prokazují soulad daného vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy.	j) na odůvodněnou žádost vnitrostátního dozorového orgánu prokazují soulad daného vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy.

Pozměňovací návrh  345

 

Návrh nařízení

Čl. 16 – odst. 1 – písm. j a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ja) zajišťují, aby vysoce rizikový systém UI splňoval požadavky na přístupnost.

Pozměňovací návrh  346

 

Návrh nařízení

Čl. 17 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Poskytovatelé vysoce rizikových systémů UI zavádějí systém řízení kvality, který zajišťuje soulad s tímto nařízením. Tento systém je systematicky a řádně dokumentován formou písemných politik, postupů a pokynů a obsahuje alespoň tyto aspekty:	1. Poskytovatelé vysoce rizikových systémů UI mají zaveden systém řízení kvality, který zajišťuje soulad s tímto nařízením. Je systematicky a řádně dokumentován formou písemných politik, postupů nebo pokynů a může být začleněn do stávajícího systému řízení kvality v rámci odvětvových legislativních aktů Unie. Obsahuje alespoň tyto aspekty:

Pozměňovací návrh  347

 

Návrh nařízení

Čl. 17 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) strategii pro zajištění souladu s právními předpisy, včetně souladu s postupy posuzování shody a postupy pro řízení úprav daného vysoce rizikového systému UI;	vypouští se

Pozměňovací návrh  348

 

Návrh nařízení

Čl. 17 – odst. 1 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) technické specifikace, včetně norem, které mají být uplatňovány, a pokud nejsou příslušné harmonizované normy uplatňovány v plném rozsahu, prostředky, které mají být použity k zajištění toho, aby vysoce rizikový systém UI splňoval požadavky stanovené v kapitole 2 této hlavy;	e) technické specifikace, včetně norem, které mají být uplatňovány, a pokud nejsou příslušné harmonizované normy uplatňovány v plném rozsahu nebo nepokrývají všechny příslušné požadavky, prostředky, které mají být použity k zajištění toho, aby vysoce rizikový systém UI splňoval požadavky stanovené v kapitole 2 této hlavy;

Pozměňovací návrh  349

 

Návrh nařízení

Čl. 17 – odst. 1 – písm. f

Znění navržené Komisí	Pozměňovací návrh
f) systémy a postupy pro správu dat, včetně shromažďování, analýzy, označování, ukládání, filtrace, vytěžování, agregace a uchovávání dat a jakékoli další operace týkající se dat, které se provádějí před uvedením vysoce rizikových systémů UI na trh nebo do provozu a pro účely tohoto uvedení;	f) systémy a postupy pro správu dat, včetně získávání, shromažďování, analýzy, označování, ukládání, filtrace, vytěžování, agregace a uchovávání dat a jakékoli další operace týkající se dat, které se provádějí před uvedením vysoce rizikových systémů UI na trh nebo do provozu a pro účely tohoto uvedení;

Pozměňovací návrh  350

 

Návrh nařízení

Čl. 17 – odst. 1 – písm. j

Znění navržené Komisí	Pozměňovací návrh
j) řešení komunikace s příslušnými vnitrostátními orgány a příslušnými orgány, včetně odvětvových, a zajišťování nebo podpora přístupu k datům, k oznámeným subjektům, k jiným provozovatelům, zákazníkům nebo k jiným zúčastněným stranám;	j) řešení komunikace s relevantními příslušnými orgány, včetně odvětvových;

Pozměňovací návrh  351

 

Návrh nařízení

Čl. 17 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Provádění aspektů uvedených v odstavci 1 musí být přiměřené velikosti organizace poskytovatele.	2. Provádění aspektů uvedených v odstavci 1 musí být přiměřené velikosti organizace poskytovatele. Poskytovatelé za všech okolností dodržují míru přísnosti a úroveň ochrany, jež jsou vyžadovány, aby byly jejich systémy UI v souladu s tímto nařízením.

Pozměňovací návrh  352

 

Návrh nařízení

Čl. 18 – název

Znění navržené Komisí	Pozměňovací návrh
Povinnost vypracovat technickou dokumentaci	vypouští se

Pozměňovací návrh  353

 

Návrh nařízení

Čl. 18 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Poskytovatelé vysoce rizikových systémů UI vypracují technickou dokumentaci uvedenou v článku 11 v souladu s přílohou IV.	vypouští se

Pozměňovací návrh  354

 

Návrh nařízení

Čl. 18 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Poskytovatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, vedou technickou dokumentaci jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.	vypouští se

Pozměňovací návrh  355

 

Návrh nařízení

Článek 19

Znění navržené Komisí	Pozměňovací návrh
Článek 19	vypouští se
Posuzování shody
1. Poskytovatelé vysoce rizikových systémů UI zajišťují, že bude u jejich vysoce rizikových systémů UI před uvedením na trh nebo do provozu proveden příslušný postup posuzování shody v souladu s článkem 43. Pokud je po tomto posouzení shody prokázán soulad daných systémů UI s požadavky stanovenými v kapitole 2 této hlavy, vypracují poskytovatelé EU prohlášení o shodě v souladu s článkem 48 a umístí označení shody CE v souladu s článkem 49.
2. U vysoce rizikových systémů UI uvedených v bodě 5 písm. b) přílohy III, uváděných na trh nebo do provozu poskytovateli, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, se posuzování shody provádí jako součást postupu uvedeného v článcích 97 až 101 uvedené směrnice.

Pozměňovací návrh  356

 

Návrh nařízení

Čl. 20 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Poskytovatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovými systémy UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou na základě smluvního ujednání s uživatelem nebo jinak na základě právních předpisů. Tyto protokoly jsou uchovávány po dobu, která je přiměřená z hlediska určeného účelu vysoce rizikového systému UI a příslušných právních povinností podle práva Unie nebo vnitrostátního práva.	1. Poskytovatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovými systémy UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou. Aniž jsou dotčeny platné právní předpisy Unie nebo vnitrostátní právní předpisy, jsou protokoly uchovávány nejméně šest měsíců. Doba uchovávání musí být v souladu s průmyslovými normami a přiměřená z hlediska určeného účelu vysoce rizikového systému UI.

Pozměňovací návrh  357

 

Návrh nařízení

Čl. 21 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
Poskytovatelé vysoce rizikových systémů UI, kteří se domnívají nebo mají důvod se domnívat, že vysoce rizikový systém UI, který uvedli na trh nebo do provozu, není ve shodě s tímto nařízením, přijmou okamžitě nezbytná nápravná opatření k uvedení daného systému ve shodu nebo k jeho případnému stažení z trhu či z oběhu. Náležitě informují distributory dotčeného vysoce rizikového systému UI a tam, kde je to relevantní, zplnomocněného zástupce a dovozce.	Poskytovatelé vysoce rizikových systémů UI, kteří se domnívají nebo mají důvod se domnívat, že vysoce rizikový systém UI, který uvedli na trh nebo do provozu, není ve shodě s tímto nařízením, přijmou okamžitě nezbytná nápravná opatření k uvedení daného systému ve shodu, k jeho případnému stažení z trhu či z oběhu nebo k jeho vyřazení z provozu.
	V případech uvedených v prvním pododstavci poskytovatelé neprodleně informují:
	a. distributory;
	b. dovozce;
	c. příslušné vnitrostátní orgány členských států, v nichž systém UI zpřístupnily nebo uvedly do provozu, a dále,
	d. je-li to možné, provozovatele.

Pozměňovací návrh  358

 

Návrh nařízení

Čl. 21 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Poskytovatelé rovněž informují zplnomocněného zástupce, pokud byl jmenován v souladu s článkem 25, a oznámený subjekt, pokud měl být vysoce rizikový systém UI podroben posouzení shody třetí stranou v souladu s článkem 43. Je-li to relevantní, ve spolupráci s provozovatelem rovněž prošetří příčiny.

Pozměňovací návrh  359

 

Návrh nařízení

Čl. 22 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1 a toto riziko je poskytovateli systému známo, informuje tento poskytovatel okamžitě příslušné vnitrostátní orgány členských států, do kterých tento systém dodal, a tam, kde je to relevantní, oznámený subjekt, který vydal pro daný vysoce rizikový systém UI certifikát, a uvede při tom zejména informace o nesouladu a o veškerých přijatých nápravných opatřeních.	Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1 a poskytovatel systému se o tomto riziku dozví, informuje tento poskytovatel okamžitě vnitrostátní dozorové orgány členských států, do kterých tento systém dodal, a tam, kde je to relevantní, oznámený subjekt, který vydal pro daný vysoce rizikový systém UI certifikát, a uvede při tom zejména informace o povaze nesouladu a o veškerých příslušných přijatých nápravných opatřeních.

Pozměňovací návrh  360

 

Návrh nařízení

Čl. 22 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	V případech uvedených v prvním odstavci poskytovatelé vysoce rizikového systému UI neprodleně informují:
	a) distributory;
	b) dovozce;
	c) příslušné vnitrostátní orgány členských států, v nichž systém UI zpřístupnily nebo uvedly do provozu, a
	d) je-li to možné, provozovatele.

Pozměňovací návrh  361

 

Návrh nařízení

Čl. 22 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Poskytovatelé rovněž informují zplnomocněného zástupce, pokud byl jmenován v souladu s článkem 25.

Pozměňovací návrh  362

 

Návrh nařízení

Čl. 23 – název

Znění navržené Komisí	Pozměňovací návrh
Spolupráce s příslušnými orgány	Spolupráce s příslušnými orgány, Úřadem pro UI a Komisí

Pozměňovací návrh  363

 

Návrh nařízení

Čl. 23 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
Poskytovatelé vysoce rizikových systémů UI předloží příslušnému vnitrostátnímu orgánu na požádání všechny informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, a to v úředním jazyce Unie, který dotčený členský stát stanoví. Na základě odůvodněné žádosti příslušného vnitrostátního orgánu mu poskytovatelé poskytnou také přístup k protokolům automaticky generovaným jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou na základě smluvního ujednání s uživatelem nebo jinak na základě právních předpisů.	Poskytovatelé, případně provozovatelé vysoce rizikových systémů UI předloží příslušnému vnitrostátnímu orgánu na základě odůvodněné žádosti, případně Úřadu pro UI nebo Komisi, všechny informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, a to v úředním jazyce Unie, který dotčený členský stát stanoví.

Pozměňovací návrh  364

 

Návrh nařízení

Čl. 23 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Na základě odůvodněné žádosti příslušného vnitrostátního orgánu, případně Komise poskytnou poskytovatelé, případně provozovatelé žádajícímu příslušnému vnitrostátnímu orgánu nebo případně Komisi také přístup k protokolům automaticky generovaným jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou.

Pozměňovací návrh  365

 

Návrh nařízení

Čl. 23 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Veškeré informace získané příslušným vnitrostátním orgánem nebo Komisí podle ustanovení tohoto článku jsou považovány za obchodní tajemství a nakládá se s nimi v souladu s povinnostmi zachování důvěrnosti stanovenými v článku 70.

Pozměňovací návrh  366

 

Návrh nařízení

Čl. 25 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. V případě, že poskytovatelé usazení mimo Unii dodávají do Unie systémy umělé inteligence, u nichž nelze identifikovat dovozce, jmenují předem zplnomocněného zástupce usazeného v Unii formou písemného pověření.	1. V případě, že poskytovatelé usazení mimo Unii dodávají do Unie systémy umělé inteligence, jmenují předem zplnomocněného zástupce usazeného v Unii formou písemného pověření.

Pozměňovací návrh  367

 

Návrh nařízení

Čl. 25 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Zplnomocněný zástupce má bydliště nebo je usazen v jednom z členských států, v nichž jsou vykonávány činnosti podle čl. 2 odst. 1 písm. cb).

Pozměňovací návrh  368

 

Návrh nařízení

Čl. 25 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	1b. Poskytovatel poskytne svému zplnomocněnému zástupci nezbytné pravomoci a zdroje pro plnění úkolů podle tohoto nařízení.

Pozměňovací návrh  369

 

Návrh nařízení

Čl. 25 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Zplnomocněný zástupce provádí úkoly vymezené v pověření, které obdržel od poskytovatele. Pověření zmocňuje zplnomocněného zástupce k provádění alespoň těchto úkolů:	2. Zplnomocněný zástupce provádí úkoly vymezené v pověření, které obdržel od poskytovatele. Kopii pověření poskytne na požádání orgánům dozoru nad trhem v jednom z úředních jazyků orgánu Unie, který určí příslušný vnitrostátní orgán. Pro účely tohoto nařízení pověření zmocňuje zplnomocněného zástupce k provádění alespoň těchto úkolů:

Pozměňovací návrh  370

 

Návrh nařízení

Čl. 25 – odst. 2 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) uchovávat kopii EU prohlášení o shodě a technickou dokumentaci k dispozici pro příslušné vnitrostátní orgány a vnitrostátní orgány uvedené v čl. 63 odst. 7;	a) zajistit, aby bylo vypracováno EU prohlášení o shodě a technická dokumentace a aby poskytovatel provedl náležitý postup posouzení shody;

Pozměňovací návrh  371

 

Návrh nařízení

Čl. 25 – odst. 2 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) uchovávat pro potřebu příslušných vnitrostátních orgánů a vnitrostátních orgánů uvedených v čl. 63 odst. 7 kopii EU prohlášení o shodě, technickou dokumentaci a případně certifikát vydaný oznámeným subjektem;

Pozměňovací návrh  372

 

Návrh nařízení

Čl. 25 – odst. 2 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) poskytnout příslušnému vnitrostátnímu orgánu na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, včetně přístupu k protokolům, které daný vysoce rizikový systém UI automaticky generuje, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele na základě smluvního ujednání s uživatelem nebo jinak na základě zákona;	b) poskytnout příslušnému vnitrostátnímu orgánu na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, včetně přístupu k protokolům, které daný vysoce rizikový systém UI automaticky generuje, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele;

Pozměňovací návrh  373

 

Návrh nařízení

Čl. 25 – odst. 2 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) spolupracovat s příslušnými vnitrostátními orgány na základě odůvodněné žádosti na veškerých opatřeních, která takový orgán v souvislosti s daným vysoce takový rizikovým systémem UI přijme.	c) spolupracovat s vnitrostátními dozorovými orgány na základě odůvodněné žádosti na veškerých opatřeních, která takový orgán přijme s cílem omezit a zmírnit rizika vyvolaná daným vysoce rizikovým systémem UI;

Pozměňovací návrh  374

 

Návrh nařízení

Čl. 25 – odst. 2 – písm. c a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ca) případně splnit registrační povinnosti uvedené v článku 51, nebo, pokud registraci provádí poskytovatel sám, zajistit, aby informace uvedené v bodě 3 přílohy VIII byly správné.

Pozměňovací návrh  375

 

Návrh nařízení

Čl. 25 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Zplnomocněný zástupce je pověřen k tomu, aby se na něj vedle poskytovatele nebo namísto něj obracely zejména vnitrostátní dozorový orgán nebo příslušné vnitrostátní orgány ve všech otázkách týkajících se zajištění souladu s tímto nařízením.

Pozměňovací návrh  376

 

Návrh nařízení

Čl. 25 – odst. 2 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	2b. Zplnomocněný zástupce pověření ukončí, pokud se domnívá nebo má důvod se domnívat, že poskytovatel jedná v rozporu se svými povinnostmi podle tohoto nařízení. V takovém případě rovněž neprodleně informuje vnitrostátní dozorový orgán členského státu, v němž je usazen, a případně příslušný oznámený subjekt o ukončení pověření a jeho důvodech.

Pozměňovací návrh  377

 

Návrh nařízení

Čl. 26 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Před uvedením vysoce rizikového systému UI na trh dovozci tohoto systému zajistí, aby:	1. Před uvedením vysoce rizikového systému UI na trh dovozci tohoto systému zajistí, aby byl systém v souladu s tímto nařízením, a to tím, že zajistí, aby:

Pozměňovací návrh  378

 

Návrh nařízení

Čl. 26 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) poskytovatel daného systému UI provedl příslušný postup posuzování shody;	a) poskytovatel daného systému UI provedl příslušný postup posuzování shody uvedený v článku 43;

Pozměňovací návrh  379

 

Návrh nařízení

Čl. 26 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) poskytovatel vypracoval technickou dokumentaci v souladu s přílohou IV;	b) poskytovatel vypracoval technickou dokumentaci v souladu s článkem 11 a přílohou IV;

Pozměňovací návrh  380

 

Návrh nařízení

Čl. 26 – odst. 1 – písm. c a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ca) poskytovatel případně jmenoval zplnomocněného zástupce v souladu s čl. 25 odst. 1.

Pozměňovací návrh  381

 

Návrh nařízení

Čl. 26 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Domnívá-li se dovozce nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s tímto nařízením, neuvede tento systém UI na trh, dokud nebude uveden ve shodu. Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom dovozce poskytovatele systému UI a orgány dozoru nad trhem.	2. Domnívá-li se dovozce nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s tímto nařízením, nebo je padělaný nebo je k němu připojena zfalšovaná dokumentace, neuvede tento systém UI na trh, dokud nebude uveden ve shodu. Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom dovozce poskytovatele systému UI a orgány dozoru nad trhem.

Pozměňovací návrh  382

 

Návrh nařízení

Čl. 26 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Dovozci uvedou na vysoce rizikovém systému UI, případně není-li to možné, podle potřeby na obalu nebo v dokumentaci, která je k vysoce rizikovému systému UI přiložena, svoje jméno, zapsaný obchodní název nebo zapsanou ochrannou známku a adresu, na které je lze kontaktovat.	3. Dovozci uvedou na vysoce rizikovém systému UI a případně na obalu nebo v dokumentaci, která je k vysoce rizikovému systému UI přiložena, svoje jméno, zapsaný obchodní název nebo zapsanou ochrannou známku a adresu, na které je lze kontaktovat.

Pozměňovací návrh  383

 

Návrh nařízení

Čl. 26 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Dovozci poskytnou příslušným vnitrostátním orgánům na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy v jazyce, který je příslušnému vnitrostátnímu orgánu snadno srozumitelný, včetně přístupu k protokolům automaticky generovaným vysoce rizikovým systémem UI, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele na základě smluvního ujednání s uživatelem nebo jinak na základě právních předpisů. S těmito orgány rovněž spolupracují na veškerých opatřeních, která vnitrostátní příslušný orgán v souvislosti s tímto systémem přijme.	5. Dovozci poskytnou příslušným vnitrostátním orgánům na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy v jazyce, který je jim snadno srozumitelný, včetně přístupu k protokolům automaticky generovaným vysoce rizikovým systémem UI, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele v souladu s článkem 20.

Pozměňovací návrh  384

 

Návrh nařízení

Čl. 26 – odst. 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. Dovozci spolupracují s příslušnými vnitrostátními orgány na veškerých opatřeních, která tyto orgány přijmou s cílem omezit a zmírnit rizika vyvolaná daným vysoce rizikovým systémem UI.

Pozměňovací návrh  385

 

Návrh nařízení

Čl. 27 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Před dodáním vysoce rizikového systému UI na trh distributoři ověří, zda je na daném vysoce rizikovém systému UI umístěno požadované označení CE, zda je k němu přiložena požadovaná dokumentace a návod k použití a zda poskytovatel a dovozce systému případně splnili povinnosti stanovené v tomto nařízení.	1. Před dodáním vysoce rizikového systému UI na trh distributoři ověří, zda je na daném vysoce rizikovém systému UI umístěno požadované označení CE, zda je k němu přiložena požadovaná dokumentace a návod k použití a zda poskytovatel a dovozce systému případně splnili své povinnosti stanovené v článcích 16 a 26 tohoto nařízení.

Pozměňovací návrh  386

 

Návrh nařízení

Čl. 27 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Domnívá-li se distributor nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, neuvede tento vysoce rizikový systém UI na trh, dokud nebude uveden ve shodu s těmito požadavky. Pokud navíc tento systém představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom distributor poskytovatele, případně dovozce tohoto systému.	2. Domnívá-li se distributor na základě informací, které má k dispozici, nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, neuvede tento vysoce rizikový systém UI na trh, dokud nebude uveden ve shodu s těmito požadavky. Pokud navíc tento systém představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom distributor poskytovatele nebo dovozce tohoto systému a případně dotčený příslušný vnitrostátní orgán.

Pozměňovací návrh  387

 

Návrh nařízení

Čl. 27 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Distributor, který se domnívá nebo má důvod se domnívat, že vysoce rizikový systém UI, který dodal na trh, není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, přijme nápravná opatření nezbytná k uvedení tohoto systému ve shodu s těmito požadavky nebo k jeho stažení z trhu či z oběhu, případně zajistí, aby tato nápravná opatření přijal poskytovatel, dovozce nebo jakýkoli příslušný provozovatel. Představuje-li vysoce rizikový systém UI riziko ve smyslu čl. 65 odst. 1, distributor okamžitě informuje příslušné vnitrostátní orgány členských států, v nichž tento produkt za tímto účelem dodal na trh, a uvede přitom zejména podrobnosti o nesouladu a o veškerých přijatých nápravných opatřeních.	4. Distributor, který se na základě informací, které má k dispozici, domnívá nebo má důvod se domnívat, že vysoce rizikový systém UI, který dodal na trh, není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, přijme nápravná opatření nezbytná k uvedení tohoto systému ve shodu s těmito požadavky nebo k jeho stažení z trhu či z oběhu, případně zajistí, aby tato nápravná opatření přijal poskytovatel, dovozce nebo jakýkoli příslušný provozovatel. Představuje-li vysoce rizikový systém UI riziko ve smyslu čl. 65 odst. 1, distributor okamžitě informuje poskytovatele nebo dovozce systému a příslušné vnitrostátní orgány členských států, v nichž tento produkt za tímto účelem dodal na trh, a uvede přitom zejména podrobnosti o nesouladu a o veškerých přijatých nápravných opatřeních.

Pozměňovací návrh  388

 

Návrh nařízení

Čl. 27 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Na odůvodněnou žádost příslušného vnitrostátního orgánu poskytnou distributoři vysoce rizikových systémů UI tomuto orgánu všechny informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému s požadavky stanovenými v kapitole 2 této hlavy. Distributoři rovněž spolupracují s příslušným vnitrostátním orgánem na veškerých opatřeních, které tento orgán přijme.	5. Na odůvodněnou žádost příslušného vnitrostátního orgánu poskytnou distributoři vysoce rizikových systémů UI tomuto orgánu veškeré informace a dokumentaci, jež vlastní nebo mají k dispozici, v souladu s povinnostmi distributorů uvedenými v odstavci 1, které jsou nezbytné k prokázání shody vysoce rizikového systému s požadavky stanovenými v kapitole 2 této hlavy.

Pozměňovací návrh  389

 

Návrh nařízení

Čl. 27 – odst. 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. Distributoři spolupracují s příslušnými vnitrostátními orgány na veškerých opatřeních, která tyto orgány přijmou s cílem omezit a zmírnit rizika vyvolaná daným vysoce rizikovým systémem UI.

Pozměňovací návrh  390

 

Návrh nařízení

Čl. 28 – název

Znění navržené Komisí	Pozměňovací návrh
Povinnosti distributorů, dovozců, uživatelů nebo jakékoli jiné třetí strany	Povinnosti poskytovatelů, distributorů, dovozců, provozovatelů nebo jiných třetích stran v rámci hodnotového řetězce UI

Pozměňovací návrh  391

 

Návrh nařízení

Čl. 28 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Jakýkoli distributor, dovozce, uživatel nebo jiná třetí strana se pro účely tohoto nařízení považuje za poskytovatele a vztahují se na něj povinnosti poskytovatele podle článku 16, pokud nastane kterákoli z následujících okolností:	1. Jakýkoli distributor, dovozce, provozovatel nebo jiná třetí strana se pro účely tohoto nařízení považuje za poskytovatele vysoce rizikového systému UI a vztahují se na něj povinnosti poskytovatele podle článku 16, pokud nastane kterákoli z následujících okolností:

Pozměňovací návrh  392

 

Návrh nařízení

Čl. 28 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) uvádějí vysoce rizikový systém UI na trh nebo do provozu pod svým jménem nebo ochrannou známkou;	a) označí svým jménem nebo ochrannou známkou vysoce rizikový systém UI již uvedený na trh nebo do provozu;

Pozměňovací návrh  393

 

Návrh nařízení

Čl. 28 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) mění určený účel vysoce rizikového systému UI již uvedeného na trh nebo do provozu;	b) provádějí podstatnou úpravu vysoce rizikového systému UI, který je již uveden na trh nebo je již uveden do provozu, a to tak, že zůstává vysoce rizikovým systémem UI v souladu s článkem 6;

Pozměňovací návrh  394

 

Návrh nařízení

Čl. 28 – odst. 1 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) provádějí podstatnou úpravu systému UI j, včetně systému umělé inteligence pro obecné účely, který nebyl klasifikován jako vysoce rizikový a je již uveden na trh nebo do provozu takovým způsobem, že se systém UI stane vysoce rizikovým systémem UI v souladu s článkem 6.

Pozměňovací návrh  395

 

Návrh nařízení

Čl. 28 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Pokud nastanou okolnosti uvedené v odst. 1 písm. b) nebo c), není poskytovatel, který původně uvedl vysoce rizikový systém UI na trh nebo do provozu, již nadále považován za poskytovatele pro účely tohoto nařízení.	2.Pokud nastanou okolnosti uvedené v odst. 1 písm. a) až ba), není poskytovatel, který původně uvedl systém UI na trh nebo do provozu, již nadále považován za poskytovatele tohoto konkrétního systému UI pro účely tohoto nařízení. Tento bývalý poskytovatel poskytne novému poskytovateli technickou dokumentaci a veškeré další relevantní a přiměřeně očekávané informační schopnosti systému UI, technický přístup nebo jinou pomoc na základě obecně uznávaného stavu techniky, které jsou nezbytné pro splnění povinností stanovených v tomto nařízení.
	Tento odstavec se rovněž vztahuje na poskytovatele základních modelů vymezených v článku 3, pokud je základní model přímo zabudován do vysoce rizikového systému UI.

Pozměňovací návrh  396

 

Návrh nařízení

Čl. 28 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Poskytovatel vysoce rizikového systému UI a třetí strana, která dodává nástroje, služby, součásti nebo procesy, které jsou používány nebo zabudovány do vysoce rizikového systému UI, upřesní v písemné dohodě informace, schopnosti, technický přístup nebo jinou pomoc na základě obecně uznávaného stavu techniky, které je třetí strana povinna poskytnout, aby poskytovatel vysoce rizikového systému UI mohl v plném rozsahu plnit povinnosti podle tohoto nařízení.
	Komise vypracuje a doporučí nezávazné vzorové smluvní podmínky mezi poskytovateli vysoce rizikových systémů UI a třetími stranami, které dodávají nástroje, služby, součásti nebo procesy, které jsou používány nebo zabudovány do vysoce rizikových systémů UI, s cílem pomoci oběma stranám při vypracovávání a sjednávání smluv s vyváženými smluvními právy a povinnostmi v souladu s úrovní kontroly každé strany. Při vypracovávání nezávazných vzorových smluvních podmínek Komise zohlední možné smluvní požadavky použitelné v konkrétních odvětvích nebo obchodních případech. Nezávazné smluvní podmínky se zveřejní a bezplatně zpřístupní ve snadno použitelném elektronickém formátu na internetových stránkách Úřadu pro UI.

Pozměňovací návrh  397

 

Návrh nařízení

Čl. 28 – odst. 2 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	2b. Pro účely tohoto článku budou obchodní tajemství zachována a budou zveřejněna pouze za předpokladu, že jsou předem přijata veškerá konkrétní nezbytná opatření podle směrnice EU 2016/943 k zachování jejich důvěrnosti, zejména ve vztahu k třetím stranám. V případě potřeby mohou být dohodnuta vhodná technická a organizační opatření na ochranu práv duševního vlastnictví nebo obchodních tajemství.

Pozměňovací návrh  398

 

Návrh nařízení

Článek 28 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 28a
	Nepřiměřené smluvní podmínky jednostranně uložené malému a střednímu podniku nebo začínajícímu podniku
	1. Smluvní podmínka týkající se poskytování nástrojů, služeb, součástí nebo procesů, které jsou používány nebo zabudovány do vysoce rizikového systému UI, nebo prostředků nápravy v případě porušení nebo ukončení souvisejících povinností, které podnik jednostranně uložil malému nebo střednímu podniku nebo začínajícímu podniku, není pro tyto druhé podniky závazná, pokud je nepřiměřená.
	2. Smluvní podmínka se nepovažuje za nepřiměřenou, pokud vyplývá z platných právních předpisů Unie.
	3. Smluvní podmínka je nepřiměřená, pokud je takové povahy, že objektivně narušuje schopnost strany, které byla podmínka jednostranně uložena, chránit svůj oprávněný obchodní zájem na předmětné informaci nebo se její použití výrazně odchyluje od poctivých obchodních praktik při poskytování nástrojů, služeb, součástí nebo procesů, které jsou používány nebo zabudovány do vysoce rizikového systému UI, v rozporu s dobrou vírou a poctivým jednáním nebo vytváří významnou nerovnováhu mezi právy a povinnostmi stran ve smlouvě. Smluvní podmínka je rovněž nepřiměřená, pokud má za následek přesun sankcí uvedených v článku 71 nebo souvisejících nákladů na soudní řízení mezi smluvními stranami, jak je uvedeno v čl. 71 odst. 8.
	4. Smluvní podmínka je pro účely tohoto článku nepřiměřená, je-li jejím cílem nebo účinkem:
	a) vyloučit nebo omezit odpovědnost strany, která jednostranně uložila podmínku, za úmyslné jednání nebo hrubou nedbalost;
	b) vyloučit prostředky nápravy, které má k dispozici strana, jíž byla podmínka jednostranně uložena, v případě neplnění smluvních závazků nebo odpovědnosti strany, která tuto podmínku jednostranně uložila, v případě porušení těchto závazků;
	c) poskytnout smluvní straně, která podmínku jednostranně uložila, výlučné právo určit, zda jsou technická dokumentace a poskytnuté informace v souladu se smlouvou, nebo vykládat kteroukoli podmínku smlouvy.
	5. Smluvní podmínka se považuje za jednostranně uloženou ve smyslu tohoto článku, pokud byla uložena jednou smluvní stranou a druhá smluvní strana nebyla schopna ovlivnit její obsah navzdory pokusu o ní vyjednávat. Smluvní strana, která smluvní podmínku uložila, nese důkazní břemeno, že daná podmínka nebyla uložena jednostranně.
	6. Je-li nepřiměřená smluvní podmínka oddělitelná od ostatních smluvních podmínek, zůstávají ostatní podmínky závazné. Strana, která spornou podmínku předložila, nemůže tvrdit, že se jedná o nepřiměřenou podmínku.
	7. Tento odstavec se použije na všechny nové smlouvy, které vstoupí v platnost po ... [datum vstupu tohoto nařízení v platnost]. Podniky přezkoumají stávající smluvní závazky, na něž se vztahuje toto nařízení, do... [tři roky od data vstupu tohoto nařízení v platnost].
	8. Vzhledem k tomu, jak rychle se na trhu objevují inovace, bude Komise seznam nepřiměřených smluvních podmínek podle článku 28a pravidelně přezkoumávat a v případě potřeby jej aktualizuje podle nových obchodních postupů.

Pozměňovací návrh  399

 

Návrh nařízení

Článek 28 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 28b
	Povinnosti poskytovatele základního modelu
	1. Poskytovatel základního modelu před jeho dodáním na trh nebo uvedením do provozu zajistí, aby byl v souladu s požadavky stanovenými v tomto článku, bez ohledu na to, zda je poskytován jako samostatný model nebo zabudován do systému UI nebo výrobku nebo poskytován na základě bezplatných licencí s otevřeným zdrojovým kódem jako služba, jakož i prostřednictvím jiných distribučních kanálů.
	2. Pro účely odstavce 1 poskytovatel základního modelu:
	a) vhodným návrhem, testováním a analýzou prokáže, že rozumně předvídatelná rizika pro zdraví, bezpečnost, základní práva, životní prostředí a demokracii a právní stát byla před a v průběhu vývoje identifikována, omezena a zmírněna pomocí vhodných metod, jako je zapojení nezávislých odborníků, a rizika, která nelze zmírnit, byla po vývoji zdokumentována;
	b) zpracuje a začlení pouze datové soubory, na něž se vztahují vhodná opatření v oblasti správy dat pro základní modely, zejména opatření k posouzení vhodnosti zdrojů dat a možných zkreslení a vhodného zmírnění;
	c) navrhne a vyvine základní model tak, aby bylo po celou dobu jeho životního cyklu dosaženo odpovídajících úrovní výkonnosti, předvídatelnosti, interpretovatelnosti, napravitelnosti, zabezpečení a kybernetické bezpečnosti posuzovaných pomocí vhodných metod, jako je hodnocení modelů se zapojením nezávislých odborníků, zdokumentovaná analýza a rozsáhlé testování během konceptualizace, navrhování a vývoje;
	d) navrhne a vyvine základní model s využitím platných norem ke snížení spotřeby energie, využívání zdrojů a odpadu, jakož i ke zvýšení energetické účinnosti a celkové účinnosti systému, aniž jsou dotčeny příslušné stávající unijní a vnitrostátní právní předpisy. Tato povinnost neplatí, dokud nejsou zveřejněny normy uvedené v článku 40. Základní modely jsou navrženy tak, aby umožňovaly měření a zaznamenávání spotřeby energie a zdrojů a, je-li to technicky proveditelné, i jiných dopadů na životní prostředí, které může mít zavádění a používání systémů během celého jejich životního cyklu;
	e) vypracuje rozsáhlou technickou dokumentaci a srozumitelný návod k použití, aby navazující poskytovatelé mohli plnit své povinnosti podle článku 16 a čl. 28 odst. 1;
	f) zavede systém řízení kvality s cílem zajistit a dokumentovat soulad s tímto článkem s možností experimentovat při plnění tohoto požadavku,
	g) zaregistruje tento základní model do databáze EU uvedené v článku 60 v souladu s pokyny uvedenými v příloze VIII bodě C.
	Při plnění těchto požadavků se zohlední obecně uznávaný stav techniky, včetně toho, jak se odráží v příslušných harmonizovaných normách nebo společných specifikacích, jakož i nejnovější metody posuzování a měření, které se odrážejí zejména v pokynech pro srovnávání a v schopnostech uvedených v článku 58a;
	3. Poskytovatelé základních modelů uchovávají technickou dokumentaci uvedenou v odst. 2 písm. e) k dispozici příslušným vnitrostátním orgánům po dobu 10 let poté, co byly jejich základní modely uvedeny na trh nebo do provozu.
	4. Poskytovatelé základních modelů používaných v systémech UI, které mají s různou úrovní autonomie vytvářet obsah, jako je složitý text, obrázky, audio nebo video („generativní UI“), a poskytovatelé, kteří přetvářejí základní model na generativní systém UI, navíc
	a) dodržují povinnosti týkající se transparentnosti uvedené v čl. 52 odst. 1,
	b) trénují a případně navrhují a rozvíjejí základní model tak, aby byly zajištěny odpovídající záruky proti vytváření obsahu, který je v rozporu s právem Unie, v souladu s obecně uznávaným současným stavem techniky a aniž jsou dotčena základní práva, včetně svobody projevu,
	c) aniž jsou dotčeny právní předpisy Unie nebo vnitrostátní nebo unijní právní předpisy o autorském právu, dokumentují a zveřejňují dostatečně podrobné shrnutí použití tréninkových dat chráněných podle autorského práva.

 

Pozměňovací návrh  400

 

Návrh nařízení

Čl. 29 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Uživatelé vysoce rizikových systémů UI tyto systémy používají v souladu s návodem k použití přiloženým k těmto systémům na základě odstavců 2 a 5.	1. Provozovatelé vysoce rizikových systémů UI přijmou vhodná technická a organizační opatření, aby bylo zajištěno používání těchto systémů v souladu s návodem k použití přiloženým k těmto systémům na základě odstavců 2 a 5 tohoto článku.

 

Pozměňovací návrh  401

 

Návrh nařízení

Čl. 29 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Provozovatelé v rozsahu, v němž vykonávají kontrolu nad vysoce rizikovým systémem UI:
	i) provádějí lidský dohled v souladu s požadavky stanovenými v tomto nařízení,
	ii) zajistí, aby fyzické osoby pověřené lidským dohledem nad vysoce rizikovým systémem UI byly způsobilé, řádně kvalifikované a vyškolené a měly nezbytné zdroje k zajištění účinného dohledu nad systémem UI v souladu s článkem 14,
	iii) zajistí, aby byla pravidelně sledována účinnost příslušných a vhodných opatření v oblasti odolnosti a kybernetické bezpečnosti a aby byla pravidelně upravována nebo aktualizována.

Pozměňovací návrh  402

 

Návrh nařízení

Čl. 29 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Povinnostmi uvedenými v odstavci 1 nejsou dotčeny ostatní povinnosti uživatelů podle právních předpisů Unie nebo vnitrostátních právních předpisů ani volnost uživatelů při organizaci vlastních zdrojů a činností za účelem provádění opatření v oblasti lidského dohledu uvedených poskytovatelem.	2. Povinnostmi uvedenými v odstavcích 1 a 1a nejsou dotčeny ostatní povinnosti provozovatelů podle právních předpisů Unie nebo vnitrostátních právních předpisů ani volnost provozovatelů při organizaci vlastních zdrojů a činností za účelem provádění opatření v oblasti lidského dohledu uvedených poskytovatelem.

Pozměňovací návrh  403

 

Návrh nařízení

Čl. 29 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Aniž je dotčen odstavec 1, zajistí uživatel, aby byla vstupní data relevantní s ohledem na určený účel vysoce rizikového systému UI v rozsahu, v jakém uživatel vykonává kontrolu nad vstupními údaji.	3. Aniž je dotčen odstavec 1 a 1a, zajistí provozovatel, aby byla vstupní data relevantní a dostatečně reprezentativní s ohledem na určený účel vysoce rizikového systému UI v rozsahu, v jakém provozovatel vykonává kontrolu nad vstupními údaji.

Pozměňovací návrh  404

 

Návrh nařízení

Čl. 29 – odst. 4 – návětí

Znění navržené Komisí	Pozměňovací návrh
4. Uživatelé monitorují provoz vysoce rizikového systému UI na základě návodu k použití. Pokud mají důvody se domnívat, že použití v souladu s návodem k použití může vést k tomu, že systém UI bude představovat riziko ve smyslu čl. 65 odst. 1, uvědomí o tom poskytovatele nebo distributora a používání systému pozastaví. V případě, že zjistí jakýkoliv závažný incident nebo chybné fungování ve smyslu článku 62, rovněž informují poskytovatele nebo distributora a používání daného systému UI přeruší. V případě, že se uživateli nepodaří poskytovatele kontaktovat, použije se obdobně článek 62.	4. Provozovatelé monitorují provoz vysoce rizikového systému UI na základě návodu k použití a v příslušných případech informují poskytovatele v souladu s článkem 61. Pokud mají důvody se domnívat, že použití v souladu s návodem k použití může vést k tomu, že systém UI bude představovat riziko ve smyslu čl. 65 odst. 1, bez zbytečného odkladu uvědomí o tom poskytovatele nebo distributora a příslušné vnitrostátní dozorové orgány a používání systému pozastaví. V případě, že zjistí jakýkoliv závažný incident nebo chybné fungování ve smyslu článku 62, rovněž okamžitě informují nejdřív poskytovatele a potom dovozce nebo distributora a příslušné vnitrostátní dozorové orgány a používání daného systému UI přeruší. V případě, že se provozovateli nepodaří poskytovatele kontaktovat, použije se obdobně článek 62.

Pozměňovací návrh  405

 

Návrh nařízení

Čl. 29 – odst. 4 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
V případě uživatelů, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, se povinnost monitorování stanovená v prvním pododstavci považuje za splněnou, jsou-li dodržena pravidla týkající se systémů, postupů a mechanismů vnitřní správy podle článku 74 uvedené směrnice.	V případě provozovatelů, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, se povinnost monitorování stanovená v prvním pododstavci považuje za splněnou, jsou-li dodržena pravidla týkající se systémů, postupů a mechanismů vnitřní správy podle článku 74 uvedené směrnice.

 

Pozměňovací návrh  406

 

Návrh nařízení

Čl. 29 – odst. 5 – návětí

Znění navržené Komisí	Pozměňovací návrh
5. Uživatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou. Tyto protokoly jsou uchovávány po dobu, která je přiměřená z hlediska určeného účelu vysoce rizikového systému UI a příslušných právních povinností podle práva Unie nebo vnitrostátního práva.	5. Provozovatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou a jsou nezbytné pro zajištění a prokázání souladu s tímto nařízením, pro následné audity veškerých poruch, incidentů nebo zneužití systému, které lze rozumně předvídat, nebo pro zajištění a monitorování řádného fungování systému během jeho životního cyklu. Aniž jsou dotčeny platné právní předpisy Unie nebo vnitrostátní právní předpisy, jsou tyto protokoly uchovávány po dobu nejméně šest měsíců. Doba uchovávání musí být v souladu s odvětvovými normami a přiměřená z hlediska určeného účelu vysoce rizikového systému UI.

Pozměňovací návrh  407

 

Návrh nařízení

Čl. 29 – odst. 5 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Uživatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU udržují tyto protokoly jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.	Provozovatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU udržují tyto protokoly jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.

Pozměňovací návrh  408

 

Návrh nařízení

Čl. 29 – odst. 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. Před uvedením do provozu nebo použitím vysoce rizikového systému UI na pracovišti konzultují provozovatelé zástupce zaměstnanců s cílem dosáhnout dohody v souladu se směrnicí 2002/14/ES a informovat dotčené zaměstnance, že se na ně systém bude vztahovat.

Pozměňovací návrh  409

 

Návrh nařízení

Čl. 29 – odst. 5 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	5b. Provozovatelé vysoce rizikových systémů UI, kteří jsou veřejnými orgány nebo orgány, institucemi nebo jinými subjekty Unie nebo podniky uvedenými v čl. 51 odst. 1a písm. b), plní registrační povinnosti uvedené v článku 51.

Pozměňovací návrh  410

 

Návrh nařízení

Čl. 29 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Uživatelé vysoce rizikových systémů UI použijí informace poskytnuté podle článku 13 ke splnění své povinnosti provést posouzení vlivu na ochranu osobních údajů podle článku 35 nařízení (EU) 2016/679 a tam, kde je to relevantní, podle článku 27 směrnice (EU) 2016/680.	6. Tam, kde je to relevantní, použijí provozovatelé vysoce rizikových systémů UI informace poskytnuté podle článku 13 ke splnění své povinnosti provést posouzení vlivu na ochranu osobních údajů podle článku 35 nařízení (EU) 2016/679 a podle článku 27 směrnice (EU) 2016/680, jehož shrnutí se zveřejní s ohledem na konkrétní použití a konkrétní kontext, v němž má systém UI fungovat. Provozovatelé se mohou částečně vrátit k těmto posouzením vlivu na ochranu osobních údajů za účelem splnění některých povinností stanovených v tomto článku, pokud posouzení dopadu na ochranu údajů tyto povinnosti splňuje.

Pozměňovací návrh  411

 

Návrh nařízení

Čl. 29 – odst. 6 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	6a. Aniž je dotčen článek 52, provozovatelé vysoce rizikových systémů UI uvedených v příloze III, kteří přijímají rozhodnutí nebo pomáhají při přijímání rozhodnutí týkajících se fyzických osob, informují fyzické osoby o tom, že se na ně vztahuje použití vysoce rizikového systému UI. Tyto informace zahrnují zamýšlený účel a druh přijímaných rozhodnutí. Provozovatel rovněž informuje fyzickou osobu o jejím právu na vysvětlení uvedeném v článku 68c.

Pozměňovací návrh  412

 

Návrh nařízení

Čl. 29 – odst. 6 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	6b. Provozovatelé spolupracují s dotčenými příslušnými vnitrostátními orgány na veškerých opatřeních, která tyto orgány přijmou v souvislosti s vysoce rizikovým systémem UI za účelem provedení tohoto nařízení.

Pozměňovací návrh  413

 

Návrh nařízení

Článek 29 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 29a
	Posouzení dopadu vysoce rizikových systémů UI na základní práva
	Před uvedením vysoce rizikového systému UI do provozu, jak je definován v čl. 6 odst. 2, s výjimkou systémů UI, které mají být použity v oblasti 2 přílohy III, provedou provozovatelé posouzení dopadu systému v konkrétním kontextu použití. Toto posouzení zahrne alespoň následující prvky:
	a) jasný nástin zamýšleného účelu, pro který bude systém používán;
	b) jasný nástin zamýšleného zeměpisného a časového rozsahu použití systému;
	c) kategorie fyzických osob a skupin, které by mohly být používáním systému dotčeny;
	d) ověření, že používání systému je v souladu s příslušnými unijními a vnitrostátními právními předpisy v oblasti základních práv;
	e) rozumně předvídatelný dopad používání vysoce rizikového systému UI na základní práva;
	f) konkrétní rizika újmy, která by mohla mít dopad na marginalizované osoby nebo zranitelné skupiny;
	g) rozumně předvídatelný nepříznivý dopad používání systému na životní prostředí;
	h) podrobný plán toho, jak bude zmírněna zjištěná újma nebo negativní dopad na základní práva;
	j) systém správy, který provozovatel zavede, včetně lidského dohledu, vyřizování stížností a nápravy.
	2. Pokud nelze určit podrobný plán na zmírnění rizik nastíněných v průběhu posouzení uvedeného v odstavci 1, provozovatel se zdrží používání vysoce rizikového systému UI a bez zbytečného odkladu informuje poskytovatele a vnitrostátní dozorový orgán. Vnitrostátní dozorové orgány podle článků 65 a 67 vezmou tyto informace v úvahu při prověřování systémů, které představují riziko na vnitrostátní úrovni.
	3. Povinnost uvedená v odstavci 1 platí pro první použití vysoce rizikového systému UI. Provozovatel může v podobných případech vycházet z dříve provedeného posouzení dopadů na základní práva nebo ze stávajícího posouzení, které provedli poskytovatelé. Pokud se provozovatel během používání vysoce rizikového systému UI domnívá, že kritéria uvedená v odstavci 1 již nejsou splněna, provede nové posouzení dopadů na základní práva.
	4. V průběhu posouzení dopadů provozovatel, s výjimkou malých a středních podniků, uvědomí vnitrostátní dozorový orgán a relevantní zúčastněné strany a v co nejvyšší možné míře zapojí zástupce osob nebo skupin osob, které mohou být ovlivněny vysoce rizikovým systémem UI, jak je uvedeno v odstavci 1, mimo jiné včetně: orgánů pro rovné zacházení, agentur na ochranu spotřebitele, sociálních partnerů a agentur pro ochranu údajů s cílem získat informace pro posouzení dopadů. Provozovatel poskytne subjektům lhůtu šesti týdnů na odpověď. Malé a střední podniky mohou dobrovolně uplatňovat ustanovení v tomto odstavci.
	V případě uvedeném v čl. 47 odst. 1 mohou být veřejné orgány od těchto povinností osvobozeny.
	5. Provozovatel, který je veřejným orgánem nebo podnikem uvedeným v čl. 51 odst. 1a písm. b), zveřejní souhrn výsledků posouzení dopadu v rámci registrace užívání v souladu se svou povinností podle čl. 51 odst. 2.
	6. V případě, že se od provozovatele již požaduje, aby provedl posouzení dopadu na ochranu osobních údajů podle článku 35 nařízení (EU) 2016/679 nebo článku 27 směrnice (EU) 2016/680, provede se posouzení dopadu na základní práva uvedené v odstavci 1 ve spojení s posouzením dopadu na ochranu osobních údajů. Posouzení dopadu na ochranu údajů se zveřejní jako dodatek.

Pozměňovací návrh  414

 

Návrh nařízení

Čl. 30 – odst. 1

 

Znění navržené Komisí	Pozměňovací návrh
1. Každý členský stát jmenuje nebo určí oznamující orgán odpovědný za stanovení a provádění postupů nezbytných pro posuzování, jmenování a oznamování subjektů posuzování shody a za jejich monitorování.	1. Každý členský stát jmenuje nebo určí oznamující orgán odpovědný za stanovení a provádění postupů nezbytných pro posuzování, jmenování a oznamování subjektů posuzování shody a za jejich monitorování. Tyto postupy se vypracují ve spolupráci mezi oznamujícími orgány všech členských států.

Pozměňovací návrh  415

 

Návrh nařízení

Čl. 30 – odst. 7

Znění navržené Komisí	Pozměňovací návrh
7. Oznamující orgány mají k dispozici dostatečný počet kvalifikovaných pracovníků, aby mohly řádně vykonávat své povinnosti.	7. Oznamující orgány mají k dispozici dostatečný počet kvalifikovaných pracovníků, aby mohly řádně vykonávat své povinnosti. V příslušných případech musí mít kvalifikovaní pracovníci nezbytné odborné znalosti, například diplom v odpovídající právní oblasti, v oblasti dohledu nad základními právy zakotvenými v Listině základních práv Evropské unie.

Pozměňovací návrh  416

 

Návrh nařízení

Čl. 30 – odst. 8

Znění navržené Komisí	Pozměňovací návrh
8. Oznamující orgány zajistí, aby bylo posuzování shody prováděno přiměřeným způsobem s cílem zabránit přílišnému zatížení poskytovatelů a aby oznámené subjekty při výkonu své činnosti řádně zohlednily velikost a strukturu dotčeného podniku, odvětví, v němž působí, a míru složitosti technologie daného systému UI.	8. Oznamující orgány zajistí, aby bylo posuzování shody prováděno přiměřeným způsobem a včas s cílem zabránit přílišnému zatížení poskytovatelů a aby oznámené subjekty při výkonu své činnosti řádně zohlednily velikost a strukturu dotčeného podniku, odvětví, v němž působí, a míru složitosti technologie daného systému UI. Zvláštní pozornost se věnuje minimalizaci administrativní zátěže a nákladů na dodržování předpisů pro mikropodniky a malé podniky, jak jsou definovány v doporučení Komise 2003/361/ES.

Pozměňovací návrh  417

 

Návrh nařízení

Čl. 32 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Oznamující orgány mohou oznámit pouze subjekty posuzování shody, které splňují požadavky stanovené v článku 33.	1. Oznamující orgány oznámí pouze subjekty posuzování shody, které splňují požadavky stanovené v článku 33.

Pozměňovací návrh  418

 

Návrh nařízení

Čl. 32 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. K oznámení Komisi a ostatním členským státům využijí oznamující orgány elektronický nástroj pro oznamování vyvinutý a spravovaný Komisí.	2. K oznámení každého subjektu posuzování shody uvedeného v odstavci 1 Komisi a ostatním členským státům využijí oznamující orgány elektronický nástroj pro oznamování vyvinutý a spravovaný Komisí.

Pozměňovací návrh  419

 

Návrh nařízení

Čl. 32 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Oznámení musí obsahovat veškeré podrobnosti o dotčených činnostech posuzování shody, modulu nebo modulech posuzování shody a o dotčených technologiích umělé inteligence.	3. Oznámení uvedené v odstavci 2 musí obsahovat veškeré podrobnosti o dotčených činnostech posuzování shody, modulu nebo modulech posuzování shody a o dotčených technologiích umělé inteligence, a také příslušné potvrzení o způsobilosti.

Pozměňovací návrh  420

 

Návrh nařízení

Čl. 32 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Dotčený subjekt posuzování shody může vykonávat činnosti oznámeného subjektu, pouze pokud proti tomu Komise nebo ostatní členské státy nevznesly námitky do jednoho měsíce po oznámení.	4. Dotčený subjekt posuzování shody může vykonávat činnosti oznámeného subjektu, pouze pokud proti tomu Komise nebo ostatní členské státy nevznesly námitky do dvou týdnů po potvrzení oznámení, jestliže oznámení obsahuje osvědčení o akreditaci podle čl. 31 odst. 2, nebo do dvou měsíců po oznámení, jestliže obsahuje doklady podle čl. 31 odst. 3.

Pozměňovací návrh  421

 

Návrh nařízení

Čl. 32 – odst. 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	4a. Jsou-li vzneseny námitky, zahájí Komise neprodleně konzultace s příslušnými členskými státy a subjektem posuzování shody. S ohledem na to Komise rozhodne, zda je povolení oprávněné či nikoli. Rozhodnutí Komise je určeno dotčenému členskému státu a příslušnému subjektu posuzování shody.

Pozměňovací návrh  422

 

Návrh nařízení

Čl. 32 – odst. 4 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	4b. Členské státy oznámí subjekty posuzování shody Komisi a ostatním členským státům.

Pozměňovací návrh  423

 

Návrh nařízení

Čl. 33 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Oznámené subjekty splňují organizační požadavky a požadavky na řízení kvality, zdroje a postupy, které jsou k plnění uvedených úkolů nezbytné.	2. Oznámené subjekty splňují organizační požadavky a požadavky na řízení kvality, zdroje a postupy, které jsou k plnění uvedených úkolů nezbytné, jakož i minimální požadavky na kybernetickou bezpečnost stanovené pro subjekty veřejné správy určené jako provozovatelé základních služeb podle směrnice (EU) 2022/2555.

Pozměňovací návrh  424

 

Návrh nařízení

Čl. 33 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Oznámené subjekty jsou nezávislé na poskytovateli vysoce rizikového systému UI, u něhož provádějí činnosti posuzování shody. Oznámené subjekty jsou rovněž nezávislé na jakémkoliv jiném provozovateli, který má na posuzovaném vysoce rizikovém systému UI zájem, i na jakýchkoliv konkurentech poskytovatele.	4. Oznámené subjekty jsou nezávislé na poskytovateli vysoce rizikového systému UI, u něhož provádějí činnosti posuzování shody. Oznámené subjekty jsou rovněž nezávislé na jakémkoliv jiném provozovateli, který má na posuzovaném vysoce rizikovém systému UI zájem, i na jakýchkoliv konkurentech poskytovatele. To nevylučuje používání posuzovaných systémů UI, které jsou nezbytné pro činnost subjektu posuzování shody, ani používání takových systémů pro osobním účely.

Pozměňovací návrh  425

 

Návrh nařízení

Čl. 33 – odst. 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	4a. Posouzení shody podle odstavce 1 provádějí zaměstnanci oznámených subjektů, kteří v období 12 měsíců před posouzením neposkytli poskytovateli vysoce rizikového systému UI ani žádné právnické osobě spojené s tímto poskytovatelem žádnou jinou službu související s posuzovanou záležitostí než posouzení shody a zavázali se, že jim takové služby neposkytnou v období 12 měsíců od dokončení posouzení.

Pozměňovací návrh  426

 

Návrh nařízení

Čl. 33 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Oznámené subjekty musí mít zavedeny zdokumentované postupy zajišťující, aby jejich pracovníci, výbory, pobočky, subdodavatelé a jakýkoliv přidružený subjekt nebo pracovníci externích subjektů zachovávali důvěrnost informací získaných při provádění činností posuzování shody, s výjimkou případů, kdy je zveřejnění těchto informací ze zákona povinné. Zaměstnanci subjektů posuzování shody jsou povinni zachovávat služební tajemství, pokud jde o veškeré informace, které obdrželi při plnění svých úkolů podle tohoto nařízení, nikoli však ve vztahu k oznamujícím orgánům členského státu, v němž vykonávají svou činnost.	6. Oznámené subjekty musí mít zavedeny zdokumentované postupy zajišťující, aby jejich pracovníci, výbory, pobočky, subdodavatelé a jakýkoliv přidružený subjekt nebo pracovníci externích subjektů zachovávali důvěrnost informací získaných při provádění činností posuzování shody, s výjimkou případů, kdy je zveřejnění těchto informací ze zákona povinné. Zaměstnanci subjektů posuzování shody jsou povinni zachovávat služební tajemství, pokud jde o veškeré informace, které obdrželi při plnění svých úkolů podle tohoto nařízení, nikoli však ve vztahu k oznamujícím orgánům členského státu, v němž vykonávají svou činnost. S veškerými informacemi a dokumentací získanými oznámenými subjekty podle ustanovení tohoto článku se nakládá v souladu s povinnostmi zachování důvěrnosti stanovenými v článku 70.

Pozměňovací návrh  427

 

Návrh nařízení

Čl. 34 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Činnosti lze zadat subdodavateli nebo dceřiné společnosti pouze se souhlasem poskytovatele.	3. Činnosti lze zadat subdodavateli nebo dceřiné společnosti pouze se souhlasem poskytovatele. Oznámené subjekty zveřejní seznam svých dceřiných společností.

Pozměňovací návrh  428

 

Návrh nařízení

Čl. 34 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Oznámený subjekt uchovává pro potřebu oznamujícího orgánu příslušné doklady týkající se posouzení kvalifikací subdodavatele nebo dceřiné společnosti a práce provedené subdodavatelem nebo dceřinou společností podle tohoto nařízení.	4. Oznámený subjekt uchovává pro potřebu oznamujícího orgánu příslušné doklady týkající se ověření kvalifikací subdodavatele nebo dceřiné společnosti a práce provedené subdodavatelem nebo dceřinou společností podle tohoto nařízení.

Pozměňovací návrh  429

 

Návrh nařízení

Čl. 35 – název

Znění navržené Komisí	Pozměňovací návrh
Identifikační čísla a seznamy oznámených subjektů jmenovaných podle tohoto nařízení	Identifikační čísla a seznamy oznámených subjektů

Pozměňovací návrh  430

 

Návrh nařízení

Čl. 36 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Pokud má oznamující orgán podezření nebo je upozorněn na to, že oznámený subjekt již nesplňuje požadavky stanovené v článku 33 nebo neplní své povinnosti, prošetří tuto záležitost s největší péčí. V této souvislosti informuje dotčený oznámený subjekt o vznesených námitkách a poskytne mu možnost, aby vyjádřil svá stanoviska. Pokud oznamující orgán dospěje k závěru, že šetření oznámeného subjektu již nesplňuje požadavky stanovené v článku 33 nebo že tento subjekt neplní své povinnosti, omezí, pozastaví nebo případně zruší oznámení podle toho, jak je toto neplnění závažné. Informuje o tom rovněž neprodleně Komisi a ostatní členské státy.	1. Pokud má oznamující orgán podezření nebo je upozorněn na to, že oznámený subjekt již nesplňuje požadavky stanovené v článku 33 nebo neplní své povinnosti, prošetří tuto záležitost s největší péčí. V této souvislosti informuje dotčený oznámený subjekt o vznesených námitkách a poskytne mu možnost, aby vyjádřil svá stanoviska. Pokud oznamující orgán dospěje k závěru, že oznámený subjekt již nesplňuje požadavky stanovené v článku 33 nebo že tento subjekt neplní své povinnosti, omezí, pozastaví nebo případně zruší oznámení podle toho, jak je toto neplnění závažné. Informuje o tom rovněž neprodleně Komisi a ostatní členské státy.

Pozměňovací návrh  431

 

Návrh nařízení

Čl. 36 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. V případě omezení, pozastavení nebo zrušení oznámení nebo v případě, že oznámený subjekt ukončil svou činnost, zajistí oznamující orgán, aby byly spisy tohoto oznámeného subjektu buď převzaty jiným oznámeným subjektem, nebo aby byly na vyžádání k dispozici příslušným oznamujícím orgánům.	2. V případě omezení, pozastavení nebo zrušení oznámení nebo v případě, že oznámený subjekt ukončil svou činnost, zajistí oznamující orgán, aby byly spisy tohoto oznámeného subjektu buď převzaty jiným oznámeným subjektem, nebo aby byly na vyžádání k dispozici příslušným oznamujícím orgánům a orgánu dozoru nad trhem.

Pozměňovací návrh  432

 

Návrh nařízení

Čl. 37 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Komise v případě potřeby vyšetří všechny případy, u nichž jsou důvody pochybovat o tom, zda oznámený subjekt splňuje požadavky uvedené v článku 33.	1. Komise v případě potřeby vyšetří všechny případy, u nichž jsou důvody pochybovat o kvalifikaci oznámeného subjektu nebo o tom, zda oznámený subjekt nadále splňuje příslušné požadavky a povinnosti.

Pozměňovací návrh  433

 

Návrh nařízení

Čl. 37 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Oznamující orgán předloží Komisi na vyžádání všechny informace týkající se oznámení dotčeného oznámeného subjektu.	2. Oznamující orgán předloží Komisi na vyžádání všechny informace týkající se oznámení nebo zachování kvalifikace dotčeného oznámeného subjektu.

Pozměňovací návrh  434

 

Návrh nařízení

Čl. 37 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Komise zajistí, aby se se všemi důvěrnými informacemi získanými v průběhu jejího šetření podle tohoto článku nakládalo jako s důvěrnými.	3. Komise zajistí, aby se se všemi citlivými informacemi získanými v průběhu jejího šetření podle tohoto článku nakládalo jako s důvěrnými.

Pozměňovací návrh  435

 

Návrh nařízení

Čl. 37 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Pokud Komise zjistí, že oznámený subjekt nesplňuje nebo přestal splňovat požadavky uvedené v článku 33, přijme odůvodněné rozhodnutí a vyzve oznamující členský stát, aby přijal nezbytná nápravná opatření, včetně případného zrušení oznámení. Tento prováděcí akt se přijme přezkumným postupem uvedeným v čl. 74 odst. 2.	4. Pokud Komise zjistí, že oznámený subjekt nesplňuje nebo přestal splňovat požadavky pro své oznámení, informuje o tom oznamující členský stát a vyzve ho, aby přijal nezbytná nápravná opatření, včetně případného pozastavení nebo zrušení oznámení. Pokud členský stát nepřijme nezbytná nápravná opatření, může Komise prostřednictvím prováděcího aktu jmenování pozastavit, omezit nebo zrušit. Tento prováděcí akt se přijme přezkumným postupem uvedeným v čl. 74 odst. 2.

Pozměňovací návrh  436

 

Návrh nařízení

Čl. 38 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Komise zajistí výměnu poznatků a osvědčených postupů mezi vnitrostátními orgány členských států, které jsou odpovědné za politiku oznamování.

 

Pozměňovací návrh  437

 

Návrh nařízení

Čl. 40 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
Předpokládá se, že vysoce rizikové systémy UI, které jsou ve shodě s harmonizovanými normami nebo jejich částmi, na něž byly zveřejněny odkazy v Úředním věstníku Evropské unie, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy v rozsahu, v jakém se tyto normy vztahují na tyto požadavky.	Předpokládá se, že vysoce rizikové systémy UI a základní modely, které jsou ve shodě s harmonizovanými normami nebo jejich částmi, na něž byly zveřejněny odkazy v Úředním věstníku Evropské unie v souladu s nařízením (EU) 1025/2012, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy nebo v článku 28b v rozsahu, v jakém se tyto normy vztahují na tyto požadavky.

 

Pozměňovací návrh  438

 

Návrh nařízení

Čl. 40 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Komise vydá žádosti o normalizaci, které se týkají všech požadavků tohoto nařízení, v souladu s článkem 10 nařízení (EU) č. 1025/2012 do ... [dva měsíce od vstupu tohoto nařízení v platnost]. Při přípravě žádosti o normalizaci Komise konzultuje Úřad pro UI a poradní fórum.

 

Pozměňovací návrh  439

 

Návrh nařízení

Čl. 40 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Při vydávání žádosti o normalizaci evropským normalizačním organizacím Komise upřesní, že normy musí být v souladu, a to i s odvětvovými právními předpisy uvedenými v příloze II, a zaměřené na zajištění toho, aby systémy UI nebo základní modely UI uváděné na trh nebo do provozu v Unii splňovaly příslušné požadavky stanovené v tomto nařízení.

 

Pozměňovací návrh  440

 

Návrh nařízení

Čl. 40 – odst. 1 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	Subjekty zapojené do procesu normalizace zohlední obecné zásady pro důvěryhodnou UI stanovené v čl. 4 písm. a), usilují se podporovat investice a inovace v oblasti UI, jakož i konkurenceschopnost a růst trhu Unie a přispívají k posílení globální spolupráce v oblasti normalizace, přičemž zohledňují stávající mezinárodní normy v oblasti UI, které jsou v souladu s hodnotami, základními právy a zájmy Unie, a zajišťují vyvážené zastoupení zájmů a účinnou účast všech příslušných zúčastněných stran v souladu s články 5, 6 a 7 nařízení (EU) č. 1025/2012.

 

Pozměňovací návrh  441

 

Návrh nařízení

Čl. 41 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Pokud neexistují harmonizované normy uvedené v článku 40 nebo pokud má Komise za to, že příslušné harmonizované normy nejsou dostatečné nebo že je třeba reagovat na konkrétní obavy týkající se bezpečnosti nebo základních práv, může Komise prostřednictvím prováděcích aktů přijímat společné specifikace, pokud jde o požadavky stanovené v kapitole 2 této hlavy. Tyto prováděcí akty se přijímají přezkumným postupem podle čl. 74 odst. 2.	vypouští se

 

Pozměňovací návrh  442

 

Návrh nařízení

Čl. 41 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Komise může prostřednictvím prováděcího aktu přijatého přezkumným postupem podle čl. 74 odst. 2 a po konzultaci s Úřadem pro UI a poradním fórem pro UI přijmout společné specifikace týkající se požadavků stanovených v kapitole 2 této hlavy nebo v článku 28b, pokud jsou splněny všechny tyto podmínky:
	a) neexistuje žádný odkaz na harmonizované normy, které již byly zveřejněny v Úředním věstníku Evropské unie a které se týkají základního požadavku (základních požadavků), pokud daná harmonizovaná norma není stávající normou, která musí být revidována;
	b) Komise požádala jednu nebo více evropských normalizačních organizací o vypracování harmonizované normy pro základní požadavek (základní požadavky) stanovené v kapitole 2;
	c) žádost uvedená v písm. b) nebyla žádnou z evropských normalizačních organizací přijata; nebo při vytváření vhodné harmonizované normy dochází ke zbytečným prodlevám; nebo předložená norma nesplňuje požadavky příslušných právních předpisů Unie nebo není v souladu se žádostí Komise.

 

Pozměňovací návrh  443

 

Návrh nařízení

Čl. 41 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	1b. Pokud se Komise domnívá, že je třeba řešit konkrétní obavy týkající se základních práv, společné specifikace přijaté Komisí v souladu s odstavcem 1a tyto konkrétní obavy týkající se základních práv rovněž řeší.

 

Pozměňovací návrh  444

 

Návrh nařízení

Čl. 41 – odst. 1 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	1c. Komise vypracuje společné specifikace pro metodiku ke splnění požadavku na podávání zpráv a dokumentaci o spotřebě energie a zdrojů během vývoje, trénování a zavádění vysoce rizikového systému UI.

 

Pozměňovací návrh  445

 

Návrh nařízení

Čl. 41 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Při přípravě společných specifikací uvedených v odstavci 1 shromáždí Komise názory příslušných subjektů nebo skupin odborníků zřízených podle příslušných odvětvových právních předpisů Unie.	2. Komise v průběhu celého procesu vypracovávání společných specifikací uvedených v odstavcích 1a a 1b pravidelně konzultuje Úřad pro UI a poradní fórum, evropské normalizační organizace a subjekty nebo skupiny odborníků zřízené podle příslušných odvětvových právních předpisů Unie, jakož i další příslušné zúčastněné strany. Komise plní cíle uvedené v čl. 40 odst. 1c a řádně odůvodní, proč se rozhodla použít společné specifikace.
	Pokud má Komise v úmyslu přijmout společné specifikace podle odstavce 1a tohoto článku, rovněž jasně určí konkrétní obavy týkající se základních práv, které je třeba řešit.
	Při přijímání společných specifikací podle odstavců 1a a 1b tohoto článku Komise zohlední stanovisko vydané Úřadem pro UI uvedeným v čl. 56e písm. b) tohoto nařízení. Pokud se Komise rozhodne neřídit se stanoviskem Úřadu pro UI, poskytne Úřadu pro UI odůvodněné vysvětlení.

 

Pozměňovací návrh  446

 

Návrh nařízení

Čl. 41 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Předpokládá se, že vysoce rizikové systémy UI, které jsou ve shodě s obecnými specifikacemi uvedenými v odstavci 1, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy v rozsahu, v jakém se tyto obecné specifikace vztahují na uvedené požadavky.	3. Předpokládá se, že vysoce rizikové systémy UI, které jsou ve shodě s obecnými specifikacemi uvedenými v odstavci 1a a 1b, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy v rozsahu, v jakém se tyto obecné specifikace vztahují na uvedené požadavky.

 

Pozměňovací návrh  447

 

Návrh nařízení

Čl. 41 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Pokud některá evropská normalizační organizace harmonizovanou normu přijme a navrhne Komisi, aby zveřejnila na ni odkaz v Úředním věstníku Evropské unie, Komise harmonizovanou normu posoudí v souladu s nařízením (EU) č. 1025/2012. Je-li odkaz na harmonizovanou normu zveřejněn v Úředním věstníku Evropské unie, Komise zruší akty uvedené v odstavci 1 a 1b nebo jejich části, které se týkají stejných požadavků stanovených v kapitole 2 této hlavy.

 

Pozměňovací návrh  448

 

Návrh nařízení

Čl. 41 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Pokud poskytovatelé nejsou ve shodě se společnými specifikacemi uvedenými v odstavci 1, řádně zdůvodní, že přijali technická řešení, která jsou s nimi přinejmenším rovnocenná.	4. Pokud poskytovatelé vysoce rizikových systémů UI nejsou ve shodě se společnými specifikacemi uvedenými v odstavci 1, řádně zdůvodní, že přijali technická řešení, která splňují požadavky uvedené v kapitole 2 v míře, která je s nimi přinejmenším rovnocenná.

 

Pozměňovací návrh  449

 

Návrh nařízení

Čl. 42 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. U vysoce rizikových systémů UI, které byly trénovány a testovány na údajích týkajících se konkrétního zeměpisného, behaviorálního a funkčního prostředí, ve kterém mají být používány, se s ohledem na jejich zamýšlený účel předpokládá, že jsou v souladu s požadavkem stanoveným v čl. 10 odst. 4.	1. U vysoce rizikových systémů UI, které byly trénovány a testovány na údajích týkajících se konkrétního zeměpisného, behaviorálního, kontextuálního a funkčního prostředí, ve kterém mají být používány, se s ohledem na jejich zamýšlený účel předpokládá, že jsou v souladu s příslušnými požadavky stanovenými v čl. 10 odst. 4.

 

Pozměňovací návrh  450

 

Návrh nařízení

Čl. 43 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. V případě vysoce rizikových systémů UI uvedených v bodě 1 přílohy III, u nichž poskytovatel při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy použil harmonizované normy uvedené v článku 40, nebo tam, kde je to relevantní, společné specifikace uvedené v článku 41, uplatňuje poskytovatel jeden z následujících postupů:	1. V případě vysoce rizikových systémů UI uvedených v bodě 1 přílohy III, u nichž poskytovatel při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy použil harmonizované normy uvedené v článku 40, nebo tam, kde je to relevantní, společné specifikace uvedené v článku 41, zvolí poskytovatel jeden z následujících postupů:

 

Pozměňovací návrh  451

 

Návrh nařízení

Čl. 43 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) postup posuzování shody založený na vnitřní kontrole podle přílohy VI;	a) postup posuzování shody založený na vnitřní kontrole podle přílohy VI; nebo

 

Pozměňovací návrh  452

 

Návrh nařízení

Čl. 43 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) postup posuzování shody založený na posouzení systému řízení kvality a posouzení technické dokumentace za účasti oznámeného subjektu podle přílohy VII.	b) postup posuzování shody založený na posouzení systému řízení kvality a technické dokumentace za účasti oznámeného subjektu podle přílohy VII.

 

Pozměňovací návrh  453

 

Návrh nařízení

Čl. 43 – odst. 1 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Pokud poskytovatel při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy nepoužil harmonizované normy uvedené v článku 40 nebo je použil pouze částečně, případně pokud tyto harmonizované normy neexistují a společné specifikace uvedené v článku 41 nejsou k dispozici, uplatňuje poskytovatel postup posuzování shody podle přílohy VII.	Při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy se poskytovatel řídí postupem posuzování shody stanoveným v příloze VII v těchto případech:
	a) pokud harmonizované normy uvedené v článku 40, jejichž referenční čísla byla zveřejněna v Úředním věstníku Evropské unie a které zahrnují všechny příslušné požadavky na bezpečnost systému UI, neexistují a společné specifikace uvedené v článku 41 nejsou k dispozici;
	b) pokud technické specifikace uvedené v písmenu a) existují, ale poskytovatel je nepoužil nebo je použil pouze částečně;
	c) pokud jedna nebo více technických specifikací uvedených v písmenu a) bylo zveřejněno s omezením a pouze pro tu část normy, která byla omezena;
	d) pokud se poskytovatel domnívá, že povaha, návrh, konstrukce nebo účel systému UI vyžaduje ověření třetí stranou, bez ohledu na úroveň rizika.

 

Pozměňovací návrh  454

 

Návrh nařízení

Čl. 43 – odst. 1 – pododstavec 2

Znění navržené Komisí	Pozměňovací návrh
Pro účely postupu posuzování shody uvedeného v příloze VII si poskytovatel může zvolit kterýkoli z oznámených subjektů. Je-li však systém určen k uvedení do provozu donucovacími, imigračními nebo azylovými orgány, jakož i institucemi, orgány nebo agenturami EU, jedná jako oznámený subjekt orgán dozoru nad trhem uvedený v čl. 63 odst. 5, případně 6.	Pro účely provádění postupu posuzování shody uvedeného v příloze VII si poskytovatel může zvolit kterýkoli z oznámených subjektů. Je-li však systém určen k uvedení do provozu donucovacími, imigračními nebo azylovými orgány, jakož i institucemi, orgány nebo agenturami EU, jedná jako oznámený subjekt orgán dozoru nad trhem uvedený v čl. 63 odst. 5, případně 6.

 

Pozměňovací návrh  455

 

Návrh nařízení

Čl. 43 – odst. 4 – návětí

Znění navržené Komisí	Pozměňovací návrh
4. U vysoce rizikových systémů UI musí být proveden nový postup posuzování shody pokaždé, když jsou podstatně změněny, bez ohledu na to, zda má být změněný systém dále distribuován nebo zda jej i nadále používá jeho současný uživatel.	4. U vysoce rizikových systémů UI, u kterých již byl postup posuzování shody proveden, musí být proveden nový postup posuzování shody pokaždé, když jsou podstatně změněny, bez ohledu na to, zda má být změněný systém dále distribuován nebo zda jej i nadále používá jeho současný provozovatel.

 

Pozměňovací návrh  456

 

Návrh nařízení

Čl. 43 – odst. 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	4a. Při stanovování poplatků za posuzování shody třetí stranou podle tohoto článku se zohlední zvláštní zájmy a potřeby malých a středních podniků tak, že se tyto poplatky sníží úměrně jejich velikosti a podílu na trhu.

Pozměňovací návrh  457

 

Návrh nařízení

Čl. 43 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace příloh VI a VII s cílem zavést prvky postupů posuzování shody, které mohou být nutné s ohledem na technický pokrok.	5. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace příloh VI a VII s cílem zavést prvky postupů posuzování shody, které mohou být nutné s ohledem na technický pokrok. Při přípravě těchto aktů v přenesené pravomoci Komise konzultuje Úřad pro UI a dotčené zúčastněné strany.

Pozměňovací návrh  458

 

Návrh nařízení

Čl. 43 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci za účelem změny odstavců 1 a 2 s cílem podrobit vysoce rizikové systémy UI uvedené v bodech 2 až 8 přílohy III postupu posuzování shody uvedenému v příloze VII nebo jejích částech. Komise přijímá tyto akty v přenesené pravomoci s přihlédnutím k účinnosti postupu posuzování shody založeného na vnitřní kontrole podle přílohy VI v oblasti prevence nebo minimalizace rizik pro zdraví, bezpečnost a ochranu základních práv, která tyto systémy představují, jakož i k dostupnosti přiměřených kapacit a zdrojů mezi oznámenými subjekty.	6. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci za účelem změny odstavců 1 a 2 s cílem podrobit vysoce rizikové systémy UI uvedené v bodech 2 až 8 přílohy III postupu posuzování shody uvedenému v příloze VII nebo jejích částech. Komise přijímá tyto akty v přenesené pravomoci s přihlédnutím k účinnosti postupu posuzování shody založeného na vnitřní kontrole podle přílohy VI v oblasti prevence nebo minimalizace rizik pro zdraví, bezpečnost a ochranu základních práv, která tyto systémy představují, jakož i k dostupnosti přiměřených kapacit a zdrojů mezi oznámenými subjekty. Při přípravě těchto aktů v přenesené pravomoci Komise konzultuje Úřad pro UI a dotčené zúčastněné strany.

Pozměňovací návrh  459

 

Návrh nařízení

Čl. 44 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Certifikáty vydané oznámenými subjekty v souladu s přílohou VII se vyhotovují v úředním jazyce Unie, který stanoví členský stát, v němž je oznámený subjekt usazen, nebo v úředním jazyce Unie, který je pro oznámený subjekt případně jinak přijatelný.	1. Certifikáty vydané oznámenými subjekty v souladu s přílohou VII se vyhotovují v jednom nebo několika úředních jazycích Unie, které stanoví členský stát, v němž je oznámený subjekt usazen, nebo v jednom nebo několika úředních jazycích Unie, které jsou pro oznámený subjekt případně jinak přijatelné.

Pozměňovací návrh  460

 

Návrh nařízení

Čl. 44 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Certifikáty jsou platné po dobu v nich uvedenou, která nesmí překročit délku pěti let. Na základě žádosti poskytovatele může být platnost certifikátu prodlužována o další období, z nichž žádné nepřekročí délku pěti let, a to na základě nového posouzení v souladu s příslušnými postupy posuzování shody.	2. Certifikáty jsou platné po dobu v nich uvedenou, která nesmí překročit délku čtyř let. Na základě žádosti poskytovatele může být platnost certifikátu prodlužována o další období, z nichž žádné nepřekročí délku čtyř let, a to na základě nového posouzení v souladu s příslušnými postupy posuzování shody.

Pozměňovací návrh  461

 

Návrh nařízení

Čl. 44 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Pokud oznámený subjekt zjistí, že systém UI již nesplňuje požadavky uvedené v kapitole 2 této hlavy, pozastaví s ohledem na zásadu proporcionality platnost certifikátu nebo ho zruší či jinak omezí, dokud není vhodnými nápravnými opatřeními přijatými poskytovatelem tohoto systému v rámci příslušné lhůty stanovené oznámeným subjektem zajištěno dosažení souladu s těmito požadavky. Oznámený subjekt své rozhodnutí zdůvodní.	3. Pokud oznámený subjekt zjistí, že systém UI již nesplňuje požadavky uvedené v kapitole 2 této hlavy, pozastaví platnost certifikátu nebo ho zruší či jinak omezí, dokud není vhodnými nápravnými opatřeními přijatými poskytovatelem tohoto systému v rámci příslušné lhůty stanovené oznámeným subjektem zajištěno dosažení souladu s těmito požadavky. Oznámený subjekt své rozhodnutí zdůvodní.

Pozměňovací návrh  462

 

Návrh nařízení

Čl. 45 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
Členské státy zajistí, aby byl stranám, které mají na uvedeném rozhodnutí oprávněný zájem, k dispozici postup pro podání opravného prostředku proti rozhodnutím oznámených subjektů.	Členské státy zajistí, aby byl stranám, které mají na uvedeném rozhodnutí oprávněný zájem, k dispozici postup pro podání opravného prostředku proti rozhodnutím oznámených subjektů, včetně rozhodnutí týkajících se vydaných certifikátů shody.

Pozměňovací návrh  463

 

Návrh nařízení

Čl. 46 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Každý oznámený subjekt poskytne ostatním oznámeným subjektům, které vykonávají obdobné činnosti posuzování shody a zabývají se stejnými technologiemi umělé inteligence, příslušné informace o otázkách týkajících se negativních a na vyžádání pozitivních výsledků posuzování shody.	3. Každý oznámený subjekt poskytne ostatním oznámeným subjektům, které vykonávají obdobné činnosti posuzování shody, příslušné informace o otázkách týkajících se negativních a na vyžádání pozitivních výsledků posuzování shody.

Pozměňovací návrh  464

 

Návrh nařízení

Čl. 47 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Odchylně od článku 43 může kterýkoli orgán dozoru nad trhem povolit uvedení konkrétních vysoce rizikových systémů UI na trh nebo do provozu na území dotčeného členského státu z výjimečných důvodů veřejné bezpečnosti nebo ochrany života a zdraví osob, ochrany životního prostředí a ochrany klíčových průmyslových a infrastrukturních aktiv. Toto povolení se uděluje na omezenou dobu, dokud jsou prováděny nezbytné postupy posuzování shody, a končí, jakmile jsou tyto postupy dokončeny. Dokončení těchto postupů bude provedeno bez zbytečného odkladu.	1. Odchylně od článku 43 může kterýkoli vnitrostátní dozorový orgán požádat justiční orgán, aby povolil uvedení konkrétních vysoce rizikových systémů UI na trh nebo do provozu na území dotčeného členského státu z výjimečných důvodů ochrany života a zdraví osob, ochrany životního prostředí a ochrany kritické infrastruktury. Toto povolení se uděluje na omezenou dobu, dokud jsou prováděny nezbytné postupy posuzování shody, a končí, jakmile jsou tyto postupy dokončeny. Dokončení těchto postupů bude provedeno bez zbytečného odkladu;

Pozměňovací návrh  465

 

Návrh nařízení

Čl. 47 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Povolení uvedené v odstavci 1 bude vydáno jen tehdy, pokud orgán dozoru nad trhem dospěje k závěru, že daný vysoce rizikový systém UI splňuje požadavky kapitoly 2 této hlavy. Orgán dozoru nad trhem informuje Komisi a ostatní členské státy o každém povolení vydaném podle odstavce 1.	2. Povolení uvedené v odstavci 1 bude vydáno jen tehdy, pokud vnitrostátní dozorový orgán a justiční orgán dospějí k závěru, že daný vysoce rizikový systém UI splňuje požadavky kapitoly 2 této hlavy. Vnitrostátní dozorový orgán informuje Komisi, Úřad pro umělou inteligenci a ostatní členské státy o každé žádosti a každém následném povolení vydaném podle odstavce 1;

Pozměňovací návrh  466

 

Návrh nařízení

Čl. 47 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Pokud do patnácti kalendářních dnů od obdržení informací uvedených v odstavci 2 žádný členský stát ani Komise nevznese námitku proti povolení vydanému orgánem dozoru nad trhem členského státu v souladu s odstavcem 1, považuje se povolení za oprávněné.	3. Pokud do patnácti kalendářních dnů od obdržení informací uvedených v odstavci 2 žádný členský stát ani Komise nevznese námitku proti žádosti vnitrostátního dozorového orgánu o povolení vydané vnitrostátním dozorovým orgánem členského státu v souladu s odstavcem 1, považuje se povolení za oprávněné;

Pozměňovací návrh  467

 

Návrh nařízení

Čl. 47 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Pokud členský stát do patnácti kalendářních dnů od přijetí oznámení uvedeného v odstavci 2 vznese námitky proti povolení vydanému orgánem dozoru nad trhem jiného členského státu nebo pokud se Komise domnívá, že toto povolení je v rozporu s právními předpisy Unie nebo se závěrem členských států ohledně souladu systému podle odstavce 2 neopodstatněné, zahájí Komise neprodleně konzultace s příslušným členským státem; dotčený provozovatel či provozovatelé jsou konzultováni a mají možnost předložit svá stanoviska. S ohledem na to Komise rozhodne, zda je povolení oprávněné či nikoli. Rozhodnutí Komise je určeno dotčenému členskému státu a příslušnému provozovateli nebo provozovatelům.	4. Pokud členský stát do patnácti kalendářních dnů od přijetí oznámení uvedeného v odstavci 2 vznese námitky proti žádosti podané vnitrostátním dozorovým orgánem jiného členského státu nebo pokud se Komise domnívá, že toto povolení je v rozporu s právními předpisy Unie nebo se závěrem členských států ohledně souladu systému podle odstavce 2 neopodstatněné, zahájí Komise neprodleně konzultace s příslušným členským státem a Úřadem pro umělou inteligenci; dotčený provozovatel či provozovatelé jsou konzultováni a mají možnost předložit svá stanoviska. S ohledem na to Komise rozhodne, zda je povolení oprávněné či nikoli. Rozhodnutí Komise je určeno dotčenému členskému státu a příslušnému provozovateli nebo provozovatelům;

Pozměňovací návrh  468

 

Návrh nařízení

Čl. 47 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Pokud je povolení považováno za neodůvodněné, orgán dozoru nad trhem dotčeného členského státu jej zruší.	5. Pokud je povolení považováno za neodůvodněné, vnitrostátní dozorový orgán dotčeného členského státu jej zruší;

Pozměňovací návrh  469

 

Návrh nařízení

Čl. 48 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Poskytovatel vypracuje pro každý systém UI písemné EU prohlášení o shodě a po dobu deseti let od uvedení systému UI na trh nebo do provozu je uchovává pro potřebu příslušných vnitrostátních orgánů. V EU prohlášení o shodě je uveden systém UI, pro nějž bylo vypracováno. Kopie EU prohlášení o shodě bude na vyžádání poskytnuta dotčeným příslušným vnitrostátním orgánům.	1. Poskytovatel vypracuje pro každý vysoce rizikový systém UI písemné, strojově čitelné, fyzické nebo elektronické EU prohlášení o shodě a po dobu deseti let od uvedení vysoce rizikového systému UI na trh nebo do provozu je uchovává pro potřebu vnitrostátního dozorového orgánu a příslušných vnitrostátních orgánů. Kopie EU prohlášení o shodě bude na vyžádání předložena vnitrostátnímu dozorovému orgánu a dotčeným příslušným vnitrostátním orgánům.

Pozměňovací návrh  470

 

Návrh nařízení

Čl. 48 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. EU prohlášení o shodě stanoví, že dotyčný vysoce rizikový systém UI splňuje požadavky stanovené v kapitole 2 této hlavy. EU prohlášení o shodě obsahuje informace stanovené v příloze V a je přeloženo do úředního jazyka nebo jazyků Unie požadovaných členským státem nebo členskými státy, v nichž je vysoce rizikový systém UI dodáván na trh.	2. EU prohlášení o shodě stanoví, že dotyčný vysoce rizikový systém UI splňuje požadavky stanovené v kapitole 2 této hlavy. EU prohlášení o shodě obsahuje informace stanovené v příloze V a je přeloženo do úředního jazyka nebo jazyků Unie požadovaných členským státem nebo členskými státy, v nichž je vysoce rizikový systém UI uveden nebo dodáván na trh;

Pozměňovací návrh  471

 

Návrh nařízení

Čl. 48 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Pokud se na vysoce rizikové systémy AI vztahují jiné harmonizační právní předpisy Unie, které také vyžadují EU prohlášení o shodě, vypracuje se jediné EU prohlášení o shodě s ohledem na všechny právní předpisy Unie, které se vztahují na daný vysoce rizikový systém UI. Toto prohlášení musí obsahovat veškeré informace požadované pro identifikaci harmonizačních právních předpisů Unie, k nimž se prohlášení vztahuje.	3. Pokud se na vysoce rizikové systémy AI vztahují jiné harmonizační právní předpisy Unie, které také vyžadují EU prohlášení o shodě, může se vypracovat jediné EU prohlášení o shodě s ohledem na všechny právní předpisy Unie, které se vztahují na daný vysoce rizikový systém UI. Toto prohlášení musí obsahovat veškeré informace požadované pro identifikaci harmonizačních právních předpisů Unie, k nimž se prohlášení vztahuje.

Pozměňovací návrh  472

 

Návrh nařízení

Čl. 48 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace obsahu EU prohlášení o shodě uvedeného v příloze V s cílem zavést prvky, které mohou být nutné s ohledem na technický pokrok.	5. Po konzultaci s Úřadem pro umělou inteligenci je Komisi svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace obsahu EU prohlášení o shodě uvedeného v příloze V s cílem zavést prvky, které mohou být nutné s ohledem na technický pokrok.

Pozměňovací návrh  473

 

Návrh nařízení

Čl. 49 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Označení CE se viditelně, čitelně a nesmazatelně umístí na daný vysoce rizikový systém UI. Pokud to není možné nebo to nelze s ohledem na charakter vysoce rizikového systému UI zaručit, umístí se podle potřeby na obal nebo na průvodní doklady.	1. Fyzické označení CE se viditelně, čitelně a nesmazatelně umístí na daný vysoce rizikový systém UI před takového systému UI na trh. Pokud to není možné nebo to nelze s ohledem na charakter vysoce rizikového systému UI zaručit, umístí se podle potřeby na obal nebo na průvodní doklady. Za označením CE může následovat piktogram nebo jakékoli jiné označení upozorňující na specifické riziko použití;

Pozměňovací návrh  474

 

Návrh nařízení

Čl. 49 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. U pouze digitálních vysoce rizikových systémů UI se digitální označení CE použije pouze tehdy, je-li snadno přístupné prostřednictvím rozhraní, z něhož se přistupuje do systému UI, nebo prostřednictvím snadno přístupného strojově čitelného kódu nebo jiných elektronických prostředků.

Pozměňovací návrh  475

 

Návrh nařízení

Čl. 49 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Tam, kde je to relevantní, následuje za označením CE identifikační číslo oznámeného subjektu odpovědného za postupy posuzování shody stanovené v článku 43. Identifikační číslo je rovněž uvedeno ve všech propagačních materiálech, které uvádí, že daný vysoce rizikový systém UI splňuje požadavky na označení CE.	3. Tam, kde je to relevantní, následuje za označením CE identifikační číslo oznámeného subjektu odpovědného za postupy posuzování shody stanovené v článku 43. Identifikační číslo oznámeného subjektu umístí sám subjekt, nebo jej umístí podle jeho pokynů zplnomocněný zástupce poskytovatele. Identifikační číslo je rovněž uvedeno ve všech propagačních materiálech, které uvádí, že daný vysoce rizikový systém UI splňuje požadavky na označení CE.

Pozměňovací návrh  476

 

Návrh nařízení

Čl. 49 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3 a. Pokud se na vysoce rizikové systémy UI vztahují jiné právní předpisy Unie, které rovněž stanoví připojení označení CE, pak se v tomto označení uvádí, že vysoce rizikové systémy UI splňují také požadavky daných jiných právních předpisů.

Pozměňovací návrh  477

 

Návrh nařízení

Čl. 50 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
Poskytovatel uchovává po dobu deseti let od uvedení systému UI na trh nebo do provozu pro potřebu příslušných vnitrostátních orgánů následující dokumenty:	Poskytovatel uchovává po dobu deseti let od uvedení systému UI na trh nebo do provozu pro potřebu vnitrostátních dozorových orgánů a příslušných vnitrostátních orgánů následující dokumenty:

Pozměňovací návrh  478

 

Návrh nařízení

Čl. 51 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
Před uvedením vysoce rizikového systému UI podle čl. 6 odst. 2 na trh nebo do provozu jej poskytovatel nebo tam, kde je to relevantní, zplnomocněný zástupce zaregistruje do databáze EU uvedené v článku 60.	Před uvedením vysoce rizikového systému UI podle čl. 6 odst. 2 na trh nebo do provozu jej poskytovatel nebo tam, kde je to relevantní, zplnomocněný zástupce zaregistruje do databáze EU uvedené v článku 60 v souladu s čl. 60 odst. 2;

Pozměňovací návrh  479

 

Návrh nařízení

Čl. 51 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Před uvedením vysoce rizikového systému UI podle čl. 6 odst. 2 do provozu nebo před jeho použitím následující kategorie provozovatelů zaznamenají použití tohoto systému UI do databáze EU uvedené v článku 60:
	a) provozovatelé, kteří jsou orgány veřejné moci nebo orgány, institucemi nebo jinými subjekty Unie nebo provozovateli jednajícími jejich jménem;
	b) provozovatelé, kteří jsou podniky určenými jako strážci podle nařízení (EU) 2022/1925.

Pozměňovací návrh  480

 

Návrh nařízení

Čl. 51 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Provozovatelé, na něž se nevztahuje pododstavec 1a, jsou oprávněni dobrovolně zaznamenat použití vysoce rizikového systému UI uvedeného v čl. 6 odst. 2 v databázi EU uvedené v článku 60.

Pozměňovací návrh  481

 

Návrh nařízení

Čl. 51 – odst. 1 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	Aktualizovaný registrační záznam musí být vyplněn ihned po každé podstatné změně.

Pozměňovací návrh  482

Návrh nařízení

Hlava IV

Znění navržené Komisí	Pozměňovací návrh
POVINNOSTI TRANSPARENTNOSTI URČITÝCH SYSTÉMŮ UI	POVINNOSTI TRANSPARENTNOSTI

Pozměňovací návrh  483

 

Návrh nařízení

Čl. 52 – název

Znění navržené Komisí	Pozměňovací návrh
Povinnosti transparentnosti určitých systémů UI	Povinnosti transparentnosti

Pozměňovací návrh  484

 

Návrh nařízení

Čl. 52 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Poskytovatelé zajistí, že systémy UI určené k interakci s fyzickými osobami budou navrhovány a vyvíjeny tak, aby byly fyzické osoby informovány o tom, že komunikují se systémem UI, pokud to není zřejmé z okolností a kontextu použití. Tato povinnost se nevztahuje na systémy UI, které jsou ze zákona oprávněny odhalovat trestné činy, předcházet jim, vyšetřovat je a stíhat, s výjimkou případů, kdy jsou tyto systémy k dispozici veřejnosti za účelem hlášení trestných činů.	1. Poskytovatelé zajistí, aby systémy UI určené k interakci s fyzickými osobami byly navrhovány a vyvíjeny tak, aby systém UI či sám poskytovatel nebo uživatel informoval fyzickou osobu vystavenou systému UI o tom, že komunikuje se systémem UI, a to včas, jasně a srozumitelně, pokud to není zřejmé z okolností a kontextu použití.
	Je-li to vhodné a relevantní, patří mezi příslušné informace rovněž funkce, které jsou na umělé inteligenci založeny, zda existuje lidský dohled a kdo je odpovědný za rozhodovací proces a dále stávající práva a postupy, které v souladu s unijním a vnitrostátním právem umožňují fyzickým osobám nebo jejich zástupcům vznést proti tomu, aby na ně byly tyto systémy použity, námitku a domáhat se v souvislosti s rozhodnutími přijatými systémy UI nebo škodami jimi způsobenými soudní nápravy, včetně práva žádat o vysvětlení. Tato povinnost se nevztahuje na systémy UI, které jsou ze zákona oprávněny odhalovat trestné činy, předcházet jim, vyšetřovat je a stíhat, s výjimkou případů, kdy jsou tyto systémy k dispozici veřejnosti za účelem hlášení trestných činů.

Pozměňovací návrh  485

 

Návrh nařízení

Čl. 52 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Uživatelé systému rozpoznávání emocí nebo systému biometrické kategorizace musí o fungování tohoto systému informovat fyzické osoby, které jsou mu vystaveny. Tato povinnost se nevztahuje na systémy UI používané pro biometrickou kategorizaci, u nichž zákon povoluje odhalování, prevenci a vyšetřování trestných činů.	2. Uživatelé systému rozpoznávání emocí nebo systému biometrické kategorizace, který není zakázán podle článku 5, informují včas, jasně a srozumitelně fyzické osoby, které jsou těmto systémům vystaveny, a před zpracováním jejich biometrických a jiných osobních údajů v souladu s nařízením (EU) 2016/679, nařízením (EU) 2016/1725 a případně směrnicí (EU) 2016/280 získají jejich souhlas. Tato povinnost se nevztahuje na systémy UI používané pro biometrickou kategorizaci, u nichž zákon povoluje odhalování, prevenci a vyšetřování trestných činů.

Pozměňovací návrh  486

 

Návrh nařízení

Čl. 52 – odst. 3 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
3. Uživatelé systému UI vytvářejícího obrazový, zvukový nebo video obsah, který se znatelně podobá existujícím osobám, objektům, místům nebo jiným subjektům nebo událostem a který by se určité osobě mohl nepravdivě jevit jako autentický nebo pravdivý (tzv. deep fake), případně manipulujícího s takovým obsahem, zveřejní, že tento obsah byl uměle vytvořen nebo s ním bylo manipulováno.	3. Uživatelé systému UI vytvářejícího textový, zvukový nebo vizuální obsah, který vyvolává klamné zdání autentičnosti či pravdivosti a v němž se, bez svého souhlasu, objevují osoby, které zdánlivě říkají nebo dělají něco, co neřekly nebo nedělaly ( tzv. deep fake), případně manipulujícího s takovým obsahem, zveřejní vhodným způsobem, včas, jasně a viditelně informaci o tom, že obsah byl uměle vytvořen nebo zmanipulován, a je-li to možné, uvedou jméno fyzické nebo právnické osoby, která obsah vytvořila nebo s ním manipulovala. Zveřejněním se rozumí jasně viditelné označení obsahu způsobem, který jeho příjemce informuje o tom, že obsah není autentický. Při označování obsahu uživatelé zohlední obecně uznávaný nejnovější vývoj a příslušné harmonizované normy a specifikace.

Pozměňovací návrh  487

 

Návrh nařízení

Čl. 52 – odst. 3 – pododstavec 2

Znění navržené Komisí	Pozměňovací návrh
První pododstavec se však nepoužije, pokud toto použití povoluje zákon pro účely odhalování, prevence, vyšetřování a stíhání trestných činů nebo pokud je to nezbytné pro výkon práva na svobodu projevu a práva na svobodu umění a věd zaručených Listinou základních práv EU a s výhradou příslušných záruk práv a svobod třetích stran.	3a. Odstavec 3 se nepoužije, pokud toto použití systému UI, jenž vytváří textový, zvukový nebo vizuální obsah nebo s ním manipuluje, povoluje zákon nebo pokud je to nezbytné pro výkon práva na svobodu projevu a práva na svobodu umění a věd zaručených Listinou základních práv EU a s výhradou příslušných záruk práv a svobod třetích stran. Pokud je obsah součástí zjevně tvůrčího, satirického, uměleckého nebo smyšleného kinematografického, videoherního, vizuálního a podobného díla nebo programu, omezují se povinnosti týkající se transparentnosti stanovené v odstavci 3 na zveřejnění existence takto vytvořeného nebo manipulovaného obsahu, a to vhodným, jasným a viditelným způsobem, který nebrání zobrazení díla, a případně na zveřejnění příslušných autorských práv. Rovněž nebrání donucovacím orgánům v používání systémů UI určených k odhalování „deep fakes“ a k prevenci, vyšetřování a stíhání trestných činů spojených s jejich používáním.

Pozměňovací návrh  488

 

Návrh nařízení

Čl. 52 – odst. 3 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	3b. Informace uvedené v odstavcích 1 až 3 se fyzickým osobám poskytují nejpozději v době první interakce nebo expozice. Jsou přístupné zranitelným osobám, jako jsou osoby se zdravotním postižením nebo děti, a je-li to relevantní a vhodné, musí být doplněny o postupy zásahu nebo označení ze strany fyzické osoby, která byla vystavena tomuto obsahu, s přihlédnutím k obecně uznávanému nejnovějšímu vývoji a příslušným harmonizovaným normám a společným specifikacím.

Pozměňovací návrh  489

 

Návrh nařízení

Čl. 53 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Regulační pískoviště UI vytvořená jedním nebo více příslušnými orgány členských států nebo evropským inspektorem ochrany údajů poskytují kontrolované prostředí, které usnadňuje vývoj, testování a ověřování inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle konkrétního plánu. K tomu dochází pod přímým dohledem a vedením příslušných orgánů s cílem zajistit soulad s požadavky tohoto nařízení a případně dalších právních předpisů Unie a členských států, nad nimiž je prováděn dohled v rámci tohoto pískoviště.	1. Členské státy zřídí alespoň jedno regulační pískoviště UI na vnitrostátní úrovni, které bude funkční nejpozději v den vstupu tohoto nařízení v platnost. Toto pískoviště může rovněž zřídit několik členských států společně;

Pozměňovací návrh  490

 

Návrh nařízení

Čl. 53 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Další regulační pískoviště UI mohou být rovněž zřízena na regionální nebo místní úrovni nebo společně s jinými členskými státy;

Pozměňovací návrh  491

 

Návrh nařízení

Čl. 53 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	1b. Komise a evropský inspektor ochrany údajů mohou sami, společně nebo ve spolupráci s jedním či více členskými státy rovněž zřídit regulační pískoviště UI na úrovni Unie;

Pozměňovací návrh  492

 

Návrh nařízení

Čl. 53 – odst. 1 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	1c. Zřizující orgány přidělí dostatečné zdroje k účinnému a včasnému dodržování tohoto článku;

Pozměňovací návrh  493

 

Návrh nařízení

Čl. 53 – odst. 1 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	1d. Regulační pískoviště UI poskytují v souladu s kritérii stanovenými v článku 53a kontrolované prostředí, které podporuje inovace a usnadňuje vývoj, testování a ověřování inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle konkrétního plánu, na kterém se dohodli potenciální poskytovatelé a zřizující orgán;

Pozměňovací návrh  494

 

Návrh nařízení

Čl. 53 – odst. 1 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	1e. Vytvoření regulačních pískovišť UI přispívá k těmto cílům:
	a) příslušné orgány poskytují pokyny potenciálním poskytovatelům systémů UI za účelem dosažení souladu s tímto nařízením nebo případně jinými příslušnými právními předpisy Unie a členských států;
	b) potenciální poskytovatelé umožní a usnadní testování a vývoj inovativních řešení souvisejících se systémy UI;
	c) regulační učení v kontrolovaném prostředí.

Pozměňovací návrh  495

 

Návrh nařízení

Čl. 53 – odst. 1 f (nový)

 

Znění navržené Komisí	Pozměňovací návrh
	1f. Zřizující orgány poskytují v rámci pískoviště pokyny a dohled s cílem identifikovat rizika, zejména pro základní práva, demokracii a právní stát, zdraví a bezpečnost a životní prostředí, testovat a demonstrovat zmírňující opatření pro zjištěná rizika a jejich účinnost a zajistit soulad s požadavky tohoto nařízení a případně dalšími právními předpisy Unie a členských států;

Pozměňovací návrh  496

 

Návrh nařízení

Čl. 53 – odst. 1 g (nový)

Znění navržené Komisí	Pozměňovací návrh
	1g. Zřizující orgány poskytnou potenciálním poskytovatelům pískovišť, kteří vyvíjejí vysoce rizikové systémy UI, pokyny a dohled týkající se toho, jak plnit požadavky stanovené v tomto nařízení, aby systémy UI mohly opustit pískoviště s předpokladem shody se zvláštními požadavky tohoto nařízení, které byly posouzeny v rámci pískoviště. Pokud systém UI splňuje požadavky při opuštění pískoviště, předpokládá se, že je v souladu s tímto nařízením. V tomto ohledu orgány dozoru nad trhem nebo případně oznámené subjekty zohlední zprávy o opuštění pískoviště vypracované zřizujícím orgánem v souvislosti s postupy posuzování shody nebo kontrolami v rámci dozoru nad trhem;

Pozměňovací návrh  497

 

Návrh nařízení

Čl. 53 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Členské státy zajistí, aby v rozsahu, v němž dané inovativní systémy UI zahrnují zpracování osobních údajů nebo jinak spadají do oblasti dohledu jiných vnitrostátních orgánů nebo příslušných orgánů poskytujících nebo podporujících přístup k údajům, byly vnitrostátní orgány pro ochranu údajů a tyto další vnitrostátní orgány spojovány s fungováním daného regulačního pískoviště UI.	2. Zřizující orgány zajistí, aby v rozsahu, v němž dané inovativní systémy UI zahrnují zpracování osobních údajů nebo jinak spadají do oblasti dohledu jiných vnitrostátních orgánů nebo příslušných orgánů poskytujících nebo podporujících přístup k osobním údajům, byly vnitrostátní orgány pro ochranu údajů nebo v případech uvedených v odstavci 1b evropský inspektor ochrany údajů a tyto další vnitrostátní orgány spojovány s fungováním daného regulačního pískoviště UI a byly zapojeny do dohledu nad těmito aspekty v úplném rozsahu svých příslušných pravomocí;

Pozměňovací návrh  498

 

Návrh nařízení

Čl. 53 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Regulační pískoviště UI nebudou mít vliv na pravomoci příslušných orgánů v oblasti dohledu a nápravy. Veškerá významná rizika pro zdraví, bezpečnost a základní práva, která budou zjištěna během vývoje a testování těchto systémů, budou mít za následek okamžité zmírnění, a pokud se to nezdaří, pozastavení procesu vývoje a testování, dokud k tomuto zmírnění nedojde.	3. Regulační pískoviště UI nebudou mít vliv na pravomoci příslušných orgánů v oblasti dohledu a nápravy, a to ani na regionální či místní úrovni. Veškerá významná rizika pro základní práva, demokracii a právní stát, zdraví, bezpečnost nebo životní prostředí, která budou zjištěna během vývoje a testování těchto systémů UI, budou mít za následek okamžité a přiměřené zmírnění. Příslušné orgány mají pravomoc dočasně nebo trvale pozastavit zkušební proces nebo účast v pískovišti, není-li účinné zmírnění možné, a o tomto rozhodnutí informují Úřad pro umělou inteligenci;

Pozměňovací návrh  499

 

Návrh nařízení

Čl. 53 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Účastníci regulačního pískoviště UI nesou podle platných právních předpisů Unie a členských států o odpovědnosti nadále odpovědnost za jakoukoli škodu způsobenou třetím stranám v důsledku experimentů prováděných v daném pískovišti.	4. Potenciální poskytovatelé v regulačním pískovišti UI nesou podle platných právních předpisů Unie a členských států nadále odpovědnost za jakoukoli škodu způsobenou třetím stranám v důsledku experimentů prováděných v daném pískovišti. Nicméně v případě, že potenciální poskytovetelé dodržují zvláštní plán uvedený v odstavci 1c a podmínky účasti a řídí se v dobré víře pokyny vydanými zřizujícími orgány, orgány v případě porušení tohoto nařízení neuloží žádné správní pokuty;

Pozměňovací návrh  500

 

Návrh nařízení

Čl. 53 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Příslušné orgány členských států, které zřídily regulační pískoviště UI, koordinují své činnosti a spolupracují v rámci Evropské rady pro umělou inteligenci. Předkládají této radě a Komisi výroční zprávy o výsledcích provádění uvedených systémů, včetně osvědčených postupů, získaných zkušeností a doporučení o jejich uspořádání a případně o uplatňování tohoto nařízení a dalších právních předpisů Unie, nad nimiž je prováděn dohled v rámci daného pískoviště.	5. Zřizující orgány koordinují své činnosti a spolupracují v rámci Úřadu pro umělou inteligenci;

Pozměňovací návrh  501

 

Návrh nařízení

Čl. 53 – odst. 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. Zřizující orgány informují Úřad pro umělou inteligenci o zřízení pískoviště a mohou požádat o podporu a pokyny. Úřad pro umělou inteligenci zveřejní a aktualizuje seznam plánovaných a stávajících pískovišť s cílem podpořit větší interakci v regulačních pískovištích a nadnárodní spolupráci;

Pozměňovací návrh  502

 

Návrh nařízení

Čl. 53 – odst. 5 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	5b. Zřizující orgány předkládají Úřadu pro umělou inteligenci, a pokud není jediným zřizujícím orgánem, Komisi výroční zprávy, a to od jednoho roku po zřízení pískoviště a poté každý rok až do jeho ukončení, a závěrečnou zprávu. Tyto zprávy obsahují informace o pokroku při zavádění uvedených pískovišť a jejich výsledcích, včetně osvědčených postupů, incidentů, získaných zkušeností a doporučení o jejich uspořádání a případně o uplatňování a případné revizi tohoto nařízení a dalších právních předpisů Unie, nad nimiž je prováděn dohled v rámci daného pískoviště. Tyto výroční zprávy nebo jejich shrnutí se zpřístupní veřejnosti online;

Pozměňovací návrh  503

 

Návrh nařízení

Čl. 53 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Způsob a podmínky fungování regulačních pískovišť UI, včetně kritérií způsobilosti a postupu pro podávání žádostí o účast na tomto pískovišti, výběr, účast a ukončení této účasti, jakož i práva a povinnosti účastníků, jsou stanoveny v prováděcích aktech. Tyto prováděcí akty se přijímají přezkumným postupem podle čl. 74 odst. 2.	6. Komise vytvoří jednotné a vyhrazené rozhraní obsahující veškeré relevantní informace týkající se pískovišť spolu s jednotným kontaktním místem na úrovni Unie, které umožní interakci s regulačními pískovišti a také umožní zúčastněným stranám pokládat příslušným orgánům dotazy a žádat o nezávazné pokyny týkající se souladu inovativních produktů, služeb a obchodních modelů zahrnujících technologie UI s tímto nařízením;
	Komise aktivně koordinuje svou činnost s vnitrostátními, regionálními a případně místními orgány;

Pozměňovací návrh  504

 

Návrh nařízení

Čl. 53 – odst. 6 a (nový)

Čl. 53 – odst. 6 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	6a. Pro účely odstavce 1 a 1a Komise plní doplňkovou úlohu, kdy na jedné straně umožňuje členským státům stavět na svých odborných znalostech a na druhé straně pomáhá členským státům, které žádají o pokyny ohledně zřízení a provozu těchto regulačních pískovišť, a poskytuje jim odborné poznatky a zdroje;

Pozměňovací návrh  505

 

Návrh nařízení

Článek 53 a (nový)

Čl. 53 a – název (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 53a
	Způsoby a fungování regulačních pískovišť UI
	1. Aby se zabránilo roztříštěnosti v celé Unii, přijme Komise po konzultaci s Úřadem pro umělou inteligenci akt v přenesené pravomoci, v němž podrobně stanoví způsoby zřizování, vývoje, provádění a fungování regulačních pískovišť UI a dohled nad nimi, včetně kritérií způsobilosti a postupu pro podávání žádostí, výběr, účast a opuštění tohoto pískoviště, a práv a povinností účastníků na základě ustanovení tohoto článku;
	2. Komise je zmocněna přijímat akty v přenesené pravomoci v souladu s postupem uvedeným v článku 73 nejpozději 12 měsíců po vstupu tohoto nařízení v platnost, přičemž zajistí následující:
	a) regulační pískoviště jsou otevřena jakémukoli potenciálnímu poskytovateli systému UI, který splňuje kritéria způsobilosti a výběru. Kritéria pro přístup k regulačnímu pískovišti jsou transparentní a spravedlivá a zřizující orgány informují žadatele o svém rozhodnutí do tří měsíců od podání žádosti;
	b) regulační pískoviště umožňují široký a rovný přístup a drží krok s poptávkou po účasti v nich;
	c) přístup k regulačním pískovištím UI je bezplatný pro malé, střední a začínající podniky, aniž jsou dotčeny mimořádné náklady, které mohou zřizující orgány vymáhat spravedlivým a přiměřeným způsobem;
	d) regulační pískoviště usnadňují zapojení dalších příslušných subjektů v ekosystému UI, jako jsou oznámené subjekty a normalizační organizace (malé a střední podniky, začínající podniky, podniky, inovátoři, zkušební a experimentální zařízení, výzkumné a experimentální laboratoře a centra pro digitální inovace, centra excelence, jednotliví výzkumní pracovníci), s cílem umožnit a usnadnit spolupráci s veřejným a soukromým sektorem;
	e) umožní potenciálním poskytovatelům v kontrolovaném prostředí splnit povinnosti týkající se posuzování shody stanovené tímto nařízením nebo dobrovolně uplatňovat kodexy chování uvedené v článku 69;
	f) postupy, procesy a správní požadavky týkající se podávání žádostí, výběru, účasti v pískovišti a jeho opuštění jsou jednoduché, snadno srozumitelné a jasně sdělené s cílem usnadnit účast malých, středních a začínajících podniků s omezenými právními a správními kapacitami a jsou dostupné v celé Unii, aby se zabránilo roztříštěnosti a aby účast v regulačním pískovišti zřízeném členským státem, Komisí nebo evropským inspektorem ochrany údajů byla vzájemně a jednotně uznávána a měla stejné právní účinky v celé Unii;
	g) účast v regulačním pískovišti UI je omezena na dobu, která je přiměřená složitosti a rozsahu projektu;
	h) pískoviště usnadní vývoj nástrojů a infrastruktury pro testování, srovnávání, posuzování a vysvětlování rozměrů systémů umělé inteligence relevantních pro pískoviště, jako je přesnost, spolehlivost a kybernetická bezpečnost a rovněž minimalizace rizik pro lidská práva, životní prostředí a společnost obecně.
	3. Potenciálním poskytovatelům v pískovištích, zejména malým, středním a začínajícím podnikům, se usnadní přístup ke službám před zavedením, jako jsou pokyny k provádění tohoto nařízení, k dalším službám vytvářejícím přidanou hodnotu, jako je pomoc s normalizačními dokumenty a certifikací a konzultacemi, a k dalším iniciativám v oblasti jednotného digitálního trhu, jako jsou testovací a experimentální zařízení, digitální centra, centra excelence a schopnosti EU pro srovnávání;

Pozměňovací návrh  506

 

Návrh nařízení

Čl. 54 – název

Znění navržené Komisí	Pozměňovací návrh
Další zpracování osobních údajů pro účely vývoje určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI	Další zpracování údajů pro účely vývoje určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI

Pozměňovací návrh  507

 

Návrh nařízení

Čl. 54 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. V regulačním pískovišti UI budou zpracovávány osobní údaje zákonně shromážděné pro jiné účely za účelem vývoje a testování určitých inovativních systémů UI v daném pískovišti za následujících podmínek:	1. V regulačním pískovišti UI mohou být zpracovávány osobní údaje zákonně shromážděné pro jiné účely pouze za účelem vývoje a testování určitých inovativních systémů UI v daném pískovišti, pokud jsou splněny všechny následující podmínky:

Pozměňovací návrh  508

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. a – návětí

Znění navržené Komisí	Pozměňovací návrh
a) inovativní systémy UI budou vyvinuty za účelem ochrany podstatného veřejného zájmu v jedné nebo více z následujících oblastí:	a) systémy UI budou vyvinuty za účelem ochrany podstatného veřejného zájmu v jedné nebo více z následujících oblastí:
	ii) veřejná bezpečnost a veřejné zdraví, včetně odhalování, diagnózy, prevence, tlumení a léčby nemocí;
	iii) vysoká úroveň ochrany a zlepšování kvality životního prostředí, ochrana biologické rozmanitosti, jakož i zmírňování znečištění a změny klimatu a přizpůsobování se této změně;
	iiia) bezpečnost a odolnost dopravních systémů, infrastruktury a sítí.

Pozměňovací návrh  509

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. a – bod i

Znění navržené Komisí	Pozměňovací návrh
i) prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkon trestů, včetně ochrany před hrozbami pro veřejnou bezpečnost a jejich předcházení pod dozorem a v pravomoci příslušných orgánů. Zpracování je založeno na právu členských států nebo na právu Unie;	vypouští se

Pozměňovací návrh  510

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) existují účinné monitorovací mechanismy umožňující identifikovat, zda mohou během experimentování v pískovišti vzniknout vysoká rizika pro základní práva subjektů údajů, jakož i mechanismus reakce umožňující okamžité zmírnění těchto rizik a v případě potřeby i zastavení zpracování;	c) existují účinné monitorovací mechanismy umožňující identifikovat, zda mohou během experimentování v pískovišti vzniknout vysoká rizika pro práva a svobody subjektů údajů stanovených v článku 35 nařízení (EU) 2016/679 a článku 35 nařízení (EU) 2018/1725, jakož i mechanismus reakce umožňující okamžité zmírnění těchto rizik a v případě potřeby i zastavení zpracování;

Pozměňovací návrh  511

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) veškeré osobní údaje, které mají být zpracovány v rámci pískoviště, se nacházejí ve funkčně odděleném, izolovaném a chráněném prostředí pro zpracování údajů pod kontrolou účastníků a mají k nim přístup pouze oprávněné osoby;	d) veškeré osobní údaje, které mají být zpracovány v rámci pískoviště, se nacházejí ve funkčně odděleném, izolovaném a chráněném prostředí pro zpracování údajů pod kontrolou potenciálního poskytovatele a mají k nim přístup pouze oprávněné osoby;

Pozměňovací návrh  512

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. f

Znění navržené Komisí	Pozměňovací návrh
f) žádné zpracování osobních údajů v rámci pískoviště nevede k opatřením nebo rozhodnutím ovlivňujícím subjekty údajů;	f) žádné zpracování osobních údajů v rámci pískoviště nevede k opatřením nebo rozhodnutím ovlivňujícím subjekty údajů ani nemá vliv na uplatňování jejich práv stanovených v právních předpisech Unie o ochraně osobních údajů;

Pozměňovací návrh  513

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) veškeré osobní údaje zpracovávané v rámci pískoviště jsou vymazány, jakmile skončí účast v pískovišti nebo skončí doba uchovávání osobních údajů;	g) veškeré osobní údaje zpracovávané v rámci pískoviště jsou chráněny prostřednictvím technických a organizačních opatření a vymazány, jakmile skončí účast v pískovišti nebo skončí doba uchovávání osobních údajů;

Pozměňovací návrh  514

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. h

Znění navržené Komisí	Pozměňovací návrh
h) protokoly o zpracování osobních údajů v rámci pískoviště jsou uchovávány po dobu účasti na pískovišti a jeden rok po jejím ukončení pouze za účelem splnění povinností odpovědnosti a dokumentace podle tohoto článku nebo jiného uplatňování právních předpisů Unie nebo členských států a pouze po dobu k tomu nezbytnou;	h) protokoly o zpracování osobních údajů v rámci pískoviště jsou uchovávány po dobu účasti na pískovišti;

Pozměňovací návrh  515

 

Návrh nařízení

Čl. 54 – odst. 1 – písm. j

Znění navržené Komisí	Pozměňovací návrh
j) zveřejnění stručného shrnutí projektu UI vyvinutého v pískovišti, jeho cílů a očekávaných výsledků na internetových stránkách příslušných orgánů.	j) zveřejnění stručného shrnutí systému UI vyvinutého v pískovišti, jeho cílů, hypotéz a očekávaných výsledků na internetových stránkách příslušných orgánů;

Pozměňovací návrh  516

 

Návrh nařízení

Článek 54 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 54a
	Podpora výzkumu a vývoje v oblasti umělé inteligence na podporu dosažení sociálně a environmentálně prospěšných výsledků
	1. Členské státy propagují výzkum a vývoj řešení v oblasti umělé inteligence na podporu dosažení sociálně a environmentálně prospěšných výsledků, včetně mimo jiné vývoje řešení založených na umělé inteligenci s cílem zvýšit jejich přístupnost pro osoby se zdravotním postižením, řešit socioekonomické nerovnosti a splnit cíle v oblasti udržitelnosti a životního prostředí, a to na základě:
	a) poskytování přednostního přístupu příslušným projektům k regulačním pískovištím UI, pokud splňují podmínky způsobilosti;
	b) vyčlenění veřejných finančních prostředků, mj. z příslušných fondů EU, na výzkum a vývoj v oblasti umělé inteligence na podporu dosažení sociálně a environmentálně prospěšných výsledků;
	c) organizování zvláštní činnosti zaměřené na zvyšování povědomí o uplatňování tohoto nařízení, dostupnosti účelového financování a postupech podávání žádostí o tyto finanční prostředky, které jsou přizpůsobeny potřebám těchto projektů;
	d) zřízení přístupných specializovaných kanálů pro komunikaci s projekty ve vhodných případech, a to i v rámci pískovišť, s cílem poskytnout pokyny a reagovat na dotazy týkající se provádění tohoto nařízení.
	Členské státy podporují občanskou společnost a zúčastněné strany ze sociální oblasti, aby tyto projekty vedly nebo se jich účastnily;

Pozměňovací návrh  517

 

Návrh nařízení

Čl. 55 – název

Znění navržené Komisí	Pozměňovací návrh
Opatření pro malé poskytovatele a uživatele	Opatření pro malé, střední a začínající podniky a uživatele

 

Pozměňovací návrh  518

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) poskytovat malým poskytovatelům a začínajícím podnikům přednostní přístup k regulačním pískovištím UI v rozsahu, v jakém splňují podmínky způsobilosti;	a) poskytovat malým, středním a začínajícím podnikům usazeným v Unii přednostní přístup k regulačním pískovištím UI v rozsahu, v jakém splňují podmínky způsobilosti;

Pozměňovací návrh  519

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) organizovat konkrétní činnosti zaměřené na zvyšování povědomí o uplatňování tohoto nařízení přizpůsobené potřebám malých poskytovatelů a uživatelů;	b) organizovat konkrétní činnosti zaměřené na posilování rozvoje digitálních dovedností a zvyšování povědomí, pokud jde o uplatňování tohoto nařízení, přizpůsobené potřebám malých, středních a začínajících podniků a uživatelů;

Pozměňovací návrh  520

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) případně zřídit vyhrazený kanál pro komunikaci s malými poskytovateli a uživateli a dalšími inovátory, který bude poskytovat pokyny a reagovat na dotazy týkající se provádění tohoto nařízení.	c) používat stávající vyhrazené kanály a případně zřídit nové vyhrazené kanály pro komunikaci s malými, středními a začínajícími podniky, uživateli a dalšími inovátory, které budou poskytovat pokyny a reagovat na dotazy týkající se provádění tohoto nařízení;

Pozměňovací návrh  521

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. c a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ca) podporovat účast malých a středních podniků a dalších příslušných zúčastněných stran na procesu rozvoje normalizace.

Pozměňovací návrh  522

 

Návrh nařízení

Čl. 55 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Při stanovování poplatků za posuzování shody podle článku 43 jsou zohledňovány zvláštní zájmy a potřeby malých poskytovatelů, přičemž se tyto poplatky snižují úměrně jejich velikosti a velikosti trhu.	2. Při stanovování poplatků za posuzování shody podle článku 43 jsou zohledňovány zvláštní zájmy a potřeby malých, středních a začínajících podniků a uživatelů, přičemž se tyto poplatky snižují úměrně fázi jejich rozvoje, jejich velikosti, velikosti trhu a poptávce na trhu. Komise pravidelně posuzuje náklady malých, středních a začínajících podniků na certifikaci a dodržování předpisů, mj. na základě transparentních konzultací s malými, středními a začínajícími podniky a uživateli, a spolupracuje podle možnosti s členskými státy na snižování těchto nákladů. Komise podá zprávu o těchto zjištěních Evropskému parlamentu a Radě v rámci zprávy o hodnocení a přezkumu tohoto nařízení podle čl. 84 odst. 2.

Pozměňovací návrh  523

 

Návrh nařízení

Čl. 56 – oddíl 1 – název

Znění navržené Komisí	Pozměňovací návrh
	Název
	ODDÍL 1: Obecná ustanovení týkající se Evropského úřadu pro umělou inteligenci

Pozměňovací návrh  524

 

Návrh nařízení

Čl. 56 – název

Znění navržené Komisí	Pozměňovací návrh
Zřízení Evropské rady pro umělou inteligenci	Zřízení Evropského úřadu pro umělou inteligenci

Pozměňovací návrh  525

 

Návrh nařízení

Čl. 56 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Zřizuje se „Evropská rada pro umělou inteligenci“ (dále jen „rada“).	1. Tímto se zřizuje „Evropský úřad pro umělou inteligenci“ (dále jen „Úřad pro umělou inteligenci“). Úřad pro umělou inteligenci je nezávislým orgánem Unie. Tento úřad má právní subjektivitu.

Pozměňovací návrh  526

 

Návrh nařízení

Čl. 56 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Rada poskytuje Komisi poradenství a pomoc Komisi s cílem:	2. Úřad pro umělou inteligenci má k dispozici sekretariát a je přiměřeně financován a personálně obsazen pro účely plnění svých úkolů podle tohoto nařízení.

Pozměňovací návrh  527

 

Návrh nařízení

Čl. 56 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Úřad pro umělou inteligenci sídlí v Bruselu.

Pozměňovací návrh  528

 

Návrh nařízení

Článek 56 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 56a
	Struktura
	Řídící a správní struktura Úřadu pro umělou inteligenci zahrnuje:
	a) správní radu, včetně předsedy,
	b) sekretariát, který řídí výkonný ředitel;
	c) poradní sbor.

Pozměňovací návrh  529

 

Návrh nařízení

Článek 56 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 56b
	Úkoly Úřadu pro umělou inteligenci
	Úřad pro umělou inteligenci plní tyto úkoly:
	a) podporuje členské státy, vnitrostátní dozorové orgány, Komisi a další orgány, instituce a jiné subjekty Unie, poskytuje jim poradenství a spolupracuje s nimi, pokud jde o provádění tohoto nařízení;
	b) sleduje a zajišťuje účinné a jednotné uplatňování tohoto nařízení, aniž jsou dotčeny úkoly vnitrostátních dozorových orgánů;
	c) přispívá ke koordinaci mezi vnitrostátními dozorovými orgány odpovědnými za uplatňování tohoto nařízení;
	d) jedná jako prostředník při jednáních o závažných sporech, které mohou vzniknout mezi příslušnými orgány ohledně uplatňování tohoto nařízení;
	e) koordinuje společné vyšetřování podle článku 66a;
	f) přispívá k účinné spolupráci s příslušnými orgány třetích zemí a s mezinárodními organizacemi;
	g) shromažďuje a sdílí odborné znalosti a osvědčené postupy členských států a pomáhá vnitrostátním dozorovým orgánům členských států a Komisi při rozvoji organizačních a technických odborných znalostí potřebných pro provádění tohoto nařízení, mimo jiné tím, že usnadní vytvoření a správu unijní skupiny odborníků;
	h) z vlastního podnětu nebo na žádost své správní rady nebo Komise posuzuje otázky týkající se provádění tohoto nařízení a vydává stanoviska, doporučení nebo písemné příspěvky, a to i pokud jde o:
	i) technické specifikace nebo stávající normy; ii) pokyny Komise;
	iii) kodexy chování a jejich uplatňování, v úzké spolupráci s průmyslem a dalšími příslušnými zúčastněnými stranami;
	iv) případnou revizi tohoto nařízení, přípravu aktů v přenesené pravomoci a možné sladění tohoto nařízení s právními akty uvedenými v příloze II;
	v) trendy, jako je evropská globální konkurenceschopnost v oblasti umělé inteligence, zavádění umělé inteligence v Unii, rozvoj digitálních dovedností a vznikající systémové hrozby související s umělou inteligencí;
	vi) pokyny k tomu, jak se toto nařízení použije na neustále se vyvíjející typologii hodnotových řetězců UI, zejména pokud jde o výsledné důsledky z hlediska odpovědnosti všech zúčastněných subjektů;
	i) vydává:
	i) výroční zprávu, která zahrnuje hodnocení provádění tohoto nařízení, přezkum zpráv o závažných incidentech podle článku 62 a fungování databáze uvedené v článku 60, a
	ii) doporučení Komisi týkající se kategorizace zakázaných praktik, vysoce rizikových systémů UI uvedených v příloze III, kodexů chování uvedených v článku 69 a uplatňování obecných zásad uvedených v článku 4a
	j) pomáhá orgánům při zřizování a rozvoji regulačních pískovišť a usnadňuje spolupráci mezi regulačními pískovišti;
	k) organizuje setkání s agenturami a správními orgány Unie, jejichž úkoly souvisejí s umělou inteligencí a prováděním tohoto nařízení;
	l) organizuje čtvrtletní konzultace s poradním sborem a případně veřejné konzultace s dalšími zúčastněnými stranami a výsledky těchto konzultací zveřejňuje na svých internetových stránkách;
	m) zvyšuje povědomí a informovanost veřejnosti o přínosech, rizicích, zárukách a právech a povinnostech v souvislosti s používáním systémů UI;
	n) usnadňuje rozvoj společných kritérií a společného porozumění, pokud jde o příslušné pojmy stanovené v tomto nařízení, mezi hospodářskými subjekty a příslušnými orgány;
	o) zajišťuje monitorování základových modelů a organizuje pravidelný dialog s vývojáři základových modelů, pokud jde o jejich soulad, jakož i o systémy UI, které tyto modely UI využívají;
	p) poskytuje výkladové pokyny ohledně toho, jak se akt o umělé inteligenci použije na neustále se vyvíjející typologii hodnotových řetězců UI a jaké budou důsledky z hlediska odpovědnosti všech zúčastněných subjektů v rámci různých scénářů založených na obecně uznávaném nejnovějším vývoji, včetně toho, jak se odráží v příslušných harmonizovaných normách;
	q) zajistí zvláštní dohled a monitorování a institucionalizuje pravidelný dialog s poskytovateli základových modelů o souladu základových modelů a systémů UI, které tyto modely UI využívají, s článkem 28b tohoto nařízení a o osvědčených postupech, pokud jde o samosprávu. Každého takového setkání se mohou účastnit vnitrostátní dozorové orgány, oznámené subjekty a orgány dohledu nad trhem a mohou k diskusi také přispět;
	r) vydává a pravidelně aktualizuje pokyny týkající se prahových hodnot, které kvalifikují odbornou přípravu jako model rozsáhlé odborné přípravy, zaznamenává a sleduje známé případy velkých kurzů odborné přípravy a vydává výroční zprávu o aktuálním stavu vývoje, šíření a využívání základových modelů spolu s politickými možnostmi odstraňování rizik a využívání příležitostí specifických pro základové modely;
	s) podporuje gramotnost v oblasti umělé inteligence podle článku 4b.

Pozměňovací návrh  530

 

Návrh nařízení

Článek 56 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 56c
	Odpovědnost, nezávislost a transparentnost
	1. Úřad pro umělou inteligenci:
	a. je odpovědný Evropskému parlamentu a Radě v souladu s tímto nařízením;
	b. jedná při plnění svých úkolů nebo výkonu svých pravomocí nezávisle a
	c. zajišťuje vysokou úroveň transparentnosti svých činností a rozvíjí v tomto ohledu osvědčené správní postupy.
	Na dokumenty v držení Úřadu pro umělou inteligenci se vztahuje nařízení (ES) č. 1049/2001.

Pozměňovací návrh  531

 

Návrh nařízení

Čl. - 57 a – oddíl 2 – název (nový)

Znění navržené Komisí	Pozměňovací návrh
	Název
	ODDÍL 2: Správní rada

Pozměňovací návrh  532

 

Návrh nařízení

Článek - 57 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek - 57a
	Složení správní rady
	1. Správní rada je složena z těchto členů:
	a) jeden zástupce vnitrostátního dozorového orgánu za každý členský stát;
	b) jeden zástupce Komise;
	c) jeden zástupce úřadu evropského inspektora ochrany údajů;
	d) jeden zástupce Agentury Evropské unie pro kybernetickou bezpečnost (ENISA);
	e) jeden zástupce Agentury pro základní práva (FRA).
	Každý zástupce vnitrostátního dozorového orgánu má jeden hlas. Zástupci Komise, úřadu evropského inspektora ochrany údajů a Agentury Evropské unie pro základní práva nemají hlasovací práva. Každý člen má jednoho náhradníka. Při jmenování členů a náhradníků správní rady se zohlední potřeba vyváženého zastoupení žen a mužů. Jména členů správní rady a jejich náhradníků se zveřejní.
	2. Členové a náhradníci správní rady nesmí být ve střetu zájmů, ať už jde o jejich funkci nebo obchodní zájmy, pokud jde o jakékoli téma související s uplatňováním tohoto nařízení.
	3. Pravidla pro zasedání a hlasování správní rady a pro jmenování a odvolání výkonného ředitele se stanoví v jednacím řádu uvedeném v čl. 57b písm. a).

Pozměňovací návrh  533

 

Návrh nařízení

Článek - 57 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek - 57b
	Funkce správní rady
	1. Správní rada plní tyto úkoly:
	a) přijímá strategická rozhodnutí o činnosti Úřadu pro umělou inteligenci a svůj jednací řád dvoutřetinovou většinou svých členů;
	b) přijímá svůj jednací řád;
	c) přijímá jednotný programový dokument Úřadu pro umělou inteligenci a jeho výroční veřejnou zprávu a předává je Evropskému parlamentu, Radě, Komisi a Účetnímu dvoru;
	d) přijímá rozpočet Úřadu pro umělou inteligenci;
	e) jmenuje výkonného ředitele a případně prodlužuje nebo zkracuje jeho funkční období nebo jej odvolává z funkce;
	f) rozhoduje o zřízení vnitřních struktur Úřadu pro umělou inteligenci a v případě potřeby o změnách těchto vnitřních struktur nezbytných pro plnění úkolů tohoto úřadu;

Pozměňovací návrh  534

 

Návrh nařízení

Článek - 57 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek - 57c
	Předsednictví správní rady
	1. Správní rada si prostou většinou zvolí z řad svých členů s hlasovacím právem předsedu a dva místopředsedy.
	2. Funkční období předsedy a místopředsedů je čtyři roky. Funkční období předsedy a místopředsedů lze jednou obnovit.

Pozměňovací návrh  535

 

Návrh nařízení

Čl. 57 – oddíl 3 – název

Znění navržené Komisí	Pozměňovací návrh
Struktura rady	Sekretariát

Pozměňovací návrh  536

 

Návrh nařízení

Čl. 57 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Rada se skládá z vnitrostátních dozorových úřadů, které jsou zastoupeny vedoucím nebo odpovídajícím vysokým úředníkem daného úřadu a evropským inspektorem ochrany údajů. Na zasedání mohou být přizvány další vnitrostátní orgány v případě, že jsou pro ně projednávané otázky relevantní.	1. Činnost sekretariátu řídí výkonný ředitel. Výkonný ředitel je odpovědný správní radě. Aniž jsou dotčeny pravomoci správní rady a orgánů Unie, výkonný ředitel nežádá o žádné pokyny od žádné vlády ani od žádného jiného subjektu ani takové pokyny nepřijímá.

Pozměňovací návrh  537

 

Návrh nařízení

Čl. 57 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Rada přijímá svůj jednací řád prostou většinou svých členů na základě souhlasu Komise. Jednací řád obsahuje rovněž provozní aspekty související s plněním úkolů rady uvedených v článku 58. Rada může podle potřeby zřizovat podskupiny pro účely zkoumání konkrétních otázek.	2. Výkonný ředitel se účastní slyšení ve všech záležitostech souvisejících s činností Úřadu pro umělou inteligenci a podává na žádost Evropského parlamentu nebo Rady zprávu o plnění povinností výkonného ředitele.

Pozměňovací návrh  538

 

Návrh nařízení

Čl. 57 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Radě předsedá Komise. Komise svolává zasedání a připravuje pořad jednání v souladu s úkoly rady podle tohoto nařízení a s jejím jednacím řádem. Komise poskytuje administrativní a analytickou podporu činnostem rady podle tohoto nařízení.	3. Výkonný ředitel zastupuje Úřad pro umělou inteligenci, a to i na mezinárodních fórech pro spolupráci v oblasti umělé inteligence;

Pozměňovací návrh  539

 

Návrh nařízení

Čl. 57 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Rada může přizvat k účasti na svých zasedáních externí odborníky a pozorovatele a může provádět výměny se zúčastněnými třetími stranami s cílem získávat v přiměřeném rozsahu informace pro účely svých činností. Za tímto účelem může Komise umožňovat výměny mezi radou a jinými subjekty, úřady, agenturami a poradními skupinami Unie.	4. Sekretariát poskytuje správní radě a poradnímu sboru analytickou, administrativní a logistickou podporu nezbytnou k plnění úkolů Úřadu pro umělou inteligenci, mimo jiné tím, že:
	a) provádí rozhodnutí, programy a činnosti schválené správní radou;
	b) každý rok připravuje návrh jednotného programového dokumentu, návrh rozpočtu, výroční zprávu o činnosti Úřadu pro umělou inteligenci, návrhy stanovisek a návrhy postojů Úřadu pro umělou inteligenci a předkládá je správní radě;
	c) spolupracuje s mezinárodním fórem pro spolupráci v oblasti umělé inteligence;

Pozměňovací návrh  540

 

Návrh nařízení

Čl. 58 – oddíl 4 – název

Znění navržené Komisí	Pozměňovací návrh
Úkoly rady	Poradní sbor

Pozměňovací návrh  541

 

Návrh nařízení

Čl. 58 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
Při poskytování poradenství a pomoci Komisi v souvislosti s čl. 56 odst. 2 rada zejména:	Poradní sbor poskytuje Úřadu pro umělou inteligenci připomínky zúčastněných stran v záležitostech týkajících se tohoto nařízení, zejména pokud jde o úkoly stanovené v čl. 56b písm. l).

Pozměňovací návrh  542

 

Návrh nařízení

Čl. 58 – odst. 2 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Složení poradního sboru je vyváženou směsí zúčastněných stran, včetně průmyslu, začínajících podniků, malých a středních podniků, občanské společnosti, sociálních partnerů a akademické obce. Složení poradního sboru musí být vyvážené s ohledem na komerční a nekomerční zájmy a v rámci kategorie komerčních zájmů musí být vyvážený také poměr malých a středních podniků a jiných podniků.

Pozměňovací návrh  543

 

Návrh nařízení

Čl. 58 – odst. 3 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Správní rada jmenuje členy poradního sboru v souladu s výběrovým řízením stanoveným v jednacím řádu Úřadu pro umělou inteligenci a s přihlédnutím k potřebě transparentnosti a v souladu s kritérii stanovenými v odstavci 2;

Pozměňovací návrh  544

 

Návrh nařízení

Čl. 58 – odst. 4 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Funkční období členů poradního sboru je dvouleté a nelze je prodloužit více než dvakrát po sobě.

Pozměňovací návrh  545

 

Návrh nařízení

Čl. 58 – odst. 5 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Evropský výbor pro normalizaci (CEN), Evropský výbor pro normalizaci v elektrotechnice (CENELEC) a Evropský ústav pro telekomunikační normy (ETSI) jsou stálými členy poradního sboru. Společné výzkumné středisko je stálým členem bez hlasovacího práva.

Pozměňovací návrh  546

 

Návrh nařízení

Čl. 58 – odst. 6 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Poradní sbor vypracuje svůj jednací řád. Ze svých členů volí dva spolupředsedy v souladu s kritérii stanovenými v odstavci 2. Funkční období spolupředsedů je dvouleté a lze je jednou prodloužit.

Pozměňovací návrh  547

 

Návrh nařízení

Čl. 58 – odst. 7 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Zasedání poradního sboru se konají alespoň čtyřikrát ročně. Poradní sbor může na svá zasedání přizvat odborníky a další zúčastněné strany. Zasedání poradního sboru se může z moci úřední účastnit výkonný ředitel.

Pozměňovací návrh  548

 

Návrh nařízení

Čl. 58 – odst. 8 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Při plnění své úlohy stanovené v odstavci 1 může poradní sbor připravovat stanoviska, doporučení a písemné příspěvky.

Pozměňovací návrh  549

 

Návrh nařízení

Čl. 58 – odst. 9 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Poradní sbor může podle potřeby zřídit stálé nebo dočasné podskupiny pro účely posuzování konkrétních otázek souvisejících s cíli tohoto nařízení.

Pozměňovací návrh  550

 

Návrh nařízení

Čl. 58 – odst. 10 (nový)

Znění navržené Komisí	Pozměňovací návrh
	Poradní sbor vypracuje výroční zprávu o své činnosti. Tato zpráva se zveřejní.

Pozměňovací návrh  551

 

Návrh nařízení

Čl. 58 a – oddíl 5 – název

Znění navržené Komisí	Pozměňovací návrh
	Evropské orgány pro referenční srovnávání

Pozměňovací návrh  552

 

Návrh nařízení

Článek 58 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 58a
	Proces srovnávání (benchmarking)
	Evropské orgány pro referenční srovnávání uvedené v čl. 15 odst. 1a a Úřad pro umělou inteligenci v úzké spolupráci s mezinárodními partnery společně vypracují nákladově efektivní pokyny a kapacity pro měření a srovnávání aspektů systémů UI a součástí UI, a zejména základních modelů relevantních pro soulad a prosazování tohoto nařízení, na základě obecně uznávaného nejnovějšího vývoje, včetně toho, jak se odráží v příslušných harmonizovaných normách.

Pozměňovací návrh  553

 

Návrh nařízení

Čl. 59 – název

Znění navržené Komisí	Pozměňovací návrh
Určení příslušných vnitrostátních orgánů	Určení vnitrostátních dozorových orgánů

Pozměňovací návrh  554

 

Návrh nařízení

Čl. 59 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Každý členský stát zřizuje nebo určuje příslušné vnitrostátní orgány s cílem zajistit uplatňování a provádění tohoto nařízení. Příslušný vnitrostátní orgán je organizován tak, aby chránil objektivitu a nestrannost svých činností a úkolů.	1. Každý členský stát určí jeden vnitrostátní dozorový orgán, který je organizován tak, aby chránil objektivitu a nestrannost svých činností a úkolů, do ... [tři měsíce ode dne vstupu tohoto nařízení v platnost].

Pozměňovací návrh  555

 

Návrh nařízení

Čl. 59 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Každý členský stát určí z řad příslušných vnitrostátních orgánů vnitrostátní dozorový orgán. Vnitrostátní dozorový orgán jedná jako oznamující orgán a orgán dozoru nad trhem, pokud daný členský stát nemá organizační a správní důvody k určení více než jednoho orgánu.	2. Vnitrostátní dozorový orgán zajistí uplatňování a provádění tohoto nařízení. Pokud jde o vysoce rizikové systémy UI související s produkty, na něž se vztahují právní akty uvedené v příloze II, správní postupy nadále vedou příslušné orgány určené podle těchto právních aktů. Pokud se však případ týká aspektů, na něž se vztahuje pouze toto nařízení, jsou tyto příslušné orgány vázány opatřeními, která se týkají těchto aspektů, vydanými vnitrostátním dozorovým orgánem určeným podle tohoto nařízení. Vnitrostátní dozorový orgán jedná jako orgán dozoru nad trhem.

Pozměňovací návrh  556

 

Návrh nařízení

Čl. 59 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Členské státy informují Komisi o tom, který orgán nebo orgány určily a tam, kde je to relevantní, o důvodech určení více než jednoho orgánu.	3. Členské státy do ... [3 měsíce od vstupu tohoto nařízení v platnost] sdělí Úřadu pro umělou inteligenci a Komisi jméno vnitrostátního dozorového orgánu a informace o tom, jak je možné tento orgán kontaktovat, a tyto informace zveřejní. Vnitrostátní dozorový orgán působí jako jednotné kontaktní místo, pokud jde o toto nařízení, a mělo by být možné jej kontaktovat prostřednictvím elektronické komunikace.

Pozměňovací návrh  557

 

Návrh nařízení

Čl. 59 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Členské státy zajistí, aby příslušným vnitrostátním orgánům byly poskytnuty odpovídající finanční a lidské zdroje, které jim umožní plnit úkoly podle tohoto nařízení. Příslušné vnitrostátní orgány mají zejména trvale k dispozici dostatečný počet pracovníků, jejichž způsobilost a odborné znalosti zahrnují důkladné porozumění technologiím umělé inteligence, údajům a výpočtu údajů, základním právům a zdravotním a bezpečnostním rizikům, jakož i znalost platných norem a právních předpisů.	4. Členské státy zajistí, aby vnitrostátnímu dozorovému orgánu byly poskytnuty odpovídající technické, finanční a lidské zdroje a infrastruktura, které mu umožní účinně plnit úkoly podle tohoto nařízení. Vnitrostátní dozorový orgán má zejména trvale k dispozici dostatečný počet pracovníků, jejichž způsobilost a odborné znalosti zahrnují důkladné porozumění technologiím umělé inteligence, údajům a jejich výpočtu, ochraně osobních údajů, kybernetické bezpečnosti, právu hospodářské soutěže, základním právům a zdravotním a bezpečnostním rizikům, jakož i znalost platných norem a právních předpisů. Členské státy každoročně posoudí a – pokud je to považováno za nezbytné – aktualizují požadavky na odbornost a zdroje uvedené v tomto odstavci.

Pozměňovací návrh  558

 

Návrh nařízení

Čl. 59 – odst. 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	4a. Každý vnitrostátní dozorový orgán vykonává své pravomoci a plní své povinnosti nezávisle, nestranně a nezaujatě. Členové každého vnitrostátního dozorového orgánu nesmějí při plnění svých úkolů a výkonu svých pravomocí podle tohoto nařízení vyžadovat ani přijímat pokyny od žádného jiného subjektu a zdrží se veškeré činnosti, která je neslučitelná s povahou jejich funkcí.

Pozměňovací návrh  559

 

Návrh nařízení

Čl. 59 – odst. 4 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	4b. Vnitrostátní dozorové orgány splňují minimální požadavky na kybernetickou bezpečnost stanovené pro subjekty veřejné správy označené za provozovatele základních služeb podle směrnice (EU) 2022/2555.

Pozměňovací návrh  560

 

Návrh nařízení

Čl. 59 – odst. 4 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	4c. Při plnění svých úkolů jedná vnitrostátní dozorový orgán v souladu s povinnostmi týkajícími se důvěrnosti stanovenými v článku 70.

Pozměňovací návrh  561

 

Návrh nařízení

Čl. 59 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Členské státy podávají Komisi každoročně zprávy o stavu finančních a lidských zdrojů příslušných vnitrostátních orgánů s hodnocením jejich přiměřenosti. Komise předá tyto informace radě k projednání a případným doporučením.	5. Členské státy podávají Komisi každoročně zprávy o stavu finančních a lidských zdrojů vnitrostátních dozorových orgánů s hodnocením jejich přiměřenosti. Komise předá tyto informace Úřadu pro umělou inteligenci k projednání a případným doporučením.

Pozměňovací návrh  562

 

Návrh nařízení

Čl. 59 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Komise usnadňuje výměnu zkušeností mezi příslušnými vnitrostátními orgány.	vypouští se

Pozměňovací návrh  563

 

Návrh nařízení

Čl. 59 – odst. 7

Znění navržené Komisí	Pozměňovací návrh
7. Příslušné vnitrostátní orgány mohou poskytovat pokyny a rady ohledně provádění tohoto nařízení, a to i malým poskytovatelům. Kdykoli mají příslušné vnitrostátní orgány v úmyslu poskytnout pokyny a rady týkající se systému UI v oblastech, na které se vztahují jiné právní předpisy Unie, provedou podle potřeby konzultaci s vnitrostátními orgány příslušnými podle těchto právních předpisů Unie. Členské státy mohou rovněž zřídit jedno ústřední kontaktní místo pro komunikaci s provozovateli.	7. Vnitrostátní dozorové orgány mohou poskytovat pokyny a rady ohledně provádění tohoto nařízení, a to i malým, středním a začínajícím podnikům, přičemž zohlední pokyny a rady Úřadu pro umělou inteligenci nebo Komise. Kdykoli má vnitrostátní dozorový orgán v úmyslu poskytnout pokyny a rady týkající se systému UI v oblastech, na které se vztahují jiné právní předpisy Unie, vydá tyto pokyny případně po konzultaci s vnitrostátními orgány příslušnými podle těchto právních předpisů Unie.

Pozměňovací návrh  564

 

Návrh nařízení

Čl. 59 – odst. 8

Znění navržené Komisí	Pozměňovací návrh
8. Pokud orgány, instituce a subjekty Unie spadají do oblasti působnosti tohoto nařízení, jedná jako orgán příslušný pro dohled nad nimi evropský inspektor ochrany údajů.	8. Pokud orgány, instituce a subjekty Unie spadají do oblasti působnosti tohoto nařízení, jedná jako orgán příslušný pro dohled nad nimi a jejich koordinaci evropský inspektor ochrany údajů.

Pozměňovací návrh  565

 

Návrh nařízení

Článek 59 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 59a
	Mechanismus spolupráce vnitrostátních dozorových úřadů v případech zahrnujících dva nebo více členských států
	1. Každý vnitrostátní dozorový úřad plní na území svého členského státu úkoly a vykonává pravomoci, které mu byly svěřeny v souladu s tímto nařízením.
	2. V případě dvou nebo více vnitrostátních dozorových orgánů se za vedoucí dozorový úřad považuje vnitrostátní dozorový orgán členského státu, v němž k porušení došlo.
	3. V případech uvedených v odstavci 2 příslušné orgány dohledu spolupracují a včas si vyměňují veškeré relevantní informace. Vnitrostátní dozorové úřady spolupracují na dosažení konsenzu.

Pozměňovací návrh  566

 

Návrh nařízení

Hlava VII

Znění navržené Komisí	Pozměňovací návrh
VII DATABÁZE EU OBSAHUJÍCÍ SAMOSTATNÉ VYSOCE RIZIKOVÉ SYSTÉMY UI	DATABÁZE EU OBSAHUJÍCÍ RIZIKOVÉ SYSTÉMY UMĚLÉ INTELIGENCE

Pozměňovací návrh  567

 

Návrh nařízení

Čl. 60 – název

Znění navržené Komisí	Pozměňovací návrh
Databáze EU obsahující samostatné vysoce rizikové systémy UI	Databáze EU obsahující rizikové systémy umělé inteligence

Pozměňovací návrh  568

 

Návrh nařízení

Čl. 60 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Komise ve spolupráci s členskými státy zřizuje a udržuje databázi EU obsahující informace uvedené v odstavci 2 ohledně vysoce rizikových systémů UI podle čl. 6 odst. 2, které jsou registrovány v souladu s článkem 51.	1. Komise ve spolupráci s členskými státy zřídí a udržuje veřejnou databázi EU obsahující informace uvedené v odstavcích 2 a 2a týkající se vysoce rizikových systémů UI uvedených v čl. 6 odst. 2, které jsou registrovány v souladu s článkem 51.

Pozměňovací návrh  569

 

Návrh nařízení

Čl. 60 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Údaje uvedené v příloze VIII zadávají do databáze EU poskytovatelé. Komise jim poskytuje technickou a administrativní podporu.	2. Údaje uvedené v příloze VIII oddíle A vloží poskytovatelé do databáze EU.

Pozměňovací návrh  570

 

Návrh nařízení

Čl. 60 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Údaje uvedené v příloze VIII oddíle B vkládají do databáze EU provozovatelé, kteří jsou nebo jednají jménem orgánů veřejné moci nebo orgánů, institucí nebo jiných subjektů Unie, a provozovatelé, kteří jsou podniky uvedenými v čl. 51 odst. 1a a 1b.

Pozměňovací návrh  571

 

Návrh nařízení

Čl. 60 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Informace obsažené v databázi EU jsou přístupné veřejnosti.	3. Informace obsažené v databázi EU jsou volně přístupné veřejnosti, uživatelsky vstřícné a přístupné, přehledné a strojově čitelné a obsahují strukturované digitální údaje založené na standardizovaném protokolu.

Pozměňovací návrh  572

 

Návrh nařízení

Čl. 60 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Databáze EU obsahuje osobní údaje pouze do té míry, která je nezbytná pro shromažďování a zpracovávání informací v souladu s tímto nařízením. Tyto informace zahrnují jména a kontaktní údaje fyzických osob, které odpovídají za registraci systému a mají zákonnou pravomoc zastupovat poskytovatele.	4. Databáze EU obsahuje osobní údaje pouze do té míry, která je nezbytná pro shromažďování a zpracovávání informací v souladu s tímto nařízením. Tyto informace zahrnují jména a kontaktní údaje fyzických osob, které jsou odpovědné za registraci systému a mají právní pravomoc zastupovat poskytovatele nebo provozovatele, který je orgánem veřejné moci nebo orgánem, institucí nebo jiným subjektem Unie nebo provozovatelem jednajícím jejich jménem nebo provozovatelem, který je podnikem uvedeným v čl. 51 odst. 1a písm. b) a odst. 1b.

Pozměňovací návrh  573

 

Návrh nařízení

Čl. 60 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Správcem databáze EU je Komise. Ta rovněž zajišťuje poskytovatelům přiměřenou technickou a administrativní podporu.	5. Správcem databáze EU je Komise. Rovněž zajistí poskytovatelům a provozovatelům odpovídající technickou a administrativní podporu.
	Databáze musí splňovat požadavky na přístupnost stanovené v příloze I směrnice 2019/882.

Pozměňovací návrh  574

 

Návrh nařízení

Čl. 61 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Systém monitorování po uvedení na trh aktivně a systematicky shromažďuje, dokumentuje a analyzuje příslušné údaje získané od uživatelů nebo shromážděné z jiných zdrojů, které se týkají výkonnosti vysoce rizikových systémů UI po celou dobu jejich životnosti, a umožňuje poskytovateli vyhodnocovat nepřetržitý soulad systémů UI s požadavky stanovenými v hlavě III kapitole 2.	2. Systém monitorování po uvedení na trh aktivně a systematicky shromažďuje, dokumentuje a analyzuje příslušné údaje získané od provozovatelů nebo shromážděné z jiných zdrojů, které se týkají výkonnosti vysoce rizikových systémů UI po celou dobu jejich životnosti, a umožňuje poskytovateli vyhodnocovat nepřetržitý soulad systémů UI s požadavky stanovenými v hlavě III kapitole 2. Monitorování po uvedení na trh případně zahrnuje analýzu interakce s prostředím jiných systémů UI, včetně jiných zařízení a softwaru, s přihlédnutím k pravidlům platným v oblastech, jako je ochrana údajů, práva duševního vlastnictví a právo hospodářské soutěže.

Pozměňovací návrh  575

 

Návrh nařízení

Čl. 61 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Systém monitorování po uvedení na trh je založen na plánu monitorování po uvedení na trh. Plán monitorování po uvedení na trh je součástí technické dokumentace uvedené v příloze IV. Komise přijme prováděcí akt, kterým se stanoví podrobná ustanovení zavádějící vzor plánu monitorování po uvedení na trh a seznam prvků, které mají být do tohoto plánu zahrnuty.	3. Systém monitorování po uvedení na trh je založen na plánu monitorování po uvedení na trh. Plán monitorování po uvedení na trh je součástí technické dokumentace uvedené v příloze IV. Komise do [dvanáct měsíců od vstupu tohoto nařízení v platnost] přijme prováděcí akt, kterým se stanoví podrobná ustanovení zavádějící vzor plánu monitorování po uvedení na trh a seznam prvků, které mají být do tohoto plánu zahrnuty.

Pozměňovací návrh  576

 

Návrh nařízení

Čl. 62 – název

Znění navržené Komisí	Pozměňovací návrh
Ohlašování závažných incidentů a chybného fungování	Ohlašování závažných incidentů

Pozměňovací návrh  577

 

Návrh nařízení

Čl. 62 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Poskytovatelé vysoce rizikových systémů UI uváděných na trh Unie ohlašují každý závažný incident nebo chybné fungování těchto systémů představující porušení povinností podle práva Unie, jehož cílem je ochrana základních práv, orgánům dozoru nad trhem v členských státech, v nichž k této nežádoucí příhodě nebo porušení došlo.	1. Poskytovatelé a v případě, že provozovatelé zjistili závažný incident, provozovatelé vysoce rizikových systémů UI uváděných na trh Unie nahlásí jakýkoli závažný incident těchto systémů, který představuje porušení povinností podle práva Unie za účelem ochrany základních práv, vnitrostátnímu dozorovému orgánu členských států, v nichž k incidentu nebo porušení došlo.

Pozměňovací návrh  578

 

Návrh nařízení

Čl. 62 – odst. 1 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Toto oznámení musí být učiněno neprodleně poté, co poskytovatel zjistí příčinnou souvislost mezi daným systémem UI a daným závažným incidentem nebo chybným fungováním nebo přiměřenou pravděpodobnost této souvislosti, v každém případě však nejpozději do patnácti dnů poté, co se poskytovatelé o daném závažném incidentu nebo chybném fungování dozvěděli.	Toto oznámení se učiní bez zbytečného odkladu poté, co poskytovatel nebo případně provozovatel zjistí příčinnou souvislost mezi systémem UI a incidentem nebo přiměřenou pravděpodobnost takové souvislosti, a v každém případě nejpozději do 72 hodin poté, co se poskytovatel nebo případně provozovatel o závažném incidentu dozvěděl.

Pozměňovací návrh  579

 

Návrh nařízení

Čl. 62 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Po zjištění příčinné souvislosti mezi systémem UI a závažným incidentem nebo přiměřené pravděpodobnosti takové souvislosti přijmou poskytovatelé vhodná nápravná opatření podle článku 21.

Pozměňovací návrh  580

 

Návrh nařízení

Čl. 62 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Po obdržení oznámení týkajícího se porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, informuje orgán dozoru nad trhem vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty uvedené v čl. 64 odst. 3. Komise vypracuje zvláštní pokyny s cílem usnadnit plnění povinností stanovených v odstavci 1. Tyto pokyny jsou vydány nejpozději dvanáct měsíců po vstupu tohoto nařízení v platnost.	2. Po obdržení oznámení týkajícího se porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, informuje státní dozorový orgán vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty uvedené v čl. 64 odst. 3. Komise vypracuje zvláštní pokyny s cílem usnadnit plnění povinností stanovených v odstavci 1. Tyto pokyny se vydají do [vstup tohoto nařízení v platnost] a budou pravidelně vyhodnocovány.

Pozměňovací návrh  581

 

Návrh nařízení

Čl. 62 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Vnitrostátní dozorový orgán přijme vhodná opatření do sedmi dnů ode dne, kdy obdržel oznámení uvedené v odstavci 1. Dojde-li k porušení předpisů nebo je-li pravděpodobné, že k němu dojde v jiných členských státech, oznámí to vnitrostátní dozorový orgán Úřadu pro umělou inteligenci a příslušným vnitrostátním dozorovým orgánům těchto členských států.

Pozměňovací návrh  582

 

Návrh nařízení

Čl. 62 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. U vysoce rizikových systémů UI podle bodu 5 písm. b) přílohy III uváděných na trh nebo do provozu poskytovateli, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, a u vysoce rizikových systémů UI, které jsou bezpečnostními součástmi zařízení nebo jsou samy zařízeními a na něž se vztahuje nařízení (EU) 2017/745 a nařízení (EU) 2017/746, se oznamování závažných incidentů nebo chybného fungování omezuje na ty, které představují porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv.	3. V případě vysoce rizikových systémů UI uvedených v příloze III, které uvádějí na trh nebo do provozu poskytovatelé, na něž se vztahují legislativní nástroje Unie, které stanoví oznamovací povinnosti rovnocenné povinnostem stanoveným v tomto nařízení, se oznamování závažných incidentů, které představují porušení základních práv podle práva Unie, převádí na vnitrostátní dozorový orgán.

Pozměňovací návrh  583

 

Návrh nařízení

Čl. 62 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Vnitrostátní dozorové orgány každoročně informují Úřad pro umělou inteligenci o závažných incidentech, které jim v souladu s tímto článkem hlášeny.

Pozměňovací návrh  584

 

Návrh nařízení

Čl. 63 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Na systémy UI upravené tímto nařízením se vztahuje nařízení (EU) 2019/1020. Pro účely účinného prosazování tohoto nařízení však platí, že:	1. Na systémy UI a základní modely, na něž se vztahuje toto nařízení, se použije nařízení (EU) 2019/1020. Pro účely účinného prosazování tohoto nařízení však platí, že:

Pozměňovací návrh  585

 

Návrh nařízení

Čl. 63 – odst. 1 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) vnitrostátní dozorové orgány jednají jako orgány dozoru nad trhem podle tohoto nařízení a mají stejné pravomoci a povinnosti jako orgány dozoru nad trhem podle nařízení (EU) 2019/1020.

Pozměňovací návrh  586

 

Návrh nařízení

Čl. 63 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Vnitrostátní dozorový orgán podává Komisi pravidelné zprávy o výsledcích příslušných činností v oblasti dozoru nad trhem. Vnitrostátní dozorový orgán neprodleně ohlásí Komisi a příslušným vnitrostátním orgánům pro hospodářskou soutěž veškeré informace zjištěné v průběhu činností v oblasti dozoru nad trhem, které by mohly mít potenciální význam pro uplatňování právních předpisů Unie na pravidla hospodářské soutěže.	2. Vnitrostátní dozorový orgán každoročně podává Komisi a Úřadu pro umělou inteligenci zprávu o výsledcích příslušných činností dozoru nad trhem. Vnitrostátní dozorový orgán neprodleně ohlásí Komisi a příslušným vnitrostátním orgánům pro hospodářskou soutěž veškeré informace zjištěné v průběhu činností v oblasti dozoru nad trhem, které by mohly mít potenciální význam pro uplatňování právních předpisů Unie na pravidla hospodářské soutěže.

Pozměňovací návrh  587

 

Návrh nařízení

Čl. 63 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Pro účely zajištění účinného prosazování tohoto nařízení mohou vnitrostátní dozorové orgány:
	a) provádět u rizikových systémů umělé inteligence neohlášené kontroly na místě a na dálku,
	b) získávat vzorky týkající se rizikových systémů umělé inteligence, a to i prostřednictvím kontrol na dálku, k reverznímu inženýrství těchto systémů a k získání důkazů pro zjištění porušování předpisů.

Pozměňovací návrh  588

 

Návrh nařízení

Čl. 63 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Pokud jde o systémy UI uvedené v bodě 1 písm. a), pokud se tyto systémy používají pro účely prosazování práva dle bodů 6 a 7 přílohy III, určí členské státy jako orgány dozoru nad trhem pro účely tohoto nařízení buď příslušné dozorové úřady pro ochranu údajů podle směrnice (EU) 2016/680 či nařízení 2016/679, nebo příslušné vnitrostátní orgány vykonávající dohled nad činností donucovacích, imigračních nebo azylových orgánů, které uvádějí tyto systémy do provozu nebo je využívají.	5. Pro systémy UI, které se používají pro účely prosazování práva, určí členské státy jako orgány dozoru nad trhem pro účely tohoto nařízení příslušné dozorové úřady pro ochranu údajů podle směrnice (EU) 2016/680.

Pozměňovací návrh  589

 

Návrh nařízení

Čl. 63 – odst. 7

Znění navržené Komisí	Pozměňovací návrh
7. Členské státy usnadňují koordinaci mezi orgány dozoru nad trhem určenými podle tohoto nařízení a dalšími příslušnými vnitrostátními orgány nebo subjekty, které dohlížejí na uplatňování harmonizačních právních předpisů Unie uvedených v příloze II nebo jiných právních předpisů Unie, které by mohly být relevantní pro vysoce rizikové systémy UI uvedené v příloze III.	7. Vnitrostátní dozorové orgány určené podle tohoto nařízení koordinují svou činnost s dalšími příslušnými vnitrostátními orgány nebo subjekty, které dohlížejí na uplatňování harmonizačního práva Unie uvedeného v příloze II nebo jiného práva Unie, které by mohlo být relevantní pro vysoce rizikové systémy UI uvedené v příloze III.

Pozměňovací návrh  590

 

Návrh nařízení

Čl. 64 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Orgány dozoru nad trhem mají přístup k údajům a dokumentaci v rámci svých činností a je jim poskytnut neomezený přístup k souborům tréninkových dat, dat pro ověřování platnosti a testovacích dat využívaných poskytovatelem, a to i prostřednictvím aplikačních programovacích rozhraní (API) nebo jiných vhodných technických prostředků a nástrojů umožňujících vzdálený přístup.	1. V souvislosti s jejich činnostmi a na jeho odůvodněnou žádost je vnitrostátnímu dozorovému orgánu prostřednictvím vhodných technických prostředků a nástrojů poskytnut plný přístup k souborům tréninkových dat, dat pro ověřování platnosti a testovacích dat používaných poskytovatelem nebo případně provozovatelem, které jsou relevantní a nezbytně nutné pro účely jeho žádosti.

Pozměňovací návrh  591

 

Návrh nařízení

Čl. 64 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Je-li to nezbytné k posouzení shody vysoce rizikového systému UI s požadavky uvedenými v hlavě III kapitole 2 a na odůvodněnou žádost bude orgánům dozoru nad trhem poskytnut přístup ke zdrojovému kódu daného systému UI.	2. Je-li to nezbytné k posouzení shody vysoce rizikového systému UI s požadavky stanovenými v hlavě III kapitole 2 poté, co byly vyčerpány a ukázaly se jako nedostatečné všechny ostatní přiměřené způsoby ověřování shody, mimo jiné na základě odstavce 1, a na základě odůvodněné žádosti je vnitrostátnímu dozorovému orgánu poskytnut přístup také k tréninkovým a trénovaným modelům systému UI, včetně jeho příslušných parametrů. Se všemi získanými informacemi v souladu s článkem 70 se zachází jako s důvěrnými informacemi, vztahují se na ně stávající právní předpisy Unie o ochraně duševního vlastnictví a obchodního tajemství a vymažou se po skončení vyšetřování, pro které byly informace vyžádány.

Pozměňovací návrh  592

 

Návrh nařízení

Čl. 64 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Odstavci 1 a 2 nejsou dotčena procesní práva dotčeného provozovatele v souladu s článkem 18 nařízení (EU) 2019/1020.

Pozměňovací návrh  593

 

Návrh nařízení

Čl. 64 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Vnitrostátní veřejné orgány nebo subjekty, které dohlížejí na dodržování povinností stanovených v právních předpisech Unie na ochranu základních práv v souvislosti s používáním vysoce rizikových systémů UI uvedených v příloze III, případně je vymáhají, jsou oprávněny vyžádat si jakoukoli dokumentaci vytvořenou nebo vedenou podle tohoto nařízení a mít k ní přístup, pokud je přístup k této dokumentaci nezbytný k plnění pravomocí vyplývajících z jejich pověření v rámci jejich příslušnosti. Příslušný veřejný orgán nebo subjekt o každé této žádosti informuje orgán dozoru nad trhem dotčeného členského státu.	3. Vnitrostátní veřejné orgány nebo subjekty, které dohlížejí na dodržování povinností stanovených v právních předpisech Unie na ochranu základních práv v souvislosti s používáním vysoce rizikových systémů UI uvedených v příloze III, případně je vymáhají, jsou oprávněny vyžádat si jakoukoli dokumentaci vytvořenou nebo vedenou podle tohoto nařízení a mít k ní přístup, pokud je přístup k této dokumentaci nezbytný k plnění pravomocí vyplývajících z jejich pověření v rámci jejich příslušnosti. Příslušný orgán veřejné moci nebo veřejný subjekt o každé takové žádosti informuje vnitrostátní dozorový orgán dotčeného členského státu.

Pozměňovací návrh  594

 

Návrh nařízení

Čl. 64 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Každý členský stát určí do tří měsíců po vstupu tohoto nařízení v platnost orgány veřejné moci nebo subjekty uvedené v odstavci 3 a jejich seznam zveřejní na internetových stránkách vnitrostátního dozorového orgánu. Členské státy oznámí tento seznam Komisi a všem ostatním členským státům a průběžně jej aktualizují.	4. Každý členský stát určí do tří měsíců po vstupu tohoto nařízení v platnost orgány veřejné moci nebo subjekty uvedené v odstavci 3 a jejich seznam zveřejní na internetových stránkách vnitrostátního dozorového orgánu. Vnitrostátní dozorové orgány oznámí tento seznam Komisi, Úřadu pro umělou inteligenci a všem ostatním vnitrostátním dozorovým orgánům a tento seznam průběžně aktualizují. Komise zveřejní na vyhrazených internetových stránkách seznam všech příslušných orgánů určených členskými státy v souladu s tímto článkem.

Pozměňovací návrh  595

 

Návrh nařízení

Čl. 64 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Pokud dokumentace uvedená v odstavci 3 není dostatečná k tomu, aby bylo možné zjistit, zda došlo k porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, může orgán veřejné moci nebo subjekt uvedený v odstavci 3 podat orgánu dozoru nad trhem odůvodněnou žádost o uspořádání testů vysoce rizikového systému UI technickými prostředky. Orgán dozoru nad trhem uspořádá tyto testy, do nichž bude dožadující orgán veřejné moci nebo subjekt významně zapojen, v přiměřené lhůtě po podání žádosti.	5. Pokud dokumentace uvedená v odstavci 3 není dostatečná k tomu, aby bylo možné zjistit, zda došlo k porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, může orgán veřejné moci nebo subjekt uvedený v odstavci 3 podat vnitrostátnímu orgánu dozoru odůvodněnou žádost o uspořádání testů vysoce rizikového systému UI technickými prostředky. Vnitrostátní orgán dozoru uspořádá tyto testy, do nichž bude dožadující orgán veřejné moci nebo subjekt významně zapojen, v přiměřené lhůtě po podání žádosti.

Pozměňovací návrh  596

 

Návrh nařízení

Čl. 65 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Systémy UI, které představují riziko, jsou považovány za výrobek představující riziko podle čl. 3 bodu 19 nařízení (EU) 2019/1020, pokud jde o rizika pro zdraví, bezpečnost nebo ochranu základních práv osob.	1. Systémy UI představující riziko se považují za systém UI, který může nepříznivě ovlivnit zdraví a bezpečnost, základní práva osob obecně, a to i na pracovišti, ochranu spotřebitelů, životní prostředí, veřejnou bezpečnost nebo demokracii nebo právní stát a další veřejné zájmy, které jsou chráněny použitelným harmonizačním právem Unie, v míře, která přesahuje míru považovanou za přiměřenou a přijatelnou ve vztahu k jeho určenému účelu nebo za běžných nebo rozumně předvídatelných podmínek používání systému, včetně doby používání a případně požadavků na jeho uvádění do provozu, instalaci a údržbu.

Pozměňovací návrh  597

 

Návrh nařízení

Čl. 65 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Pokud má orgán dozoru nad trhem členského státu dostatečné důvody domnívat se, že systém UI představuje riziko podle odstavce 1, provede hodnocení dotčeného systému UI z hlediska jeho souladu se všemi požadavky a povinnostmi stanovenými v tomto nařízení. Pokud existují rizika z hlediska ochrany základních práv, informuje orgán dozoru nad trhem rovněž příslušné vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty uvedené v čl. 64 odst. 3. Příslušní provozovatelé podle potřeby spolupracují s orgány dozoru nad trhem a s dalšími vnitrostátními orgány veřejné správy nebo veřejnoprávními subjekty uvedenými v čl. 64 odst. 3.	2. Pokud má vnitrostátní orgán dozoru členského státu dostatečné důvody domnívat se, že systém UI představuje riziko podle odstavce 1, provede hodnocení dotčeného systému UI z hlediska jeho souladu se všemi požadavky a povinnostmi stanovenými v tomto nařízení. Pokud existují rizika pro základní práva, vnitrostátní dozorový orgán rovněž neprodleně informuje příslušné vnitrostátní veřejné orgány nebo subjekty uvedené v čl. 64 odst. 3 a plně s nimi spolupracuje; Existuje-li dostatečný důvod domnívat se, že systém UI využívá zranitelnosti zranitelných skupin nebo porušuje jejich práva úmyslně nebo neúmyslně, má vnitrostátní dozorový orgán povinnost prošetřit cíle návrhu, vstupy údajů, výběr modelu, zavedení a výsledky systému UI. Příslušné hospodářské subjekty podle potřeby spolupracují s vnitrostátním dozorovým orgánem a ostatními vnitrostátními veřejnými orgány nebo subjekty uvedenými v čl. 64 odst. 3;

Pozměňovací návrh  598

 

Návrh nařízení

Čl. 65 – odst. 2 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Pokud v průběhu tohoto hodnocení orgán dozoru nad trhem zjistí, že systém UI nesplňuje požadavky a povinnosti stanovené tímto nařízením, neprodleně vyzve příslušného provozovatele, aby přijal veškerá vhodná nápravná opatření k uvedení systému UI do souladu nebo k jeho stažení z trhu nebo z oběhu ve lhůtě, kterou může orgán dozor nad trhem stanovit a která je přiměřená povaze rizika.	Pokud v průběhu tohoto hodnocení vnitrostátní dozorový orgán nebo případně vnitrostátní veřejný orgán uvedený v čl. 64 odst. 3 zjistí, že systém UI nesplňuje požadavky a povinnosti stanovené v tomto nařízení, neprodleně vyzve příslušného provozovatele, aby přijal veškerá vhodná nápravná opatření k uvedení systému UI do souladu, k jeho stažení z trhu nebo z oběhu ve lhůtě, kterou může stanovit a která je přiměřená povaze rizika, a v každém případě nejpozději do patnácti pracovních dnů nebo jak je stanoveno v příslušných harmonizačních právních předpisech Unie.

Pozměňovací návrh  599

 

Návrh nařízení

Čl. 65 – odst. 2 – pododstavec 2

Znění navržené Komisí	Pozměňovací návrh
Orgán dozoru nad trhem o tom informuje příslušný oznámený subjekt. Na opatření uvedená v druhém pododstavci se použije článek 18 nařízení (EU) 2019/1020.	Vnitrostátní orgán dozoru o tom informuje příslušný oznámený subjekt. Na opatření uvedená v druhém pododstavci se použije článek 18 nařízení (EU) 2019/1020.

Pozměňovací návrh  600

 

Návrh nařízení

Čl. 65 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Domnívá-li se orgán dozoru nad trhem, že se nesoulad netýká pouze území jeho členského státu, informuje Komisi a ostatní členské státy o výsledcích hodnocení a o opatřeních, která má provozovatel na jeho žádost přijmout.	3. Pokud se vnitrostátní dozorový orgán domnívá, že nedodržení není omezeno na jeho území, informuje bez zbytečného odkladu Komisi, Úřad pro umělou inteligenci a vnitrostátní dozorový úřad ostatních členských států o výsledcích hodnocení a o opatřeních, která má provozovatel přijmout.

Pozměňovací návrh  601

 

Návrh nařízení

Čl. 65 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Pokud provozovatel systému UI ve lhůtě uvedené v odstavci 2 nepřijme přiměřená nápravná opatření, přijme orgán dozoru nad trhem všechna vhodná dočasná opatření k omezení nebo zákazu dodávání systému UI na trh svého členského státu nebo k zajištění toho, že je tento produkt stažen z trhu nebo z oběhu. O takových opatřeních tento orgán neprodleně informuje Komisi a ostatní členské státy.	5. Pokud provozovatel systému UI ve lhůtě uvedené v odstavci 2 nepřijme přiměřená nápravná opatření, přijme vnitrostátní dozorový orgán veškerá vhodná prozatímní opatření, aby zakázal nebo omezil dodávání systému UI na svůj vnitrostátní trh nebo do provozu, aby systém UI stáhl z trhu nebo z oběhu. Tento orgán o těchto opatřeních neprodleně informuje Komisi, Úřad pro umělou inteligenci a vnitrostátní dozorový orgán ostatních členských států.

Pozměňovací návrh  602

 

Návrh nařízení

Čl. 65 – odst. 6 – návětí

Znění navržené Komisí	Pozměňovací návrh
6. Součástí informací uvedených v odstavci 5 jsou všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci nevyhovujícího systému UI, údaje o původu systému UI, povaze nesouladu a souvisejícího rizika, povaze a době trvání opatření přijatých na vnitrostátní úrovni a stanoviska příslušného poskytovatele. Orgány dozoru nad trhem zejména uvedou, zda je důvodem nesouladu jeden nebo více těchto nedostatků:	6. Součástí informací uvedených v odstavci 5 jsou všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci nevyhovujícího systému UI, údaje o původu systému UI a dodavatelském řetězci, povaze nesouladu a souvisejícího rizika, povaze a době trvání opatření přijatých na vnitrostátní úrovni a stanoviska příslušného poskytovatele. Vnitrostátní orgány dozoru zejména uvedou, zda je důvodem nesouladu jeden nebo více těchto nedostatků:

Pozměňovací návrh  603

 

Návrh nařízení

Čl. 65 – odst. 6 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systém UI nesplňuje požadavky uvedené v hlavě III kapitole 2;	a) pokud vysoce rizikový systém UI nesplňuje požadavky stanovené v tomto nařízení;

Pozměňovací návrh  604

 

Návrh nařízení

Čl. 65 – odst. 6 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) nedodržení zákazu postupů v oblasti umělé inteligence uvedených v článku 5;

Pozměňovací návrh  605

 

Návrh nařízení

Čl. 65 – odst. 6 – písm. b b (nové)

Znění navržené Komisí	Pozměňovací návrh
	bb) nedodržení ustanovení uvedených v článku 52;

Pozměňovací návrh  606

 

Návrh nařízení

Čl. 65 – odst. 7

Znění navržené Komisí	Pozměňovací návrh
7. Orgány dozoru nad trhem členských států jiné než orgán dozoru nad trhem členského státu, který zahájil tento postup, neprodleně informují Komisi a ostatní členské státy o veškerých opatřeních, která přijaly, a o všech doplňujících údajích týkajících se nesouladu dotčeného systému UI, které mají k dispozici, a v případě nesouhlasu s oznámeným vnitrostátním opatřením o svých námitkách.	7. Vnitrostátní dozorové orgány jiných členských států, než je vnitrostátní dozorový orgán členského státu, který zahájil řízení, neprodleně informují Komisi, Úřad pro UI a ostatní členské státy o veškerých přijatých opatřeních a o veškerých doplňujících informacích týkajících se nesouladu dotčeného systému UI, které mají k dispozici, a v případě nesouhlasu s oznámeným vnitrostátním opatřením o svých námitkách.

Pozměňovací návrh  607

 

Návrh nařízení

Čl. 65 – odst. 8

Znění navržené Komisí	Pozměňovací návrh
8. Jestliže do tří měsíců od přijetí informací uvedených v odstavci 5 nevznese žádný členský stát ani Komise námitku proti předběžnému opatření přijatému členským státem, považuje se uvedené opatření za odůvodněné. Tím nejsou dotčena procesní práva dotčeného provozovatele v souladu s článkem 18 nařízení (EU) 2019/1020.	8. Pokud do tří měsíců od obdržení informací uvedených v odstavci 5 nevznese vnitrostátní dozorový úřad členského státu ani Komise námitku proti prozatímnímu opatření přijatému vnitrostátním dozorovým orgánem jiného členského státu, považuje se toto opatření za odůvodněné. Tím nejsou dotčena procesní práva dotčeného provozovatele v souladu s článkem 18 nařízení (EU) 2019/1020. Lhůta uvedená v první větě tohoto odstavce se zkracuje na třicet dnů v případě nedodržení zákazu praktik umělé inteligence uvedeného v článku 5.

Pozměňovací návrh  608

 

Návrh nařízení

Čl. 65 – odst. 9

Znění navržené Komisí	Pozměňovací návrh
9. Orgány dozoru nad trhem všech členských států zajistí, aby byla v souvislosti s dotčeným produktem bezodkladně přijata náležitá restriktivní opatření, například stažení daného produktu z jejich trhů.	9. Vnitrostátní dozorové orgány všech členských států zajistí, aby byla v souvislosti s dotčeným systémem UI neprodleně přijata vhodná omezující opatření, jako je stažení systému UI z jejich trhu.

Pozměňovací návrh  609

 

Návrh nařízení

Čl. 65 – odst. 9 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	9a. Vnitrostátní dozorové orgány podávají Úřadu pro umělou inteligenci každoročně zprávu o používání zakázaných praktik, k nimž došlo v daném roce, a o opatřeních přijatých k odstranění nebo zmírnění rizik v souladu s tímto článkem.

Pozměňovací návrh  610

 

Návrh nařízení

Čl. 66 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Pokud do tří měsíců od obdržení oznámení uvedeného v čl. 65 odst. 5 vznese některý členský stát námitky proti opatření přijatému jiným členským státem nebo pokud se Komise domnívá, že je dané opatření v rozporu s právem Unie, zahájí Komise neprodleně konzultaci s dotčeným členským státem a provozovatelem nebo provozovateli a provede hodnocení tohoto vnitrostátního opatření. Na základě výsledků tohoto hodnocení Komise do devíti měsíců od oznámení uvedeného v čl. 65 odst. 5 rozhodne, zda je dané vnitrostátní opatření odůvodněné či nikoli, a toto rozhodnutí oznámí dotčenému členskému státu.	1. Pokud do tří měsíců od obdržení oznámení uvedeného v čl. 65 odst. 5 nebo do 30 dnů v případě nedodržení zákazu praktik umělé inteligence uvedeného v článku 5 vznese vnitrostátní dozorový orgán členského státu námitky proti opatření přijatému jiným vnitrostátním dozorovým orgánem, nebo pokud se Komise domnívá, že je dané opatření v rozporu s právem Unie, zahájí Komise neprodleně konzultace s vnitrostátním dozorovým orgánem příslušného členského státu a s provozovatelem nebo provozovateli a provede hodnocení vnitrostátního opatření. Na základě výsledků tohoto hodnocení Komise rozhodne, zda je vnitrostátní opatření oprávněné, či nikoli do tří měsíců, nebo do 60 dnů v případě nedodržení zákazu praktik umělé inteligence uvedeného v článku 5, počínaje oznámením podle čl. 65 odst. 5 a oznámí toto rozhodnutí vnitrostátnímu dozorovému orgánu dotčeného členského státu. Komise o tomto rozhodnutí rovněž informuje všechny ostatní vnitrostátní dozorové orgány.

Pozměňovací návrh  611

 

Návrh nařízení

Čl. 66 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Pokud je dané vnitrostátní opatření považováno za odůvodněné, přijmou všechny členské státy opatření nezbytná k zajištění toho, aby byl nevyhovující systém UI stažen z jejich trhu, a informují o tom Komisi. Je-li vnitrostátní opatření považováno za neodůvodněné, dotčený členský stát toto opatření zruší.	2. Je-li vnitrostátní opatření považováno za odůvodněné, přijmou všechny vnitrostátní dozorové orgány určené podle tohoto nařízení opatření nezbytná k zajištění toho, aby byl nevyhovující systém UI neprodleně stažen z jejich trhu, a informují o tom Komisi a Úřad pro UI. Je-li vnitrostátní opatření považováno za neodůvodněné, vnitrostátní orgán dozoru dotčeného členského státu opatření zruší.

Pozměňovací návrh  612

 

Návrh nařízení

Článek 66 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 66a
	Společná vyšetřování
	Pokud má vnitrostátní dozorový orgán důvodné podezření, že porušení tohoto nařízení ze strany poskytovatele nebo provozovatele vysoce rizikového systému UI nebo základního modelu představuje rozsáhlé porušování právních předpisů na ochranu spotřebitele s unijním rozměrem nebo se dotýká nebo pravděpodobně dotkne nejméně 45 milionů osob ve více než jednom členském státě, informuje tento vnitrostátní dozorový orgán Úřad pro umělou inteligenci a může požádat vnitrostátní dozorové orgány členských států, v nichž k takovému porušení došlo, aby zahájily společné vyšetřování. Úřad pro umělou inteligenci zajišťuje centrální koordinaci společného vyšetřování. Vyšetřovací pravomoci zůstávají v pravomoci vnitrostátních dozorových orgánů.

Pozměňovací návrh  613

 

Návrh nařízení

Čl. 67 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Pokud orgán dozoru nad trhem členského státu po provedení hodnocení podle článku 65 zjistí, že ačkoli je systém UI v souladu s tímto nařízením, představuje riziko pro zdraví nebo bezpečnost osob, pro plnění povinností podle právních předpisů Unie nebo vnitrostátních právních předpisů, jejichž záměrem je chránit základní práva, nebo pro jiné aspekty ochrany veřejného zájmu, vyzve dotčeného provozovatele, aby přijal veškerá vhodná opatření k zajištění toho, aby dotčený systém UI, pokud bude uveden na trh nebo do provozu, dále nepředstavoval toto riziko, nebo aby byl tento systém UI stažen z trhu nebo z oběhu ve lhůtě, kterou může členský stát stanovit a která je přiměřená povaze rizika.	1. Pokud vnitrostátní dozorový orgán členského státu po provedení hodnocení podle článku 65 v plné spolupráci s příslušným vnitrostátním veřejným orgánem uvedeným v čl. 64 odst. 3 zjistí, že ačkoli je systém UI v souladu s tímto nařízením, představuje vážné riziko pro zdraví nebo bezpečnost osob, plnění povinností podle práva Unie nebo vnitrostátního práva, které mají chránit základní práva, životní prostředí nebo demokracii a právní stát nebo pro jiné aspekty ochrany veřejného zájmu, požádá příslušný provozovatel, aby přijal veškerá vhodná opatření k zajištění toho, aby dotčený systém UI při uvedení na trh nebo do provozu již nepředstavoval toto riziko.

Pozměňovací návrh  614

 

Návrh nařízení

Čl. 67 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Poskytovatel nebo jiní příslušní provozovatelé zajistí, aby byla přijata nápravná opatření ve vztahu ke všem dotčeným systémům UI, které dodali na trh v rámci celé Unie, ve lhůtě stanovené orgánem dozoru nad trhem členského státu uvedeného v odstavci 1.	2. Poskytovatel nebo jiní příslušní provozovatelé zajistí, aby byla přijata nápravná opatření ve vztahu ke všem dotčeným systémům UI, které dodali na trh v rámci celé Unie, ve lhůtě stanovené vnitrostátním dozorovým úřadem členského státu uvedeného v odstavci 1.

Pozměňovací návrh  615

 

Návrh nařízení

Čl. 67 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Pokud poskytovatel nebo jiní příslušní provozovatelé nepřijmou nápravná opatření podle odstavce 2 a systém UI nadále představuje riziko uvedené v odstavci 1, může vnitrostátní dozorový orgán požadovat, aby příslušný provozovatel stáhl systém UI z trhu nebo z oběhu v přiměřené lhůtě úměrné povaze rizika.

Pozměňovací návrh  616

 

Návrh nařízení

Čl. 67 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Tento členský stát o tom neprodleně informuje Komisi a ostatní členské státy. Tato informace musí obsahovat všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci dotčeného systému UI, údaje o jeho původu a dodavatelském řetězci, údaje o povaze souvisejícího rizika a údaje o povaze a době trvání opatření přijatých na vnitrostátní úrovni.	3. Vnitrostátní dozorový orgán neprodleně informuje Komisi, Úřad pro umělou inteligenci a ostatní vnitrostátní dozorové orgány. Tato informace musí obsahovat všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci dotčeného systému UI, údaje o jeho původu a dodavatelském řetězci, údaje o povaze souvisejícího rizika a údaje o povaze a době trvání opatření přijatých na vnitrostátní úrovni.

Pozměňovací návrh  617

 

Návrh nařízení

Čl. 67 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Komise neprodleně zahájí konzultaci s členskými státy a s příslušným provozovatelem a vyhodnotí přijatá vnitrostátní opatření. Na základě výsledků tohoto hodnocení Komise rozhodne, zda jsou opatření odůvodněná či nikoli, a pokud je to nutné, navrhne vhodná opatření.	4. Komise po konzultaci s Úřadem pro umělou inteligenci neprodleně zahájí konzultace s dotčenými vnitrostátními dozorovými orgány a příslušným provozovatelem a vyhodnotí přijatá vnitrostátní opatření. Na základě výsledků tohoto hodnocení Úřad pro umělou inteligenci rozhodne, zda je opatření oprávněné, či nikoli a v případě potřeby navrhne vhodná opatření.

Pozměňovací návrh  618

 

Návrh nařízení

Čl. 67 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Rozhodnutí Komise je určeno všem členským státům.	5. Komise po konzultaci s Úřadem pro umělou inteligenci své rozhodnutí neprodleně sdělí vnitrostátním dozorovým orgánům dotčených členských států a příslušným provozovatelům. Rozhodnutí rovněž informuje všechny ostatní vnitrostátní dozorové orgány.

Pozměňovací návrh  619

 

Návrh nařízení

Čl. 67 – odst. 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. Komise přijme pokyny s cílem pomoci příslušným vnitrostátním orgánům identifikovat a v případě potřeby napravit podobné problémy, které vznikají v jiných systémech UI.

Pozměňovací návrh  620

 

Návrh nařízení

Čl. 68 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Orgán dozoru nad trhem daného členského státu požádá příslušného provozovatele, aby odstranil dotčený nesoulad, pokud zjistí jeden z těchto nedostatků:	1. Vnitrostátní dozorový orgán členského státu požádá příslušného provozovatele, aby odstranil dotčený nesoulad, pokud zjistí jeden z těchto nedostatků:

Pozměňovací návrh  621

 

Návrh nařízení

Čl. 68 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) označení CE bylo umístěno v rozporu s článkem 49;	(Netýká se českého znění.)

Pozměňovací návrh  622

 

Návrh nařízení

Čl. 68 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) označení CE nebylo umístěno;	(Netýká se českého znění.)

Pozměňovací návrh  623

 

Návrh nařízení

Čl. 68 – odst. 1 – písm. e a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ea) není k dispozici technická dokumentace;

Pozměňovací návrh  624

 

Návrh nařízení

Čl. 68 – odst. 1 – písm. e b (nové)

Znění navržené Komisí	Pozměňovací návrh
	eb) nebyla provedena registrace v databázi EU;

Pozměňovací návrh  625

 

Návrh nařízení

Čl. 68 – odst. 1 – písm. e c (nové)

Znění navržené Komisí	Pozměňovací návrh
	ec) v příslušných případech nebyl jmenován zplnomocněný zástupce.

Pozměňovací návrh  626

 

Návrh nařízení

Čl. 68 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Pokud nesoulad uvedený v odstavci 1 nadále trvá, přijme dotčený členský stát všechna vhodná opatření a omezí nebo zakáže dodávání vysoce rizikového systému UI na trh, nebo zajistí, aby byl tento systém stažen z oběhu nebo z trhu.	2. Pokud nesoulad uvedený v odstavci 1 nadále trvá, přijme vnitrostátní dozorový orgán dotčeného členského státu vhodná a přiměřená opatření s cílem omezit nebo zakázat dodávání vysoce rizikového systému UI na trh nebo zajistit, aby byl neprodleně stažen z oběhu nebo z trhu. Vnitrostátní dozorový orgán dotčeného členského státu neprodleně informuje Úřad pro umělou inteligenci o nesouladu a o přijatých opatřeních.

Pozměňovací návrh  627

 

Návrh nařízení

Čl. 68 – Kapitola 3a (nová)

Znění navržené Komisí	Pozměňovací návrh
	3a. Opravné prostředky

Pozměňovací návrh  628

 

Návrh nařízení

Článek 68a

Znění navržené Komisí	Pozměňovací návrh
	Článek 68a
	Právo podat stížnost u vnitrostátního dozorového úřadu
	1. Aniž jsou dotčeny jakékoli jiné správní nebo soudní opravné prostředky, má každá fyzická osoba nebo skupina fyzických osob právo podat stížnost u vnitrostátního dozorového úřadu, zejména v členském státě svého obvyklého bydliště, místa výkonu práce nebo místa, kde došlo k údajnému porušení, pokud se domnívají, že systém UI, který se jich týká, porušuje toto nařízení.
	2. Vnitrostátní dozorový úřad, u něhož byla stížnost podána, informuje stěžovatele o pokroku a výsledku stížnosti, včetně možnosti soudního opravného prostředku podle článku 78.

Pozměňovací návrh  629

 

Návrh nařízení

Článek 68 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 68b
	Právo na účinnou soudní ochranu vůči vnitrostátnímu dozorovému úřadu
	1. Aniž jsou dotčeny jakékoli jiné správní nebo mimosoudní opravné prostředky, má každá fyzická nebo právnická osoba právo na účinný soudní opravný prostředek proti právně závaznému rozhodnutí vnitrostátního dozorového úřadu, které se jí týká.
	2. Aniž jsou dotčeny jakékoli jiné správní nebo mimosoudní opravné prostředky, má každá fyzická nebo právnická osoba právo na účinný soudní opravný prostředek, pokud vnitrostátní dozorový úřad, který je příslušný podle článku 59, stížnost nevyřizuje nebo neinformuje subjekt údajů do tří měsíců o pokroku nebo výsledku stížnosti podané podle článku 68a.
	3. Řízení proti vnitrostátnímu dozorovému úřadu se vede u soudů členského státu, v němž je vnitrostátní dozorový úřad.
	4. Je-li zahájeno řízení proti rozhodnutí vnitrostátního dozorového úřadu, kterému předcházelo stanovisko nebo rozhodnutí Komise v rámci ochranného postupu Unie, předá dozorový úřad toto stanovisko nebo rozhodnutí soudu.

Pozměňovací návrh  630

 

Návrh nařízení

Článek 68 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 68c
	Právo na vysvětlení individuálního rozhodování
	1. Každá dotčená osoba, na kterou se vztahuje rozhodnutí přijaté provozovatelem na základě výstupu z vysoce rizikového systému UI, který má právní účinky nebo se jí podobně významně dotýká způsobem, který podle jejího názoru nepříznivě ovlivňuje její zdraví, bezpečnost, základní práva, sociálně-ekonomický blahobyt nebo jakákoli jiná práva vyplývající z povinností stanovených v tomto nařízení, má právo požádat provozovatele o jasné a smysluplné vysvětlení podle čl. 13 odst. 1 ohledně úlohy systému UI v rozhodovacím procesu, hlavních parametrů přijatého rozhodnutí a souvisejících vstupních údajů.
	2. Odstavec 1 se nevztahuje na používání systémů UI, pro něž jsou stanoveny výjimky nebo omezení povinnosti podle odstavce 1 z práva Unie nebo vnitrostátního práva, pokud tyto výjimky nebo omezení respektují podstatu základních práv a svobod a představují nezbytné a přiměřené opatření v demokratické společnosti.
	3. Tento článek se použije, aniž jsou dotčeny články 13, 14, 15 a 22 nařízení 2016/679.

Pozměňovací návrh  631

 

Návrh nařízení

Článek 68 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 68d
	Změna směrnice (EU) 2020/1828
	V příloze I směrnice Evropského parlamentu a Rady (EU) 2020/18281a se doplňuje nový bod, který zní:
	„Nařízení Evropského parlamentu a Rady xxxx/xxxx, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty Unie.“
	_________________
	1a Směrnice Evropského parlamentu a Rady (EU) 2020/1828 ze dne 25. listopadu 2020 o zástupných žalobách na ochranu kolektivních zájmů spotřebitelů a o zrušení směrnice 2009/22/ES (Úř. věst. L 409, 4.12.2020, s. 1).

Pozměňovací návrh  632

 

Návrh nařízení

Článek 68 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 68e
	Oznamování porušení a ochrana oznamujících osob
	Oznamování porušení tohoto nařízení a ochrana osob oznamujících taková porušení se řídí směrnicí Evropského parlamentu a Rady (EU) 2019/1937.

Pozměňovací návrh  633

 

Návrh nařízení

Čl. 69 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Komise a členské státy podporují a usnadňují vypracovávání kodexů chování, které mají podpořit dobrovolné uplatňování požadavků stanovených v hlavě III kapitole 2 na systémy UI jiných než vysoce rizikové systémy UI na základě technických specifikací a řešení představujících vhodné prostředky k zajištění souladu s těmito požadavky s ohledem na určený účel uvedených systémů.	1. Komise, Úřad pro umělou inteligenci a členské státy podporují a usnadňují vypracování kodexů chování, včetně případů, kdy jsou vypracovány s cílem prokázat, jak systémy UI dodržují zásady stanovené v článku 4a, a lze je tudíž považovat za důvěryhodné, s cílem podpořit dobrovolné uplatňování požadavků stanovených v hlavě III kapitole 2 na jiné než vysoce rizikové systémy UI na základě technických specifikací a řešení, která jsou vhodnými prostředky k zajištění souladu s těmito požadavky s ohledem na určený účel těchto systémů.

Pozměňovací návrh  634

 

Návrh nařízení

Čl. 69 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Komise a rada podporují a usnadňují vypracovávání kodexů chování, které mají podpořit dobrovolné uplatňování požadavků týkajících se například udržitelnosti z hlediska životního prostředí, přístupnosti pro osoby se zdravotním postižením, účasti zúčastněných stran na návrhu a vývoji systémů UI a rozmanitosti vývojových týmů na systémy UI na základě jasných cílů a klíčových ukazatelů výkonnosti umožňujících měřit dosahování těchto cílů.	2. Kodexy chování, které mají podpořit dobrovolné dodržování zásad, na nichž jsou založeny důvěryhodné systémy UI, zejména:
	a) usilují o to, aby jejich zaměstnanci a další osoby, které se zabývají provozem a používáním systémů UI, měli dostatečnou úroveň znalostí v oblasti UI, aby mohli tyto zásady dodržovat;
	b) posoudí, jak velký dopad mohou jejich systémy UI mít na zranitelné osoby nebo skupiny osob, včetně dětí, starších osob, migrantů a osob se zdravotním postižením, nebo zda by mohla být zavedena opatření, která by zlepšila přístupnost nebo tyto osoby či skupiny osob jinak podpořila;
	c) zváží, jak může používání jejich systémů UI ovlivnit nebo zlepšit rozmanitost, genderovou vyváženost a rovnost žen a mužů;
	d) věnují pozornost tomu, zda jejich systémy UI nemohou být používány způsobem, který přímo či nepřímo může zbytkově nebo významně posílit existující předsudky nebo nerovnosti;
	e) zváží potřebu a význam rozmanitosti vývojových týmů s ohledem na zajištění inkluzivního designu jejich systémů;
	f) pečlivě zváží, zda jejich systémy mohou mít negativní společenský dopad, zejména pokud jde o politické instituce a demokratické procesy;
	g) posoudí, jak mohou systémy UI přispět k udržitelnosti z hlediska životního prostředí, a zejména k naplnění závazků Unie vyplývajících ze Zelené dohody pro Evropu a Evropského prohlášení o digitálních právech a zásadách pro digitální dekádu.

Pozměňovací návrh  635

 

Návrh nařízení

Čl. 69 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Kodexy chování mohou vypracovat jednotliví poskytovatelé systémů UI nebo organizace, které je zastupují, případně obojí, a to i za účasti uživatelů a veškerých zúčastněných stran a jejich zastupujících organizací. Kodexy chování se mohou vztahovat na jeden nebo více systémů UI s přihlédnutím k podobnosti určeného účelu daných systémů.	3. Kodexy chování mohou vypracovat jednotliví poskytovatelé systémů UI nebo organizace, které je zastupují, případně obojí, a to i za účasti uživatelů a veškerých zúčastněných stran, včetně výzkumných vědeckých pracovníků, a jejich zastupujících organizací, zejména odborů a spotřebitelských organizací. Kodexy chování se mohou vztahovat na jeden nebo více systémů UI s přihlédnutím k podobnosti určeného účelu daných systémů. Poskytovatelé, kteří přijmou kodexy chování, určí alespoň jednu fyzickou osobu odpovědnou za interní sledování.

Pozměňovací návrh  636

 

Návrh nařízení

Čl. 69 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Při podpoře a usnadňování vypracovávání kodexů chování zohlední Komise a rada konkrétní zájmy a potřeby malých poskytovatelů a začínajících podniků.	4. Komise a Úřad pro umělou inteligenci při podpoře a usnadňování vypracovávání kodexů chování zohlední zvláštní zájmy a potřeby malých a středních podniků a začínajících podniků.

Pozměňovací návrh  637

 

Návrh nařízení

Čl. 70 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Příslušné vnitrostátní orgány a oznámené subjekty zapojené do používání tohoto nařízení zachovávají důvěrnost informací a údajů, které získají při provádění svých úkolů a činností, takovým způsobem, aby chránily zejména:	1. Komise, příslušné vnitrostátní orgány a oznámené subjekty, Úřad pro umělou inteligenci a všechny další fyzické nebo právnické osoby zapojené do uplatňování tohoto nařízení respektují důvěrnost informací a údajů získaných při plnění jejich úkolů a činností způsobem, který chrání zejména;

Pozměňovací návrh  638

 

Návrh nařízení

Čl. 70 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) práva duševního vlastnictví a důvěrné obchodní informace nebo obchodní tajemství fyzických nebo právnických osob, včetně zdrojového kódu s výjimkou případů, na které se vztahuje článek 5 směrnice 2016/943 o ochraně nezveřejněného know-how a obchodních informací (obchodního tajemství) před jejich neoprávněným získáním, využitím a zpřístupněním;	a) práva duševního vlastnictví a důvěrné obchodní informace nebo obchodní tajemství fyzické nebo právnické osoby v souladu s ustanoveními směrnic 2004/48/ES a 2016/943/ES, včetně zdrojového kódu, s výjimkou případů uvedených v článku 5 směrnice 2016/943 o ochraně nezveřejněného know-how a obchodních informací (obchodního tajemství) před jejich neoprávněným získáním, použitím a zveřejněním;

Pozměňovací návrh  639

 

Návrh nařízení

Čl. 70 – odst. 1 – písm. b a (nové)

Čl. 70 – odst. 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
	ba) veřejné a národní bezpečnostní zájmy;

Pozměňovací návrh  640

 

Návrh nařízení

Čl. 70 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Orgány zapojené do uplatňování tohoto nařízení podle odstavce 1 minimalizují množství údajů požadovaných pro zpřístupnění údajů, které jsou nezbytně nutné pro vnímané riziko a posouzení tohoto rizika. Údaje vymažou, jakmile již nejsou potřebné pro účel, pro který byly vyžádány. Zavedou přiměřená a účinná opatření v oblasti kybernetické bezpečnosti a technická a organizační opatření na ochranu bezpečnosti a důvěrnosti informací a údajů získaných při plnění jejich úkolů a činností;

Pozměňovací návrh  641

 

Návrh nařízení

Čl. 70 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Aniž je dotčen odstavec 1, informace vyměňované důvěrně mezi příslušnými vnitrostátními orgány a mezi příslušnými vnitrostátními orgány a Komisí se nezpřístupní bez předchozí dohody s příslušným vnitrostátním orgánem, který informace poskytl, a uživatelem, pokud jsou vysoce rizikové systémy UI uvedené v bodech 1, 6 a 7 přílohy III používány donucovacími, imigračními nebo azylovými orgány a jejich zveřejnění by ohrozilo zájmy veřejné a vnitrostátní bezpečnosti.	2. Aniž jsou dotčeny odstavce 1 a 1a, informace vyměňované důvěrně mezi příslušnými vnitrostátními orgány a mezi příslušnými vnitrostátními orgány a Komisí se nezveřejní bez předchozí konzultace s příslušným vnitrostátním orgánem a provozovatelem, pokud jsou vysoce rizikové systémy UI uvedené v bodech 1, 6 a 7 přílohy III používány donucovacími, imigračními nebo azylovými orgány, pokud by takové zveřejnění ohrozilo veřejnou nebo národní bezpečnost.

Pozměňovací návrh  642

 

Návrh nařízení

Čl. 70 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Ustanoveními odstavců 1 a 2 nejsou dotčena práva a povinnosti Komise, členských států a oznámených subjektů ohledně vzájemného informování a šíření výstrah, ani povinnosti dotčených stran poskytovat informace podle trestního práva členských států.	3. Ustanoveními odstavců 1, 1a a 2 nejsou dotčena práva a povinnosti Komise, členských států a oznámených subjektů ohledně vzájemného informování a šíření výstrah, ani povinnosti dotčených stran poskytovat informace podle trestního práva členských států.

Pozměňovací návrh  643

 

Návrh nařízení

Čl. 70 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Komise a členské státy si mohou v případě potřeby vyměňovat důvěrné informace s regulačními orgány třetích zemí, s nimiž uzavřely dvoustranná nebo vícestranná ujednání o ochraně důvěrnosti zaručující přiměřenou úroveň důvěrnosti.	4. Je-li to nezbytně nutné a v souladu s příslušnými ustanoveními mezinárodních a obchodních dohod, mohou si Komise a členské státy vyměňovat důvěrné informace s regulačními orgány třetích zemí, s nimiž uzavřely dvoustranná nebo vícestranná ujednání o důvěrnosti zaručující odpovídající úroveň důvěrnosti.

Pozměňovací návrh  644

 

Návrh nařízení

Čl. 71 – název

Znění navržené Komisí	Pozměňovací návrh
Sankce a pokuty	Sankce

Pozměňovací návrh  645

 

Návrh nařízení

Čl. 71 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Členské státy stanoví v souladu s podmínkami uvedenými v tomto nařízení pravidla pro ukládání sankcí, včetně správních pokut za porušení tohoto nařízení, a přijmou veškerá opatření nezbytná k zajištění jejich řádného a účinného uplatňování. Stanovené sankce musí být účinné, přiměřené a odrazující. Zohledňují zejména zájmy malých poskytovatelů a začínajících podniků a jejich ekonomickou životaschopnost.	1. V souladu s podmínkami stanovenými v tomto nařízení stanoví členské státy pravidla pro sankce za porušení tohoto nařízení kterýmkoli operátorem a přijmou veškerá opatření nezbytná k zajištění jejich řádného a účinného provádění a souladu s pokyny vydanými Komisí a Úřadem pro umělou inteligenci podle článku 82b. Stanovené sankce musí být účinné, přiměřené a odrazující. Zohledňují zájmy malých a středních podniků a začínajících podniků a jejich ekonomickou životaschopnost;

Pozměňovací návrh  646

 

Návrh nařízení

Čl. 71 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Členské státy oznámí tato pravidla a opatření Komisi a neprodleně jí oznámí všechny jejich následné změny.	2. Členské státy oznámí tato pravidla a opatření Komisi a Úřadu do [12 měsíců ode dne vstupu tohoto nařízení v platnost] a neprodleně jim oznámí veškeré následné změny, které se jich týkají.

Pozměňovací návrh  647

 

Návrh nařízení

Čl. 71 – odst. 3 – návětí

Znění navržené Komisí	Pozměňovací návrh
3. Za následující porušení předpisů lze uložit správní pokuty až do výše 30 000 000 EUR nebo, dopustí-li se porušení společnost, až do výše 6 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší:	3. Za nedodržení zákazu praktik umělé inteligence uvedeného v článku 5 se uloží správní pokuty až do výše 40 000 000 EUR, nebo je-li pachatelem společnost, až do výše 7 % jejího celkového ročního obratu celosvětově za předchozí účetní období, podle toho, která hodnota je vyšší:

Pozměňovací návrh  648

 

Návrh nařízení

Čl. 71 – odst. 3 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) nedodržení zákazu postupů v oblasti umělé inteligence uvedených v článku 5;	vypouští se

Pozměňovací návrh  649

 

Návrh nařízení

Čl. 71 – odst. 3 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) nesoulad systému UI s požadavky stanovenými v článku 10.	vypouští se

Pozměňovací návrh  650

 

Návrh nařízení

Čl. 71 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Za nesoulad systému UI s požadavky stanovenými v článcích 10 a 13 se uloží správní pokuty až do výše 20 000 000 EUR, nebo je-li pachatelem společnost, až do výše 4 % jejího celkového ročního obratu celosvětově za předchozí účetní období, podle toho, která hodnota je vyšší.

Pozměňovací návrh  651

 

Návrh nařízení

Čl. 71 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Za nesoulad systému UI s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení s výjimkou těch, které jsou stanoveny v článcích 5 a 10, se uloží správní pokuty až do výše 20 000 000 EUR, nebo, dopustí-li se porušení společnost, až do výše 4 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.	4. Za nesoulad systému UI nebo základního modelu s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení, s výjimkou požadavků nebo povinností stanovených v článcích 5, 10 a 13, se uloží správní pokuty až do výše 10 000 000 EUR, nebo je-li pachatelem společnost, až do výše 2 % jejího celkového ročního obratu celosvětově za předchozí účetní období, podle toho, která hodnota je vyšší;

Pozměňovací návrh  652

 

Návrh nařízení

Čl. 71 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Za poskytnutí nesprávných, neúplných nebo zavádějících informací oznámeným subjektům a příslušným vnitrostátním orgánům v reakci na žádost se uloží správní pokuty až do výše 10 000 000 EUR, nebo, dopustí-li se porušení společnost, až do výše 2 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.	5. Za poskytnutí nesprávných, neúplných nebo zavádějících informací oznámeným subjektům a příslušným vnitrostátním orgánům v reakci na žádost se uloží správní pokuty až do výše 5 000 000 EUR, nebo, dopustí-li se porušení společnost, až do výše 1 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.

Pozměňovací návrh  653

 

Návrh nařízení

Čl. 71 – odst. 6 – návětí

Znění navržené Komisí	Pozměňovací návrh
6. Při rozhodování o výši správní pokuty v jednotlivých případech se zohlední všechny příslušné okolnosti konkrétní situace s náležitým přihlédnutím k následujícím okolnostem:	6. Pokuty mohou být uloženy společně s nepeněžními opatřeními, jako jsou příkazy nebo varování, nebo místo nich. Při rozhodování o výši správní pokuty v jednotlivých případech se zohlední všechny příslušné okolnosti konkrétní situace s náležitým přihlédnutím k následujícím okolnostem:

Pozměňovací návrh  654

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) povaha, závažnost a doba trvání porušení těchto ustanovení a jeho následky;	a) povaha, závažnost a dobu trvání protiprávního jednání a jeho důsledků, s přihlédnutím k účelu systému UI, jakož i případně k počtu dotčených osob a k úrovni škod, které jim vznikly;

Pozměňovací návrh  655

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) zda již byly stejnému provozovateli za stejné protiprávní jednání uloženy správní pokuty jinými orgány dozoru nad trhem;	b) zda již byly správní pokuty uloženy jinými vnitrostátními orgány dohledu jednoho nebo více členských států stejnému provozovateli za stejné porušení předpisů;

Pozměňovací návrh  656

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) velikost provozovatele, který se porušení dopustil, a jeho podíl na trhu.	c) velikost a roční obrat hospodářského subjektu, který se dopustil protiprávního jednání;

Pozměňovací návrh  657

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ca) veškerá opatření přijatá provozovatelem ke zmírnění škody způsobené postiženým osobám;

Pozměňovací návrh  658

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c b (nové)

Znění navržené Komisí	Pozměňovací návrh
	cb) zda k porušení došlo úmyslně nebo z nedbalosti;

Pozměňovací návrh  659

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c c (nové)

Znění navržené Komisí	Pozměňovací návrh
	cc) míra spolupráce s příslušnými vnitrostátními orgány za účelem nápravy porušení a zmírnění jeho možných nežádoucích účinků;

Pozměňovací návrh  660

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c d (nové)

Znění navržené Komisí	Pozměňovací návrh
	cd) míra odpovědnosti provozovatele s přihlédnutím k technickým a organizačním opatřením, která provedl;

Pozměňovací návrh  661

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c e (nové)

Znění navržené Komisí	Pozměňovací návrh
	ce) způsob, jakým se příslušné vnitrostátní orgány dozvěděly o porušení předpisů, zejména zda, a pokud ano, v jakém rozsahu provozovatel porušení oznámil;

Pozměňovací návrh  662

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c f (nové)

Znění navržené Komisí	Pozměňovací návrh
	cf) dodržování schválených kodexů chování nebo schválených certifikačních mechanismů;

Pozměňovací návrh  663

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c g (nové)

Znění navržené Komisí	Pozměňovací návrh
	cg) veškerá případná porušení, kterých se provozovatel dopustil v minulosti;

Pozměňovací návrh  664

 

Návrh nařízení

Čl. 71 – odst. 6 – písm. c h (nové)

Znění navržené Komisí	Pozměňovací návrh
	ch) jakoukoli jinou přitěžující nebo polehčující okolnost vztahující se na okolnosti daného případu.

Pozměňovací návrh  665

 

Návrh nařízení

Čl. 71 – odst. 7

Znění navržené Komisí	Pozměňovací návrh
7. Každý členský stát stanovuje pravidla týkající se toho, zda a do jaké míry je možno ukládat správní pokuty orgánům veřejné moci a veřejným subjektům usazeným v daném členském státě.	7. Každý členský stát stanovuje pravidla týkající se správních pokut ukládaných orgánům veřejné moci a veřejným subjektům usazeným v daném členském státě.

Pozměňovací návrh  666

 

Návrh nařízení

Čl. 71 – odst. 8 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	8a. Pokuty uvedené v tomto článku i související náklady na soudní spory a nároky na odškodnění nesmí být předmětem smluvních doložek nebo jiné formy dohod o sdílení zátěže mezi poskytovateli a distributory, dovozci, provozovateli nebo jinými třetími stranami.

Pozměňovací návrh  667

 

Návrh nařízení

Čl. 71 – odst. 8 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	8b. Vnitrostátní dozorové orgány každoročně informují Úřad pro umělou inteligenci o pokutách, které v daném roce v souladu s tímto článkem vydaly.

Pozměňovací návrh  668

 

Návrh nařízení

Čl. 71 – odst. 8 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	8c. Výkon pravomocí příslušných orgánů podle tohoto článku podléhá vhodným procesním zárukám v souladu s právem Unie a vnitrostátním právem, k nimž patří soudní opravné prostředky a řádné řízení.

Pozměňovací návrh  669

 

Návrh nařízení

Čl. 72 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) povaha, závažnost a doba trvání porušení těchto ustanovení a jeho následky;	a) povaha, závažnost a doba trvání porušení těchto ustanovení a jeho následky, s přihlédnutím k účelu dotčeného systému UI, k počtu dotčených osob a k úrovni škod, které jim vznikly, i k jakémukoli relevantnímu předchozímu protiprávnímu jednání;

Pozměňovací návrh  670

 

Návrh nařízení

Čl. 72 – odst. 1 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) veškerá opatření přijatá orgánem, agenturou nebo subjektem Unie ke zmírnění škod, které dotčené osoby utrpěly;

Pozměňovací návrh  671

 

Návrh nařízení

Čl. 72 – odst. 1 – písm. a b (nové)

Znění navržené Komisí	Pozměňovací návrh
	ab) míra odpovědnosti orgánu, agentury nebo subjektu Unie s přihlédnutím k technickým a organizačním opatřením, která provádějí;

Pozměňovací návrh  672

 

Návrh nařízení

Čl. 72 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) spolupráce s evropským inspektorem ochrany údajů za účelem nápravy daného porušení a zmírnění jeho možných nežádoucích účinků, včetně splnění případných opatření, která dříve nařídil evropský inspektor ochrany údajů dotčené instituci, orgánu nebo subjektu Unie v souvislosti s toutéž záležitostí;	b) úroveň spolupráce s evropským inspektorem ochrany údajů za účelem nápravy daného porušení a zmírnění jeho možných nežádoucích účinků, včetně splnění případných opatření, která dříve nařídil evropský inspektor ochrany údajů dotčené instituci, orgánu nebo subjektu Unie v souvislosti s toutéž záležitostí;

Pozměňovací návrh  673

 

Návrh nařízení

Čl. 72 – odst. 1 – písm. c a (nové)

Čl. 72 – odst. 1 – písm. d (nové)

Znění navržené Komisí	Pozměňovací návrh
	ca) způsob, jakým se evropský inspektor ochrany údajů o porušení dozvěděl, zejména zda orgán nebo subjekt Unie porušení oznámil, a pokud ano, v jakém rozsahu;

Pozměňovací návrh  674

 

Návrh nařízení

Čl. 72 – odst. 1 – písm. c b (nové)

Čl. 72 – odst. 1 – písm. e (nové)

Znění navržené Komisí	Pozměňovací návrh
	cb) roční rozpočet subjektu;

Pozměňovací návrh  675

 

Návrh nařízení

Čl. 72 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Za porušení následujících ustanovení lze uložit správní pokuty až do výše 500 000 EUR:	2. Za porušení zákazu postupů v oblasti umělé inteligence uvedených v článku 5 lze uložit správní pokuty až do výše 1 500 000 EUR.

Pozměňovací návrh  676

 

Návrh nařízení

Čl. 72 – odst. 2 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) nedodržení zákazu postupů v oblasti umělé inteligence uvedených v článku 5;	vypouští se

Pozměňovací návrh  677

 

Návrh nařízení

Čl. 72 – odst. 2 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	2a. Za nesoulad systému UI s požadavky stanovenými v článku 10 lze uložit správní pokuty až do výše 1 000 000 EUR.

Pozměňovací návrh  678

 

Návrh nařízení

Čl. 72 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Za nesoulad systému UI s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení s výjimkou těch, které jsou stanoveny v článcích 5 a 10, se uloží správní pokuty až do výše 250 000 EUR.	3. Za nesoulad systému UI s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení s výjimkou těch, které jsou stanoveny v článcích 5 a 10, se uloží správní pokuty až do výše 750 000 EUR.

Pozměňovací návrh  679

 

Návrh nařízení

Čl. 72 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Prostředky vybrané ukládáním pokut podle tohoto článku jsou příjmem souhrnného rozpočtu Unie.	6. Prostředky vybrané ukládáním pokut podle tohoto článku jsou příspěvkem do souhrnného rozpočtu Unie. Pokutami není zasaženo účinné fungování sankcionovaného orgánu, subjektu nebo agentury Unie.

Pozměňovací návrh  680

 

Návrh nařízení

Čl. 72 – odst. 6 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	6a. Evropský inspektor ochrany údajů každoročně informuje Úřad pro umělou inteligenci o pokutách, které podle tohoto článku uložil.

Pozměňovací návrh  681

 

Návrh nařízení

Čl. 73 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Pravomoc přijímat akty v přenesené pravomoci uvedená v článku 4, v čl. 7 odst. 1, čl. 11 odst. 3, čl. 43 odst. 5 a 6 a v čl. 48 odst. 5 je svěřena Komisi na dobu neurčitou od [vstupu tohoto nařízení v platnost].	2. Pravomoc přijímat akty v přenesené pravomoci uvedená v článku 4, čl. 7 odst. 1, čl. 11 odst. 3, čl. 43 odst. 5 a 6 a čl. 48 odst. 5 je svěřena Komisi na dobu pěti let od … [datum vstupu tohoto nařízení v platnost]. Komise vypracuje zprávu o výkonu přenesení pravomoci nejpozději devět měsíců před koncem tohoto pětiletého období. Přenesení pravomoci se automaticky prodlužuje o stejně dlouhá období, pokud Evropský parlament ani Rada nevysloví proti tomuto prodloužení námitku nejpozději tři měsíce před koncem každého z těchto období.

Pozměňovací návrh  682

 

Návrh nařízení

Čl. 73 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Před přijetím aktu v přenesené pravomoci vede Komise v souladu se zásadami stanovenými v interinstitucionální dohodě ze dne 13. dubna 2016 o zdokonalení tvorby právních předpisů konzultace s příslušnými orgány, úřadem, poradním sborem a dalšími příslušnými zúčastněnými stranami.
	Jakmile Komise rozhodne, že vypracuje akt v přenesené pravomoci, oznámí tuto skutečnost Evropskému parlamentu. Toto oznámení neukládá Komisi povinnost uvedený akt přijmout.

Pozměňovací návrh  683

 

Návrh nařízení

Článek 81 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 81a
	Změny nařízení (EU) 2019/1020
	Nařízení (EU) 2019/1020 se mění takto:
	v čl. 14 odst. 4 se doplňuje nový odstavec, který zní:
	„l) pravomoc provádět pravomoci stanovené v tomto článku, je-li to relevantní, na dálku.“

Pozměňovací návrh  684

 

Návrh nařízení

Článek 82 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 82a
	Zlepšování právní úpravy
	Komise provede analýzu a konzultuje s příslušnými zúčastněnými stranami s cílem určit možné nedostatky a překrývání mezi stávajícími odvětvovými právními předpisy a ustanoveními tohoto nařízení a přihlíží při tom k požadavkům tohoto nařízení plynoucích ze změn v článcích 75, 76, 77, 78, 79, 80, 81 a 82.

Pozměňovací návrh  685

 

Návrh nařízení

Článek 82 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Článek 82b
	Pokyny Komise týkající se uplatňování tohoto nařízení
	1. Komise vypracuje po konzultaci s Úřadem pro umělou inteligenci pokyny pro praktické provádění tohoto nařízení, a to zejména pokud jde o:
	a) uplatňování požadavků uvedených v článcích 8 až 15 a v článcích 28 až 28b;
	b) zakázané postupy uvedené v článku 5;
	c) praktické provádění ustanovení týkajících se podstatných změn;
	d) praktické okolnosti, kdy by výstup systému UI uvedený v příloze III představoval významné riziko poškození zdraví, bezpečnosti nebo základních práv fyzických osob, jak je uvedeno v čl. 6 odst. 2, včetně příkladů týkajících se vysoce rizikových systémů UI uvedených v příloze III;
	e) praktické provádění povinností týkajících se transparentnosti stanovených v článku 52;
	f) vypracování kodexů chování uvedených v článku 69;
	g) vztah mezi tímto nařízením a dalšími příslušnými právními předpisy Unie, mj. pokud jde o jednotnost při jejich prosazování;
	h) praktické provádění článku 12, článku 28b o dopadu základních modelů na životní prostředí a přílohy IV bodu 3 písm. b), zejména pokud jde o metody měření a zaznamenávání dat, které umožňují, aby výpočty a podávání zpráv o dopadu systémů na životní prostředí splňovaly povinnosti stanovené tímto nařízením, včetně uhlíkové stopy a energetické účinnosti, a to s přihlédnutím k nejmodernějším metodám a úsporám z rozsahu.
	Při vydávání těchto pokynů věnuje Komise zvláštní pozornost potřebám malých a středních podniků, včetně začínajících podniků, místních veřejných orgánů a odvětví, u nichž je nejpravděpodobnější, že se jich toto nařízení dotkne.
	2. V případě potřeby Komise na žádost členských států nebo Úřadu pro umělou inteligenci nebo z vlastního podnětu aktualizuje již přijaté pokyny.

Pozměňovací návrh  686

 

Návrh nařízení

Čl. 83 – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Toto nařízení se nevztahuje na systémy UI, které jsou součástmi rozsáhlých informačních systémů zřízených právními akty uvedenými v příloze IX a které byly uvedeny na trh nebo do provozu před [12 měsíci od data použitelnosti tohoto nařízení uvedeného v čl. 85 odst. 2)], pokud nahrazení nebo změna těchto právních aktů nevede k významné změně návrhu nebo určeného účelu dotčeného systému UI nebo dotčených systémů UI.	1. Provozovatelé systémů UI, které jsou součástmi rozsáhlých informačních systémů zřízených právními akty uvedenými v příloze IX a které byly uvedeny na trh nebo do provozu před … [datum vstupu tohoto nařízení v platnost], přijmou nezbytná opatření ke splnění požadavků stanovených v tomto nařízení do … [čtyři roky ode dne vstupu tohoto nařízení v platnost].

Pozměňovací návrh  687

 

Návrh nařízení

Čl. 83 – odst. 1 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Požadavky stanovené v tomto nařízení se tam, kde je to relevantní, zohlední při hodnocení všech rozsáhlých informačních systémů zřízených právními akty uvedenými v příloze IX, které se má provádět v souladu s těmito příslušnými akty.	Požadavky stanovené v tomto nařízení se zohlední při hodnocení všech rozsáhlých informačních systémů zřízených právními akty uvedenými v příloze IX, které se má provádět v souladu s těmito příslušnými akty, a pokaždé, když jsou tyto právní akty nahrazeny nebo pozměněny.

Pozměňovací návrh  688

 

Návrh nařízení

Čl. 83 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Toto nařízení se vztahuje na vysoce rizikové systémy UI jiné než ty, jež upravuje odstavec 1, které byly uvedeny na trh nebo do provozu před [datem použitelnosti tohoto nařízení uvedeným v čl. 85 odst. 2], pouze pokud po uvedeném datu dojde k významným změnám návrhu nebo určeného účelu těchto systémů.	2. Toto nařízení se vztahuje na provozovatele vysoce rizikových systémů UI vyjma těch, jež upravuje odstavec 1, které byly uvedeny na trh nebo do provozu před [datem použitelnosti tohoto nařízení uvedeným v čl. 85 odst. 2], pouze pokud po uvedeném datu dojde k podstatným změnám ve smyslu čl. 3 odst. 23. V případě vysoce rizikových systémů UI určených k použití orgány veřejné moci přijmou poskytovatelé a provozovatelé těchto systémů kroky nezbytné ke splnění požadavků tohoto nařízení [dva roky ode dne vstupu tohoto nařízení v platnost].

Pozměňovací návrh  689

 

Návrh nařízení

Čl. 84 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Komise posuzuje potřebu změny seznamu uvedeného v příloze III jednou ročně po vstupu tohoto nařízení v platnost.	1. Po konzultaci s Úřadem pro umělou inteligenci Komise posuzuje potřebu změny seznamu uvedeného v příloze III, včetně rozšíření stávajících okruhů oblastí nebo doplnění nových okruhů oblastí v této příloze,
	seznamu zakázaných postupů v oblasti UI v článku 5 a seznamu systémů UI vyžadujících dodatečná opatření v oblasti transparentnosti v článku 52 jednou ročně po vstupu tohoto nařízení v platnost a na základě doporučení úřadu.
	Komise předloží závěry tohoto posouzení Evropskému parlamentu a Radě.

Pozměňovací návrh  690

 

Návrh nařízení

Čl. 84 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Do [tří let od data použitelnosti tohoto nařízení uvedeného v čl. 85 odst. 2] a poté každé čtyři roky předloží Komise Evropskému parlamentu a Radě zprávu o hodnocení a přezkumu tohoto nařízení. Tyto zprávy se zveřejní.	2. Do … [dva roky od data použitelnosti tohoto nařízení uvedeného v čl. 85 odst. 2] a poté každé dva roky předloží Komise společně s Úřadem pro umělou inteligenci Evropskému parlamentu a Radě zprávu o hodnocení a přezkumu tohoto nařízení. Tyto zprávy se zveřejní.

Pozměňovací návrh  691

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) stavu finančních a lidských zdrojů příslušných vnitrostátních orgánů určených na účinné plnění úkolů, kterými byly tyto orgány pověřeny podle tohoto nařízení;	a) stavu finančních, technických a lidských zdrojů příslušných vnitrostátních orgánů určených na účinné plnění úkolů, kterými byly tyto orgány pověřeny podle tohoto nařízení;

Pozměňovací návrh  692

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) stavu vývoje harmonizovaných norem a společných specifikací pro umělou inteligenci;

Pozměňovací návrh  693

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b b (nové)

Znění navržené Komisí	Pozměňovací návrh
	bb) úrovni investic do výzkumu, vývoje a používání systémů UI v celé Unii;

Pozměňovací návrh  694

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b c (nové)

Znění navržené Komisí	Pozměňovací návrh
	bc) konkurenceschopnosti evropského odvětví UI jako celku ve srovnání s odvětvími UI ve třetích zemích;

Pozměňovací návrh  695

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b d (nové)

Znění navržené Komisí	Pozměňovací návrh
	bd) dopadu tohoto nařízení na využívání zdrojů a energie a na produkci odpadů a dalším dopadům na životní prostředí;

Pozměňovací návrh  696

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b e (nové)

Znění navržené Komisí	Pozměňovací návrh
	be) provádění koordinovaného plánu v oblasti umělé inteligence s ohledem na odlišnou úroveň pokroku v členských státech a s určením stávajících překážek, jež brání inovacím v oblasti umělé inteligence;

Pozměňovací návrh  697

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b f (nové)

Znění navržené Komisí	Pozměňovací návrh
	bf) aktualizaci zvláštních požadavků týkajících se udržitelnosti systémů UI a základních modelů, vycházející z požadavků na podávání zpráv a dokumentaci uvedených v příloze IV a v článku 28b;

Pozměňovací návrh  698

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b g (nové)

Znění navržené Komisí	Pozměňovací návrh
	bg) právnímu režimu upravujícímu základní modely;

Pozměňovací návrh  699

 

Návrh nařízení

Čl. 84 – odst. 3 – písm. b h (nové)

Znění navržené Komisí	Pozměňovací návrh
	bh) seznamu zneužívajících smluvních ujednání podle článku 28a, případně s přihlédnutím k novým obchodním praktikám;

Pozměňovací návrh  700

 

Návrh nařízení

Čl. 84 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Do … [dva roky ode dne použitelnosti tohoto nařízení uvedeného v čl. 85 odst. 2] Komise vyhodnotí fungování Úřadu pro umělou inteligenci, zda mu byly k plnění jeho úkolů uděleny dostatečné pravomoci a zda by bylo pro řádné provádění a prosazování tohoto nařízení relevantní a potřebné úřad a jeho pravomoci v oblasti prosazování práva aktualizovat a navýšit jeho zdroje. Komise tuto hodnotící zprávu předloží Evropskému parlamentu a Radě.

Pozměňovací návrh  701

 

Návrh nařízení

Čl. 84 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Do [tří let od data použitelnosti tohoto nařízení uvedeného v čl. 85 odst. 2] a poté každé čtyři roky zhodnotí Komise dopad a účinnost kodexů chování, které mají podpořit uplatňování požadavků stanovených v hlavě III kapitole 2, a případně dalších požadavků na systémy UI, které nejsou vysoce rizikové.	4. Do [jednoho roku od data použitelnosti tohoto nařízení uvedeného v čl. 85 odst. 2] a poté každé dva roky zhodnotí Komise dopad a účinnost kodexů chování, které mají podpořit uplatňování požadavků stanovených v hlavě III kapitole 2, a případně dalších požadavků na systémy UI, které nejsou vysoce rizikové.

Pozměňovací návrh  702

 

Návrh nařízení

Čl. 84 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Pro účely odstavců 1 až 4 poskytuje rada, členské státy a příslušné vnitrostátní orgány Komisi na její žádost příslušné informace.	5. Pro účely odstavců 1 až 4 poskytuje Úřad pro umělou inteligenci, členské státy a příslušné vnitrostátní orgány Komisi na její žádost bez zbytečného prodlení příslušné informace.

Pozměňovací návrh  703

 

Návrh nařízení

Čl. 84 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Při provádění hodnocení a přezkumů podle odstavců 1 až 4 zohlední Komise postoje a zjištění rady, Evropského parlamentu, Rady a dalších příslušných subjektů nebo zdrojů.	6. při provádění hodnocení a přezkumů podle odstavců 1 až 4 zohlední Komise postoje a zjištění Úřadu pro umělou inteligenci, Evropského parlamentu, Rady a dalších příslušných subjektů nebo zdrojů a konzultuje s příslušnými zúčastněnými stranami. Výsledek konzultací se připojí ke zprávě.

Pozměňovací návrh  704

 

Návrh nařízení

Čl. 84 – odst. 7

Znění navržené Komisí	Pozměňovací návrh
7. Komise v případě potřeby předloží vhodné návrhy na změnu tohoto nařízení, zejména s přihlédnutím k vývoji technologií a dosaženému pokroku v informační společnosti.	7. Komise v případě potřeby předloží vhodné návrhy na změnu tohoto nařízení, zejména s přihlédnutím k vývoji technologií, k vlivu systémů UI na zdraví a bezpečnost, na základní práva, životní prostředí, rovnost a přístupnost pro osoby se zdravotním postižením a na demokracii a zásady právního státu a s ohledem na dosažený pokrok v informační společnosti.

Pozměňovací návrh  705

 

Návrh nařízení

Čl. 84 – odst. 7 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	7a. V zájmu řízení hodnocení a přezkumů uvedených v odstavcích 1 až 4 tohoto článku se úřad zavazuje, že vypracuje objektivní a participativní metodiku pro hodnocení úrovně rizika na základě kritérií uvedených v příslušných článcích a pro začlenění nových systémů do seznamu v příloze III, včetně rozšíření stávajících okruhů oblastí nebo doplnění nových okruhů oblastí v této příloze, do seznamu zakázaných postupů v článku 5 a do seznamu systémů UI, které vyžadují další opatření v oblasti transparentnosti podle článku 52.

Pozměňovací návrh  706

 

Návrh nařízení

Čl. 84 – odst. 7 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	7b. Každá změna tohoto nařízení podle odstavce 7 tohoto článku nebo příslušných budoucích aktů v přenesené pravomoci nebo prováděcích aktů, které se týkají odvětvových právních předpisů uvedených v příloze II oddílu B, zohledňuje regulační specifika každého odvětví a stávající mechanismy řízení, posuzování shody a prosazování práva a orgány v něm zřízené.

Pozměňovací návrh  707

 

Návrh nařízení

Čl. 84 – odst. 7 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	7c. Do … [tří let ode dne použitelnosti tohoto nařízení] Komise posoudí prosazování tohoto nařízení a podá o něm zprávu Evropskému parlamentu, Radě a Evropskému hospodářskému a sociálnímu výboru, přičemž zohlední první roky uplatňování tohoto nařízení. Na základě získaných zjištění připojí případně k této zprávě návrh na změnu tohoto nařízení, pokud jde o strukturu prosazování a o otázku, zda je k řešení zjištěných nedostatků zapotřebí agentury EU.

Pozměňovací návrh  708

 

Návrh nařízení

Příloha I

Znění navržené Komisí	Pozměňovací návrh
TECHNIKY A PŘÍSTUPY UMĚLÉ INTELIGENCE uvedené v čl. 3 bodě 1	vypouští se
a) přístupy strojového učení, včetně učení s učitelem, bez učitele a posilovaného učení, používající celou řadu metod, včetně hlubokého učení
b) přístupy založené na logice a znalostech, včetně reprezentace znalostí, induktivního (logického) programování, znalostních základen, inferenčních a deduktivních mechanismů, (symbolického) uvažování a expertních systémů
c) statistické přístupy, bayesovské odhadování, metody vyhledávání a optimalizace

Pozměňovací návrh  709

 

Návrh nařízení

Příloha III – odst. 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
Vysoce rizikovými systémy UI podle čl. 6 odst. 2 se rozumí systémy UI uvedené v kterékoli z těchto oblastí:	Systémy UI, na které se konkrétně odkazuje v bodech 1 až 8a, představují případy kritického použití a každý z nich se považuje za vysoce rizikový systém UI podle čl. 6 odst. 2, pokud splňuje kritéria stanovená v uvedeném článku:

Pozměňovací návrh  710

 

Návrh nařízení

Příloha III – odst. 1 – bod 1 – návětí

Znění navržené Komisí	Pozměňovací návrh
1. Biometrická identifikace a kategorizace fyzických osob:	1. Biometrické systémy a systémy založené na biometrických údajích:

Pozměňovací návrh  711

 

Návrh nařízení

Příloha III – odst. 1 – bod 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené k použití za účelem biometrické identifikace fyzických osob na dálku „v reálném čase“ a „zpětně“.	a) systémy UI určené k použití za účelem biometrické identifikace fyzických osob, s výjimkou systémů uvedených v článku 5;

Pozměňovací návrh  712

 

Návrh nařízení

Příloha III – odst. 1 – bod 1 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) systémy UI určené k použití za účelem vyvozování závěrů o osobních charakteristikách fyzických osob na základě biometrických údajů či údajů, které z biometrických údajů vycházejí, včetně systémů rozpoznávání emocí, s výjimkou systémů uvedených v článku 5.
	Bod 1 nezahrnuje systémy UI určené k biometrickému ověřování, jejichž jediným účelem je potvrdit, že konkrétní fyzická osoba je skutečně osobou, za kterou se vydává.

Pozměňovací návrh  713

 

Návrh nařízení

Příloha III – odst. 1 – bod 2 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené k použití jako bezpečnostní komponenty řízení a provozu silniční dopravy a dodávek vody, plynu, topení a elektřiny.	a) systémy UI určené k použití jako bezpečnostní komponenty řízení a provozu silniční, železniční a letecké dopravy, pokud nejsou upraveny harmonizačními nebo odvětvovými právními předpisy;

Pozměňovací návrh  714

 

Návrh nařízení

Příloha III – odst. 1 – bod 2 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) systémy UI určené k použití jako bezpečnostní komponenty řízení a provozu dodávek vody, plynu, vytápění, elektřiny a kritické digitální infrastruktury.

Pozměňovací návrh  715

 

Návrh nařízení

Příloha III – odst. 1 – bod 3 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené k použití za účelem určování přístupu fyzických osob ke vzdělávacím institucím a institucím odborné přípravy nebo jejich zařazení do těchto institucí;	a) systémy UI určené k použití za účelem určování přístupu fyzických osob ke vzdělávacím institucím a institucím odborné přípravy nebo jejich zařazení do těchto institucí nebo za účelem podstatného ovlivnění rozhodnutí o přijetí do těchto institucí;

Pozměňovací návrh  716

 

Návrh nařízení

Příloha III – odst. 1 – bod 3 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) systémy UI určené k použití za účelem hodnocení studentů vzdělávacích institucí nebo institucí odborné přípravy a hodnocení účastníků zkoušek, které jsou běžně vyžadovány pro přijetí ke studiu ve vzdělávacích institucích.	b) systémy UI určené k použití za účelem hodnocení studentů vzdělávacích institucí nebo institucí odborné přípravy a hodnocení účastníků zkoušek, které jsou běžně vyžadovány pro přijetí ke studiu v těchto institucích;

Pozměňovací návrh  717

 

Návrh nařízení

Příloha III – odst. 1 – bod 3 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) systémy UI určené k použití za účelem posouzení odpovídající úrovně vzdělání jednotlivce a věcně ovlivňující úroveň vzdělání a odborné přípravy, které tento jednotlivec získá nebo k nimž bude mít přístup;

Pozměňovací návrh  718

 

Návrh nařízení

Příloha III – odst. 1 – bod 3 – písm. b b (nové)

Znění navržené Komisí	Pozměňovací návrh
	bb) systémy UI určené k použití za účelem sledování a odhalování zakázaného chování studentů během testů v rámci nebo uvnitř vzdělávacích institucí a institucí odborné přípravy;

Pozměňovací návrh  719

 

Návrh nařízení

Příloha III – odst. 1 – bod 4 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené k použití při náboru nebo výběru fyzických osob, zejména pro inzerování volných pracovních míst, kontroly nebo třídění žádostí, hodnocení kandidátů v průběhu pohovorů nebo zkoušek;	a) systémy UI určené k použití při náboru nebo výběru fyzických osob, zejména pro umisťování cílené reklamy týkající se pracovních míst, prověřování nebo filtrování žádostí, hodnocení uchazečů v průběhu pohovorů nebo testů;

Pozměňovací návrh  720

 

Návrh nařízení

Příloha III – odst. 1 – bod 4 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) systémy UI určené k použití za účelem rozhodování o postupu v zaměstnání nebo ukončení smluvních pracovněprávních vztahů, přidělování úkolů a sledování a hodnocení výkonnosti a chování osob v rámci těchto vztahů.	b) systémy UI určené k použití za účelem přijímání rozhodnutí nebo podstatného ovlivňování rozhodnutí, která mají vliv na zahájení smluvních pracovněprávních vztahů, postup v zaměstnání a ukončení smluvních pracovněprávních vztahů, přidělování úkolů na základě individuálního chování nebo osobních rysů či charakteristik nebo za účelem sledování a hodnocení výkonnosti a chování osob v rámci těchto vztahů;

Pozměňovací návrh  721

 

Návrh nařízení

Příloha III – odst. 1 – bod 5 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené pro použití veřejnými orgány nebo jménem veřejných orgánů za účelem hodnocení nároků fyzických osob na dávky a služby veřejné podpory a za účelem udělení, snížení, zrušení nebo opětovného získání těchto dávek a služeb;	a) systémy UI určené pro použití veřejnými orgány nebo jejich jménem za účelem hodnocení nároků fyzických osob na dávky a služby veřejné podpory, včetně služeb zdravotní péče a základních služeb, k nimž patří mj. bydlení, elektřina, vytápění/chlazení a internet, a za účelem udělení, snížení, zrušení, zvýšení nebo opětovného získání těchto dávek a služeb;

Pozměňovací návrh  722

 

Návrh nařízení

Příloha III – odst. 1 – bod 5 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) systémy UI určené k použití za účelem hodnocení úvěruschopnosti fyzických osob nebo jejich úvěrového bodování, s výjimkou systémů UI uvedených do provozu menšími poskytovateli pro vlastní potřebu;	b) systémy UI určené k použití za účelem hodnocení úvěruschopnosti fyzických osob nebo jejich úvěrového bodování, s výjimkou systémů UI používaných za účelem odhalování finančních podvodů;

Pozměňovací návrh  723

 

Návrh nařízení

Příloha III – odst. 1 – bod 5 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) systémy UI určené k použití při rozhodování nebo podstatném ovlivňování rozhodnutí o způsobilosti fyzických osob ke zdravotnímu a životnímu pojištění;

Pozměňovací návrh  724

 

Návrh nařízení

Příloha III – odst. 1 – bod 5 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) systémy UI určené k použití za účelem vysílání nebo stanovení priority při vyslání zásahových služeb první reakce, včetně hasičů a lékařské pomoci.	c) systémy UI určené k použití za účelem hodnocení a klasifikace tísňových volání fyzických osob nebo za účelem vysílání nebo stanovení priority při vyslání zásahových služeb první reakce, mj. policií a donucovacími orgány, hasiči a lékařskou pomocí, a v systémech třídění pacientů v krizových situacích;

Pozměňovací návrh  725

 

Návrh nařízení

Příloha III – odst. 1 – bod 6 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené pro použití donucovacími orgány za účelem provádění individuálního posouzení rizik fyzické osoby s cílem posoudit riziko protiprávního jednání nebo opakovaného protiprávního jednání fyzických osob nebo rizika pro potenciální oběti trestných činů;	vypouští se

Pozměňovací návrh  726

 

Návrh nařízení

Příloha III – odst. 1 – bod 6 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) systémy UI určené pro použití donucovacími orgány jako detektory lži a obdobné nástroje nebo za účelem zjišťování emočního stavu fyzické osoby;	b) systémy UI určené pro použití donucovacími orgány nebo jejich jménem nebo agenturami, úřady či subjekty Unie na podporu donucovacích orgánů jako detektory lži a obdobné nástroje, pokud je jejich použití povoleno podle příslušných unijních a vnitrostátních právních předpisů;

Pozměňovací návrh  727

 

Návrh nařízení

Příloha III – odst. 1 – bod 6 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) systémy UI určené pro použití donucovacími orgány za účelem odhalování realistických fotomontáží a videomontáží (tzv. deep fakes), uvedené v čl. 52 odst. 3;	vypouští se

Pozměňovací návrh  728

 

Návrh nařízení

Příloha III – odst. 1 – bod 6 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) systémy UI určené pro použití donucovacími orgány za účelem hodnocení spolehlivosti důkazů v průběhu vyšetřování nebo stíhání trestných činů;	d) systémy UI určené pro použití donucovacími orgány nebo jejich jménem nebo agenturami, úřady či subjekty Unie na podporu donucovacích orgánů za účelem hodnocení spolehlivosti důkazů v průběhu vyšetřování nebo stíhání trestných činů;

Pozměňovací návrh  729

 

Návrh nařízení

Příloha III – odst. 1 – bod 6 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) systémy UI určené pro použití donucovacími orgány za účelem předvídání výskytu nebo opětovného výskytu skutečné nebo potenciální trestné činnosti na základě profilování fyzických osob podle čl. 3 bodu 4 směrnice (EU) 2016/680 nebo posuzování povahových vlastností a osobnostních rysů nebo dřívější trestné činnosti fyzických osob nebo skupin;	vypouští se

Pozměňovací návrh  730

 

Návrh nařízení

Příloha III – odst. 1 – bod 6 – písm. f

Znění navržené Komisí	Pozměňovací návrh
f) systémy UI určené pro použití donucovacími orgány za účelem profilování fyzických osob podle čl. 3 bodu 4 směrnice (EU) 2016/680 v průběhu odhalování, vyšetřování nebo stíhání trestných činů;	f) systémy UI určené pro použití donucovacími orgány nebo jejich jménem nebo agenturami, úřady či subjekty Unie na podporu donucovacích orgánů za účelem profilování fyzických osob podle čl. 3 bodu 4 směrnice (EU) 2016/680 v průběhu odhalování, vyšetřování nebo stíhání trestných činů nebo v případě agentur, úřadů či subjektů Unie, podle čl. 3 bodu 5 nařízení (EU) 2018/1725;

Pozměňovací návrh  731

 

Návrh nařízení

Příloha III – odst. 1 – bod 6 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) systémy UI určené pro použití donucovacími orgány za účelem analýz trestné činnosti fyzických osob umožňující donucovacím orgánům prohledávat složité související i nesouvisející rozsáhlé datové soubory, které jsou k dispozici v různých datových formátech, s cílem určit v těchto datech neznámé vzorce nebo objevit skryté souvislosti.	g) systémy UI určené pro použití donucovacími orgány nebo jejich jménem nebo agenturami, úřady či subjekty Unie na podporu donucovacích orgánů za účelem analýz trestné činnosti fyzických osob umožňující donucovacím orgánům prohledávat složité související i nesouvisející rozsáhlé datové soubory, které jsou k dispozici v různých datových formátech, s cílem určit v těchto datech neznámé vzorce nebo objevit skryté souvislosti.

Pozměňovací návrh  732

 

Návrh nařízení

Příloha III – odst. 1 – bod 7 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené pro použití příslušnými orgány veřejné moci jako detektory lži a obdobné nástroje nebo ke zjišťování emočního stavu fyzické osoby;	a) systémy UI určené pro použití příslušnými orgány veřejné moci nebo jejich jménem nebo agenturami, úřady či subjekty Unie jako detektory lži a obdobné nástroje, pokud je jejich použití povoleno podle příslušných unijních nebo vnitrostátních právních předpisů;

Pozměňovací návrh  733

 

Návrh nařízení

Příloha III – odst. 1 – bod 7 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) systémy UI určené pro použití příslušnými orgány veřejné moci za účelem posuzování určitého rizika, včetně bezpečnostního rizika, rizika nedovoleného přistěhovalectví nebo zdravotního rizika, jež představuje fyzická osoba, která má v úmyslu vstoupit nebo již vstoupila na území členského státu;	b) systémy UI určené pro použití příslušnými orgány veřejné moci nebo jejich jménem nebo agenturami, úřady či subjekty Unie za účelem posuzování určitého rizika, včetně bezpečnostního rizika, rizika nedovoleného přistěhovalectví nebo zdravotního rizika, jež představuje fyzická osoba, která má v úmyslu vstoupit nebo již vstoupila na území členského státu;

Pozměňovací návrh  734

 

Návrh nařízení

Příloha III – odst. 1 – bod 7 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) systémy UI určené pro použití příslušnými orgány veřejné moci za účelem ověřování pravosti cestovních dokladů a podpůrných dokladů fyzických osob a odhalování falešných dokladů kontrolou jejich bezpečnostních prvků;	c) systémy UI určené pro použití příslušnými orgány veřejné moci nebo jejich jménem nebo agenturami, úřady či subjekty Unie za účelem ověřování pravosti cestovních dokladů a podpůrných dokladů fyzických osob a odhalování falešných dokladů kontrolou jejich bezpečnostních prvků;

Pozměňovací návrh  735

 

Návrh nařízení

Příloha III – odst. 1 – bod 7 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) systémy UI určené na pomoc příslušným orgánům veřejné moci za účelem přezkoumání žádostí o azyl, o udělení víza a o povolení k pobytu a s tím souvisejících stížností, které se týkají způsobilosti fyzických osob žádajících o určitý status.	d) systémy UI určené pro použití příslušnými orgány veřejné moci nebo jejich jménem nebo agenturami, úřady či subjekty Unie na pomoc příslušným orgánům veřejné moci při zkoumání a posuzování pravdivosti důkazů v souvislosti s žádostmi o azyl, o udělení víza a o povolení k pobytu a s tím souvisejících stížností, které se týkají způsobilosti fyzických osob žádajících o určitý status;

Pozměňovací návrh  736

 

Návrh nařízení

Příloha III – odst. 1 – bod 7 – písm. d a (nové)

Znění navržené Komisí	Pozměňovací návrh
	da) systémy UI určené pro použití příslušnými orgány veřejné moci nebo jejich jménem nebo agenturami, úřady či subjekty Unie v oblasti řízení migrace, azylu a ochrany hranic pro potřeby monitorování, sledování nebo zpracování údajů v souvislosti s činnostmi správy hranic za účelem odhalování, rozpoznávání nebo identifikace fyzických osob;

Pozměňovací návrh  737

 

Návrh nařízení

Příloha III – odst. 1 – bod 7 – písm. d b (nové)

Znění navržené Komisí	Pozměňovací návrh
	db) systémy UI určené pro použití příslušnými orgány veřejné moci nebo jejich jménem nebo agenturami, úřady či subjekty Unie v oblasti řízení migrace, azylu a ochrany hranic za účelem předpovídání nebo predikce trendů souvisejících s migračním pohybem a překračováním hranic;

Pozměňovací návrh  738

 

Návrh nařízení

Příloha III – odst. 1 – bod 8 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) systémy UI určené na pomoc soudnímu orgánu při zkoumání a výkladu fakt a práva a při uplatňování práva na konkrétní soubor skutečností.	a) systémy UI určené pro použití soudním orgánem nebo správním orgánem nebo jeho jménem na pomoc soudnímu orgánu nebo správnímu orgánu při zkoumání a výkladu fakt a práva a při uplatňování práva na konkrétní soubor skutečností nebo obdobným způsobem při alternativním řešení sporů.

Pozměňovací návrh  739

 

Návrh nařízení

Příloha III – odst. 1 – bod 8 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) systémy UI určené pro použití za účelem ovlivnění výsledku voleb nebo referenda nebo volebního chování fyzických osob při výkonu jejich hlasování ve volbách nebo referendech. To nezahrnuje systémy UI, jejichž výstupům nejsou fyzické osoby přímo vystaveny, jako jsou nástroje používané k organizaci, optimalizaci a strukturování politických kampaní z administrativního a logistického hlediska;

Pozměňovací návrh  740

 

Návrh nařízení

Příloha III – odst. 1 – bod 8 – písm. a b (nové)

Znění navržené Komisí	Pozměňovací návrh
	ab) systémy UI určené pro používání platformami sociálních médií, které byly označeny jako velmi velké online platformy ve smyslu článku 33 nařízení (EU) 2022/2065, v jejich doporučovacích systémech, které příjemcům služby doporučují obsah vytvořený uživateli, jenž je na platformě k dispozici.

Pozměňovací návrh  741

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) jeho zamýšlený účel použití, osobu/osoby, jež systém vyvinula/vyvinuly, datum a verzi systému;	a) jeho zamýšlený účel použití, název poskytovatele a verzi systému odrážející jeho vztah k předchozím a případně novějším verzím ve sledu revizí;

Pozměňovací návrh  742

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) povahu údajů, které bude systém pravděpodobně zpracovávat nebo pro jejichž zpracování je systém určen, a v případě osobních údajů kategorie fyzických osob a skupin, které pravděpodobně budou dotčeny nebo které mají být dotčeny;

Pozměňovací návrh  743

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) jak systém UI interaguje s hardwarem nebo softwarem, který není součástí samotného systému UI, nebo jak může, tam, kde je to relevantní, být za účelem interakce s nimi použit;	b) jak může systém UI interagovat s hardwarem nebo softwarem, včetně jiných systémů UI, které nejsou součástí samotného systému UI, nebo jak může, tam, kde je to relevantní, být za účelem interakce s nimi použit;

Pozměňovací návrh  744

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) verze příslušného softwaru nebo firmwaru a veškeré požadavky týkající se aktualizace verze;	c) verze příslušného softwaru nebo firmwaru a případně informace pro provozovatele o veškerých požadavcích týkajících se aktualizace verze;

Pozměňovací návrh  745

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. d

Znění navržené Komisí	Pozměňovací návrh
d) popis všech forem, ve kterých je systém UI uveden na trh nebo do provozu;	d) popis různých konfigurací a variant systému UI, které jsou určeny k uvedení na trh nebo do provozu;

Pozměňovací návrh  746

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. f a (nové)

Znění navržené Komisí	Pozměňovací návrh
	fa) popis rozhraní provozovatele;

Pozměňovací návrh  747

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) návod k použití pro uživatele a tam, kde je to relevantní, pokyny pro instalaci.	g) návod k použití pro provozovatele v souladu s čl. 13 odst. 2 a 3 a čl. 14 odst. 4 písm. e) a tam, kde je to relevantní, pokyny pro instalaci;

Pozměňovací návrh  748

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. g a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ga) podrobný a snadno srozumitelný popis hlavního cíle nebo cílů optimalizace systému;

Pozměňovací návrh  749

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. g b (nové)

Znění navržené Komisí	Pozměňovací návrh
	gb) podrobný a snadno srozumitelný popis očekávaného výstupu systému a očekávané kvality tohoto výstupu;

Pozměňovací návrh  750

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. g c (nové)

Znění navržené Komisí	Pozměňovací návrh
	gc) podrobné a snadno srozumitelné pokyny pro interpretaci výstupu systému;

Pozměňovací návrh  751

 

Návrh nařízení

Příloha IV – odst. 1 – bod 1 – písm. g d (nové)

Znění navržené Komisí	Pozměňovací návrh
	gd) příklady scénářů, pro které by se systém neměl používat;

Pozměňovací návrh  752

 

Návrh nařízení

Příloha IV – odst. 1 – bod 2 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) specifikace návrhu systému, zejména obecná logika systému UI a algoritmů; hlavní možnosti volby návrhu, včetně odůvodnění a učiněných předpokladů, také ve vztahu k osobám nebo skupinám osob, ohledně kterých má být systém používán; hlavní možnosti klasifikace; co má systém optimalizovat a význam jednotlivých parametrů; rozhodnutí o všech možných učiněných kompromisech, pokud jde o technická řešení přijatá za účelem dodržení požadavků stanovených v hlavě III kapitole 2;	b) popis architektury, specifikací návrhu, algoritmů a datových struktur, včetně rozkladu jejich součástí a rozhraní, jejich vzájemných vazeb a způsobu, jakým zajišťují celkové zpracování nebo logiku systému UI; hlavní možnosti volby návrhu, včetně odůvodnění a učiněných předpokladů, také ve vztahu k osobám nebo skupinám osob, ohledně kterých má být systém používán; hlavní možnosti klasifikace; co má systém optimalizovat a význam jednotlivých parametrů; rozhodnutí o všech možných učiněných kompromisech, pokud jde o technická řešení přijatá za účelem dodržení požadavků stanovených v hlavě III kapitole 2;

Pozměňovací návrh  753

 

Návrh nařízení

Příloha IV – odst. 1 – bod 2 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) popis architektury systému vysvětlující, jak na sebe komponenty softwaru vzájemně navazují nebo jsou do sebe začleněny a integrovány do celkového zpracování; výpočetní prostředky použité za účelem vývoje, trénování, testování a ověřování systému UI;	vypouští se

Pozměňovací návrh  754

 

Návrh nařízení

Příloha IV – odst. 1 – bod 2 – písm. e

Znění navržené Komisí	Pozměňovací návrh
e) posouzení opatření lidského dohledu potřebných v souladu s článkem 14, včetně posouzení technických opatření potřebných pro usnadnění interpretace výstupů systémů UI uživateli v souladu s čl. 13 odst. 3 písm. d);	e) posouzení opatření lidského dohledu potřebných v souladu s článkem 14, včetně posouzení technických opatření potřebných pro usnadnění interpretace výstupů systémů UI provozovateli v souladu s čl. 13 odst. 3 písm. d);

Pozměňovací návrh  755

 

Návrh nařízení

Příloha IV – odst. 1 – bod 2 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) použité postupy ověřování a testování, včetně informací o použitých ověřovacích a testovacích údajích a jejich hlavních charakteristikách; ukazatele použité k měření přesnosti, spolehlivosti, kybernetické bezpečnosti a dodržení jiných příslušných požadavků stanovených v hlavě III kapitole 2, jakož i jejich potenciálně diskriminační dopady; testovací protokoly a všechny zprávy o testování, datované a podepsané odpovědnými osobami, a to i v souvislosti s předdefinovanými změnami uvedenými v písmeně f).	g) použité postupy ověřování a testování, včetně informací o použitých ověřovacích a testovacích údajích a jejich hlavních charakteristikách; ukazatele použité k měření přesnosti, spolehlivosti a dodržení jiných příslušných požadavků stanovených v hlavě III kapitole 2, jakož i jejich potenciálně diskriminační dopady; testovací protokoly a všechny zprávy o testování, datované a podepsané odpovědnými osobami, a to i v souvislosti s předdefinovanými změnami uvedenými v písmeně f).

Pozměňovací návrh  756

 

Návrh nařízení

Příloha IV – odst. 1 – bod 2 – písm. g a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ga) zavedená opatření v oblasti kybernetické bezpečnosti.

Pozměňovací návrh  757

 

Návrh nařízení

Příloha IV – odst. 1 – bod 3

Znění navržené Komisí	Pozměňovací návrh
3. Podrobné informace o monitorování, fungování a kontrole systému UI, zejména pokud jde o: jeho schopnosti a omezení v oblasti výkonnosti, včetně stupňů přesnosti z hlediska konkrétních osob nebo skupin osob, ohledně kterých má být systém používán, a celková očekávaná úroveň přesnosti ve vztahu k zamýšlenému účelu použití; předvídatelné nezamýšlené výsledky a zdroje rizik pro zdraví a bezpečnost, základní práva a diskriminaci s ohledem na zamýšlený účel použití systému UI; opatření lidského dohledu potřebná v souladu s článkem 14, včetně technických opatření zavedených za účelem usnadnění interpretace výstupů systémů UI uživateli; případně specifikace vstupních dat.	3. Podrobné informace o monitorování, fungování a kontrole systému UI, zejména pokud jde o: jeho schopnosti a omezení v oblasti výkonnosti, včetně stupňů přesnosti z hlediska konkrétních osob nebo skupin osob, ohledně kterých má být systém používán, a celková očekávaná úroveň přesnosti ve vztahu k zamýšlenému účelu použití; předvídatelné nezamýšlené výsledky a zdroje rizik pro zdraví a bezpečnost, základní práva a diskriminaci s ohledem na zamýšlený účel použití systému UI; opatření lidského dohledu potřebná v souladu s článkem 14, včetně technických opatření zavedených za účelem usnadnění interpretace výstupů systémů UI provozovateli; případně specifikace vstupních dat.

Pozměňovací návrh  758

 

Návrh nařízení

Příloha IV – odst. 1 – bod 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Popis vhodnosti metrik výkonnosti pro konkrétní systém UI.

Pozměňovací návrh  759

 

Návrh nařízení

Příloha IV – odst. 1 – bod 3 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	3b. Informace o spotřebě energie systému UI během vývojové fáze a očekávané spotřebě energie během používání, případně s přihlédnutím k příslušným unijním a vnitrostátním právním předpisům.

Pozměňovací návrh  760

 

Návrh nařízení

Příloha IV – odst. 1 – bod 5

Znění navržené Komisí	Pozměňovací návrh
5. Popis veškerých změn systému provedených v průběhu jeho životního cyklu.	5. Popis veškerých příslušných změn systému provedených poskytovateli v průběhu jeho životního cyklu.

Pozměňovací návrh  761

 

Návrh nařízení

Příloha IV – odst. 1 – bod 6

Znění navržené Komisí	Pozměňovací návrh
6. Seznam harmonizovaných norem použitých v plném rozsahu nebo zčásti, na něž byly zveřejněny odkazy v Úředním věstníku Evropské unie; pokud žádné takové harmonizované normy nebyly použity, podrobný popis řešení přijatých za účelem splnění požadavků stanovených v hlavě III kapitole 2, včetně seznamu jiných příslušných norem a technických specifikací, které byly použity.	6. Seznam harmonizovaných norem použitých v plném rozsahu nebo zčásti, na něž byly zveřejněny odkazy v Úředním věstníku Evropské unie; pokud žádné takové harmonizované normy nebyly použity, podrobný popis řešení přijatých za účelem splnění požadavků stanovených v hlavě III kapitole 2, včetně seznamu jiných příslušných norem nebo společných specifikací, které byly použity.

Pozměňovací návrh  762

 

Návrh nařízení

Příloha V – odst. 1 – bod 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	4a. Pokud systém UI zahrnuje zpracování osobních údajů, prohlášení, že je tento systém UI v souladu s nařízeními (EU) 2016/679 a (EU) 2018/1725 a směrnicí (EU) 2016/680.

Pozměňovací návrh  763

 

Návrh nařízení

Příloha V – odst. 1 – bod 7

Znění navržené Komisí	Pozměňovací návrh
7. místo a datum vydání prohlášení, jméno a funkce osoby, která je podepsala, a údaj o tom, pro koho a jménem koho je tato osoba podepsala, podpis.	7. místo a datum vydání prohlášení, podpis, jméno a funkce osoby, která je podepsala, a údaj o tom, pro koho a jménem koho je tato osoba podepsala, podpis.

Pozměňovací návrh  764

 

Návrh nařízení

Příloha VII – bod 4 – bod 4.5

Znění navržené Komisí	Pozměňovací návrh
4.5. Pokud je třeba na základě odůvodněné žádosti posoudit shodu vysoce rizikového systému UI s požadavky stanovenými v hlavě III kapitole 2, musí být oznámenému subjektu umožněn přístup také ke zdrojovému kódu systému UI.	4.5. Je-li to nezbytné k posouzení shody vysoce rizikového systému UI s požadavky stanovenými v hlavě III kapitole 2 poté, co byly vyčerpány a ukázaly se jako nedostatečné všechny ostatní přiměřené způsoby ověřování shody, a na základě odůvodněné žádosti je oznámenému subjektu poskytnut přístup také k tréninkovým a trénovaným modelům systému UI, včetně jeho příslušných parametrů. Tento přístup podléhá stávajícím právním předpisům Unie v oblasti duševního vlastnictví a obchodních tajemství. Přijmou se technická a organizační opatření k zajištění ochrany duševního vlastnictví a obchodního tajemství.

Pozměňovací návrh  765

 

Návrh nařízení

Příloha VIII – odst. 1

Znění navržené Komisí	Pozměňovací návrh
V souvislosti s vysoce rizikovými systémy UI, jež mají být registrovány v souladu s článkem 51, musí být poskytnuty a průběžně aktualizovány tyto informace:	Oddíl A – V souvislosti s vysoce rizikovými systémy UI, jež mají být registrovány v souladu s čl. 51 odst. 1, musí být poskytnuty a průběžně aktualizovány tyto informace:

Pozměňovací návrh  766

 

Návrh nařízení

Příloha VIII – bod 4 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	4a. obchodní název základního modelu a jakýkoli další jednoznačný odkaz umožňující identifikaci a vysledovatelnost;

Pozměňovací návrh  767

 

Návrh nařízení

Příloha VIII – bod 5

Znění navržené Komisí	Pozměňovací návrh
5. popis zamýšleného účelu použití systému UI;	5. jednoduchý a srozumitelný popis
	a) zamýšleného účelu použití systému UI;
	b) součástí a funkcí podporovaných umělou inteligencí;
	c) základního vysvětlení logiky systému UI;

Pozměňovací návrh  768

 

Návrh nařízení

Příloha VIII – bod 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. je-li to relevantní, kategorie a povaha údajů, u nichž je pravděpodobné nebo se předpokládá, že budou systémem UI zpracovávány;

Pozměňovací návrh  769

 

Návrh nařízení

Příloha VIII – bod 11

Znění navržené Komisí	Pozměňovací návrh
11. elektronický návod k použití; tyto informace nelze uvádět u vysoce rizikových systémů UI v oblastech vymáhání práva a migrace, azylu a řízení správy hranic uvedených v příloze III bodech 1, 6 a 7;	vypouští se

Pozměňovací návrh  770

 

Návrh nařízení

Příloha VIII – oddíl B (nový)

Znění navržené Komisí	Pozměňovací návrh
	Oddíl B – V souvislosti s vysoce rizikovými systémy UI, jež mají být registrovány v souladu s čl. 51 odst. 1a písm. a) a odst. 1b, musí být poskytnuty a průběžně aktualizovány tyto informace:
	1. jméno, adresa a další kontaktní údaje provozovatele;
	2. jméno, adresa a další kontaktní údaje osoby předkládající informace jménem provozovatele;
	3. obchodní název vysoce rizikového systému UI a veškeré další jednoznačné odkazy, jež umožňují identifikaci a sledovatelnost používaného systému UI;
	4. a) jednoduchý a srozumitelný popis zamýšleného použití systému UI, včetně konkrétních výsledků, k nimž má použití systému vést, a zeměpisné a časové oblasti působnosti;
	b) je-li to relevantní, kategorie a povaha údajů, které má systém UI zpracovávat;
	c) ujednání o lidském dohledu a řízení;
	d) je-li to relevantní, subjekty nebo fyzické osoby odpovědné za rozhodnutí přijatá nebo podpořená systémem UI;
	5. shrnutí zjištění posouzení dopadů na základní práva provedeného v souladu s článkem 29a;
	6. internetová adresa záznamu systému UI v databázi EU od jeho poskytovatele;
	7. shrnutí posouzení vlivu na ochranu osobních údajů provedeného v souladu s článkem 35 nařízení (EU) 2016/679 nebo článkem 27 směrnice (EU) 2016/680, jak je uvedeno v čl. 29 odst. 6 tohoto nařízení, je-li to relevantní;

Pozměňovací návrh  771

 

Návrh nařízení

Příloha VIII – oddíl C (nový)

Znění navržené Komisí	Pozměňovací návrh
	Oddíl C – V souvislosti se základními modely, jež mají být registrovány v souladu s čl. 28b písm. e), musí být poskytnuty a průběžně aktualizovány tyto informace:
	1. jméno, adresa a další kontaktní údaje poskytovatele;
	2. pokud informace předkládá jménem poskytovatele jiná osoba, jméno, adresa a další kontaktní údaje této osoby;
	3. je-li to relevantní, jméno, adresa a další kontaktní údaje zplnomocněného zástupce;
	4. obchodní název a jakýkoli další jednoznačný odkaz umožňující identifikaci základního modelu;
	5. popis datových zdrojů použitých při vývoji základního modelu;
	6. popis schopností a omezení základního modelu, včetně důvodně předvídatelných rizik a opatření, která byla přijata ke zmírnění těchto rizik, a zbývajících nezmírněných rizik, s vysvětlením důvodu, proč nemohou být zmírněna;
	7. popis trénovacích zdrojů používaných základním modelem, včetně požadovaného výpočetního výkonu, doby trénování a dalších relevantních informací týkajících se velikosti a výkonu modelu; popis výkonnosti modelu, mj. s využitím veřejných referenčních hodnot nebo nejmodernějších referenčních hodnot v odvětví;
	8. popis výsledků příslušných interních a externích testů a optimalizace modelu;
	9. členské státy, v nichž je nebo byl systém UI uveden na trh, do provozu nebo zpřístupněn v Unii;
	10. internetová adresa pro doplňující informace (nepovinné).

 

 

 

 

VYSVĚTLUJÍCÍ PROHLÁŠENÍ

Spoluzpravodajové sdílejí názor, že umělá inteligence vyvinutá a používaná v Evropě by měla být zaměřena na člověka, měla by být důvěryhodná a měla by být v souladu se základními právy a hodnotami Unie zakotvenými ve Smlouvách. Její právní úprava by zároveň neměla být na překážku inovacím a podnikatelskému prostředí, ale naopak je podporovat. Obou těchto cílů lze nejlépe dosáhnout zvýšením právní jistoty a jasnosti v celém návrhu nařízení s cílem podpořit soukromý sektor a veřejné orgány při plnění nových povinností. Návrh zprávy obsahuje body, v nichž se spoluzpravodajové snadno shodli, a dotýká se všech hlavních prvků návrhu nařízení.

 

Pokud jde o oblast působnosti, souhlasí spoluzpravodajové s přístupem založeným na posuzování rizik, který navrhla Komise. To znamená, že povinnosti stanovené v tomto nařízení se vztahují pouze na zakázané praktiky, na vysoce rizikové systémy UI a na určité systémy UI, které vyžadují transparentnost. Žádný systém UI by proto neměl být předem vyloučen, a to ani z definice „umělé inteligence“, ani vytvořením výjimek pro konkrétní typy systémů UI, včetně UI pro všeobecné účely. Pokud nejsou poskytovatelé schopni plnit povinnosti podle tohoto nařízení z objektivních důvodů, měli by mít možnost uzavírat s uživateli dohody o sdílení odpovědnosti. Klíčovým prvkem návrhu zprávy je rovněž sjednocení znění tohoto nařízení s obecným nařízením o ochraně osobních údajů, neboť obě nařízení by se měla při vývoji a zavádění umělé inteligence v Evropě vzájemně doplňovat.

 

Pokud jde o zakázané praktiky, shodli se spoluzpravodajové na tom, že seznam by měl být doplněn o „prediktivní policejní činnost“, neboť sdílejí názor, že liberální společnosti nemohou využívat technologie v rozporu s klíčovou zásadou presumpce neviny. 

 

Pokud jde o vysoce rizikové systémy UI, na které se nařízení zaměřuje především, navrhují spoluzpravodajové k doplnění na seznam těchto systémů řadu případů jejich použití. Vzhledem k tomu, že obzvláště zranitelnou skupinu představují děti, měly by být za vysoce rizikové považovány systémy UI používané k ovlivňování nebo formování jejich vývoje. Systémy UI, které používají kandidáti nebo strany k ovlivňování hlasování v místních, celostátních nebo evropských volbách, a systémy UI používané ke sčítání hlasů mohou mít tím, že ovlivňují velký počet občanů Unie, důsledky pro samotné fungování naší demokracie. Proto by měly být považovány za vysoce rizikové. Za vysoce rizikové jsou rovněž považovány systémy UI používané pro třídění pacientů ve zdravotnictví a systémy UI používané k určení způsobilosti pro účely zdravotního a životního pojištění. Jak požadavkům na transparentnost, tak požadavkům na shodu vysoce rizikových systémů UI by vzhledem k riziku zkreslování reality měly podléhat dva typy systémů UI: deepfakes napodobující skutečné osoby a redakční obsah vytvořený umělou inteligencí („autoři UI“). Spoluzpravodajové zdůrazňují, že vysoce rizikové systémy UI nejsou zakázány ani je nelze považovat za nežádoucí. Naopak splnění požadavků na shodu stanovených v tomto nařízení zvyšuje důvěryhodnost těchto systémů a pravděpodobnost, že budou na evropském trhu úspěšné. 

 

Návrh zprávy se podrobněji zabývá řetězcem odpovědnosti a snaží se vyjasnit a lépe vyvážit některá ustanovení. Konkrétně v oblasti správy údajů je zajištěn větší soulad s obecným nařízením o ochraně osobních údajů a byl odstraněn případný dodatečný právní základ pro zpracování osobních údajů. Kromě toho bylo objasněno, že zajištění „bezchybných“ datových souborů v co největší možné míře by mělo být obecným cílem, nikoli konkrétním požadavkem. Rovněž byly podrobněji upraveny případy, kdy jsou datové soubory v držení uživatelů, zatímco poskytovatel pouze vytváří celkovou architekturu systému. Většina těchto upřesnění zohledňuje připomínky vyjádřené subjekty z oboru, neboť hodnotový řetězec UI není vždy lineární a musí být jasně vymezeny povinnosti mezi jednotlivými aktéry v hodnotovém řetězci. 

 

Uživatelé vysoce rizikových systémů UI rovněž hrají roli při ochraně zdraví, bezpečnosti a základních práv občanů EU a hodnot EU, od požadavku jmenovat kompetentní osoby odpovědné za lidský dohled nad vysoce rizikovými systémy UI až po aktivnější úlohu při hlášení incidentů nebo selhání systému UI, neboť někdy mají nejlepší podmínky k tomu, aby takové incidenty nebo poruchy odhalili. Uživatelé, kteří jsou veřejnými orgány, podléhají v demokratických společnostech zvýšeným očekáváním v oblasti transparentnosti. Proto by veřejné orgány a orgány, instituce nebo jiné subjekty Unie měly zaznamenat používání vysoce rizikových systémů UI do celounijní databáze. To zajistí lepší demokratický dohled, veřejnou kontrolu a větší odpovědnost a transparentnost vůči veřejnosti, pokud jde o používání systémů UI v citlivých oblastech, které mají dopad na životy lidí. Uživatelé vysoce rizikových systémů UI uvedených v příloze III, jež rozhodují nebo pomáhají při rozhodování o fyzických osobách, by navíc tyto fyzické osoby o tom, že se na ně vztahuje použití vysoce rizikového systému UI, měli informovat.

 

Několik ustanovení návrhu zprávy se zaměřuje na správu a na prosazování pravidel, neboť spoluzpravodajové jsou přesvědčeni, že se jedná o klíčové prvky, které umožňují účinné a jednotné provádění aktu o umělé inteligenci v celé Unii, a přispívají tak k vytvoření skutečně jednotného trhu pro UI.

 

Za tímto účelem byly posíleny úkoly rady pro UI. Rada pro UI by měla hrát významnější úlohu při jednotném uplatňování tohoto nařízení a při poskytování poradenství a vydávání doporučení Komisi, například ohledně potřeby změnit přílohu III, a vnitrostátním dozorovým orgánům. Rada by měla fungovat jako fórum pro výměnu informací mezi vnitrostátními dozorovými orgány a zároveň by měla být místem pro rozhodování ve sporech zahrnujících orgány dvou nebo více členských států, aby se zabránilo roztříštěnosti jednotného trhu v důsledku odlišného prosazování pravidel. Dále by vzhledem ke své významnější úloze a odpovědnosti rada měla alespoň dvakrát ročně organizovat konzultace s tímto odvětvím, začínajícími podniky a MSP, občanskou společností a akademickou obcí s cílem plnit své úkoly ve spolupráci se všemi příslušnými zainteresovanými stranami. 

Na vnitrostátní úrovni spoluzpravodajové zdůraznili potřebu úzké spolupráce mezi orgány dozoru nad trhem a orgány pro ochranu údajů, neboť prosazování nařízení o UI bude vyžadovat oba soubory pravomocí, které by navíc měly být pravidelně aktualizovány. V případech porušení základních práv by měly být úzce zapojeny i příslušné orgány pro základní práva.

 

S cílem řešit případné problémy, které mají dopad na jednotlivce v několika členských státech, navrhují spoluzpravodajové nový mechanismus prosazování ze strany Komise, který by byl uplatněn v případech rozsáhlého porušování právních předpisů (ve třech nebo více členských státech), a to i v případě nečinnosti při protiprávním jednání, které má dopad na nejméně tři členské státy. Cílem tohoto mechanismu navrženého po vzoru aktu o digitálních službách a přizpůsobeného odlišné povaze právních předpisů v oblasti UI je řešit některé problémy s prosazováním, které byly zaznamenány v jiných správních strukturách, přispět k jednotnému provádění tohoto nařízení a posílit jednotný digitální trh. V rámci tohoto mechanismu by v případech rozsáhlého protiprávního jednání měla mít Komise pravomoci orgánu dozoru nad trhem podle nařízení o dozoru nad trhem a nařízení o souladu.

 

Spoluzpravodajové se domnívají, že je důležité posílit zapojení zainteresovaných stran a organizací občanské společnosti do několika klíčových ustanovení nařízení, jako jsou aktualizace seznamu vysoce rizikových systémů UI, proces normalizace, jakož i činnosti rady a pískovišť. Mimoto spoluzpravodajové doplnili zvláštní kapitolu o opravných prostředcích pro fyzické i právnické osoby, aby měli jednotlivci náležité prostředky nápravy, pokud systém UI porušuje jejich práva, ale také s cílem přispět k budování důvěry v systémy UI a jejich širokému používání.

 

Spoluzpravodajové chtějí společně zdůraznit, že cílem aktu o UI je zajistit jak ochranu zdraví, bezpečnosti, základních práv a hodnot Unie, tak i rozšíření UI v celé Unii, integrovanější jednotný digitální trh a vhodné legislativní prostředí pro podnikání a inovace. V tomto duchu přistupovali a budou i nadále přistupovat k tomuto nařízení.

 

 

STANOVISKO VÝBORU PRO PRŮMYSL, VÝZKUM A ENERGETIKU (14.6.2022)

pro Výbor pro vnitřní trh a ochranu spotřebitelů a Výbor pro občanské svobody, spravedlnost a vnitřní věci

k návrhu nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie

(COM(2021)0206 – C9‑0146/2021 – 2021/0106(COD))

Zpravodajka(*): Eva Maydell(*) Přidružený výbor – článek 57 jednacího řádu

 

STRUČNÉ ODŮVODNĚNÍ

Úvod

Zpravodajka vítá návrh Komise týkající se aktu o umělé inteligenci, zejména předkládaný horizontální přístup založený na rizicích. Tento přístup umožní vyvíjet systémy umělé inteligence v souladu s evropskými hodnotami a podpořit sociální důvěru v tyto nové technologie, tak aby mohla EU využít veškerých hospodářských a sociálních výhod umělé inteligence.

 

Zpravodajka se domnívá, že prostřednictvím aktu o umělé inteligenci musíme vytvořit prostředí, kde by byly svoboda a dohled správně vyváženy. Navrhuje další ustanovení, která by s ohledem na nové povinnosti, které se po nich požadují, zajistila další konkurenceschopnost a kreativitu společností, zejména začínajících, malých a středních podniků. Má za to, že by se tím zvýšila jak legitimita, tak důležitost aktu o umělé inteligenci. Aby mohly podniky dodržovat toto nařízení, musíme jim poskytnout jasnější pokyny, jednodušší nástroje a účinnější zdroje. To by umožnilo podporovat inovace a rozvoj v oblasti umělé inteligence, a její rozšíření na trhu. 

 

Návrh zpravodajky proto sleduje čtyři hlavní cíle v tomto směru:

1. rozšíření opatření na podporu inovací, jako jsou opatření plánovaná v rámci regulačních pískovišť, se zaměřením zejména na začínající, malé a střední podniky

2. stanovení stručné, mezinárodně uznávané definice systému umělé inteligence avysokých, avšak realistických norem týkajících se jeho přesnosti, spolehlivosti, kybernetické bezpečnosti a údajů

3. podpora zavádění systémů umělé inteligence v průmyslu tím, že bude kladen důraz na sociální důvěru a odpovědnost v rámci hodnotového řetězce

4. zajištění toho, aby akt obstál i v budoucnu, a to jeho lepším propojením s ekologickou transformací a možnými změnami v průmyslu, technologiích a síle umělé inteligence.

 

Tento návrh stanoviska se zaměřuje především na otázky související s pravomocemi výboru ITRE, ale také na širší otázky týkající se inovací, konkurenceschopnosti, výzkumu, udržitelnosti a budoucích změn v průmyslu. 

 

Podpora inovací, zaměření na začínající, malé a střední podniky, posílení regulačních pískovišť

Zpravodajka vítá zavedení článku 55 o opatřeních pro malé poskytovatele, domnívá se však, že malé, střední a začínající podniky by měly být v rámci uceleného přístupu více zapojeny do celého aktu o umělé inteligenci, konkrétně do vypracovávání kodexů chování a do standardizace, a měly by být zastoupeny v Evropské radě pro umělou inteligenci. Zpravodajka se zdaleka nejvíce zaměřuje na poskytování příležitostí malým, středním a začínajícím podnikům účastnit se na regulačních pískovištích v oblasti umělé inteligence. Z tohoto důvodu navrhuje posílit stávající ustanovení tím, že by zajistila větší evropský rozměr regulačních pískovišť, zachovala jednotu jednotného trhu a vyzvala k vytvoření programu pro regulační pískoviště EU v oblasti umělé inteligence, jehož podmínky jsou stanoveny v nové příloze.

 

Jasná definice a realistické normy

Zpravodajka vyzývá k používání mezinárodně uznávané definice systému umělé inteligence, která by byla v souladu s širšími cíli EU, kterými je stanovení globálních norem, úzká spolupráce s transatlantickými partnery a podobně smýšlejícími spojenci a poskytnutí právní jistoty podnikům, občanům a občanské společnosti. Domnívá se, že pro vývoj bezpečných systémů umělé inteligence, které by chránily základní práva, mají klíčový význam vysoké normy přesnosti, spolehlivosti a kybernetické bezpečnosti a také data a jejich správa. Základním úkolem je vyvážit tento cíl s praktickým pragmatickým přístupem potřebným k jeho dosažení. S cílem stanovit jednotný přístup k měření přesnosti, spolehlivosti a dalších relevantních kritérií vyzývá zpravodajka k vytvoření společného evropského orgánu pro referenční srovnávání, který by sdružoval vnitrostátní metrologické a referenční orgány.

 

Podpora zavádění systémů umělé inteligence, posilování sociální důvěry, odpovědnost za hodnotový řetězec

Zpravodajka se domnívá, že abychom podpořili zavádění a využívání systémů umělé inteligence, musíme posílit sociální důvěru podniků i občanů. Snaží se řešit problém sociální důvěry podporou spolupráce mezi vývojáři a uživateli umělé inteligence, která by byla lépe sladěna s jejich povinnostmi v celém hodnotovém řetězci, a zpřísněním kodexů chování a opatření týkajících se regulačních pískovišť s cílem umožnit dodržování předpisů již od návrhu. To povede k vytvoření zdravého integrovaného ekosystému, který pomůže omezit právní nejistotu a nedostatky v uplatňování aktu, což zase zvýší sociální důvěru.

 

Zajištění budoucnosti, udržitelnost a změny v průmyslu a síle umělé inteligence

Umělá inteligence je plně rozvinutá technologie připravená k použití, kterou lze využít ke zpracovávání neustále rostoucího množství dat vytvářených v rámci průmyslových procesů. Aby se usnadnily investice do analytických a optimalizačních řešení založených na umělé inteligenci, mělo by toto nařízení zajistit předvídatelné prostředí pro nízkoriziková průmyslová řešení. Kromě toho by mělo zohlednit budoucí změny v průmyslu a síle umělé inteligence. Z tohoto důvodu zpravodajka navrhuje, aby byla zajištěna rozsáhlá spolupráce odborné skupiny na vysoké úrovni pro umělou inteligenci s Komisí i Evropskou radou pro umělou inteligenci a aby Evropská rada pro umělou inteligenci sledovala tržní trendy a prognózy.

POZMĚŇOVACÍ NÁVRHY

Výbor pro průmysl, výzkum a energetiku vyzývá Výbor pro vnitřní trh a ochranu spotřebitelů a Výbor pro občanské svobody, spravedlnost a vnitřní věci jako příslušné výbory, aby zohlednily tyto pozměňovací návrhy:

Pozměňovací návrh  1

 

Návrh nařízení

Bod odůvodnění 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(3a) Aby členské státy dosáhly svých cílů v oblasti klimatu a splnily cíle Organizace spojených národů v oblsti udržitelného rozvoje, měly by být společnosti z Unie navíc vybízeny k tomu, aby při plnění tohoto cíle využívaly dostupného technického pokroku. Umělá inteligence je dobře rozvinutá technologie připravená k použití, kterou lze využít ke zpracovávání neustále rostoucího množství dat vytvářených v rámci průmyslových procesů. Aby se usnadnily investice do analytických a optimalizačních řešení založených na umělé inteligenci, které mohou pomoci plnit cíle v oblasti klimatu, mělo by toto nařízení zajistit předvídatelné přiměřené prostředí pro nízkoriziková průmyslová řešení. K zajištění jednotnosti je třeba, aby samotné systémy umělé inteligence byly navrženy udržitelně, tak aby došlo ke snížení spotřeby zdrojů a energie, a tím se omezilo poškozování životního prostředí.

Pozměňovací návrh  2

 

Návrh nařízení

Bod odůvodnění 3 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(3b) V zájmu podpory rozvoje umělé inteligence v souladu s hodnotami Unie se Unie musí kromě toho zabývat hlavními nedostatky a překážkami, které brání využití potenciálu digitální transformace, včetně nedostatku digitálně kvalifikovaných pracovníků, obav v oblasti kybernetické bezpečnosti, nedostatečných investic a nedostatečného přístupu k investicím i stávajících a potenciálních rozdílů mezi velkými společnostmi a malými a středními podniky. Zvláštní pozornost by se měla věnovat tomu, aby byl přínos umělé inteligence a inovací v oblasti nových technologií pociťován ve všech regionech Unie a aby byly poskytnuty dostatečné investice a zdroje zejména těm regionům, které mohou v některých digitálních ukazatelích zaostávat.

Pozměňovací návrh  3

 

Návrh nařízení

Bod odůvodnění 6

Znění navržené Komisí	Pozměňovací návrh
(6) Je třeba jednoznačně definovat pojem „systém UI“ s cílem zajistit právní jistotu a zároveň poskytnout flexibilitu umožňující přizpůsobit se budoucímu technologickému vývoji. Tato definice by měla být založena na klíčových funkčních vlastnostech tohoto softwaru, zejména na jeho schopnosti generovat pro danou sadu člověkem definovaných cílů výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí, které ovlivňují prostředí, s nímž systém komunikuje, ať už ve fyzické, nebo digitální dimenzi. Systémy UI mohou být navrženy tak, aby fungovaly s různou úrovní samostatnosti a aby mohly být použity buď samostatně, nebo jako součást určitého produktu bez ohledu na to, zda je systém do tohoto produktu fyzicky zabudován (vestavěný systém), nebo zda napomáhá funkčnosti tohoto produktu, aniž by do něho byl zabudován (nevestavěný systém). Definici systému UI by měl doplňovat seznam konkrétních technik a přístupů využívaných při jeho vývoji, který by měl být průběžně aktualizován s ohledem na vývoj trhu a technologií prostřednictvím přijímání aktů v přenesené pravomoci Komisí za účelem změny uvedeného seznamu.	(6) Je třeba jednoznačně definovat pojem „systém UI“ s cílem zajistit právní jistotu a zároveň poskytnout flexibilitu umožňující přizpůsobit se budoucímu technologickému vývoji. Tato definice by měla být v souladu s definicemi, které byly přijaty na mezinárodní úrovni. Tato definice by měla být založena na klíčových funkčních vlastnostech systému umělé inteligence, zejména na jeho schopnosti poskytovat pro danou sadu člověkem definovaných cílů predikce, doporučení nebo rozhodnutí, které ovlivňují skutečné či virtuální prostředí. Konkrétněji by definice systému umělé inteligence měla zohledňovat klíčové rysy, jako je schopnost vnímat skutečné či virtuální prostředí, přepracovat tyto vjemy do modelů prostřednictvím automatizované analýzy a použít modelové závěry k formulování možností týkajících se informace nebo opatření. Systémy UI jsou navrženy tak, aby fungovaly s různou úrovní samostatnosti a aby mohly být použity buď samostatně, nebo jako součást určitého produktu bez ohledu na to, zda je systém do tohoto produktu fyzicky zabudován (vestavěný systém), nebo zda napomáhá funkčnosti tohoto produktu, aniž by do něho byl zabudován (nevestavěný systém). Definici systému UI by měl doplňovat seznam konkrétních technik a přístupů využívaných při jeho vývoji, který by měl být průběžně aktualizován s ohledem na vývoj trhu a technologií prostřednictvím přijímání aktů v přenesené pravomoci Komisí za účelem změny uvedeného seznamu. Při vypracovávání těchto aktů v přenesené pravomoci zajistí Komise účast všech příslušných zúčastněných stran, včetně technických odborníků a vývojářů systémů umělé inteligence. Tyto konzultace by mohly probíhat prostřednictvím stávajících subjektů, jako je skupina odborníků na vysoké úrovni pro umělou inteligenci nebo nově zřízený podobný poradní orgán, který je úzce zapojen do činnosti Evropské rady pro umělou inteligenci. Kromě toho by se Komise měla zapojit do dialogu s klíčovými mezinárodními organizacemi, jako je Organizace pro hospodářskou spolupráci a rozvoj, a dalšími klíčovými organizacemi, které se zabývají definicí systémů umělé inteligence, s cílem zajistit soulad mezi definicemi umělé inteligence a zároveň zachovat výsadu Unie stanovit vlastní definici a normy přijetím právních předpisů.

Pozměňovací návrh  4

 

Návrh nařízení

Bod odůvodnění 12 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(12a) Toto nařízení by nemělo narušovat výzkum a vývoj a mělo by respektovat svobodu vědy. Je proto nezbytné zajistit, aby nemělo na vědecký výzkum a vývoj systémů umělé inteligence žádný jiný vliv. Pokud jde o výzkumnou činnost poskytovatelů zaměřenou na produkty, mělo by se toto nařízení použít, pokud takový výzkum vede k uvedení systému umělé inteligence na trh či do provozu nebo jej zahrnuje. Veškerá činnost v oblasti výzkumu a vývoje by měla za všech okolností probíhat v souladu s uznávanými etickými normami v oblasti vědeckého výzkumu.

Pozměňovací návrh  5

 

Návrh nařízení

Bod odůvodnění 29

Znění navržené Komisí	Pozměňovací návrh
(29) Pokud jde o vysoce rizikové systémy UI, které jsou bezpečnostními součástmi produktů nebo systémů, případně které jsou samy produkty nebo systémy spadajícími do působnosti nařízení Evropského parlamentu a Rady (ES) č. 300/200839, nařízení Evropského parlamentu a Rady (EU) č. 167/201340, nařízení Evropského parlamentu a Rady (EU) č. 168/201341, směrnice Evropského parlamentu a Rady 2014/90/EU42, směrnice Evropského parlamentu a Rady (EU) 2016/79743, nařízení Evropského parlamentu a Rady (EU) 2018/85844, nařízení Evropského parlamentu a Rady (EU) 2018/113945 a nařízení Evropského parlamentu a Rady (EU) 2019/214446, je vhodné tyto akty pozměnit s cílem zajistit, aby Komise při přijímání jakýchkoli budoucích relevantních aktů v přenesené pravomoci nebo prováděcích aktů na základě výše uvedených aktů zohledňovala povinné požadavky na vysoce rizikové systémy UI stanovené v tomto nařízení na základě technických a regulačních specifik jednotlivých odvětví, aniž by zasahovala do stávajících mechanismů správy, posuzování shody a prosazování ani do orgánů zřízených v rámci uvedených aktů.	(29) Pokud jde o vysoce rizikové systémy UI, které jsou bezpečnostními součástmi produktů nebo systémů, případně které jsou samy produkty nebo systémy spadajícími do působnosti nařízení Evropského parlamentu a Rady (ES) č. 300/200839, nařízení Evropského parlamentu a Rady (EU) č. 167/201340, nařízení Evropského parlamentu a Rady (EU) č. 168/201341, směrnice Evropského parlamentu a Rady 2014/90/EU42, směrnice Evropského parlamentu a Rady (EU) 2016/79743, nařízení Evropského parlamentu a Rady (EU) 2018/85844, nařízení Evropského parlamentu a Rady (EU) 2018/113945 a nařízení Evropského parlamentu a Rady (EU) 2019/214446, je vhodné tyto akty pozměnit s cílem zajistit, aby Komise při přijímání jakýchkoli budoucích relevantních aktů v přenesené pravomoci nebo prováděcích aktů na základě výše uvedených aktů zohledňovala povinné požadavky na vysoce rizikové systémy UI stanovené v tomto nařízení na základě technických a regulačních specifik jednotlivých odvětví, aniž by zasahovala do stávajících mechanismů správy, posuzování shody a prosazování ani do orgánů zřízených v rámci uvedených aktů. Kromě toho je k zajištění funkčnosti požadavků tohoto nařízení třeba zavést účinná normalizační pravidla. Unijní instituce, především Komise, by měly společně s podniky zjistit, ve kterých odvětvích umělé inteligence je větší potřeba normalizace, aby se zabránilo roztříštěnosti trhu a aby se zachovala a dále posílila integrace našeho evropského systému normalizace (ESS) v rámci mezinárodního systému normalizace (ISO, IEC).
__________________	__________________
39 Nařízení Evropského parlamentu a Rady (ES) č. 300/2008 ze dne 11. března 2008 o společných pravidlech v oblasti ochrany civilního letectví před protiprávními činy a o zrušení nařízení (ES) č. 2320/2002 (Úř. věst. L 97, 9.4.2008, s. 72).	39 Nařízení Evropského parlamentu a Rady (ES) č. 300/2008 ze dne 11. března 2008 o společných pravidlech v oblasti ochrany civilního letectví před protiprávními činy a o zrušení nařízení (ES) č. 2320/2002 (Úř. věst. L 97, 9.4.2008, s. 72).
40 Nařízení Evropského parlamentu a Rady (EU) č. 167/2013 ze dne 5. února 2013 o schvalování zemědělských a lesnických vozidel a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 1).	40 Nařízení Evropského parlamentu a Rady (EU) č. 167/2013 ze dne 5. února 2013 o schvalování zemědělských a lesnických vozidel a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 1).
41 Nařízení Evropského parlamentu a Rady (EU) č. 168/2013 ze dne 15. ledna 2013 o schvalování dvoukolových nebo tříkolových vozidel a čtyřkolek a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 52).	41 Nařízení Evropského parlamentu a Rady (EU) č. 168/2013 ze dne 15. ledna 2013 o schvalování dvoukolových nebo tříkolových vozidel a čtyřkolek a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 52).
42 Směrnice Evropského parlamentu a Rady 2014/90/EU ze dne 23. července 2014 o lodní výstroji a o zrušení směrnice Rady 96/98/ES (Úř. věst. L 257, 28.8.2014, s. 146).	42 Směrnice Evropského parlamentu a Rady 2014/90/EU ze dne 23. července 2014 o lodní výstroji a o zrušení směrnice Rady 96/98/ES (Úř. věst. L 257, 28.8.2014, s. 146).
43 Směrnice Evropského parlamentu a Rady (EU) 2016/797 ze dne 11. května 2016 o interoperabilitě železničního systému v Evropské unii (Úř. věst. L 138, 26.5.2016, s. 44).	43 Směrnice Evropského parlamentu a Rady (EU) 2016/797 ze dne 11. května 2016 o interoperabilitě železničního systému v Evropské unii (Úř. věst. L 138, 26.5.2016, s. 44).
44 Nařízení Evropského parlamentu a Rady (EU) 2018/858 ze dne 30. května 2018 o schvalování motorových vozidel a jejich přípojných vozidel, jakož i systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla a o dozoru nad trhem s nimi, o změně nařízení (ES) č. 715/2007 a č. 595/2009 a o zrušení směrnice 2007/46/ES (Úř. věst. L 151, 14.6.2018, s. 1).	44 Nařízení Evropského parlamentu a Rady (EU) 2018/858 ze dne 30. května 2018 o schvalování motorových vozidel a jejich přípojných vozidel, jakož i systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla a o dozoru nad trhem s nimi, o změně nařízení (ES) č. 715/2007 a č. 595/2009 a o zrušení směrnice 2007/46/ES (Úř. věst. L 151, 14.6.2018, s. 1).
45 Nařízení Evropského parlamentu a Rady (EU) 2018/1139 ze dne 4. července 2018 o společných pravidlech v oblasti civilního letectví a o zřízení Agentury Evropské unie pro bezpečnost letectví, kterým se mění nařízení (ES) č. 2111/2005, (ES) č. 1008/2008, (EU) č. 996/2010, (EU) č. 376/2014 a směrnice Evropského parlamentu a Rady 2014/30/EU a 2014/53/EU a kterým se zrušuje nařízení Evropského parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nařízení Rady (EHS) č. 3922/91 (Úř. věst. L 212, 22.8.2018, s. 1).	45 Nařízení Evropského parlamentu a Rady (EU) 2018/1139 ze dne 4. července 2018 o společných pravidlech v oblasti civilního letectví a o zřízení Agentury Evropské unie pro bezpečnost letectví, kterým se mění nařízení (ES) č. 2111/2005, (ES) č. 1008/2008, (EU) č. 996/2010, (EU) č. 376/2014 a směrnice Evropského parlamentu a Rady 2014/30/EU a 2014/53/EU a kterým se zrušuje nařízení Evropského parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nařízení Rady (EHS) č. 3922/91 (Úř. věst. L 212, 22.8.2018, s. 1).
46 Nařízení Evropského parlamentu a Rady (EU) 2019/2144 ze dne 27. listopadu 2019 o požadavcích pro schvalování typu motorových vozidel a jejich přípojných vozidel a systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla z hlediska obecné bezpečnosti a ochrany cestujících ve vozidle a zranitelných účastníků silničního provozu, o změně nařízení Evropského parlamentu a Rady (EU) 2018/858 a o zrušení nařízení Evropského parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nařízení Komise (ES) č. 631/2009, (EU) č. 406/2010, (EU) č. 672/2010, (EU) č. 1003/2010, (EU) č. 1005/2010, (EU) č. 1008/2010, (EU) č. 1009/2010, (EU) č. 19/2011, (EU) č. 109/2011, (EU) č. 458/2011, (EU) č. 65/2012, (EU) č. 130/2012, (EU) č. 347/2012, (EU) č. 351/2012, (EU) č. 1230/2012 a (EU) 2015/166 (Úř. věst. L 325, 16.12.2019, s. 1).	46 Nařízení Evropského parlamentu a Rady (EU) 2019/2144 ze dne 27. listopadu 2019 o požadavcích pro schvalování typu motorových vozidel a jejich přípojných vozidel a systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla z hlediska obecné bezpečnosti a ochrany cestujících ve vozidle a zranitelných účastníků silničního provozu, o změně nařízení Evropského parlamentu a Rady (EU) 2018/858 a o zrušení nařízení Evropského parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nařízení Komise (ES) č. 631/2009, (EU) č. 406/2010, (EU) č. 672/2010, (EU) č. 1003/2010, (EU) č. 1005/2010, (EU) č. 1008/2010, (EU) č. 1009/2010, (EU) č. 19/2011, (EU) č. 109/2011, (EU) č. 458/2011, (EU) č. 65/2012, (EU) č. 130/2012, (EU) č. 347/2012, (EU) č. 351/2012, (EU) č. 1230/2012 a (EU) 2015/166 (Úř. věst. L 325, 16.12.2019, s. 1).

Pozměňovací návrh  6

 

Návrh nařízení

Bod odůvodnění 44

Znění navržené Komisí	Pozměňovací návrh
(44) Pro výkonnost celé řady systémů UI má zásadní význam vysoká kvalita dat, zejména pokud jsou používány techniky zahrnující trénování modelů s cílem zajistit, aby vysoce rizikový systém UI fungoval dle předpokladu a bezpečně a aby se nestal zdrojem diskriminace, kterou právo Unie zakazuje. Soubory vysoce kvalitních tréninkových dat, dat pro ověřování platnosti a testovacích dat vyžadují zavedení vhodných postupů správy a řízení dat. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly být dostatečně relevantní, reprezentativní, bez chyb a úplné s ohledem na určený účel systému. Měly by rovněž vykazovat příslušné statistické vlastnosti, včetně údajů o osobách nebo skupinách osob, pro které má být daný vysoce rizikový systém UI používán. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly s ohledem na svůj určený účel zohledňovat zejména rysy, vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální nebo funkční prostředí nebo kontext, ve kterém má být systém UI používán. V zájmu ochrany práva jiných osob na zabránění diskriminaci, která by mohla vyplynout ze zkreslení v rámci systémů UI, by poskytovatelé měli mít možnost zpracovávat také zvláštní kategorie osobních údajů jako záležitost významného veřejného zájmu s cílem zajistit sledování, detekci a opravu tohoto zkreslení ve vztahu k vysoce rizikovým systémům UI.	(44) Pro výkonnost celé řady systémů UI má zásadní význam vysoká kvalita dat, zejména pokud jsou používány techniky zahrnující trénování modelů s cílem zajistit, aby vysoce rizikový systém UI fungoval dle předpokladu a bezpečně a aby se nestal zdrojem diskriminace, kterou právo Unie zakazuje. Soubory vysoce kvalitních tréninkových dat, dat pro ověřování platnosti a testovacích dat vyžadují zavedení vhodných postupů správy a řízení dat. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat jsou navrhovány s největším možným úsilím o zajištění toho, aby byly relevantní, reprezentativní, bezchnybné a náležitě prověřené z hlediska chyb s ohledem na určený účel systému UI. Měly by mít rovněž vykazovat příslušné statistické vlastnosti, včetně údajů o osobách nebo skupinách osob, pro které má být daný rizikový systém UI používán, se zvláštním důrazem na zmírnění možného zkreslení v souborech dat, které by mohlo vést k ohrožení základních práv nebo diskriminačním výsledkům pro osoby, jichž se rizikový systém umělé inteligence týká. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly s ohledem na svůj určený účel zohledňovat zejména rysy, vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální, kontextové nebo funkční prostředí nebo kontext, ve kterém má být systém UI používán, se zvláštním zaměřením na ženy, zranitelné skupiny a děti. V zájmu ochrany práva jiných osob na zabránění diskriminaci, která by mohla vyplynout ze zkreslení v rámci systémů UI, by poskytovatelé měli mít možnost zpracovávat také zvláštní kategorie osobních údajů jako záležitost významného veřejného zájmu s cílem zajistit sledování, detekci a opravu tohoto zkreslení ve vztahu k vysoce rizikovým systémům UI.

Pozměňovací návrh  7

 

Návrh nařízení

Bod odůvodnění 46

Znění navržené Komisí	Pozměňovací návrh
(46) Pro ověření souladu s požadavky tohoto nařízení má zásadní význam, aby byly k dispozici informace, jak byly vysoce rizikové systémy UI vytvořeny a jak fungují po celou dobu své životnosti. To vyžaduje vedení záznamů a dostupnost technické dokumentace obsahující informace nezbytné k posouzení souladu daného systému UI s příslušnými požadavky. Tyto informace by měly zahrnovat obecné vlastnosti, schopnosti a omezení tohoto systému, použité algoritmy, data, postupy při trénování, testování a ověřování, jakož i dokumentaci příslušného systému řízení rizik. Technická dokumentace by měla být průběžně aktualizována.	(46) Pro ověření souladu s požadavky tohoto nařízení a pro umožnění uživatelům činit informovaná a nezávislá rozhodnutí o jejich využívání má zásadní význam, aby byly k dispozici srozumitelné informace, jak byly  rizikové systémy UI vytvořeny a jak fungují po celou dobu své životnosti. To vyžaduje vedení záznamů a dostupnost technické dokumentace obsahující informace nezbytné k posouzení souladu daného systému UI s příslušnými požadavky. Tyto informace by měly zahrnovat obecné vlastnosti, schopnosti a omezení tohoto systému, použité algoritmy, data, postupy při trénování, testování a ověřování, jakož i dokumentaci příslušného systému řízení rizik. Technická dokumentace by měla být průběžně aktualizována.

Pozměňovací návrh  8

 

Návrh nařízení

Bod odůvodnění 49

Znění navržené Komisí	Pozměňovací návrh
(49) Vysoce rizikové systémy UI by měly po celou dobu svého životního cyklu fungovat konzistentně a splňovat příslušnou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti v souladu s obecně uznávaným nejnovějším vývojem. Uživatelé by měli být informováni o úrovni a měřítkách přesnosti.	(49) Rizikové systémy UI by měly po celou dobu svého životního cyklu fungovat konzistentně a splňovat příslušnou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti v souladu s obecně uznávaným nejnovějším vývojem. Měření přesnosti a jeho očekávaná úroveň musejí být definovány s primárním cílem omezit rizika a negativní dopad systému umělé inteligence na jednotlivce a společnost jako celek. O očekávané úrovni přesnosti a jejm měření by měly být uživatelé informováni jasným, transparentním a snadno srozumitelným způsobem. Vyhlášení měření přesnosti dat však nelze považovat za důkaz budoucí úrovně jejich přesnosti, nýbrž je třeba použít příslušné metody k zajištění udržitelné úrovně přesnosti během jejich používání. Ačkoli pro stanovení norem existují normalizační organizace, je třeba koordinovat referenční srovnávání, aby bylo možné stanovit, jak by tyto normy měly být dodržovány a měřeny. Evropská rada pro umělou inteligenci by měla sdružovat vnitrostátní orgány pro metrologii a referenční srovnávání a poskytovat pokyny k řešení technických aspektů toho, jak měřit odpovídající úroveň přesnosti a spolehlivosti dat.

Pozměňovací návrh  9

 

Návrh nařízení

Bod odůvodnění 50

Znění navržené Komisí	Pozměňovací návrh
(50) U vysoce rizikových systémů UI je klíčovým požadavkem technická spolehlivost. Tyto systémy by měly být odolné vůči rizikům souvisejícím s omezeními systému (například chyby, poruchy, nekonzistentnost, neočekávané situace), jakož i vůči svévolným zásahům, které mohou ohrozit bezpečnost systému UI a vést ke škodlivému nebo jinak nežádoucímu chování. Neschopnost ochrany před těmito riziky by mohla vést k dopadům na bezpečnost nebo negativně ovlivnit základní práva, například v důsledku chybných rozhodnutí nebo nesprávných či zkreslených výstupů systému UI.	(50) U vysoce rizikových systémů UI je klíčovým požadavkem technická spolehlivost. Tyto systémy by měly být odolné vůči rizikům souvisejícím s omezeními systému (například chyby, poruchy, nekonzistentnost, neočekávané situace), jakož i vůči svévolným zásahům, které mohou ohrozit bezpečnost systému UI a vést ke škodlivému nebo jinak nežádoucímu chování. Neschopnost ochrany před těmito riziky by mohla vést k dopadům na bezpečnost nebo negativně ovlivnit základní práva, například v důsledku chybných rozhodnutí nebo nesprávných či zkreslených výstupů systému UI. Uživatelé systému umělé inteligence by měli přijmout opatření, která aby zajistila, aby možný kompromis mezi robustností a přesností dat nevedl k diskriminaci nebo negativním výsledkům pro menšinové podskupiny.

Pozměňovací návrh  10

 

Návrh nařízení

Bod odůvodnění 51

Znění navržené Komisí	Pozměňovací návrh
(51) Zásadní úlohu při zajišťování odolnosti systémů UI proti pokusům o změnu jejich použití, chování nebo výkonnosti nebo o ohrožení jejich bezpečnostních vlastností třetími stranami, které se škodlivým záměrem zneužívají zranitelných míst tohoto systému, hraje kybernetická bezpečnost. Kybernetické útoky na systémy UI mohou využívat aktiva specifická pro UI, jako jsou například soubory tréninkových dat (například tzv. data poisoning) nebo trénované modely (například nepřátelské útoky), nebo zneužívat slabých míst digitálních aktiv daného systému UI nebo příslušné infrastruktury IKT. Pro zajištění úrovně kybernetické bezpečnosti odpovídající těmto rizikům by proto poskytovatelé vysoce rizikových systémů UI měli přijmout vhodná opatření, případně současně zohlednit i příslušnou infrastrukturu IKT.	(51) Zásadní úlohu při zajišťování odolnosti systémů UI proti pokusům o změnu jejich použití, chování nebo výkonnosti nebo o ohrožení jejich bezpečnostních vlastností třetími stranami, které se škodlivým záměrem zneužívají zranitelných míst tohoto systému, hraje kybernetická bezpečnost. Kybernetické útoky na systémy UI mohou využívat aktiva specifická pro UI, jako jsou například soubory tréninkových dat (například tzv. data poisoning) nebo trénované modely (například nepřátelské útoky nebo útoky na důvěrnost), nebo zneužívat slabých míst digitálních aktiv daného systému UI nebo příslušné infrastruktury IKT. Pro zajištění takové úrovně kybernetické bezpečnosti, která by odpovídala těmto rizikům, by proto poskytovatelé rizikových systémů UI a rovněž oznámené subjekty, příslušné vnitrostátní orgány a orgány dohledu nad trhem měli přijmout vhodná opatření, případně současně zohlednit i příslušnou infrastrukturu IKT. Rizikové systémy umělé inteligence by měly být doplněny bezpečnostními řešeními a záplatami po celou dobu životnosti produktu, nebo v případě, že není závislý na konkrétním produktu, po dobu, kterou musí výrobce uvést.

Pozměňovací návrh  11

 

Návrh nařízení

Bod odůvodnění 61

Znění navržené Komisí	Pozměňovací návrh
(61) Klíčovou úlohu při poskytování technických řešení zajišťujících dodržování tohoto nařízení poskytovatelům by měla hrát normalizace. Jeden z prostředků, které poskytovatelům umožní prokázat soulad s požadavky tohoto nařízení, by mělo představovat dodržování harmonizovaných norem definovaných v nařízení Evropského parlamentu a Rady (EU) č. 1025/201254. V oblastech, kde harmonizované normy buď neexistují, nebo jsou nedostatečné, by však Komise mohla přijmout společné technické specifikace.	(61) Klíčovou úlohu při poskytování technických řešení zajišťujících dodržování tohoto nařízení poskytovatelům by měla hrát normalizace. Jeden z prostředků, které poskytovatelům umožní prokázat soulad s požadavky tohoto nařízení, by mělo představovat dodržování harmonizovaných norem definovaných v nařízení Evropského parlamentu a Rady (EU) č. 1025/201254. Kromě technických podrobností by proces normalizace měl rovněž zohledňovat rizika z hlediska základních práv, životního prostředí a společnosti jako celku a další demokratické a sociálně-technické aspekty systému umělé inteligence a měl by zajistit, aby byli do procesu normalizace zapojeni odborníci na příslušné otázky a aby s nimi bylo konzultováno. Normalizační proces by měl být transparentní z hlediska právnických a fyzických osob, které se účastní normalizační činnosti. V oblastech, kde harmonizované normy buď neexistují, nebo jsou nedostatečné, by však Komise mohla přijmout společné technické specifikace. Při vypracovávání těchto společných specifikací by Komise měla zahrnout názory příslušných zúčastněných stran, zejména pokud se společné specifikace týkají konkrétních otázek základních práv. Komise by měla zejména přijmout společné specifikace, v nichž by bylo stanoveno, jak systémy řízení rizik zohledňují dopad na děti.
__________________	__________________
54 Nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci, změně směrnic Rady 89/686/EHS a 93/15/EHS a směrnic Evropského parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES, a kterým se ruší rozhodnutí Rady 87/95/EHS a rozhodnutí Evropského parlamentu a Rady č. 1673/2006/ES (Úř. věst. L 316, 14.11.2012, s. 12).	54 Nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci, změně směrnic Rady 89/686/EHS a 93/15/EHS a směrnic Evropského parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES, a kterým se ruší rozhodnutí Rady 87/95/EHS a rozhodnutí Evropského parlamentu a Rady č. 1673/2006/ES (Úř. věst. L 316, 14.11.2012, s. 12).

Pozměňovací návrh  12

 

Návrh nařízení

Bod odůvodnění 71

Znění navržené Komisí	Pozměňovací návrh
(71) Umělá inteligence je rychle se vyvíjející skupina technologií, která vyžaduje nové formy regulačního dohledu a bezpečný prostor pro experimentování při současném zajištění odpovědné inovace a integrace vhodných záruk a opatření ke zmírnění rizika. K zajištění právního rámce příznivého pro vznik inovací, použitelného i v budoucnosti a odolného vůči narušení je třeba podporovat příslušné vnitrostátní orgány jednoho nebo více členských států ve vytváření regulačních pískovišť umělé inteligence s cílem usnadnit vývoj a testování inovativních systémů UI pod přísným regulačním dohledem dříve, než budou tyto systémy uvedeny na trh nebo jinak uvedeny do provozu.	(71) Umělá inteligence je rychle se vyvíjející skupina technologií, která vyžaduje nové formy regulačního dohledu a bezpečný prostor pro experimentování při současném zajištění odpovědné inovace a integrace vhodných a eticky odůvodněných záruk a opatření ke zmírnění rizika. K zajištění právního rámce příznivého pro vznik inovací, použitelného i v budoucnosti a odolného vůči narušení je třeba příslušným vnitrostátním orgánům jednoho nebo více členských států doporučovat, aby s cílem usnadnit vývoj a testování inovativních systémů UI pod přísným regulačním dohledem dříve, než budou tyto systémy uvedeny na trh nebo jinak uvedeny do provozu, vytvářely regulační pískoviště umělé inteligence a široce je zpřístupňovaly v celé Unii. Pokud budou během vývoje a testování těchto systémů zjištěna významná rizika, musí dojít k jejich okamžitému zmírnění, a pokud se to nezdaří, k pozastavení procesu vývoje a testování, dokud nedojde ke zmírnění těchto rizik.

Pozměňovací návrh  13

 

Návrh nařízení

Bod odůvodnění 72

Znění navržené Komisí	Pozměňovací návrh
(72) Cílem těchto regulačních pískovišť by měla být podpora inovací UI na základě vytvoření kontrolovaného experimentálního a testovacího prostředí ve fázi vývoje a před uvedením na trh s cílem zajistit soulad inovativních systémů UI s tímto nařízením a s dalšími příslušnými právními předpisy Unie a členských států; dále posílení právní jistoty inovátorů, dohledu příslušných orgánů a jejich porozumění příležitostem, vznikajícím rizikům a dopadům používání UI, jakož i urychlení přístupu na trhy, mimo jiné odstraněním překážek pro malé a střední podniky a začínající podniky. Aby bylo zajištěno jednotné provádění v celé Unii a úspory z rozsahu, je vhodné stanovit společná pravidla pro zavádění regulačních pískovišť a rámec spolupráce mezi příslušnými orgány, které se podílejí na dohledu nad těmito pískovišti. Toto nařízení by mělo poskytnout právní základ pro použití osobních údajů shromážděných pro jiné účely k vývoji určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI v souladu s čl. 6 odst. 4 nařízení (EU) 2016/679 a s článkem 6 nařízení (EU) 2018/1725, aniž je dotčen čl. 4 odst. 2 směrnice (EU) 2016/680. Účastníci pískoviště by měli zajistit vhodné záruky a spolupracovat s příslušnými orgány, mimo jiné tím, že budou postupovat podle jejich pokynů a budou jednat rychle a v dobré víře s cílem zmírnit veškerá vysoká rizika pro bezpečnost a základní práva, která případně vzniknou v průběhu vývoje a experimentování v rámci pískoviště. Chování účastníků pískoviště by mělo být zohledněno při rozhodování příslušných orgánů o tom, zda uloží správní pokutu podle čl. 83 odst. 2 nařízení 2016/679 a podle článku 57 směrnice 2016/680.	(72) Cílem těchto regulačních pískovišť by měla být podpora inovací UI na základě vytvoření přísně kontrolovaného experimentálního a testovacího prostředí ve fázi vývoje a před uvedením na trh s cílem zajistit soulad inovativních systémů UI s tímto nařízením a s dalšími příslušnými právními předpisy Unie a členských států i s Listinou základních práv Evropské unie a obecným nařízením o ochraně údajů, dále posílení právní jistoty inovátorů, dohledu příslušných orgánů a jejich porozumění příležitostem, vznikajícím rizikům a dopadům používání UI, poskytnutí záruk potřebných k budování důvěry v systémy umělé inteligence a spoléhání se na ně jakož i urychlení přístupu na trhy, mimo jiné odstraněním překážek pro veřejný sektor, malé, střední a začínající podniky, přispění k dosažení cílů v oblasti umělé inteligence stanovených v politickém programu „Cesta do digitální dekády“, přispění k rozvoji etických, sociálně odpovědných a ekologicky udržitelných systémů umělé inteligence, se umožnila účinná účast malých, středních a začínajících podniků na regulačních pískovištích, měly by být náklady na dodržování předpisů udržovány na přiměřené úrovni, aby byl zajištěn vývoj důvěryhodných evropských řešení v oblasti umělé inteligence;  je vhodné stanovit společná pravidla pro zavádění regulačních pískovišť a rámec spolupráce mezi příslušnými orgány, které se podílejí na dohledu nad těmito pískovišti, a podpořit inovace. Toto nařízení by mělo poskytnout právní základ pro použití osobních údajů shromážděných pro jiné účely k vývoji určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI v souladu s čl. 6 odst. 4 nařízení (EU) 2016/679 a s článkem 6 nařízení (EU) 2018/1725, aniž je dotčen čl. 4 odst. 2 směrnice (EU) 2016/680. Účastníci pískoviště by měli zajistit vhodné záruky a spolupracovat s příslušnými orgány, mimo jiné tím, že budou postupovat podle jejich pokynů a budou jednat rychle a v dobré víře s cílem zmírnit veškerá vysoká rizika pro bezpečnost a základní práva, která případně vzniknou v průběhu vývoje a experimentování v rámci pískoviště. Chování účastníků pískoviště by mělo být zohledněno při rozhodování příslušných orgánů o tom, zda uloží správní pokutu podle čl. 83 odst. 2 nařízení 2016/679 a podle článku 57 směrnice 2016/680.

Pozměňovací návrh  14

 

Návrh nařízení

Bod odůvodnění 72 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(72a) Je žádoucí, aby se vytváření regulačních pískovišť, které je v současné době ponecháno na vůli členských států, stalo v příští fázi povinností, aby byla správně stanovena příslušná kritéria, aby byla zajištěna jak účinnost systému umělé inteligence, tak snazší přístup pro podniky, zejména malé a střední. Na vytváření podmínek pro zakládání regulačních pískovišť by se měly podílet výzkumné podniky a instituce.

Pozměňovací návrh  15

 

Návrh nařízení

Bod odůvodnění 73

Znění navržené Komisí	Pozměňovací návrh
(73) V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně zvyšování povědomí a informační komunikace. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů.	(73) V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně gramotnosti v oblasti umělé inteligence, zvyšování povědomí a informační komunikace. Členské státy by měly využít stávající kanály, případně vytvořit spěciální kanál pro komunikaci s malými, středními a začínajícími podniky, uživateli a dalšími inovátory, kde by byly poskytovány pokyny a který by reagoval na dotazy týkající se provádění tohoto nařízení. Tyto stávající kanály by mohly mimo jiné zahrnovat skupiny agentury ENISA pro reakci na počítačové bezpečnostní incidenty, vnitrostátní úřady pro ochranu údajů, platformu pro umělou inteligenci na vyžádání, evropská centra pro digitální inovace, další důležité nástroje financované na základě programů EU a testovací a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni Unie. Tyto kanály by měly spolupracovat na vytváření synergií a zajištění jednotných pokynů pro začínající, malé a střední podniky a uživatele. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Komise by měla pravidelně posuzovat náklady malých, středních a začínajících podniků na certifikaci a dodržování předpisů, mj. na základě transparentních konzultací s malými, středními a začínajícími podniky a uživateli, a psolupracovat s členskými státh na snižování těchto nákladů. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat naúríklad náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů. Střední podniky, které nedávno přešly z kategorie malých do kategorie středních podniků ve smyslu doporučení 2003/361/ES, by měly mít přístup k těmto iniciativám a pokynům po dobu, kterou členské státy považují za vhodnou, neboť tyto nové střední podniky někdy nemusejí mít k dispozici právní zdroje a odbornou přípravu nezbytné k zajištění řádného pochopení a dodržování ustanovení.

Pozměňovací návrh  16

 

Návrh nařízení

Bod odůvodnění 76 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(76a) Měl by být zřízen poradní sbor pro umělou inteligenci (dále jen „poradní sbor“) jako podskupina rady složená z příslušných zástupců průmyslu, výzkumu, akademické obce, občanské společnosti, normalizačních organizací, sociálních partnerů, malých a středních podniků, odborníků na problematiku základních práv a z dalších významných zainteresovaných stran zastupujících v zájmu zachování zeměpisné vyváženosti všechny členské státy. Poradní sbor by měl podporovat práci rady poskytováním poradenství v souvislosti s jejími úkoly. Poradní sbor by měl jmenovat zástupce, který by se účastnil zasedání rady a podílet se na její práci.

Pozměňovací návrh  17

 

Návrh nařízení

Bod odůvodnění 81

Znění navržené Komisí	Pozměňovací návrh
(81) Vývoj systémů UI s výjimkou vysoce rizikových systémů UI v souladu s požadavky tohoto nařízení může vést k rozsáhlejšímu zavádění důvěryhodné umělé inteligence v Unii. Poskytovatelé systémů UI, které nejsou vysoce rizikové, by měli být vybízeni k vytváření kodexů chování určených k podpoře dobrovolného uplatňování povinných požadavků platných pro vysoce rizikové systémy UI. Poskytovatelé by také měli být povzbuzováni k tomu, aby dobrovolně uplatňovali další požadavky týkající se například udržitelnosti životního prostředí, přístupnosti pro osoby se zdravotním postižením, zapojení zúčastněných stran do návrhu a vývoje systémů UI a rozmanitosti vývojových týmů. Komise může vyvíjet iniciativy, včetně iniciativ odvětvové povahy, s cílem usnadnit snižování technických překážek bránících přeshraniční výměně dat pro účely rozvoje UI, a to i ohledně infrastruktury pro přístup k datům a sémantické a technické interoperability různých druhů dat.	(81) Vývoj systémů UI s výjimkou rizikových systémů UI v souladu s požadavky tohoto nařízení může vést k rozsáhlejšímu zavádění důvěryhodné, sociálně odpovědné a environmentálně udržitelné umělé inteligence v Unii. Poskytovatelé systémů UI, které nejsou vysoce rizikové, by měli být vybízeni k vytváření kodexů chování určených k podpoře dobrovolného uplatňování povinných požadavků platných pro vysoce rizikové systémy UI. Poskytovatelé by také měli být povzbuzováni k tomu, aby dobrovolně uplatňovali další požadavky týkající se například udržitelnosti životního prostředí, přístupnosti pro osoby se zdravotním postižením, zapojení zúčastněných stran do návrhu a vývoje systémů UI a rozmanitosti vývojových týmů. Komise může vyvíjet iniciativy, včetně iniciativ odvětvové povahy, s cílem usnadnit snižování technických překážek bránících přeshraniční výměně dat pro účely rozvoje UI, a to i ohledně infrastruktury pro přístup k datům a sémantické a technické interoperability různých druhů dat.

Pozměňovací návrh  18

 

Návrh nařízení

Čl. 2 – odst. 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	5a. Tímto nařízením není dotčena žádná výzkumná činnost týkající se systémů umělé inteligence, pokud nevede k jejich uvedení na trh nebo do provozu nebo jej nevyžaduje. Tato výzkumná činnost nesmí porušovat základní práva dotyčných osob.

Pozměňovací návrh  19

 

Návrh nařízení

Čl. 2 – odst. 5 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	5b. Toto nařízení se nevztahuje na systémy umělé inteligence, včetně jejich výstupů, které byly speciálně vyvinuty a uvedeny do provozu výhradně za účelem vědeckého výzkumu v obecném zájmu Unie.

Pozměňovací návrh  20

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1

Znění navržené Komisí	Pozměňovací návrh
1) „systémem umělé inteligence“ (systém UI) software, který je vyvinut pomocí jedné nebo více technik a přístupů uvedených v příloze I, a který může pro danou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují;	1) „systémem umělé inteligence“ (systém UI) strojový systém, který může s různou mírou autonomie vytvářet pro danou sadu cílů definovaných člověkem predikce, obsah, doporučení nebo rozhodnutí ovlivňující skutečné nebo virtuální prostředí, s nimiž komunikují;

Pozměňovací návrh  21

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a) „autonomií“ situace, kdy systém umělé inteligence pracuje tak, že analyzuje určitá vstupní data a využívá soubor předem stanovených cílů, aniž by se omezoval na tyto pokyny, a to navzdory tomu, že jeho chování je omezeno cílem, který mu byl stanoven, a dalšími koncepčními rozhodnutími vývojáře a že je zaměřen na splnění tohoto cíle;

Pozměňovací návrh  22

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 2

Znění navržené Komisí	Pozměňovací návrh
2) „poskytovatelem“ fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které vyvíjí nebo nechávají vyvíjet systém UI za účelem jeho uvedení na trh nebo do provozu pod svým vlastním jménem nebo ochrannou známkou, ať už za úplatu, nebo zdarma;	2) „poskytovatelem“ fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které vyvíjejí nebo nechávají vyvíjet systém UI a uvádějí tento systém na trh nebo do provozu pod svým vlastním jménem nebo ochrannou známkou, ať už za úplatu, nebo zdarma;

Pozměňovací návrh  23

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 14

Znění navržené Komisí	Pozměňovací návrh
14) „bezpečnostní součástí produktu nebo systému“ součást produktu nebo systému, která plní bezpečnostní funkci pro daný produkt nebo systém, případně jejíž porucha nebo chybné fungování ohrožuje zdraví a bezpečnost osob nebo majetku;	14) „bezpečnostní součástí produktu nebo systému“ součást produktu nebo systému, která plní bezpečnostní funkci pro daný produkt nebo systém a jejíž porucha nebo chybné fungování ohrožuje zdraví a bezpečnost osob nebo majetku;

Pozměňovací návrh  24

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 – návětí

Znění navržené Komisí	Pozměňovací návrh
44) „závažným incidentem“ incident, který přímo nebo nepřímo vede, mohl vést nebo může vést k některému z těchto následků:	44) „závažným incidentem“ incident nebo chybné fungování systému umělé inteligence, které přímo nebo nepřímo vedou, mohly vést nebo mohou vést k některému z těchto následků:

Pozměňovací návrh  25

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) smrt určité osoby nebo závažné poškození zdraví určité osoby, majetku nebo životního prostředí;	a) smrt určité osoby nebo závažné poškození základních práv, bezpečnosti či zdraví určité osoby, majetku nebo životního prostředí;

Pozměňovací návrh  26

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 – písm. b a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ba) porušení povinností vyplývajících z práva Unie, jejichž cílem je ochrana základních práv.

Pozměňovací návrh  27

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	44a) „regulačním pískovištěm“ nástroj vytvořený  jedním nebo více příslušnými orgány členských států ve spolupráci s Komisí nebo evropským inspektorem ochrany údajů, jenž zajišťuje vhodné kontrolované a flexibilní prostředí, které usnadňuje bezpečný vývoj, testování a ověřování inovativních systémů umělé inteligence po omezenou dobu předtím, než jsou podle konkrétního plánu uvedeny na trh nebo do provozu;

Pozměňovací návrh  28

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	44b) „gramotností v oblasti umělé inteligence“ dovednosti, znalosti a porozumění týkající se systémů umělé inteligence, které jsou nezbytné k dodržování a prosazování tohoto nařízení;

Pozměňovací návrh  29

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	44c) „deep fake“ manipulovaný nebo syntetický zvukový, případně obrazový materiál, který vyvolává autentický dojem, v jehož rámci se zdánlivě odehrávají události, které se nikdy nestaly, a který byl vytvořen pomocí technik v oblasti umělé inteligence, včetně strojového učení a hlubokého učení, aniž by si uživatel nebo koncový uživatel uvědomoval, že zvukový, případně obrazový materiál byl vytvořen pomocí umělé inteligence;

Pozměňovací návrh  30

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	44d) „kritickou infrastrukturou“ jednotka, systém nebo jeho část, které jsou nezbytné k poskytování služby, jež má zásadní význam pro zachování životně důležitých společenských funkcí nebo hospodářské činnosti ve smyslu čl. 2 odst. 4 a 5 směrnice [...] o odolnosti kritických subjektů (2020/0365(COD));

Pozměňovací návrh  31

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 e (nový)

Znění navržené Komisí	Pozměňovací návrh
	44e) „osobními údaji“ osobní údaje ve smyslu čl. 4 bodu 1 nařízení (EU) 2016/679;

Pozměňovací návrh  32

 

Návrh nařízení

Čl. 3 – odst. 1 – bod 44 f (nový)

Znění navržené Komisí	Pozměňovací návrh
	44f) „neosobními údaji“ údaje jiné než osobní údaje ve smyslu čl. 4 bodu 1 nařízení (EU) 2016/679;

Pozměňovací návrh  33

 

Návrh nařízení

Čl. 4 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem změny seznamu technik a přístupů uvedených v příloze I s cílem tento seznam aktualizovat podle tržního a technologického vývoje na základě vlastností, které jsou podobné technikám a přístupům, jež jsou v něm uvedeny.	Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem změny seznamu technik a přístupů uvedených v příloze I v mezích definice systému umělé inteligence podle čl. 3 odst. 1 s cílem tento seznam aktualizovat podle tržního a technologického vývoje na základě vlastností, které jsou podobné technikám a přístupům, jež jsou v něm uvedeny.

Pozměňovací návrh  34

 

Návrh nařízení

Čl. 4 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Při vypracovávání těchto aktů v přenesené pravomoci zajistí Komise účast všech příslušných zúčastněných stran, jako jsou techničtí odborníci a vývojáři systémů UI.

Pozměňovací návrh  35

 

Návrh nařízení

Čl. 10 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Vysoce rizikové systémy UI, které využívají techniky zahrnující trénování modelů obsahujících data, jsou vyvíjeny na základě souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat, které splňují kritéria kvality uvedená v odstavcích 2 až 5.	1. Rizikové systémy UI, které využívají techniky zahrnující trénování modelů obsahujících data, jsou vyvíjeny na základě souborů tréninkových dat, dat pro hodnocení, dat pro ověřování platnosti a testovacích dat, které splňují kritéria kvality uvedená v odstavcích 2 až 5, pokud to je z technického hlediska možné, přičemž se přihlíží k nejmodernějším opatřením podle konkrétního segmentu trhu nebo oblasti použití.

Pozměňovací návrh  36

 

Návrh nařízení

Čl. 10 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. Techniky, jako je učení bez učitele a posilované učení, které nepoužívají soubory dat pro ověřování platnosti a testovacích dat, se vyvíjejí na základě souborů tréninkových dat, která splňují kritéria kvality uvedená v odstavcích 2 až 5.

Pozměňovací návrh  37

 

Návrh nařízení

Čl. 10 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	1b. Poskytovatelé rizikových systémů UI, kteří využívají údaje shromážděné a/nebo spravované třetími stranami, se mohou spoléhat na prohlášení těchto třetích stran ohledně kritérií kvality uvedených v odst. 2 písm. a), b) a c).

Pozměňovací návrh  38

 

Návrh nařízení

Čl. 10 – odst. 2 – návětí

Znění navržené Komisí	Pozměňovací návrh
2. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat podléhají příslušným postupům v oblasti správy a řízení dat. Tyto postupy se týkají zejména:	2. Soubory tréninkových dat, dat pro hodnocení, dat pro ověřování platnosti a testovacích dat podléhají příslušným postupům v oblasti správy a řízení dat po celou dobu životního cyklu zpracovávání údajů. Tyto postupy se týkají zejména následujících prvků:

Pozměňovací návrh  39

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. a a (nové)

Znění navržené Komisí	Pozměňovací návrh
	aa) transparentnosti, pokud jde o původní účel sběru dat;

Pozměňovací návrh  40

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) sběru dat;	b) postupů při sběru dat;

Pozměňovací návrh  41

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. f

Znění navržené Komisí	Pozměňovací návrh
f) zkoumání s ohledem na potenciální zkreslení;	f) zkoumání s ohledem na potenciální zkreslení, které by mohlo ovlivnit zdraví a bezpečnost osob, mít negativní dopad na základní práva nebo vést k diskriminaci, kterou právo Unie zakazuje; včetně případů, kdy jsou výstupy údajů použity jako vstup pro budoucí operace („zpětnovazební smyčky“);

Pozměňovací návrh  42

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. g

Znění navržené Komisí	Pozměňovací návrh
g) identifikace případných nedostatků nebo chyb v datech a způsob, jak tyto nedostatky a chyby vyřešit.	g) identifikace jakýchkoli případných nedostatků nebo chyb v datech a způsob, jak tyto nedostatky a chyby vyřešit;

Pozměňovací návrh  43

 

Návrh nařízení

Čl. 10 – odst. 2 – písm. g a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ga) účelu a prostředí, ve kterém má být systém používán.

Pozměňovací návrh  44

 

Návrh nařízení

Čl. 10 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat musí být relevantní, reprezentativní, bez chyb a úplné. Musí mít příslušné statistické vlastnosti a tam, kde je to relevantní, rovněž s ohledem na osoby nebo skupiny osob, pro které má být daný vysoce rizikový systém UI používán. Tyto vlastnosti souborů dat lze splnit na úrovni jednotlivých souborů dat nebo jejich kombinací.	3. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat jsou navrhovány s největším možným úsilím o zajištění toho, aby byly relevantní, reprezentativní a náležitě prověřené z hlediska chyb s ohledem na určený účel systému UI. Zejména musí mít příslušné statistické vlastnosti a tam, kde je to relevantní, rovněž s ohledem na osoby nebo skupiny osob, pro které má být daný rizikový systém UI používán. Tyto vlastnosti souborů dat lze splnit na úrovni jednotlivých souborů dat nebo jejich kombinací.

Pozměňovací návrh  45

 

Návrh nařízení

Čl. 10 – odst. 4

Znění navržené Komisí	Pozměňovací návrh
4. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat zohledňují v rozsahu nezbytném pro jejich určený účel vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální nebo funkční prostředí ve kterém má být daný vysoce rizikový systém UI používán.	4. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat zohledňují v rozsahu nezbytném pro jejich určený účel vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální, kontextové nebo funkční prostředí ve kterém má být daný rizikový systém UI používán.

Pozměňovací návrh  46

 

Návrh nařízení

Čl. 15 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Vysoce rizikové systémy UI jsou navrženy a vyvinuty tak, aby s ohledem na svůj určený účel dosahovaly odpovídající úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti a aby v tomto ohledu dosahovaly konzistentních výsledků v průběhu celého svého životního cyklu.	1. Rizikové systémy UI jsou navrženy a vyvinuty v souladu se zásadou bezpečnosti již od návrhu a standardní bezpečnosti. S ohledem na svůj určený účel by měly mít odpovídající úroveň přesnosti, spolehlivosti, bezpečnosti a kybernetické bezpečnosti a dosahovat v tomto ohledu konzistentních výsledků v průběhu celého svého životního cyklu. Splnění těchto požadavků musí být spojeno s prováděním nejmodernějších opatření podle konkrétního segmentu trhu nebo oblasti použití.

Pozměňovací návrh  47

 

Návrh nařízení

Čl. 15 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	1a. S cílem řešit technické aspekty toho, jak měřit odpovídající úrovně přesnosti a spolehlivosti stanovené v odstavci 1 tohoto článku, sdružuje Evropská rada pro umělou inteligenci vnitrostátní orgány pro metrologii a referenční srovnávání a poskytuje nezávazné pokyny v této záležitosti, jak je stanoveno v čl. 56 odst. 2 písm. a).

Pozměňovací návrh  48

 

Návrh nařízení

Čl. 15 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	1b. Do řešení nových problémů na vnitřním trhu týkajících se kybernetické bezpečnosti se zapojí Agentura Evropské unie pro kybernetickou bezpečnost (ENISA) spolu s Evropskou radou pro umělou inteligenci, jak je stanoveno v čl. 56 odst. 2 písm. b).

Pozměňovací návrh  49

 

Návrh nařízení

Čl. 15 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Úrovně přesnosti a příslušná měřítka přesnosti vysoce rizikových systémů UI jsou oznámeny v přiloženém návodu k použití.	2. Úrovně přesnosti a příslušná měřítka přesnosti rizikových systémů UI jsou oznámeny v přiloženém návodu k použití. Použité formulace musejí být jasné a nesmějí vést k nedorozumění nebo či obsahovat zavádějící tvrzení.

Pozměňovací návrh  50

 

Návrh nařízení

Čl. 15 – odst. 3 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Vysoce rizikové systémy UI musí být odolné vůči chybám, poruchám nebo nesrovnalostem, které se mohou vyskytnout v daném systému nebo v prostředí, ve kterém tento systém funguje, zejména v důsledku jejich interakce s fyzickými osobami nebo jinými systémy.	Je třeba přijmout technická a organizační opatření, jež zajistí, aby rizikové systémy UI byly co nejodolnější vůči chybám, poruchám nebo nesrovnalostem, které se mohou vyskytnout v daném systému nebo v prostředí, ve kterém tento systém funguje, zejména v důsledku jejich interakce s fyzickými osobami nebo jinými systémy.

Pozměňovací návrh  51

 

Návrh nařízení

Čl. 15 – odst. 3 – pododstavec 2

Znění navržené Komisí	Pozměňovací návrh
Spolehlivosti vysoce rizikových systémů UI lze dosáhnout pomocí technicky redundantních řešení, která mohou zahrnovat plány zálohování nebo zajištění proti selhání.	Spolehlivosti rizikových systémů UI může příslušný poskytovatel, případně za přispění uživatele, dosáhnout pomocí technicky redundantních řešení, která mohou zahrnovat plány zálohování nebo zajištění proti selhání.

Pozměňovací návrh  52

 

Návrh nařízení

Čl. 15 – odst. 3 – pododstavec 3

Znění navržené Komisí	Pozměňovací návrh
Vysoce rizikové systémy UI, které se po uvedení na trh nebo do provozu dále učí, musí být vyvíjeny způsobem zajišťujícím, že výstupy, které budou případně zkresleny v důsledku výstupů použitých jako vstup pro budoucí operace („smyčky zpětné vazby“) budou řádně řešeny formou vhodných zmírňujících opatření.	Vysoce rizikové systémy UI, které se po uvedení na trh nebo do provozu dále učí, musí být vyvíjeny způsobem zajišťujícím, že výstupy, které budou případně zkresleny v důsledku výstupů ovlivňujících vstup pro budoucí operace („smyčky zpětné vazby“) a zlovolné manipulace se vstupy použitými při učení během operace budou řádně řešeny formou vhodných zmírňujících opatření.

Pozměňovací návrh  53

 

Návrh nařízení

Čl. 15 – odst. 4 – pododstavec 1

Znění navržené Komisí	Pozměňovací návrh
Vysoce rizikové systémy UI musí být odolné proti pokusům neoprávněných třetích stran změnit jejich použití nebo výkonnost zneužitím zranitelných míst těchto systémů.	Rizikové systémy UI musí být odolné proti pokusům neoprávněných třetích stran změnit jejich použití, chování, výstupy nebo výkonnost zneužitím zranitelných míst těchto systémů.

Pozměňovací návrh  54

 

Návrh nařízení

Čl. 15 – odst. 4 – pododstavec 3

Znění navržené Komisí	Pozměňovací návrh
Technická řešení umožňující řešení zranitelných míst specifických pro UI zahrnují tam, kde je to vhodné, opatření pro prevenci a kontrolu útoků, které se pokoušejí manipulovat soubory tréninkových dat (tzv. data poisoning), vstupů, jejichž cílem je přimět daný model k tomu, aby udělal chybu (tzv. matoucí vzory), nebo chyb v modelech.	Technická řešení umožňující řešení zranitelných míst specifických pro UI zahrnují tam, kde je to vhodné, opatření pro prevenci, odhalování, vyřešení a kontrolu útoků, které se pokoušejí manipulovat soubory tréninkových dat (tzv. data poisoning) nebo předtrénovaných součástí používaných v tréninku (tzv. model poisoning), vstupů, jejichž cílem je přimět daný model k tomu, aby udělal chybu (tzv. matoucí vzory nebo vyhýbání se modelu), útoků na důvěrnost nebo chyb v modelech, které mohou vést k závadnému rozhodování, a také opatření v oblasti reakce na tyto útoky.

Pozměňovací návrh  55

 

Návrh nařízení

Čl. 40 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Komise zajistí, aby proces tvorby harmonizovaných norem zahrnoval posouzení rizik z hlediska základních práv, životního prostředí a společnosti jako celku.

Pozměňovací návrh  56

 

Návrh nařízení

Čl. 40 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Komise zajistí, aby byl proces vypracovávání harmonizovaných norem pro systémy umělé inteligence otevřený v souladu s články 5 a 6 nařízení (EU) č. 1025/2012 zúčastněným stranám, včetně malých a středních podniků.

Pozměňovací návrh  57

 

Návrh nařízení

Čl. 40 – odst. 1 c (nový)

Znění navržené Komisí	Pozměňovací návrh
	Za tímto účelem poskytne Komise v souladu s článkem 17 nařízení (EU) č. 1025/2012 finanční prostředky, které usnadní jejich účinnou účast.

Pozměňovací návrh  58

 

Návrh nařízení

Čl. 40 – odst. 1 d (nový)

Znění navržené Komisí	Pozměňovací návrh
	Komise přezkoumá harmonizované normy před jejich zveřejněním v Úředním věstníku a vypracuje zprávu o jejich souladu s odstavcem 1a a 1b tohoto článku.

Pozměňovací návrh  59

 

Návrh nařízení

Čl. 41 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Pokud neexistují harmonizované normy uvedené v článku 40 nebo pokud má Komise za to, že příslušné harmonizované normy nejsou dostatečné nebo že je třeba reagovat na konkrétní obavy týkající se bezpečnosti nebo základních práv, může Komise prostřednictvím prováděcích aktů přijímat společné specifikace, pokud jde o požadavky stanovené v kapitole 2 této hlavy. Tyto prováděcí akty se přijímají přezkumným postupem podle čl. 74 odst. 2.	1. Pokud neexistují harmonizované normy uvedené v článku 40 nebo pokud má Komise za to, že příslušné harmonizované normy jsou nedostatečné nebo že je třeba reagovat na konkrétní a naléhavé obavy týkající se bezpečnosti nebo základních práv, které nelze dostatečně vyřešit vypracováním harmonizovaných norem, může prostřednictvím prováděcích aktů přijímat společné specifikace, pokud jde o požadavky stanovené v kapitole 2 této hlavy. Tyto prováděcí akty se přijímají přezkumným postupem podle čl. 74 odst. 2.

Pozměňovací návrh  60

 

Návrh nařízení

Čl. 41 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Při přípravě společných specifikací uvedených v odstavci 1 shromáždí Komise názory příslušných subjektů nebo skupin odborníků zřízených podle příslušných odvětvových právních předpisů Unie.	2. Při přípravě společných specifikací uvedených v odstavci 1 shromáždí Komise názory vývojářů či poskytovatelům rizikových systémů umělé inteligence a příslušných zúčastněných stran, jako jsou malé, střední začínající podniky, občanská společnost a sociální partneři, nebo skupin odborníků zřízených podle příslušných odvětvových právních předpisů Unie.

Pozměňovací návrh  61

 

Návrh nařízení

Čl. 42 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. U vysoce rizikových systémů UI, které byly trénovány a testovány na údajích týkajících se konkrétního zeměpisného, behaviorálního a funkčního prostředí, ve kterém mají být používány, se s ohledem na jejich zamýšlený účel předpokládá, že jsou v souladu s požadavkem stanoveným v čl. 10 odst. 4.	1. U rizikových systémů UI, které byly trénovány a testovány na údajích týkajících se konkrétního zeměpisného, behaviorálního, kontextového a funkčního prostředí, ve kterém mají být používány, se s ohledem na jejich zamýšlený účel předpokládá, že jsou v souladu s požadavkem stanoveným v čl. 10 odst. 4.

Pozměňovací návrh  62

 

Návrh nařízení

Čl. 42 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Má se za to, že vysoce rizikové systémy UI, které byly certifikovány nebo pro které bylo vydáno prohlášení o shodě v rámci systému kybernetické bezpečnosti podle nařízení Evropského parlamentu a Rady (EU) 2019/88163 a odkaz na něž byl zveřejněn v Úředním věstníku Evropské unie, jsou v souladu s požadavky na kybernetickou bezpečnost stanovenými v článku 15 tohoto nařízení, pokud se tento certifikát o kybernetické bezpečnosti nebo prohlášení o shodě, případně jejich části, na tyto požadavky vztahují.	2. V příslušných případech se má za to, že rizikové systémy UI, které byly certifikovány nebo pro které bylo vydáno prohlášení o shodě v rámci systému kybernetické bezpečnosti podle nařízení Evropského parlamentu a Rady (EU) 2019/88163 a odkaz na něž byl zveřejněn v Úředním věstníku Evropské unie, jsou případně v souladu s požadavky na kybernetickou bezpečnost stanovenými v článku 15 tohoto nařízení, pokud se tento certifikát o kybernetické bezpečnosti nebo prohlášení o shodě, případně jejich části, na tyto požadavky vztahují.
__________________	__________________
63 Nařízení Evropského parlamentu a Rady (EU) 2019/881 ze dne 17. dubna 2019 o agentuře ENISA („Agentuře Evropské unie pro kybernetickou bezpečnost“), o certifikaci kybernetické bezpečnosti informačních a komunikačních technologií a o zrušení nařízení (EU) č. 526/2013 („akt o kybernetické bezpečnosti“) (Úř. věst. L 151, 7.6.2019, s. 1).	63 Nařízení Evropského parlamentu a Rady (EU) 2019/881 ze dne 17. dubna 2019 o agentuře ENISA („Agentuře Evropské unie pro kybernetickou bezpečnost“), o certifikaci kybernetické bezpečnosti informačních a komunikačních technologií a o zrušení nařízení (EU) č. 526/2013 („akt o kybernetické bezpečnosti“) (Úř. věst. L 151, 7.6.2019, s. 1).

Pozměňovací návrh  63

 

Návrh nařízení

Čl. 43 – odst. 1 – pododstavec 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Pokud poskytovatel již zavedl vnitřní organizaci a struktury pro stávající posuzování shody nebo dodržování požadavků na základě jiných stávajících právních předpisů, může pro zajištění shody využít tyto stávající struktury nebo jejich části, pokud mají rovněž kapacitu a způsobilost potřebnou ke splnění požadavků na výrobek stanovených v tomto nařízení.

Pozměňovací návrh  64

 

Návrh nařízení

Čl. 43 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace příloh VI a VII s cílem zavést prvky postupů posuzování shody, které mohou být nutné s ohledem na technický pokrok.	5. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace příloh VI a VII s cílem zavést prvky postupů posuzování shody, které mohou být nutné s ohledem na technický pokrok. Komise vede konzultace s Evropskou radou pro umělou inteligenci zřízenou podle článku 56 a se všemi příslušnými zúčastněnými stranami.

Pozměňovací návrh  65

 

Návrh nařízení

Čl. 43 – odst. 6

Znění navržené Komisí	Pozměňovací návrh
6. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci za účelem změny odstavců 1 a 2 s cílem podrobit vysoce rizikové systémy UI uvedené v bodech 2 až 8 přílohy III postupu posuzování shody uvedenému v příloze VII nebo jejích částech. Komise přijímá tyto akty v přenesené pravomoci s přihlédnutím k účinnosti postupu posuzování shody založeného na vnitřní kontrole podle přílohy VI v oblasti prevence nebo minimalizace rizik pro zdraví, bezpečnost a ochranu základních práv, která tyto systémy představují, jakož i k dostupnosti přiměřených kapacit a zdrojů mezi oznámenými subjekty.	6. Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci za účelem změny odstavců 1 a 2 s cílem podrobit vysoce rizikové systémy UI uvedené v bodech 2 až 8 přílohy III postupu posuzování shody uvedenému v příloze VII nebo jejích částech. Komise přijímá tyto akty v přenesené pravomoci s přihlédnutím k účinnosti postupu posuzování shody založeného na vnitřní kontrole podle přílohy VI v oblasti prevence nebo minimalizace rizik pro zdraví, bezpečnost a ochranu základních práv, která tyto systémy představují, jakož i k dostupnosti přiměřených kapacit a zdrojů mezi oznámenými subjekty. Komise vede konzultace s Evropskou radou pro umělou inteligenci zřízenou podle článku 56 a se všemi příslušnými zúčastněnými stranami.

Pozměňovací návrh  66

 

Návrh nařízení

Čl. 44 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Certifikáty vydané oznámenými subjekty v souladu s přílohou VII se vyhotovují v úředním jazyce Unie, který stanoví členský stát, v němž je oznámený subjekt usazen, nebo v úředním jazyce Unie, který je pro oznámený subjekt případně jinak přijatelný.	1. Certifikáty vydané oznámenými subjekty v souladu s přílohou VII se vyhotovují v jednom nebo několika z úředních jazyků, které stanoví členský stát, v němž je oznámený subjekt usazen, nebo v jednom nebo několika z úředních jazyků, které jsou pro oznámený subjekt případně přijatelné jinak.

Pozměňovací návrh  67

 

Návrh nařízení

Čl. 48 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Poskytovatel vypracuje pro každý systém UI písemné EU prohlášení o shodě a po dobu deseti let od uvedení systému UI na trh nebo do provozu je uchovává pro potřebu příslušných vnitrostátních orgánů. V EU prohlášení o shodě je uveden systém UI, pro nějž bylo vypracováno. Kopie EU prohlášení o shodě bude na vyžádání poskytnuta dotčeným příslušným vnitrostátním orgánům.	1. Poskytovatel vypracuje pro každý systém UI písemné EU prohlášení o shodě a po dobu deseti let od uvedení systému UI na trh nebo do provozu je uchovává pro potřebu příslušných vnitrostátních orgánů. V EU prohlášení o shodě je uveden systém UI, pro nějž bylo vypracováno. Kopie EU prohlášení o shodě bude na vyžádání příslušného vnitrostátního orgánu poskytnuta dotyčnému příslušnému orgánu členského státu, v němž má poskytovatel hlavní provozovnu.

Pozměňovací návrh  68

 

Návrh nařízení

Čl. 51 – odst. 1 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	Rizikový systém UI navržený, vyvinutý, trénovaný, ověřený, testovaný nebo schválený k uvedení na trh nebo do provozu mimo EU může být zaregistrován v databázi EU podle článku 60 a uveden na trh nebo do provozu v EU pouze tehdy, pokud je prokázáno, že ve všech fázích jeho návrhu, vývoje, trénování, ověřování, testování nebo schvalování byly splněny veškeré povinnosti, které se od takových systémů umělé inteligence v EU vyžadují.

Pozměňovací návrh  69

 

Návrh nařízení

Čl. 51 – odst. 1 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	Před použitím rizikového systému umělé inteligence podle čl. 6 odst. 2. jej uživatel nebo případně zplnomocněný zástupce zaregistruje do databáze EU uvedené v článku 60. Při každém použití takového rizikového systému musí uživatel vyplnit nový registrační záznam.

Pozměňovací návrh  70

 

Návrh nařízení

Čl. 53 – odst. 1

Znění navržené Komisí	Pozměňovací návrh
1. Regulační pískoviště UI vytvořená jedním nebo více příslušnými orgány členských států nebo evropským inspektorem ochrany údajů poskytují kontrolované prostředí, které usnadňuje vývoj, testování a ověřování inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle konkrétního plánu. K tomu dochází pod přímým dohledem a vedením příslušných orgánů s cílem zajistit soulad s požadavky tohoto nařízení a případně dalších právních předpisů Unie a členských států, nad nimiž je prováděn dohled v rámci tohoto pískoviště.	1. Regulační pískoviště UI vytvořená jedním nebo více příslušnými orgány členských států ve spolupráci s Komisí nebo evropským inspektorem ochrany údajů poskytují kontrolované prostředí, které usnadňuje bezpečný vývoj, testování a ověřování inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle konkrétního plánu, přičemž malé, střední a začínající podniky, společnosti, inovátoři a další příslušné subjekty mohou být do činnosti regulačního pískoviště zapojeni jako partneři. K tomu dochází pod přímým dohledem a vedením Komise ve spolupráci s příslušnými orgány s cílem zjišťovat rizika, zejména pro bezpečnost, zdraví a základní práva, zajistit soulad s požadavky tohoto nařízení a případně dalších právních předpisů Unie a členských států, nad nimiž je prováděn dohled v rámci tohoto pískoviště. Komise plní doplňkovou úlohu, kdy na jedné straně umožňuje členským státům s prokázanými zkušenostmi s pískovištěm stavět na svých odborných znalostech a na druhé straně pomáhá členským státům, které žádají o pokyny ohledně zřízení a provozu těchto regulačních pískovišť, a poskytuje jim odborné poznatky a zdroje.

Pozměňovací návrh  71

 

Návrh nařízení

Čl. 53 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Členské státy zajistí, aby v rozsahu, v němž dané inovativní systémy UI zahrnují zpracování osobních údajů nebo jinak spadají do oblasti dohledu jiných vnitrostátních orgánů nebo příslušných orgánů poskytujících nebo podporujících přístup k údajům, byly vnitrostátní orgány pro ochranu údajů a tyto další vnitrostátní orgány spojovány s fungováním daného regulačního pískoviště UI.	2. Členské státy ve spolupráci s Komisí zajistí, aby v rozsahu, v němž dané inovativní systémy UI zahrnují zpracování osobních údajů nebo jinak spadají do oblasti dohledu jiných vnitrostátních orgánů nebo příslušných orgánů poskytujících nebo podporujících přístup k údajům, byly vnitrostátní orgány pro ochranu údajů a tyto další vnitrostátní orgány spojovány s fungováním daného regulačního pískoviště UI.

Pozměňovací návrh  72

 

Návrh nařízení

Čl. 53 – odst. 3

Znění navržené Komisí	Pozměňovací návrh
3. Regulační pískoviště UI nebudou mít vliv na pravomoci příslušných orgánů v oblasti dohledu a nápravy. Veškerá významná rizika pro zdraví, bezpečnost a základní práva, která budou zjištěna během vývoje a testování těchto systémů, budou mít za následek okamžité zmírnění, a pokud se to nezdaří, pozastavení procesu vývoje a testování, dokud k tomuto zmírnění nedojde.	3. Regulační pískoviště UI nebudou mít vliv na pravomoci příslušných orgánů v oblasti dohledu a nápravy, a to ani na regionální či místní úrovni. Zjištění jakéhokoli významného rizika pro zdraví, bezpečnost, základní práva, demokracii nebo životní prostředí, která budou zjištěna během vývoje a testování těchto systémů, bude mít za následek jeho okamžité zmírnění, a pokud se to nezdaří, pozastavení procesu vývoje a testování, dokud ke zmírnění tohoto rizika nedojde.

Pozměňovací návrh  73

 

Návrh nařízení

Čl. 53 – odst. 5

Znění navržené Komisí	Pozměňovací návrh
5. Příslušné orgány členských států, které zřídily regulační pískoviště UI, koordinují své činnosti a spolupracují v rámci Evropské rady pro umělou inteligenci. Předkládají této radě a Komisi výroční zprávy o výsledcích provádění uvedených systémů, včetně osvědčených postupů, získaných zkušeností a doporučení o jejich uspořádání a případně o uplatňování tohoto nařízení a dalších právních předpisů Unie, nad nimiž je prováděn dohled v rámci daného pískoviště.	5. Příslušné orgány členských států a Komise koordinují svou činnost v souvislosti s regulačními pískovišti UI a spolupracují v rámci Evropské rady pro umělou inteligenci. Komise předkládá Evropské radě pro umělou inteligenci výroční zprávy o výsledcích zavádění uvedených systémů, včetně osvědčených postupů, energetické spotřeby výpočetní techniky a její účinnosti, získaných zkušeností a doporučení o jejich uspořádání a případně o uplatňování tohoto nařízení a dalších právních předpisů Unie, nad nimiž je prováděn dohled v rámci daného pískoviště. Malým, středním a začínajícím podnikům, společnostem a dalším inovátorům se doporučuje, aby se s příslušnými orgány členských států podělili o své osvědčené postupy, získané zkušenosti a doporučení týkající se jejich pískovišť pro umělou inteligenci.

Pozměňovací návrh  74

 

Návrh nařízení

Čl. 53 – odst. 6 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	6a. Komise zavede pracovní program EU pro regulační pískoviště UI, jehož způsoby fungování uvedené v čl. 53 odst. 6 zahrnují prvky stanovené v příloze IXa. Komise aktivně koordinuje svou činnost s vnitrostátními a případně i místními orgány.

Pozměňovací návrh  75

 

Návrh nařízení

Čl. 55 – název

Znění navržené Komisí	Pozměňovací návrh
Opatření pro malé poskytovatele a uživatele	Opatření pro malé, střední a začínající podniky a uživatele

Pozměňovací návrh  76

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. a

Znění navržené Komisí	Pozměňovací návrh
a) poskytovat malým poskytovatelům a začínajícím podnikům přednostní přístup k regulačním pískovištím UI v rozsahu, v jakém splňují podmínky způsobilosti;	a) poskytovat malým, středním a začínajícím podniků usazeným v EU přednostní přístup k regulačním pískovištím UI v rozsahu, v jakém splňují podmínky způsobilosti;

Pozměňovací návrh  77

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. b

Znění navržené Komisí	Pozměňovací návrh
b) organizovat konkrétní činnosti zaměřené na zvyšování povědomí o uplatňování tohoto nařízení přizpůsobené potřebám malých poskytovatelů a uživatelů;	b) organizovat konkrétní činnosti zaměřené na posilování rozvoje digitálních dovedností a zvyšování povědomí, pokud jde o uplatňování tohoto nařízení, přizpůsobené potřebám malých, středních a začínajících podniků a uživatelů;

Pozměňovací návrh  78

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) případně zřídit vyhrazený kanál pro komunikaci s malými poskytovateli a uživateli a dalšími inovátory, který bude poskytovat pokyny a reagovat na dotazy týkající se provádění tohoto nařízení.	c) případně zřídit vyhrazený nový kanál pro komunikaci s malými, středními a začínajícími podniky, uživateli a dalšími inovátory, kde by byly poskytovány pokyny a který by reagoval na dotazy týkající se provádění tohoto nařízení.

Pozměňovací návrh  79

 

Návrh nařízení

Čl. 55 – odst. 1 – písm. c a (nové)

Znění navržené Komisí	Pozměňovací návrh
	ca) podporovat účast malých a středních podniků a dalších příslušných zúčastněných stran na procesu rozvoje normalizace.

Pozměňovací návrh  80

 

Návrh nařízení

Čl. 55 – odst. 2

Znění navržené Komisí	Pozměňovací návrh
2. Při stanovování poplatků za posuzování shody podle článku 43 jsou zohledňovány zvláštní zájmy a potřeby malých poskytovatelů, přičemž se tyto poplatky snižují úměrně jejich velikosti a velikosti trhu.	2. Při stanovování poplatků za posuzování shody podle článku 43 jsou zohledňovány zvláštní zájmy a potřeby malých, středních a začínajících podniků a uživatelů, přičemž se tyto poplatky snižují úměrně fázi jejich rozvoje, jejich velikosti, velikosti trhu a poptávce na trhu. Komise pravidelně posuzuje náklady malých, středních a začínajících podniků na certifikaci a dodržování předpisů, mj. na základě transparentních konzultací s malými, středními a začínajícími podniky a uživateli, a spolupracuje podle možnosti s členskými státy na snižování těchto nákladů. Komise podá zprávu o těchto zjištěních Evropskému parlamentu a Radě v rámci zprávy o hodnocení a přezkumu tohoto nařízení podle čl. 84 odst. 2.

Pozměňovací návrh  81

 

Návrh nařízení

Čl. 57 – odst. 3 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	3a. Rada zřídí poradní sbor pro umělou inteligenci (dále jen „poradní sbor“). Tento sbor se skládá z příslušných zástupců průmyslu, výzkumu, akademické obce, občanské společnosti, normalizačních organizací a dalších příslušných zúčastněných stran nebo třetích stran jmenovaných radou, kteří zastupují všechny členské státy, aby byla zachována zeměpisná vyváženost. Poradní sbor podporuje práci rady poskytováním poradenství v souvislosti s jejími úkoly. Poradní sbor jmenuje příslušného zástupce v závislosti na složení, v němž se rada schází, aby se účastnil zasedání rady a podílel se na její práci. Složení poradního sboru a jeho doporučení radě se zveřejňují.

Pozměňovací návrh  82

 

Návrh nařízení

Příloha I – písm. c

Znění navržené Komisí	Pozměňovací návrh
c) statistické přístupy, bayesovské odhadování, metody vyhledávání a optimalizace	c) statistické přístupy k učení a inferenci, bayesovské odhadování, metody vyhledávání a optimalizace

Pozměňovací návrh  83

 

Návrh nařízení

Příloha IX a (nová)

Znění navržené Komisí	Pozměňovací návrh
	ANNEX IXa
	Způsoby fungování programu pro činnost regulačního pískoviště v oblasti umělé inteligence
	1.  Regulační pískoviště umělé inteligence jsou součástí programu pro činnost regulačního pískoviště EU v oblasti umělé inteligence (dále jen „program pro regulační pískoviště“), který zavede Komise ve spolupráci s členskými státy.
	2.  Komise plní doplňkovou úlohu, kdy na jedné straně umožňuje členským státům s prokázanými zkušenostmi s pískovištěm stavět na svých odborných znalostech a na odborných znalostech příslušných zúčastněných stran z průmyslu, malých a středních podniků, akademické obce a občanské společnosti a na druhé straně pomáhá členským státům, které žádají o pokyny ohledně zřízení těchto regulačních pískovišť, a poskytuje jim odborné poznatky a zdroje.
	3.  Kritéria pro přístup do regulačního pískoviště by měla být transparentní a konkurenceschopná.
	4.  Účastníkům programu pro pískoviště, zejména malým poskytovatelům, je umožněn přístup ke službám před zavedením programu, jako je předběžná registrace jejich systému UI, podpůrné služby pro výzkum a vývoj v oblasti dodržování předpisů, a ke všem dalším relevantním prvkům ekosystému umělé inteligence Unie a dalším iniciativám jednotného digitálního trhu, jako jsou testovací a experimentální zařízení, digitální centra, centra excelence a kapacity EU pro srovnávání a k dalším službám s přidanou hodnotou, jako jsou normalizační dokumenty a certifikace, konzultace a podpora v provádění posouzení dopadů systémů umělé inteligence na základní práva, životní prostředí a obecně společnost, online sociální platforma pro komunitu, databáze kontaktů, stávající portál pro nabídková řízení a udělování grantů a seznamy investorů z EU.
	5.  Cílem programu pro regulační pískoviště bude v pozdější fázi poskytování pomoci členským státům při vytváření a spravování dvou druhů regulačních pískovišť: fyzických regulačních pískovišť pro systémy umělé inteligence začleněné do fyzických produktů nebo služeb a kybernetických regulačních pískovišť pro systémy umělé inteligence provozované a používané samostatně, které nejsou součástí fyzických produktů nebo služeb.
	6.  Program pro regulační pískoviště bude spolupracovat s již zavedenými centry pro digitální inovace v členských státech s cílem poskytnout podnikatelům specializované kontaktní místo, aby se mohli obracet na příslušné orgány a žádat o nezávazné pokyny ohledně souladu inovativních produktů, služeb nebo obchodních modelů, v nichž jsou začleněny technologie umělé inteligence.
	7.  Jedním z cílů programu pro regulační pískoviště je umožnit podnikům zajistit soulad s tímto nařízením ve fázi návrhu systému umělé inteligence („soulad již od návrhu“). Za tímto účelem program usnadní vývoj softwarových nástrojů a infrastruktury pro testování, srovnávání, posuzování a vysvětlování rozměrů systémů umělé inteligence relevantních pro pískoviště, jako je přesnost, spolehlivost a kybernetická bezpečnost a rovněž minimalizace rizik pro lidská práva, životní prostředí a společnost obecně.
	8.  Program pro regulační pískoviště bude zaváděn postupně, přičemž jednotlivé fáze zahájí Komise teprve poté, co se osvědčí předchozí fáze.
	9.  Program pro regulační pískoviště bude zahrnovat postup posouzení dopadů, který usnadní přezkum nákladové efektivnosti ve vztahu k dohodnutým cílům. Toto posouzení se vypracuje s přispěním členských států na základě jejich zkušeností a je součástí výroční zprávy, kterou Komise předkládá Evropské radě pro umělou inteligenci.

POSTUP VE VÝBORU POŽÁDANÉM O STANOVISKO

Název	Harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a změna určitých legislativních aktů Unie
Referenční údaje	COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)
Příslušné výbory  Datum oznámení na zasedání	IMCO 7.6.2021	LIBE 7.6.2021
Výbor, který vypracoval stanovisko  Datum oznámení na zasedání	ITRE 7.6.2021
Přidružené výbory - datum oznámení na zasedání	16.12.2021
Zpravodaj(ka)  Datum jmenování	Eva Maydell 11.1.2022
Článek 58 – Postup společných schůzí výborů  Datum oznámení na zasedání	16.12.2021
Projednání ve výboru	21.3.2022
Datum přijetí	14.6.2022
Výsledek konečného hlasování	+: –: 0:	61 2 0
Členové přítomní při konečném hlasování	François-Xavier Bellamy, Hildegard Bentele, Tom Berendsen, Vasile Blaga, Michael Bloss, Marc Botenga, Cristian-Silviu Buşoi, Jerzy Buzek, Maria da Graça Carvalho, Ignazio Corrao, Ciarán Cuffe, Nicola Danti, Pilar del Castillo Vera, Martina Dlabajová, Christian Ehler, Niels Fuglsang, Lina Gálvez Muñoz, Jens Geier, Nicolás González Casares, Christophe Grudler, Henrike Hahn, Robert Hajšel, Ivars Ijabs, Romana Jerković, Seán Kelly, Łukasz Kohut, Zdzisław Krasnodębski, Andrius Kubilius, Thierry Mariani, Marisa Matias, Eva Maydell, Iskra Mihaylova, Dan Nica, Angelika Niebler, Niklas Nienaß, Mauri Pekkarinen, Mikuláš Peksa, Tsvetelina Penkova, Morten Petersen, Pina Picierno, Clara Ponsatí Obiols, Manuela Ripa, Robert Roos, Sara Skyttedal, Maria Spyraki, Patrizia Toia, Pernille Weiss, Carlos Zorrinho
Náhradníci přítomní při konečném hlasování	Franc Bogovič, Andrea Caroppo, Jakop G. Dalunde, Jens Gieseke, Klemen Grošelj, Elena Kountoura, Marian-Jean Marinescu, Dace Melbārde, Dominique Riquet, Rob Rooken, Susana Solís Pérez
Náhradníci (čl. 209 odst. 7) přítomní při konečném hlasování	Alessandra Basso, Bas Eickhout, Carlo Fidanza, Rob Rooken

 

 

JMENOVITÉ KONEČNÉ HLASOVÁNÍ
VE VÝBORU POŽÁDANÉM O STANOVISKO

61	+
ECR	Carlo Fidanza, Zdzisław Krasnodębski, Dace Melbārde, Rob Rooken, Robert Roos
ID	Alessandra Basso, Thierry Mariani
NI	Clara Ponsatí Obiols
PPE	François-Xavier Bellamy, Hildegard Bentele, Tom Berendsen, Vasile Blaga, Franc Bogovič, Cristian-Silviu Buşoi, Jerzy Buzek, Andrea Caroppo, Maria da Graça Carvalho, Pilar del Castillo Vera, Christian Ehler, Jens Gieseke, Seán Kelly, Andrius Kubilius, Marian-Jean Marinescu, Eva Maydell, Angelika Niebler, Sara Skyttedal, Maria Spyraki, Pernille Weiss
RENEW	Nicola Danti, Martina Dlabajová, Klemen Grošelj, Christophe Grudler, Ivars Ijabs, Iskra Mihaylova, Mauri Pekkarinen, Morten Petersen, Dominique Riquet, Susana Solís Pérez
S&D	Niels Fuglsang, Lina Gálvez Muñoz, Jens Geier, Nicolás González Casares, Robert Hajšel, Ivo Hristov, Romana Jerković, Łukasz Kohut, Dan Nica, Tsvetelina Penkova, Pina Picierno, Patrizia Toia, Carlos Zorrinho
THE LEFT	Elena Kountoura
VERTS/ALE	Michael Bloss, Ignazio Corrao, Ciarán Cuffe, Jakop G. Dalunde, Bas Eickhout, Henrike Hahn, Niklas Nienaß, Mikuláš Peksa, Manuela Ripa

 

2	-
THE LEFT	Marc Botenga, Marisa Matias

 

0	0

 

Význam zkratek:

+ : pro

- : proti

0 : zdrželi se

 

 

 

STANOVISKO VÝBORU PRO KULTURU A VZDĚLÁVÁNÍ (16.6.2022)

pro Výbor pro vnitřní trh a ochranu spotřebitelů a pro Výbor pro občanské svobody, spravedlnost a vnitřní věci

k nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty Unie

(COM(2021)0206 – C9‑0146/2021 – 2021/0106(COD))

Zpravodaj (*): Marcel Kolaja

(*) Přidružený výbor – článek 57 jednacího řádu

 

STRUČNÉ ODŮVODNĚNÍ

Dne 24. dubna 2021 zveřejnila Evropská komise svůj legislativní návrh, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci). Tento návrh zavádí regulační rámec, jehož cílem je zajistit, aby byly systémy umělé inteligence (dále jen „UI“) uváděné na trh Evropské unie bezpečné pro své uživatele a dodržovaly základní práva a hodnoty Evropské unie.

Návrh dále usnadňuje rozvoj jednotného trhu pro zákonné, bezpečné a důvěryhodné aplikace UI, posiluje správu a účinné prosazování stávajících právních předpisů v oblasti základních práv a bezpečnostních požadavků vztahujících se na systémy UI a zajišťuje právní jistotu s cílem usnadnit investice a inovace v oblasti UI.

Zpravodaj celkově návrh Evropské komise vítá; chtěl by však navrhnout několik změn, zejména s cílem rozšířit seznam vysoce rizikových aplikací UI v oblastech vzdělávání, sdělovacích prostředků a kultury podle přílohy III a pozměnit některá ustanovení týkající se zakázaných postupů podle článku 5.

Zpravodaj se konkrétně zabývá rostoucím zaváděním technologií UI ve vzdělávacích institucích a v institucích odborné přípravy. Navrhuje proto, aby byly na seznam vysoce rizikových technologií zařazeny také ty technologie UI, jež se používají ke sledování studentů během zkoušek, a technologie používané k určení oblasti nebo programu, které by měl student studovat. Pokud jde o sdělovací prostředky a kulturu, navrhuje zpravodaj vytvoření seznamu vysoce rizikových technologií UI používaných k vytváření nebo šíření strojově generovaných zpravodajských článků, které využívají zpravodajské sdělovací prostředky, a technologií UI, jež jsou využívány k doporučování nebo určování pořadí audiovizuálního obsahu.

Kromě toho zpravodaj navrhuje, aby byl zákaz zavádění systémů hodnocení sociálního kreditu rozšířen i na jejich používání veřejnými a soukromými subjekty, neboť určité skupiny nebo jednotlivci jsou ze své podstaty ohroženi diskriminací a vyloučením.

Zpravodaj konečně s ohledem na nebezpečí, které zavádění systémů biometrické identifikace na dálku na veřejně přístupných místech představuje pro základní práva občanů, svobodu shromažďování a práci investigativních novinářů, aktivistů a politických představitelů, navrhuje, aby bylo zavádění těchto technologií na veřejně přístupných místech zakázáno, a to v návaznosti na usnesení Parlamentu ze dne 6. října 2021 o umělé inteligenci v trestním právu a jejím využívání policií a soudními orgány v trestních věcech.

POZMĚŇOVACÍ NÁVRHY

Výbor pro kulturu a vzdělávání vyzývá Výbor pro vnitřní trh a ochranu spotřebitelů a Výbor pro občanské svobody, spravedlnost a vnitřní věci jako příslušné výbory, aby zohlednily tyto pozměňovací návrhy:

 

 

Pozměňovací návrh  1

 

Návrh nařízení

Bod odůvodnění 1

Znění navržené Komisí	Pozměňovací návrh
(1) Účelem tohoto nařízení je zlepšit fungování vnitřního trhu stanovením jednotného právního rámce zejména pro vývoj umělé inteligence, její uvádění na trh a využívání v souladu s hodnotami Unie. Toto nařízení sleduje řadu naléhavých důvodů veřejného zájmu, jako je například vysoká úroveň ochrany zdraví, bezpečnosti a základních práv, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů UI, pokud to není tímto nařízením výslovně povoleno.	(1) Účelem tohoto nařízení je zlepšit fungování vnitřního trhu stanovením jednotného právního rámce na základě etických zásad, zejména pro vývoj umělé inteligence, její uvádění na trh a využívání v souladu s hodnotami Unie, a to při minimalizaci jakéhokoli rizika nepříznivého a diskriminačního dopadu na člověka, a aniž by bránil inovacím. Toto nařízení sleduje řadu naléhavých důvodů veřejného zájmu, jako je například vysoká úroveň ochrany zdraví, bezpečnosti a základních práv, demokracie, právního státu a životního prostředí, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů UI, pokud to není tímto nařízením výslovně povoleno.

Pozměňovací návrh  2

 

Návrh nařízení

Bod odůvodnění 2

Znění navržené Komisí	Pozměňovací návrh
(2) Systémy umělé inteligence (systémy UI) lze snadno uplatnit v řadě hospodářských a společenských odvětví, včetně přeshraničních, a mohou obíhat v celé Unii. Některé členské státy již zkoumají možnost přijetí vnitrostátních pravidel, která by zajišťovala, že umělá inteligence bude bezpečná a že bude vyvíjena a používána v souladu s povinnostmi v oblasti základních práv. Rozdílné vnitrostátní předpisy mohou vést k roztříštěnosti vnitřního trhu a ke snížení právní jistoty pro provozovatele, kteří systémy UI vyvíjejí nebo používají. Proto je třeba zajistit jednotnou a vysokou úroveň ochrany v celé Unii a zároveň zabránit rozdílům, které jsou překážkou volného oběhu systémů UI a souvisejících produktů a služeb na vnitřním trhu, tím, že budou stanoveny jednotné povinnosti provozovatelů a bude zaručena jednotná ochrana naléhavých důvodů obecného zájmu a práv osob na celém vnitřním trhu na základě článku 114 Smlouvy o fungování Evropské unie (SFEU). V rozsahu, v němž toto nařízení obsahuje zvláštní pravidla ochrany fyzických osob v souvislosti se zpracováním osobních údajů, která se týkají omezení používání systémů UI pro biometrickou identifikaci na dálku v „reálném čase“ na veřejně přístupných místech pro účely prosazování práva, je vhodné, aby se ve vztahu k těmto zvláštním pravidlům zakládalo na článku 16 SFEU. S ohledem na tato zvláštní pravidla a na použití článku 16 SFEU je vhodné provést konzultace s Evropským sborem pro ochranu osobních údajů.	(2) Systémy umělé inteligence (systémy UI) lze snadno uplatnit v řadě hospodářských a společenských odvětví, včetně přeshraničních, a mohou obíhat v celé Unii. Některé členské státy již zkoumají možnost přijetí vnitrostátních pravidel, která by zajišťovala, že umělá inteligence bude důvěryhodná a bezpečná a že bude vyvíjena a používána v souladu s povinnostmi v oblasti základních práv. Rozdílné vnitrostátní předpisy mohou vést k roztříštěnosti vnitřního trhu a ke snížení právní jistoty pro provozovatele, kteří systémy UI vyvíjejí nebo používají. Proto je třeba zajistit jednotnou a vysokou úroveň ochrany v celé Unii s cílem dosáhnout důvěryhodné UI a zároveň zabránit rozdílům, které jsou překážkou volného oběhu, inovací, zavádění a využívání systémů UI a souvisejících produktů a služeb na vnitřním trhu, tím, že budou stanoveny jednotné povinnosti provozovatelů a bude zaručena jednotná ochrana naléhavých důvodů obecného zájmu a práv osob na celém vnitřním trhu na základě článku 114 Smlouvy o fungování Evropské unie (SFEU). V rozsahu, v němž toto nařízení obsahuje zvláštní pravidla ochrany fyzických osob v souvislosti se zpracováním osobních údajů, která se týkají omezení používání systémů UI pro biometrickou identifikaci na dálku v „reálném čase“ na veřejně přístupných místech pro účely prosazování práva, je vhodné, aby se ve vztahu k těmto zvláštním pravidlům zakládalo na článku 16 SFEU. S ohledem na tato zvláštní pravidla a na použití článku 16 SFEU je vhodné provést konzultace s Evropským sborem pro ochranu osobních údajů.

Pozměňovací návrh  3

 

Návrh nařízení

Bod odůvodnění 3

Znění navržené Komisí	Pozměňovací návrh
(3) Umělá inteligence je rychle se vyvíjející skupina technologií, které mohou přispět k široké škále hospodářských a společenských přínosů v celém spektru průmyslových odvětví a sociálních aktivit. Díky zlepšení predikcí, optimalizaci provozu a přidělování zdrojů a personalizaci digitálních řešení dostupných pro jednotlivce a organizace může využívání umělé inteligence poskytnout společnostem klíčové konkurenční výhody a podpořit sociálně a environmentálně prospěšné výsledky, například v oblasti zdravotnictví, zemědělství, vzdělávání a odborné přípravy, správy infrastruktury, energetiky, dopravy a logistiky, veřejných služeb, bezpečnosti, spravedlnosti, účinného využívání zdrojů a energetické účinnosti a zmírňování změny klimatu a přizpůsobování se této změně.	(3) Umělá inteligence je rychle se vyvíjející skupina technologií, které mohou přispět – a již přispívají – k široké škále hospodářských a společenských přínosů v celém spektru průmyslových odvětví a sociálních aktivit, pokud budou vyvíjeny v souladu s etickými zásadami. Díky zlepšení predikcí, optimalizaci provozu a přidělování zdrojů a personalizaci digitálních řešení dostupných pro jednotlivce a organizace může využívání umělé inteligence poskytnout společnostem klíčové konkurenční výhody a podpořit sociálně a environmentálně prospěšné výsledky, například v oblasti zdravotnictví, zemědělství, vzdělávání a odborné přípravy, sdělovacích prostředků, sportu a kultury, správy infrastruktury, energetiky, dopravy a logistiky, veřejných služeb, bezpečnosti, spravedlnosti, účinného využívání zdrojů a energetické účinnosti a zmírňování změny klimatu a přizpůsobování se této změně.

Pozměňovací návrh  4

 

Návrh nařízení

Bod odůvodnění 4

Znění navržené Komisí	Pozměňovací návrh
(4) Umělá inteligence může zároveň v závislosti na okolnostech týkajících se jejího konkrétního uplatňování a využívání vytvářet rizika a působit újmu veřejným zájmům a právům, které jsou chráněny právem Unie. Tato újma může být hmotná nebo nehmotná.	(4) Umělá inteligence může zároveň v závislosti na okolnostech týkajících se jejího konkrétního uplatňování a využívání vytvářet rizika a působit újmu veřejným zájmům a právům, které jsou chráněny právem Unie, včetně základních práv pracovníků, osob ve vzdělávacích procesech a sociálně angažovaných osob, soukromí, ochrany údajů a informační autonomie a společenských nebo environmentálních práv. Tato újma může být hmotná nebo nehmotná.

Pozměňovací návrh  5

 

Návrh nařízení

Bod odůvodnění 5

Znění navržené Komisí	Pozměňovací návrh
(5) Je proto nezbytné zavést právní rámec Unie, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, s cílem podpořit vývoj, využívání a zavádění umělé inteligence na vnitřním trhu, který by zároveň splňoval vysokou úroveň ochrany veřejných zájmů, jako je například zdraví, bezpečnost a ochrana základních práv, která jsou uznávána a chráněna právem Unie. K dosažení tohoto cíle by měla být stanovena pravidla, která budou regulovat uvádění určitých systémů UI na trh a do provozu a tím zajišťovat bezproblémové fungování vnitřního trhu a umožňovat, aby tyto systémy měly prospěch ze zásady volného pohybu zboží a služeb. Stanovením těchto pravidel toto nařízení podporuje cíl Unie zastávat v celosvětovém kontextu čelnou pozici, pokud jde o rozvoj bezpečné, důvěryhodné a etické umělé inteligence, který vytyčila Evropská rada33, a zajišťuje ochranu etických zásad, kterou výslovně požadoval Evropský parlament34.	(5) Je proto nezbytné zavést právní rámec Unie, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, s cílem podpořit vývoj, využívání a zavádění umělé inteligence na vnitřním trhu, který by zároveň splňoval vysokou úroveň ochrany veřejných zájmů, jako je například zdraví, bezpečnost a ochrana základních práv, která jsou uznávána a chráněna právem Unie, demokracie, právního státu a životního prostředí. K dosažení tohoto cíle by měla být stanovena pravidla, která budou regulovat uvádění určitých systémů UI na trh a do provozu a tím zajišťovat bezproblémové fungování vnitřního trhu a umožňovat, aby tyto systémy měly prospěch ze zásady volného pohybu zboží a služeb. Stanovením těchto pravidel toto nařízení podporuje cíl Unie zastávat v celosvětovém kontextu čelnou pozici, pokud jde o rozvoj bezpečné, důvěryhodné a etické umělé inteligence na základě základních práv, který vytyčila Evropská rada33, a zajišťuje ochranu etických zásad, kterou výslovně požadoval Evropský parlament34, s přístupem zaměřeným na člověka a v souladu se svobodou projevu, svobodou slova a svobodou, pluralitou a rozmanitostí sdělovacích prostředků.
__________________	__________________
33 Evropská rada, mimořádné zasedání Evropské rady (1. a 2. října 2020) – závěry, EUCO 13/20, 2020, s. 6.	33 Evropská rada, mimořádné zasedání Evropské rady (1. a 2. října 2020) – závěry, EUCO 13/20, 2020, s. 6.
34 Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k rámci pro etické aspekty umělé inteligence, robotiky a souvisejících technologií, 2020/2012(INL).	34 Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k rámci pro etické aspekty umělé inteligence, robotiky a souvisejících technologií, 2020/2012(INL).

Pozměňovací návrh  6

Návrh nařízení

Bod odůvodnění 5 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(5a) Aby Unie pomohla podporovat vývoj, využívání a chápání umělé inteligence, musí vynaložit další úsilí na vzdělávání a odbornou přípravu, a tím mimo jiné řešit nedostatek odborníků v oblasti IKT a vysokoškolských kurzů zaměřených na umělou inteligenci, digitálně kvalifikovaných pracovníků a také nedostatek i základních digitálních dovedností u značné části obyvatel Unie.

 

Pozměňovací návrh  7

Návrh nařízení

Bod odůvodnění 5 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(5b) Nedostatek veřejných i soukromých investic v současné době ohrožuje rozvoj a využívání systémů UI v celé Unii, zejména ve srovnání s ostatními velkými průmyslovými ekonomikami. Zvláštní pozornost, pobídky a podpora by měly být věnovány podpoře zavádění umělé inteligence v malých a středních podnicích, včetně těch, které působí v odvětví vzdělání a v kulturních a tvůrčích odvětvích.

Pozměňovací návrh  8

 

Návrh nařízení

Bod odůvodnění 9

Znění navržené Komisí	Pozměňovací návrh
(9) Pro účely tohoto nařízení by se pod pojmem „veřejně přístupné místo“ mělo rozumět jakékoli fyzické místo, které je přístupné veřejnosti, bez ohledu na to, zda je dané místo v soukromém nebo veřejném vlastnictví. Tento pojem proto nezahrnuje místa, která jsou soukromé povahy a obvykle nejsou volně přístupná třetím stranám, včetně donucovacích orgánů, pokud k tomu tyto strany nebyly výslovně vyzvány nebo oprávněny, jako jsou například domácnosti, soukromé kluby, kanceláře, sklady a továrny. Tento pojem nezahrnuje ani on-line prostory, protože se nejedná o prostory fyzické. Pouhá skutečnost, že pro přístup do konkrétního prostoru může být nezbytné splnění určitých podmínek, jako jsou například vstupenky nebo věková omezení, však neznamená, že daný prostor není veřejně přístupný ve smyslu tohoto nařízení. V důsledku toho jsou kromě veřejných prostor, jako jsou ulice, příslušné části státních budov a většina dopravní infrastruktury, zpravidla veřejně přístupné také prostory jako kina, divadla, obchody a nákupní centra. To, zda je daný prostor přístupný veřejnosti, by však mělo být určováno případ od případu s ohledem na zvláštnosti dané konkrétní situace.	(9) Pro účely tohoto nařízení by se pod pojmem „veřejně přístupné místo“ mělo rozumět jakékoli fyzické nebo virtuální místo, které je přístupné veřejnosti, bez ohledu na to, zda je dané místo v soukromém nebo veřejném vlastnictví. Tento pojem proto nezahrnuje místa, která jsou soukromé povahy a obvykle nejsou volně přístupná třetím stranám, včetně donucovacích orgánů, pokud k tomu tyto strany nebyly výslovně vyzvány nebo oprávněny, jako jsou například domácnosti, soukromé kluby, kanceláře, sklady, továrny a jiné soukromé prostory. Stejná zásada by měla platit i pro chráněné virtuální veřejně přístupné prostory. Pouhá skutečnost, že pro přístup do konkrétního prostoru může být nezbytné splnění určitých podmínek, jako jsou například vstupenky nebo věková omezení, však neznamená, že daný prostor není veřejně přístupný ve smyslu tohoto nařízení. V důsledku toho jsou kromě veřejných prostor, jako jsou ulice, parky, sportovní komplexy, příslušné části státních budov a většina dopravní infrastruktury, zpravidla veřejně přístupné také prostory jako kina, divadla, obchody, muzea, památky, kulturní místa, kulturní instituce a nákupní centra. To, zda je daný prostor přístupný veřejnosti, by však mělo být určováno případ od případu s ohledem na zvláštnosti dané konkrétní situace.

Pozměňovací návrh  9

 

Návrh nařízení

Bod odůvodnění 13

Znění navržené Komisí	Pozměňovací návrh
(13) V zájmu zajištění jednotné a vysoké úrovně ochrany veřejných zájmů, pokud jde o zdraví, bezpečnost a základní práva, by měly být pro všechny vysoce rizikové systémy UI stanoveny společné normativní standardy. Tyto standardy by měly být v souladu s Listinou základních práv Evropské unie (dále jen „Listina“) a se závazky Unie v oblasti mezinárodního obchodu a měly by být nediskriminační.	(13) V zájmu zajištění jednotné a vysoké úrovně ochrany veřejných zájmů, pokud jde o zdraví, bezpečnost a základní práva, demokracii, právní stát a životní prostředí, měl by být pro všechny vysoce rizikové systémy UI stanoven soubor etických zásad a společné normativní standardy. Tyto standardy by měly být v souladu s Listinou základních práv Evropské unie (dále jen „Listina“) , se sdělením Komise ze dne 11. prosince 2019 nazvaným „Zelená dohoda pro Evropu“ a s evropským prohlášením ze dne 26. ledna 2022 o digitálních právech a zásadách digitální dekády a a se závazky Unie v oblasti mezinárodního obchodu a měly by být nediskriminační.

 

Pozměňovací návrh  10

Návrh nařízení

Bod odůvodnění 14 b (nový)

Znění navržené Komisí	Pozměňovací návrh
	(14b) Pojem „gramotnost v oblasti umělé inteligence“ označuje dovednosti, znalosti a porozumění, které občanům i provozovatelům v kontextu povinností stanovených v tomto nařízení umožňují informované zavádění a využívání systémů umělé inteligence, jakož i získání povědomí o možnostech a rizicích umělé inteligence, a tím i podporují její demokratickou kontrolu. Gramotnost v oblasti umělé inteligence by se neměla omezovat pouze na učení se o nástrojích a technologiích, ale měla by se také zaměřit na to, aby občané a provozovatelé v souvislosti s povinnostmi stanovenými v tomto nařízení získali dovednosti kritického myšlení potřebné k rozpoznání škodlivých nebo manipulativních způsobů použití, jakož i na zlepšení jejich schopnosti samostatně jednat a plně dodržovat zásady důvěryhodné umělé inteligence a využívat její výhody. Je proto nezbytné, aby Komise, členské státy i provozovatelé systémů umělé inteligence ve spolupráci se všemi příslušnými zúčastněnými stranami podporovali rozvoj gramotnosti v oblasti umělé inteligence, a to ve všech segmentech společnosti a u občanů všech věkových kategorií, včetně žen a dívek, a aby byl pokrok v tomto ohledu pečlivě sledován.

 

Pozměňovací návrh  11

 

Návrh nařízení

Bod odůvodnění 15

Znění navržené Komisí	Pozměňovací návrh
(15) Na jedné straně přináší využívání umělé inteligence celou řadu výhod, avšak tuto technologii lze používat i nesprávně a může se stát zdrojem nových a výkonných nástrojů umožňujících manipulativní a vykořisťovatelské praktiky a praktiky v oblasti sociální kontroly. Tyto praktiky jsou mimořádně škodlivé a měly by být zakázány, protože jsou v rozporu s hodnotami Unie v oblasti úcty k lidské důstojnosti, svobody, rovnosti, demokracie a právního státu a se základními právy Unie, včetně práva na zákaz diskriminace, na ochranu údajů a soukromí a práva dítěte.	(15) Na jedné straně přináší využívání umělé inteligence celou řadu výhod, avšak tuto technologii lze používat i nesprávně a může se stát zdrojem nových a výkonných nástrojů umožňujících manipulativní a vykořisťovatelské praktiky a praktiky v oblasti sociální kontroly. Tyto praktiky jsou mimořádně škodlivé a měly by být zakázány, protože jsou v rozporu s hodnotami Unie v oblasti úcty k lidské důstojnosti, svobody, rovnosti, demokracie a právního státu a se základními právy Unie, včetně práva na zákaz diskriminace, na ochranu zaměstnanců a pracovníků, na ochranu údajů a soukromí, genderovou rovnost  a práva dítěte.

 

Pozměňovací návrh  12

Návrh nařízení

Bod odůvodnění 27

Znění navržené Komisí	Pozměňovací návrh
(27) Vysoce rizikové systémy UI by měly být uváděny na trh Unie nebo do provozu pouze tehdy, splňují-li určité závazné požadavky. Tyto požadavky by měly zajistit, aby vysoce rizikové systémy UI, které jsou dostupné v Unii nebo jejichž výstupy jsou v Unii jinak využívány, nepředstavovaly nepřijatelné riziko pro důležité veřejné zájmy Unie uznané a chráněné právem Unie. Systémy UI označené jako vysoce rizikové by měly být omezeny na systémy, které mají významný škodlivý dopad na zdraví, bezpečnost a základní práva osob v Unii, a toto omezení minimalizuje jakékoli případné omezení mezinárodního obchodu.	(27) Vysoce rizikové systémy UI by měly být uváděny na trh Unie nebo do provozu pouze tehdy, splňují-li určité závazné požadavky. Tyto požadavky by měly zajistit, aby vysoce rizikové systémy UI, které jsou dostupné v Unii nebo jejichž výstupy jsou v Unii jinak využívány, nepředstavovaly nepřijatelné riziko pro důležité veřejné zájmy Unie uznané a chráněné právem Unie. Systémy UI označené jako vysoce rizikové by měly být omezeny na systémy, které mají významný škodlivý dopad na zdraví, bezpečnost a základní práva osob v Unii, jakož i na společnost a životní prostředí, a toto omezení minimalizuje jakékoli případné omezení mezinárodního obchodu.

 

Pozměňovací návrh  13

Návrh nařízení

Bod odůvodnění 28

Znění navržené Komisí	Pozměňovací návrh
(28) Systémy UI by mohly mít nepříznivé účinky na zdraví a bezpečnost osob, zejména pokud tyto systémy fungují jako součásti produktů. V souladu s cíli harmonizačních právních předpisů Unie, které mají usnadnit volný pohyb produktů na vnitřním trhu a zajistit, aby se na trh dostávaly pouze bezpečné a jinak vyhovující produkty, je důležitá náležitá prevence a zmírňování bezpečnostních rizik, která mohou případně vyplývat z produktu jako celku v důsledku jeho digitálních prvků, včetně systémů UI. Například stále autonomnější roboti, ať už v kontextu výroby, nebo osobní asistence a péče, by měli být schopni bezpečně fungovat a vykonávat své funkce ve složitých prostředích. Obdobně ve zdravotnictví, kde existuje obzvláště vysoké riziko v oblasti života a zdraví, by měly být stále sofistikovanější diagnostické systémy a systémy podporující lidská rozhodnutí spolehlivé a přesné. Míra nepříznivého dopadu systému UI na základní práva chráněná Listinou je obzvláště důležitá v případě, že je systém UI klasifikován jako vysoce rizikový. Tato práva zahrnují právo na lidskou důstojnost, respektování soukromého a rodinného života, ochranu osobních údajů, svobodu projevu a informací, svobodu shromažďování a sdružování a zákaz diskriminace, ochranu spotřebitele, práva pracovníků, práva osob s postižením, právo na účinnou právní ochranu a spravedlivý proces, právo na obhajobu a presumpci neviny a právo na řádnou správu. Kromě těchto práv je třeba zdůraznit zvláštní práva dětí zakotvená v článku 24 Listiny základních práv EU a v Úmluvě OSN o právech dítěte (ve vztahu k digitálním prostředí dále rozpracovaná v obecné připomínce č. 25 k Úmluvě o právech dítěte), které v obou případech vyžadují zohlednění zranitelnosti dětí a poskytnutí této ochrany a péče, která je nezbytná pro jejich blaho. Při posuzování závažnosti újmy, kterou může systém UI způsobit, a to i ve vztahu ke zdraví a bezpečnosti osob, by mělo být zohledněno také základní právo na vysokou úroveň ochrany životního prostředí zakotvené v Listině a provedené do politik Unie.	(28) Systémy UI by mohly mít nepříznivé účinky na zdraví a bezpečnost osob, zejména pokud tyto systémy fungují jako součásti produktů. V souladu s cíli harmonizačních právních předpisů Unie, které mají usnadnit volný pohyb produktů na vnitřním trhu a zajistit, aby se na trh dostávaly pouze bezpečné a jinak vyhovující produkty, je důležitá náležitá prevence a zmírňování bezpečnostních rizik, která mohou případně vyplývat z produktu jako celku v důsledku jeho digitálních prvků, včetně systémů UI. Například stále autonomnější roboti, ať už v kontextu výroby, nebo osobní asistence a péče, by měli být schopni bezpečně fungovat a vykonávat své funkce ve složitých prostředích. Obdobně ve zdravotnictví, kde existuje obzvláště vysoké riziko v oblasti života a zdraví, by měly být stále sofistikovanější diagnostické systémy a systémy podporující lidská rozhodnutí spolehlivé a přesné. Míra nepříznivého dopadu systému UI na základní práva chráněná Listinou je obzvláště důležitá v případě, že je systém UI klasifikován jako vysoce rizikový. Tato práva zahrnují právo na lidskou důstojnost, respektování soukromého a rodinného života, ochranu osobních údajů, svobodu projevu a informací, svobodu shromažďování a sdružování a zákaz diskriminace, právo na vzdělání, ochranu spotřebitele nebo práva pracovníků. Zvláštní pozornost je třeba věnovat rovnosti žen a mužů, právům osob s postižením, právu na účinnou právní ochranu a spravedlivý proces, právu na obhajobu a presumpci neviny, právu na řádnou správu, ochraně práv duševního vlastnictví a zajištění kulturní rozmanitosti. Kromě těchto práv je třeba zdůraznit zvláštní práva dětí zakotvená v článku 24 Listiny základních práv EU a v Úmluvě OSN o právech dítěte (ve vztahu k digitálním prostředí dále rozpracovaná v obecné připomínce č. 25 k Úmluvě o právech dítěte), které v obou případech vyžadují zohlednění zranitelnosti dětí a poskytnutí této ochrany a péče, která je nezbytná pro jejich blaho. Při posuzování závažnosti újmy, kterou může systém UI způsobit, a to i ve vztahu ke zdraví a bezpečnosti osob nebo k životnímu prostředí v důsledku těžby a spotřeby přírodních zdrojů, odpadů a uhlíkové stopy dotčených systémů UI, by mělo být zohledněno také základní právo na vysokou úroveň ochrany životního prostředí zakotvené v Listině a provedené do politik Unie.

 

Pozměňovací návrh  14

Návrh nařízení

Bod odůvodnění 33

Znění navržené Komisí	Pozměňovací návrh
(33) Technické nepřesnosti systémů UI určených pro biometrickou identifikaci fyzických osob na dálku mohou vést ke zkresleným výsledkům a mít diskriminační účinky. To je relevantní zejména v případě věku, etnického původu, pohlaví nebo zdravotních postižení. Proto by měly být systémy biometrické identifikace na dálku „v reálném čase“ i „zpětně“ klasifikovány jako vysoce rizikové. S ohledem na rizika, která oba typy systémů biometrické identifikace na dálku představují, by se na ně měly vztahovat zvláštní požadavky v oblasti schopnosti zaznamenávání dat a lidského dohledu.	(33) Technické nepřesnosti systémů UI určených pro biometrickou identifikaci fyzických osob mohou vést ke zkresleným výsledkům a mít diskriminační účinky. To je relevantní zejména v případě věku, etnického původu, pohlaví nebo zdravotních postižení. Proto by měly být systémy biometrické identifikace na dálku „v reálném čase“ i „zpětně“ klasifikovány jako vysoce rizikové. S ohledem na rizika, která oba typy systémů biometrické identifikace představují, by se na ně měly vztahovat zvláštní požadavky v oblasti schopnosti zaznamenávání dat a lidského dohledu. Vysoce rizikové mohou být rovněž systémy biometrické identifikace neprováděné na dálku, které mají být používány na veřejně přístupných místech, na pracovištích a v institucích vzdělávání a odborné přípravy. Vysoké riziko systémů biometrické identifikace neprováděné na dálku určené k použití na veřejně přístupných místech, na pracovištích a ve vzdělávacích institucích a v institucích odborné přípravy, by mělo být stanoveno případ od případu.

 

Pozměňovací návrh  15

Návrh nařízení

Bod odůvodnění 34 a (nový)

Znění navržené Komisí	Pozměňovací návrh
	(34a) Zavádění systémů UI ve vzdělávání má zásadní význam pro modernizaci celých vzdělávacích systémů a zvýšení kvality vzdělávání, a to jak offline, tak online, a pro urychlení digitálního vzdělávání, a tím i jeho zpřístupnění širší veřejnosti. Digitální vzdělávání s podporou umělé inteligence sice nenahrazuje prezenční vzdělávání, ale je stále více nezbytné pro podporu společenského a hospodářského růstu, podporu inkluzivity a zvýšení úrovně vzdělání a dostupnosti pro jednotlivce.

 

Pozměňovací návrh  16

 

Návrh nařízení

Bod odůvodnění 35

Znění navržené Komisí	Pozměňovací návrh
(35) Za vysoce rizikové by měly být považovány systémy UI používané ve vzdělávání nebo v odborné přípravě, zejména při určování přístupu osob do školských institucí a institucí odborného vzdělávání, jejich přidělování do těchto institucí nebo pro hodnocení osob v testech jako součásti nebo jako předpokladu jejich vzdělávání, protože mohou určovat vzdělávací a profesní průběh života lidí a tak ovlivňovat jejich schopnost zajišťovat si živobytí. Pokud budou tyto systémy navrženy a používány nesprávně, mohou porušovat právo na vzdělávání a odbornou přípravu i právo nebýt diskriminován a fixovat historické vzorce diskriminace.	(35) Za vysoce rizikové by měly být považovány systémy UI používané ve vzdělávání nebo v odborné přípravě, zejména při určování přístupu osob do vzdělávacích institucí a institucí odborné přípravy či jejich přidělování do těchto institucí za účelem hodnocení osob v testech jako součásti nebo jako předpokladu jejich vzdělávání nebo s cílem určit oblasti studia, jimž by se měl student věnovat, protože mohou určovat vzdělávací a profesní průběh života lidí a tak ovlivňovat jejich schopnost zajišťovat si živobytí. Pokud budou tyto systémy navrženy, vyvinuty a používány nesprávně, mohou porušovat právo na vzdělávání a odbornou přípravu i právo nebýt diskriminován a fixovat historické vzorce diskriminace., například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace. Systémy UI používané ke sledování chování a emocí studentů během zkoušek ve vzdělávacích institucích a v institucích odborné přípravy by měly být považovány za vysoce rizikové, neboť rovněž zasahují do práv studentů na soukromí a ochranu údajů. Používání umělé inteligence ke kontrole testů, jako jsou kontroly písemných testů na plagiátorství, by nemělo být považováno za vysoce rizikové.

Pozměňovací návrh  17

 

Návrh nařízení

Bod odůvodnění 36

Znění navržené Komisí	Pozměňovací návrh
(36) Jako vysoce rizikové mohou být klasifikovány systémy UI používané při zaměstnávání, řízení pracovníků a při přístupu k samostatné výdělečné činnosti, zejména při náboru a výběru osob, při rozhodování o povýšení nebo propuštění a při přidělování úkolů, monitorování nebo hodnocení osob ve smluvních pracovněprávních vztazích, protože mohou významně ovlivnit budoucí kariérní vyhlídky a živobytí těchto osob. Příslušné smluvní pracovněprávní vztahy by měly zahrnovat zaměstnance a osoby poskytující služby prostřednictvím platforem, jak je uvedeno v pracovním programu Komise na rok 2021. Tyto osoby by v zásadě neměly být považovány za uživatele ve smyslu tohoto nařízení. Tyto systémy mohou v průběhu celého procesu náboru a při hodnocení, povyšování nebo udržování osob ve smluvních pracovněprávních vztazích fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace. Systémy UI používané k monitorování výkonnosti a chování těchto osob mohou ovlivnit rovněž jejich práva na ochranu údajů a soukromí.	(36) Jako vysoce rizikové mohou být klasifikovány systémy UI používané při zaměstnávání, podpoře zaměstnávání, řízení pracovníků a při přístupu k samostatné výdělečné činnosti, zejména při náboru a výběru osob, při rozhodování o povýšení nebo propuštění a při přidělování úkolů, monitorování dodržování předpisů na pracovištích, monitorování nebo hodnocení osob ve smluvních pracovněprávních vztazích, protože mohou významně ovlivnit pravidla pro zdraví a bezpečnost při práci a na pracovištích, jakož i budoucí kariérní vyhlídky a živobytí těchto osob. Příslušné pracovněprávní vztahy by měly zahrnovat zaměstnance a osoby poskytující služby prostřednictvím platforem, jak je uvedeno v pracovním programu Komise na rok 2021. Tyto osoby by v zásadě neměly být považovány za uživatele ve smyslu tohoto nařízení. Tyto systémy mohou v průběhu celého procesu náboru a při hodnocení, povyšování nebo udržování osob v pracovněprávních vztazích fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace. Systémy UI používané k monitorování výkonnosti a chování těchto osob mohou ovlivnit rovněž jejich práva na ochranu údajů a soukromí. V tomto ohledu by měly platit zvláštní požadavky na transparentnost, informovanost a lidský dohled. Odborové organizace a zástupci zaměstnanců by měli být informováni  o veškeré příslušné dokumentaci vytvořené podle tohoto nařízení pro jakýkoli systém UI, který je nasazen nebo používán při jejich práci nebo na jejich pracovišti, a měli by k ní mít přístup.

Pozměňovací návrh  18

 

Návrh nařízení

Bod odůvodnění 70

Znění navržené Komisí	Pozměňovací návrh
(70) Určité systémy UI určené k interakci s fyzickými osobami nebo ke generování obsahu mohou představovat specifická rizika vydávání se za jinou osobu nebo podvodu bez ohledu na to, zda je lze či nelze označit za vysoce rizikové. Na používání těchto systémů by se proto měly za určitých okolností vztahovat zvláštní povinnosti transparentnosti, aniž by tím byly dotčeny požadavky a povinnosti kladené na vysoce rizikové systémy UI. Zejména fyzické osoby by měly být upozorněny, že komunikují se systémem UI, pokud to není zřejmé z okolností a kontextu použití. Fyzické osoby by navíc měly být informovány v případě, že jsou vystaveny systému rozpoznávání emocí nebo systému biometrické kategorizace. Tyto informace a oznámení by měly být poskytovány ve formátech přístupných pro osoby se zdravotním postižením. Uživatelé, kteří používají systém UI k vytváření obrazového, zvukového nebo video obsahu, který se znatelně podobá existujícím osobám, místům nebo událostem a určité osobě by se mohl nepravdivě jevit jako autentický, případně s tímto obsahem manipulují, by měli zveřejnit, že tento obsah byl uměle vytvořen nebo s ním bylo manipulováno, tím, že daný výstup umělé inteligence odpovídajícím způsobem označí a odhalí jeho umělý původ.	(70) Určité systémy UI používané k interakci s fyzickými osobami nebo ke generování obsahu mohou představovat specifická rizika vydávání se za jinou osobu nebo podvodu bez ohledu na to, zda je lze či nelze označit za vysoce rizikové. Na používání těchto systémů by se proto měly za určitých okolností vztahovat zvláštní povinnosti transparentnosti, aniž by tím byly dotčeny požadavky a povinnosti kladené na vysoce rizikové systémy UI. Zejména fyzické osoby by měly být upozorněny, že komunikují se systémem UI, pokud to není zřejmé z okolností a kontextu použití nebo pokud je obsah zjevně použit jako součást tvůrčího, uměleckého nebo fiktivního kinematografického díla. Fyzické osoby by navíc měly být informovány v případě, že jsou vystaveny systému rozpoznávání emocí nebo systému biometrické kategorizace. Tyto informace a oznámení by měly zahrnovat prohlášení o vyloučení odpovědnosti a měly by být poskytnuty ve formátech přístupných pro děti, starší osoby, migranty a osoby se zdravotním postižením nebo s jinými zranitelnými místy. Uživatelé, kteří používají systém UI k vytváření obrazového, zvukového nebo video obsahu, textů nebo skriptů, které se znatelně podobají existujícím osobám, místům nebo událostem a určité osobě by se mohly nepravdivě jevit jako autentické, případně s tímto obsahem manipulují, by měli jednoznačným způsobem zveřejnit, že tento obsah byl uměle vytvořen nebo s ním bylo manipulováno, tím, že daný výstup umělé inteligence odpovídajícím způsobem označí a odhalí jeho umělý původ.

 

Pozměňovací návrh  19

Návrh nařízení

Bod odůvodnění 73

Znění navržené Komisí	Pozměňovací návrh
(73) V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně zvyšování povědomí a informační komunikace. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů.	(73) V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně gramotnosti v oblasti umělé inteligence, zvyšování povědomí a informační komunikace. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů.

 

Pozměňovací návrh  20

Návrh nařízení

Bod odůvodnění 74

Znění navržené Komisí	Pozměňovací návrh
(74) K provádění tohoto nařízení s cílem minimalizovat rizika v oblasti provádění vyplývající z nedostatku věcných a odborných znalostí na trhu, jakož i usnadnit dodržování povinností poskytovatelů a oznámených subjektů podle tohoto nařízení, by mohly potenciálně přispět platformy pro UI na vyžádání, evropská centra pro digitální inovace a zkušební a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni EU. Tyto organizace mohou poskytovatelům a oznámeným subjektům poskytovat zejména technickou a vědeckou podporu v rámci svých úkolů a oblastí působnosti.	(74) K provádění tohoto nařízení s cílem minimalizovat rizika v oblasti provádění vyplývající z nedostatku věcných a odborných znalostí na trhu, jakož i usnadnit dodržování povinností poskytovatelů a oznámených subjektů podle tohoto nařízení, by mohly potenciálně přispět platformy pro UI na vyžádání, evropská centra pro digitální inovace a zkušební a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni EU. Tyto organizace mohou poskytovatelům a oznámeným subjektům poskytovat zejména technickou a vědeckou podporu v rámci svých úkolů a oblastí působnosti. Je rovněž nezbytné, aby Komise rovněž vytvořila celoevropskou síť univerzit a výzkumných pracovníků zaměřených na umělou inteligenci za účelem lepšího studia a výzkumu dopadů umělé inteligence a aby aktualizovala akční plán digitálního vzdělávání stanovený ve sdělení Komise ze dne 30. září 2020 nazvaném „Akční plán digitálního vzdělávání 2021–2027 – Obnovení vzdělávání a odborné přípravy pro digitální věk“, a to s cílem začlenit do vzdělávání inovace v oblasti umělé inteligence a robotiky.

 

Pozměňovací návrh  21

Návrh nařízení

Bod odůvodnění 76

Znění navržené Komisí	Pozměňovací návrh
(76) V zájmu usnadnění hladkého, účinného a harmonizovaného provádění tohoto nařízení by měla být zřízena Evropská rada pro umělou inteligenci. Tato rada by měla odpovídat za řadu poradenských úkolů, včetně vydávání stanovisek, doporučení, rad nebo pokynů v záležitostech souvisejících s prováděním tohoto nařízení, včetně technických specifikací nebo stávajících norem týkajících se požadavků stanovených v tomto nařízení a poskytování poradenství a pomoci Komisi v konkrétních otázkách týkajících se umělé inteligence.	(76) V zájmu usnadnění hladkého, účinného a harmonizovaného provádění tohoto nařízení by měla být zřízena Evropská rada pro umělou inteligenci. Tato rada by měla odpovídat za řadu poradenských úkolů, včetně vydávání stanovisek, doporučení, rad nebo pokynů v záležitostech souvisejících s prováděním tohoto nařízení, včetně technických specifikací nebo stávajících norem týkajících se požadavků stanovených v tomto nařízení a poskytování odborného poradenství a pomoci Komisi v konkrétních otázkách týkajících se umělé inteligence, a řešit výzvy vyplývající z rychlého vývoje technologií umělé inteligence.

 

Pozměňovací návrh  22

Návrh nařízení

Bod odůvodnění 83

Znění navržené Komisí	Pozměňovací návrh
(83) V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní úrovni by měly všechny strany zapojené do uplatňování tohoto nařízení respektovat důvěrnost informací a údajů získaných při plnění svých úkolů.	(83) V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní úrovni by měly všechny strany zapojené do uplatňování tohoto nařízení respektovat důvěrnost informací a údajů získaných při plnění svých úkolů. Je vhodné, aby byl vytvořen nový soubor společných evropských pokynů a norem, aby bylo možné chránit soukromí a zároveň efektivně využívat dostupné údaje.

 

Pozměňovací návrh  23

 

Návrh nařízení