Zoznam 
 Predchádzajúci 
 Nasledujúci 
 Úplné znenie 
Postup : 2021/0106(COD)
Postup v rámci schôdze
Postup dokumentu : A9-0188/2023

Predkladané texty :

A9-0188/2023

Rozpravy :

PV 13/06/2023 - 8
CRE 13/06/2023 - 8

Hlasovanie :

PV 14/06/2023 - 10.6
CRE 14/06/2023 - 10.6
Vysvetlenie hlasovaní
PV 13/03/2024 - 8.2
Vysvetlenie hlasovaní

Prijaté texty :

P9_TA(2023)0236
P9_TA(2024)0138

Prijaté texty
PDF 1002kWORD 285k
Streda, 14. júna 2023 - Štrasburg
Akt o umelej inteligencii
P9_TA(2023)0236A9-0188/2023

Pozmeňujúce návrhy prijaté Európskym parlamentom 14. júna 2023 k návrhu nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty Únie (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))(1)

(Riadny legislatívny postup: prvé čítanie)

Text predložený Komisiou   Pozmeňujúci návrh
Pozmeňujúci návrh 1
Návrh nariadenia
Citácia 4 a (nová)
so zreteľom na stanovisko Európskej centrálnej banky,
Pozmeňujúci návrh 2
Návrh nariadenia
Citácia 4 b (nová)
so zreteľom na spoločné stanovisko Európskeho výboru pre ochranu údajov a európskeho dozorného úradníka pre ochranu údajov,
Pozmeňujúci návrh 3
Návrh nariadenia
Odôvodnenie 1
(1)  Účelom tohto nariadenia je zlepšiť fungovanie vnútorného trhu stanovením jednotného právneho rámca, najmä pokiaľ ide o vývoj, uvádzanie na trh a používanie umelej inteligencie v súlade s hodnotami Únie. Toto nariadenie prihliada na viacero naliehavých dôvodov verejného záujmu, ako napr. vysoká úroveň ochrany zdravia, bezpečnosti a základných práv, a zabezpečuje voľný pohyb tovaru a služieb založených na umelej inteligencii cez hranice, čím bráni členským štátom ukladať obmedzenia na vývoj, uvádzanie na trh a používanie systémov umelej inteligencie, pokiaľ sa to týmto nariadením výslovne nepovolí.
 (1)  Účelom tohto nariadenia je podporovať zavádzanie dôveryhodnej umelej inteligencie sústredenej na človeka a zabezpečiť vysokú úroveň ochrany zdravia, bezpečnosti, základných práv, demokracie a právneho štátu a životného prostredia pred škodlivými účinkami systémov umelej inteligencie v Únii a zároveň podporovať inovácie a zlepšiť fungovanie vnútorného trhu. Týmto nariadením sa stanovuje jednotný právny rámec, najmä pokiaľ ide o vývoj, uvádzanie na trh, uvádzanie do prevádzky a používanie umelej inteligencie v súlade s hodnotami Únie a zabezpečuje voľný pohyb tovaru a služieb založených na umelej inteligencii cez hranice, čím bráni členským štátom ukladať obmedzenia na vývoj, uvádzanie na trh a používanie systémov umelej inteligencie (systémov AI), pokiaľ sa to týmto nariadením výslovne nepovolí. Niektoré systémy AI môžu mať vplyv aj na demokraciu, právny štát a životné prostredie. Tieto obavy sa osobitne riešia v kritických odvetviach a prípadoch použitia uvedených v prílohách k tomuto nariadeniu.
Pozmeňujúci návrh 4
Návrh nariadenia
Odôvodnenie 1 a (nové)
(1a)  Toto nariadenie by malo zachovať hodnoty Únie, ktoré uľahčujú rozdeľovanie prínosov umelej inteligencie v spoločnosti, chránia jednotlivcov, spoločnosti, demokraciu a právny štát a životné prostredie pred rizikami a zároveň podporujú inovácie a zamestnanosť a robia z Únie lídra v tejto oblasti.
Pozmeňujúci návrh 5
Návrh nariadenia
Odôvodnenie 2
(2)  Systémy umelej inteligencie (systémy UI) možno ľahko zaviesť vo viacerých odvetviach hospodárstva a spoločnosti, a to aj cezhranične, a môžu sa pohybovať po celej Únii. Niektoré členské štáty už zvažujú prijatie vnútroštátnych pravidiel na zabezpečenie toho, aby bola umelá inteligencia bezpečná a aby sa vyvíjala a používala v súlade s povinnosťami týkajúcimi sa základných práv. Rozdielne vnútroštátne pravidlá môžu viesť k fragmentácii vnútorného trhu a znížiť právnu istotu pre prevádzkovateľov, ktorí vyvíjajú alebo používajú systémy umelej inteligencie. Mala by sa preto zabezpečiť konzistentná a vysoká úroveň ochrany v celej Únii, pričom by sa malo zabrániť rozdielom, ktoré bránia voľnému pohybu systémov umelej inteligencie a súvisiacich výrobkov a služieb v rámci vnútorného trhu, a to stanovením jednotných povinností pre prevádzkovateľov a zaručením jednotnej ochrany naliehavých dôvodov verejného záujmu a práv osôb na celom vnútornom trhu na základe článku 114 Zmluvy o fungovaní Európskej únie (ZFEÚ). Keďže toto nariadenie obsahuje osobitné pravidlá ochrany jednotlivcov v súvislosti so spracúvaním osobných údajov, pokiaľ ide o obmedzenia používania systémov umelej inteligencie na diaľkovú biometrickú identifikáciu v reálnom čase vo verejne dostupných priestoroch na účely presadzovania práva, je vhodné, aby sa tieto osobitné pravidlá uvedené v tomto nariadení zakladali na článku 16 ZFEÚ. Pokiaľ ide o tieto osobitné pravidlá a použitie článku 16 ZFEÚ, je vhodné poradiť sa s Európskym výborom pre ochranu údajov.
 (2)  Systémy UI možno ľahko zaviesť vo viacerých odvetviach hospodárstva a spoločnosti, a to aj cezhranične, a môžu sa pohybovať po celej Únii. Niektoré členské štáty už zvažujú prijatie vnútroštátnych pravidiel na zabezpečenie toho, aby bola umelá inteligencia dôveryhodná a bezpečná a aby sa vyvíjala a používala v súlade s povinnosťami týkajúcimi sa základných práv. Rozdielne vnútroštátne pravidlá môžu viesť k fragmentácii vnútorného trhu a znížiť právnu istotu pre prevádzkovateľov, ktorí vyvíjajú alebo používajú systémy umelej inteligencie. Mala by sa preto zabezpečiť konzistentná a vysoká úroveň ochrany v celej Únii, aby sa dosiahla dôveryhodná umelá inteligencia, pričom by sa malo zabrániť rozdielom, ktoré bránia voľnému pohybu, inováciám, nasadzovaniu a zavádzaniu systémov umelej inteligencie a súvisiacich výrobkov a služieb v rámci vnútorného trhu, a to stanovením jednotných povinností pre prevádzkovateľov a zaručením jednotnej ochrany naliehavých dôvodov verejného záujmu a práv osôb na celom vnútornom trhu na základe článku 114 Zmluvy o fungovaní Európskej únie (ZFEÚ).
Pozmeňujúci návrh 6
Návrh nariadenia
Odôvodnenie 2 a (nové)
(2a)  Keďže umelá inteligencia často závisí od spracovania veľkého množstva údajov a mnohé systémy a aplikácie AI od spracúvania osobných údajov, je vhodné založiť toto nariadenie na článku 16 ZFEÚ, ktorý zakotvuje právo na ochranu fyzických osôb pri spracúvaní osobných údajov a ustanovuje prijatie pravidiel ochrany jednotlivcov v súvislosti so spracúvaním osobných údajov.
Pozmeňujúci návrh 7
Návrh nariadenia
Odôvodnenie 2 b (nové)
(2b)  Základné právo na ochranu osobných údajov je zaručené najmä nariadeniami (EÚ) 2016/679 a (EÚ) 2018/1725 a smernicou 2016/680. Smernicou 2002/58/ES sa okrem toho chráni súkromný život a dôvernosť komunikácie a stanovujú sa podmienky uchovávania osobných a iných ako osobných údajov v koncovom zariadení a prístupu k nim. Uvedené právne akty poskytujú základ pre udržateľné a zodpovedné spracúvanie údajov vrátane prípadov, keď súbory údajov obsahujú kombináciu osobných a iných ako osobných údajov. Cieľom tohto nariadenia nie je mať vplyv na uplatňovanie existujúcich právnych predpisov Únie upravujúcich spracúvanie osobných údajov vrátane úloh a právomocí nezávislých dozorných orgánov zodpovedných za monitorovanie súladu s týmito nástrojmi. Týmto nariadením nie sú dotknuté základné práva na súkromný život a ochranu osobných údajov stanovené v právnych predpisoch Únie o ochrane údajov a súkromia a zakotvené v Charte základných práv Európskej únie (ďalej len „charta“).
Pozmeňujúci návrh 8
Návrh nariadenia
Odôvodnenie 2 c (nové)
(2c)  Systémy umelej inteligencie v Únii podliehajú príslušným právnym predpisom o bezpečnosti výrobkov, ktoré poskytujú rámec na ochranu spotrebiteľov pred nebezpečnými výrobkami vo všeobecnosti, a takéto právne predpisy by sa mali naďalej uplatňovať. Týmto nariadením nie sú dotknuté ani pravidlá stanovené v iných právnych aktoch Únie týkajúcich sa ochrany spotrebiteľa a bezpečnosti výrobkov vrátane nariadenia (EÚ) 2017/2394, nariadenia (EÚ) 2019/1020 a smernice 2001/95/ES o všeobecnej bezpečnosti výrobkov a smernice 2013/11/EÚ.
Pozmeňujúci návrh 9
Návrh nariadenia
Odôvodnenie 2 d (nové)
(2d)  V súlade s článkom 114 ods. 2 ZFEÚ toto nariadenie dopĺňa a nemalo by narúšať práva a záujmy zamestnaných osôb. Týmto nariadením by preto nemalo byť dotknuté právo Únie v oblasti sociálnej politiky a vnútroštátne pracovné právo a prax, t. j. akékoľvek právne alebo zmluvné ustanovenia týkajúce sa podmienok zamestnávania, pracovných podmienok vrátane bezpečnosti a ochrany zdravia pri práci a vzťahov medzi zamestnávateľmi a pracovníkmi, vrátane informovania, konzultácií a účasti. Týmto nariadením by nemal byť nijakým spôsobom ovplyvnený výkon základných práv uznaných v členských štátoch alebo na úrovni Únie vrátane práva na štrajk alebo slobody štrajkovať alebo prijímať iné opatrenia patriace do rozsahu pôsobnosti systémov pracovnoprávnych vzťahov v členských štátoch v súlade s vnútroštátnymi právnymi predpismi a/alebo praxou. Touto smernicou by tiež nemali byť dotknuté postupy zosúlaďovania, právo vyjednávať, uzatvárať a presadzovať kolektívne zmluvy alebo právo na kolektívne akcie v súlade s vnútroštátnym právom a/alebo praxou. V žiadnom prípade by to nemalo brániť Komisii, aby navrhla osobitné právne predpisy o právach a slobodách pracovníkov, ktorých sa systémy umelej inteligencie týkajú.
Pozmeňujúci návrh 10
Návrh nariadenia
Odôvodnenie 2 e (nové)
(2e)  Týmto nariadením by nemali byť dotknuté ustanovenia zamerané na zlepšenie pracovných podmienok pri práci na platforme stanovené v smernici ... [COD 2021/414/ES].
Pozmeňujúci návrh 11
Návrh nariadenia
Odôvodnenie 2 f (nové)
(2f)  Toto nariadenie by malo pomôcť pri podpore výskumu a inovácií a nemalo by oslabovať výskumnú a vývojovú činnosť, pričom by malo rešpektovať slobodu vedeckého výskumu. Preto je potrebné vylúčiť z rozsahu jeho pôsobnosti systémy umelej inteligencie osobitne vyvinuté výlučne na účely vedeckého výskumu a vývoja a zabezpečiť, aby nariadenie inak neovplyvňovalo vedecký výskum a činnosť v oblasti vývoja systémov umelej inteligencie. Za každých okolností by sa všetky výskumné a vývojové činnosti mali vykonávať v súlade s chartou, právom Únie, ako aj vnútroštátnym právom;
Pozmeňujúci návrh 12
Návrh nariadenia
Odôvodnenie 3
(3)  Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá môže prispieť k širokému spektru hospodárskych a spoločenských výhod vo všetkých priemyselných odvetviach a spoločenských činnostiach. Zlepšením predpovedí, optimalizáciou operácií a prideľovania zdrojov a personalizáciou digitálnych riešení, ktoré sú k dispozícii jednotlivcom a organizáciám, môže využívanie umelej inteligencie poskytnúť podnikom kľúčové konkurenčné výhody a podporiť sociálne a environmentálne priaznivé výsledky, napríklad v oblasti zdravotnej starostlivosti, poľnohospodárstva, vzdelávania a odbornej prípravy, riadenia infraštruktúry, energetiky, dopravy a logistiky, verejných služieb, bezpečnostnej ochrany, spravodlivosti, efektívneho využívania zdrojov a energie a zmierňovania zmeny klímy a adaptácie na ňu.
 (3)  Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá môže a už prispieva k širokému spektru hospodárskych, environmentálnych a spoločenských výhod vo všetkých priemyselných odvetviach a spoločenských činnostiach, ak je vyvinutá v súlade s príslušnými všeobecnými zásadami vyplývajúcimi z charty a hodnôt, na ktorých je Únia založená. Zlepšením predpovedí, optimalizáciou operácií a prideľovania zdrojov a personalizáciou digitálnych riešení, ktoré sú k dispozícii jednotlivcom a organizáciám, môže využívanie umelej inteligencie poskytnúť podnikom kľúčové konkurenčné výhody a podporiť sociálne a environmentálne priaznivé výsledky, napríklad v oblasti zdravotnej starostlivosti, poľnohospodárstva, bezpečnosti potravín, vzdelávania a odbornej prípravy, médií, športu a kultúry, riadenia infraštruktúry, energetiky, dopravy a logistiky, krízového riadenia, verejných služieb, bezpečnostnej ochrany, spravodlivosti, efektívneho využívania zdrojov a energie, monitorovania životného prostredia, zachovania a obnovy biodiverzity a ekosystémov a zmierňovania zmeny klímy a adaptácie na ňu.
Pozmeňujúci návrh 13
Návrh nariadenia
Odôvodnenie 3 a (nové)
(3a)  S cieľom prispieť k dosiahnutiu cieľov uhlíkovej neutrality by sa európske spoločnosti mali snažiť využiť všetok dostupný technický pokrok, ktorý môže pomôcť pri realizácii tohto cieľa. Umelá inteligencia je technológia, ktorá má potenciál na spracovanie neustále rastúceho množstva údajov, ktoré vznikajú v priebehu priemyselných, environmentálnych, zdravotných a iných procesov. S cieľom uľahčiť investície do analytických a optimalizačných nástrojov založených na umelej inteligencii by toto nariadenie malo poskytnúť predvídateľné a primerané prostredie pre priemyselné riešenia s nízkym rizikom.
Pozmeňujúci návrh 14
Návrh nariadenia
Odôvodnenie 4
(4)  Umelá inteligencia môže zároveň v závislosti od okolností týkajúcich sa jej konkrétneho uplatňovania a používania vytvárať riziká a poškodzovať verejné záujmy a práva, ktoré sú chránené právom Únie. Toto poškodenie môže byť hmotné aj nehmotné.
 (4)  Umelá inteligencia môže zároveň v závislosti od okolností týkajúcich sa jej konkrétneho uplatňovania a používania, ako aj úrovne technologického vývoja, vytvárať riziká a poškodzovať verejné alebo súkromné záujmy a základné práva fyzických osôb, ktoré sú chránené právom Únie. Toto poškodenie môže byť hmotné aj nehmotné vrátane fyzickej, psychickej, spoločenskej alebo ekonomickej ujmy.
Pozmeňujúci návrh 15
Návrh nariadenia
Odôvodnenie 4 a (nové)
(4a)  Vzhľadom na veľký vplyv, ktorý umelá inteligencia môže mať na spoločnosť, a na potrebu budovať dôveru je nevyhnutné, aby sa umelá inteligencia a jej regulačný rámec rozvíjali v súlade s hodnotami Únie zakotvenými v článku 2 ZEÚ, základnými právami a slobodami zakotvenými v zmluvách, charte a medzinárodnom práve v oblasti ľudských práv. Nevyhnutnou podmienkou je, aby umelá inteligencia bola technológiou zameranou na človeka. Nemala by nahrádzať ľudskú autonómiu ani predpokladať stratu osobnej slobody a mala by v prvom rade slúžiť potrebám spoločnosti a spoločnému blahu. Mali by sa poskytnúť záruky, ktoré zabezpečia vývoj a používanie umelej inteligencie riadiacej sa etickými zásadami a rešpektujúcej hodnoty Únie a chartu.
Pozmeňujúci návrh 16
Návrh nariadenia
Odôvodnenie 5
(5)  Na podporu rozvoja, využívania a zavádzania umelej inteligencie na vnútornom trhu je preto potrebný právny rámec Únie, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorý zároveň spĺňa vysokú úroveň ochrany verejných záujmov, ako sú zdravie a bezpečnosť, a ochrany základných práv, ako sú uznané a chránené právom Únie. Na dosiahnutie tohto cieľa by sa mali stanoviť pravidlá upravujúce uvádzanie určitých systémov umelej inteligencie na trh a do prevádzky, čím sa zabezpečí hladké fungovanie vnútorného trhu a umožní sa, aby tieto systémy využívali zásadu voľného pohybu tovaru a služieb. Stanovením uvedených pravidiel v tomto nariadení sa podporí cieľ Únie stať sa svetovým lídrom v rozvoji bezpečnej, dôveryhodnej a etickej umelej inteligencie, ako ho vyjadrila Európska rada33, a zabezpečí ochrana etických zásad, ako to osobitne požaduje Európsky parlament34.
 (5)  Na podporu rozvoja, využívania a zavádzania umelej inteligencie na vnútornom trhu je preto potrebný právny rámec Únie, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorý zároveň spĺňa vysokú úroveň ochrany verejných záujmov, ako sú zdravie a bezpečnosť, ochrana základných práv, demokracia a právny štát a životné prostredie, ako sú uznané a chránené právom Únie. Na dosiahnutie tohto cieľa by sa mali stanoviť pravidlá upravujúce uvádzanie určitých systémov umelej inteligencie na trh, do prevádzky a používania, čím sa zabezpečí hladké fungovanie vnútorného trhu a umožní sa, aby tieto systémy využívali zásadu voľného pohybu tovaru a služieb. Tieto pravidlá by mali byť jasné a spoľahlivé pri ochrane základných práv, mali by podporovať nové inovačné riešenia a umožňovať vytvorenie európskeho ekosystému verejných a súkromných aktérov vytvárajúceho systémy umelej inteligencie v súlade s hodnotami Únie. Stanovením uvedených pravidiel, ako aj opatrení na podporu inovácie s osobitným dôrazom na MSP a startupy v tomto nariadení sa podporí cieľ presadzovať umelú inteligenciu vytvorenú v Európe, cieľ Únie stať sa svetovým lídrom v rozvoji bezpečnej, dôveryhodnej a etickej umelej inteligencie, ako ho vyjadrila Európska rada33, a zabezpečí ochrana etických zásad, ako to osobitne požaduje Európsky parlament34.
__________________
 __________________
33 Európska rada, mimoriadne zasadnutie Európskej rady (1. a 2. októbra 2020) – závery, EUCO 13/20, 2020, s. 6.
 33 Európska rada, mimoriadne zasadnutie Európskej rady (1. a 2. októbra 2020) – závery, EUCO 13/20, 2020, s. 6.
34 Uznesenie Európskeho parlamentu z 20. októbra 2020 s odporúčaniami pre Komisiu k rámcu etických aspektov umelej inteligencie, robotiky a súvisiacich technológií, 2020/2012(INL).
 34 Uznesenie Európskeho parlamentu z 20. októbra 2020 s odporúčaniami pre Komisiu k rámcu etických aspektov umelej inteligencie, robotiky a súvisiacich technológií, 2020/2012(INL).
Pozmeňujúci návrh 17
Návrh nariadenia
Odôvodnenie 5 a (nové)
(5a)  Okrem toho musí Únia v záujme podpory rozvoja systémov UI v súlade s hodnotami Únie riešiť hlavné nedostatky a prekážky, ktoré blokujú potenciál digitálnej transformácie, vrátane nedostatku digitálne kvalifikovaných pracovníkov, obáv týkajúcich sa kybernetickej bezpečnosti, nedostatku investícií a prístupu k investíciám a existujúcich a potenciálnych rozdielov medzi veľkými spoločnosťami, MSP a startupmi. Osobitná pozornosť by sa mala venovať tomu, aby sa výhody umelej inteligencie a inovácií v oblasti nových technológií prejavili vo všetkých regiónoch Únie a aby sa dostatočné investície a zdroje poskytli najmä tým regiónom, ktoré môžu v niektorých digitálnych ukazovateľoch zaostávať.
Pozmeňujúci návrh 18
Návrh nariadenia
Odôvodnenie 6
(6)  Pojem systém umelej inteligencie by sa mal jasne vymedziť s cieľom zabezpečiť právnu istotu a zároveň poskytnúť flexibilitu na prispôsobenie sa budúcemu technologickému vývoju. Vymedzenie pojmu by malo vychádzať z kľúčových funkčných charakteristík softvéru, najmä zo schopnosti generovať pre daný súbor človekom stanovených cieľov výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia, ktoré ovplyvňujú prostredie, s ktorým systém komunikuje, či už vo fyzickom alebo digitálnom rozmere. Systémy umelej inteligencie môžu byť navrhnuté tak, aby fungovali s rôznymi úrovňami samostatnosti a mohli sa používať samostatne alebo ako komponent určitého výrobku bez ohľadu na to, či je systém do tohto výrobku fyzicky integrovaný (vstavaný) alebo či napomáha funkčnosti tohto výrobku bez toho, aby doň bol integrovaný (nevstavaný). Vymedzenie pojmu systém umelej inteligencie by sa malo doplniť o zoznam osobitných techník a prístupov používaných na jeho vývoj, ktorý by sa mal vzhľadom na vývoj na trhu a technologický vývoj aktualizovať prostredníctvom delegovaných aktov, ktoré by prijala Komisia na účely zmeny uvedeného zoznamu.
 (6)  Pojem systém umelej inteligencie v tomto nariadení by sa mal jasne vymedziť a úzko zosúladiť s prácou medzinárodných organizácií, ktoré sa zaoberajú umelou inteligenciou s cieľom zabezpečiť právnu istotu, harmonizáciu a širokú akceptáciu, a zároveň poskytnúť flexibilitu na prispôsobenie sa rýchlemu technologickému vývoju v tejto oblasti. Okrem toho by mal vychádzať z kľúčových funkčných charakteristík umelej inteligencie, ako sú jej schopnosti učenia sa, uvažovania alebo modelovania, aby sa líšila od jednoduchších softvérových systémov a programovacích prístupov. Systémy umelej inteligencie sú navrhnuté tak, aby fungovali s rôznymi úrovňami samostatnosti, čo znamená, že majú aspoň určitý stupeň nezávislosti od ľudskej kontroly a schopnosti fungovať bez ľudského zásahu. Pojem „strojový“ sa vzťahuje na skutočnosť, že systémy umelej inteligencie fungujú na strojoch. Odkaz na explicitné alebo implicitné ciele zdôrazňuje, že systémy umelej inteligencie môžu fungovať podľa explicitných cieľov stanovených človekom alebo implicitných cieľov. Ciele systému umelej inteligencie sa môžu líšiť od stanoveného účelu systému umelej inteligencie v konkrétnom kontexte. Odkaz na predpovede zahŕňa obsah, ktorý sa v tomto nariadení považuje za formu predpovede ako jeden z možných výstupov systému umelej inteligencie. Na účely tohto nariadenia by sa prostrediami mali rozumieť kontexty, v ktorých systémy umelej inteligencie fungujú, zatiaľ čo výstupy vytvorené systémom umelej inteligencie, teda predpovede, odporúčania alebo rozhodnutia, reagujú na ciele systému na základe vstupov z uvedeného prostredia. Takýto výstup má ešte väčší vplyv na prostredie, a to aj prostredníctvom jednoduchého zavedenia nových informácií.
Pozmeňujúci návrh 19
Návrh nariadenia
Odôvodnenie 6 a (nové)
(6a)  Systémy umelej inteligencie majú často schopnosti strojového učenia, ktoré im umožňujú samostatne sa prispôsobovať a vykonávať nové úlohy. Strojové učenie znamená výpočtový proces optimalizácie parametrov modelu z údajov, čo je matematický konštrukt generujúci výstup na základe vstupných údajoch. Prístupy strojového učenia vrátane učenie pod dohľadom, bez dozoru a učenie posilňovaním, pričom sa používajú rôzne metódy vrátane hĺbkového učenia s neurónovými sieťami. Toto nariadenie je zamerané na riešenie nových potenciálnych rizík, ktoré môžu vzniknúť delegovaním kontroly na systémy umelej inteligencie, najmä na tie systémy umelej inteligencie, ktoré sa po zavedení môžu vyvíjať. Funkcia a výstupy mnohých z týchto systémov umelej inteligencie sú založené na abstraktných matematických vzťahoch, ktoré sú pre ľudí ťažké pochopiť, monitorovať a spätne vysledovať ku konkrétnym vstupom. Tieto komplexné a neprehľadné charakteristiky (tzv. black box) ovplyvňujú zodpovednosť a vysvetliteľnosť. Porovnateľne jednoduchšie technológie, ako sú prístupy založené na poznatkoch, bayesovský odhad alebo rozhodovacie stromy, môžu viesť aj k právnym medzerám, ktoré je potrebné riešiť týmto nariadením, najmä ak sa používajú v kombinácii s prístupmi strojového učenia v hybridných systémoch.
Pozmeňujúci návrh 20
Návrh nariadenia
Odôvodnenie 6 b (nové)
(6b)  Systémy umelej inteligencie sa môžu používať samostatne ako softvérový systém, integrovať (vstavať) do fyzického výrobku, používať na napomáhanie funkčnosti fyzického výrobku bez toho, aby doň bol integrovaný (nevstavaný), alebo sa môže používať ako súčasť umelej inteligencie väčšieho systému. Ak by tento väčší systém nefungoval bez predmetnej súčasti umelej inteligencie, potom by sa podľa tohto nariadenia celý väčší systém mal považovať za jediný systém umelej inteligencie.
Pozmeňujúci návrh 21
Návrh nariadenia
Odôvodnenie 7
(7)  Pojem „biometrické údaje“ použitý v tomto nariadení je v súlade s pojmom biometrické údaje vymedzeným v článku 4 bode 14 nariadenia Európskeho parlamentu a Rady (EÚ) 2016/67935, v článku 3 bode 18 nariadenia Európskeho parlamentu a Rady (EÚ) 2018/172536 a v článku 3 bode 13 smernice Európskeho parlamentu a Rady (EÚ) 2016/68037 a mal by sa vykladať v súlade s nimi.
 (7)  Pojem „biometrické údaje“ použitý v tomto nariadení je v súlade s pojmom biometrické údaje vymedzeným v článku 4 bode 14 nariadenia Európskeho parlamentu a Rady (EÚ) 2016/67935. Údaje založené na biometrii sú dodatočné údaje, ktoré sú výsledkom osobitného technického spracúvania týkajúceho sa fyzických, fyziologických alebo behaviorálnych prejavov fyzickej osoby, ako sú výrazy tváre, pohyby, frekvencia pulzu, hlas, stlačenie klávesov alebo chôdza, ktoré môžu alebo nemusia umožniť alebo potvrdiť jedinečnú identifikáciu fyzickej osoby.
__________________
 __________________
35 Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).
 35 Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).
36 Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1725 z 23. októbra 2018 o ochrane fyzických osôb pri spracúvaní osobných údajov inštitúciami, orgánmi, úradmi a agentúrami Únie a o voľnom pohybe takýchto údajov, ktorým sa zrušuje nariadenie (ES) č. 45/2001 a rozhodnutie č. 1247/2002/ES (Ú. v. EÚ L 295, 21.11.2018, s. 39).
37 Smernica Európskeho parlamentu a Rady (EÚ) 2016/680 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov príslušnými orgánmi na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania alebo na účely výkonu trestných sankcií a o voľnom pohybe takýchto údajov a o zrušení rámcového rozhodnutia Rady 2008/977/SVV (smernica o presadzovaní práva) (Ú. v. EÚ L 119, 4.5.2016, s. 89).
Pozmeňujúci návrh 22
Návrh nariadenia
Odôvodnenie 7 a (nové)
(7a)  Pojem „biometrická identifikácia“, ako sa používa v tomto nariadení, by sa mal vymedziť ako automatické rozpoznávanie fyzických, fyziologických, behaviorálnych a psychologických vlastností, ako sú tvár, pohyb oka, výrazy tváre, tvar tela, hlas, reč, chôdza, postoj, srdcová frekvencia, tlak krvi, vôňa, dynamika písania na klávesnici, psychologické reakcie (hnev, nepokoj, smútok a pod.) na účely stanovenia totožnosti jednotlivca porovnaním biometrických údajov daného jednotlivca s biometrickými údajmi jednotlivca uloženými v databáze (identifikácia porovnaním jedného údaju s viacerými údajmi) bez ohľadu na to, či jednotlivec udelil súhlas alebo nie.
Pozmeňujúci návrh 23
Návrh nariadenia
Odôvodnenie 7 b (nové)
(7b)  Pojem „systém biometrickej kategorizácie“, ako sa používa v tomto nariadení, by sa mal vymedziť ako zaradenie fyzických osôb do konkrétnych kategórií alebo odvodenie ich vlastností a atribútov, ako sú rod, pohlavie, vek, farba vlasov, farba očí, tetovanie, etnický alebo sociálny pôvod, zdravotný stav, duševná, mentálna alebo telesná spôsobilosť, behaviorálne alebo osobnostné charakteristiky, jazyk, náboženstvo alebo príslušnosť k národnostnej menšine, alebo sexuálna či politická orientácia, a to na základe ich biometrických alebo na biometrii založených údajov, alebo kategórií, ktoré možno z takýchto údajov vyvodiť.
Pozmeňujúci návrh 24
Návrh nariadenia
Odôvodnenie 8
(8)  Pojem „systém diaľkovej biometrickej identifikácie“, ako sa používa v tomto nariadení, by sa mal vymedziť funkčne ako systém umelej inteligencie určený na identifikáciu fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze a bez toho, aby sa vopred vedelo, či bude cieľová osoba prítomná a či ju bude možné identifikovať, a to bez ohľadu na konkrétnu technológiu, procesy alebo typy použitých biometrických údajov. Vzhľadom na ich odlišné charakteristiky a spôsoby, akými sa používajú, ako aj na rôzne súvisiace riziká, by sa malo rozlišovať medzi systémom diaľkovej biometrickej identifikácie „v reálnom čase“ a systémom „následnej“ diaľkovej biometrickej identifikácie. V prípade systémov „v reálnom čase“ prebieha zachytávanie biometrických údajov, ich porovnávanie a identifikácia okamžite, takmer okamžite alebo v každom prípade bez výrazného oneskorenia. V tejto súvislosti by nemal existovať priestor na obchádzanie pravidiel tohto nariadenia o používaní predmetných systémov umelej inteligencie „v reálnom čase“ tým, že sa stanovia menšie oneskorenia. Systémy v reálnom čase zahŕňajú používanie materiálu „naživo“ alebo „s malým časovým posunom“, ako sú napríklad videozáznamy generované kamerou alebo iným zariadením s podobnými funkciami. Naopak, v prípade systémov „následnej“ identifikácie už boli biometrické údaje zachytené a porovnanie a identifikácia sa uskutočňujú až po značnom oneskorení. Ide o materiály, ako sú fotografie alebo videozáznamy generované kamerami s uzavretým televíznym okruhom alebo súkromnými zariadeniami, ktoré boli vytvorené pred použitím tohto systému vo vzťahu k dotknutým fyzickým osobám.
 (8)  Pojem „systém diaľkovej biometrickej identifikácie“, ako sa používa v tomto nariadení, by sa mal vymedziť funkčne ako systém umelej inteligencie určený na identifikáciu fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze a bez toho, aby sa vopred vedelo, či bude cieľová osoba prítomná a či ju bude možné identifikovať, a to bez ohľadu na konkrétnu technológiu, procesy alebo typy použitých biometrických údajov, s výnimkou overovacích systémov, ktoré len porovnávajú biometrické údaje jednotlivca s ním predtým poskytnutými biometrickými údajmi (overenie totožnosti). Vzhľadom na ich odlišné charakteristiky a spôsoby, akými sa používajú, ako aj na rôzne súvisiace riziká, by sa malo rozlišovať medzi systémom diaľkovej biometrickej identifikácie „v reálnom čase“ a systémom „následnej“ diaľkovej biometrickej identifikácie. V prípade systémov „v reálnom čase“ prebieha zachytávanie biometrických údajov, ich porovnávanie a identifikácia okamžite, takmer okamžite alebo v každom prípade bez výrazného oneskorenia. V tejto súvislosti by nemal existovať priestor na obchádzanie pravidiel tohto nariadenia o používaní predmetných systémov umelej inteligencie „v reálnom čase“ tým, že sa stanovia menšie oneskorenia. Systémy v reálnom čase zahŕňajú používanie materiálu „naživo“ alebo „s malým časovým posunom“, ako sú napríklad videozáznamy generované kamerou alebo iným zariadením s podobnými funkciami. Naopak, v prípade systémov „následnej“ identifikácie už boli biometrické údaje zachytené a porovnanie a identifikácia sa uskutočňujú až po značnom oneskorení. Ide o materiály, ako sú fotografie alebo videozáznamy generované kamerami s uzavretým televíznym okruhom alebo súkromnými zariadeniami, ktoré boli vytvorené pred použitím tohto systému vo vzťahu k dotknutým fyzickým osobám. Vzhľadom na to, že pojem biometrická identifikácia je nezávislý od súhlasu jednotlivca, toto vymedzenie sa uplatňuje aj vtedy, keď sú varovné oznamy umiestnené na mieste, ktoré je pod dohľadom systému diaľkovej biometrickej identifikácie, a nie je de facto zrušené predbežnou registráciou.
Pozmeňujúci návrh 25
Návrh nariadenia
Odôvodnenie 8 a (nové)
(8a)  Identifikácia fyzických osôb na diaľku sa chápe tak, že rozlišuje systémy diaľkovej biometrickej identifikácie od individuálnych systémov overovania v tesnej blízkosti využívajúcich prostriedky biometrickej identifikácie, ktorých jediným účelom je potvrdiť, či sa konkrétnej fyzickej osobe, ktorá sa prezentuje na účely identifikácie, povoľuje napríklad získať prístup k službe, zariadeniu alebo priestorom.
Pozmeňujúci návrh 26
Návrh nariadenia
Odôvodnenie 9
(9)  Na účely tohto nariadenia by sa pojem „verejne prístupný priestor“ mal chápať ako akékoľvek fyzické miesto prístupné verejnosti bez ohľadu na to, či je dané miesto v súkromnom alebo verejnom vlastníctve. Tento pojem sa preto nevzťahuje na miesta, ktoré sú súkromnej povahy a zvyčajne nie sú voľne prístupné tretím stranám vrátane orgánov presadzovania práva, pokiaľ tieto strany neboli osobitne pozvané alebo oprávnené, ako napr. domácnosti, súkromné kluby, kancelárie, sklady a továrne. Nevzťahuje sa ani na online priestory, pretože nejde o fyzické priestory. Samotná skutočnosť, že sa na prístup do konkrétneho priestoru môžu uplatňovať určité podmienky, ako napr. vstupenky alebo vekové obmedzenia, však neznamená, že daný priestor nie je verejne prístupný v zmysle tohto nariadenia. Z toho vyplýva, že okrem verejných priestorov, ako sú napríklad ulice, príslušné časti vládnych budov a väčšina dopravnej infraštruktúry, sú zvyčajne verejne prístupné aj priestory ako kiná, divadlá, obchody a nákupné centrá. To, či je daný priestor prístupný verejnosti, by sa však malo určovať od prípadu k prípadu so zreteľom na osobitosti konkrétnej situácie.
 (9)  Na účely tohto nariadenia by sa pojem „verejne prístupný priestor“ mal chápať ako akékoľvek fyzické miesto prístupné verejnosti bez ohľadu na to, či je dané miesto v súkromnom alebo verejnom vlastníctve, a bez ohľadu na možné kapacitné obmedzenia. Tento pojem sa preto nevzťahuje na miesta, ktoré sú súkromnej povahy a zvyčajne nie sú voľne prístupné tretím stranám vrátane orgánov presadzovania práva, pokiaľ tieto strany neboli osobitne pozvané alebo oprávnené, ako napr. domácnosti, súkromné kluby, kancelárie, sklady a továrne. Nevzťahuje sa ani na online priestory, pretože nejde o fyzické priestory. Samotná skutočnosť, že sa na prístup do konkrétneho priestoru môžu uplatňovať určité podmienky, ako napr. vstupenky alebo vekové obmedzenia, však neznamená, že daný priestor nie je verejne prístupný v zmysle tohto nariadenia. Z toho vyplýva, že okrem verejných priestorov, ako sú napríklad ulice, príslušné časti vládnych budov a väčšina dopravnej infraštruktúry, sú zvyčajne verejne prístupné aj priestory ako kiná, divadlá, športoviská, školy, univerzity, príslušné časti nemocníc a bánk, zábavné parky, festivaly, obchody a nákupné centrá. To, či je daný priestor prístupný verejnosti, by sa však malo určovať od prípadu k prípadu so zreteľom na osobitosti konkrétnej situácie.
Pozmeňujúci návrh 27
Návrh nariadenia
Odôvodnenie 9 a (nové)
(9a)  Je dôležité poznamenať, že systémy umelej inteligencie by mali vynaložiť maximálne úsilie na dodržiavanie všeobecných zásad stanovujúcich rámec na vysokej úrovni, ktorý podporuje súdržný prístup k etickej a dôveryhodnej umelej inteligencii zameraný na človeka v súlade s Chartou základných práv Európskej únie a hodnotami, na ktorých je Únia založená, vrátane ochrany základných práv, ľudského faktora a dohľadu, technickej spoľahlivosti a bezpečnosti, ochrany súkromia a správy údajov, transparentnosti, nediskriminácie a spravodlivosti a dobrých spoločenských a environmentálnych podmienok.
Pozmeňujúci návrh 28
Návrh nariadenia
Odôvodnenie 9 b (nové)
(9b)  Pojem „gramotnosť v oblasti umelej inteligencie“ sa vzťahuje na zručnosti, vedomosti a porozumenie, ktoré poskytovateľom, používateľom a dotknutým osobám umožňujú informovane zavádzať systémy umelej inteligencie s ohľadom na ich príslušné práva a povinnosti v kontexte tohto nariadenia, ako aj získať povedomie o príležitostiach a rizikách umelej inteligencie, ako aj o prípadnej škode, ktorú môže spôsobiť, a tým podporujú jej demokratickú kontrolu. Gramotnosť v oblasti umelej inteligencie by sa nemala obmedzovať len na učenie sa o nástrojoch a technológiách, ale mala by sa zameriavať aj na to, aby poskytovatelia a používatelia nadobudli znalosti a zručnosti potrebné na zabezpečenie súladu s týmto nariadením a jeho presadzovania. Je preto potrebné, aby Komisia, členské štáty, ako aj poskytovatelia a používatelia systémov umelej inteligencie v spolupráci so všetkými príslušnými zainteresovanými stranami podporovali rozvoj gramotnosti v oblasti umelej inteligencie vo všetkých sektoroch spoločnosti, pre ľudí všetkých vekových kategórií vrátane žien a dievčat a aby sa pokrok v tejto oblasti pozorne sledoval.
Pozmeňujúci návrh 29
Návrh nariadenia
Odôvodnenie 10
(10)  S cieľom zabezpečiť rovnaké podmienky a účinnú ochranu práv a slobôd fyzických osôb v celej Únii by sa pravidlá stanovené v tomto nariadení mali uplatňovať na poskytovateľov systémov umelej inteligencie nediskriminačným spôsobom bez ohľadu na to, či sú usadení v Únii alebo v tretej krajine, a na používateľov systémov umelej inteligencie usadených v Únii.
 (10)  S cieľom zabezpečiť rovnaké podmienky a účinnú ochranu práv a slobôd fyzických osôb v celej Únii a na medzinárodnej úrovni by sa pravidlá stanovené v tomto nariadení mali uplatňovať na poskytovateľov systémov umelej inteligencie nediskriminačným spôsobom bez ohľadu na to, či sú usadení v Únii alebo v tretej krajine, a na nasadzujúce subjekty systémov umelej inteligencie usadené v Únii. Aby bola Únia verná svojim základným hodnotám, systémy umelej inteligencie určené na používanie pri postupoch, ktoré sa podľa tohto nariadenia považujú za neprijateľné, by sa mali takisto považovať za neprijateľné mimo Únie z dôvodu ich mimoriadne škodlivého účinku na základné práva zakotvené v charte. Preto je vhodné zakázať vývoz takýchto systémov umelej inteligencie do tretích krajín poskytovateľmi s bydliskom v Únii.
Pozmeňujúci návrh 30
Návrh nariadenia
Odôvodnenie 11
(11)  Určité systémy umelej inteligencie by vzhľadom na svoju digitálnu povahu mali patriť do rozsahu pôsobnosti tohto nariadenia, aj keď sa v Únii neuvádzajú na trh ani do prevádzky, ani sa v nej nepoužívajú. Ide napríklad o prevádzkovateľa usadeného v Únii, ktorý zmluvne zadáva určité služby prevádzkovateľovi usadenému mimo Únie v súvislosti s činnosťou vykonávanou systémom umelej inteligencie, ktorý by mohol byť označený ako vysokorizikový a ktorého účinky majú vplyv na fyzické osoby nachádzajúce sa v Únii. Za týchto okolností by systém umelej inteligencie, ktorý používa prevádzkovateľ mimo Únie, mohol spracúvať údaje zákonne zozbierané v Únii a prenášané z Únie a poskytovať zadávajúcemu prevádzkovateľovi v Únii výstup z uvedeného systému umelej inteligencie vyplývajúci z tohto spracovania bez toho, aby sa uvedený systém umelej inteligencie uvádzal na trh, do prevádzky alebo sa používal v Únii. S cieľom zabrániť obchádzaniu tohto nariadenia a zabezpečiť účinnú ochranu fyzických osôb nachádzajúcich sa v Únii by sa toto nariadenie malo vzťahovať aj na poskytovateľov a používateľov systémov umelej inteligencie, ktorí sú usadení v tretej krajine, a to v rozsahu, v akom sa výstup generovaný týmito systémami používa v Únii. S cieľom zohľadniť existujúce dojednania a osobitné potreby spolupráce so zahraničnými partnermi, s ktorými sa vymieňajú informácie a dôkazy, by sa však toto nariadenie nemalo vzťahovať na orgány verejnej moci tretej krajiny a medzinárodné organizácie, ak konajú v rámci medzinárodných dohôd uzavretých na vnútroštátnej alebo európskej úrovni v oblasti presadzovania práva a justičnej spolupráce s Úniou alebo jej členskými štátmi. Takéto dohody boli uzavreté dvojstranne medzi členskými štátmi a tretími krajinami alebo medzi Európskou úniou, Europolom a inými agentúrami EÚ a tretími krajinami a medzinárodnými organizáciami.
 (11)  Určité systémy umelej inteligencie by vzhľadom na svoju digitálnu povahu mali patriť do rozsahu pôsobnosti tohto nariadenia, aj keď sa v Únii neuvádzajú na trh ani do prevádzky, ani sa v nej nepoužívajú. Ide napríklad o prevádzkovateľa usadeného v Únii, ktorý zmluvne zadáva určité služby prevádzkovateľovi usadenému mimo Únie v súvislosti s činnosťou vykonávanou systémom umelej inteligencie, ktorý by mohol byť označený ako vysokorizikový a ktorého účinky majú vplyv na fyzické osoby nachádzajúce sa v Únii. Za týchto okolností by systém umelej inteligencie, ktorý používa prevádzkovateľ mimo Únie, mohol spracúvať údaje zákonne zozbierané v Únii a prenášané z Únie a poskytovať zadávajúcemu prevádzkovateľovi v Únii výstup z uvedeného systému umelej inteligencie vyplývajúci z tohto spracovania bez toho, aby sa uvedený systém umelej inteligencie uvádzal na trh, do prevádzky alebo sa používal v Únii. S cieľom zabrániť obchádzaniu tohto nariadenia a zabezpečiť účinnú ochranu fyzických osôb nachádzajúcich sa v Únii by sa toto nariadenie malo vzťahovať aj na poskytovateľov a nasadzujúcich používateľov systémov umelej inteligencie, ktorí sú usadení v tretej krajine, a to v rozsahu, v akom je výstup generovaný týmito systémami určený na používanie v Únii. S cieľom zohľadniť existujúce dojednania a osobitné potreby spolupráce so zahraničnými partnermi, s ktorými sa vymieňajú informácie a dôkazy, by sa však toto nariadenie nemalo vzťahovať na orgány verejnej moci tretej krajiny a medzinárodné organizácie, ak konajú v rámci medzinárodných dohôd uzavretých na vnútroštátnej alebo európskej úrovni v oblasti presadzovania práva a justičnej spolupráce s Úniou alebo jej členskými štátmi. Takéto dohody boli uzavreté dvojstranne medzi členskými štátmi a tretími krajinami alebo medzi Európskou úniou, Europolom a inými agentúrami EÚ a tretími krajinami a medzinárodnými organizáciami. Táto výnimka by sa však mala obmedziť na dôveryhodné krajiny a medzinárodné organizácie, ktoré zdieľajú hodnoty Únie.
Pozmeňujúci návrh 31
Návrh nariadenia
Odôvodnenie 12
(12)  Toto nariadenie by sa malo vzťahovať aj na inštitúcie, úrady, orgány a agentúry Únie, ak konajú ako poskytovateľ alebo používateľ systému umelej inteligencie. Systémy umelej inteligencie vyvinuté alebo používané výlučne na vojenské účely by mali byť vylúčené z rozsahu pôsobnosti tohto nariadenia, ak toto používanie patrí do výlučnej právomoci spoločnej zahraničnej a bezpečnostnej politiky upravenej v hlave V Zmluvy o Európskej únii (ZEÚ). Týmto nariadením by nemali byť dotknuté ustanovenia o zodpovednosti poskytovateľov sprostredkovateľských služieb stanovené v smernici Európskeho parlamentu a Rady 2000/31/ES [v znení aktu o digitálnych službách].
 (12)  Toto nariadenie by sa malo vzťahovať aj na inštitúcie, úrady, orgány a agentúry Únie, ak konajú ako poskytovateľ alebo nasadzujúci subjekt systému umelej inteligencie. Systémy umelej inteligencie vyvinuté alebo používané výlučne na vojenské účely by mali byť vylúčené z rozsahu pôsobnosti tohto nariadenia, ak toto používanie patrí do výlučnej právomoci spoločnej zahraničnej a bezpečnostnej politiky upravenej v hlave V Zmluvy o Európskej únii (ZEÚ). Týmto nariadením by nemali byť dotknuté ustanovenia o zodpovednosti poskytovateľov sprostredkovateľských služieb stanovené v smernici Európskeho parlamentu a Rady 2000/31/ES [v znení aktu o digitálnych službách].
Pozmeňujúci návrh 32
Návrh nariadenia
Odôvodnenie 12 a (nové)
(12a)  Softvér a údaje, ktoré sú voľne zdieľané a používatelia k nim alebo k ich upraveným verziám môžu voľne pristupovať, používať ich, upravovať a opakovane distribuovať, môžu prispieť k výskumu a inováciám na trhu. Z výskumu Komisie takisto vyplýva, že slobodný softvér a softvér s otvoreným zdrojovým kódom môže prispieť k HDP Európskej únie sumou 65 až 95 miliárd EUR a európskemu hospodárstvu môže poskytnúť významné príležitosti na rast. Používatelia môžu spúšťať, kopírovať, distribuovať, študovať, meniť a zlepšovať softvér a údaje vrátane modelov prostredníctvom bezplatných licencií s otvoreným zdrojovým kódom. S cieľom podporiť vývoj a zavádzanie umelej inteligencie, najmä zo strany MSP, startupov, akademického výskumu, ale aj jednotlivcov, by sa toto nariadenie nemalo vzťahovať na takéto komponenty umelej inteligencie dostupné zdarma a komponenty s otvoreným zdrojovým kódom s výnimkou prípadov, keď ich poskytovateľ uvádza na trh alebo do prevádzky ako súčasť vysokorizikového systému umelej inteligencie alebo systému umelej inteligencie, na ktorý sa vzťahujú hlavy II alebo IV tohto nariadenia.
Pozmeňujúci návrh 33
Návrh nariadenia
Odôvodnenie 12 b (nové)
(12b)  Ani spoločný vývoj komponentov umelej inteligencie dostupných zdarma a komponentov s otvoreným zdrojovým kódom, ani ich sprístupnenie na otvorených úložiskách by nemali predstavovať uvedenie na trh alebo do prevádzky. Komerčná činnosť v zmysle sprístupnenia na trhu by však mohla byť charakterizovaná účtovaním ceny, s výnimkou transakcií medzi mikropodnikmi, za komponent umelej inteligencie dostupnej zdarma a umelej inteligencie s otvoreným zdrojovým kódom, ale aj účtovaním ceny za služby technickej podpory, poskytovaním softvérovej platformy, prostredníctvom ktorej poskytovateľ speňažuje iné služby, alebo použitím osobných údajov z iných dôvodov ako výlučne z dôvodu zvýšenia bezpečnosti, kompatibility alebo interoperability softvéru.
Pozmeňujúci návrh 34
Návrh nariadenia
Odôvodnenie 12 c (nové)
(12c)  Od vývojárov komponentov umelej inteligencie dostupných zdarma a komponentov s otvoreným zdrojovým kódom by sa podľa tohto nariadenia nemalo vyžadovať dodržiavanie požiadaviek zameraných na hodnotový reťazec umelej inteligencie, a najmä nie na poskytovateľa, ktorý používa tento komponent slobodnej umelej inteligencie dostupný zdarma a komponent s otvoreným zdrojovým kódom. Vývojári komponentov umelej inteligencie dostupných zdarma a komponentov s otvoreným zdrojovým kódom by sa však mali nabádať, aby vykonávali všeobecne prijaté postupy pre dokumentáciu, ako sú vzorové a dátové karty, ako spôsob urýchlenia výmeny informácií v rámci hodnotového reťazca umelej inteligencie, čím sa umožní podpora dôveryhodných systémov umelej inteligencie v Únii.
Pozmeňujúci návrh 35
Návrh nariadenia
Odôvodnenie 13
(13)  S cieľom zabezpečiť jednotnú a vysokú úroveň ochrany verejných záujmov, pokiaľ ide o zdravie, bezpečnosť a základné práva, by sa mali stanoviť spoločné normatívne štandardy pre všetky vysokorizikové systémy umelej inteligencie. Tieto štandardy by mali byť v súlade s Chartou základných práv Európskej únie (ďalej len „charta“) a mali by byť nediskriminačné a v súlade so záväzkami Únie v oblasti medzinárodného obchodu.
 (13)  S cieľom zabezpečiť jednotnú a vysokú úroveň ochrany verejných záujmov, pokiaľ ide o zdravie, bezpečnosť a základné práva, ako aj o demokraciu a právny štát a životné prostredie, by sa mali stanoviť spoločné normatívne štandardy pre všetky vysokorizikové systémy umelej inteligencie. Tieto štandardy by mali byť v súlade s chartou, Európskou zelenou dohodou, spoločným vyhlásením o digitálnych právach v Únii a etickými usmerneniami pre dôveryhodnú umelú inteligenciu skupiny expertov na vysokej úrovni pre umelú inteligenciu a mali by byť nediskriminačné a v súlade so záväzkami Únie v oblasti medzinárodného obchodu.
Pozmeňujúci návrh 36
Návrh nariadenia
Odôvodnenie 14
(14)  Na účely zavedenia primeraného a účinného súboru záväzných pravidiel pre systémy umelej inteligencie by sa mal dodržiavať jasne vymedzený prístup založený na riziku. Týmto prístupom by sa mal prispôsobiť typ a obsah takýchto pravidiel intenzite a rozsahu rizík, ktoré môžu systémy umelej inteligencie vytvárať. Preto je potrebné zakázať určité praktiky v oblasti umelej inteligencie, stanoviť požiadavky na vysokorizikové systémy umelej inteligencie a povinnosti príslušných prevádzkovateľov, ako aj stanoviť povinnosti transparentnosti pre určité systémy umelej inteligencie.
 (14)  Na účely zavedenia primeraného a účinného súboru záväzných pravidiel pre systémy umelej inteligencie by sa mal dodržiavať jasne vymedzený prístup založený na riziku. Týmto prístupom by sa mal prispôsobiť typ a obsah takýchto pravidiel intenzite a rozsahu rizík, ktoré môžu systémy umelej inteligencie vytvárať. Preto je potrebné zakázať určité neprijateľné praktiky v oblasti umelej inteligencie, stanoviť požiadavky na vysokorizikové systémy umelej inteligencie a povinnosti príslušných prevádzkovateľov, ako aj stanoviť povinnosti transparentnosti pre určité systémy umelej inteligencie.
Pozmeňujúci návrh 37
Návrh nariadenia
Odôvodnenie 15
(15)  Využívanie umelej inteligencie má síce mnoho výhod, túto technológiu však možno zneužiť a môže sa stať zdrojom nových a výkonných nástrojov umožňujúcich manipulatívne a zneužívajúce praktiky a praktiky v oblasti sociálnej kontroly. Takéto praktiky sú mimoriadne škodlivé a mali by sa zakázať, pretože sú v rozpore s hodnotami Únie týkajúcimi sa rešpektovania ľudskej dôstojnosti, slobody, rovnosti, demokracie a právneho štátu a základných práv Únie vrátane práva na nediskrimináciu, ochranu údajov a súkromia a práv dieťaťa.
 (15)  Využívanie umelej inteligencie má síce mnoho výhod, túto technológiu však možno zneužiť a môže sa stať zdrojom nových a výkonných nástrojov umožňujúcich manipulatívne a zneužívajúce praktiky a praktiky v oblasti sociálnej kontroly. Takéto praktiky sú mimoriadne škodlivé a zneužívajúce a mali by sa zakázať, pretože sú v rozpore s hodnotami Únie týkajúcimi sa rešpektovania ľudskej dôstojnosti, slobody, rovnosti, demokracie a právneho štátu a základných práv Únie vrátane práva na nediskrimináciu, ochranu údajov a súkromia a práv dieťaťa.
Pozmeňujúci návrh 38
Návrh nariadenia
Odôvodnenie 16
(16)  Malo by sa zakázať uvádzanie na trh, do prevádzky alebo používanie určitých systémov umelej inteligencie určených na ovplyvňovanie ľudského správania, pri ktorých je pravdepodobné, že spôsobia fyzickú alebo psychickú ujmu. Takéto systémy umelej inteligencie využívajú podprahové komponenty, ktoré jednotlivci nie sú schopní vnímať, prípadne zneužívajú zraniteľnosť detí a ľudí, ktorí sú zraniteľní vzhľadom na svoj vek, telesnú alebo duševnú nespôsobilosť. Robia tak s úmyslom podstatne ovplyvniť správanie osoby, a to spôsobom, ktorý spôsobuje alebo pravdepodobne spôsobí ujmu tejto osobe alebo inej osobe. Takýto úmysel nemožno predpokladať, ak ovplyvnenie ľudského správania vyplýva z faktorov nesúvisiacich so systémom umelej inteligencie, ktoré sú mimo kontroly poskytovateľa alebo používateľa. Zákaz by nemal brániť výskumu takýchto systémov umelej inteligencie na legitímne účely, pokiaľ takýto výskum nepredstavuje využívanie systému umelej inteligencie vo vzťahoch človek – stroj, ktoré vystavuje fyzické osoby ujme, a pokiaľ sa vykonáva v súlade s uznávanými etickými normami vedeckého výskumu.
 (16)  Malo by sa zakázať uvádzanie na trh, do prevádzky alebo používanie určitých systémov umelej inteligencie, ktorých cieľom alebo účinkom je podstatne ovplyvniť ľudské správanie, pričom je pravdepodobné, že spôsobia fyzickú alebo psychickú ujmu. Toto obmedzenie by sa malo chápať tak, že zahŕňa neurotechnológie podporované systémami umelej inteligencie, ktoré sa používajú na monitorovanie, používanie alebo ovplyvňovanie neurónových údajov získaných prostredníctvom mozgovo-počítačových rozhraní, pokiaľ podstatne narúšajú správanie fyzickej osoby spôsobom, ktorý tejto alebo inej osobe spôsobuje alebo pravdepodobne spôsobí významnú ujmu. Takéto systémy umelej inteligencie využívajú podprahové komponenty, ktoré jednotlivci nie sú schopní vnímať, prípadne zneužívajú zraniteľnosť jednotlivcov a osobitných skupín osôb, ktoré sú zraniteľné vzhľadom na ich známe alebo predpokladané osobnostné znaky, vek, fyzickú alebo duševnú nespôsobilosť, sociálnu alebo ekonomickú situáciu. Robia tak so zámerom alebo účinkom podstatne ovplyvniť správanie osoby, a to spôsobom, ktorý spôsobuje alebo pravdepodobne spôsobí značnú ujmu tejto osobe alebo inej osobe alebo skupinám osôb, vrátane ujmy, ktorá sa môže časom hromadiť. Takýto úmysel narušiť správanie nemožno predpokladať, ak vyplýva z faktorov nesúvisiacich so systémom umelej inteligencie, ktoré sú mimo kontroly poskytovateľa alebo používateľa, ako sú faktory, ktoré poskytovateľ alebo subjekt nasadzujúci systém umelej inteligencie nemôže primerane predvídať a zmierniť. V každom prípade nie je potrebné, aby poskytovateľ alebo nasadzujúci subjekt mali úmysel spôsobiť značnú ujmu, pokiaľ takáto ujma vyplýva z manipulatívnych alebo vykorisťovateľských praktík umožnených umelou inteligenciou. Zákazy takýchto praktík umelej inteligencie dopĺňajú ustanovenia obsiahnuté v smernici 2005/29/ES, podľa ktorých sú nekalé obchodné praktiky zakázané bez ohľadu na to, či sa vykonávajú s použitím systémov umelej inteligencie alebo inak. V takomto prostredí by sa zákonné obchodné praktiky, napríklad v oblasti reklamy, ktoré sú v súlade s právom Únie, nemali samy osebe považovať za porušenie zákazu. Zákaz by nemal brániť výskumu takýchto systémov umelej inteligencie na legitímne účely, pokiaľ takýto výskum nepredstavuje využívanie systému umelej inteligencie vo vzťahoch človek – stroj, ktoré vystavuje fyzické osoby ujme, a pokiaľ sa vykonáva v súlade s uznávanými etickými normami vedeckého výskumu a na základe osobitného informovaného súhlasu jednotlivcov, ktorí sú im vystavení, alebo prípadne ich zákonného zástupcu.
Pozmeňujúci návrh 39
Návrh nariadenia
Odôvodnenie 16 a (nové)
(16a)  Systémy umelej inteligencie, ktoré kategorizujú fyzické osoby tak, že ich zaraďujú do konkrétnych kategórií podľa známych alebo odvodených citlivých alebo chránených atribútov, sú obzvlášť rušivé, porušujú ľudskú dôstojnosť a predstavujú veľké riziko diskriminácie. Medzi takéto atribúty patrí pohlavie, rodová identita, rasa, etnický pôvod, migračný štatút alebo štatút občianstva, politická orientácia, sexuálna orientácia, náboženstvo, zdravotné postihnutie alebo akékoľvek iné dôvody, na základe ktorých je diskriminácia zakázaná podľa článku 21 Charty základných práv Európskej únie, ako aj podľa článku 9 nariadenia (EÚ) 2016/769. Takéto systémy by sa preto mali zakázať.
Pozmeňujúci návrh 40
Návrh nariadenia
Odôvodnenie 17
(17)  Systémy umelej inteligencie, ktoré poskytujú sociálne hodnotenie fyzických osôb na všeobecné účely vykonávané orgánmi verejnej moci alebo v ich mene, môžu viesť k diskriminačným výsledkom a vylúčeniu určitých skupín. Môžu porušovať právo na dôstojnosť a nediskrimináciu a hodnoty rovnosti a spravodlivosti. Takéto systémy umelej inteligencie hodnotia alebo klasifikujú dôveryhodnosť fyzických osôb na základe ich spoločenského správania vo viacerých kontextoch alebo známych či predpokladaných osobných alebo osobnostných charakteristík. Sociálne skóre získané na základe takýchto systémov umelej inteligencie môže viesť k poškodzujúcemu alebo nepriaznivému zaobchádzaniu s fyzickými osobami alebo celými skupinami takýchto osôb v sociálnych kontextoch nesúvisiacich s kontextom, v ktorom boli údaje pôvodne vygenerované alebo zhromaždené, prípadne k poškodzujúcemu zaobchádzaniu, ktoré je neprimerané alebo neodôvodnené vzhľadom na závažnosť ich sociálneho správania. Takéto systémy umelej inteligencie by sa preto mali zakázať.
 (17)  Systémy umelej inteligencie, ktoré poskytujú sociálne hodnotenie fyzických osôb na všeobecné účely, môžu viesť k diskriminačným výsledkom a vylúčeniu určitých skupín. Porušujú právo na dôstojnosť a nediskrimináciu a hodnoty rovnosti a spravodlivosti. Takéto systémy umelej inteligencie hodnotia alebo klasifikujú fyzické osoby alebo skupiny na základe viacerých dátových bodov a časových udalostí týkajúcich sa ich spoločenského správania vo viacerých kontextoch alebo známych, odvodených či predpokladaných osobných alebo osobnostných charakteristík. Sociálne skóre získané na základe takýchto systémov umelej inteligencie môže viesť k poškodzujúcemu alebo nepriaznivému zaobchádzaniu s fyzickými osobami alebo celými skupinami takýchto osôb v sociálnych kontextoch nesúvisiacich s kontextom, v ktorom boli údaje pôvodne vygenerované alebo zhromaždené, prípadne k poškodzujúcemu zaobchádzaniu, ktoré je neprimerané alebo neodôvodnené vzhľadom na závažnosť ich sociálneho správania. Takéto systémy umelej inteligencie by sa preto mali zakázať.
Pozmeňujúci návrh 41
Návrh nariadenia
Odôvodnenie 18
(18)  Používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva sa považuje za obzvlášť rušivý zásah do práv a slobôd dotknutých osôb, keďže môže ovplyvniť súkromný život veľkej časti obyvateľstva, vyvoláva pocit neustáleho sledovania a nepriamo odrádza od využívania slobody zhromažďovania a iných základných práv. Okrem toho bezprostrednosť vplyvu a obmedzené možnosti ďalších kontrol alebo opráv v súvislosti s používaním takýchto systémov fungujúcich „v reálnom čase“ so sebou prinášajú zvýšené riziká z hľadiska práv a slobôd osôb, ktorých sa týkajú činnosti v oblasti presadzovania práva.
 (18)  Používanie systémov umelej inteligencie na biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch obzvlášť narúša práva a slobody dotknutých osôb a v konečnom dôsledku môže ovplyvniť súkromný život veľkej časti obyvateľstva, vyvolať pocit neustáleho sledovania, poskytnúť stranám, ktoré zavádzajú biometrickú identifikáciu na verejne prístupných miestach, nekontrolovateľnú moc a nepriamo odrádza od uplatňovania slobody zhromažďovania a iných základných práv, ktoré sú základom právneho štátu. Technické nepresnosti systémov umelej inteligencie určených na diaľkovú biometrickú identifikáciu fyzických osôb môžu viesť k skresleným výsledkom a mať diskriminačné účinky. Platí to najmä v prípade veku, etnického pôvodu, pohlavia alebo zdravotných postihnutí. Okrem toho bezprostrednosť vplyvu a obmedzené možnosti ďalších kontrol alebo opráv v súvislosti s používaním takýchto systémov fungujúcich „v reálnom čase“ so sebou prinášajú zvýšené riziká z hľadiska práv a slobôd osôb, ktorých sa týkajú činnosti v oblasti presadzovania práva. Používanie týchto systémov by sa preto malo zakázať vo verejne prístupných priestoroch. Podobne by sa mali zakázať aj systémy umelej inteligencie používané na analýzu záznamov z verejne prístupných priestorov prostredníctvom systémov diaľkovej biometrickej identifikácie, pokiaľ neexistuje predsúdne povolenie na použitie v kontexte presadzovania práva, ak je to nevyhnutne potrebné na cielené pátranie spojené s konkrétnym závažným trestným činom, ku ktorému už došlo, a len na základe predsúdneho povolenia.
Pozmeňujúci návrh 42
Návrh nariadenia
Odôvodnenie 19
(19)  Používanie týchto systémov na účely presadzovania práva by sa preto malo zakázať s výnimkou troch podrobne opísaných a úzko vymedzených situácií, keď je toto použitie nevyhnutne potrebné na dosiahnutie podstatného verejného záujmu, ktorého význam prevažuje nad rizikami. Tieto situácie zahŕňajú pátranie po potenciálnych obetiach trestných činov vrátane nezvestných detí, niektoré prípady ohrozenia života alebo fyzickej bezpečnosti fyzických osôb alebo hrozby teroristického útoku a odhaľovanie, lokalizáciu, identifikáciu alebo stíhanie páchateľov trestných činov uvedených v rámcovom rozhodnutí Rady 2002/584/SVV38, ak za ne podľa právnych predpisov dotknutého členského štátu možno v danom členskom štáte uložiť trest odňatia slobody alebo ochranné opatrenie spojené s odňatím slobody s hornou hranicou trestnej sadzby najmenej tri roky, alebo podozrivých zo spáchania takýchto trestných činov. Takáto hranica trestu odňatia slobody alebo ochranného opatrenia spojeného s odňatím slobody v súlade s vnútroštátnym právom prispieva k zabezpečeniu toho, že daný trestný čin bude dostatočne závažný na to, aby sa ním dalo potenciálne odôvodniť použitie systémov diaľkovej biometrickej identifikácie „v reálnom čase“. Okrem toho je pravdepodobné, že niektoré z 32 trestných činov uvedených v rámcovom rozhodnutí Rady 2002/584/SVV sú v praxi relevantnejšie ako iné, keďže nevyhnutnosť a primeranosť použitia diaľkovej biometrickej identifikácie „v reálnom čase“ budú pravdepodobne veľmi rôznorodé jednak z hľadiska praktického vykonávania odhaľovania, lokalizácie, identifikácie alebo stíhania páchateľa jednotlivých uvedených trestných činov alebo osôb podozrivých z ich spáchania a zároveň vzhľadom na pravdepodobné rozdiely v závažnosti, pravdepodobnosti a rozsahu spôsobenej ujmy alebo možných negatívnych dôsledkov.
 vypúšťa sa
__________________
38 Rámcové rozhodnutie Rady 2002/584/SVV z 13. júna 2002 o európskom zatykači a postupoch odovzdávania osôb medzi členskými štátmi (Ú. v. ES L 190, 18.7.2002, s. 1).
Pozmeňujúci návrh 43
Návrh nariadenia
Odôvodnenie 20
(20)  S cieľom zabezpečiť, aby sa tieto systémy používali zodpovedným a primeraným spôsobom, je tiež dôležité stanoviť, že v každej z týchto troch podrobne opísaných a úzko vymedzených situácií by sa mali zohľadniť určité prvky, najmä pokiaľ ide o povahu situácie, ktorá viedla k predloženiu žiadosti, o dôsledky využívania týchto systémov na práva a slobody všetkých dotknutých osôb a o záruky a podmienky zabezpečené pri tomto používaní. Okrem toho používanie systému diaľkovej biometrickej identifikácie „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva by malo podliehať primeraným časovým a priestorovým obmedzeniam, najmä so zreteľom na dôkazy alebo náznaky týkajúce sa daných hrozieb, obetí alebo páchateľa. Referenčná databáza osôb by mala byť vhodná pre každý prípad použitia v každej z troch uvedených situácií.
 vypúšťa sa
Pozmeňujúci návrh 44
Návrh nariadenia
Odôvodnenie 21
(21)  Každé použitie systému diaľkovej biometrickej identifikácie „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva by malo podliehať výslovnému a osobitnému povoleniu súdneho orgánu alebo nezávislého správneho orgánu členského štátu. Toto povolenie by bolo v zásade potrebné získať pred použitím systému, s výnimkou riadne odôvodnených naliehavých situácií, t. j. situácií, v ktorých je potreba použiť predmetné systémy tak naliehavá, že je naozaj objektívne nemožné získať povolenie pred začatím tohto použitia. V takýchto naliehavých situáciách by sa používanie malo obmedziť na absolútne nevyhnutné minimum a malo by podliehať primeraným zárukám a podmienkam stanoveným vo vnútroštátnom práve a špecifikovaným v kontexte každého jednotlivého naliehavého prípadu použitia samotným orgánom presadzovania práva. Okrem toho by sa orgán presadzovania práva mal v takýchto situáciách snažiť získať povolenie čo najskôr, pričom uvedie dôvody, pre ktoré ho nemohol požadovať skôr.
 vypúšťa sa
Pozmeňujúci návrh 45
Návrh nariadenia
Odôvodnenie 22
(22)  Navyše je vhodné v rámci podrobne opísanom týmto nariadením stanoviť, že takéto použitie na území členského štátu v súlade s týmto nariadením by malo byť možné len vtedy a do takej miery, do akej sa daný členský štát rozhodol výslovne stanoviť možnosť povoliť toto použitie vo svojich podrobných pravidlách vnútroštátneho práva. V dôsledku toho sa členské štáty môžu podľa tohto nariadenia naďalej na základe vlastného uváženia rozhodnúť, že takúto možnosť vôbec nestanovia alebo ju stanovia len v súvislosti s niektorými z cieľov, ktorými možno odôvodniť povolené použitie určené v tomto nariadení.
 vypúšťa sa
Pozmeňujúci návrh 46
Návrh nariadenia
Odôvodnenie 23
(23)  Používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva nevyhnutne zahŕňa spracúvanie biometrických údajov. Pravidlá tohto nariadenia, ktorými sa s výhradou určitých výnimiek takéto používanie zakazuje a ktoré sú založené na článku 16 ZFEÚ, by sa mali uplatňovať ako lex specialis, pokiaľ ide o pravidlá spracúvania biometrických údajov uvedené v článku 10 smernice (EÚ) 2016/680, čím by sa takéto používanie a spracúvanie príslušných biometrických údajov upravovalo vyčerpávajúcim spôsobom. Takéto používanie a spracúvanie by preto malo byť možné, len pokiaľ je zlučiteľné s rámcom stanoveným v tomto nariadení, a mimo tohto rámca by nemal existovať priestor na to, aby príslušné orgány, ak konajú na účely presadzovania práva, používali takéto systémy a spracúvali takéto údaje v súvislosti s týmto použitím z dôvodov uvedených v článku 10 smernice (EÚ) 2016/680. V tejto súvislosti nie je cieľom tohto nariadenia poskytnúť právny základ pre spracúvanie osobných údajov podľa článku 8 smernice 2016/680. Na používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu „v reálnom čase“ vo verejne prístupných priestoroch na iné účely ako na presadzovanie práva, a to aj príslušnými orgánmi, by sa však nemal vzťahovať osobitný rámec týkajúci sa takéhoto použitia na účely presadzovania práva stanovený v tomto nariadení. Takéto použitie na iné účely ako na presadzovanie práva by preto nemalo podliehať požiadavke povolenia podľa tohto nariadenia a uplatniteľných podrobných pravidiel vnútroštátneho práva, na základe ktorých sa môže vykonávať.
 vypúšťa sa
Pozmeňujúci návrh 47
Návrh nariadenia
Odôvodnenie 24
(24)  Každé spracovanie biometrických údajov a iných osobných údajov súvisiace s používaním systémov umelej inteligencie na biometrickú identifikáciu, okrem spracovania v súvislosti s používaním systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva, ako sa stanovuje v tomto nariadení, vrátane prípadov, keď tieto systémy používajú príslušné orgány vo verejne prístupných priestoroch na iné účely ako na presadzovanie práva, by malo naďalej spĺňať všetky prípadné požiadavky vyplývajúce z článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 ods. 1 nariadenia (EÚ) 2018/1725 a článku 10 smernice (EÚ) 2016/680.
 (24)  Každé spracovanie biometrických údajov a iných osobných údajov súvisiace s používaním systémov umelej inteligencie na biometrickú identifikáciu, okrem spracovania v súvislosti s používaním systémov umelej inteligencie na biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch, ako sa stanovuje v tomto nariadení, by malo naďalej spĺňať všetky prípadné požiadavky vyplývajúce z článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 ods. 1 nariadenia (EÚ) 2018/1725 a článku 10 smernice (EÚ) 2016/680.
Pozmeňujúci návrh 48
Návrh nariadenia
Odôvodnenie 25
(25)  V súlade s článkom 6a Protokolu č. 21 o postavení Spojeného kráľovstva a Írska s ohľadom na priestor slobody, bezpečnosti a spravodlivosti, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Írsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) a článku 5 ods. 2 a 3 tohto nariadenia prijatého na základe článku 16 Zmluvy o fungovaní EÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ak Írsko nie je viazané pravidlami, ktorými sa spravujú formy justičnej spolupráce v trestných veciach alebo policajnej spolupráce, v rámci ktorých sa musia dodržiavať ustanovenia prijaté na základe článku 16 ZFEÚ.
 (25)  V súlade s článkom 6a Protokolu č. 21 o postavení Spojeného kráľovstva a Írska s ohľadom na priestor slobody, bezpečnosti a spravodlivosti, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Írsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) tohto nariadenia prijatého na základe článku 16 Zmluvy o fungovaní EÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ak Írsko nie je viazané pravidlami, ktorými sa spravujú formy justičnej spolupráce v trestných veciach alebo policajnej spolupráce, v rámci ktorých sa musia dodržiavať ustanovenia prijaté na základe článku 16 ZFEÚ.
Pozmeňujúci návrh 49
Návrh nariadenia
Odôvodnenie 26
(26)  V súlade s článkami 2 a 2a Protokolu č. 22 o postavení Dánska, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Dánsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) a článku 5 ods. 2 a 3 tohto nariadenia prijatého na základe článku 16 ZFEÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ani nepodlieha ich uplatňovaniu.
 (26)  V súlade s článkami 2 a 2a Protokolu č. 22 o postavení Dánska, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Dánsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) tohto nariadenia prijatého na základe článku 16 ZFEÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ani nepodlieha ich uplatňovaniu.
Pozmeňujúci návrh 50
Návrh nariadenia
Odôvodnenie 26 a (nové)
(26a)  Systémy umelej inteligencie používané orgánmi presadzovania práva alebo v ich mene na posudzovanie predpovedí, profilov alebo rizík na základe profilovania fyzických osôb alebo analýzy údajov založenej na osobnostných znakoch a charakteristikách vrátane miesta pobytu osoby alebo trestnej činnosti fyzických osôb alebo skupín osôb v minulosti na účely predvídania výskytu alebo opätovného výskytu aktuálnych alebo potenciálnych trestných činov alebo iného kriminalizovaného sociálneho správania alebo správnych deliktov vrátane systémov predikcie podvodov predstavujú osobitné riziko diskriminácie určitých osôb alebo skupín osôb, pretože narúšajú ľudskú dôstojnosť a sú v rozpore s kľúčovou právnou zásadou prezumpcie neviny. Takéto systémy umelej inteligencie by sa preto mali zakázať.
Pozmeňujúci návrh 51
Návrh nariadenia
Odôvodnenie 26 b (nové)
(26b)  Nerozlišujúca a necielená extrakcia biometrických údajov zo sociálnych médií alebo zo záznamov z CCTV s cieľom vytvoriť alebo rozšíriť databázy na rozpoznávanie tváre zvyšuje pocit hromadného sledovania a môže viesť k hrubému porušovaniu základných práv vrátane práva na súkromie. Používanie systémov umelej inteligencie na tento stanovený účel by sa preto malo zakázať.
Pozmeňujúci návrh 52
Návrh nariadenia
Odôvodnenie 26 c (nové)
(26c)  Existujú vážne obavy o vedecký základ systémov umelej inteligencie, ktorých cieľom je zisťovať emócie, fyzické alebo fyziologické vlastnosti, ako sú výrazy tváre, pohyby, srdcová frekvencia alebo hlas. Emócie alebo výrazy a ich vnímanie sa výrazne líšia v rôznych kultúrach a situáciách, a dokonca aj v rámci jednej osoby. Medzi hlavné nedostatky takýchto technológií patrí obmedzená spoľahlivosť (kategórie emócií nie sú spoľahlivo vyjadrené prostredníctvom spoločného súboru fyzických alebo fyziologických pohybov, ani s nimi nie sú jednoznačne spojené), nedostatočná špecifickosť (fyzické alebo fyziologické výrazy nezodpovedajú dokonale kategóriám emócií) a obmedzená všeobecnosť (nie sú dostatočne zohľadnené vplyvy kontextu a kultúry). Problémy so spoľahlivosťou a následne aj závažné riziká zneužívania môžu vzniknúť najmä pri zavádzaní systému v reálnych situáciách súvisiacich s presadzovaním práva, riadením hraníc, miestom výkonu práce a vzdelávacími inštitúciami. Preto by sa malo zakázať uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov umelej inteligencie určených na používanie v týchto súvislostiach na zisťovanie emocionálneho stavu jednotlivcov.
Pozmeňujúci návrh 53
Návrh nariadenia
Odôvodnenie 26 d (nové)
(26d)  Toto nariadenie by nemalo mať vplyv na postupy, ktoré sú zakázané právnymi predpismi Únie, okrem iného právnymi predpismi o ochrane údajov, nediskriminácii, ochrane spotrebiteľa a právom hospodárskej súťaže.
Pozmeňujúci návrh 54
Návrh nariadenia
Odôvodnenie 27
(27)  Vysokorizikové systémy umelej inteligencie by sa mali uviesť na trh Únie alebo do prevádzky len vtedy, ak spĺňajú určité povinné požiadavky. Týmito požiadavkami by sa malo zabezpečiť, aby vysokorizikové systémy umelej inteligencie, ktoré sú dostupné v Únii alebo ktorých výstupy sú v Únii inak využívané, nepredstavovali neprijateľné riziká pre dôležité verejné záujmy Únie uznané a chránené právom Únie. Systémy umelej inteligencie označené ako vysokorizikové by sa mali obmedziť na tie, ktoré majú významný škodlivý vplyv na zdravie, bezpečnosť a základné práva osôb v Únii, a takéto obmedzenie minimalizuje akékoľvek prípadné obmedzenie medzinárodného obchodu.
 (27)  Vysokorizikové systémy umelej inteligencie by sa mali uviesť na trh Únie a do prevádzky alebo používať len vtedy, ak spĺňajú určité povinné požiadavky. Týmito požiadavkami by sa malo zabezpečiť, aby vysokorizikové systémy umelej inteligencie, ktoré sú dostupné v Únii alebo ktorých výstupy sú v Únii inak využívané, nepredstavovali neprijateľné riziká pre dôležité verejné záujmy Únie uznané a chránené právom Únie vrátane základných práv, demokracie, právneho štátu alebo životného prostredia. S cieľom zabezpečiť súlad s odvetvovými právnymi predpismi a zabrániť duplicite by požiadavky na vysokorizikové systémy umelej inteligencie mali zohľadňovať odvetvové právne predpisy, ktorými sa stanovujú požiadavky na vysokorizikové systémy umelej inteligencie zahrnuté do rozsahu pôsobnosti tohto nariadenia, ako napríklad nariadenie (EÚ) 2017/745 o zdravotníckych pomôckach a nariadenie (EÚ) 2017/746 o diagnostických pomôckach in vitro alebo smernica 2006/42/ES o strojových zariadeniach. Systémy umelej inteligencie označené ako vysokorizikové by sa mali obmedziť na tie, ktoré majú významný škodlivý vplyv na zdravie, bezpečnosť a základné práva osôb v Únii, a takéto obmedzenie minimalizuje akékoľvek prípadné obmedzenie medzinárodného obchodu. Vzhľadom na rýchle tempo technologického vývoja, ako aj na potenciálne zmeny vo využívaní systémov umelej inteligencie by zoznam vysokorizikových oblastí a prípadov použitia v prílohe III mal napriek tomu podliehať trvalej revízii prostredníctvom pravidelného posudzovania.
Pozmeňujúci návrh 55
Návrh nariadenia
Odôvodnenie 28
(28)  Systémy umelej inteligencie by mohli mať nepriaznivé účinky na zdravie a bezpečnosť osôb, najmä ak takéto systémy fungujú ako komponenty výrobkov. V súlade s cieľmi harmonizačných právnych predpisov Únie uľahčiť voľný pohyb výrobkov na vnútornom trhu a zabezpečiť, aby sa na trh dostali len bezpečné a inak vyhovujúce výrobky, je dôležité, aby sa riadne predchádzalo bezpečnostným rizikám, ktoré môže výrobok ako celok vytvárať svojimi digitálnymi komponentmi vrátane systémov umelej inteligencie, a aby sa tieto riziká náležite zmierňovali. Napríklad čoraz autonómnejšie roboty, či už v kontexte výroby alebo osobnej asistencie a starostlivosti, by mali byť schopné bezpečne fungovať a vykonávať svoje funkcie v zložitých prostrediach. Podobne v sektore zdravotníctva, kde existuje obzvlášť vysoké riziko v oblasti života a zdravia, by mali byť čoraz sofistikovanejšie diagnostické systémy a systémy podporujúce ľudské rozhodnutia spoľahlivé a presné. Pri klasifikácii systému umelej inteligencie ako vysokorizikového je obzvlášť dôležitý rozsah nepriaznivého vplyvu systému umelej inteligencie na základné práva chránené chartou. Medzi tieto práva patrí právo na ľudskú dôstojnosť, rešpektovanie súkromného a rodinného života, ochrana osobných údajov, sloboda prejavu a právo na informácie, sloboda zhromažďovania a združovania, nediskriminácia, ochrana spotrebiteľa, základné pracovné práva, práva osôb so zdravotným postihnutím, právo na účinný prostriedok nápravy a na spravodlivý proces, právo na obhajobu a prezumpcia neviny, právo na dobrú správu vecí verejných. Okrem týchto práv je dôležité zdôrazniť, že deti majú osobitné práva zakotvené v článku 24 Charty EÚ a v Dohovore Organizácie Spojených národov o právach dieťaťa (ďalej rozpracované vo všeobecnej poznámke č. 25 Dohovoru OSN o právach dieťaťa, pokiaľ ide o digitálne prostredie), ktoré si v oboch prípadoch vyžadujú zváženie zraniteľnosti detí a poskytnutie takejto ochrany a starostlivosti nevyhnutných pre ich blaho. Pri posudzovaní závažnosti ujmy, ktorú môže systém umelej inteligencie spôsobiť, a to aj v súvislosti so zdravím a bezpečnosťou osôb, by sa malo zohľadniť aj základné právo na vysokú úroveň ochrany životného prostredia zakotvené v charte a vykonávané v politikách Únie.
 (28)  Systémy umelej inteligencie by mohli mať nepriaznivý vplyv na zdravie a bezpečnosť osôb, najmä ak takéto systémy fungujú ako bezpečnostné komponenty výrobkov. V súlade s cieľmi harmonizačných právnych predpisov Únie uľahčiť voľný pohyb výrobkov na vnútornom trhu a zabezpečiť, aby sa na trh dostali len bezpečné a inak vyhovujúce výrobky, je dôležité, aby sa riadne predchádzalo bezpečnostným rizikám, ktoré môže výrobok ako celok vytvárať svojimi digitálnymi komponentmi vrátane systémov umelej inteligencie, a aby sa tieto riziká náležite zmierňovali. Napríklad čoraz autonómnejšie roboty, či už v kontexte výroby alebo osobnej asistencie a starostlivosti, by mali byť schopné bezpečne fungovať a vykonávať svoje funkcie v zložitých prostrediach. Podobne v sektore zdravotníctva, kde existuje obzvlášť vysoké riziko v oblasti života a zdravia, by mali byť čoraz sofistikovanejšie diagnostické systémy a systémy podporujúce ľudské rozhodnutia spoľahlivé a presné.
Pozmeňujúci návrh 56
Návrh nariadenia
Odôvodnenie 28 a (nové)
(28a)  Pri klasifikácii systému umelej inteligencie ako vysokorizikového je obzvlášť dôležitý rozsah nepriaznivého vplyvu systému umelej inteligencie na základné práva chránené chartou. Medzi tieto práva patrí právo na ľudskú dôstojnosť, rešpektovanie súkromného a rodinného života, ochrana osobných údajov, sloboda prejavu a právo na informácie, sloboda zhromažďovania a združovania, nediskriminácia, právo na vzdelávanie, ochrana spotrebiteľa, základné pracovné práva, práva osôb so zdravotným postihnutím, rodová rovnosť, práva duševného vlastníctva, právo na účinný prostriedok nápravy a na spravodlivý proces, právo na obhajobu a prezumpcia neviny, právo na dobrú správu vecí verejných. Okrem týchto práv je dôležité zdôrazniť, že deti majú osobitné práva zakotvené v článku 24 Charty EÚ a v Dohovore Organizácie Spojených národov o právach dieťaťa (ďalej rozpracované vo všeobecnej poznámke č. 25 Dohovoru OSN o právach dieťaťa, pokiaľ ide o digitálne prostredie), ktoré si v oboch prípadoch vyžadujú zváženie zraniteľnosti detí a poskytnutie takejto ochrany a starostlivosti nevyhnutných pre ich blaho. Pri posudzovaní závažnosti ujmy, ktorú môže systém umelej inteligencie spôsobiť, a to aj v súvislosti so zdravím a bezpečnosťou osôb alebo životným prostredím, by sa malo zohľadniť aj základné právo na vysokú úroveň ochrany životného prostredia zakotvené v charte a vykonávané v politikách Únie.
Pozmeňujúci návrh 57
Návrh nariadenia
Odôvodnenie 29
(29)  Pokiaľ ide o vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo systémov, alebo ktoré sú samy výrobkami alebo systémami patriacimi do rozsahu pôsobnosti nariadenia Európskeho parlamentu a Rady (ES) č. 300/200839, nariadenia Európskeho parlamentu a Rady (EÚ) č. 167/201340, nariadenia Európskeho parlamentu a Rady (EÚ) č. 168/201341, smernice Európskeho parlamentu a Rady 2014/90/EÚ42, smernice Európskeho parlamentu a Rady (EÚ) 2016/79743, nariadenia Európskeho parlamentu a Rady (EÚ) 2018/85844, nariadenia Európskeho parlamentu a Rady (EÚ) 2018/113945 a nariadenia Európskeho parlamentu a Rady (EÚ) 2019/214446, je vhodné uvedené akty zmeniť s cieľom zaistiť, aby Komisia pri prijímaní akýchkoľvek budúcich relevantných delegovaných alebo vykonávacích aktov na základe uvedených aktov zohľadňovala povinné požiadavky na vysokorizikové systémy umelej inteligencie stanovené v tomto nariadení na základe technických a regulačných osobitostí jednotlivých odvetví bez toho, aby zasahovala do existujúcich mechanizmov správy, posudzovania zhody a presadzovania a do orgánov zriadených v rámci uvedených aktov.
 (29)  Pokiaľ ide o vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo systémov, alebo ktoré sú samy výrobkami alebo systémami patriacimi do rozsahu pôsobnosti nariadenia Európskeho parlamentu a Rady (ES) č. 300/200839, nariadenia Európskeho parlamentu a Rady (EÚ) č. 167/201340, nariadenia Európskeho parlamentu a Rady (EÚ) č. 168/201341, smernice Európskeho parlamentu a Rady 2014/90/EÚ42, smernice Európskeho parlamentu a Rady (EÚ) 2016/79743, nariadenia Európskeho parlamentu a Rady (EÚ) 2018/85844, nariadenia Európskeho parlamentu a Rady (EÚ) 2018/113945 a nariadenia Európskeho parlamentu a Rady (EÚ) 2019/214446, je vhodné uvedené akty zmeniť s cieľom zaistiť, aby Komisia pri prijímaní akýchkoľvek budúcich relevantných delegovaných alebo vykonávacích aktov na základe uvedených aktov zohľadňovala povinné požiadavky na vysokorizikové systémy umelej inteligencie stanovené v tomto nariadení na základe technických a regulačných osobitostí jednotlivých odvetví bez toho, aby zasahovala do existujúcich mechanizmov správy, posudzovania zhody, dohľadu nad trhom a presadzovania a do orgánov zriadených v rámci uvedených aktov.
__________________
 __________________
39 Nariadenie Európskeho parlamentu a Rady (ES) č. 300/2008 z 11. marca 2008 o spoločných pravidlách v oblasti bezpečnostnej ochrany civilného letectva a o zrušení nariadenia (ES) č. 2320/2002 (Ú. v. EÚ L 97, 9.4.2008, s. 72).
 39 Nariadenie Európskeho parlamentu a Rady (ES) č. 300/2008 z 11. marca 2008 o spoločných pravidlách v oblasti bezpečnostnej ochrany civilného letectva a o zrušení nariadenia (ES) č. 2320/2002 (Ú. v. EÚ L 97, 9.4.2008, s. 72).
40 Nariadenie Európskeho parlamentu a Rady (EÚ) č. 167/2013 z 5. februára 2013 o schvaľovaní poľnohospodárskych a lesných vozidiel a o dohľade nad trhom s týmito vozidlami (Ú. v. EÚ L 60, 2.3.2013, s. 1).
 40 Nariadenie Európskeho parlamentu a Rady (EÚ) č. 167/2013 z 5. februára 2013 o schvaľovaní poľnohospodárskych a lesných vozidiel a o dohľade nad trhom s týmito vozidlami (Ú. v. EÚ L 60, 2.3.2013, s. 1).
41 Nariadenie Európskeho parlamentu a Rady (EÚ) č. 168/2013 z 15. januára 2013 o schvaľovaní a dohľade nad trhom dvoj- alebo trojkolesových vozidiel a štvorkoliek (Ú. v. EÚ L 60, 2.3.2013, s. 52).
 41 Nariadenie Európskeho parlamentu a Rady (EÚ) č. 168/2013 z 15. januára 2013 o schvaľovaní a dohľade nad trhom dvoj- alebo trojkolesových vozidiel a štvorkoliek (Ú. v. EÚ L 60, 2.3.2013, s. 52).
42 Smernica Európskeho parlamentu a Rady 2014/90/EÚ z 23. júla 2014 o vybavení námorných lodí a o zrušení smernice Rady 96/98/ES (Ú. v. EÚ L 257, 28.8.2014, s. 146).
 42 Smernica Európskeho parlamentu a Rady 2014/90/EÚ z 23. júla 2014 o vybavení námorných lodí a o zrušení smernice Rady 96/98/ES (Ú. v. EÚ L 257, 28.8.2014, s. 146).
43 Smernica Európskeho parlamentu a Rady (EÚ) 2016/797 z 11. mája 2016 o interoperabilite železničného systému v Európskej únii (Ú. v. EÚ L 138, 26.5.2016, s. 44).
 43 Smernica Európskeho parlamentu a Rady (EÚ) 2016/797 z 11. mája 2016 o interoperabilite železničného systému v Európskej únii (Ú. v. EÚ L 138, 26.5.2016, s. 44).
44 Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/858 z 30. mája 2018 o schvaľovaní motorových vozidiel a ich prípojných vozidiel, ako aj systémov, komponentov a samostatných technických jednotiek určených pre takéto vozidlá a o dohľade nad trhom s nimi, ktorým sa menia nariadenia (ES) č. 715/2007 a (ES) č. 595/2009 a zrušuje smernica 2007/46/ES (Ú. v. EÚ L 151, 14.6.2018, s. 1).
 44 Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/858 z 30. mája 2018 o schvaľovaní motorových vozidiel a ich prípojných vozidiel, ako aj systémov, komponentov a samostatných technických jednotiek určených pre takéto vozidlá a o dohľade nad trhom s nimi, ktorým sa menia nariadenia (ES) č. 715/2007 a (ES) č. 595/2009 a zrušuje smernica 2007/46/ES (Ú. v. EÚ L 151, 14.6.2018, s. 1).
45 Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1139 zo 4. júla 2018 o spoločných pravidlách v oblasti civilného letectva, ktorým sa zriaďuje Agentúra Európskej únie pre bezpečnosť letectva a ktorým sa menia nariadenia Európskeho parlamentu a Rady (ES) č. 2111/2005, (ES) č. 1008/2008, (EÚ) č. 996/2010, (EÚ) č. 376/2014 a smernice Európskeho parlamentu a Rady 2014/30/EÚ a 2014/53/EÚ a zrušujú nariadenia Európskeho parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nariadenie Rady (EHS) č. 3922/91 (Ú. v. EÚ L 212, 22.8.2018, s. 1).
 45 Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1139 zo 4. júla 2018 o spoločných pravidlách v oblasti civilného letectva, ktorým sa zriaďuje Agentúra Európskej únie pre bezpečnosť letectva a ktorým sa menia nariadenia Európskeho parlamentu a Rady (ES) č. 2111/2005, (ES) č. 1008/2008, (EÚ) č. 996/2010, (EÚ) č. 376/2014 a smernice Európskeho parlamentu a Rady 2014/30/EÚ a 2014/53/EÚ a zrušujú nariadenia Európskeho parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nariadenie Rady (EHS) č. 3922/91 (Ú. v. EÚ L 212, 22.8.2018, s. 1).
46 Nariadenie Európskeho parlamentu a Rady (EÚ) 2019/2144 z 27. novembra 2019 o požiadavkách na typové schvaľovanie motorových vozidiel a ich prípojných vozidiel a systémov, komponentov a samostatných technických jednotiek určených pre tieto vozidlá, pokiaľ ide o ich všeobecnú bezpečnosť a ochranu cestujúcich vo vozidle a zraniteľných účastníkov cestnej premávky, ktorým sa mení nariadenie Európskeho parlamentu a Rady (EÚ) 2018/858 a ktorým sa zrušujú nariadenia Európskeho parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nariadenia Komisie (ES) č. 631/2009, (EÚ) č. 406/2010, (EÚ) č. 672/2010, (EÚ) č. 1003/2010, (EÚ) č. 1005/2010, (EÚ) č. 1008/2010, (EÚ) č. 1009/2010, (EÚ) č. 19/2011, (EÚ) č. 109/2011, (EÚ) č. 458/2011, (EÚ) č. 65/2012, (EÚ) č. 130/2012, (EÚ) č. 347/2012, (EÚ) č. 351/2012, (EÚ) č. 1230/2012 a (EÚ) 2015/166 (Ú. v. EÚ L 325, 16.12.2019, s. 1).
 46 Nariadenie Európskeho parlamentu a Rady (EÚ) 2019/2144 z 27. novembra 2019 o požiadavkách na typové schvaľovanie motorových vozidiel a ich prípojných vozidiel a systémov, komponentov a samostatných technických jednotiek určených pre tieto vozidlá, pokiaľ ide o ich všeobecnú bezpečnosť a ochranu cestujúcich vo vozidle a zraniteľných účastníkov cestnej premávky, ktorým sa mení nariadenie Európskeho parlamentu a Rady (EÚ) 2018/858 a ktorým sa zrušujú nariadenia Európskeho parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nariadenia Komisie (ES) č. 631/2009, (EÚ) č. 406/2010, (EÚ) č. 672/2010, (EÚ) č. 1003/2010, (EÚ) č. 1005/2010, (EÚ) č. 1008/2010, (EÚ) č. 1009/2010, (EÚ) č. 19/2011, (EÚ) č. 109/2011, (EÚ) č. 458/2011, (EÚ) č. 65/2012, (EÚ) č. 130/2012, (EÚ) č. 347/2012, (EÚ) č. 351/2012, (EÚ) č. 1230/2012 a (EÚ) 2015/166 (Ú. v. EÚ L 325, 16.12.2019, s. 1).
Pozmeňujúci návrh 58
Návrh nariadenia
Odôvodnenie 30
(30)  Pokiaľ ide o systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo ktoré sú samy výrobkami, ktoré patria do rozsahu pôsobnosti určitých harmonizačných právnych predpisov Únie, je vhodné klasifikovať ich podľa tohto nariadenia ako vysokorizikové, pokiaľ v prípade daného výrobku vykonáva postup posudzovania zhody orgán posudzovania zhody tretej strany podľa príslušných harmonizačných právnych predpisov Únie. Medzi takéto výrobky patria najmä strojové zariadenia, hračky, výťahy, zariadenia a ochranné systémy určené na použitie v prostredí s nebezpečím výbuchu, rádiové zariadenia, tlakové zariadenia, vybavenie rekreačných plavidiel, lanovkové zariadenia, spotrebiče spaľujúce plynné palivá, zdravotnícke pomôcky a diagnostické zdravotnícke pomôcky in vitro.
 (30)  Pokiaľ ide o systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo ktoré sú samy výrobkami, ktoré patria do rozsahu pôsobnosti určitých harmonizačných právnych predpisov Únie uvedených v prílohe II, je vhodné klasifikovať ich podľa tohto nariadenia ako vysokorizikové, pokiaľ v prípade daného výrobku s cieľom zabezpečiť súlad so základnými bezpečnostnými požiadavkami vykonáva postup posudzovania zhody orgán posudzovania zhody tretej strany podľa príslušných harmonizačných právnych predpisov Únie. Medzi takéto výrobky patria najmä strojové zariadenia, hračky, výťahy, zariadenia a ochranné systémy určené na použitie v prostredí s nebezpečím výbuchu, rádiové zariadenia, tlakové zariadenia, vybavenie rekreačných plavidiel, lanovkové zariadenia, spotrebiče spaľujúce plynné palivá, zdravotnícke pomôcky a diagnostické zdravotnícke pomôcky in vitro.
Pozmeňujúci návrh 59
Návrh nariadenia
Odôvodnenie 31
(31)  Klasifikácia systému umelej inteligencie ako vysokorizikového podľa tohto nariadenia by nemala nevyhnutne znamenať, že výrobok, ktorého bezpečnostným komponentom je systém umelej inteligencie, alebo samotný systém umelej inteligencie ako výrobok sa považuje za „vysokorizikový“ podľa kritérií stanovených v príslušných harmonizačných právnych predpisoch Únie, ktoré sa vzťahujú na daný výrobok. Platí to najmä pre nariadenie Európskeho parlamentu a Rady (EÚ) 2017/74547 a nariadenie Európskeho parlamentu a Rady (EÚ) 2017/74648, kde sa pre výrobky so stredným a vysokým rizikom vyžaduje posudzovanie zhody treťou stranou.
 (31)  Klasifikácia systému umelej inteligencie ako vysokorizikového podľa tohto nariadenia by nemala znamenať, že výrobok, ktorého bezpečnostným komponentom je systém umelej inteligencie, alebo samotný systém umelej inteligencie ako výrobok sa považuje za „vysokorizikový“ podľa kritérií stanovených v príslušných harmonizačných právnych predpisoch Únie, ktoré sa vzťahujú na daný výrobok. Platí to najmä pre nariadenie Európskeho parlamentu a Rady (EÚ) 2017/74547 a nariadenie Európskeho parlamentu a Rady (EÚ) 2017/74648, kde sa pre výrobky so stredným a vysokým rizikom vyžaduje posudzovanie zhody treťou stranou.
__________________
 __________________
47 Nariadenie Európskeho parlamentu a Rady (EÚ) 2017/745 z 5. apríla 2017 o zdravotníckych pomôckach, zmene smernice 2001/83/ES, nariadenia (ES) č. 178/2002 a nariadenia (ES) č. 1223/2009 a o zrušení smerníc Rady 90/385/EHS a 93/42/EHS (Ú. v. EÚ L 117, 5.5.2017, s. 1).
 47 Nariadenie Európskeho parlamentu a Rady (EÚ) 2017/745 z 5. apríla 2017 o zdravotníckych pomôckach, zmene smernice 2001/83/ES, nariadenia (ES) č. 178/2002 a nariadenia (ES) č. 1223/2009 a o zrušení smerníc Rady 90/385/EHS a 93/42/EHS (Ú. v. EÚ L 117, 5.5.2017, s. 1).
48 Nariadenie Európskeho parlamentu a Rady (EÚ) 2017/746 z 5. apríla 2017 o diagnostických zdravotníckych pomôckach in vitro a o zrušení smernice 98/79/ES a rozhodnutia Komisie 2010/227/EÚ (Ú. v. EÚ L 117, 5.5.2017, s. 176).
 48 Nariadenie Európskeho parlamentu a Rady (EÚ) 2017/746 z 5. apríla 2017 o diagnostických zdravotníckych pomôckach in vitro a o zrušení smernice 98/79/ES a rozhodnutia Komisie 2010/227/EÚ (Ú. v. EÚ L 117, 5.5.2017, s. 176).
Pozmeňujúci návrh 60
Návrh nariadenia
Odôvodnenie 32
(32)  Pokiaľ ide o samostatné systémy umelej inteligencie, t. j. vysokorizikové systémy umelej inteligencie iné ako tie, ktoré sú bezpečnostnými komponentmi výrobkov, alebo ktoré sú samy výrobkami, je vhodné klasifikovať ich ako vysokorizikové, ak vzhľadom na svoj zamýšľaný účel predstavujú vysoké riziko poškodenia zdravia a bezpečnosti alebo základných práv osôb, pričom sa berie do úvahy závažnosť možnej ujmy a pravdepodobnosť jej výskytu, a ak sa využívajú vo viacerých oblastiach uvedených v nariadení, ktoré sú jasne vopred vymedzené. Identifikácia týchto systémov je založená na rovnakej metodike a kritériách, aké sa predpokladajú aj v prípade akýchkoľvek budúcich zmien zoznamu vysokorizikových systémov umelej inteligencie.
 (32)  Pokiaľ ide o samostatné systémy umelej inteligencie, t. j. vysokorizikové systémy umelej inteligencie iné ako tie, ktoré sú bezpečnostnými komponentmi výrobkov, alebo ktoré sú samy výrobkami a ktoré sú uvedené v jednej z oblastí a prípadov použitia v prílohe III, je vhodné klasifikovať ich ako vysokorizikové, ak vzhľadom na svoj zamýšľaný účel predstavujú významné riziko poškodenia zdravia a bezpečnosti alebo základných práv osôb, a ak sa systém umelej inteligencie používa ako bezpečnostný komponent kritickej infraštruktúry, pre životné prostredie. Takéto významné riziko poškodenia by sa malo určiť tak, že sa na jednej strane posúdi účinok takéhoto rizika, pokiaľ ide o jeho stupeň závažnosti, intenzitu, pravdepodobnosť výskytu a celkové trvanie, a na druhej strane, či riziko môže ovplyvniť jednotlivca, pluralitu osôb alebo konkrétnu skupinu osôb. Takáto kombinácia by napríklad mohla viesť k vysokej závažnosti, ale nízkej pravdepodobnosti ovplyvnenia fyzickej osoby, alebo k vysokej pravdepodobnosti ovplyvnenia skupiny osôb s nízkou intenzitou počas dlhého časového obdobia v závislosti od kontextu. Identifikácia týchto systémov je založená na rovnakej metodike a kritériách, aké sa predpokladajú aj v prípade akýchkoľvek budúcich zmien zoznamu vysokorizikových systémov umelej inteligencie.
Pozmeňujúci návrh 61
Návrh nariadenia
Odôvodnenie 32 a (nové)
(32a)  Poskytovatelia, ktorých systémy umelej inteligencie patria do jednej z oblastí a prípadov použitia uvedených v prílohe III, ktorí sa domnievajú, že ich systém nepredstavuje závažné riziko poškodenia zdravia, bezpečnosti, základných práv alebo životného prostredia, by mali informovať vnútroštátne dozorné orgány predložením odôvodneného oznámenia. Mohlo by mať podobu jednostranového zhrnutia relevantných informácií o dotknutom systéme umelej inteligencie vrátane jeho zamýšľaného účelu a dôvodov, prečo by nepredstavoval významné riziko poškodenia zdravia, bezpečnosti, základných práv alebo životného prostredia. Komisia by mala stanoviť kritériá, ktoré umožnia spoločnostiam posúdiť, či by ich systém predstavoval takéto riziká, ako aj vypracovať ľahko použiteľný a štandardizovaný vzor oznámenia. Poskytovatelia by mali predložiť oznámenie čo najskôr a v každom prípade pred uvedením systému umelej inteligencie na trh alebo jeho uvedením do prevádzky, v ideálnom prípade vo fáze vývoja, a mali by mať možnosť uviesť ho na trh kedykoľvek po oznámení. Ak však orgán odhadne, že dotknutý systém umelej inteligencie bol nesprávne klasifikovaný, mal by proti oznámeniu vzniesť námietku v lehote troch mesiacov. Námietka by mala byť odôvodnená a malo by sa v nej náležite vysvetliť, prečo bol systém umelej inteligencie nesprávne klasifikovaný. Poskytovateľ by si mal ponechať právo odvolať sa poskytnutím ďalších argumentov. Ak po uplynutí troch mesiacov neboli voči oznámeniu vznesené žiadne námietky, vnútroštátne dozorné orgány môžu stále zasiahnuť, ak systém umelej inteligencie predstavuje riziko na vnútroštátnej úrovni, ako aj v prípade akéhokoľvek iného systému umelej inteligencie na trhu. Vnútroštátne dozorné orgány by mali úradu pre umelú inteligenciu predkladať výročné správy s podrobnými informáciami o prijatých oznámeniach a prijatých rozhodnutiach.
Pozmeňujúci návrh 62
Návrh nariadenia
Odôvodnenie 33
(33)  Technické nepresnosti systémov umelej inteligencie určených na diaľkovú biometrickú identifikáciu fyzických osôb môžu viesť k skresleným výsledkom a mať diskriminačné účinky. Platí to najmä v prípade veku, etnického pôvodu, pohlavia alebo zdravotných postihnutí. Preto by sa systémy diaľkovej biometrickej identifikácie „v reálnom čase“ a „následnej“ diaľkovej biometrickej identifikácie mali klasifikovať ako vysokorizikové. Vzhľadom na riziká, ktoré predstavujú, by oba typy systémov diaľkovej biometrickej identifikácie mali podliehať osobitným požiadavkám týkajúcim sa schopností logovania a ľudského dohľadu.
 vypúšťa sa
Pozmeňujúci návrh 63
Návrh nariadenia
Odôvodnenie 33 a (nové)
(33a)  Keďže biometrické údaje predstavujú osobitnú kategóriu citlivých údajov v súlade s nariadením 2016/679, je vhodné klasifikovať ako vysokorizikové viaceré kritické prípady použitia biometrických a na biometrii založených systémov. Systémy umelej inteligencie určené na biometrickú identifikáciu fyzických osôb a systémy umelej inteligencie určené na vyvodzovanie záverov o osobných vlastnostiach fyzických osôb na základe biometrických údajov alebo údajov založených na biometrii vrátane systémov na rozpoznávanie emócií, s výnimkou tých, ktoré sú podľa tohto nariadenia zakázané, by sa preto mali klasifikovať ako vysokorizikové. To by nemalo zahŕňať systémy umelej inteligencie určené na biometrické overovanie, ktoré zahŕňa autentifikáciu, ktorej jediným účelom je potvrdiť, že konkrétna fyzická osoba je príslušná osoba, ako to tvrdí, a potvrdiť totožnosť fyzickej osoby výlučne na účely prístupu k službe, zariadeniu alebo do priestorov (overenie totožnosti). Biometrické a na biometrii založené systémy, ktoré sú stanovené v práve Únie s cieľom umožniť opatrenia v oblasti kybernetickej bezpečnosti a ochrany osobných údajov, by sa nemali považovať za systémy predstavujúce významné riziko poškodenia zdravia, bezpečnosti a základných práv.
Pozmeňujúci návrh 64
Návrh nariadenia
Odôvodnenie 34
(34)  Pokiaľ ide o riadenie a prevádzku kritickej infraštruktúry, je vhodné klasifikovať ako vysokorizikové také systémy umelej inteligencie, ktoré sú určené na používanie ako bezpečnostné komponenty pri riadení a prevádzke cestnej premávky a pri dodávkach vody, plynu, tepla a elektrickej energie, keďže ich zlyhanie alebo porucha môže ohroziť život a zdravie osôb vo veľkom rozsahu a viesť k značným narušeniam bežného vykonávania sociálnych a hospodárskych činností.
 (34)  Pokiaľ ide o riadenie a prevádzku kritickej infraštruktúry, je vhodné klasifikovať ako vysokorizikové také systémy umelej inteligencie, ktoré sú určené na používanie ako bezpečnostné komponenty pri riadení a prevádzke dodávok vody, plynu, tepla, elektrickej energie a kritickej digitálnej infraštruktúry, keďže ich zlyhanie alebo porucha môže narušiť bezpečnosť a integritu takejto kritickej infraštruktúry alebo ohroziť život a zdravie osôb vo veľkom rozsahu a viesť k značným narušeniam bežného vykonávania sociálnych a hospodárskych činností. Bezpečnostné komponenty kritickej infraštruktúry vrátane kritickej digitálnej infraštruktúry sú systémy používané na priamu ochranu fyzickej integrity kritickej infraštruktúry alebo zdravia a bezpečnosti osôb a majetku. Zlyhanie alebo porucha takýchto komponentov môže priamo viesť k rizikám pre fyzickú integritu kritickej infraštruktúry, a tým k rizikám pre zdravie a bezpečnosť osôb a majetku. Komponenty, ktoré sa majú používať výlučne na účely kybernetickej bezpečnosti, by sa nemali považovať za bezpečnostné komponenty. Príklady takýchto bezpečnostných komponentov môžu zahŕňať systémy monitorovania tlaku vody alebo systémy riadenia požiarneho poplachu v centrách cloud computingu.
Pozmeňujúci návrh 65
Návrh nariadenia
Odôvodnenie 35
(35)  Za vysokorizikové by sa mali považovať systémy umelej inteligencie používané vo vzdelávaní alebo odbornej príprave, najmä na určovanie prístupu osôb do inštitúcií vzdelávania a odbornej prípravy alebo na ich priradenie k týmto inštitúciám, alebo na hodnotenie osôb na základe testov ako súčasť ich vzdelávania alebo ako predpoklad pre ich vzdelávanie, pretože môžu určovať vzdelávací a profesionálny priebeh života osoby, a tým ovplyvňovať jej schopnosť zabezpečiť si živobytie. Ak sú takéto systémy navrhnuté a používané nesprávne, môžu porušovať právo na vzdelanie a odbornú prípravu, ako aj právo nebyť diskriminovaný a tým zachovávať zaužívané formy diskriminácie.
 (35)  Zavádzanie systémov umelej inteligencie vo vzdelávaní je dôležité pri modernizácii celých vzdelávacích systémov a zvyšovaní kvality vzdelávania, a to offline aj online, a urýchlení digitálneho vzdelávania, a tým aj jeho sprístupnení širšej verejnosti. Systémy umelej inteligencie používané vo vzdelávaní alebo odbornej príprave, najmä na určovanie prístupu alebo podstatné ovplyvňovanie rozhodnutí o prijatí alebo o pridelení osôb do inštitúcií vzdelávania a odbornej prípravy alebo na ich priradenie k týmto inštitúciám, alebo na hodnotenie osôb na základe testov ako súčasť ich vzdelávania alebo ako predpoklad pre ich vzdelávanie, alebo na posúdenie primeranej úrovne vzdelania pre jednotlivca a podstatné ovplyvňovanie úrovne vzdelávania a odbornej prípravy, ktorú jednotlivci dostanú, alebo na prístup k zakázanému správaniu študentov počas testov alebo na jeho monitorovanie a odhaľovanie, by sa mali klasifikovať ako vysokorizikové systémy umelej inteligencie, pretože môžu určovať vzdelávací a profesionálny priebeh života osoby, a tým ovplyvňovať jej schopnosť zabezpečiť si živobytie. Ak sú takéto systémy navrhnuté a používané nesprávne, môžu byť obzvlášť rušivé a môžu porušovať právo na vzdelanie a odbornú prípravu, ako aj právo nebyť diskriminovaný, a tým zachovávať zaužívané formy diskriminácie, napríklad žien, určitých vekových skupín, osôb so zdravotným postihnutím alebo osôb určitého rasového alebo etnického pôvodu alebo s určitou sexuálnou orientáciou.
Pozmeňujúci návrh 66
Návrh nariadenia
Odôvodnenie 36
(36)  Ako vysokorizikové by sa mali klasifikovať aj systémy umelej inteligencie používané pri zamestnávaní, riadení pracovníkov a prístupe k samostatnej zárobkovej činnosti, najmä pri nábore a výbere osôb, pri rozhodovaní o povýšení a ukončení pracovného pomeru a pri prideľovaní úloh, monitorovaní alebo hodnotení osôb v zmluvných pracovnoprávnych vzťahoch, pretože tieto systémy môžu významne ovplyvniť budúce kariérne vyhliadky a živobytie týchto osôb. Príslušné zmluvné pracovnoprávne vzťahy by mali zahŕňať zamestnancov a osoby, ktorí poskytujú služby prostredníctvom platforiem, ako sa uvádza v pracovnom programe Komisie na rok 2021. Takéto osoby by sa v zásade nemali považovať za používateľov v zmysle tohto nariadenia. Takéto systémy môžu počas celého procesu prijímania do zamestnania a počas hodnotenia, povyšovania alebo udržiavania osôb v zmluvných pracovnoprávnych vzťahoch zachovávať zaužívané formy diskriminácie, napríklad žien, určitých vekových skupín, osôb so zdravotným postihnutím alebo osôb určitého rasového alebo etnického pôvodu alebo sexuálnej orientácie. Systémy umelej inteligencie používané na monitorovanie výkonnosti a správania týchto osôb môžu mať vplyv aj na ich práva na ochranu údajov a súkromia.
 (36)  Ako vysokorizikové by sa mali klasifikovať aj systémy umelej inteligencie používané pri zamestnávaní, riadení pracovníkov a prístupe k samostatnej zárobkovej činnosti, najmä pri nábore a výbere osôb, pri rozhodovaní alebo podstatnom ovplyvňovaní rozhodovania o začatí pracovného pomeru, povýšení a ukončení pracovného pomeru a pri prideľovaní personalizovaných úloh na základe individuálneho správania, osobných rysov alebo biometrických údajov, monitorovaní alebo hodnotení osôb v zmluvných pracovnoprávnych vzťahoch, pretože tieto systémy môžu významne ovplyvniť budúce kariérne vyhliadky, živobytie týchto osôb a základné pracovné práva. Príslušné zmluvné pracovnoprávne vzťahy by mali zmysluplne zahŕňať zamestnancov a osoby, ktorí poskytujú služby prostredníctvom platforiem, ako sa uvádza v pracovnom programe Komisie na rok 2021. Takéto systémy môžu počas celého procesu prijímania do zamestnania a počas hodnotenia, povyšovania alebo udržiavania osôb v zmluvných pracovnoprávnych vzťahoch zachovávať zaužívané formy diskriminácie, napríklad žien, určitých vekových skupín, osôb so zdravotným postihnutím alebo osôb určitého rasového alebo etnického pôvodu alebo sexuálnej orientácie. Systémy umelej inteligencie používané na monitorovanie výkonnosti a správania týchto osôb môžu tiež oslabiť podstatu ich základných práv na ochranu údajov a súkromia. Toto nariadenie sa uplatňuje bez toho, aby boli dotknuté právomoci Únie a členských štátov stanoviť konkrétnejšie pravidlá používania systémov umelej inteligencie v kontexte zamestnanosti.
Pozmeňujúci návrh 67
Návrh nariadenia
Odôvodnenie 37
(37)  Ďalšou oblasťou, v ktorej si využívanie systémov umelej inteligencie zaslúži osobitnú pozornosť, je prístup k určitým základným súkromným a verejným službám a dávkam, ktoré sú potrebné na to, aby sa ľudia mohli plne zapojiť do spoločnosti alebo si mohli zlepšiť životnú úroveň, a ich využívanie. Ako vysokorizikové by sa mali klasifikovať najmä systémy umelej inteligencie používané na bodové hodnotenie kreditného rizika alebo hodnotenie úverovej bonity fyzických osôb, pretože určujú prístup týchto osôb k finančným zdrojom alebo základným službám, ako sú bývanie, elektrická energia a telekomunikačné služby. Systémy umelej inteligencie používané na tento účel môžu viesť k diskriminácii osôb alebo skupín a zachovávať zaužívané formy diskriminácie, napríklad na základe rasového alebo etnického pôvodu, zdravotných postihnutí, veku, sexuálnej orientácie, alebo môžu vytvárať nové formy diskriminačných vplyvov. Vzhľadom na veľmi obmedzený rozsah vplyvu a dostupné alternatívy na trhu je vhodné stanoviť výnimku pre systémy umelej inteligencie na účely posudzovania úverovej bonity a bodového hodnotenia kreditného rizika, pokiaľ ich uvedú do prevádzky malí poskytovatelia pre svoju vlastnú potrebu. Fyzické osoby, ktoré žiadajú o dávky a služby verejnej pomoci alebo ktoré od orgánov verejnej moci prijímajú tieto dávky a služby, sú zvyčajne od týchto dávok a služieb závislé a nachádzajú sa v zraniteľnom postavení vo vzťahu k zodpovedným orgánom. Ak sa systémy umelej inteligencie používajú na určenie toho, či by orgány mali takéto dávky a služby zamietnuť, znížiť, zrušiť alebo žiadať o ich vrátenie, môžu mať významný vplyv na živobytie osôb a môžu porušovať ich základné práva, ako je právo na sociálnu ochranu, nediskrimináciu, ľudskú dôstojnosť alebo účinný prostriedok nápravy. Preto by sa tieto systémy mali klasifikovať ako vysokorizikové. Toto nariadenie by však nemalo brániť rozvoju a využívaniu inovačných prístupov vo verejnej správe, pre ktorú by mohlo byť širšie využívanie vyhovujúcich a bezpečných systémov umelej inteligencie prospešné, za predpokladu, že tieto systémy nepredstavujú vysoké riziko pre právnické a fyzické osoby. V konečnom dôsledku by sa ako vysokorizikové mali klasifikovať aj systémy umelej inteligencie používané na vysielanie záchranných služieb prvej reakcie alebo na stanovovanie priority ich vysielania, pretože prijímajú rozhodnutia v situáciách, ktoré sú veľmi kritické z hľadiska života a zdravia osôb a ich majetku.
 (37)  Ďalšou oblasťou, v ktorej si využívanie systémov umelej inteligencie zaslúži osobitnú pozornosť, je prístup k určitým základným súkromným a verejným službám vrátane služieb zdravotnej starostlivosti a základných služieb, okrem iného bývania, elektrickej energie, vykurovania/chladenia a internetu, a dávkam, ktoré sú potrebné na to, aby sa ľudia mohli plne zapojiť do spoločnosti alebo si mohli zlepšiť životnú úroveň, a ich využívanie. Ako vysokorizikové by sa mali klasifikovať najmä systémy umelej inteligencie používané na bodové hodnotenie kreditného rizika alebo hodnotenie úverovej bonity fyzických osôb, pretože určujú prístup týchto osôb k finančným zdrojom alebo základným službám, ako sú bývanie, elektrická energia a telekomunikačné služby. Systémy umelej inteligencie používané na tento účel môžu viesť k diskriminácii osôb alebo skupín a zachovávať zaužívané formy diskriminácie, napríklad na základe rasového alebo etnického pôvodu, zdravotných postihnutí, veku, sexuálnej orientácie, alebo môžu vytvárať nové formy diskriminačných vplyvov. Systémy umelej inteligencie stanovené v práve Únie na účely odhaľovania podvodov pri ponúkaní finančných služieb by sa však podľa tohto nariadenia nemali považovať za vysokorizikové. Fyzické osoby, ktoré žiadajú o dávky a služby verejnej pomoci alebo ktoré od orgánov verejnej moci prijímajú tieto dávky a služby vrátane služieb zdravotnej starostlivosti a základných služieb, okrem iného bývania, elektrickej energie, vykurovania/chladenia a internetu, sú zvyčajne od týchto dávok a služieb závislé a nachádzajú sa v zraniteľnom postavení vo vzťahu k zodpovedným orgánom. Ak sa systémy umelej inteligencie používajú na určenie toho, či by orgány mali takéto dávky a služby zamietnuť, znížiť, zrušiť alebo žiadať o ich vrátenie, môžu mať významný vplyv na živobytie osôb a môžu porušovať ich základné práva, ako je právo na sociálnu ochranu, nediskrimináciu, ľudskú dôstojnosť alebo účinný prostriedok nápravy. Podobne systémy umelej inteligencie určené na prijímanie rozhodnutí alebo podstatné ovplyvňovanie rozhodnutí o oprávnenosti fyzických osôb na zdravotné a životné poistenie môžu mať významný vplyv aj na živobytie osôb a môžu porušovať ich základné práva, napríklad obmedzením prístupu k zdravotnej starostlivosti alebo udržaním diskriminácie na základe osobných charakteristík. Preto by sa tieto systémy mali klasifikovať ako vysokorizikové. Toto nariadenie by však nemalo brániť rozvoju a využívaniu inovačných prístupov vo verejnej správe, pre ktorú by mohlo byť širšie využívanie vyhovujúcich a bezpečných systémov umelej inteligencie prospešné, za predpokladu, že tieto systémy nepredstavujú vysoké riziko pre právnické a fyzické osoby. V konečnom dôsledku by sa ako vysokorizikové mali klasifikovať aj systémy umelej inteligencie používané na hodnotenie a klasifikáciu tiesňových volaní fyzických osôb alebo na vysielanie záchranných služieb prvej reakcie alebo na stanovovanie priority ich vysielania, pretože prijímajú rozhodnutia v situáciách, ktoré sú veľmi kritické z hľadiska života a zdravia osôb a ich majetku.
Pozmeňujúci návrh 68
Návrh nariadenia
Odôvodnenie 37 a (nové)
(37a)  Vzhľadom na úlohu a zodpovednosť policajných a justičných orgánov a vplyv rozhodnutí, ktoré prijímajú na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania alebo výkonu trestných sankcií, sa niektoré konkrétne prípady použitia aplikácií umelej inteligencie pri presadzovaní práva musia klasifikovať ako vysoko rizikové v prípadoch, keď je možné, že by významne ovplyvnili životy alebo základné práva jednotlivcov.
Pozmeňujúci návrh 69
Návrh nariadenia
Odôvodnenie 38
(38)  Opatrenia orgánov presadzovania práva zahŕňajúce určité použitia systémov umelej inteligencie sa vyznačujú značným stupňom nerovnováhy právomocí a môžu viesť k sledovaniu, zatknutiu alebo pozbaveniu slobody fyzickej osoby, ako aj k iným nepriaznivým vplyvom na základné práva zaručené chartou. Najmä ak systém umelej inteligencie nie je trénovaný na vysokokvalitných údajoch, nespĺňa primerané požiadavky, pokiaľ ide o jeho presnosť alebo spoľahlivosť, alebo nie je pred uvedením na trh alebo do prevádzky riadne koncipovaný a otestovaný, môže ľudí vylúčiť diskriminačným alebo inak nesprávnym či nespravodlivým spôsobom. Okrem toho by mohlo byť obmedzené uplatňovanie dôležitých procesných základných práv, ako je právo na účinný prostriedok nápravy a na spravodlivý proces, ako aj právo na obhajobu a prezumpcia neviny, najmä ak takéto systémy umelej inteligencie nie sú dostatočne transparentné, vysvetliteľné a zdokumentované. Preto je vhodné klasifikovať ako vysokorizikové viaceré systémy umelej inteligencie určené na používanie v kontexte presadzovania práva, kde je presnosť, spoľahlivosť a transparentnosť obzvlášť dôležitá, aby sa zabránilo nepriaznivým vplyvom, zachovala dôvera verejnosti a zabezpečila zodpovednosť a účinná náprava. Vzhľadom na povahu predmetných činností a súvisiace riziká by tieto vysokorizikové systémy umelej inteligencie mali zahŕňať najmä systémy umelej inteligencie, ktoré majú orgány presadzovania práva používať na individuálne posúdenia rizika, ako detektory lži a podobné nástroje alebo na zisťovanie emocionálneho stavu fyzickej osoby, odhaľovanie vykonštruovaných správ, ktoré manipulujú s obsahom (tzv. deepfakes), na hodnotenie spoľahlivosti dôkazov v trestnom konaní, na predpovedanie výskytu alebo opätovného výskytu skutočného alebo potenciálneho trestného činu na základe profilovania fyzických osôb alebo posudzovania osobnostných a povahových rysov alebo trestnej činnosti fyzických osôb alebo skupín v minulosti, na profilovanie v priebehu odhaľovania, vyšetrovania alebo stíhania trestných činov, ako aj na analýzu trestnej činnosti vo vzťahu k fyzickým osobám. Systémy umelej inteligencie, ktoré sú osobitne určené na používanie daňovými a colnými orgánmi v správnych konaniach, by sa nemali považovať za vysokorizikové systémy umelej inteligencie používané orgánmi presadzovania práva na účely predchádzania trestným činom, ich odhaľovania, vyšetrovania a stíhania.
 (38)  Opatrenia orgánov presadzovania práva zahŕňajúce určité použitia systémov umelej inteligencie sa vyznačujú značným stupňom nerovnováhy právomocí a môžu viesť k sledovaniu, zatknutiu alebo pozbaveniu slobody fyzickej osoby, ako aj k iným nepriaznivým vplyvom na základné práva zaručené chartou. Najmä ak systém umelej inteligencie nie je trénovaný na vysokokvalitných údajoch, nespĺňa primerané požiadavky, pokiaľ ide o jeho výkonnosť, presnosť alebo spoľahlivosť, alebo nie je pred uvedením na trh alebo do prevádzky riadne koncipovaný a otestovaný, môže ľudí vylúčiť diskriminačným alebo inak nesprávnym či nespravodlivým spôsobom. Okrem toho by mohlo byť obmedzené uplatňovanie dôležitých procesných základných práv, ako je právo na účinný prostriedok nápravy a na spravodlivý proces, ako aj právo na obhajobu a prezumpcia neviny, najmä ak takéto systémy umelej inteligencie nie sú dostatočne transparentné, vysvetliteľné a zdokumentované. Preto je vhodné klasifikovať ako vysokorizikové viaceré systémy umelej inteligencie určené na používanie v kontexte presadzovania práva, kde je presnosť, spoľahlivosť a transparentnosť obzvlášť dôležitá, aby sa zabránilo nepriaznivým vplyvom, zachovala dôvera verejnosti a zabezpečila zodpovednosť a účinná náprava. Vzhľadom na povahu predmetných činností a súvisiace riziká by tieto vysokorizikové systémy umelej inteligencie mali zahŕňať najmä systémy umelej inteligencie, ktoré majú používať orgány presadzovania práva alebo sa majú používať v ich mene, alebo ich majú používať agentúry, úrady alebo orgány Únie na podporu orgánov presadzovania práva, ako detektory lži a podobné nástroje, pokiaľ je ich použitie povolené podľa príslušného práva Únie a vnútroštátneho práva, na hodnotenie spoľahlivosti dôkazov v trestnom konaní, na profilovanie v priebehu odhaľovania, vyšetrovania alebo stíhania trestných činov, ako aj na analýzu trestnej činnosti vo vzťahu k fyzickým osobám. Systémy umelej inteligencie, ktoré sú osobitne určené na používanie daňovými a colnými orgánmi v správnych konaniach, by sa nemali považovať za vysokorizikové systémy umelej inteligencie používané orgánmi presadzovania práva na účely predchádzania trestným činom, ich odhaľovania, vyšetrovania a stíhania. Používanie nástrojov umelej inteligencie orgánmi presadzovania práva a justičnými orgánmi by sa nemalo stať faktorom nerovnosti, sociálneho štiepenia alebo vylúčenia. Vplyv používania nástrojov umelej inteligencie na práva podozrivých osôb na obhajobu by sa nemal ignorovať, najmä pokiaľ ide o ťažkosti pri získavaní zmysluplných informácií o ich fungovaní a následné ťažkosti pri napadnutí ich výsledkov na súde, najmä zo strany vyšetrovaných osôb.
Pozmeňujúci návrh 70
Návrh nariadenia
Odôvodnenie 39
(39)  Systémy umelej inteligencie používané v oblastiach migrácie, azylu a riadenia kontroly hraníc majú vplyv na ľudí, ktorí sú často v mimoriadne zraniteľnom postavení a ktorí sú závislí od výsledku činností príslušných orgánov verejnej moci. Presnosť, nediskriminačný charakter a transparentnosť systémov umelej inteligencie používaných v tomto kontexte sú preto mimoriadne dôležité na zaručenie dodržiavania základných práv dotknutých osôb, najmä ich práva na voľný pohyb, nediskrimináciu, ochranu súkromného života a osobných údajov, medzinárodnú ochranu a dobrú správu vecí verejných. Je preto vhodné klasifikovať ako vysokorizikové tie systémy umelej inteligencie, ktoré majú používať príslušné orgány verejnej moci poverené úlohami v oblasti migrácie, azylu a riadenia kontroly hraníc, ako napríklad detektory lži a podobné nástroje alebo nástroje na zisťovanie emocionálneho stavu fyzickej osoby, posudzovanie určitých rizík, ktoré predstavujú fyzické osoby vstupujúce na územie členského štátu alebo žiadajúce o vízum alebo azyl, overenie pravosti príslušných dokladov fyzických osôb, pomoc príslušným orgánom verejnej moci pri posudzovaní žiadostí o azyl, víza a povolenia na pobyt a súvisiacich sťažností, pokiaľ ide o cieľ zistiť oprávnenosť fyzických osôb žiadajúcich o určitý status. Systémy umelej inteligencie v oblasti migrácie, azylu a riadenia kontroly hraníc, na ktoré sa vzťahuje toto nariadenie, by mali spĺňať príslušné procedurálne požiadavky stanovené v smernici Európskeho parlamentu a Rady 2013/32/EÚ49, nariadení Európskeho parlamentu a Rady (ES) č. 810/200950 a iných príslušných právnych predpisoch.
 (39)  Systémy umelej inteligencie používané v oblastiach migrácie, azylu a riadenia kontroly hraníc majú vplyv na ľudí, ktorí sú často v mimoriadne zraniteľnom postavení a ktorí sú závislí od výsledku činností príslušných orgánov verejnej moci. Presnosť, nediskriminačný charakter a transparentnosť systémov umelej inteligencie používaných v tomto kontexte sú preto mimoriadne dôležité na zaručenie dodržiavania základných práv dotknutých osôb, najmä ich práva na voľný pohyb, nediskrimináciu, ochranu súkromného života a osobných údajov, medzinárodnú ochranu a dobrú správu vecí verejných. Je preto vhodné klasifikovať ako vysokorizikové tie systémy umelej inteligencie, ktoré majú používať príslušné orgány verejnej moci alebo sa majú používať v ich mene, alebo majú používať agentúry, úrady alebo orgány Únie poverené úlohami v oblasti migrácie, azylu a riadenia kontroly hraníc, ako napríklad detektory lži a podobné nástroje, pokiaľ je ich používanie povolené podľa príslušného práva Únie a vnútroštátneho práva, na posudzovanie určitých rizík, ktoré predstavujú fyzické osoby vstupujúce na územie členského štátu alebo žiadajúce o vízum alebo azyl, overenie pravosti príslušných dokladov fyzických osôb, pomoc príslušným orgánom verejnej moci pri skúmaní a posudzovaní pravdivosti dôkazov v súvislosti so žiadosťami o azyl, víza a povolenia na pobyt a súvisiacich sťažností, pokiaľ ide o cieľ zistiť oprávnenosť fyzických osôb žiadajúcich o určitý status, na monitorovanie, sledovanie alebo spracúvanie osobných údajov v súvislosti s činnosťami riadenia hraníc na účely odhaľovania, rozpoznávania alebo identifikácie fyzických osôb a na prognózovanie alebo predpovedanie trendov súvisiacich s migračnými pohybmi a prekračovaním hraníc. Systémy umelej inteligencie v oblasti migrácie, azylu a riadenia kontroly hraníc, na ktoré sa vzťahuje toto nariadenie, by mali spĺňať príslušné procedurálne požiadavky stanovené v smernici Európskeho parlamentu a Rady 2013/32/EÚ49, nariadení Európskeho parlamentu a Rady (ES) č. 810/200950 a iných príslušných právnych predpisoch. Používanie systémov umelej inteligencie pri riadení migrácie, azylu a kontroly hraníc by členské štáty alebo inštitúcie, agentúry alebo orgány Únie nemali v žiadnom prípade využívať ako prostriedok na obchádzanie svojich medzinárodných záväzkov vyplývajúcich z Dohovoru o právnom postavení utečencov z 28. júla 1951, zmeneného a doplneného protokolom z 31. januára 1967, a nemali by ich využívať ani na to, aby akýmkoľvek spôsobom porušovali zásadu zákazu vyhostenia alebo vrátenia alebo odopierali bezpečné a účinné legálne cesty na územie Únie vrátane práva na medzinárodnú ochranu.
__________________
 __________________
49 Smernica Európskeho parlamentu a Rady 2013/32/EÚ z 26. júna 2013 o spoločných konaniach o poskytovaní a odnímaní medzinárodnej ochrany (Ú. v. EÚ L 180, 29.6.2013, s. 60).
 49 Smernica Európskeho parlamentu a Rady 2013/32/EÚ z 26. júna 2013 o spoločných konaniach o poskytovaní a odnímaní medzinárodnej ochrany (Ú. v. EÚ L 180, 29.6.2013, s. 60).
50 Nariadenie európskeho parlamentu a Rady (ES) č. 810/2009 z 13. júla 2009, ktorým sa ustanovuje vízový kódex Spoločenstva (vízový kódex) (Ú. v. EÚ L 243, 15.9.2009, s. 1).
 50 Nariadenie európskeho parlamentu a Rady (ES) č. 810/2009 z 13. júla 2009, ktorým sa ustanovuje vízový kódex Spoločenstva (vízový kódex) (Ú. v. EÚ L 243, 15.9.2009, s. 1).
Pozmeňujúci návrh 71
Návrh nariadenia
Odôvodnenie 40
(40)  Niektoré systémy umelej inteligencie určené na výkon spravodlivosti a demokratických procesov by sa mali klasifikovať ako vysokorizikové vzhľadom na ich potenciálne významný vplyv na demokraciu, právny štát, osobné slobody, ako aj právo na účinný prostriedok nápravy a na spravodlivý proces. Ako vysokorizikové je vhodné kvalifikovať systémy umelej inteligencie určené na pomoc justičným orgánom pri skúmaní a výklade skutočností a práva a pri uplatňovaní práva na konkrétny súbor skutočností, najmä z dôvodu riešenia rizík možných skreslení, chýb a nepriehľadnosti. Takáto kvalifikácia by sa však nemala vzťahovať na systémy umelej inteligencie určené na čisto pomocné administratívne činnosti, ktoré nemajú vplyv na skutočný výkon spravodlivosti v jednotlivých prípadoch, ako napr. anonymizácia alebo pseudonymizácia súdnych rozhodnutí, dokumentov alebo údajov, komunikácia medzi zamestnancami, administratívne úlohy alebo prideľovanie zdrojov.
 (40)  Niektoré systémy umelej inteligencie určené na výkon spravodlivosti a demokratických procesov by sa mali klasifikovať ako vysokorizikové vzhľadom na ich potenciálne významný vplyv na demokraciu, právny štát, osobné slobody, ako aj právo na účinný prostriedok nápravy a na spravodlivý proces. Ako vysokorizikové je vhodné kvalifikovať systémy umelej inteligencie určené na použitie justičným orgánom alebo správnym orgánom alebo v ich mene na pomoc justičným orgánom alebo správnym orgánom pri skúmaní a výklade skutočností a práva a pri uplatňovaní práva na konkrétny súbor skutočností, najmä z dôvodu riešenia rizík možných skreslení, chýb a nepriehľadnosti alebo na použitie podobným spôsobom pri alternatívnom riešení sporov. Používanie nástrojov umelej inteligencie môže podporiť rozhodovaciu právomoc sudcov alebo nezávislosť súdnictva, ale nemalo by ju nahradiť, pretože konečné rozhodovanie musí zostať ľudskou činnosťou a rozhodnutím. Takáto kvalifikácia by sa však nemala vzťahovať na systémy umelej inteligencie určené na čisto pomocné administratívne činnosti, ktoré nemajú vplyv na skutočný výkon spravodlivosti v jednotlivých prípadoch, ako napr. anonymizácia alebo pseudonymizácia súdnych rozhodnutí, dokumentov alebo údajov, komunikácia medzi zamestnancami, administratívne úlohy alebo prideľovanie zdrojov.
Pozmeňujúci návrh 72
Návrh nariadenia
Odôvodnenie 40 a (nové)
(40a)  S cieľom riešiť riziká neprimeraného vonkajšieho zasahovania do práva voliť zakotveného v článku 39 charty a neprimeraných účinkov na demokratické procesy, demokraciu a právny štát by sa systémy umelej inteligencie, ktoré sa majú používať na ovplyvňovanie výsledku volieb alebo referenda alebo volebného správania fyzických osôb pri výkone ich hlasovania vo voľbách alebo referendách, mali klasifikovať ako vysokorizikové systémy umelej inteligencie s výnimkou systémov umelej inteligencie, ktorých výstupom nie sú fyzické osoby priamo vystavené, ako sú nástroje používané na organizovanie, optimalizáciu a štruktúrovanie politických kampaní z administratívneho a logistického hľadiska.
Pozmeňujúci návrh 73
Návrh nariadenia
Odôvodnenie 40 b (nové)
(40b)  Vzhľadom na rozsah, v akom fyzické osoby využívajú služby poskytované platformami sociálnych médií označenými za veľmi veľké online platformy sa takéto online platformy môžu využívať spôsobom, ktorý výrazne ovplyvňuje bezpečnosť na internete, formovanie verejnej mienky a diskusií, volebné a demokratické procesy a spoločenské obavy. Preto je vhodné, aby sa na systémy umelej inteligencie používané týmito online platformami v ich odporúčacích systémoch vzťahovalo toto nariadenie s cieľom zabezpečiť, aby systémy umelej inteligencie spĺňali požiadavky stanovené v tomto nariadení vrátane technických požiadaviek na správu údajov, technickú dokumentáciu a vysledovateľnosť, transparentnosť, ľudský dohľad, správnosť a spoľahlivosť. Súlad s týmto nariadením by mal takýmto veľmi veľkým online platformám umožniť, aby plnili svoje širšie povinnosti týkajúce sa posudzovania rizík a zmierňovania rizík uvedené v článkoch 34 a 35 nariadenia (EÚ) 2022/2065. Povinnosťami v tomto nariadení nie je dotknuté nariadenie (EÚ) 2022/2065 a mali by dopĺňať povinnosti požadované podľa nariadenia (EÚ) 2022/2065, keď bola platforma sociálnych médií označená za veľmi veľkú online platformu. Vzhľadom na celoeurópsky vplyv platforiem sociálnych médií označených za veľmi veľké online platformy by orgány určené podľa nariadenia (EÚ) 2022/2065 mali konať ako orgány presadzovania práva na účely presadzovania tohto ustanovenia.
Pozmeňujúci návrh 74
Návrh nariadenia
Odôvodnenie 41
(41)  Skutočnosť, že systém umelej inteligencie sa podľa tohto nariadenia klasifikuje ako vysokorizikový, by sa nemala vykladať tak, že používanie tohto systému je nevyhnutne zákonné podľa iných aktov práva Únie alebo vnútroštátneho práva zlučiteľného s právom Únie, ako napr. v oblasti ochrany osobných údajov, používania detektorov lži a podobných nástrojov alebo iných systémov na zisťovanie emocionálneho stavu fyzických osôb. Akékoľvek takéto použitie by sa malo naďalej vykonávať výlučne v súlade s uplatniteľnými požiadavkami vyplývajúcimi z charty a z uplatniteľných aktov sekundárneho práva Únie a vnútroštátneho práva. Toto nariadenie by sa nemalo chápať tak, že poskytuje právny základ pre spracúvanie osobných údajov, prípadne vrátane osobitných kategórií osobných údajov.
 (41)  Skutočnosť, že systém umelej inteligencie sa podľa tohto nariadenia klasifikuje ako vysokorizikový systém umelej inteligencie, by sa nemala vykladať tak, že používanie tohto systému je nevyhnutne zákonné alebo nezákonné podľa iných aktov práva Únie alebo vnútroštátneho práva zlučiteľného s právom Únie, ako napr. v oblasti ochrany osobných údajov. Akékoľvek takéto použitie by sa malo naďalej vykonávať výlučne v súlade s uplatniteľnými požiadavkami vyplývajúcimi z charty a z uplatniteľných aktov sekundárneho práva Únie a vnútroštátneho práva.
Pozmeňujúci návrh 75
Návrh nariadenia
Odôvodnenie 41 a (nové)
(41a)  Viaceré právne záväzné pravidlá na európskej, vnútroštátnej a medzinárodnej úrovni sa v súčasnosti už uplatňujú alebo sú relevantné pre systémy umelej inteligencie, okrem iného vrátane primárneho práva EÚ (zmluvy Európskej únie a jej Charta základných práv), sekundárneho práva EÚ (napríklad všeobecné nariadenie o ochrane údajov, smernica o zodpovednosti za výrobky, nariadenie o voľnom toku iných ako osobných údajov, smernica o nediskriminácii, smernica o spotrebiteľskom práve a smernica o bezpečnosti a ochrane zdravia pri práci), zmlúv OSN o ľudských právach a dohovorov Rady Európy (napríklad Európsky dohovor o ľudských právach) a vnútroštátneho práva. Okrem horizontálne uplatňovaných predpisov existujú rozličné predpisy špecifické pre jednotlivé oblasti, ktoré sa uplatňujú na konkrétne aplikácie umelej inteligencie (ako napríklad nariadenie o zdravotníckych pomôckach v sektore zdravotnej starostlivosti).
Pozmeňujúci návrh 76
Návrh nariadenia
Odôvodnenie 42
(42)  S cieľom zmierniť riziká, ktoré vyplývajú používateľom a dotknutým osobám z vysokorizikových systémov umelej inteligencie uvedených na trh Únie alebo inak uvedených do prevádzky na trhu Únie, by sa mali uplatňovať určité povinné požiadavky, pričom by sa mal zohľadniť zamýšľaný účel používania tohto systému a systém riadenia rizík, ktorý zavedie poskytovateľ.
 (42)  S cieľom zmierniť riziká, ktoré vyplývajú nasadzujúcim subjektom a dotknutým osobám z vysokorizikových systémov umelej inteligencie uvedených na trh Únie alebo inak uvedených do prevádzky na trhu Únie, by sa mali uplatňovať určité povinné požiadavky, pričom by sa mal zohľadniť zamýšľaný účel alebo logicky predvídateľné nesprávne použitia tohto systému a systém riadenia rizík, ktorý zavedie poskytovateľ. Tieto požiadavky by mali byť objektívne, vhodné na daný účel, primerané a účinné bez toho, aby prevádzkovateľom spôsobovali neprimerané regulačné zaťaženie alebo náklady.
Pozmeňujúci návrh 77
Návrh nariadenia
Odôvodnenie 43
(43)  Požiadavky by sa mali vzťahovať na vysokorizikové systémy umelej inteligencie, pokiaľ ide o kvalitu použitých súborov údajov, technickú dokumentáciu a uchovávanie záznamov, transparentnosť a poskytovanie informácií používateľom, ľudský dohľad a spoľahlivosť, presnosť a kybernetickú bezpečnosť. Tieto požiadavky sú potrebné na účinné zmiernenie rizík pre zdravie, bezpečnosť a základné práva, ktoré sa uplatňujú vzhľadom na zamýšľaný účel systému, a nie sú primerane dostupné žiadne iné opatrenia menej obmedzujúce obchod, takže nedochádza k neodôvodneným obmedzeniam obchodu.
 (43)  Požiadavky by sa mali vzťahovať na vysokorizikové systémy umelej inteligencie, pokiaľ ide o kvalitu a relevantnosť použitých súborov údajov, technickú dokumentáciu a uchovávanie záznamov, transparentnosť a poskytovanie informácií nasadzujúcim subjektom, ľudský dohľad a spoľahlivosť, presnosť a kybernetickú bezpečnosť. Tieto požiadavky sú potrebné na účinné zmiernenie rizík pre zdravie, bezpečnosť a základné práva, ako aj pre životné prostredie, demokraciu a právny štát, ktoré sa uplatňujú vzhľadom na zamýšľaný účel alebo logicky predvídateľné nesprávne použitia systému, a nie sú primerane dostupné žiadne iné opatrenia menej obmedzujúce obchod, takže nedochádza k neodôvodneným obmedzeniam obchodu.
Pozmeňujúci návrh 78
Návrh nariadenia
Odôvodnenie 44
(44)  Pre výkonnosť mnohých systémov umelej inteligencie je kľúčová vysoká kvalita údajov, najmä ak sa využívajú techniky zahŕňajúce trénovanie modelov, aby vysokorizikový systém umelej inteligencie fungoval podľa zamýšľaného účelu a bezpečne a aby sa nestal zdrojom diskriminácie zakázanej právom Únie. Súbory vysokokvalitných trénovacích, validačných a testovacích údajov si vyžadujú vykonávanie primeraných postupov správy a riadenia údajov. Súbory trénovacích, validačných a testovacích údajov by mali byť dostatočne relevantné, reprezentatívne a bez chýb a mali by byť úplné vzhľadom na zamýšľaný účel systému. Mali by mať aj primerané štatistické vlastnosti, a to aj pokiaľ ide o osoby alebo skupiny osôb, v prípade ktorých sa má vysokorizikový systém umelej inteligencie používať. Súbory trénovacích, validačných a testovacích údajov by mali v rozsahu, v akom si to vyžaduje zamýšľaný účel, zohľadňovať najmä vlastnosti, charakteristiky alebo prvky, ktoré sú špecifické pre konkrétne geografické, behaviorálne alebo funkčné podmienky alebo súvislosti, v ktorých sa má systém umelej inteligencie používať. Na ochranu práva iných osôb pred diskrimináciou, ktorá by mohla vyplynúť zo skreslenia systémov umelej inteligencie, by poskytovatelia mali mať vzhľadom na významný verejný záujem možnosť spracúvať aj osobitné kategórie osobných údajov s cieľom zabezpečiť monitorovanie, odhaľovanie a nápravu tohto skreslenia vo vzťahu k vysokorizikovým systémom umelej inteligencie.
 (44)  Pre poskytovanie štruktúry a zabezpečovanie výkonnosti mnohých systémov umelej inteligencie je kľúčový prístup k údajom vysokej kvality, najmä ak sa využívajú techniky zahŕňajúce trénovanie modelov, aby vysokorizikový systém umelej inteligencie fungoval podľa zamýšľaného účelu a bezpečne a aby sa nestal zdrojom diskriminácie zakázanej právom Únie. Súbory vysokokvalitných trénovacích, validačných a testovacích údajov si vyžadujú vykonávanie primeraných postupov správy a riadenia údajov. Súbory trénovacích a prípadne validačných a testovacích údajov vrátane označení by mali byť dostatočne relevantné, reprezentatívne, primerane preverené z hľadiska chýb a mali by byť čo najúplnejšie vzhľadom na zamýšľaný účel systému. Mali by mať aj primerané štatistické vlastnosti, a to aj pokiaľ ide o osoby alebo skupiny osôb, v súvislosti s ktorými sa má vysokorizikový systém umelej inteligencie používať, pričom osobitná pozornosť by sa mala venovať zmierneniu možnej predpojatosti v súboroch údajov, ktorá by mohla viesť k rizikám v oblasti základných práv alebo k diskriminačným výsledkom pre osoby, ktorých sa vysokorizikový systém umelej inteligencie týka. Určitá predpojatosť môže byť napríklad neoddeliteľnou súčasťou základných súborov údajov, najmä ak sa používajú historické údaje, ktoré zadali vývojári algoritmov alebo boli vygenerované pri používaní systémov v reálnych podmienkach. Výsledky poskytované systémami umelej inteligencie sú ovplyvnené takýmito prirodzenými predsudkami, ktoré majú tendenciu postupne rásť, a tým aj upevňovať a prehlbovať existujúcu diskrimináciu, najmä v prípade osôb patriacich k určitým zraniteľným alebo etnickým skupinám alebo komunitám, ktoré sú terčom rasizmu. Súbory trénovacích, validačných a testovacích údajov by mali v rozsahu, v akom si to vyžaduje zamýšľaný účel, zohľadňovať najmä vlastnosti, charakteristiky alebo prvky, ktoré sú špecifické pre konkrétne geografické, kontextové, behaviorálne alebo funkčné podmienky alebo súvislosti, v ktorých sa má systém umelej inteligencie používať. Na ochranu práva iných osôb pred diskrimináciou, ktorá by mohla vyplynúť z predpojatosti systémov umelej inteligencie, by poskytovatelia mali mať výnimočne a po uplatnení všetkých uplatniteľných podmienok stanovených v tomto nariadení a v nariadení (EÚ) 2016/679, smernici (EÚ) 2016/680 a nariadení (EÚ) 2018/1725 možnosť spracúvať aj osobitné kategórie osobných údajov s cieľom zabezpečiť odhaľovanie a nápravu negatívnej zaujatosti vo vzťahu k vysokorizikovým systémom umelej inteligencie. Negatívna zaujatosť by sa mala chápať ako zaujatosť, ktorá má priamy alebo nepriamy diskriminačný účinok voči fyzickej osobe. Požiadavky týkajúce sa správy údajov možno splniť využitím tretích strán, ktoré ponúkajú certifikované služby súladu vrátane overovania správy údajov, integrity súboru údajov a postupov ich trénovania, validácie a testovania.
Pozmeňujúci návrh 79
Návrh nariadenia
Odôvodnenie 45
(45)  Pokiaľ ide o vývoj vysokorizikových systémov umelej inteligencie, niektorí aktéri, ako sú poskytovatelia, notifikované osoby a iné príslušné subjekty, ako napr. centrá digitálnych inovácií, testovacie experimentačné zariadenia a výskumní pracovníci, by mali mať prístup k súborom vysokokvalitných údajov a využívať ich v rámci svojich príslušných oblastí činností, ktoré súvisia s týmto nariadením. Pri poskytovaní dôveryhodného, zodpovedného a nediskriminačného prístupu k vysokokvalitným údajom na účely trénovania, validácie a testovania systémov umelej inteligencie budú mať zásadný význam európske spoločné dátové priestory zriadené Komisiou a uľahčenie výmeny údajov medzi podnikmi a s verejnou správou vo verejnom záujme. Napríklad v oblasti zdravia uľahčí európsky priestor pre údaje týkajúce sa zdravia nediskriminačný prístup k údajom týkajúcim sa zdravia a trénovanie algoritmov umelej inteligencie na týchto súboroch údajov, a to bezpečným, včasným, transparentným a dôveryhodným spôsobom chrániacim súkromie, pričom sa zabezpečí primerané inštitucionálne riadenie. Relevantné príslušné orgány vrátane sektorových orgánov, ktoré poskytujú alebo podporujú prístup k údajom, môžu takisto podporovať poskytovanie vysokokvalitných údajov na trénovanie, validáciu a testovanie systémov umelej inteligencie.
 (45)  Pokiaľ ide o vývoj a posúdenie vysokorizikových systémov umelej inteligencie, niektorí aktéri, ako sú poskytovatelia, notifikované osoby a iné príslušné subjekty, ako napr. centrá digitálnych inovácií, testovacie experimentačné zariadenia a výskumní pracovníci, by mali mať prístup k súborom vysokokvalitných údajov a využívať ich v rámci svojich príslušných oblastí činností, ktoré súvisia s týmto nariadením. Pri poskytovaní dôveryhodného, zodpovedného a nediskriminačného prístupu k vysokokvalitným údajom na účely trénovania, validácie a testovania systémov umelej inteligencie budú mať zásadný význam európske spoločné dátové priestory zriadené Komisiou a uľahčenie výmeny údajov medzi podnikmi a s verejnou správou vo verejnom záujme. Napríklad v oblasti zdravia uľahčí európsky priestor pre údaje týkajúce sa zdravia nediskriminačný prístup k údajom týkajúcim sa zdravia a trénovanie algoritmov umelej inteligencie na týchto súboroch údajov, a to bezpečným, včasným, transparentným a dôveryhodným spôsobom chrániacim súkromie, pričom sa zabezpečí primerané inštitucionálne riadenie. Relevantné príslušné orgány vrátane sektorových orgánov, ktoré poskytujú alebo podporujú prístup k údajom, môžu takisto podporovať poskytovanie vysokokvalitných údajov na trénovanie, validáciu a testovanie systémov umelej inteligencie.
Pozmeňujúci návrh 80
Návrh nariadenia
Odôvodnenie 45 a (nové)
(45a)  Právo na súkromie a ochranu osobných údajov musí byť zaručené počas celého životného cyklu systému umelej inteligencie. V tejto súvislosti sú zásady minimalizácie údajov a špecificky navrhnutej a štandardnej ochrany údajov stanovené v právnych predpisoch Únie o ochrane údajov nevyhnutné, ak spracúvanie údajov predstavuje významné riziká pre základné práva fyzických osôb. Poskytovatelia a používatelia systémov umelej inteligencie by mali zaviesť moderné technické a organizačné opatrenia na ochranu týchto práv. Takéto opatrenia by mali zahŕňať nielen anonymizáciu a šifrovanie, ale aj používanie čoraz dostupnejšej technológie, ktorá umožňuje uplatniť algoritmy na údaje a odvodiť cenné poznatky bez prenosu medzi stranami alebo bez zbytočného kopírovania nespracovaných alebo štruktúrovaných údajov.
Pozmeňujúci návrh 81
Návrh nariadenia
Odôvodnenie 46
(46)  Na overenie súladu s požiadavkami podľa tohto nariadenia je nevyhnutné mať informácie o tom, ako boli vyvinuté vysokorizikové systémy umelej inteligencie a ako fungujú počas celého svojho životného cyklu. Preto sa vyžaduje uchovávanie záznamov a dostupnosť technickej dokumentácie obsahujúcej informácie, ktoré sú potrebné na posúdenie súladu systému umelej inteligencie s príslušnými požiadavkami. Takéto informácie by mali zahŕňať všeobecné charakteristiky, schopnosti a obmedzenia systému, použité algoritmy, údaje, postupy trénovania, testovania a validácie, ako aj dokumentáciu o príslušnom systéme riadenia rizík. Technická dokumentácia by sa mala priebežne aktualizovať.
 (46)  Na overenie súladu s požiadavkami podľa tohto nariadenia je nevyhnutné mať zrozumiteľné informácie o tom, ako boli vyvinuté vysokorizikové systémy umelej inteligencie a ako fungujú počas celej svojej životnosti. Preto sa vyžaduje uchovávanie záznamov a dostupnosť technickej dokumentácie obsahujúcej informácie, ktoré sú potrebné na posúdenie súladu systému umelej inteligencie s príslušnými požiadavkami. Takéto informácie by mali zahŕňať všeobecné charakteristiky, schopnosti a obmedzenia systému, použité algoritmy, údaje, postupy trénovania, testovania a validácie, ako aj dokumentáciu o príslušnom systéme riadenia rizík. Technická dokumentácia by sa mala náležite aktualizovať počas celého životného cyklu systému umelej inteligencie. Systémy umelej inteligencie môžu mať veľmi významný vplyv na životné prostredie a vysokú spotrebu energie počas ich životného cyklu. S cieľom lepšie pochopiť vplyv systémov umelej inteligencie na životné prostredie by technická dokumentácia vypracovaná poskytovateľmi mala obsahovať informácie o spotrebe energie systému umelej inteligencie vrátane spotreby počas vývoja a očakávanej spotreby počas používania. Takéto informácie by mali zohľadňovať príslušné právne predpisy Únie a vnútroštátne právne predpisy. Tieto vykazované informácie by mali byť zrozumiteľné, porovnateľné a overiteľné a na tento účel by Komisia mala vypracovať usmernenia pre harmonizovanú metodiku na výpočet a nahlasovanie týchto informácií. S cieľom zabezpečiť, aby bola možná jednotná dokumentácia, by sa v čo najväčšej miere mali zosúladiť pojmy a vymedzenia súvisiace s touto požadovanou dokumentáciou a všetkou požadovanou dokumentáciou v príslušných právnych predpisoch Únie.
Pozmeňujúci návrh 82
Návrh nariadenia
Odôvodnenie 46 a (nové)
(46a)  Systémy umelej inteligencie by mali zohľadňovať najmodernejšie metódy a príslušné uplatniteľné normy na zníženie spotreby energie, využívanie zdrojov a odpad, ako aj na zvýšenie ich energetickej efektívnosti a celkovej efektívnosti systému. Environmentálne aspekty systémov umelej inteligencie, ktoré sú významné na účely tohto nariadenia, sú spotreba energie systému umelej inteligencie vo fáze vývoja, trénovania a zavádzania, ako aj zaznamenávanie, nahlasovanie a uchovávanie týchto údajov. Koncepcia systémov umelej inteligencie by mala umožniť meranie a logovanie spotreby energie a zdrojov v každej fáze vývoja, trénovania a zavádzania. Monitorovanie a nahlasovanie emisií systémov umelej inteligencie musí byť spoľahlivé, transparentné, konzistentné a presné. S cieľom zabezpečiť jednotné uplatňovanie tohto nariadenia a stabilný právny ekosystém pre poskytovateľov a nasadzujúce subjekty na jednotnom trhu by Komisia mala vypracovať spoločnú špecifikáciu metodiky na splnenie požiadavky na podávanie správ a dokumentáciu o spotrebe energie a zdrojov počas vývoja, trénovania a zavádzania. Takéto spoločné špecifikácie metodiky merania môžu vytvoriť základ, vďaka ktorému môže Komisia lepšie rozhodnúť, či sú potrebné budúce regulačné zásahy, a to po vykonaní posúdenia vplyvu, v ktorom sa zohľadnia existujúce právne predpisy.
Pozmeňujúci návrh 83
Návrh nariadenia
Odôvodnenie 46 b (nové)
(46b)  Na dosiahnutie cieľov tohto nariadenia a prispievanie k plneniu cieľov Únie v oblasti životného prostredia a zároveň zabezpečenie hladkého fungovania vnútorného trhu môže byť potrebné stanoviť odporúčania a usmernenia a prípadne ciele udržateľnosti. Na tento účel je Komisia oprávnená vypracovať metodiku, ktorá prispeje k vytvoreniu kľúčových ukazovateľov výkonnosti (KPI) a referenčnej hodnoty pre ciele udržateľného rozvoja. Cieľom by malo byť v prvom rade umožniť spravodlivé porovnanie medzi možnosťami implementácie umelej inteligencie poskytujúcimi stimuly na podporu využívania účinnejších technológií umelej inteligencie na riešenie problémov v oblasti energetiky a zdrojov. Na splnenie tohto cieľa by toto nariadenie malo poskytnúť prostriedky na vytvorenie základného zberu nahlásených údajov o emisiách z vývoja, trénovania a zavádzania.
Pozmeňujúci návrh 84
Návrh nariadenia
Odôvodnenie 47 a (nové)
(47a)  Takéto požiadavky na transparentnosť a na vysvetliteľnosť rozhodovania v oblasti umelej inteligencie by mali prispieť k boju proti odstrašujúcim účinkom digitálnej asymetrie a tzv. temných modelov zameraných na jednotlivcov a na získanie ich informovaného súhlasu.
Pozmeňujúci návrh 85
Návrh nariadenia
Odôvodnenie 49
(49)  Vysokorizikové systémy umelej inteligencie by mali fungovať konzistentne počas celého svojho životného cyklu a mali by spĺňať primeranú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti v súlade so všeobecne uznávaným stavom techniky. Používatelia by mali byť informovaní o úrovni a metrikách na meranie presnosti.
 (49)  Vysokorizikové systémy umelej inteligencie by mali fungovať konzistentne počas celého svojho životného cyklu a mali by spĺňať primeranú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti v súlade so všeobecne uznávaným stavom techniky. Metriky na meranie výkonnosti a ich očakávaná úroveň sa musia definovať s primárnym cieľom zmierniť riziká a negatívny vplyv systému umelej inteligencie. Nasadzujúce subjekty by mali byť jednoznačným, transparentným, ľahko pochopiteľným a zrozumiteľným spôsobom informované o očakávanej úrovni ukazovateľov výkonnosti. Vyhlásenie o ukazovateľoch výkonnosti nemožno považovať za dôkaz o budúcich úrovniach, ale je potrebné použiť príslušné metódy na zabezpečenie konzistentných úrovní počas používania. Keďže normalizačné organizácie existujú na to, aby stanovili normy, je potrebná koordinácia referenčného porovnávania, aby sa zistilo, ako by sa tieto štandardizované požiadavky a charakteristiky systémov umelej inteligencie mali merať. Európsky úrad pre umelú inteligenciu by mal spojiť vnútroštátne a medzinárodné orgány v oblasti metrológie a referenčného porovnávania a poskytnúť nezáväzné usmernenia na riešenie technických aspektov toho, ako merať primeranú úroveň výkonnosti a spoľahlivosti.
Pozmeňujúci návrh 86
Návrh nariadenia
Odôvodnenie 50
(50)  Technická spoľahlivosť je kľúčovou požiadavkou pre vysokorizikové systémy umelej inteligencie. Tie by mali byť odolné voči rizikám súvisiacim s obmedzeniami systému (napr. chyby, poruchy, nezrovnalosti, neočakávané situácie), ako aj voči zlomyseľným konaniam, ktoré môžu ohroziť bezpečnosť systému umelej inteligencie a viesť k škodlivému alebo inému nežiaducemu správaniu. Neschopnosť chrániť pred týmito rizikami by mohla mať vplyv na bezpečnosť alebo negatívne ovplyvniť základné práva, napríklad v dôsledku chybných rozhodnutí alebo nesprávnych alebo skreslených výstupov vygenerovaných systémom umelej inteligencie.
 (50)  Technická spoľahlivosť je kľúčovou požiadavkou pre vysokorizikové systémy umelej inteligencie. Tie by mali byť odolné voči rizikám súvisiacim s obmedzeniami systému (napr. chyby, poruchy, nezrovnalosti, neočakávané situácie), ako aj voči zlomyseľným konaniam, ktoré môžu ohroziť bezpečnosť systému umelej inteligencie a viesť k škodlivému alebo inému nežiaducemu správaniu. Neschopnosť chrániť pred týmito rizikami by mohla mať vplyv na bezpečnosť alebo negatívne ovplyvniť základné práva, napríklad v dôsledku chybných rozhodnutí alebo nesprávnych alebo skreslených výstupov vygenerovaných systémom umelej inteligencie. Používatelia systému umelej inteligencie by mali prijať opatrenia na zabezpečenie toho, aby možný kompromis medzi robustnosťou a presnosťou neviedol k diskriminačným alebo negatívnym výsledkom pre menšinové podskupiny.
Pozmeňujúci návrh 87
Návrh nariadenia
Odôvodnenie 51
(51)  Kybernetická bezpečnosť zohráva kľúčovú úlohu pri zabezpečovaní odolnosti systémov umelej inteligencie voči pokusom o zmenu ich použitia, správania, výkonnosti alebo o ohrozenie ich bezpečnostných vlastností tretími stranami, ktoré so škodlivým úmyslom zneužívajú zraniteľné miesta systému. Kybernetické útoky na systémy umelej inteligencie môžu využívať aktíva špecifické pre umelú inteligenciu, ako sú súbory trénovacích údajov (napr. otrávenie údajov) alebo trénované modely (napr. nepriateľské útoky), alebo zneužívať zraniteľné miesta digitálnych aktív systému umelej inteligencie alebo základnej infraštruktúry IKT. Na zabezpečenie úrovne kybernetickej bezpečnosti primeranej rizikám by preto poskytovatelia vysokorizikových systémov umelej inteligencie mali prijať vhodné opatrenia a náležite pritom zohľadniť základnú infraštruktúru IKT.
 (51)  Kybernetická bezpečnosť zohráva kľúčovú úlohu pri zabezpečovaní odolnosti systémov umelej inteligencie voči pokusom o zmenu ich použitia, správania, výkonnosti alebo o ohrozenie ich bezpečnostných vlastností tretími stranami, ktoré so škodlivým úmyslom zneužívajú zraniteľné miesta systému. Kybernetické útoky na systémy umelej inteligencie môžu využívať aktíva špecifické pre umelú inteligenciu, ako sú súbory trénovacích údajov (napr. otrávenie údajov) alebo trénované modely (napr. nepriateľské útoky alebo útoky na dôvernosť), alebo zneužívať zraniteľné miesta digitálnych aktív systému umelej inteligencie alebo základnej infraštruktúry IKT. Na zabezpečenie úrovne kybernetickej bezpečnosti primeranej rizikám by preto poskytovatelia vysokorizikových systémov umelej inteligencie, ako aj notifikované osoby, príslušné vnútroštátne orgány a orgány dohľadu nad trhom mali prijať vhodné opatrenia a náležite pritom zohľadniť základnú infraštruktúru IKT. Vysokorizikovú umelú inteligenciu by mali sprevádzať bezpečnostné riešenia a záplaty na celú životnosť výrobku alebo, ak nie je závislá od konkrétneho výrobku, na obdobie, ktoré musí uviesť výrobca.
Pozmeňujúci návrh 88
Návrh nariadenia
Odôvodnenie 53 a (nové)
(53a)  Únia a všetky členské štáty sú ako signatári Dohovoru OSN o právach osôb so zdravotným postihnutím (UNCRPD) právne zaviazané chrániť osoby so zdravotným postihnutím pred diskrimináciou a podporovať ich rovnosť, zabezpečiť, aby osoby so zdravotným postihnutím mali rovnaký prístup k informačným a komunikačným technológiám a systémom ako ostatní, a zabezpečiť rešpektovanie súkromia osôb so zdravotným postihnutím. Vzhľadom na rastúci význam a využívanie systémov umelej inteligencie by sa uplatňovaním zásad univerzálneho dizajnu na všetky nové technológie a služby mal zabezpečiť úplný, rovnaký a neobmedzený prístup pre každého, koho sa technológie umelej inteligencie potenciálne týkajú alebo kto ich používa, vrátane osôb so zdravotným postihnutím, a to spôsobom, ktorý plne zohľadňuje ich prirodzenú dôstojnosť a rozmanitosť. Preto je nevyhnutné, aby poskytovatelia zabezpečili úplný súlad s požiadavkami na prístupnosť vrátane smernice (EÚ) 2016/2102 a smernice (EÚ) 2019/882. Poskytovatelia by mali zabezpečiť súlad s týmito požiadavkami už v štádiu návrhu. Potrebné opatrenia by sa preto mali čo najviac začleniť do návrhu vysokorizikového systému umelej inteligencie.
Pozmeňujúci návrh 89
Návrh nariadenia
Odôvodnenie 54
(54)  Poskytovateľ by mal zaviesť spoľahlivý systém riadenia kvality, zabezpečiť dokončenie požadovaného postupu posudzovania zhody, vypracovať príslušnú dokumentáciu a vytvoriť spoľahlivý systém monitorovania po uvedení na trh. Orgány verejnej moci, ktoré uvádzajú do prevádzky vysokorizikové systémy umelej inteligencie pre vlastnú potrebu, môžu prijať a vykonávať pravidlá systému riadenia kvality ako súčasť systému riadenia kvality prijatého na vnútroštátnej prípadne regionálnej úrovni, pričom zohľadnia osobitosti odvetvia a právomoci a organizáciu príslušného orgánu verejnej moci.
 (54)  Poskytovateľ by mal zaviesť spoľahlivý systém riadenia kvality, zabezpečiť dokončenie požadovaného postupu posudzovania zhody, vypracovať príslušnú dokumentáciu a vytvoriť spoľahlivý systém monitorovania po uvedení na trh. V prípade poskytovateľov, ktorí už zaviedli systémy riadenia kvality založené na normách ako ISO 9001 alebo iných relevantných normách, by sa nemal očakávať žiadny duplicitný systém riadenia kvality v plnom rozsahu, ale skôr prispôsobenie ich existujúcich systémov určitým aspektom spojeným s dodržiavaním osobitných požiadaviek tohto nariadenia. Malo by sa to odzrkadliť aj v budúcich normalizačných činnostiach alebo usmerneniach, ktoré v tejto súvislosti prijme Komisia. Orgány verejnej moci, ktoré uvádzajú do prevádzky vysokorizikové systémy umelej inteligencie pre vlastnú potrebu, môžu prijať a vykonávať pravidlá systému riadenia kvality ako súčasť systému riadenia kvality prijatého na vnútroštátnej prípadne regionálnej úrovni, pričom zohľadnia osobitosti odvetvia a právomoci a organizáciu príslušného orgánu verejnej moci.
Pozmeňujúci návrh 90
Návrh nariadenia
Odôvodnenie 56
(56)  S cieľom umožniť presadzovanie tohto nariadenia a vytvoriť rovnaké podmienky pre prevádzkovateľov je pri zohľadnení rôznych foriem sprístupňovania digitálnych produktov dôležité zabezpečiť, aby osoba usadená v Únii mohla za každých okolností poskytnúť orgánom všetky potrebné informácie o súlade systému umelej inteligencie. Preto ak nie je možné identifikovať dovozcu, poskytovatelia usadení mimo Únie vymenujú písomným splnomocnením pred sprístupnením svojich systémov umelej inteligencie na trhu Únie splnomocneného zástupcu usadeného v Únii.
 (56)  S cieľom umožniť presadzovanie tohto nariadenia a vytvoriť rovnaké podmienky pre prevádzkovateľov je pri zohľadnení rôznych foriem sprístupňovania digitálnych produktov dôležité zabezpečiť, aby osoba usadená v Únii mohla za každých okolností poskytnúť orgánom všetky potrebné informácie o súlade systému umelej inteligencie. Preto poskytovatelia usadení mimo Únie vymenujú písomným splnomocnením pred sprístupnením svojich systémov umelej inteligencie na trhu Únie splnomocneného zástupcu usadeného v Únii.
Pozmeňujúci návrh 91
Návrh nariadenia
Odôvodnenie 58
(58)  Vzhľadom na povahu systémov umelej inteligencie a riziká pre bezpečnosť a základné práva, ktoré môžu súvisieť s ich používaním, a to aj pokiaľ ide o potrebu zabezpečiť riadne monitorovanie výkonnosti systému umelej inteligencie v reálnom prostredí, je vhodné stanoviť osobitné povinnosti používateľov. Používatelia by hlavne mali používať vysokorizikové systémy umelej inteligencie v súlade s návodom na použitie a mali by sa stanoviť určité ďalšie povinnosti, pokiaľ ide o monitorovanie fungovania systémov umelej inteligencie a prípadne aj uchovávanie záznamov.
 (58)  Vzhľadom na povahu systémov umelej inteligencie a riziká pre bezpečnosť a základné práva, ktoré môžu súvisieť s ich používaním, a to aj pokiaľ ide o potrebu zabezpečiť riadne monitorovanie výkonnosti systému umelej inteligencie v reálnom prostredí, je vhodné stanoviť osobitné povinnosti nasadzujúcich subjektov. Nasadzujúce subjekty by hlavne mali používať vysokorizikové systémy umelej inteligencie v súlade s návodom na použitie a mali by sa stanoviť určité ďalšie povinnosti, pokiaľ ide o monitorovanie fungovania systémov umelej inteligencie a prípadne aj uchovávanie záznamov.
Pozmeňujúci návrh 92
Návrh nariadenia
Odôvodnenie 58 a (nové)
(58a)  Riziká súvisiace so systémami umelej inteligencie môžu vyplývať zo spôsobu, akým sú tieto systémy navrhnuté, ale aj z toho, ako sa tieto systémy umelej inteligencie používajú. Nasadzujúce subjekty vysokorizikového systému umelej inteligencie preto zohrávajú rozhodujúcu úlohu pri zabezpečovaní ochrany základných práv a dopĺňajú povinnosti poskytovateľa pri vývoji systému umelej inteligencie. Nasadzujúce subjekty majú najlepšie predpoklady na to, aby pochopili, ako sa bude vysokorizikový systém umelej inteligencie konkrétne používať, preto môžu identifikovať potenciálne značné riziká, ktoré sa vo fáze vývoja nepredpokladali, a to vďaka presnejším znalostiam kontextu používania, ľudí alebo skupín ľudí, ktorých sa to môže týkať, vrátane marginalizovaných a zraniteľných skupín. Nasadzujúce subjekty by mali určiť vhodné štruktúry riadenia v tomto konkrétnom kontexte použitia, ako sú opatrenia pre ľudský dohľad, postupy vybavovania sťažností a postupy nápravy, pretože rozhodnutia v riadiacich štruktúrach môžu byť nápomocné pri zmierňovaní rizík pre základné práva v konkrétnych prípadoch použitia. S cieľom účinne zabezpečiť ochranu základných práv by preto mal nasadzujúci subjekt vysokorizikových systémov umelej inteligencie vykonať posúdenie vplyvu na základné práva, a to pred ich uvedením do používania. Posúdenie vplyvu by mal sprevádzať podrobný plán opisujúci opatrenia alebo nástroje, ktoré pomôžu zmierniť zistené riziká pre základné práva identifikované najneskôr od ich uvedenia do prevádzky. Ak takýto plán nie je možné identifikovať, nasadzujúci subjekt by sa mal zdržať uvedenia systému do prevádzky. Pri vykonávaní tohto posúdenia vplyvu by mal nasadzujúci subjekt informovať vnútroštátny dozorný orgán a v čo najväčšej možnej miere príslušné zainteresované strany, ako aj zástupcov skupín osôb, ktoré by mohli byť ovplyvnené systémom umelej inteligencie, s cieľom zhromaždiť relevantné informácie, ktoré sa považujú za potrebné na vykonanie posúdenia vplyvu, a vyzýva sa, aby zhrnutie svojho posúdenia vplyvu na základné práva zverejnil na svojom online webovom sídle. Tieto povinnosti by sa nemali vzťahovať na MSP, ktoré by vzhľadom na nedostatok zdrojov mohli mať ťažkosti s vykonaním takejto konzultácie. Mali by sa však tiež usilovať o zapojenie takýchto zástupcov do vykonávania ich posúdenia vplyvu na základné práva. Okrem toho, vzhľadom na potenciálny vplyv a potrebu demokratického dohľadu a kontroly by sa od nasadzujúcich subjektov vysokorizikových systémov umelej inteligencie, ktorí sú verejnými orgánmi alebo inštitúciami, orgánmi, úradmi a agentúrami Únie, ako aj nasadzujúcich subjektov, ktorí sú podnikmi označenými za strážcu prístupu podľa nariadenia (EÚ) 2022/1925, mala vyžadovať registrácia používania každého vysokorizikového systému umelej inteligencie vo verejnej databáze. Iné nasadzujúce subjekty sa môžu dobrovoľne zaregistrovať.
Pozmeňujúci návrh 93
Návrh nariadenia
Odôvodnenie 59
(59)  Je vhodné predpokladať, že používateľom systému umelej inteligencie by mala byť fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, pod ktorého právomocou sa systém umelej inteligencie prevádzkuje, s výnimkou prípadov, keď sa používa v rámci osobnej neprofesionálnej činnosti.
 (59)  Je vhodné predpokladať, že nasadzujúcim subjektom systému umelej inteligencie by mala byť fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, pod ktorého právomocou sa systém umelej inteligencie prevádzkuje, s výnimkou prípadov, keď sa používa v rámci osobnej neprofesionálnej činnosti.
Pozmeňujúci návrh 94
Návrh nariadenia
Odôvodnenie 60
(60)  Vzhľadom na zložitosť hodnotového reťazca umelej inteligencie by príslušné tretie strany, najmä tie, ktoré sú zapojené do predaja a dodávania softvéru, softvérových nástrojov a komponentov, vopred trénovaných modelov a údajov, alebo poskytovatelia sieťových služieb mali podľa potreby spolupracovať s poskytovateľmi a používateľmi s cieľom umožniť im dodržiavanie povinností podľa tohto nariadenia a s príslušnými orgánmi zriadenými podľa tohto nariadenia.
 (60)  V rámci hodnotového reťazca umelej inteligencie viaceré subjekty často dodávajú nástroje a služby, ale aj komponenty alebo procesy, ktoré poskytovateľ následne začlení do systému umelej inteligencie, a to aj v súvislosti so zberom a predbežným spracovaním údajov, trénovaním modelov, pretrénovaním modelov, testovaním a hodnotením modelov, integráciou do softvéru alebo inými aspektmi vývoja modelu. Zapojené subjekty môžu svoju ponuku komerčne sprístupniť priamo alebo nepriamo prostredníctvom rozhraní, ako sú aplikačné programovacie rozhrania, a distribuovať ich v rámci bezplatných licencií a licencií na otvorený zdrojový kód, ale aj čoraz viac prostredníctvom platforiem pracovnej sily v oblasti umelej inteligencie, ďalšieho predaja trénovaných parametrov, svojpomocných sád na budovanie modelov alebo ponúkania plateného prístupu k architektúre modelu na vývoj a trénovanie modelov. Vzhľadom na túto zložitosť hodnotového reťazca umelej inteligencie by všetky príslušné tretie strany, najmä tie, ktoré sú zapojené do vývoja, predaja a komerčných dodávok softvérových nástrojov, komponentov, vopred trénovaných modelov alebo údajov začlenených do systému umelej inteligencie, alebo poskytovatelia sieťových služieb, mali bez toho, aby boli dotknuté ich vlastné práva duševného vlastníctva alebo obchodné tajomstvo, sprístupniť požadované informácie, odbornú prípravu alebo odborné znalosti a podľa potreby spolupracovať s poskytovateľmi s cieľom umožniť im kontrolu nad všetkými aspektmi systému umelej inteligencie týkajúcimi sa súladu, na ktoré sa vzťahuje toto nariadenie. S cieľom umožniť nákladovo efektívne riadenie hodnotového reťazca umelej inteligencie každá tretia strana, ktorá dodáva poskytovateľovi nástroj, službu, komponent alebo proces, ktorý poskytovateľ neskôr začlení do systému umelej inteligencie, výslovne zverejní úroveň kontroly.
Pozmeňujúci návrh 95
Návrh nariadenia
Odôvodnenie 60 a (nové)
(60a)  Ak je jedna strana v silnejšej rokovacej pozícii, existuje riziko, že táto zmluvná strana by mohla využiť takúto pozíciu na úkor druhej zmluvnej strany pri rokovaniach o dodávke nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú alebo sú integrované do vysokorizikového systému umelej inteligencie, alebo o prostriedkoch nápravy v prípade porušenia alebo ukončenia súvisiacich povinností. Takáto zmluvná nerovnováha poškodzuje najmä mikropodniky, malé a stredné podniky, ako aj startupy, pokiaľ ich nevlastní podnik alebo neuzavreli zmluvu s podnikom, ktorý je schopný primerane odškodniť subdodávateľa, keďže nemajú zmysluplnú schopnosť rokovať o podmienkach zmluvnej dohody a nemusia mať inú možnosť, ako akceptovať zmluvné podmienky v podobe, v akej sú predložené. Preto by neprijateľné zmluvné podmienky upravujúce poskytovanie nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú alebo sú integrované do vysokorizikového systému umelej inteligencie, alebo prostriedky nápravy v prípade porušenia alebo ukončenia súvisiacich povinností, nemali byť pre takéto mikropodniky, malé alebo stredné podniky a startupy záväzné, ak im boli jednostranne uložené.
Pozmeňujúci návrh 96
Návrh nariadenia
Odôvodnenie 60 b (nové)
(60b)  V pravidlách o zmluvných podmienkach by sa mala zohľadňovať zásada zmluvnej slobody ako základný pojem vo vzťahoch medzi podnikmi. Preto by testu nekalosti nemali podliehať všetky zmluvné podmienky, ale len tie podmienky, ktoré sú jednostranne uložené mikropodnikom, malým a stredným podnikom a startupom. Týka sa to situácií typu „ber alebo nechaj tak“, keď jedna strana poskytne určitú zmluvnú podmienku a mikropodnik, malý alebo stredný podnik a startup nemôže ovplyvniť obsah tejto podmienky napriek pokusu o vyjednávanie. Za jednostranne uloženú by sa nemala považovať zmluvná podmienka, ktorú jednoducho poskytne jedna strana a mikropodnik, malý podnik, stredný podnik alebo startup ju akceptuje, alebo podmienka, ktorá je dohodnutá a následne odsúhlasená zmeneným spôsobom medzi zmluvnými stranami.
Pozmeňujúci návrh 97
Návrh nariadenia
Odôvodnenie 60 c (nové)
(60c)  Okrem toho by sa pravidlá týkajúce sa nekalých zmluvných podmienok mali uplatňovať len na tie prvky zmluvy, ktoré sa týkajú poskytovania nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú alebo sú integrované do vysokorizikového systému umelej inteligencie, alebo na prostriedky nápravy v prípade porušenia alebo ukončenia súvisiacich povinností. Ostatné časti tej istej zmluvy, ktoré nesúvisia s týmito prvkami, by nemali podliehať testu nekalosti stanovenému v tomto nariadení.
Pozmeňujúci návrh 98
Návrh nariadenia
Odôvodnenie 60 d (nové)
(60d)  Kritériá na identifikáciu neprijateľných zmluvných podmienok by sa mali uplatňovať len na neprimerané zmluvné podmienky, pri ktorých sa zneužíva silnejšia vyjednávacia pozícia. Prevažná väčšina zmluvných podmienok, ktoré sú komerčne výhodnejšie pre jednu stranu ako pre druhú, vrátane tých, ktoré sú bežné v zmluvách medzi podnikmi, sú bežným vyjadrením zásady zmluvnej slobody a uplatňujú sa aj naďalej. Ak zmluvná podmienka nie je zahrnutá do zoznamu podmienok, ktoré sa vždy považujú za neprijateľné, uplatní sa všeobecné ustanovenie o nekalosti. V tomto ohľade by podmienky uvedené ako neprijateľné podmienky mali slúžiť ako meradlo na výklad všeobecného ustanovenia o nekalosti.
Pozmeňujúci návrh 99
Návrh nariadenia
Odôvodnenie 60 e (nové)
(60e)  Základné modely sú najnovším vývojom, v rámci ktorého sa modely umelej inteligencie vyvíjajú z algoritmov určených na optimalizáciu pre všeobecnosť a všestrannosť výstupov. Tieto modely sú často trénované na širokom spektre zdrojov údajov a veľkom množstve údajov na vykonávanie širokej škály nadväzujúcich úloh vrátane niektorých, na ktoré neboli osobitne vyvinuté a vytrénované. Základný model môže byť unimodálny alebo multimodálny, vytrénovaný prostredníctvom rôznych metód, ako je napríklad strojové učenie s učiteľom alebo posilnený tréning. Systémy umelej inteligencie s konkrétnym účelom určenia alebo systémy umelej inteligencie na všeobecné účely môžu byť implementáciou základného modelu, čo znamená, že každý základný model možno opätovne použiť v nespočetných nadväzujúcich systémoch umelej inteligencie alebo systémoch umelej inteligencie na všeobecné účely. Tieto modely majú čoraz väčší význam pre mnohé nadväzné aplikácie a systémy.
Pozmeňujúci návrh 100
Návrh nariadenia
Odôvodnenie 60 f (nové)
(60f)  V prípade základných modelov poskytovaných ako služba, napríklad prostredníctvom prístupu k aplikačnému programovaciemu rozhraniu, by sa spolupráca s nadväzujúcimi poskytovateľmi mala rozšíriť počas celého obdobia, počas ktorého sa táto služba poskytuje a podporuje, s cieľom umožniť primerané zmiernenie rizika, pokiaľ poskytovateľ základného modelu neprevedie tréningový model, ako aj rozsiahle a primerané informácie o súboroch údajov a procese vývoja systému alebo neobmedzí službu, ako je prístup k aplikačnému programovaciemu rozhraniu, takým spôsobom, aby nadväzujúci poskytovateľ bol schopný v plnej miere dodržiavať toto nariadenie bez ďalšej podpory pôvodného poskytovateľa základného modelu.
Pozmeňujúci návrh 101
Návrh nariadenia
Odôvodnenie 60 g (nové)
(60g)  Vzhľadom na povahu a zložitosť hodnotového reťazca systému umelej inteligencie je nevyhnutné objasniť úlohu aktérov prispievajúcich k rozvoju systémov umelej inteligencie. Existuje značná neistota, pokiaľ ide o spôsob, akým sa budú vyvíjať základné modely, a to tak z hľadiska typológie modelov, ako aj z hľadiska samosprávy. Preto je nevyhnutné objasniť právnu situáciu poskytovateľov základných modelov. V kombinácii s ich zložitosťou a neočakávaným vplyvom takýchto modelov, nedostatočnou kontrolou poskytovateľa nadväznej umelej inteligencie nad vývojom základného modelu a následnou mocenskou nerovnováhou a s cieľom zabezpečiť spravodlivé rozdelenie zodpovednosti v rámci hodnotového reťazca umelej inteligencie by takéto modely mali podliehať primeraným a špecifickejším požiadavkám a povinnostiam podľa tohto nariadenia, konkrétne základné modely by mali posudzovať a zmierňovať možné riziká a škody prostredníctvom vhodného návrhu, testovania a analýzy, mali by implementovať opatrenia na správu údajov vrátane posúdenia zaujatosti a mali by spĺňať technické požiadavky na návrh s cieľom zabezpečiť primeranú úroveň výkonnosti, predvídateľnosti, interpretovateľnosti, korigovateľnosti, bezpečnosti a kybernetickej bezpečnosti a mali by byť v súlade s environmentálnymi normami. Tieto povinnosti by mali sprevádzať normy. Základné modely by mali mať aj informačné povinnosti a mali by pripraviť všetku technickú dokumentáciu potrebnú na to, aby potenciálni nadväzní poskytovatelia mohli plniť svoje povinnosti podľa tohto nariadenia. Základné generatívne modely by mali zabezpečiť transparentnosť, pokiaľ ide o skutočnosť, že obsah vytvára systém umelej inteligencie, a nie ľudia. Tieto osobitné požiadavky a povinnosti nepredstavujú posúdenie základných modelov ako vysokorizikové systémy umelej inteligencie, ale mali by zaručiť dosiahnutie cieľov tohto nariadenia, ktorými je zabezpečiť vysokú úroveň ochrany základných práv, zdravia a bezpečnosti, životného prostredia, demokracie a právneho štátu. Vopred trénované modely vyvinuté pre užší, menej všeobecný a obmedzenejší súbor aplikácií, ktoré nemožno prispôsobiť širokému spektru úloh, ako sú jednoduché viacúčelové systémy umelej inteligencie, by sa nemali považovať za základné modely na účely tohto nariadenia z dôvodu ich väčšej interpretovateľnosti, v dôsledku čoho je ich správanie menej predvídateľné.
Pozmeňujúci návrh 102
Návrh nariadenia
Odôvodnenie 60 h (nové)
(60h)  Vzhľadom na povahu základných modelov chýbajú odborné znalosti v oblasti posudzovania zhody a metódy auditu treťou stranou sa stále vyvíjajú. Samotný sektor preto vyvíja nové spôsoby hodnotenia základných modelov, ktoré čiastočne spĺňajú cieľ auditu (napr. hodnotenie modelov, red-teaming alebo overovanie a validácia strojového učenia). Tieto interné hodnotenia základných modelov by mali byť všeobecne uplatniteľné (napr. nezávislé od distribučných reťazcov, modality, vývojových metód) s cieľom riešiť riziká špecifické pre takéto modely s prihliadnutím na najmodernejšie postupy odvetvia a zamerať sa na rozvoj dostatočného technického porozumenia a kontroly modelu, riadenie primerane predvídateľných rizík a rozsiahlu analýzu a testovanie modelu prostredníctvom vhodných opatrení, napríklad zapojením nezávislých hodnotiteľov. Keďže základné modely sú novým a rýchlo napredujúcim vývojom v oblasti umelej inteligencie, je vhodné, aby Komisia a úrad pre umelú inteligenciu monitorovali a pravidelne posudzovali legislatívny rámec a rámec riadenia takýchto modelov, a najmä generatívnych systémov umelej inteligencie založených na takýchto modeloch, čo vyvoláva významné otázky týkajúce sa tvorby obsahu v rozpore s právom Únie, pravidlami v oblasti autorského práva a možným zneužívaním. Malo by sa objasniť, že týmto nariadením by nemali byť dotknuté právne predpisy Únie v oblasti autorského práva a s ním súvisiace práva vrátane smerníc Európskeho parlamentu a Rady 2001/29/ES, 2004/48/ECR a (EÚ) 2019/790.
Pozmeňujúci návrh 103
Návrh nariadenia
Odôvodnenie 61
(61)  Kľúčovú úlohu pri poskytovaní technických riešení poskytovateľom na zabezpečenie súladu s týmto nariadením by mala zohrávať normalizácia. Dodržiavanie harmonizovaných noriem vymedzených v nariadení Európskeho parlamentu a Rady (EÚ) č. 1025/201254 by malo byť pre poskytovateľov prostriedkom na preukázanie zhody s požiadavkami tohto nariadenia. Komisia by však mohla prijať spoločné technické špecifikácie v oblastiach, v ktorých harmonizované normy neexistujú alebo nie sú dostatočné.
 (61)  Kľúčovú úlohu pri poskytovaní technických riešení poskytovateľom na zabezpečenie súladu s týmto nariadením by mala zohrávať normalizácia. Dodržiavanie harmonizovaných noriem vymedzených v nariadení Európskeho parlamentu a Rady (EÚ) č. 1025/2012[1] by malo byť pre poskytovateľov prostriedkom na preukázanie zhody s požiadavkami tohto nariadenia. S cieľom zabezpečiť účinnosť noriem ako politického nástroja pre Úniu a vzhľadom na význam noriem pre zabezpečenie súladu s požiadavkami tohto nariadenia a pre konkurencieschopnosť podnikov je potrebné zabezpečiť vyvážené zastúpenie záujmov zapojením všetkých príslušných zainteresovaných strán na tvorbe noriem. Proces normalizácie by mal byť z hľadiska právnických a fyzických osôb, ktoré sa zúčastňujú na normalizačných činnostiach, transparentný.
__________________
 __________________
54 Nariadenie Európskeho parlamentu a Rady (EÚ) č. 1025/2012 z 25. októbra 2012 o európskej normalizácii, ktorým sa menia a dopĺňajú smernice Rady 89/686/EHS a 93/15/EHS a smernice Európskeho parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES a ktorým sa zrušuje rozhodnutie Rady 87/95/EHS a rozhodnutie Európskeho parlamentu a Rady č. 1673/2006/ES (Ú. v. EÚ L 316, 14.11.2012, s. 12).
 54 Nariadenie Európskeho parlamentu a Rady (EÚ) č. 1025/2012 z 25. októbra 2012 o európskej normalizácii, ktorým sa menia a dopĺňajú smernice Rady 89/686/EHS a 93/15/EHS a smernice Európskeho parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES a ktorým sa zrušuje rozhodnutie Rady 87/95/EHS a rozhodnutie Európskeho parlamentu a Rady č. 1673/2006/ES (Ú. v. EÚ L 316, 14.11.2012, s. 12).
Pozmeňujúci návrh 104
Návrh nariadenia
Odôvodnenie 61 a (nové)
(61a)  S cieľom uľahčiť dodržiavanie predpisov by Komisia mala vydať prvé žiadosti o normalizáciu najneskôr dva mesiace po nadobudnutí účinnosti tohto nariadenia. Malo by to slúžiť na zlepšenie právnej istoty, a tým podporiť investície a inovácie v oblasti umelej inteligencie, ako aj konkurencieschopnosť a rast trhu Únie, a zároveň posilniť správu viacerých zainteresovaných strán zastupujúcich všetky príslušné európske zainteresované strany, ako sú úrad pre umelú inteligenciu, európske normalizačné organizácie a orgány alebo expertné skupiny zriadené podľa príslušného odvetvového práva Únie, ako aj priemysel, MSP, startupy, občianska spoločnosť, výskumní pracovníci a sociálni partneri, a v konečnom dôsledku by to malo uľahčiť globálnu spoluprácu na normalizácii v oblasti umelej inteligencie spôsobom, ktorý je v súlade s hodnotami Únie. Pri príprave žiadosti o normalizáciu by Komisia mala konzultovať s úradom pre umelú inteligenciu a poradným fórom pre umelú inteligenciu s cieľom zhromaždiť príslušné odborné znalosti.
Pozmeňujúci návrh 105
Návrh nariadenia
Odôvodnenie 61 b (nové)
(61b)  Ak sú systémy umelej inteligencie určené na používanie na pracovisku, harmonizované normy by sa mali obmedziť na technické špecifikácie a postupy.
Pozmeňujúci návrh 106
Návrh nariadenia
Odôvodnenie 61 c (nové)
(61c)  Komisia by mala mať možnosť prijať spoločné špecifikácie za určitých podmienok, ak neexistuje žiadna príslušná harmonizovaná norma, alebo riešiť osobitné obavy týkajúce sa základných práv. Počas celého procesu navrhovania by Komisia mala pravidelne konzultovať s úradom pre umelú inteligenciu a jeho poradným fórom, európskymi normalizačnými organizáciami a orgánmi alebo expertnými skupinami zriadenými podľa príslušného odvetvového práva Únie, ako aj s príslušnými zainteresovanými stranami, ako sú priemysel, MSP, startupy, občianska spoločnosť, výskumní pracovníci a sociálni partneri.
Pozmeňujúci návrh 107
Návrh nariadenia
Odôvodnenie 61 d (nové)
(61d)  Pri prijímaní spoločných špecifikácií by sa Komisia mala usilovať o zosúladenie právnych predpisov umelej inteligencie s podobne zmýšľajúcimi globálnymi partnermi, čo je kľúčom k podpore inovácií a cezhraničných partnerstiev v oblasti umelej inteligencie, keďže koordinácia s podobne zmýšľajúcimi partnermi v medzinárodných normalizačných orgánoch má veľký význam.
Pozmeňujúci návrh 108
Návrh nariadenia
Odôvodnenie 62
(62)  Na zabezpečenie vysokej úrovne dôveryhodnosti vysokorizikových systémov umelej inteligencie by tieto systémy mali pred svojím uvedením na trh alebo do prevádzky podliehať posudzovaniu zhody.
 (62)  Na zabezpečenie vysokej úrovne dôveryhodnosti vysokorizikových systémov umelej inteligencie by tieto systémy mali pred svojím uvedením na trh alebo do prevádzky podliehať posudzovaniu zhody. S cieľom zvýšiť dôveru v hodnotový reťazec a poskytnúť podnikom istotu v oblasti výkonnosti ich systémov môžu tretie strany, ktoré dodávajú komponenty AI, dobrovoľne požiadať o posúdenie zhody treťou stranou.
Pozmeňujúci návrh 109
Návrh nariadenia
Odôvodnenie 64
(64)  Vzhľadom na rozsiahlejšie skúsenosti profesionálnych certifikačných subjektov pred uvedením na trh v oblasti bezpečnosti výrobkov a na rozličnú povahu súvisiacich rizík je vhodné aspoň v počiatočnej fáze uplatňovania tohto nariadenia obmedziť rozsah uplatňovania posudzovania zhody treťou stranou v prípade vysokorizikových systémov umelej inteligencie iných ako tých, ktoré sa týkajú výrobkov. Posudzovanie zhody takýchto systémov by mal preto spravidla vykonávať poskytovateľ na vlastnú zodpovednosť s jedinou výnimkou, ktorú tvoria systémy umelej inteligencie určené na používanie na diaľkovú biometrickú identifikáciu osôb, v prípade ktorých by sa malo predpokladať zapojenie notifikovanej osoby do posudzovania zhody, pokiaľ tieto systémy nie sú zakázané.
 (64)  Vzhľadom na zložitosť vysokorizikových systémov umelej inteligencie a s nimi spojené riziká je nevyhnutné vytvoriť primeranejšiu kapacitu na uplatňovanie posudzovania zhody vysokorizikových systémov umelej inteligencie treťou stranou. Vzhľadom na súčasné rozsiahlejšie skúsenosti profesionálnych certifikačných subjektov pred uvedením na trh v oblasti bezpečnosti výrobkov a na rozličnú povahu súvisiacich rizík je však vhodné aspoň v počiatočnej fáze uplatňovania tohto nariadenia obmedziť rozsah uplatňovania posudzovania zhody treťou stranou v prípade vysokorizikových systémov umelej inteligencie iných ako tých, ktoré sa týkajú výrobkov. Posudzovanie zhody takýchto systémov by mal preto spravidla vykonávať poskytovateľ na vlastnú zodpovednosť s jedinou výnimkou, ktorú tvoria systémy umelej inteligencie určené na používanie na diaľkovú biometrickú identifikáciu osôb alebo systémy umelej inteligencie, ktoré sa majú použiť na vyvodenie záverov o osobných charakteristikách fyzických osôb na základe biometrických údajov alebo údajov založených na biometrických údajoch vrátane systémov rozpoznávania emócií, v prípade ktorých by sa malo predpokladať zapojenie notifikovanej osoby do posudzovania zhody, pokiaľ tieto systémy nie sú zakázané.
Pozmeňujúci návrh 110
Návrh nariadenia
Odôvodnenie 65
(65)  S cieľom vykonávať posudzovanie zhody treťou stranou v prípade systémov umelej inteligencie, ktoré sa majú používať na diaľkovú biometrickú identifikáciu osôb, by podľa tohto nariadenia mali byť notifikované osoby určené príslušnými vnútroštátnymi orgánmi za predpokladu, že spĺňajú súbor požiadaviek, najmä pokiaľ ide o nezávislosť, spôsobilosť a neexistenciu konfliktu záujmov.
 (65)  S cieľom vykonávať podľa potreby posudzovania zhody treťou stranou by podľa tohto nariadenia mali byť notifikované osoby určené príslušnými vnútroštátnymi orgánmi za predpokladu, že spĺňajú súbor požiadaviek, najmä pokiaľ ide o nezávislosť, spôsobilosť, neexistenciu konfliktu záujmov a minimálne požiadavky na kybernetickú bezpečnosť. Členské štáty by mali podporiť vymenovanie dostatočného počtu orgánov posudzovania zhody, aby bolo možné certifikáciu vykonať včas. Postupy posudzovania, vymenovania, notifikácie a monitorovania orgánov posudzovania zhody by sa mali v členských štátoch vykonávať čo najjednotnejšie s cieľom odstrániť administratívne prekážky na hraniciach a zabezpečiť využitie potenciálu vnútorného trhu.
Pozmeňujúci návrh 111
Návrh nariadenia
Odôvodnenie 65 a (nové)
(65a)  V súlade so záväzkami Únie vyplývajúcimi z Dohody Svetovej obchodnej organizácie o technických prekážkach obchodu je primerané maximalizovať akceptáciu výsledkov testov predložených príslušnými orgánmi posudzovania zhody nezávisle od toho, na akom území sú zriadené, ak je to potrebné na preukázanie zhody s uplatniteľnými požiadavkami nariadenia. Komisia by mala aktívne preskúmať možné medzinárodné nástroje na tento účel, a najmä usilovať sa o možné uzavretie dohôd o vzájomnom uznávaní s krajinami, ktoré sú na porovnateľnej úrovni technického rozvoja a majú kompatibilný prístup k umelej inteligencii a posudzovaniu zhody.
Pozmeňujúci návrh 112
Návrh nariadenia
Odôvodnenie 66
(66)  V súlade so všeobecne zaužívaným pojmom podstatnej zmeny pre výrobky regulované harmonizačnými právnymi predpismi Únie je vhodné, aby sa systém umelej inteligencie podrobil novému posudzovaniu zhody vždy, keď nastane zmena, ktorá môže ovplyvniť súlad systému s týmto nariadením, alebo keď sa zmení zamýšľaný účel systému. Okrem toho, pokiaľ ide o systémy umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia (t. j. automaticky prispôsobujú spôsob vykonávania funkcií), je potrebné vypracovať pravidlá, ktorými sa stanoví, že zmeny algoritmu a jeho výkonnosti, ktoré vopred stanovil poskytovateľ a ktoré boli posúdené v čase posudzovania zhody, by nemali predstavovať podstatnú zmenu.
 (66)  V súlade so všeobecne zaužívaným pojmom podstatnej zmeny pre výrobky regulované harmonizačnými právnymi predpismi Únie je vhodné, aby sa vysokorizikový systém umelej inteligencie podrobil novému posudzovaniu zhody vždy, keď nastane neplánovaná zmena, ktorá presahuje rámec kontrolovaných alebo vopred určených zmien zo strany poskytovateľa vrátane kontinuálneho vzdelávania a ktorá môže vytvoriť nové neprijateľné riziko a výrazne ovplyvniť súlad vysokorizikového systému umelej inteligencie s týmto nariadením, alebo keď sa zmení zamýšľaný účel systému. Okrem toho, pokiaľ ide o systémy umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia (t. j. automaticky prispôsobujú spôsob vykonávania funkcií), je potrebné vypracovať pravidlá, ktorými sa stanoví, že zmeny algoritmu a jeho výkonnosti, ktoré vopred stanovil poskytovateľ a ktoré boli posúdené v čase posudzovania zhody, by nemali predstavovať podstatnú zmenu. To isté by sa malo vzťahovať na aktualizácie systému umelej inteligencie z bezpečnostných dôvodov vo všeobecnosti a na ochranu pred vyvíjajúcimi sa hrozbami manipulácie so systémom za predpokladu, že nepredstavujú podstatnú zmenu.
Pozmeňujúci návrh 113
Návrh nariadenia
Odôvodnenie 67
(67)  Vysokorizikové systémy umelej inteligencie by mali niesť označenie CE, ktoré by preukazovalo ich súlad s týmto nariadením, aby im bol umožnený voľný pohyb v rámci vnútorného trhu. Členské štáty by nemali vytvárať neodôvodnené prekážky uvedeniu na trh ani do prevádzky v prípade vysokorizikových systémov umelej inteligencie, ktoré spĺňajú požiadavky stanovené v tomto nariadení a majú označenie CE.
 (67)  Vysokorizikové systémy umelej inteligencie by mali niesť označenie CE, ktoré by preukazovalo ich súlad s týmto nariadením, aby im bol umožnený voľný pohyb v rámci vnútorného trhu. V prípade fyzických vysokorizikových systémov umelej inteligencie by sa malo umiestniť fyzické označenie CE, ktoré môže byť doplnené digitálnym označením CE. V prípade výlučne digitálnych vysokorizikových systémov umelej inteligencie by sa malo používať digitálne označenie CE. Členské štáty by nemali vytvárať neodôvodnené prekážky uvedeniu na trh ani do prevádzky v prípade vysokorizikových systémov umelej inteligencie, ktoré spĺňajú požiadavky stanovené v tomto nariadení a majú označenie CE.
Pozmeňujúci návrh 114
Návrh nariadenia
Odôvodnenie 68
(68)  Rýchla dostupnosť inovačných technológií môže mať za určitých podmienok zásadný význam pre zdravie a bezpečnosť osôb a pre spoločnosť ako celok. Je preto vhodné, aby členské štáty mohli z výnimočných dôvodov verejnej bezpečnosti alebo ochrany života a zdravia fyzických osôb a ochrany priemyselného a obchodného vlastníctva povoliť uvedenie na trh alebo do prevádzky v prípade systémov umelej inteligencie, ktoré neboli podrobené posudzovaniu zhody.
 (68)  Rýchla dostupnosť inovačných technológií môže mať za určitých podmienok zásadný význam pre zdravie a bezpečnosť osôb, životné prostredie a zmenu klímy a pre spoločnosť ako celok. Je preto vhodné, aby členské štáty mohli z výnimočných dôvodov ochrany života a zdravia fyzických osôb, ochrany životného prostredia a ochrany kritickej infraštruktúry povoliť uvedenie na trh alebo do prevádzky v prípade systémov umelej inteligencie, ktoré neboli podrobené posudzovaniu zhody.
Pozmeňujúci návrh 115
Návrh nariadenia
Odôvodnenie 69
(69)  S cieľom uľahčiť prácu Komisie a členských štátov v oblasti umelej inteligencie, ako aj zvýšiť transparentnosť voči verejnosti by sa od poskytovateľov vysokorizikových systémov umelej inteligencie, ktoré nesúvisia s výrobkami patriacimi do rozsahu pôsobnosti príslušných existujúcich harmonizačných právnych predpisov Únie, malo vyžadovať, aby svoje vysokorizikové systémy umelej inteligencie zaregistrovali v databáze EÚ, ktorú má zriadiť a spravovať Komisia. Prevádzkovateľom uvedenej databázy by v súlade s nariadením Európskeho parlamentu a Rady (EÚ) 2018/172555 mala byť Komisia. Aby sa zaistila plná funkčnosť tejto databázy pri jej zavedení, by postup pri vytváraní databázy mal zahŕňať funkčné špecifikácie vypracované Komisiou a nezávislú audítorskú správu.
 (69)  S cieľom uľahčiť prácu Komisie a členských štátov v oblasti umelej inteligencie, ako aj zvýšiť transparentnosť voči verejnosti by sa od poskytovateľov vysokorizikových systémov umelej inteligencie, ktoré nesúvisia s výrobkami patriacimi do rozsahu pôsobnosti príslušných existujúcich harmonizačných právnych predpisov Únie, malo vyžadovať, aby svoje vysokorizikové systémy umelej inteligencie a základné modely zaregistrovali v databáze EÚ, ktorú má zriadiť a spravovať Komisia. Táto databáza by mala byť voľne a verejne prístupná, ľahko zrozumiteľná a strojovo čitateľná. Databáza by mala byť aj používateľsky ústretová a mala by umožňovať ľahkú navigáciu, pričom funkcie vyhľadávania by mali umožniť širokej verejnosti vyhľadávať v databáze špecifické vysokorizikové systémy, miesta, kategórie rizika podľa prílohy IV a kľúčové slová. Nasadzujúce subjekty, ktoré sú orgánmi verejnej moci alebo inštitúciami, orgánmi, úradmi a agentúrami Únie, alebo nasadzujúcimi subjektmi konajúcimi v ich mene a nasadzujúce subjekty, ktoré sú podnikmi určenými ako strážca prístupu podľa nariadenia (EÚ) 2022/1925, by sa pred uvedením vysokorizikového systému umelej inteligencie do prevádzky alebo pred jeho prvým použitím a po každej podstatnej zmene mali tiež zaregistrovať v databáze EÚ. Ostatné nasadzujúce subjekty by mali mať právo tak urobiť dobrovoľne. Každá podstatná zmena vysokorizikových systémov umelej inteligencie sa takisto zaregistruje v databáze EÚ. Prevádzkovateľom uvedenej databázy by v súlade s nariadením Európskeho parlamentu a Rady (EÚ) 2018/172555 mala byť Komisia. Aby sa zaistila plná funkčnosť tejto databázy pri jej zavedení, by postup pri vytváraní databázy mal zahŕňať funkčné špecifikácie vypracované Komisiou a nezávislú audítorskú správu. Komisia by mala pri plnení svojich úloh prevádzkovateľa údajov v databáze EÚ zohľadniť kybernetickú bezpečnosť a riziká súvisiace s nebezpečenstvom. V záujme maximalizácie dostupnosti a využívania databázy verejnosťou by databáza vrátane informácií, ktoré sa prostredníctvom nej sprístupňujú, mala spĺňať požiadavky podľa smernice 2019/882.
__________________
 __________________
55 Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).
 55 Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).
Pozmeňujúci návrh 116
Návrh nariadenia
Odôvodnenie 71
(71)  Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá si vyžaduje nové formy regulačného dohľadu a bezpečný priestor na experimentovanie, pričom sa musí zabezpečiť, aby inovácia bola zodpovedná a aby boli integrované primerané záruky a opatrenia na zmiernenie rizika. Na zabezpečenie právneho rámca, ktorý bude priaznivý pre inovácie, nadčasový a odolný voči narušeniu, by bolo potrebné podporiť príslušné vnútroštátne orgány jedného alebo viacerých členských štátov, aby zriadili experimentálne regulačné prostredia pre umelú inteligenciu s cieľom uľahčiť vývoj a testovanie inovačných systémov umelej inteligencie pod prísnym regulačným dohľadom skôr, než sa tieto systémy uvedú na trh alebo inak uvedú do prevádzky.
 (71)  Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá si vyžaduje regulačný dohľad a bezpečný a kontrolovaný priestor na experimentovanie, pričom sa musí zabezpečiť, aby inovácia bola zodpovedná a aby boli integrované primerané záruky a opatrenia na zmiernenie rizika. Na zabezpečenie právneho rámca, ktorý podporuje inovácie, je nadčasový a odolný voči narušeniu, by členské štáty mali zriadiť aspoň jedno experimentálne regulačné prostredie pre umelú inteligenciu s cieľom uľahčiť vývoj a testovanie inovačných systémov umelej inteligencie pod prísnym regulačným dohľadom skôr, než sa tieto systémy uvedú na trh alebo inak uvedú do prevádzky. Je skutočne žiaduce, aby sa zriadenie experimentálnych regulačných prostredí, za ktoré v súčasnosti zodpovedajú členské štáty, stalo povinným na základe stanovených kritérií. Toto povinné experimentálne prostredie by sa mohlo zriadiť aj spoločne s jedným alebo viacerými ďalšími členskými štátmi, pokiaľ by sa toto experimentálne prostredie vzťahovalo na príslušnú vnútroštátnu úroveň dotknutých členských štátov. Ďalšie experimentálne prostredia sa môžu zriadiť aj na rôznych úrovniach vrátane medzi členskými štátmi s cieľom uľahčiť cezhraničnú spoluprácu a synergie. S výnimkou povinného experimentálneho prostredia na vnútroštátnej úrovni by členské štáty mali mať možnosť zriadiť virtuálne alebo hybridné experimentálne prostredia. Všetky experimentálne regulačné prostredia by mali byť schopné prispôsobiť sa fyzickým aj virtuálnym produktom. Zriaďovacie orgány by mali tiež zabezpečiť, aby experimentálne regulačné prostredia mali primerané finančné a ľudské zdroje na svoje fungovanie.
Pozmeňujúci návrh 117
Návrh nariadenia
Odôvodnenie 72
(72)  Cieľmi experimentálnych regulačných prostredí by mala byť podpora inovácií v oblasti umelej inteligencie vytvorením kontrolovaného experimentálneho a testovacieho prostredia vo fáze vývoja a pred uvedením na trh, aby sa zabezpečil súlad inovačných systémov umelej inteligencie s týmto nariadením a inými príslušnými právnymi predpismi Únie a členských štátov; posilnenie právnej istoty inovátorov, dohľadu príslušných orgánov a porozumenia príležitostiam, vznikajúcim rizikám a vplyvom používania umelej inteligencie, ako aj urýchlenie prístupu na trhy, a to aj odstránením prekážok pre malé a stredné podniky (MSP) a startupy. S cieľom zabezpečiť jednotné vykonávanie v celej Únii a úspory z rozsahu je vhodné stanoviť spoločné pravidlá pre zavádzanie experimentálnych regulačných prostredí a rámec pre spoluprácu medzi príslušnými orgánmi zapojenými do dohľadu nad experimentálnymi prostrediami. Toto nariadenie by malo poskytnúť právny základ pre používanie osobných údajov zozbieraných na iné účely na vývoj určitých systémov umelej inteligencie vo verejnom záujme v rámci experimentálneho regulačného prostredia pre umelú inteligenciu v súlade s článkom 6 ods. 4 nariadenia (EÚ) 2016/679 a článkom 6 nariadenia (EÚ) 2018/1725 a bez toho, aby bol dotknutý článok 4 ods. 2 smernice (EÚ) 2016/680. Účastníci experimentálneho prostredia by mali zabezpečiť primerané záruky a spolupracovať s príslušnými orgánmi, a to aj tým, že budú postupovať podľa ich usmernení a konať promptne a v dobrej viere s cieľom zmierniť akékoľvek vysoké riziko pre bezpečnosť a základné práva, ktoré môže vzniknúť počas vývoja a experimentovania v experimentálnom prostredí. Pri rozhodovaní o uložení správnej pokuty podľa článku 83 ods. 2 nariadenia 2016/679 a článku 57 smernice 2016/680 by sa malo zohľadniť správanie účastníkov v experimentálnom prostredí.
 (72)  Cieľom experimentálnych regulačných prostredí by malo byť: aby zriaďovacie orgány lepšie chápali technický vývoj, zlepšili metódy dohľadu a poskytovali usmernenia vývojárom a poskytovateľom systémov umelej inteligencie s cieľom dosiahnuť regulačný súlad s týmto nariadením alebo prípadne inými uplatniteľnými právnymi predpismi Únie a členských štátov, ako aj s Chartou základných práv; aby potenciálni poskytovatelia umožnili a uľahčili testovanie a vývoj inovačných riešení týkajúcich sa systémov umelej inteligencie vo fáze pred uvedením na trh s cieľom zvýšiť právnu istotu, umožniť viac regulačného vzdelávania zriadením orgánov v kontrolovanom prostredí s cieľom vypracovať lepšie usmernenia a identifikovať možné budúce zlepšenia právneho rámca prostredníctvom riadneho legislatívneho postupu. Akékoľvek významné riziká, ktoré sa zistia počas vývoja a testovania takýchto systémov umelej inteligencie, by mali mať za následok okamžité zmiernenie rizík, a ak to nie je možné, pozastavenie procesu vývoja a testovania, až kým k takémuto zmierneniu nedôjde. S cieľom zabezpečiť jednotné vykonávanie v celej Únii a úspory z rozsahu je vhodné stanoviť spoločné pravidlá pre zavádzanie experimentálnych regulačných prostredí a rámec pre spoluprácu medzi príslušnými orgánmi zapojenými do dohľadu nad experimentálnymi prostrediami. Členské štáty by mali zabezpečiť, aby experimentálne regulačné prostredia boli široko dostupné v celej Únii, pričom účasť by mala zostať dobrovoľná. Je osobitne dôležité zabezpečiť, aby k týmto regulačným prostrediam mali dobrý prístup MSP a startupy, aktívne sa zapájali do vývoja a testovania inovačných systémov umelej inteligencie a zúčastňovali sa na nich, aby tak mohli prispieť svojim know-how a skúsenosťami.
Pozmeňujúci návrh 118
Návrh nariadenia
Odôvodnenie 72 a (nové)
(72a)  Toto nariadenie by malo poskytnúť právny základ pre používanie osobných údajov zozbieraných na iné účely na vývoj určitých systémov umelej inteligencie vo verejnom záujme v rámci experimentálneho regulačného prostredia pre umelú inteligenciu len za stanovených podmienok v súlade s článkom 6 ods. 4 nariadenia (EÚ) 2016/679 a článkom 6 nariadenia (EÚ) 2018/1725 a bez toho, aby bol dotknutý článok 4 ods. 2 smernice (EÚ) 2016/680. Potenciálni poskytovatelia experimentálneho prostredia by mali zabezpečiť primerané záruky a spolupracovať s príslušnými orgánmi, a to aj tým, že budú postupovať podľa ich usmernení a konať promptne a v dobrej viere s cieľom zmierniť akékoľvek vysoké riziko pre bezpečnosť, zdravie a životné prostredie a základné práva, ktoré môže vzniknúť počas vývoja a experimentovania v experimentálnom prostredí. Pri rozhodovaní príslušných orgánov o dočasnom alebo trvalom pozastavení ich účasti v experimentálnom prostredí a o uložení správnej pokuty podľa článku 83 ods. 2 nariadenia 2016/679 a článku 57 smernice 2016/680 by sa malo zohľadniť správanie potenciálnych poskytovateľov v experimentálnom prostredí.
Pozmeňujúci návrh 119
Návrh nariadenia
Odôvodnenie 72 b (nové)
(72b)  S cieľom zabezpečiť, aby umelá inteligencia viedla k spoločensky a environmentálne prospešným výsledkom, by členské štáty mali podporovať a propagovať výskum a vývoj umelej inteligencie na podporu spoločensky a environmentálne prospešných výsledkov tým, že vyčlenia dostatočné zdroje vrátane verejných prostriedkov a prostriedkov Únie a projektom vedeným občianskou spoločnosťou poskytnú prednostný prístup k experimentálnym regulačným prostrediam. Takéto projekty by mali byť založené na zásade interdisciplinárnej spolupráce medzi vývojármi umelej inteligencie, odborníkmi na nerovnosť a nediskrimináciu, prístupnosť, spotrebiteľské, environmentálne a digitálne práva, ako aj akademickými pracovníkmi.
Pozmeňujúci návrh 120
Návrh nariadenia
Odôvodnenie 73
(73)  V záujme podpory a ochrany inovácií je dôležité, aby sa osobitne prihliadalo na záujmy malých poskytovateľov a používateľov systémov umelej inteligencie. Na tento účel by členské štáty mali vyvíjať iniciatívy zamerané na týchto prevádzkovateľov vrátane zvyšovania informovanosti a informačnej komunikácie. Aj notifikované osoby zohľadnia pri stanovovaní poplatkov za posudzovanie zhody osobitné záujmy a potreby malých poskytovateľov. Značné náklady pre poskytovateľov a iných, najmä menších prevádzkovateľov môžu predstavovať náklady na preklady súvisiace s povinnou dokumentáciou a komunikáciou s orgánmi. Členské štáty by mali podľa možnosti zabezpečiť, aby jedným z jazykov, ktoré určili a akceptovali na účely dokumentácie príslušných poskytovateľov a komunikácie s prevádzkovateľmi, bol jazyk, ktorému vo všeobecnosti rozumie čo najväčší počet cezhraničných používateľov.
 (73)  V záujme podpory a ochrany inovácií je dôležité, aby sa osobitne prihliadalo na záujmy malých poskytovateľov a používateľov systémov umelej inteligencie. Na tento účel by členské štáty mali vyvíjať iniciatívy zamerané na týchto prevádzkovateľov vrátane gramotnosti v oblasti umelej inteligencie, zvyšovania informovanosti a informačnej komunikácie. Členské štáty použijú existujúce kanály a v prípade potreby vytvoria nové vyhradené kanály na komunikáciu s MSP, startupmi, používateľom a ďalšími inovátormi s cieľom poskytovať usmernenia a odpovedať na otázky týkajúce sa vykonávania tohto nariadenia. Medzi takéto existujúce kanály môžu okrem iného patriť tímy agentúry ENISA pre riešenie počítačových bezpečnostných incidentov, národné agentúry na ochranu údajov, platforma umelej inteligencie na požiadanie, európske centrá digitálnych inovácií a iné relevantné nástroje financované programami EÚ, ako aj zariadenia na testovanie a experimentovanie zriadené Komisiou a členskými štátmi na vnútroštátnej úrovni alebo na úrovni Únie. Vo vhodných prípadoch tieto kanály navzájom spolupracujú s cieľom vytvoriť synergie a zabezpečiť homogénnosť v ich usmerneniach pre startupy, MSP a používateľov. Aj notifikované osoby zohľadnia pri stanovovaní poplatkov za posudzovanie zhody osobitné záujmy a potreby malých poskytovateľov. Komisia pravidelne posudzuje náklady MSP a startupov na certifikáciu a dodržiavanie predpisov, a to aj prostredníctvom transparentných konzultácií s MSP, startupmi a používateľmi, a spolupracuje s členskými štátmi na znížení týchto nákladov. Napríklad značné náklady pre poskytovateľov a iných, najmä menších prevádzkovateľov môžu predstavovať náklady na preklady súvisiace s povinnou dokumentáciou a komunikáciou s orgánmi. Členské štáty by mali podľa možnosti zabezpečiť, aby jedným z jazykov, ktoré určili a akceptovali na účely dokumentácie príslušných poskytovateľov a komunikácie s prevádzkovateľmi, bol jazyk, ktorému vo všeobecnosti rozumie čo najväčší počet cezhraničných používateľov. Stredné podniky, ktoré nedávno prešli z kategórie malých podnikov do kategórie stredných podnikov v zmysle prílohy k odporúčaniu 2003/361/ES (článok 16), majú prístup k týmto iniciatívam a usmerneniam počas obdobia, ktoré členské štáty považujú za vhodné, keďže týmto novým stredným podnikom môžu niekedy chýbať právne zdroje a odborná príprava nevyhnutné na zabezpečenie riadneho pochopenia a dodržiavania ustanovení.
Pozmeňujúci návrh 121
Návrh nariadenia
Odôvodnenie 74
(74)  S cieľom minimalizovať riziká spojené s vykonávaním vyplývajúce z nedostatku poznatkov a odborných znalostí na trhu, ako aj uľahčiť poskytovateľom a notifikovaným osobám plnenie ich povinností podľa tohto nariadenia by k vykonávaniu tohto nariadenia mali podľa možnosti prispievať platforma umelej inteligencie na požiadanie, európske centrá digitálnych inovácií a testovacie a experimentačné zariadenia zriadené Komisiou a členskými štátmi na vnútroštátnej úrovni alebo na úrovni EÚ. V rámci svojho príslušného poslania a oblastí pôsobnosti môžu poskytovať najmä technickú a vedeckú podporu poskytovateľom a notifikovaným osobám.
 (74)  S cieľom minimalizovať riziká spojené s vykonávaním vyplývajúce z nedostatku poznatkov a odborných znalostí na trhu, ako aj uľahčiť poskytovateľom a notifikovaným osobám plnenie ich povinností podľa tohto nariadenia by k vykonávaniu tohto nariadenia mali prispievať platforma umelej inteligencie na požiadanie, európske centrá digitálnych inovácií a testovacie a experimentačné zariadenia zriadené Komisiou a členskými štátmi na vnútroštátnej úrovni alebo na úrovni EÚ. V rámci svojho príslušného poslania a oblastí pôsobnosti môžu poskytovať najmä technickú a vedeckú podporu poskytovateľom a notifikovaným osobám.
Pozmeňujúci návrh 122
Návrh nariadenia
Odôvodnenie 76
(76)  Na uľahčenie bezproblémového, účinného a harmonizovaného vykonávania tohto nariadenia by sa mala zriadiť Európska rada pre umelú inteligenciu. Táto rada by mala byť zodpovedná za niekoľko poradných úloh vrátane vydávania stanovísk, odporúčaní, poradenstva alebo usmernení v záležitostiach týkajúcich sa vykonávania tohto nariadenia vrátane technických špecifikácií alebo existujúcich noriem týkajúcich sa požiadaviek stanovených v tomto nariadení a poskytovania poradenstva a pomoci Komisii v konkrétnych otázkach súvisiacich s umelou inteligenciou.
 (76)  S cieľom zabrániť fragmentácii, na zabezpečenie optimálneho fungovania jednotného trhu a účinného a harmonizovaného vykonávania tohto nariadenia, dosiahnutie vysokej úrovne dôveryhodnosti a ochrany zdravia a bezpečnosti, základných práv, životného prostredia, demokracie a právneho štátu v celej Únii, pokiaľ ide o systémy umelej inteligencie, aktívnu podporu vnútroštátnych dozorných orgánov, inštitúcií, orgánov, úradov a agentúr Únie v záležitostiach týkajúcich sa tohto nariadenia a zvýšenie využívania umelej inteligencie v celej Únii by sa mal zriadiť Úrad Európskej únie pre umelú inteligenciu. Úrad pre umelú inteligenciu by mal mať právnu subjektivitu, mal by konať úplne nezávisle, mal by byť zodpovedný za niekoľko poradných a koordinačných úloh vrátane vydávania stanovísk, odporúčaní, poradenstva alebo usmernení v záležitostiach týkajúcich sa vykonávania tohto nariadenia a mal by byť primerane financovaný a personálne vybavený. Členské štáty by mali zabezpečovať strategické riadenie a kontrolu úradu pre umelú inteligenciu prostredníctvom správnej rady úradu pre umelú inteligenciu spolu s Komisiou, európskym dozorným úradníkom pre ochranu údajov, agentúrou FRA a agentúrou ENISA. Výkonný riaditeľ by mal byť zodpovedný za riadenie činností sekretariátu úradu pre umelú inteligenciu a za zastupovanie úradu pre umelú inteligenciu. Zainteresované strany by sa mali formálne zúčastňovať na práci úradu pre umelú inteligenciu prostredníctvom poradného fóra, ktoré by malo zabezpečiť pestré a vyvážené zastúpenie zainteresovaných strán a malo by poskytovať úradu pre umelú inteligenciu poradenstvo v otázkach týkajúcich sa tohto nariadenia. Ak sa ukáže, že zriadenie úradu pre umelú inteligenciu nie je dostatočné na zabezpečenie plne konzistentného uplatňovania tohto nariadenia na úrovni Únie, ako aj účinných cezhraničných opatrení na presadzovanie, malo by sa zvážiť vytvorenie agentúry pre umelú inteligenciu.
Pozmeňujúci návrh 123
Návrh nariadenia
Odôvodnenie 77
(77)  Pri uplatňovaní a presadzovaní tohto nariadenia zohrávajú kľúčovú úlohu členské štáty. V tejto súvislosti by mal na účely dohľadu nad uplatňovaním a vykonávaním tohto nariadenia každý členský štát určiť jeden alebo viac príslušných vnútroštátnych orgánov. Aby sa zvýšila efektívnosť organizácie zo strany členských štátov a vytvorilo oficiálne kontaktné miesto vo vzťahu k verejnosti a iným partnerom na úrovni členských štátov a Únie, by sa mal v každom členskom štáte určiť jeden vnútroštátny orgán ako vnútroštátny dozorný orgán.
 (77)  Každý členský štát by mal na účely dohľadu nad uplatňovaním a vykonávaním tohto nariadenia určiť vnútroštátny dozorný orgán. V riadiacej rade úradu pre umelú inteligenciu by mal zastupovať aj svoj členský štát. Aby sa zvýšila efektívnosť organizácie zo strany členských štátov a vytvorilo oficiálne kontaktné miesto vo vzťahu k verejnosti a iným partnerom na úrovni členských štátov a Únie, každý vnútroštátny dozorný orgán by mal konať úplne nezávisle pri plnení svojich úloh a vykonávaní svojich právomocí v súlade s týmto nariadením.
Pozmeňujúci návrh 124
Návrh nariadenia
Odôvodnenie 77 a (nové)
(77a)  Vnútroštátne dozorné orgány by mali monitorovať uplatňovanie ustanovení podľa tohto nariadenia a prispievať k ich konzistentnému uplatňovaniu v celej Únii. Na tento účel by vnútroštátne dozorné orgány mali spolupracovať navzájom, s relevantnými príslušnými vnútroštátnymi orgánmi, Komisiou a úradom pre umelú inteligenciu.
Pozmeňujúci návrh 125
Návrh nariadenia
Odôvodnenie 77 b (nové)
(77b)  Člen alebo personál každého vnútroštátneho dozorného orgánu by mal v súlade s právom Únie alebo vnútroštátnym právom podliehať povinnosti zachovávať profesijné tajomstvo, pokiaľ ide o dôverné informácie, o ktorých sa dozvedeli pri plnení svojich úloh alebo pri výkone svojich právomocí, a to tak počas ich funkčného obdobia, ako aj po ňom. Počas ich funkčného obdobia by sa táto povinnosť zachovávať profesijné tajomstvo mala vzťahovať najmä na obchodné tajomstvo a ohlasovanie porušení tohto nariadenia fyzickými osobami.
Pozmeňujúci návrh 126
Návrh nariadenia
Odôvodnenie 78
(78)  Všetci poskytovatelia vysokorizikových systémov umelej inteligencie by mali mať zavedený systém monitorovania po uvedení na trh, aby zabezpečili, že budú schopní zohľadniť skúsenosti s používaním vysokorizikových systémov umelej inteligencie na zlepšenie svojich systémov a procesu koncipovania a vývoja, alebo aby mohli včas prijať akékoľvek možné nápravné opatrenia. Tento systém je takisto kľúčový na zabezpečenie toho, aby sa možné riziká vyplývajúce zo systémov umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia, mohli účinnejšie a včas riešiť. V tejto súvislosti by sa od poskytovateľov malo vyžadovať, aby mali zavedený systém, prostredníctvom ktorého by príslušným orgánom nahlasovali všetky závažné incidenty alebo porušenia vnútroštátnych právnych predpisov a právnych predpisov Únie na ochranu základných práv vyplývajúce z používania ich systémov umelej inteligencie.
 (78)  Všetci poskytovatelia vysokorizikových systémov umelej inteligencie by mali mať zavedený systém monitorovania po uvedení na trh, aby zabezpečili, že budú schopní zohľadniť skúsenosti s používaním vysokorizikových systémov umelej inteligencie na zlepšenie svojich systémov a procesu koncipovania a vývoja, alebo aby mohli včas prijať akékoľvek možné nápravné opatrenia. Tento systém je takisto kľúčový na zabezpečenie toho, aby sa možné riziká vyplývajúce zo systémov umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia alebo vyvíjajú, mohli účinnejšie a včas riešiť. V tejto súvislosti by sa od poskytovateľov malo vyžadovať, aby mali zavedený systém, prostredníctvom ktorého by príslušným orgánom nahlasovali všetky závažné incidenty alebo porušenia vnútroštátnych právnych predpisov a právnych predpisov Únie, a to aj tých na ochranu základných práv a práv spotrebiteľov vyplývajúce z používania ich systémov umelej inteligencie a aby prijali primerané nápravné opatrenia. Nasadzujúce subjekty by mali príslušným orgánom nahlásiť aj všetky závažné incidenty alebo porušenia vnútroštátneho práva a práva Únie vyplývajúce z používania ich systému umelej inteligencie, keď sa o takýchto závažných incidentoch alebo porušeniach dozvedia.
Pozmeňujúci návrh 127
Návrh nariadenia
Odôvodnenie 79
(79)  S cieľom zabezpečiť primerané a účinné presadzovanie požiadaviek a povinností stanovených v tomto nariadení, ktoré predstavuje harmonizačné právne predpisy Únie, by sa mal v celom rozsahu uplatňovať systém dohľadu nad trhom a súladu výrobkov stanovený nariadením (EÚ) 2019/1020. Vnútroštátne orgány verejnej moci alebo subjekty, ktoré dohliadajú na uplatňovanie práva Únie na ochranu základných práv, vrátane orgánov pre otázky rovnosti, by mali mať prístup, pokiaľ je to pre ich mandát nutné, aj k všetkej dokumentácii vytvorenej podľa tohto nariadenia.
 (79)  S cieľom zabezpečiť primerané a účinné presadzovanie požiadaviek a povinností stanovených v tomto nariadení, ktoré predstavuje harmonizačné právne predpisy Únie, by sa mal v celom rozsahu uplatňovať systém dohľadu nad trhom a súladu výrobkov stanovený nariadením (EÚ) 2019/1020. Na účely tohto nariadenia by vnútroštátne dozorné orgány mali konať ako orgány dohľadu nad trhom v prípade systémov umelej inteligencie, na ktoré sa vzťahuje toto nariadenie, s výnimkou systémov umelej inteligencie, na ktoré sa vzťahuje príloha II k tomuto nariadeniu. V prípade systémov umelej inteligencie, na ktoré sa vzťahujú právne akty uvedené v prílohe II, by zodpovedné orgány podľa týchto právnych aktov mali zostať vedúcim orgánom. Vnútroštátne dozorné orgány a príslušné orgány v právnych aktoch uvedených v prílohe II by mali spolupracovať vždy, keď je to potrebné. V prípade potreby by príslušné orgány v právnych aktoch uvedených v prílohe II mali vyslať príslušných zamestnancov do vnútroštátneho dozorného orgánu, aby pomáhali pri plnení jeho úloh. Na účely tohto nariadenia by vnútroštátne orgány dohľadu mali mať rovnaké právomoci a povinnosti ako orgány dohľadu nad trhom podľa nariadenia (EÚ) 2019/1020. Vnútroštátne orgány verejnej moci alebo subjekty, ktoré dohliadajú na uplatňovanie práva Únie na ochranu základných práv, vrátane orgánov pre otázky rovnosti, by mali mať prístup, pokiaľ je to pre ich mandát nutné, aj k všetkej dokumentácii vytvorenej podľa tohto nariadenia. Po vyčerpaní všetkých ostatných primeraných spôsobov posúdenia/overenia zhody a na základe odôvodnenej žiadosti by sa vnútroštátnemu dozornému orgánu mal udeliť prístup k súborom tréningových, validačných a testovacích údajov, trénovanému a tréningovému modelu vysokorizikového systému umelej inteligencie vrátane jeho relevantných modelových parametrov a ich prostredia vykonávania/prevádzky. V prípadoch jednoduchších softvérových systémov, na ktoré sa vzťahuje toto nariadenie a ktoré nie sú založené na trénovaných modeloch, a keď boli vyčerpané všetky ostatné spôsoby overenia zhody, môže mať vnútroštátny dozorný orgán výnimočne na základe odôvodnenej žiadosti prístup k zdrojovému kódu. Ak sa vnútroštátnemu dozornému orgánu udelí prístup k súborom tréningových, validačných a testovacích údajov v súlade s týmto nariadením, takýto prístup by sa mal dosiahnuť vhodnými technickými prostriedkami a nástrojmi vrátane prístupu na mieste a vo výnimočných prípadoch vzdialeného prístupu. Vnútroštátny dozorný orgán by mal so všetkými získanými informáciami vrátane zdrojového kódu, softvéru a údajov zaobchádzať ako s dôvernými informáciami a dodržiavať príslušné právne predpisy Únie o ochrane duševného vlastníctva a obchodného tajomstva. Vnútroštátny dozorný orgán by mal vymazať všetky informácie získané po ukončení vyšetrovania.
Pozmeňujúci návrh 128
Návrh nariadenia
Odôvodnenie 80
(80)  Právne predpisy Únie o finančných službách zahŕňajú pravidlá a požiadavky vnútornej správy a riadenia rizík, ktoré sa vzťahujú na regulované finančné inštitúcie počas poskytovania týchto služieb vrátane prípadov, keď využívajú systémy umelej inteligencie. S cieľom zabezpečiť jednotné uplatňovanie a presadzovanie povinností podľa tohto nariadenia a príslušných pravidiel a požiadaviek právnych predpisov Únie v oblasti finančných služieb by mali byť orgány zodpovedné za dohľad nad právnymi predpismi v oblasti finančných služieb a za ich presadzovanie, prípadne vrátane Európskej centrálnej banky, určené za príslušné orgány na účely dohľadu nad vykonávaním tohto nariadenia vrátane činností dohľadu nad trhom, pokiaľ ide o systémy umelej inteligencie, ktoré poskytujú alebo používajú regulované finančné inštitúcie a finančné inštitúcie podliehajúce dohľadu. Na účely ďalšieho posilnenia súladu medzi týmto nariadením a pravidlami, ktoré sa vzťahujú na úverové inštitúcie regulované podľa smernice Európskeho parlamentu a Rady 2013/36/EÚ56, je takisto vhodné začleniť postup posudzovania zhody a niektoré procesné povinnosti poskytovateľov v súvislosti s riadením rizík, monitorovaním po uvedení na trh a dokumentáciou do existujúcich povinností a postupov na základe smernice 2013/36/EÚ. Na zabránenie prekrývaniu by sa mali zvážiť aj obmedzené výnimky v súvislosti so systémom riadenia kvality poskytovateľov a s povinnosťou monitorovania uloženou používateľom vysokorizikových systémov umelej inteligencie, pokiaľ sa vzťahujú na úverové inštitúcie regulované smernicou 2013/36/EÚ.
 (80)  Právne predpisy Únie o finančných službách zahŕňajú pravidlá a požiadavky vnútornej správy a riadenia rizík, ktoré sa vzťahujú na regulované finančné inštitúcie počas poskytovania týchto služieb vrátane prípadov, keď využívajú systémy umelej inteligencie. S cieľom zabezpečiť jednotné uplatňovanie a presadzovanie povinností podľa tohto nariadenia a príslušných pravidiel a požiadaviek právnych predpisov Únie v oblasti finančných služieb by mali byť príslušné orgány zodpovedné za dohľad nad právnymi predpismi v oblasti finančných služieb a za ich presadzovanie, prípadne vrátane Európskej centrálnej banky, určené za príslušné orgány na účely dohľadu nad vykonávaním tohto nariadenia vrátane činností dohľadu nad trhom, pokiaľ ide o systémy umelej inteligencie, ktoré poskytujú alebo používajú regulované finančné inštitúcie a finančné inštitúcie podliehajúce dohľadu. Na účely ďalšieho posilnenia súladu medzi týmto nariadením a pravidlami, ktoré sa vzťahujú na úverové inštitúcie regulované podľa smernice Európskeho parlamentu a Rady 2013/36/EÚ56, je takisto vhodné začleniť postup posudzovania zhody a niektoré procesné povinnosti poskytovateľov v súvislosti s riadením rizík, monitorovaním po uvedení na trh a dokumentáciou do existujúcich povinností a postupov na základe smernice 2013/36/EÚ. Na zabránenie prekrývaniu by sa mali zvážiť aj obmedzené výnimky v súvislosti so systémom riadenia kvality poskytovateľov a s povinnosťou monitorovania uloženou nasadzujúcimi subjektmi vysokorizikových systémov umelej inteligencie, pokiaľ sa vzťahujú na úverové inštitúcie regulované smernicou 2013/36/EÚ.
__________________
 __________________
56 Smernica Európskeho parlamentu a Rady 2013/36/EÚ z 26. júna 2013 o prístupe k činnosti úverových inštitúcií a prudenciálnom dohľade nad úverovými inštitúciami a investičnými spoločnosťami, o zmene smernice 2002/87/ES a o zrušení smerníc 2006/48/ES a 2006/49/ES (Ú. v. EÚ L 176, 27.6.2013, s. 338).
 56 Smernica Európskeho parlamentu a Rady 2013/36/EÚ z 26. júna 2013 o prístupe k činnosti úverových inštitúcií a prudenciálnom dohľade nad úverovými inštitúciami a investičnými spoločnosťami, o zmene smernice 2002/87/ES a o zrušení smerníc 2006/48/ES a 2006/49/ES (Ú. v. EÚ L 176, 27.6.2013, s. 338).
Pozmeňujúci návrh 129
Návrh nariadenia
Odôvodnenie 80 a (nové)
(80a)  Vzhľadom na ciele tohto nariadenia, a to zabezpečiť rovnocennú úroveň ochrany zdravia, bezpečnosti a základných práv fyzických osôb, zabezpečiť ochranu právneho štátu a demokracie, a berúc do úvahy to, že zmiernenie rizík systému umelej inteligencie, pokiaľ ide o takéto práva, sa nemusí uspokojivo dosiahnuť na vnútroštátnej úrovni alebo môže podliehať rozdielnemu výkladu, čo by v konečnom dôsledku mohlo viesť k nerovnakej úrovni ochrany fyzických osôb a spôsobiť fragmentáciu trhu, by vnútroštátne dozorné orgány mali byť splnomocnené viesť spoločné vyšetrovania alebo spoliehať sa na ochranný postup Únie stanovený v tomto nariadení v záujme účinného presadzovania. Spoločné vyšetrovania by sa mali začať, ak má vnútroštátny dozorný orgán dostatočné dôvody domnievať sa, že porušenie tohto nariadenia predstavuje rozsiahle porušovanie právnych predpisov alebo rozsiahle porušovanie právnych predpisov s rozmerom Únie, alebo ak systém umelej inteligencie alebo základný model predstavuje riziko, ktoré ovplyvňuje alebo pravdepodobne ovplyvní aspoň 45 miliónov jednotlivcov v najmenej dvoch členských štátoch.
Pozmeňujúci návrh 130
Návrh nariadenia
Odôvodnenie 82
(82)  Je dôležité, aby systémy umelej inteligencie týkajúce sa výrobkov, ktoré nie sú vysokorizikové v súlade s týmto nariadením, a preto sa od nich nevyžaduje, aby spĺňali požiadavky stanovené v tomto nariadení, však boli pri uvádzaní na trh alebo do prevádzky bezpečné. S cieľom prispieť k dosiahnutiu tohto cieľa by sa ako bezpečnostná sieť uplatňovala smernica Európskeho parlamentu a Rady 2001/95/ES57.
 (82)  Je dôležité, aby systémy umelej inteligencie týkajúce sa výrobkov, ktoré nie sú vysokorizikové v súlade s týmto nariadením, a preto sa od nich nevyžaduje, aby spĺňali požiadavky stanovené pre vysokorizikové systémy umelej inteligencie, však boli pri uvádzaní na trh alebo do prevádzky bezpečné. S cieľom prispieť k dosiahnutiu tohto cieľa by sa ako bezpečnostná sieť uplatňovala smernica Európskeho parlamentu a Rady 2001/95/ES57.
__________________
 __________________
57 Smernica Európskeho parlamentu a Rady 2001/95/ES z 3. decembra 2001 o všeobecnej bezpečnosti výrobkov (Ú. v. ES L 11, 15.1.2002, s. 4).
 57 Smernica Európskeho parlamentu a Rady 2001/95/ES z 3. decembra 2001 o všeobecnej bezpečnosti výrobkov (Ú. v. ES L 11, 15.1.2002, s. 4).
Pozmeňujúci návrh 131
Návrh nariadenia
Odôvodnenie 83
(83)  Na zabezpečenie dôveryhodnej a konštruktívnej spolupráce príslušných orgánov na úrovni Únie a na vnútroštátnej úrovni by mali všetky strany zapojené do uplatňovania tohto nariadenia rešpektovať dôvernosť informácií a údajov získaných pri plnení svojich úloh
 (83)  Na zabezpečenie dôveryhodnej a konštruktívnej spolupráce príslušných orgánov na úrovni Únie a na vnútroštátnej úrovni by sa mali všetky strany zapojené do uplatňovania tohto nariadenia usilovať o transparentnosť a otvorenosť pri súčasnom rešpektovaní dôvernosti informácií a údajov získaných pri plnení svojich úloh zavedením technických a organizačných opatrení na ochranu bezpečnosti a dôvernosti získaných informácií pri plnení svojich činností, a to aj pokiaľ ide o práva duševného vlastníctva a verejné a národné bezpečnostné záujmy. Ak činnosti Komisie, príslušných vnútroštátnych orgánov a notifikovaných subjektov podľa tohto nariadenia vedú k porušeniu práv duševného vlastníctva, členské štáty by mali stanoviť primerané opatrenia a nápravné opatrenia na zabezpečenie vymožiteľnosti práv duševného vlastníctva pri uplatňovaní smernice 2004/48/ES.
Pozmeňujúci návrh 132
Návrh nariadenia
Odôvodnenie 84
(84)  Členské štáty by mali prijať všetky opatrenia potrebné na zabezpečenie vykonávania ustanovení tohto nariadenia vrátane stanovenia účinných, primeraných a odrádzajúcich sankcií za ich porušenie. V prípade určitých konkrétnych porušení by členské štáty mali zohľadniť rozpätia a kritériá stanovené v tomto nariadení. Európsky dozorný úradník pre ochranu údajov by mal mať právomoc ukladať správne pokuty inštitúciám, agentúram a orgánom Únie, ktoré patria do rozsahu pôsobnosti tohto nariadenia.
 (84)  Súlad s týmto nariadením by mal byť vymožiteľný ukladaním pokút vnútroštátnym dozorným orgánom v rámci konania podľa postupu stanoveného v tomto nariadení. Členské štáty by mali prijať všetky opatrenia potrebné na zabezpečenie vykonávania ustanovení tohto nariadenia vrátane stanovenia účinných, primeraných a odrádzajúcich sankcií za ich porušenie. S cieľom posilniť a harmonizovať správne sankcie za porušenie tohto nariadenia by sa mali stanoviť horné hranice na stanovenie správnych pokút za určité konkrétne porušenia. Pri posudzovaní výšky pokút by príslušné vnútroštátne orgány mali v každom jednotlivom prípade zohľadniť všetky relevantné okolnosti konkrétnej situácie s náležitým zreteľom najmä na povahu, závažnosť a trvanie porušenia a jeho dôsledky a na veľkosť poskytovateľa, najmä ak je poskytovateľom MSP alebo startupom. Európsky dozorný úradník pre ochranu údajov by mal mať právomoc ukladať správne pokuty inštitúciám, agentúram a orgánom Únie, ktoré patria do rozsahu pôsobnosti tohto nariadenia. Sankcie a trovy konania podľa tohto nariadenia by nemali byť predmetom zmluvných doložiek alebo akýchkoľvek iných dojednaní.
Pozmeňujúci návrh 133
Návrh nariadenia
Odôvodnenie 84 a (nové)
(84a)  Keďže systémy umelej inteligencie môžu vážne narušiť práva a slobody fyzických a právnických osôb a skupín fyzických osôb, je nevyhnutné, aby fyzické a právnické osoby alebo skupiny fyzických osôb mali zmysluplný prístup k mechanizmom nahlasovania a nápravy a aby mali nárok na prístup k primeraným a účinným prostriedkom nápravy. Mali by mať možnosť oznámiť porušenie tohto nariadenia svojmu vnútroštátnemu dozornému orgánu a mať právo podať sťažnosť proti poskytovateľom alebo nasadzujúcim subjektom systémov umelej inteligencie. V prípade potreby by nasadzujúce subjekty mali zabezpečiť interné mechanizmy podávania sťažností, ktoré by mohli využívať fyzické a právnické osoby alebo skupiny fyzických osôb. Bez toho, aby bol dotknutý akýkoľvek iný správny alebo mimosúdny prostriedok nápravy, fyzické a právnické osoby a skupiny fyzických osôb by takisto mali mať právo na účinný súdny prostriedok nápravy v súvislosti s právne záväzným rozhodnutím vnútroštátneho dozorného orgánu, ktoré sa ich týka, alebo ak vnútroštátny dozorný orgán sťažnosť nevybavuje, neinformuje sťažovateľa o stave alebo predbežnom výsledku podanej sťažnosti alebo neplní svoju povinnosť dospieť v súvislosti so sťažnosťou ku konečnému rozhodnutiu.
Pozmeňujúci návrh 134
Návrh nariadenia
Odôvodnenie 84 b (nové)
(84b)  Dotknuté osoby by mali byť vždy informované o tom, že podliehajú používaniu vysokorizikového systému umelej inteligencie, keď nasadzujúce subjekty používajú vysokorizikový systém umelej inteligencie na pomoc pri rozhodovaní alebo pri prijímaní rozhodnutí týkajúcich sa fyzických osôb. Tieto informácie môžu dotknutým osobám poskytnúť základ na uplatnenie ich práva dostať vysvetlenie podľa tohto nariadenia. Ak nasadzujúce subjekty poskytnú dotknutým osobám vysvetlenie podľa tohto nariadenia, mali by zohľadniť úroveň odborných znalostí a znalostí priemerného spotrebiteľa alebo jednotlivca.
Pozmeňujúci návrh 135
Návrh nariadenia
Odôvodnenie 84 c (nové)
(84c)  Právne predpisy Únie o ochrane oznamovateľov [smernica (EÚ) 2019/1937] sa v plnom rozsahu vzťahujú na akademických pracovníkov, projektantov, vývojárov, prispievateľov do projektov, audítorov, produktových manažérov, inžinierov a hospodárske subjekty, ktorí získavajú informácie o porušeniach práva Únie zo strany poskytovateľa systému umelej inteligencie alebo jeho systému umelej inteligencie.
Pozmeňujúci návrh 136
Návrh nariadenia
Odôvodnenie 85
(85)  S cieľom zabezpečiť, aby sa regulačný rámec mohol v prípade potreby upraviť, by sa mala na Komisiu delegovať právomoc prijímať akty v súlade s článkom 290 ZFEÚ na účely zmeny techník a prístupov na vymedzenie systémov umelej inteligencie uvedených v prílohe I, harmonizačných právnych predpisov Únie uvedených v prílohe II, vysokorizikových systémov umelej inteligencie uvedených v prílohe III, ustanovení týkajúcich sa technickej dokumentácie uvedených v prílohe IV, obsahu EÚ vyhlásenia o zhode v prílohe V, ustanovení týkajúcich sa postupov posudzovania zhody v prílohách VI a VII a ustanovení, ktorými sa stanovujú systémy umelej inteligencie, na ktoré by sa mal vzťahovať postup posudzovania zhody založený na posúdení systému riadenia kvality a posúdení technickej dokumentácie. Je osobitne dôležité, aby Komisia počas prípravných prác uskutočnila príslušné konzultácie, a to aj na úrovni odborníkov, a aby tieto konzultácie vykonávala v súlade so zásadami stanovenými v Medziinštitucionálnej dohode z 13. apríla 2016 o lepšej tvorbe práva58. Predovšetkým, v záujme rovnakého zastúpenia pri príprave delegovaných aktov, sa všetky dokumenty doručujú Európskemu parlamentu a Rade v rovnakom čase ako odborníkom z členských štátov, a odborníci Európskeho parlamentu a Rady majú systematický prístup na zasadnutia skupín odborníkov Komisie, ktoré sa zaoberajú prípravou delegovaných aktov.
 (85)  S cieľom zabezpečiť, aby sa regulačný rámec mohol v prípade potreby upraviť, by sa mala na Komisiu delegovať právomoc prijímať akty v súlade s článkom 290 ZFEÚ na účely zmeny harmonizačných právnych predpisov Únie uvedených v prílohe II, vysokorizikových systémov umelej inteligencie uvedených v prílohe III, ustanovení týkajúcich sa technickej dokumentácie uvedených v prílohe IV, obsahu EÚ vyhlásenia o zhode v prílohe V, ustanovení týkajúcich sa postupov posudzovania zhody v prílohách VI a VII a ustanovení, ktorými sa stanovujú systémy umelej inteligencie, na ktoré by sa mal vzťahovať postup posudzovania zhody založený na posúdení systému riadenia kvality a posúdení technickej dokumentácie. Je osobitne dôležité, aby Komisia počas prípravných prác uskutočnila príslušné konzultácie, a to aj na úrovni odborníkov, a aby tieto konzultácie vykonávala v súlade so zásadami stanovenými v Medziinštitucionálnej dohode z 13. apríla 2016 o lepšej tvorbe práva58. Do týchto konzultácií by mal byť zapojený vyvážený výber zainteresovaných strán vrátane spotrebiteľských organizácií, občianskej spoločnosti, združení zastupujúcich dotknuté osoby, zástupcov podnikov z rôznych odvetví a veľkostí, ako aj výskumných pracovníkov a vedcov. Predovšetkým, v záujme rovnakého zastúpenia pri príprave delegovaných aktov, sa všetky dokumenty doručujú Európskemu parlamentu a Rade v rovnakom čase ako odborníkom z členských štátov, a odborníci Európskeho parlamentu a Rady majú systematický prístup na zasadnutia skupín odborníkov Komisie, ktoré sa zaoberajú prípravou delegovaných aktov.
__________________
 __________________
58 Ú. v. EÚ L 123, 12.5.2016, s. 1.
 58 Ú. v. EÚ L 123, 12.5.2016, s. 1.
Pozmeňujúci návrh 137
Návrh nariadenia
Odôvodnenie 85 a (nové)
(85a)  Vzhľadom na rýchly technologický vývoj a požadované technické odborné znalosti pri vykonávaní posudzovania vysokorizikových systémov umelej inteligencie by Komisia mala pravidelne preskúmavať vykonávanie tohto nariadenia, najmä pokiaľ ide o zakázané systémy umelej inteligencie, povinnosti týkajúce sa transparentnosti a zoznam vysokorizikových oblastí a prípadov použitia, a to aspoň raz za rok, pričom by mala konzultovať s úradom pre umelú inteligenciu a príslušnými zainteresovanými stranami.
Pozmeňujúci návrh 138
Návrh nariadenia
Odôvodnenie 87 a (nové)
(87a)  Keďže spoľahlivé informácie o využívaní zdrojov a energie, produkcii odpadu a inom vplyve systémov umelej inteligencie a súvisiacich technológií IKT na životné prostredie vrátane softvéru, hardvéru, a najmä dátových centier sú obmedzené, Komisia by mala zaviesť primeranú metodiku na meranie vplyvu a účinnosti tohto nariadenia na životné prostredie vzhľadom na ciele Únie v oblasti životného prostredia a klímy.
Pozmeňujúci návrh 139
Návrh nariadenia
Odôvodnenie 89
(89)  V súlade s článkom 42 ods. 2 nariadenia (EÚ) 2018/1725 sa viedli konzultácie s európskym dozorným úradníkom pre ochranu údajov a Európskym výborom pre ochranu údajov a výsledkom bolo vydanie stanoviska […],
 (89)  V súlade s článkom 42 ods. 2 nariadenia (EÚ) 2018/1725 sa viedli konzultácie s európskym dozorným úradníkom pre ochranu údajov a Európskym výborom pre ochranu údajov a výsledkom bolo vydanie stanoviska 18. júna 2021.
Pozmeňujúci návrh 140
Návrh nariadenia
Článok 1 – odsek 1 (nový)
1.  Účelom tohto nariadenia je podporovať zavádzanie dôveryhodnej umelej inteligencie sústredenej na človeka a zabezpečiť vysokú úroveň ochrany zdravia, bezpečnosti, základných práv, demokracie a právneho štátu a životného prostredia pred škodlivými účinkami systémov umelej inteligencie v Únii a zároveň podporovať inovácie;
Pozmeňujúci návrh 141
Návrh nariadenia
Článok 1 – odsek 1 – písmeno d
d)  harmonizované pravidlá transparentnosti pre systémy umelej inteligencie určené na interakciu s fyzickými osobami, systémy na rozpoznávanie emócií a systémy biometrickej kategorizácie, ako aj pre systémy umelej inteligencie používané na vytváranie obrazového, zvukového obsahu alebo videoobsahu alebo na manipuláciu s takýmto obsahom;
 d)  harmonizované pravidlá transparentnosti pre určité systémy umelej inteligencie;
Pozmeňujúci návrh 142
Návrh nariadenia
Článok 1 – odsek 1 – písmeno e
e)  pravidlá monitorovania trhu a dohľadu nad ním.
 e)  pravidlá monitorovania trhu, riadenia a presadzovania dohľadu nad trhom;
Pozmeňujúci návrh 143
Návrh nariadenia
Článok 1 – odsek 1 – písmeno e a (nové)
ea)  opatrenia na podporu inovácií s osobitným zameraním na MSP a startupy vrátane vytvorenia experimentálnych regulačných prostredí a cielených opatrení na zníženie regulačného zaťaženia MSP a startupov;
Pozmeňujúci návrh 144
Návrh nariadenia
Článok 1 – odsek 1 – písmeno e b (nové)
eb)  pravidlá zriadenia a fungovania úradu Únie pre umelú inteligenciu (úrad pre umelú inteligenciu);
Pozmeňujúci návrh 145
Návrh nariadenia
Článok 2 – odsek 1 – písmeno b
b)  používateľov systémov umelej inteligencie, ktorí sa nachádzajú v Únii;
 b)  nasadzujúce subjekty systémov umelej inteligencie, ktoré majú miesto usadenia alebo ktoré sa nachádzajú v Únii;
Pozmeňujúci návrh 146
Návrh nariadenia
Článok 2 – odsek 1 – písmeno c
c)  poskytovateľov a používateľov systémov umelej inteligencie, ktorí sa nachádzajú v tretej krajine, ak sa výstup vytvorený systémom používa v Únii.
 c)  poskytovateľov a nasadzujúce subjekty systémov umelej inteligencie, ktoré majú miesto usadenia alebo ktoré sa nachádzajú v tretej krajine, v ktorej sa na základe medzinárodného práva verejného uplatňuje právo ktoréhokoľvek členského štátu alebo v ktorej sa výstup vytvorený systémom má používať v Únii;
Pozmeňujúci návrh 147
Návrh nariadenia
Článok 2 – odsek 1 – písmeno c a (nové)
ca)  poskytovateľov, ktorí uvádzajú na trh alebo do prevádzky systémy umelej inteligencie uvedené v článku 5 mimo Únie, ak sa poskytovateľ alebo distribútor takýchto systémov nachádza v Únii;
Pozmeňujúci návrh 148
Návrh nariadenia
Článok 2 – odsek 1 – písmeno c b (nové)
cb)  dovozcov a distribútorov systémov umelej inteligencie, ako aj splnomocnených zástupcov poskytovateľov systémov umelej inteligencie, ak títo dovozcovia, distribútori alebo splnomocnení zástupcovia majú svoje sídlo alebo sa nachádzajú v Únii;
Pozmeňujúci návrh 149
Návrh nariadenia
Článok 2 – odsek 1 – písmeno c c (nové)
cc)  dotknuté osoby vymedzené v článku 3 ods. 8a, ktoré sa nachádzajú v Únii a ktorých zdravie, bezpečnosť alebo základné práva sú nepriaznivo ovplyvnené používaním systému umelej inteligencie, ktorý sa uvádza na trh alebo do prevádzky v Únii.
Pozmeňujúci návrh 150
Návrh nariadenia
Článok 2 – odsek 2 – úvodná časť
2.  Len článok 84 tohto nariadenia sa uplatňuje na vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo systémov, alebo ktoré sú samy výrobkami alebo systémami a patria do rozsahu pôsobnosti týchto aktov:
 2.  Len článok 84 tohto nariadenia sa uplatňuje na vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo systémov, alebo ktoré sú samy výrobkami alebo systémami a ktoré patria do rozsahu pôsobnosti harmonizačných právnych predpisov uvedených v prílohe II oddiele B;
Pozmeňujúci návrh 151
Návrh nariadenia
Článok 2 – odsek 2 – písmeno a
a)  Nariadenie (ES) 300/2008;
 vypúšťa sa
Pozmeňujúci návrh 152
Návrh nariadenia
Článok 2 – odsek 2 – písmeno b
b)  Nariadenie (EÚ) č. 167/2013;
 vypúšťa sa
Pozmeňujúci návrh 153
Návrh nariadenia
Článok 2 – odsek 2 – písmeno c
c)  Nariadenie (EÚ) č. 168/2013;
 vypúšťa sa
Pozmeňujúci návrh 154
Návrh nariadenia
Článok 2 – odsek 2 – písmeno d
d)  Smernica 2014/90/EÚ;
 vypúšťa sa
Pozmeňujúci návrh 155
Návrh nariadenia
Článok 2 – odsek 2 – písmeno e
e)  Smernica (EÚ) 2016/797;
 vypúšťa sa
Pozmeňujúci návrh 156
Návrh nariadenia
Článok 2– odsek 2 – písmeno f
f)  Nariadenie (EÚ) 2018/858;
 vypúšťa sa
Pozmeňujúci návrh 157
Návrh nariadenia
Článok 2 – odsek 2 – písmeno g
g)  Nariadenie (EÚ) 2018/1139;
 vypúšťa sa
Pozmeňujúci návrh 158
Návrh nariadenia
Článok 2 – odsek 2 – písmeno h
h)  Nariadenie (EÚ) 2019/2144.
 vypúšťa sa
Pozmeňujúci návrh 159
Návrh nariadenia
Článok 2 – odsek 4
4.  Toto nariadenie sa neuplatňuje na orgány verejnej moci v tretej krajine ani na medzinárodné organizácie, ktoré podľa odseku 1 patria do rozsahu pôsobnosti tohto nariadenia, ak tieto orgány alebo organizácie používajú systémy umelej inteligencie v rámci medzinárodných dohôd o presadzovaní práva a justičnej spolupráci s Úniou alebo s jedným alebo viacerými členskými štátmi.
 4.  Toto nariadenie sa nevzťahuje na orgány verejnej moci v tretej krajine ani na medzinárodné organizácie, ktoré patria do rozsahu pôsobnosti tohto nariadenia podľa odseku 1, ak tieto orgány alebo organizácie používajú systémy umelej inteligencie v rámci medzinárodnej spolupráce alebo medzinárodných dohôd o spolupráci v oblasti presadzovania práva a justičnej spolupráce s Úniou alebo s jedným alebo viacerými členskými štátmi a podliehajú rozhodnutiu Komisie prijatému v súlade s článkom 36 smernice (EÚ) 2016/680 alebo článkom 45 nariadenia 2016/679 (rozhodnutie o primeranosti) alebo sú súčasťou medzinárodnej dohody uzavretej medzi Úniou a danou treťou krajinou alebo medzinárodnou organizáciou podľa článku 218 ZFEÚ, ktorá poskytuje primerané záruky, pokiaľ ide o ochranu súkromia a základných práv a slobôd jednotlivcov;
Pozmeňujúci návrh 160
Návrh nariadenia
Článok 2 – odsek 5 a (nový)
5a.  Na spracúvanie osobných údajov v súvislosti s právami a povinnosťami stanovenými v tomto nariadení sa vzťahuje právo EÚ o ochrane osobných údajov, súkromia a dôvernosti komunikácie. Toto nariadenie nemá vplyv na nariadenia (EÚ) 2016/679 a (EÚ) 2018/1725 a smernice 2002/58/ES a (EÚ) 2016/680 bez toho, aby boli dotknuté opatrenia stanovené v článku 10 ods. 5 a článku 54 tohto nariadenia;
Pozmeňujúci návrh 161
Návrh nariadenia
Článok 2 – odsek 5 b (nový)
5b.  Týmto nariadením nie sú dotknuté pravidlá stanovené v iných právnych aktoch Únie týkajúcich sa ochrany spotrebiteľa a bezpečnosti výrobkov;
Pozmeňujúci návrh 162
Návrh nariadenia
Článok 2 – odsek 5 c (nový)
5c.  Toto nariadenie nebráni členským štátom alebo Únii v tom, aby zachovali v platnosti alebo prijali zákony, iné právne predpisy alebo správne opatrenia, ktoré sú pre pracovníkov priaznivejšie z hľadiska ochrany ich práv v súvislosti s používaním systémov umelej inteligencie zamestnávateľmi, alebo aby podporovali alebo umožňovali uplatňovanie kolektívnych zmlúv, ktoré sú pre pracovníkov výhodnejšie;
Pozmeňujúci návrh 163
Návrh nariadenia
Článok 2 – odsek 5 d (nový)
5d.  Toto nariadenie sa nevzťahuje na žiadnu výskumnú, testovaciu a vývojovú činnosť týkajúcu sa systému umelej inteligencie pred uvedením tohto systému na trh alebo do prevádzky, ak sa tieto činnosti uskutočňujú v súlade so základnými právami a uplatniteľným právom Únie. Táto výnimka sa nevzťahuje na testovanie v reálnych podmienkach. Komisia je splnomocnená prijímať delegované akty v súlade s článkom 73, ktoré objasňujú uplatňovanie tohto odseku, s cieľom spresniť túto výnimku a zabrániť tak jej existujúcemu a potenciálnemu zneužitiu. Úrad pre umelú inteligenciu poskytuje usmernenia týkajúce sa riadenia výskumu a vývoja podľa článku 56, a to aj s cieľom koordinovať ich uplatňovanie vnútroštátnymi dozornými orgánmi;
Pozmeňujúci návrh 164
Návrh nariadenia
Článok 2 – odsek 5 e (nový)
5e.  Toto nariadenie sa nevzťahuje na komponenty umelej inteligencie poskytované na základe bezplatných licencií a otvorených licencií s výnimkou prípadov, keď ich poskytovateľ uvádza na trh alebo do prevádzky ako súčasť vysokorizikového systému umelej inteligencie alebo systému umelej inteligencie, na ktorý sa vzťahujú hlavy II alebo IV. Táto výnimka sa nevzťahuje na základné modely vymedzené v článku 3;
Pozmeňujúci návrh 165
Návrh nariadenia
Článok 3 – odsek 1 – bod 1
1.  „systém umelej inteligencie“ je softvér vyvinutý s jednou alebo viacerými technikami a prístupmi uvedenými v prílohe I, ktorý môže pre daný súbor cieľov vymedzených človekom vytvárať výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia ovplyvňujúce prostredie, s ktorým sú v interakcii;
 1.  „systém umelej inteligencie“ je strojový systém, ktorý je navrhnutý tak, aby fungoval s rôznymi úrovňami autonómie, a ktorý môže pre explicitné alebo implicitné ciele vytvárať výstupy, ako sú predpovede, odporúčania alebo rozhodnutia, ktoré ovplyvňujú fyzické alebo virtuálne prostredie;
Pozmeňujúci návrh 166
Návrh nariadenia
Článok 3 – odsek 1 – bod 1 a (nový)
1a.  „riziko“ je kombinácia pravdepodobnosti výskytu ujmy a závažnosti tejto ujmy;
Pozmeňujúci návrh 167
Návrh nariadenia
Článok 3 – odsek 1 – bod 1 b (nový)
1b.  „významné riziko“ je riziko, ktoré je významné v dôsledku kombinácie jeho závažnosti, intenzity, pravdepodobnosti výskytu a trvania jeho účinkov a jeho schopnosti ovplyvniť jednotlivca, značný počet osôb alebo ovplyvniť konkrétnu skupinu osôb;
Pozmeňujúci návrh 168
Návrh nariadenia
Článok 3 – odsek 1 – bod 1 c (nový)
1c.  „základný model“ je model systému umelej inteligencie, ktorý je trénovaný na rozsiahlom súbore údajov, je navrhnutý na všeobecný charakter výstupov a možno ho prispôsobiť širokému spektru osobitných úloh;
Pozmeňujúci návrh 169
Návrh nariadenia
Článok 3 – odsek 1 – bod 1 d (nový)
1d.  „systém umelej inteligencie na všeobecné účely“ je systém umelej inteligencie, ktorý sa môže použiť v širokom spektre aplikácií, pre ktoré nebol zámerne a osobitne navrhnutý, a ktorý sa môže prispôsobiť tomuto spektru aplikácií;
Pozmeňujúci návrh 170
Návrh nariadenia
Článok 3 – odsek 1 – bod 1 e (nový)
1e.  „rozsiahly cyklus trénovania“ je proces výroby silného modelu umelej inteligencie, ktorý si vyžaduje výpočtové zdroje nad veľmi vysokou prahovou hodnotou;
Pozmeňujúci návrh 171
Návrh nariadenia
Článok 3 – odsek 1 – bod 3
3.  „malý poskytovateľ“ je poskytovateľ, ktorý je mikropodnikom alebo malým podnikom v zmysle odporúčania Komisie 2003/361/ES61;
 vypúšťa sa
__________________
61 Odporúčanie Komisie zo 6. mája 2003 o vymedzení mikropodnikov, malých a stredných podnikov (Ú. v. EÚ L 124, 20.5.2003, s. 36).
Pozmeňujúci návrh 172
Návrh nariadenia
Článok 3 – odsek 1 – bod 4
4.  „používateľ“ je každá fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý používa systém umelej inteligencie v rámci svojej právomoci, s výnimkou prípadov, keď sa systém umelej inteligencie používa v rámci osobnej neprofesionálnej činnosti;
 4.  „nasadzujúci subjekt“ je každá fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý používa systém umelej inteligencie v rámci svojej právomoci, s výnimkou prípadov, keď sa systém umelej inteligencie používa v rámci osobnej neprofesionálnej činnosti;
Pozmeňujúci návrh 173
Návrh nariadenia
Článok 3 – odsek 1 – bod 8
8.  „prevádzkovateľ“ je poskytovateľ, používateľ, splnomocnený zástupca, dovozca a distribútor;
 8.  „prevádzkovateľ“ je poskytovateľ, nasadzujúci subjekt, splnomocnený zástupca, dovozca a distribútor;
Pozmeňujúci návrh 174
Návrh nariadenia
Článok 3 – odsek 1 – bod 8 a (nový)
8a.  „dotknutá osoba“ je akákoľvek fyzická osoba alebo skupina osôb, na ktorú sa vzťahuje systém umelej inteligencie alebo ktorá je ním inak ovplyvnená;
Pozmeňujúci návrh 175
Návrh nariadenia
Článok 3 – odsek 1 – bod 11
11.  „uvedenie do prevádzky“ je dodanie systému umelej inteligencie na prvé použitie priamo používateľovi alebo na vlastné použitie na trhu Únie na zamýšľaný účel;
 11.  „uvedenie do prevádzky“ je dodanie systému umelej inteligencie na prvé použitie priamo nasadzujúcemu subjektu alebo na vlastné použitie na trhu Únie na zamýšľaný účel;
Pozmeňujúci návrh 176
Návrh nariadenia
Článok 3 – odsek 1 – bod 13
13.  „logicky predvídateľné nesprávne použitie“ je také použitie systému umelej inteligencie, ktoré nie je v súlade so zamýšľaným účelom, ale ktoré môže byť výsledkom logicky predvídateľného ľudského správania alebo interakcie s inými systémami;
 13.  „logicky predvídateľné nesprávne použitie“ je také použitie systému umelej inteligencie, ktoré nie je v súlade so zamýšľaným účelom podľa návodu na použitie stanoveným poskytovateľom, ale ktoré môže byť výsledkom logicky predvídateľného ľudského správania alebo interakcie s inými systémami vrátane iných systémov umelej inteligencie;
Pozmeňujúci návrh 177
Návrh nariadenia
Článok 3 – odsek 1 – bod 14
14.  „bezpečnostný komponent výrobku alebo systému“ je komponent výrobku alebo systému, ktorý pre daný výrobok alebo systém plní bezpečnostnú funkciu alebo ktorého zlyhanie alebo porucha ohrozuje zdravie a bezpečnosť osôb alebo majetku;
 14.  „bezpečnostný komponent výrobku alebo systému“ je v súlade s harmonizačnými právnymi predpismi Únie uvedenými v prílohe II komponent výrobku alebo systému, ktorý pre daný výrobok alebo systém plní bezpečnostnú funkciu alebo ktorého zlyhanie alebo porucha ohrozuje zdravie a bezpečnosť osôb;
Pozmeňujúci návrh 178
Návrh nariadenia
Článok 3 – odsek 1 – bod 15
15.  „návod na použitie“ sú informácie, ktoré poskytuje poskytovateľ s cieľom informovať používateľa najmä o zamýšľanom účele a správnom používaní systému umelej inteligencie vrátane konkrétnych geografických, behaviorálnych alebo funkčných podmienok, v ktorých sa má vysokorizikový systém umelej inteligencie používať;
 15.  „návod na použitie“ sú informácie, ktoré poskytuje poskytovateľ s cieľom informovať nasadzujúci subjekt najmä o zamýšľanom účele a správnom používaní systému umelej inteligencie, ako aj informácie o akýchkoľvek preventívnych opatreniach, ktoré je potrebné prijať, vrátane konkrétnych geografických, behaviorálnych alebo funkčných podmienok, v ktorých sa má vysokorizikový systém umelej inteligencie používať;
Pozmeňujúci návrh 179
Návrh nariadenia
Článok 3 – odsek 1 – bod 16
16.  „stiahnutie systému umelej inteligencie od používateľa“ je každé opatrenie zamerané na to, aby sa systém umelej inteligencie sprístupnený používateľovi vrátil poskytovateľovi;
 16.  „stiahnutie systému umelej inteligencie od používateľa“ je každé opatrenie zamerané na to, aby sa systém umelej inteligencie, ktorý bol sprístupnený nasadzujúcim subjektom, vrátil poskytovateľovi;
Pozmeňujúci návrh 180
Návrh nariadenia
Článok 3 – odsek 1 – bod 20
20.  „posudzovanie zhody“ je postup overovania, či boli splnené požiadavky stanovené v hlave III kapitole 2 tohto nariadenia týkajúce sa systému umelej inteligencie;
 20.  „posudzovanie zhody“ je postup preukazovania, či boli splnené požiadavky stanovené v hlave III kapitole 2 tohto nariadenia týkajúce sa systému umelej inteligencie;
Pozmeňujúci návrh 181
Návrh nariadenia
Článok 3 – odsek 1 – bod 22
22.  „notifikovaná osoba“ je orgán posudzovania zhody určený v súlade s týmto nariadením a inými relevantnými harmonizačnými právnymi predpismi Únie;
 22.  „notifikovaná osoba“ je orgán posudzovania zhody notifikovaný v súlade s týmto nariadením a inými relevantnými harmonizačnými právnymi predpismi Únie;
Pozmeňujúci návrh 182
Návrh nariadenia
Článok 3 – odsek 1 – bod 23
23.  „podstatná zmena“ je zmena systému umelej inteligencie po jeho uvedení na trh alebo do prevádzky, ktorá ovplyvňuje súlad systému umelej inteligencie s požiadavkami stanovenými v hlave III kapitole 2 tohto nariadenia alebo vedie k zmene zamýšľaného účelu, na aký bol systém umelej inteligencie posudzovaný;
 23.  „podstatná zmena“ je úprava alebo séria úprav systému umelej inteligencie po jeho uvedení na trh alebo do prevádzky, s ktorou poskytovateľ v počiatočnom hodnotení rizika nepočítal alebo ktorú neplánoval a v dôsledku ktorej je ovplyvnený súlad systému umelej inteligencie s požiadavkami stanovenými v hlave III kapitole 2 tohto nariadenia alebo ktorá vedie k zmene zamýšľaného účelu, na aký bol systém umelej inteligencie posudzovaný;
Pozmeňujúci návrh 183
Návrh nariadenia
Článok 3 – odsek 1 – bod 24
24.  „označenie zhody CE“ (označenie CE) je označenie, ktorým poskytovateľ vyjadruje, že systém umelej inteligencie je v zhode s požiadavkami stanovenými v hlave III kapitole 2 tohto nariadenia a v iných uplatniteľných právnych predpisoch Únie, ktorými sa harmonizujú podmienky uvádzania výrobkov na trh (ďalej len „harmonizačné právne predpisy Únie“) a v ktorých sa stanovuje umiestňovanie tohto označenia;
 24.  „označenie zhody CE“ (označenie CE) je fyzické alebo digitálne označenie, ktorým poskytovateľ vyjadruje, že systém umelej inteligencie alebo výrobok so zabudovaným systémom umelej inteligencie je v zhode s požiadavkami stanovenými v hlave III kapitole 2 tohto nariadenia a v iných uplatniteľných právnych predpisoch Únie, ktorými sa harmonizujú podmienky uvádzania výrobkov na trh (ďalej len „harmonizačné právne predpisy Únie“) a v ktorých sa stanovuje umiestňovanie tohto označenia;
Pozmeňujúci návrh 184
Návrh nariadenia
Článok 3 – odsek 1 – bod 29
29.  „trénovacie údaje“ sú údaje, ktoré sa používajú na trénovanie systému umelej inteligencie adaptáciou jeho parametrov, ktoré sa dajú naučiť, vrátane váh neurónovej siete;
 29.  „trénovacie údaje“ sú údaje, ktoré sa používajú na trénovanie systému umelej inteligencie prispôsobením jeho parametrov, ktoré sa dajú naučiť;
Pozmeňujúci návrh 185
Návrh nariadenia
Článok 3 – odsek 1 – bod 30
30.  „validačné údaje“ sú údaje, ktoré sa používajú na vyhodnotenie natrénovaného systému umelej inteligencie a na doladenie jeho parametrov, ktoré sa nedajú naučiť, a jeho procesu učenia, okrem iného s cieľom zabrániť pretrénovaniu, pričom súbor validačných údajov môže byť samostatný súbor údajov alebo časť súboru trénovacích údajov, a to buď v pevnom alebo variabilnom rozdelení;
 30.  „validačné údaje“ sú údaje, ktoré sa používajú na vyhodnotenie natrénovaného systému umelej inteligencie a na doladenie jeho parametrov, ktoré sa nedajú naučiť, a jeho procesu učenia, okrem iného s cieľom zabrániť podtrénovaniu alebo pretrénovaniu, pričom súbor validačných údajov je samostatný súbor údajov alebo časť súboru trénovacích údajov, a to buď v pevnom, alebo variabilnom rozdelení;
Pozmeňujúci návrh 186
Návrh nariadenia
Článok 3 – odsek 1 – bod 33
33.  „biometrické údaje“ sú osobné údaje, ktoré sú výsledkom osobitného technického spracúvania týkajúceho sa fyzických, fyziologických alebo behaviorálnych charakteristických znakov fyzickej osoby a ktoré umožňujú alebo potvrdzujú jedinečnú identifikáciu tejto fyzickej osoby, ako sú vyobrazenia tváre alebo daktyloskopické údaje;
 33.  „biometrické údaje“ sú biometrické údaje v zmysle článku 4 odseku 14 nariadenia (EÚ) 2016/679;
Pozmeňujúci návrh 187
Návrh nariadenia
Článok 3 – odsek 1 – bod 33 a (nový)
33a.  „biometrické údaje“ sú údaje vyplývajúce z osobitného technického spracovania súvisiaceho s fyzickými, fyziologickými alebo behaviorálnymi prejavmi fyzickej osoby;
Pozmeňujúci návrh 188
Návrh nariadenia
Článok 3 – odsek 1 – bod 33 b (nový)
33b.  „biometrická identifikácia“ je automatizované rozpoznávanie fyzických, fyziologických, behaviorálnych a psychologických vlastností človeka na účely stanovenia totožnosti jednotlivca porovnaním biometrických údajov danej osoby s uloženými biometrickými údajmi jednotlivcov v databáze (identifikácia porovnaním jedného údaju s viacerými údajmi);
Pozmeňujúci návrh 189
Návrh nariadenia
Článok 3 – odsek 1 – bod 33 c (nový)
33c.  „biometrické overenie“ je automatizované overovanie totožnosti fyzických osôb porovnaním biometrických údajov jednotlivca s biometrickými údajmi, ktoré boli predtým poskytnuté (overenie porovnaním jedného údaju s príslušným druhým údajom vrátane autentifikácie);
Pozmeňujúci návrh 190
Návrh nariadenia
Článok 3 – odsek 1 – bod 33 d (nový)
33d.  „osobitné kategórie osobných údajov“ sú kategórie osobných údajov v zmysle článku 9 ods. 1 nariadenia (EÚ) 2016/679;
Pozmeňujúci návrh 191
Návrh nariadenia
Článok 3 – odsek 1 – bod 34
34.  „systém na rozpoznávanie emócií“ je systém umelej inteligencie na účely identifikácie alebo odvodenia emócií alebo úmyslov fyzických osôb na základe ich biometrických údajov;
 34.  „systém na rozpoznávanie emócií“ je systém umelej inteligencie na účely identifikácie alebo odvodenia emócií, myšlienok, stavov mysle alebo úmyslov jednotlivcov alebo skupín na základe ich biometrických a na biometrii založených údajov;
Pozmeňujúci návrh 192
Návrh nariadenia
Článok 3 – odsek 1 – bod 35
35.  „systém biometrickej kategorizácie“ je systém umelej inteligencie na účely zaradenia fyzických osôb do konkrétnych kategórií, ako je pohlavie, vek, farba vlasov, farba očí, tetovanie, etnický pôvod alebo sexuálna či politická orientácia, a to na základe ich biometrických údajov;
 35.  „biometrická kategorizácia“ je zaradenie fyzických osôb do konkrétnych kategórií alebo odvodenie ich vlastností a charakteristických znakov na základe ich biometrických údajov alebo na biometrii založených údajov, alebo ktoré možno z takýchto údajov odvodiť;
Pozmeňujúci návrh 193
Návrh nariadenia
Článok 3 – odsek 1 – bod 36
36.  „systém diaľkovej biometrickej identifikácie“ je systém umelej inteligencie na účely identifikácie fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze, a to bez toho, aby používateľ systému umelej inteligencie vopred vedel, či bude daná osoba prítomná a či ju možno identifikovať;
 36.  „systém diaľkovej biometrickej identifikácie“ je systém umelej inteligencie na účely identifikácie fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze, a to bez toho, aby nasadzujúci subjekt systému umelej inteligencie vopred vedel, či bude daná osoba prítomná a či ju možno identifikovať, s výnimkou overovacích systémov;
Pozmeňujúci návrh 194
Návrh nariadenia
Článok 3 – odsek 1 – bod 37
37.  „systém diaľkovej biometrickej identifikácie v reálnom čase“ je systém diaľkovej biometrickej identifikácie, v ktorom zachytávanie biometrických údajov, ich porovnávanie a identifikácia prebiehajú bez výrazného oneskorenia. Aby sa zabránilo obchádzaniu pravidiel, patrí sem nielen okamžitá identifikácia, ale aj identifikácia s určitými menšími oneskoreniami;
 37.  „systém diaľkovej biometrickej identifikácie v reálnom čase“ je systém diaľkovej biometrickej identifikácie, v ktorom zachytávanie biometrických údajov, ich porovnávanie a identifikácia prebiehajú bez výrazného oneskorenia. Aby sa zabránilo obchádzaniu pravidiel, patrí sem nielen okamžitá identifikácia, ale aj identifikácia s určitými oneskoreniami;
Pozmeňujúci návrh 195
Návrh nariadenia
Článok 3 – odsek 1 – bod 39
39.  „verejne prístupný priestor“ je akékoľvek fyzické miesto prístupné verejnosti bez ohľadu na to, či sa pre prístup môžu uplatniť určité podmienky;
 39.  „verejne prístupný priestor“ je akékoľvek verejne alebo súkromne vlastnené fyzické miesto prístupné verejnosti bez ohľadu na to, či sa pre prístup môžu uplatniť určité podmienky, a bez ohľadu na možné kapacitné obmedzenia;
Pozmeňujúci návrh 196
Návrh nariadenia
Článok 3 – odsek 1 – bod 41
41.  „presadzovanie práva“ sú činnosti vykonávané orgánmi presadzovania práva na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania, alebo na účely výkonu trestných sankcií vrátane ochrany pred ohrozením verejnej bezpečnosti a predchádzania takémuto ohrozeniu;
 41.  „presadzovanie práva“ sú činnosti vykonávané orgánmi presadzovania práva alebo v ich mene na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania, alebo na účely výkonu trestných sankcií vrátane ochrany pred ohrozením verejnej bezpečnosti a predchádzania takémuto ohrozeniu;
Pozmeňujúci návrh 197
Návrh nariadenia
Článok 3 – odsek 1 – bod 42
42.  „vnútroštátny dozorný orgán“ je orgán, na ktorý členský štát deleguje zodpovednosť za vykonávanie a uplatňovanie tohto nariadenia, za koordináciu činností zverených danému členskému štátu, za pôsobenie ako jednotné kontaktné miesto pre Komisiu a za zastupovanie členského štátu v Európskej rade pre umelú inteligenciu;
 42.  „vnútroštátny dozorný orgán“ je verejný (PN 69)orgán, ktorého členský štát poveril zodpovednosťou za vykonávanie a uplatňovanie tohto nariadenia, za koordináciu činností zverených danému členskému štátu, za pôsobenie ako jednotné kontaktné miesto pre Komisiu a za zastupovanie členského štátu v riadiacej rade úradu pre umelú inteligenciu;
Pozmeňujúci návrh 198
Návrh nariadenia
Článok 3 – odsek 1 – bod 43
43.  „príslušný vnútroštátny orgán“ je vnútroštátny dozorný orgán, notifikujúci orgán a orgán dohľadu nad trhom;
 43.  „príslušný vnútroštátny orgán“ je ktorýkoľvek z vnútroštátnych orgánov, ktoré sú zodpovedné za presadzovanie tohto nariadenia;
Pozmeňujúci návrh 199
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 – úvodná časť
44.  „závažný incident“ je každý incident, ktorý priamo alebo nepriamo vyústi, mohol vyústiť alebo môže vyústiť do:
 44.  „závažný incident“ je každý incident alebo porucha systému umelej inteligencie, ktoré priamo alebo nepriamo vyústia, mohli vyústiť alebo môžu vyústiť do:
a)  smrti osoby alebo vážneho poškodenia zdravia osoby, majetku alebo životného prostredia;
 a)  smrti osoby alebo vážneho poškodenia zdravia osoby;
b)  vážneho narušenia riadenia a prevádzky kritickej infraštruktúry.
 b)  vážneho narušenia riadenia a prevádzky kritickej infraštruktúry;
ba)  porušenia základných práv chránených právom Únie;
bb)  závažného poškodenia majetku alebo životného prostredia;
Pozmeňujúci návrh 200
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 a (nový)
44a.  „osobné údaje“ sú osobné údaje v zmysle článku 4 bodu 1 nariadenia (EÚ) 2016/679;
Pozmeňujúci návrh 201
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 b (nový)
44b.  „iné ako osobné údaje“ sú údaje iné ako osobné údaje;
Pozmeňujúci návrh 202
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 c (nový)
44c.  „profilovanie“ je akákoľvek forma automatizovaného spracovania osobných údajov v zmysle vymedzenia v článku 4 bode 4 nariadenia (EÚ) 2016/679 alebo v prípade orgánov presadzovania práva – v článku 3 bode 4 smernice (EÚ) 2016/680, alebo v prípade inštitúcií, orgánov, úradov alebo agentúr Únie v článku 3 bode 5 nariadenia (EÚ) 2018/1725;
Pozmeňujúci návrh 203
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 d (nový)
44d.  „deepfake“ je zmanipulovaný alebo syntetický zvukový, obrazový alebo video obsah, ktorý sa falošne javí ako autentický alebo pravdivý a ktorý obsahuje zobrazenia osôb, ktoré zdanlivo hovoria alebo robia veci, ktoré nepovedali alebo neurobili, vytvorený pomocou techník umelej inteligencie vrátane strojového učenia a hĺbkového učenia;
Pozmeňujúci návrh 204
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 e (nový)
44e.  „rozsiahle porušovanie právnych predpisov“ je každé konanie alebo opomenutie v rozpore s právnymi predpismi Únie na ochranu záujmov jednotlivcov,
a)  ktoré poškodilo alebo pravdepodobne poškodí kolektívne záujmy jednotlivcov s pobytom najmenej v dvoch iných členských štátoch, než je členský štát, v ktorom:
i)  takéto konanie alebo opomenutie vzniklo alebo sa uskutočnilo;
ii)  je usadený dotknutý poskytovateľ alebo prípadne jeho splnomocnený zástupca; alebo
iii)  bol usadený nasadzujúci subjekt v čase, keď sa dopustil porušenia právnych predpisov;
b)  ktoré chráni záujmy jednotlivcov, ktoré poškodilo, poškodzuje alebo pravdepodobne poškodí kolektívne záujmy jednotlivcov a ktoré má spoločné znaky vrátane rovnakého protiprávneho konania a porušovania rovnakého záujmu, a ktorého sa dopustil súčasne ten istý prevádzkovateľ v najmenej troch členských štátoch;
Pozmeňujúci návrh 205
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 f (nový)
44f.  „rozsiahle porušovanie právnych predpisov s rozmerom Únie“ je rozsiahle porušovanie právnych predpisov, ktoré poškodzuje alebo pravdepodobne poškodí kolektívne záujmy jednotlivcov v aspoň dvoch tretinách členských štátov, čo spolu zodpovedá aspoň dvom tretinám obyvateľstva Únie;
Pozmeňujúci návrh 206
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 g (nový)
44g.  „experimentálne regulačné prostredie“ je kontrolované prostredie vytvorené verejným orgánom, ktoré uľahčuje bezpečný vývoj, testovanie a validáciu inovatívnych systémov umelej inteligencie na obmedzený čas pred ich uvedením na trh alebo do prevádzky podľa konkrétneho plánu pod regulačným dohľadom;
Pozmeňujúci návrh 207
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 h (nový)
44h.  „kritická infraštruktúra“ je aktívum, zariadenie, vybavenie, sieť alebo systém alebo časť aktíva, zariadenia, vybavenia, siete alebo systému, ktoré sú potrebné na poskytovanie základnej služby v zmysle článku 2 ods. 4 smernice (EÚ) 2022/2557;
Pozmeňujúci návrh 208
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 k (nový)
44k.  „sociálne bodovanie“ je hodnotenie alebo klasifikácia fyzických osôb na základe ich spoločenského správania, sociálno-ekonomického postavenia alebo známych alebo predpokladaných osobných alebo osobnostných vlastností;
Pozmeňujúci návrh 209
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 l (nový)
44l.  „sociálne správanie“ je spôsob interakcie fyzickej osoby s inými fyzickými osobami alebo so spoločnosťou a jej vplyvu na ne;
Pozmeňujúci návrh 210
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 m (nový)
44m.  „stav techniky“ je rozvinutá úroveň technickej spôsobilosti v danom čase, pokiaľ ide o produkty, procesy a služby, na základe príslušných konsolidovaných poznatkov vedy, techniky a skúseností;
Pozmeňujúci návrh 211
Návrh nariadenia
Článok 3 – odsek 1 – bod 44 n (nový)
44n.  „testovanie v reálnych podmienkach“ je dočasné testovanie systému umelej inteligencie na zamýšľaný účel v reálnych podmienkach mimo laboratória alebo inak simulovaného prostredia;
Pozmeňujúci návrh 212
Návrh nariadenia
Článok 4
Článok 4
 vypúšťa sa
Zmeny prílohy I
Komisia je splnomocnená prijímať delegované akty v súlade s článkom 73 s cieľom zmeniť zoznam techník a prístupov uvedených v prílohe I, a tak aktualizovať tento zoznam podľa trhového a technologického vývoja na základe charakteristických vlastností, ktoré sú podobné technikám a prístupom uvedeným v tejto prílohe.
Pozmeňujúci návrh 213
Návrh nariadenia
Článok 4 a (nový)
Článok 4a
Všeobecné zásady uplatniteľné na všetky systémy umelej inteligencie
1.  Všetci prevádzkovatelia, na ktorých sa vzťahuje toto nariadenie, vynakladajú maximálne úsilie na vývoj a používanie systémov umelej inteligencie alebo základných modelov v súlade s nasledujúcimi všeobecnými zásadami, ktorými sa stanovuje rámec na vysokej úrovni podporujúci súdržný európsky prístup k etickej a dôveryhodnej umelej inteligencii sústredený na človeka, ktorý je plne v súlade s chartou, ako aj s hodnotami, na ktorých je Únia založená:
a)  „ľudský faktor a dohľad“ je skutočnosť, že systémy umelej inteligencie sa vyvíjajú a používajú ako nástroj, ktorý slúži ľuďom, rešpektuje ľudskú dôstojnosť a osobnú autonómiu a ktorý funguje spôsobom umožňujúcim primeranú kontrolu a dohľad človekom;
b)  „technická spoľahlivosť a bezpečnosť“ je skutočnosť, že systémy umelej inteligencie sa vyvíjajú a používajú tak, aby sa minimalizovala nechcená a neočakávaná ujma a aby boli spoľahlivé v prípade nechcených problémov a odolné voči pokusom o zmenu použitia alebo výkonu systému umelej inteligencie tak, aby ich mohli nezákonne používať tretie strany so zlými úmyslami;
c)  „súkromie a správa údajov“ je skutočnosť, že systémy umelej inteligencie sa vyvíjajú a používajú v súlade s platnými pravidlami o ochrane súkromia a údajov pri súčasnom spracúvaní údajov podľa vysokých noriem kvality a integrity;
d)  „transparentnosť“ je skutočnosť, že systémy umelej inteligencie sa vyvíjajú a používajú tak, aby umožňovali náležitú vysledovateľnosť a vysvetliteľnosť, pričom upozorňujú ľudí na to, že komunikujú a interagujú so systémom umelej inteligencie, náležite informujú používateľov o možnostiach a obmedzeniach systému umelej inteligencie a dotknuté osoby o ich právach;
e)  „rozmanitosť, nediskriminácia a spravodlivosť“ je skutočnosť, že systémy umelej inteligencie sa vyvíjajú a používajú tak, aby zapájali rôznych aktérov, podporovali rovnosť prístupu, rodovú rovnosť a kultúrnu rozmanitosť a zároveň predchádzali diskriminačným vplyvom a nespravodlivej zaujatosti, ktoré sú v rozpore s právom Únie a vnútroštátnymi právnymi predpismi;
f)  „sociálny a environmentálny blahobyt“ je skutočnosť, že systémy umelej inteligencie sa vyvíjajú a používajú udržateľným spôsobom priaznivým pre životného prostredie v prospech všetkých ľudí, pričom sa monitoruje a hodnotí dlhodobý vplyv na jednotlivca, spoločnosť a demokraciu.
2.  Odsekom 1 nie sú dotknuté povinnosti stanovené v existujúcich právnych predpisoch Únie a vo vnútroštátnych právnych predpisoch. V prípade vysokorizikových systémov umelej inteligencie sa všeobecné zásady premietajú do požiadaviek stanovených v článkoch 8 až 15 a poskytovatelia alebo nasadzujúce subjekty ich prostredníctvom týchto požiadaviek dodržiavajú, a do príslušných povinností stanovených v kapitole 3 hlavy III tohto nariadenia. V prípade základných modelov sa všeobecné zásady premietajú do požiadaviek stanovených v článkoch 28 až 28b a poskytovatelia ich prostredníctvom týchto požiadaviek dodržiavajú. V prípade všetkých systémov umelej inteligencie možno uplatňovanie zásad uvedených v odseku 1 podľa potreby dosiahnuť prostredníctvom ustanovení článku 28, článku 52 alebo uplatňovaním harmonizovaných noriem, technických špecifikácií a kódexov správania uvedených v článku 69 bez toho, aby vznikli nové povinnosti podľa tohto nariadenia.
3.  Komisia a úrad pre umelú inteligenciu začlenia tieto usmerňujúce zásady do žiadostí o normalizáciu, ako aj do odporúčaní pozostávajúcich z technických usmernení na pomoc poskytovateľom a nasadzujúcim subjektom pri vývoji a používaní systémov umelej inteligencie. Európske normalizačné organizácie zohľadňujú všeobecné zásady uvedené v tomto článku odseku 1 ako ciele založené na výsledkoch pri tvorbe vhodných harmonizovaných noriem pre vysokorizikové systémy umelej inteligencie podľa článku 40 ods. 2b.
Pozmeňujúci návrh 214
Návrh nariadenia
Článok 4 b (nový)
Článok 4b
Gramotnosť v oblasti umelej inteligencie
1.  Únia a členské štáty podporujú pri vykonávaní tohto nariadenia opatrenia na rozvoj dostatočnej úrovne gramotnosti v oblasti umelej inteligencie vo všetkých odvetviach a zohľadňujú rôzne potreby skupín poskytovateľov, nasadzujúcich subjektov a dotknutých osôb, a to aj prostredníctvom vzdelávania a odbornej prípravy, programov získavania zručností a rekvalifikácie a zároveň zabezpečujú riadnu rodovú a vekovú rovnováhu s cieľom umožniť demokratickú kontrolu systémov umelej inteligencie.
2.  Poskytovatelia a nasadzujúce subjekty systémov umelej inteligencie prijímajú opatrenia na zabezpečenie dostatočnej úrovne gramotnosti v oblasti umelej inteligencie svojich zamestnancov a ostatných osôb, ktoré sa v ich mene zaoberajú prevádzkou a používaním systémov umelej inteligencie, pričom zohľadňujú ich technické znalosti, skúsenosti, vzdelanie a odbornú prípravu a kontext, v ktorom sa majú systémy umelej inteligencie používať, a berú do úvahy osoby alebo skupiny osôb, u ktorých sa majú systémy umelej inteligencie používať.
3.  Takéto opatrenia na zvyšovanie gramotnosti pozostávajú najmä z výučby základných pojmov a zručností týkajúcich sa systémov umelej inteligencie a ich fungovania vrátane rôznych druhov výrobkov a ich použitia, ich rizík a prínosov.
4.  Úroveň gramotnosti v oblasti umelej inteligencie je dostatočná, ak podľa potreby prispieva k schopnosti poskytovateľov a nasadzujúcich subjektov zabezpečiť súlad s týmto nariadením a jeho presadzovanie.
Pozmeňujúci návrh 215
Návrh nariadenia
Článok 5 – odsek 1 – písmeno a
a)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému umelej inteligencie, ktorý s cieľom podstatne narušiť správanie osoby využíva podprahové techniky mimo vedomia osoby tak, že tejto alebo inej osobe spôsobí alebo by mohol spôsobiť fyzickú alebo psychickú ujmu;
 a)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému umelej inteligencie, ktorý využíva podprahové techniky mimo vedomia osoby alebo účelovo manipulatívne alebo klamlivé techniky s cieľom alebo účinkom podstatného narušenia správania osoby alebo skupiny osôb tým, že sa citeľne naruší schopnosť osoby urobiť informované rozhodnutie, čo prinúti túto osobu prijať rozhodnutie, ktoré by inak neurobila, a to spôsobom, ktorý tejto osobe, inej osobe alebo skupine osôb spôsobí alebo pravdepodobne spôsobí značnú ujmu;
Zákaz systému umelej inteligencie, ktorý používa podprahové techniky uvedené v prvom pododseku, sa nevzťahuje na systémy umelej inteligencie určené na použitie na schválené terapeutické účely na základe osobitného informovaného súhlasu jednotlivcov, ktorí sú im vystavení, alebo prípadne ich zákonného zástupcu;
Pozmeňujúci návrh 216
Návrh nariadenia
Článok 5 – odsek 1 – písmeno b
b)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému umelej inteligencie, ktorý s cieľom podstatne narušiť správanie osoby patriacej do konkrétnej skupiny osôb využíva ktorúkoľvek zo zraniteľností tejto skupiny osôb vyplývajúcich z ich veku, fyzického alebo duševného postihnutia tak, že tejto alebo inej osobe spôsobí alebo by mohol spôsobiť fyzickú alebo psychickú ujmu;
 b)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému umelej inteligencie, ktorý využíva ktorúkoľvek zo zraniteľností osoby alebo konkrétnej skupiny osôb vrátane charakteristík známych alebo predpokladaných osobnostných čŕt alebo sociálnej alebo ekonomickej situácie takejto osoby alebo takejto skupiny, fyzickú alebo duševnú spôsobilosť s cieľom alebo účinkom podstatného narušenia správania tejto osoby alebo osoby patriacej do tejto skupiny spôsobom, ktorý tejto osobe alebo inej osobe spôsobí alebo pravdepodobne spôsobí značnú ujmu;
Pozmeňujúci návrh 217
Návrh nariadenia
Článok 5 – odsek 1 – písmeno b a (nové)
ba)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov biometrickej kategorizácie, ktoré kategorizujú fyzické osoby podľa citlivých alebo chránených charakteristických znakov alebo vlastností, alebo na základe odvodzovania týchto charakteristických znakov alebo vlastností. Tento zákaz sa nevzťahuje na systémy umelej inteligencie určené na použitie na schválené terapeutické účely na základe osobitného informovaného súhlasu jednotlivcov, ktorí sú im vystavení, alebo prípadne ich zákonného zástupcu.
Pozmeňujúci návrh 218
Návrh nariadenia
Článok 5 – odsek 1 – písmeno c – úvodná časť
c)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov umelej inteligencie orgánmi verejnej moci alebo v ich mene na účely hodnotenia alebo klasifikácie dôveryhodnosti fyzických osôb počas určitého obdobia na základe ich spoločenského správania alebo známych či predpokladaných osobných alebo osobnostných charakteristík, pričom takto získané sociálne skóre vedie k jednému alebo obidvom z týchto výsledkov:
 c)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov umelej inteligencie na účely sociálneho bodovania alebo klasifikácie fyzických osôb alebo skupín fyzických osôb počas určitého obdobia na základe ich spoločenského správania alebo známych, odvodených či predpokladaných osobných alebo osobnostných charakteristík, pričom takto získané sociálne skóre vedie k jednému alebo obidvom z týchto výsledkov:
Pozmeňujúci návrh 219
Návrh nariadenia
Článok 5 – odsek 1 – písmeno c – bod i
i)  škodlivé alebo nepriaznivé zaobchádzanie s určitými fyzickými osobami alebo celými skupinami fyzických osôb v sociálnych kontextoch, ktoré nesúvisia s kontextmi, v ktorých boli údaje pôvodne generované alebo zhromaždené;
 i)  (Netýka sa slovenskej verzie.)
Pozmeňujúci návrh 220
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d – úvodná časť
d)  používanie systémov diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva, pokiaľ takéto použitie nie je nevyhnutne a v nutnej miere potrebné na jeden z týchto cieľov:
 d)  používanie systémov diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch;
Pozmeňujúci návrh 221
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d – bod i
i)  cielené pátranie po konkrétnych potenciálnych obetiach trestných činov vrátane nezvestných detí;
 vypúšťa sa
Pozmeňujúci návrh 222
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d – bod ii
ii)  predchádzanie konkrétnemu, závažnému a bezprostrednému ohrozeniu života alebo fyzickej bezpečnosti fyzických osôb alebo teroristickému útoku;
 vypúšťa sa
Pozmeňujúci návrh 223
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d – bod iii
iii)  odhaľovanie, lokalizácia, identifikácia alebo stíhanie páchateľa trestného činu uvedeného v článku 2 ods. 2 rámcového rozhodnutia Rady 2002/584/SVV62, za ktorý možno podľa právnych predpisov dotknutého členského štátu v tomto členskom štáte uložiť trest odňatia slobody alebo ochranné opatrenie s hornou hranicou trestnej sadzby najmenej tri roky, alebo osoby podozrivej zo spáchania takéhoto trestného činu.
 vypúšťa sa
__________________
62 Rámcové rozhodnutie Rady 2002/584/SVV z 13. júna 2002 o európskom zatykači a postupoch odovzdávania osôb medzi členskými štátmi (Ú. v. ES L 190, 18.7.2002, s. 1).
Pozmeňujúci návrh 224
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d a (nové)
da)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému umelej inteligencie na posúdenie rizika fyzických osôb alebo skupín fyzických osôb s cieľom posúdiť riziko, že fyzická osoba spácha alebo opätovne spácha trestný čin, alebo na predpovedanie výskytu alebo opätovného výskytu skutočného alebo potenciálneho trestného činu alebo priestupku na základe profilovania fyzických osôb alebo na základe posúdenia osobnostných rysov a vlastností vrátane miesta pobytu osoby, alebo predchádzajúceho trestného správania fyzických osôb alebo skupín fyzických osôb;
Pozmeňujúci návrh 225
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d b (nové)
db)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov umelej inteligencie, ktoré vytvárajú alebo rozširujú databázy na rozpoznávanie tváre prostredníctvom necielenej extrakcie podôb tváre z internetu alebo zo záznamov CCTV;
Pozmeňujúci návrh 226
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d c (nové)
dc)  uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov umelej inteligencie na odvodzovanie emócií fyzickej osoby v oblastiach presadzovania práva, riadenia hraníc, na pracovisku a vo vzdelávacích inštitúciách;
Pozmeňujúci návrh 227
Návrh nariadenia
Článok 5 – odsek 1 – písmeno d d (nové)
dd)  uvádzanie do prevádzky alebo používanie systémov umelej inteligencie na analýzu záznamov z verejne prístupných priestorov prostredníctvom systémov následnej diaľkovej biometrickej identifikácie, pokiaľ nepodliehajú predchádzajúcemu povoleniu súdu v súlade s právom Únie a nie sú nevyhnutne potrebné na cielené vyhľadávanie spojené s konkrétnym závažným trestným činom vymedzeným v článku 83 ods. 1 ZFEÚ, ku ktorému už došlo, na účely presadzovania práva.
Pozmeňujúci návrh 228
Návrh nariadenia
Článok 5 – odsek 1 a (nový)
1a.  Týmto článkom nie sú dotknuté zákazy, ktoré sa uplatňujú v prípade, že praktika umelej inteligencie porušuje iné právne predpisy Únie vrátane acquis Únie v oblasti ochrany údajov, nediskriminácie, ochrany spotrebiteľa alebo hospodárskej súťaže;
Pozmeňujúci návrh 229
Návrh nariadenia
Článok 5 – odsek 2
2.  Pri používaní systémov diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva na dosiahnutie ktoréhokoľvek z cieľov uvedených v odseku 1 písm. d) sa musia zohľadniť tieto prvky:
 vypúšťa sa
a)  povaha situácie, ktorá viedla k možnému použitiu, najmä závažnosť, pravdepodobnosť a rozsah poškodenia spôsobeného v prípade nepoužitia systému;
b)  dôsledky použitia systému pre práva a slobody všetkých dotknutých osôb, najmä závažnosť, pravdepodobnosť a rozsah týchto dôsledkov.
Používanie systémov diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva na dosiahnutie ktoréhokoľvek z cieľov uvedených v odseku 1 písm. d) musí okrem toho byť v súlade s nevyhnutnými a primeranými zárukami a podmienkami týkajúcimi sa tohto používania, najmä pokiaľ ide o časové, geografické a osobné obmedzenia.
Pozmeňujúci návrh 230
Návrh nariadenia
Článok 5 – odsek 3
3.  Pokiaľ ide o odsek 1 písm. d) a odsek 2, podlieha každé jednotlivé použitie systému diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva predchádzajúcemu povoleniu udelenému súdnym orgánom alebo nezávislým správnym orgánom členského štátu, v ktorom sa má použitie uskutočniť, vydanému na základe odôvodnenej žiadosti a v súlade s podrobnými pravidlami vnútroštátneho práva uvedenými v odseku 4. V riadne odôvodnenej naliehavej situácii sa však použitie systému môže začať bez povolenia a o povolenie možno požiadať až počas používania alebo po ňom.
 vypúšťa sa
Príslušný súdny alebo správny orgán udelí povolenie len vtedy, ak sa na základe objektívnych dôkazov alebo jasných indícií, ktoré mu boli predložené, presvedčí, že použitie predmetného systému diaľkovej biometrickej identifikácie v reálnom čase je potrebné a primerané na dosiahnutie jedného z cieľov uvedených v odseku 1 písm. d), ako sa uvádza v žiadosti. Pri rozhodovaní o žiadosti príslušný súdny alebo správny orgán zohľadní prvky uvedené v odseku 2.
Pozmeňujúci návrh 231
Návrh nariadenia
Článok 5 – odsek 4
4.  Členský štát sa môže rozhodnúť, že na účely presadzovania práva v rámci obmedzení a za podmienok uvedených v odseku 1 písm. d) a odsekoch 2 a 3 stanoví možnosť úplne alebo čiastočne povoliť používanie systému diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch. Tento členský štát vo svojom vnútroštátnom práve stanoví potrebné podrobné pravidlá na podávanie žiadostí o povolenia uvedené v odseku 3, ich vydávanie a výkon, ako aj pre dohľad nad nimi. V týchto pravidlách sa takisto uvedie, v súvislosti s ktorým z cieľov uvedených v odseku 1 písm. d) a s ktorým z trestných činov uvedených v jeho bode iii) môžu byť príslušné orgány oprávnené používať tieto systémy na účely presadzovania práva.
 vypúšťa sa
Pozmeňujúci návrh 232
Návrh nariadenia
Článok 6 – odsek 1 – písmeno a
a)  systém umelej inteligencie je určený na používanie ako bezpečnostný komponent výrobku, na ktorý sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe II, alebo je sám osebe takýmto výrobkom;
 a)  systém umelej inteligencie je určený na používanie ako bezpečnostný komponent výrobku, na ktorý sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe II, alebo je systém umelej inteligencie sám osebe takýmto výrobkom;
Pozmeňujúci návrh 233
Návrh nariadenia
Článok 6 – odsek 1 – písmeno b
b)  výrobok, ktorého bezpečnostným komponentom je systém umelej inteligencie, alebo samotný systém umelej inteligencie ako výrobok sa musí podrobiť posúdeniu zhody treťou stranou s cieľom uviesť daný výrobok na trh alebo do prevádzky podľa harmonizačných právnych predpisov Únie uvedených v prílohe II.
 b)  výrobok, ktorého bezpečnostným komponentom podľa písmena a) je systém umelej inteligencie, alebo samotný systém umelej inteligencie ako výrobok sa musí podrobiť posúdeniu zhody treťou stranou v súvislosti s rizikami pre zdravie a bezpečnosť s cieľom uviesť daný výrobok na trh alebo do prevádzky podľa harmonizačných právnych predpisov Únie uvedených v prílohe II;
Pozmeňujúci návrh 234
Návrh nariadenia
Článok 6 – odsek 2
2.  Okrem vysokorizikových systémov umelej inteligencie uvedených v odseku 1 sa za vysokorizikové považujú aj systémy umelej inteligencie uvedené v prílohe III.
 2.  Okrem vysokorizikových systémov umelej inteligencie uvedených v odseku 1 sa za vysokorizikové považujú aj systémy umelej inteligencie patriace do jednej alebo viacerých kritických oblastí a prípadov použitia uvedené v prílohe III, ak predstavujú významné riziko poškodenia zdravia, bezpečnosti alebo základných práv fyzických osôb. Ak sa na systém umelej inteligencie vzťahuje bod príloha III bod 2, považuje sa za vysokorizikový, ak predstavuje významné riziko poškodenia životného prostredia.
Komisia šesť mesiacov pred nadobudnutím účinnosti tohto nariadenia po konzultácii s úradom pre umelú inteligenciu a príslušnými zainteresovanými stranami poskytne usmernenia, v ktorých jasne určí okolnosti, za ktorých by výstup systémov umelej inteligencie uvedený v prílohe III predstavoval významné riziko poškodenia zdravia, bezpečnosti alebo základných práv fyzických osôb, alebo prípady, v ktorých by nepredstavoval významné riziko.
Pozmeňujúci návrh 235
Návrh nariadenia
Článok 6 – odsek 2 a (nový)
2a.  Ak sa poskytovatelia, ktorí patria do jednej alebo viacerých kritických oblastí a prípadov použitia uvedených v prílohe III, domnievajú, že ich systém umelej inteligencie nepredstavuje významné riziko, ako sa opisuje v odseku 2, predložia vnútroštátnemu dozornému orgánu odôvodnené oznámenie o tom, že nepodliehajú požiadavkám hlavy III kapitoly 2 tohto nariadenia. Ak sa má systém umelej inteligencie používať v dvoch alebo viacerých členských štátoch, toto oznámenie sa adresuje úradu pre umelú inteligenciu. Bez toho, aby bol dotknutý článok 65, vnútroštátny dozorný orgán preskúma oznámenie a odpovie naň priamo alebo prostredníctvom úradu pre umelú inteligenciu do troch mesiacov, ak usúdi, že systém umelej inteligencie je nesprávne klasifikovaný.
Pozmeňujúci návrh 236
Návrh nariadenia
Článok 6 – odsek 2 a (nový)
2b.  Poskytovateľom, ktorí nesprávne klasifikujú svoj systém umelej inteligencie ako systém, na ktorý sa nevzťahujú požiadavky hlavy III kapitoly 2 tohto nariadenia, a uvádzajú ho na trh pred lehotou na vznesenie námietok vnútroštátnymi dozornými orgánmi, sa ukladajú pokuty podľa článku 71.
Pozmeňujúci návrh 237
Návrh nariadenia
Článok 6 – odsek 2 b (nový)
2c.  Vnútroštátne dozorné orgány predkladajú úradu pre umelú inteligenciu výročnú správu, v ktorej podrobne uvedú počet prijatých oznámení, súvisiace vysokorizikové oblasti a rozhodnutia prijaté v súvislosti s prijatými oznámeniami.
Pozmeňujúci návrh 238
Návrh nariadenia
Článok 7 – odsek 1 – úvodná časť
1.  Komisia je splnomocnená prijímať delegované akty v súlade s článkom 73 s cieľom aktualizovať zoznam v prílohe III doplnením vysokorizikových systémov umelej inteligencie, ak sú splnené obe tieto podmienky:
 1.  Komisia je splnomocnená prijímať delegované akty v súlade s článkom 73 s cieľom zmeniť prílohu III doplnením alebo úpravou oblastí alebo prípadov použitia vysokorizikových systémov umelej inteligencie, ak predstavujú významné riziko poškodenia zdravia a bezpečnosti alebo nepriaznivého vplyvu na základné práva, životné prostredie alebo demokraciu a právny štát a ak je toto riziko z hľadiska závažnosti a pravdepodobnosti výskytu rovnaké alebo väčšie ako riziko poškodenia alebo nepriaznivého vplyvu, ktorý predstavujú vysokorizikové systémy umelej inteligencie už uvedené v prílohe III.
Pozmeňujúci návrh 239
Návrh nariadenia
Článok 7 – odsek 1 – písmeno a
a)  systémy umelej inteligencie sú určené na používanie v ktorejkoľvek z oblastí uvedených v bodoch 1 až 8 prílohy III;
 vypúšťa sa
Pozmeňujúci návrh 240
Návrh nariadenia
Článok 7 – odsek 1 – písmeno b
b)  systémy umelej inteligencie predstavujú riziko poškodenia zdravia a bezpečnosti alebo riziko nepriaznivého vplyvu na základné práva, ktoré je vzhľadom na svoju závažnosť a pravdepodobnosť výskytu prinajmenšom rovnocenné riziku poškodenia alebo nepriaznivého vplyvu, ktoré predstavujú vysokorizikové systémy umelej inteligencie už uvedené v prílohe III.
 vypúšťa sa
Pozmeňujúci návrh 241
Návrh nariadenia
Článok 7 – odsek 1a (nový)
1a.  Komisia je takisto splnomocnená prijímať delegované akty v súlade s článkom 73 s cieľom odstrániť prípady používania vysokorizikových systémov umelej inteligencie zo zoznamu v prílohe III, ak už neplatia podmienky uvedené v odseku 1;
Pozmeňujúci návrh 242
Návrh nariadenia
Článok 7 – odsek 2 – úvodná časť
2.  Pri posudzovaní toho, či systém umelej inteligencie predstavuje na účely odseku 1 riziko poškodenia zdravia a bezpečnosti alebo riziko nepriaznivého vplyvu na základné práva, ktoré je prinajmenšom rovnocenné riziku poškodenia, ktoré predstavujú vysokorizikové systémy umelej inteligencie už uvedené v prílohe III, zohľadní Komisia tieto kritériá:
 2.  Pri posudzovaní systému umelej inteligencie na účely odseku 1 a odseku 1a Komisia zohľadňuje tieto kritériá:
Pozmeňujúci návrh 243
Návrh nariadenia
Článok 7 – odsek 2 – písmeno a a (nové)
aa)  všeobecné schopnosti a funkcie systému umelej inteligencie nezávisle od jeho účelu;
Pozmeňujúci návrh 244
Návrh nariadenia
Článok 7 – odsek 2 – písmeno b a (nové)
ba)  povahu a množstvo údajov spracúvaných a používaných systémom umelej inteligencie;
Pozmeňujúci návrh 245
Návrh nariadenia
Článok 7 – odsek 2 – písmeno b b (nové)
bb)  rozsah, v akom systém umelej inteligencie koná autonómne;
Pozmeňujúci návrh 246
Návrh nariadenia
Článok 7 – odsek 2 – písmeno c
c)  rozsah, v akom používanie systému umelej inteligencie už spôsobilo poškodenie zdravia a bezpečnosti alebo nepriaznivý vplyv na základné práva, alebo vyvolalo vážne obavy v súvislosti s naplnením takéhoto poškodenia alebo nepriaznivého vplyvu, preukázaný správami alebo zdokumentovanými tvrdeniami predloženými príslušným vnútroštátnym orgánom;
 c)  rozsah, v akom používanie systému umelej inteligencie už spôsobilo poškodenie zdravia a bezpečnosti, malo nepriaznivý vplyv na základné práva, životné prostredie, demokraciu a právny štát alebo vyvolalo vážne obavy v súvislosti s pravdepodobnosťou takéhoto poškodenia alebo nepriaznivého vplyvu, preukázaný správami alebo zdokumentovanými tvrdeniami predloženými vnútroštátnym dozorným orgánom, Komisii, úradu pre umelú inteligenciu, EDPS alebo Agentúre Európskej únie pre základné práva;
Pozmeňujúci návrh 247
Návrh nariadenia
Článok 7 – odsek 2 – písmeno d
d)  potenciálny rozsah takéhoto poškodenia alebo nepriaznivého vplyvu, najmä pokiaľ ide o jeho intenzitu a schopnosť zasiahnuť značný počet osôb;
 d)  potenciálny rozsah takéhoto poškodenia alebo nepriaznivého vplyvu, najmä pokiaľ ide o jeho intenzitu a schopnosť zasiahnuť značný počet osôb alebo neúmerne ovplyvniť konkrétnu skupinu osôb;
Pozmeňujúci návrh 248
Návrh nariadenia
Článok 7 – odsek 2 – písmeno e
e)  rozsah, v akom sú potenciálne poškodené alebo nepriaznivo ovplyvnené osoby závislé od výsledku vytvoreného systémom umelej inteligencie, najmä preto, že z praktických alebo právnych dôvodov nie je odôvodnene možné sa na tomto výsledku nepodieľať;
 e)  rozsah, v akom sú potenciálne poškodené alebo nepriaznivo ovplyvnené osoby závislé od výstupu vytvoreného pomocou systému umelej inteligencie, a tento výstup je čisto doplnkový vzhľadom na príslušné opatrenie alebo rozhodnutie, ktoré sa má prijať, najmä preto, že z praktických alebo právnych dôvodov nie je odôvodnene možné sa na tomto výstupe nepodieľať;
Pozmeňujúci návrh 249
Návrh nariadenia
Článok 7 – odsek 2 – písmeno e a (nové)
ea)  potenciálne nesprávne použitie a použitie systému umelej inteligencie a technológie, ktorá je jeho základom, so zlým úmyslom;
Pozmeňujúci návrh 250
Návrh nariadenia
Článok 7– odsek 2 – písmeno f
f)  rozsah, v akom sú potenciálne poškodené alebo nepriaznivo ovplyvnené osoby vo vzťahu k používateľovi systému umelej inteligencie v zraniteľnom postavení, najmä v dôsledku nerovnováhy moci, znalostí, hospodárskych alebo sociálnych okolností alebo veku;
 f)  rozsah, v akom existuje nerovnováha moci alebo sú potenciálne poškodené alebo nepriaznivo ovplyvnené osoby vo vzťahu k používateľovi systému umelej inteligencie v zraniteľnom postavení, najmä v dôsledku postavenia, autority, znalostí, hospodárskych alebo sociálnych okolností alebo veku;
Pozmeňujúci návrh 251
Návrh nariadenia
Článok 7 – odsek 2 – písmeno g
g)  rozsah, v akom sa výsledok vytvorený systémom umelej inteligencie dá ľahko zvrátiť, pričom výsledky, ktoré majú vplyv na zdravie alebo bezpečnosť osôb, sa nepovažujú za také, ktoré sa dajú ľahko zvrátiť;
 g)  rozsah, v akom sa výsledok vytvorený pomocou systému umelej inteligencie dá ľahko zvrátiť alebo napraviť, pričom výsledky, ktoré majú nepriaznivý vplyv na zdravie, bezpečnosť, základné práva osôb, životné prostredie alebo na demokraciu a právny štát sa nepovažujú za také, ktoré sa dajú ľahko zvrátiť;
Pozmeňujúci návrh 252
Návrh nariadenia
Článok 7 – odsek 2 – písmeno g a (nové)
ga)  rozsah dostupnosti a používania efektívnych technických riešení a mechanizmov na kontrolu, spoľahlivosť a opraviteľnosť systému umelej inteligencie;
Pozmeňujúci návrh 253
Návrh nariadenia
Článok 7 – odsek 2 – písmeno g b (nové)
gb)  rozsah a pravdepodobnosť prínosu zavedenia systému umelej inteligencie pre jednotlivcov, skupiny alebo spoločnosť ako celok vrátane možných zlepšení bezpečnosti výrobkov;
Pozmeňujúci návrh 254
Návrh nariadenia
Článok 7 – odsek 2 – písmeno g c (nové)
gc)  rozsah ľudského dohľadu a možnosť ľudského zásahu s cieľom zrušiť rozhodnutie alebo odporúčania, ktoré môžu viesť k potenciálnej ujme;
Pozmeňujúci návrh 255
Návrh nariadenia
Článok 7 – odsek 2 – písmeno h
i)  účinné nápravné opatrenia v súvislosti s rizikami, ktoré systém umelej inteligencie predstavuje, s výnimkou nárokov na náhradu škody;
 h)  rozsah, v akom sa v existujúcich právnych predpisoch Únie stanovujú:
i)   účinné nápravné opatrenia v súvislosti so škodami, ktoré spôsobil systém umelej inteligencie, s výnimkou nárokov na náhradu priamej alebo nepriamej škody;
ii)   účinné opatrenia na predchádzanie týmto rizikám alebo ich podstatnú minimalizáciu.
Pozmeňujúci návrh 256
Návrh nariadenia
Článok 7 – odsek 2 a (nový)
2a.  Pri posudzovaní systému umelej inteligencie na účely odsekov 1 alebo 1a Komisia konzultuje s úradom pre umelú inteligenciu a prípadne so zástupcami skupín, na ktoré má systém umelej inteligencie vplyv, s priemyslom, nezávislými odborníkmi, sociálnymi partnermi a organizáciami občianskej spoločnosti. Komisia v tejto súvislosti zorganizuje aj verejné konzultácie a výsledky týchto konzultácií a záverečného posúdenia zverejní;
Pozmeňujúci návrh 257
Návrh nariadenia
Článok 7 – odsek 2 b (nový)
2b.  Úrad pre umelú inteligenciu, vnútroštátne dozorné orgány alebo Európsky parlament môžu požiadať Komisiu, aby prehodnotila a prekvalifikovala kategorizáciu rizika systému umelej inteligencie v súlade s odsekmi 1 a 1a. Komisia uvedie dôvody svojho rozhodnutia a uverejní ich.
Pozmeňujúci návrh 258
Návrh nariadenia
Článok 8 – odsek 1 a (nový)
1a.  Pri plnení požiadavky stanovenej v tejto kapitole sa náležite zohľadňujú usmernenia vypracované podľa článku 82b, všeobecne uznávaný stav techniky vrátane toho, čo sa uvádza v príslušných harmonizovaných normách a spoločných špecifikáciách uvedených v článkoch 40 a 41, alebo tých, ktoré už sú stanovené v harmonizačných právnych predpisoch Únie.
Pozmeňujúci návrh 259
Návrh nariadenia
Článok 8 – odsek 2
2.  Pri zabezpečovaní súladu s týmito požiadavkami sa zohľadňuje zamýšľaný účel vysokorizikového systému umelej inteligencie a systém riadenia rizík uvedený v článku 9.
 2.  Pri zabezpečovaní súladu s týmito požiadavkami sa zohľadňuje zamýšľaný účel vysokorizikového systému umelej inteligencie, logicky predvídateľné nesprávne použitie a systém riadenia rizík uvedený v článku 9.
Pozmeňujúci návrh 260
Návrh nariadenia
Článok 8 – odsek 2 a (nový)
2a.  Pokiaľ sú požiadavky hlavy III kapitol 2 a 3 alebo hlavy VIII kapitol 1, 2 a 3 pre vysokorizikové systémy umelej inteligencie upravené v harmonizačných právnych predpisoch Únie uvedených v prílohe II oddiele A, požiadavky alebo povinnosti stanovené v uvedených kapitolách tohto nariadenia sa považujú za splnené, pokiaľ zahŕňajú komponent umelej inteligencie. Požiadavky hlavy III kapitol 2 a 3 alebo hlavy VIII kapitol 1, 2 a 3 pre vysokorizikové systémy umelej inteligencie, ktoré nie sú upravené v harmonizačných právnych predpisoch Únie uvedených v prílohe II oddiele A, sa v prípade potreby začlenia do uvedených harmonizačných právnych predpisov Únie. Príslušné posudzovanie zhody sa vykonáva ako súčasť postupov stanovených podľa harmonizačných právnych predpisov Únie uvedených v prílohe II oddiele A.
Pozmeňujúci návrh 261
Návrh nariadenia
Článok 9 – odsek 1
1.  V súvislosti s vysokorizikovými systémami umelej inteligencie sa zriadi, zavedie, zdokumentuje a udržiava systém riadenia rizík.
 1.  V súvislosti s vysokorizikovými systémami umelej inteligencie sa zriadi, zavedie, zdokumentuje a udržiava systém riadenia rizík, a to počas celého životného cyklu systému umelej inteligencie. Systém riadenia rizík možno začleniť do už existujúcich postupov riadenia rizík týkajúcich sa príslušných odvetvových právnych predpisov Únie alebo ich časti, pokiaľ spĺňa požiadavky tohto článku.
Pozmeňujúci návrh 262
Návrh nariadenia
Článok 9 – odsek 2 – úvodná časť
2.  Systém riadenia rizík sa chápe ako nepretržitý opakovaný proces počas celého životného cyklu vysokorizikového systému umelej inteligencie, ktorý si vyžaduje pravidelné systematické aktualizovanie. Zahŕňa tieto kroky:
 2.  Systém riadenia rizík sa chápe ako nepretržitý opakovaný proces počas celého životného cyklu vysokorizikového systému umelej inteligencie, ktorý si vyžaduje pravidelné preskúmanie a pravidelnú aktualizáciu procesu riadenia rizík s cieľom zabezpečiť jeho nepretržitú účinnosť a dokumentáciu všetkých prijatých významných rozhodnutí a opatrení prijatých podľa tohto článku. Zahŕňa tieto kroky:
Pozmeňujúci návrh 263
Návrh nariadenia
Článok 9 – odsek 2 – písmeno a
a)  identifikácia a analýza známych a predvídateľných rizík spojených s každým vysokorizikovým systémom umelej inteligencie;
 a)  identifikácia, odhad a hodnotenie známych a logicky predvídateľných rizík, ktoré môže vysokorizikový systém umelej inteligencie predstavovať pre zdravie alebo bezpečnosť fyzických osôb, ich základné práva vrátane rovnakého prístupu a príležitostí, demokraciu a právny štát alebo životné prostredie, keď sa vysokorizikový systém umelej inteligencie používa v súlade so zamýšľaným účelom a za podmienok logicky predvídateľného nesprávneho použitia;
Pozmeňujúci návrh 264
Návrh nariadenia
Článok 9 – odsek 2 – písmeno b
b)  odhad a hodnotenie rizík, ktoré môžu vzniknúť pri používaní vysokorizikového systému umelej inteligencie v súlade so zamýšľaným účelom a za podmienok logicky predvídateľného nesprávneho použitia;
 vypúšťa sa
Pozmeňujúci návrh 265
Návrh nariadenia
Článok 9 – odsek 2 – písmeno c
c)  hodnotenie ďalších možných vznikajúcich rizík na základe analýzy údajov získaných zo systému monitorovania po uvedení na trh uvedeného v článku 61;
 c)  hodnotenie nových významných rizík opísaných v písmene a) a zistených na základe analýzy údajov získaných zo systému monitorovania po uvedení na trh uvedeného v článku 61;
Pozmeňujúci návrh 266
Návrh nariadenia
Článok 9 – odsek 2 – písmeno d
d)  prijatie vhodných opatrení na riadenie rizík v súlade s ustanoveniami nasledujúcich odsekov.
 d)  prijatie primeraných a cielených opatrení na riadenie rizík, ktoré sú určené na riešenie rizík identifikovaných podľa písmen a) a b) tohto odseku v súlade s ustanoveniami nasledujúcich odsekov;
Pozmeňujúci návrh 267
Návrh nariadenia
Článok 9 – odsek 3
3.  V opatreniach na riadenie rizík uvedených v odseku 2 písm. d) sa náležite zohľadnia účinky a možné interakcie vyplývajúce z kombinovaného uplatňovania požiadaviek stanovených v tejto kapitole 2. Zohľadní sa v nich všeobecne uznávaný stav techniky, a to aj v súlade s príslušnými harmonizovanými normami alebo spoločnými špecifikáciami.
 3.  V opatreniach na riadenie rizík uvedených v odseku 2 písm. d) sa náležite zohľadnia účinky a možné interakcie vyplývajúce z kombinovaného uplatňovania požiadaviek stanovených v tejto kapitole 2, a to s cieľom účinne zmierniť riziká a súčasne zabezpečiť vhodné a primerané vykonávanie požiadaviek.
Pozmeňujúci návrh 268
Návrh nariadenia
Článok 9 – odsek 4 – úvodná časť
4.  Opatrenia na riadenie rizík uvedené v odseku 2 písm. d) musia byť také, aby sa zvyškové riziká spojené s jednotlivými nebezpečenstvami, ako aj celkové zvyškové riziko vysokorizikových systémov umelej inteligencie považovali za prijateľné za predpokladu, že vysokorizikový systém umelej inteligencie sa používa v súlade so zamýšľaným účelom alebo za podmienok logicky predvídateľného nesprávneho použitia. Tieto zvyškové riziká sa oznámia používateľovi.
 4.  Opatrenia na riadenie rizík uvedené v odseku 2 písm. d) musia byť také, aby sa relevantné zvyškové riziko spojené s jednotlivými nebezpečenstvami, ako aj celkové zvyškové riziko vysokorizikových systémov umelej inteligencie dôvodne považovali za prijateľné za predpokladu, že vysokorizikový systém umelej inteligencie sa používa v súlade so zamýšľaným účelom alebo za podmienok logicky predvídateľného nesprávneho použitia. Tieto zvyškové riziká a posudky s odôvodnením sa oznámia nasadzujúcemu subjektu.
Pri určovaní najvhodnejších opatrení na riadenie rizík sa zabezpečí:
Pozmeňujúci návrh 269
Návrh nariadenia
Článok 9 – odsek 4 – pododsek 1 – písmeno a
a)  čo najrozsiahlejšie odstránenie alebo obmedzenie rizík prostredníctvom primeranej koncepcie a primeraného vývoja;
 a)  odstránenie alebo zmiernenie identifikovaných rizík, pokiaľ je to technicky uskutočniteľné, primeranej koncepcie a primeraného vývoja vysoko rizikového systému umelej inteligencie, prípadne so zapojením odborníkov a externých zainteresovaných strán;
Pozmeňujúci návrh 270
Návrh nariadenia
Článok 9 – odsek 4 – pododsek 1 – písmeno b
b)  prípadné zavedenie primeraných zmierňujúcich a kontrolných opatrení v súvislosti s rizikami, ktoré nemožno odstrániť;
 b)  prípadné zavedenie primeraných zmierňujúcich a kontrolných opatrení na riešenie významných rizík, ktoré nemožno odstrániť;
Pozmeňujúci návrh 271
Návrh nariadenia
Článok 9 – odsek 4 – pododsek 1 – písmeno c
c)  poskytovanie primeraných informácií podľa článku 13, najmä pokiaľ ide o riziká uvedené v odseku 2 písm. b) tohto článku, a prípadne odborná príprava pre používateľov.
 c)  poskytovanie požadovaných informácií podľa článku 13, prípadne odborná príprava pre nasadzujúce subjekty.
Pozmeňujúci návrh 272
Návrh nariadenia
Článok 9 – odsek 4 – pododsek 2
Pri odstraňovaní alebo obmedzovaní rizík súvisiacich s používaním vysokorizikového systému umelej inteligencie sa náležite zohľadnia technické znalosti, skúsenosti, vzdelanie, odborná príprava, ktoré sa očakávajú od používateľa, ako aj prostredie, v ktorom sa má systém používať.
 Pri odstraňovaní alebo obmedzovaní rizík súvisiacich s používaním vysokorizikového systému umelej inteligencie poskytovatelia náležite zohľadnia technické znalosti, skúsenosti, vzdelanie a odbornú prípravu, ktoré môže nasadzujúci subjekt potrebovať, a to aj vo vzťahu k pravdepodobnému kontextu použitia.
Pozmeňujúci návrh 273
Návrh nariadenia
Článok 9 – odsek 5
5.  Na účely určenia najvhodnejších opatrení na riadenie rizík sa vysokorizikové systémy umelej inteligencie testujú. Testovaním sa zabezpečí, aby vysokorizikové systémy umelej inteligencie konzistentne fungovali v súlade so zamýšľaným účelom a spĺňali požiadavky stanovené v tejto kapitole.
 5.  Na účely určenia najvhodnejších a cielených opatrení na riadenie rizík a posúdenia všetkých takýchto opatrení vzhľadom na potenciálne prínosy a plánované ciele systému sa vysokorizikové systémy umelej inteligencie testujú. Testovaním sa zabezpečí, aby vysokorizikové systémy umelej inteligencie konzistentne fungovali v súlade so zamýšľaným účelom a spĺňali požiadavky stanovené v tejto kapitole.
Pozmeňujúci návrh 274
Návrh nariadenia
Článok 9 – odsek 6
6.  Postupy testovania musia byť vhodné na dosiahnutie zamýšľaného účelu systému umelej inteligencie a nemusia ísť nad rámec toho, čo je nevyhnutné na jeho dosiahnutie.
 6.  Postupy testovania musia byť vhodné na dosiahnutie zamýšľaného účelu systému umelej inteligencie.
Pozmeňujúci návrh 275
Návrh nariadenia
Článok 9 – odsek 7
7.  Testovanie vysokorizikových systémov umelej inteligencie sa vykonáva podľa potreby kedykoľvek počas celého procesu vývoja a v každom prípade pred uvedením na trh alebo do prevádzky. Testovanie sa vykonáva na základe vopred vymedzených metrík a pravdepodobnostných prahových hodnôt, ktoré sú primerané zamýšľanému účelu vysokorizikového systému umelej inteligencie.
 7.  Testovanie vysokorizikových systémov umelej inteligencie sa vykonáva pred uvedením na trh alebo do prevádzky. Testovanie sa vykonáva na základe vopred vymedzených metrík a pravdepodobnostných prahových hodnôt, ktoré sú primerané zamýšľanému účelu alebo logicky predvídateľnému nesprávnemu použitiu vysokorizikového systému umelej inteligencie.
Pozmeňujúci návrh 276
Návrh nariadenia
Článok 9 – odsek 8
8.  Pri zavádzaní systému riadenia rizík opísaného v odsekoch 1 až 7 sa osobitne zohľadní to, či je pravdepodobné, že k vysokorizikovým systémom umelej inteligencie budú mať prístup deti alebo že tieto systémy budú mať na deti vplyv.
 8.  Pri zavádzaní systému riadenia rizík opísaného v odsekoch 1 až 7 poskytovatelia osobitne zvážia, či je pravdepodobné, že vysokorizikový systém umelej inteligencie bude mať nepriaznivý vplyv na zraniteľné skupiny ľudí alebo deti.
Pozmeňujúci návrh 277
Návrh nariadenia
Článok 9 – odsek 9
9.  V prípade úverových inštitúcií regulovaných smernicou 2013/36/EÚ, musia byť aspekty opísané v odsekoch 1 až 8 súčasťou postupov riadenia rizík stanovených týmito inštitúciami podľa článku 74 uvedenej smernice.
 9.  V prípade poskytovateľov a systémov umelej inteligencie, na ktoré sa už vzťahuje právo Únie, ktoré od nich vyžaduje, aby zaviedli osobitné riadenie rizík, vrátane úverových inštitúcií regulovaných smernicou 2013/36/EÚ, sú aspekty opísané v odsekoch 1 až 8 súčasťou postupov pre riadenie rizík stanovených týmto právom Únie alebo sa s týmito postupmi kombinujú.
Pozmeňujúci návrh 278
Návrh nariadenia
Článok 10 – odsek 1
1.  Vysokorizikové systémy umelej inteligencie, ktoré využívajú techniky zahŕňajúce trénovanie modelov s údajmi, sa musia vyvíjať na základe súborov trénovacích, validačných a testovacích údajov, ktoré spĺňajú kritériá kvality uvedené v odsekoch 2 až 5.
 1.  Vysokorizikové systémy umelej inteligencie, ktoré využívajú techniky zahŕňajúce trénovanie modelov s údajmi, sa musia vyvíjať na základe súborov trénovacích, validačných a testovacích údajov, ktoré spĺňajú kritériá kvality uvedené v odsekoch 2 až 5, pokiaľ je to technicky uskutočniteľné podľa konkrétneho trhového segmentu alebo rozsahu uplatňovania.
Techniky, ktoré si nevyžadujú označené vstupné údaje, ako je učenie bez učiteľa a učenie sa posilňovaním, sa vyvíjajú na základe súborov údajov, ako je testovanie a overovanie, ktoré spĺňajú kritériá kvality uvedené v odsekoch 2 až 5.
Pozmeňujúci návrh 279
Návrh nariadenia
Článok 10 – odsek 2 – úvodná časť
2.  Pre súbory trénovacích, validačných a testovacích údajov musia platiť primerané postupy správy a riadenia údajov. Tieto postupy sa týkajú najmä:
 2.  Súbory trénovacích, validačných a testovacích údajov podliehajú správe údajov vhodnej z hľadiska kontextu použitia, ako aj zamýšľaného účelu systému umelej inteligencie. Tieto opatrenia sa týkajú najmä:
Pozmeňujúci návrh 280
Návrh nariadenia
Článok 10 – odsek 2 – písmeno a a (nové)
aa)  transparentnosti, pokiaľ ide o pôvodný účel zberu údajov;
Pozmeňujúci návrh 281
Návrh nariadenia
Článok 10 – odsek 2 – písmeno b
b)  zberu údajov;
 b)  procesov zberu údajov;
Pozmeňujúci návrh 282
Návrh nariadenia
Článok 10 – odsek 2 – písmeno c
c)  príslušných operácií prípravy údajov, ako je anotácia, označovanie, čistenie, obohacovanie a agregácia;
 c)  operácií prípravy údajov, ako je anotácia, označovanie, čistenie, aktualizácia, obohacovanie a agregácia;
Pozmeňujúci návrh 283
Návrh nariadenia
Článok 10 – odsek 2 – písmeno d
d)  formulovania relevantných predpokladov, najmä pokiaľ ide o informácie, ktoré majú údaje merať a reprezentovať;
 d)  formulovania predpokladov, najmä pokiaľ ide o informácie, ktoré majú údaje merať a reprezentovať;
Pozmeňujúci návrh 284
Návrh nariadenia
Článok 10 – odsek 2 – písmeno e
e)  predchádzajúceho posúdenia dostupnosti, množstva a vhodnosti potrebných súborov údajov;
 e)  posúdenia dostupnosti, množstva a vhodnosti potrebných súborov údajov;
Pozmeňujúci návrh 285
Návrh nariadenia
Článok 10– odsek 2 – písmeno f
f)  preskúmania z hľadiska možných skreslení;
 f)  preskúmania z hľadiska možných skreslení, ktoré pravdepodobne budú mať vplyv na zdravie a bezpečnosť osôb alebo budú viesť k diskriminácii zakázanej právom Únie, najmä ak výstupy údajov ovplyvňujú vstupy pre budúce operácie („slučky spätnej väzby“) a primerané opatrenia na odhaľovanie, prevenciu a zmierňovanie možných skreslení;
Pozmeňujúci návrh 286
Návrh nariadenia
Článok 10 – odsek 2 – písmeno f a (nové)
fa)  vhodných opatrení s cieľom zistiť a zmierniť možné skreslenia a predchádzať im;
Pozmeňujúci návrh 287
Návrh nariadenia
Článok 10 – odsek 2 – písmeno g
g)  identifikácie prípadných medzier alebo nedostatkov v údajoch a spôsobu, akým možno tieto medzery a nedostatky odstrániť.
 g)  identifikácie relevantných medzier alebo nedostatkov v údajoch, ktoré bránia súladu s týmto nariadením, a spôsobu, akým možno tieto medzery a nedostatky odstrániť;
Pozmeňujúci návrh 288
Návrh nariadenia
Článok 10 – odsek 3
3.  Súbory trénovacích, validačných a testovacích údajov musia byť relevantné, reprezentatívne, bezchybné a úplné. Musia mať primerané štatistické vlastnosti, a to prípadne aj pokiaľ ide o osoby alebo skupiny osôb, v prípade ktorých sa má vysokorizikový systém umelej inteligencie používať. Tieto charakteristiky súborov údajov sa môžu splniť na úrovni jednotlivých súborov údajov alebo ich kombinácie.
 3.  Súbory trénovacích údajov a, ak sa používajú, súbory validačných a testovacích údajov vrátane označení musia byť relevantné, dostatočne reprezentatívne, primerane preverené z hľadiska chýb a musia byť čo najúplnejšie vzhľadom na zamýšľaný účel. Musia mať primerané štatistické vlastnosti, a to prípadne aj pokiaľ ide o osoby alebo skupiny osôb, vo vzťahu ku ktorým sa má vysokorizikový systém umelej inteligencie používať. Tieto charakteristiky súborov údajov sa musia splniť na úrovni jednotlivých súborov údajov alebo ich kombinácie.
Pozmeňujúci návrh 289
Návrh nariadenia
Článok 10 – odsek 4
4.  Súbory trénovacích, validačných a testovacích údajov musia, pokiaľ si to vyžaduje zamýšľaný účel, zohľadňovať vlastnosti alebo prvky, ktoré sú špecifické pre konkrétne geografické, behaviorálne alebo funkčné podmienky, v ktorých sa má vysokorizikový systém umelej inteligencie používať.
 4.  Súbory údajov musia v rozsahu požadovanom na plánovaný účel alebo logicky predvídateľné nesprávne použitie systému umelej inteligencie zohľadňovať vlastnosti alebo prvky, ktoré sú špecifické pre konkrétne geografické, kontextuálne behaviorálne alebo funkčné podmienky, v ktorých sa má vysokorizikový systém umelej inteligencie používať.
Pozmeňujúci návrh 290
Návrh nariadenia
Článok 10 – odsek 5
5.  Pokiaľ je to nevyhnutne potrebné na účely zabezpečenia monitorovania, odhaľovania a nápravy skreslenia v súvislosti s vysokorizikovými systémami umelej inteligencie, poskytovatelia takýchto systémov môžu spracúvať osobitné kategórie osobných údajov uvedené v článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 smernice (EÚ) 2016/680 a článku 10 ods. 1 nariadenia (EÚ) 2018/1725, a to pod podmienkou primeraných záruk pre základné práva a slobody fyzických osôb, ku ktorým patria aj technické obmedzenia opätovného použitia a používanie najmodernejších opatrení v oblasti bezpečnosti a ochrany súkromia, ako je pseudonymizácia alebo šifrovanie v prípadoch, v ktorých anonymizácia môže významne ovplyvniť sledovaný účel.
 5.  Pokiaľ je to nevyhnutne potrebné na účely zabezpečenia monitorovania, odhaľovania a nápravy negatívneho skreslenia v súvislosti s vysokorizikovými systémami umelej inteligencie, poskytovatelia takýchto systémov môžu výnimočne spracúvať osobitné kategórie osobných údajov uvedené v článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 smernice (EÚ) 2016/680 a článku 10 ods. 1 nariadenia (EÚ) 2018/1725, a to pod podmienkou primeraných záruk pre základné práva a slobody fyzických osôb, ku ktorým patria aj technické obmedzenia opätovného použitia a používanie najmodernejších opatrení v oblasti bezpečnosti a ochrany súkromia. Na to, aby sa toto spracovanie uskutočnilo, musia platiť všetky tieto podmienky: a) odhalenie a nápravu skreslenia nemožno účinne dosiahnuť spracovaním syntetických alebo anonymizovaných údajov;
b)  údaje sú pseudonymizované;
c)  poskytovateľ prijme primerané technické a organizačné opatrenia na zabezpečenie toho, aby údaje spracúvané na účely tohto odseku boli zabezpečené, chránené, podliehali vhodným zárukám a aby prístup k týmto údajom mali len oprávnené osoby s primeranými povinnosťami zachovávania dôvernosti;
d)  údaje spracúvané na účely tohto odseku sa nesmú odovzdávať, prenášať ani inak sprístupňovať iným stranám;
e)  údaje spracúvané na účely tohto odseku sú chránené primeranými technickými a organizačnými opatreniami a po napravení skreslenia alebo po skončení obdobia uchovávania osobných údajov sa vymažú;
f)  sú zavedené účinné a vhodné opatrenia na zabezpečenie dostupnosti, bezpečnosti a odolnosti systémov a služieb spracovania údajov proti technickým alebo fyzickým incidentom;
g)  sú zavedené účinné a vhodné opatrenia na zaistenie fyzickej bezpečnosti miest, kde sa údaje uchovávajú a spracúvajú, vnútornej správy a riadenia IT a bezpečnosti IT, certifikácie procesov a výrobkov.
Poskytovatelia, ktorí využijú toto ustanovenie, vypracujú dokumentáciu, v ktorej vysvetlia, prečo bolo spracúvanie osobitných kategórií osobných údajov potrebné na odhalenie a nápravu skreslenia.
Pozmeňujúci návrh 291
Návrh nariadenia
Článok 10 – odsek 6 a (nový)
6a.  Ak poskytovateľ nemôže splniť povinnosti stanovené v tomto článku, pretože nemá prístup k údajom a údaje uchováva výlučne nasadzujúci subjekt, môže byť nasadzujúci subjekt na základe zmluvy zodpovedný za akékoľvek porušenie tohto článku.
Pozmeňujúci návrh 292
Návrh nariadenia
Článok 11 – odsek 1 – pododsek 1
Technická dokumentácia sa vypracuje tak, aby sa v nej preukazovalo, že vysokorizikový systém umelej inteligencie spĺňa požiadavky stanovené v tejto kapitole, a aby sa príslušným vnútroštátnym orgánom a notifikovaným osobám poskytli všetky informácie potrebné na posúdenie súladu systému umelej inteligencie s uvedenými požiadavkami. Musí obsahovať aspoň prvky stanovené v prílohe IV.
 Technická dokumentácia sa vypracuje tak, aby sa v nej preukazovalo, že vysokorizikový systém umelej inteligencie spĺňa požiadavky stanovené v tejto kapitole, a aby sa vnútroštátnym dozorným orgánom a notifikovaným osobám poskytli informácie potrebné na posúdenie súladu systému umelej inteligencie s uvedenými požiadavkami. Musí obsahovať aspoň prvky stanovené v prílohe IV alebo v prípade MSP a startupov akúkoľvek rovnocennú dokumentáciu, ktorá spĺňa rovnaké ciele, za predpokladu schválenia príslušným vnútroštátnym orgánom.
Pozmeňujúci návrh 293
Návrh nariadenia
Článok 11 – odsek 2
2.  Ak sa na trh alebo do prevádzky uvádza vysokorizikový systém umelej inteligencie súvisiaci s výrobkom, na ktorý sa vzťahujú právne akty uvedené v oddiele A prílohy II, vypracuje sa jediná technická dokumentácia obsahujúca všetky informácie stanovené v prílohe IV, ako aj informácie požadované podľa uvedených právnych aktov.
 2.  Ak sa na trh alebo do prevádzky uvádza vysokorizikový systém umelej inteligencie súvisiaci s výrobkom, na ktorý sa vzťahujú právne akty uvedené v prílohe II oddiele A, vypracuje sa jediná technická dokumentácia obsahujúca všetky informácie stanovené v odseku 1, ako aj informácie požadované podľa uvedených právnych aktov.
Pozmeňujúci návrh 294
Návrh nariadenia
Článok 11 – odsek 3 a (nový)
3a  . Poskytovatelia, ktorí sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, vedú technickú dokumentáciu ako súčasť dokumentácie týkajúcej sa opatrení, postupov a mechanizmov vnútorného riadenia podľa článku 74 uvedenej smernice.
Pozmeňujúci návrh 295
Návrh nariadenia
Článok 12 – odsek 1
1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté tak, aby boli počas svojej prevádzky schopné automaticky zaznamenávať udalosti („logy“). Tieto schopnosti logovania musia byť v súlade s uznávanými normami alebo spoločnými špecifikáciami.
 1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté tak, aby boli počas svojej prevádzky schopné automaticky zaznamenávať udalosti („logy“). Tieto schopnosti logovania musia byť v súlade so stavom techniky a s uznávanými normami alebo spoločnými špecifikáciami.
Pozmeňujúci návrh 296
Návrh nariadenia
Článok 12 – odsek 2
2.  Schopnosťami logovania sa počas celého životného cyklu systému umelej inteligencie zabezpečí úroveň vysledovateľnosti jeho fungovania, ktorá je primeraná zamýšľanému účelu systému.
 2.  S cieľom zabezpečiť úroveň vysledovateľnosti fungovania systému umelej inteligencie počas celého jeho životného cyklu, ktorá je primeraná plánovanému účelu systému, schopnosti logovania uľahčujú monitorovanie operácií, ako sa uvádza v článku 29 ods. 4, ako aj monitorovanie po uvedení na trh uvedené v článku 61. Umožňujú najmä zaznamenávanie udalostí relevantných pre identifikáciu situácií, ktoré môžu:
a)  viesť k tomu, že systém umelej inteligencie predstavuje riziko v zmysle článku 65 ods. ods. 1; alebo
b)  viesť k podstatnej zmene systému umelej inteligencie.
Pozmeňujúci návrh 297
Návrh nariadenia
Článok 12 – odsek 2 a (nový)
2a.  Vysokorizikové systémy umelej inteligencie musia byť navrhnuté a vyvinuté tak, aby schopnosti logovania umožňovali zaznamenávanie spotreby energie, meranie alebo výpočet využívania zdrojov a vplyvu vysokorizikového systému umelej inteligencie na životné prostredie počas všetkých fáz životného cyklu systému.
Pozmeňujúci návrh 298
Návrh nariadenia
Článok 12 – odsek 3
3.  Schopnosti logovania musia predovšetkým umožňovať monitorovanie prevádzky vysokorizikového systému umelej inteligencie, pokiaľ ide o výskyt situácií, ktoré môžu viesť k tomu, že systém umelej inteligencie bude predstavovať riziko v zmysle článku 65 ods. 1, alebo môžu spôsobiť podstatnú zmenu, a uľahčovať monitorovanie po uvedení na trh podľa článku 61.
 vypúšťa sa
Pozmeňujúci návrh 299
Návrh nariadenia
Článok 13 – nadpis
Transparentnosť a poskytovanie informácií používateľom
 Transparentnosť a poskytovanie informácií
Pozmeňujúci návrh 300
Návrh nariadenia
Článok 13 – odsek 1
1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté tak, aby sa zabezpečilo, že ich prevádzka je dostatočne transparentná na to, aby používateľom umožnila interpretovať výstupy systému a vhodne ich používať. Musí sa zabezpečiť primeraný druh a stupeň transparentnosti, aby používatelia a poskytovatelia mohli dodržiavať príslušné povinnosti stanovené v kapitole 3 tejto hlavy.
 1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté tak, aby sa zabezpečilo, že ich prevádzka je dostatočne transparentná na to, aby poskytovateľom a používateľom umožnila primerane pochopiť fungovanie systému. Musí sa zabezpečiť primeraná transparentnosť v súlade so zamýšľaným účelom systému umelej inteligencie, aby poskytovatelia a používatelia mohli dodržiavať príslušné povinnosti stanovené v kapitole 3 tejto hlavy.
Transparentnosť teda znamená, že v čase uvedenia vysokorizikového systému umelej inteligencie na trh sa používajú všetky dostupné technické prostriedky v súlade so všeobecne uznávaným najnovším stavom techniky s cieľom zabezpečiť, aby poskytovatelia a používatelia mohli interpretovať výstupy systému umelej inteligencie. Používateľ musí mať možnosť primerane pochopiť a používať systém umelej inteligencie tým, že vo všeobecnosti pozná, ako systém umelej inteligencie funguje a aké údaje spracúva, čo používateľovi umožní vysvetliť rozhodnutia prijaté systémom umelej inteligencie dotknutej osobe podľa článku 68 písm. c).
Pozmeňujúci návrh 301
Návrh nariadenia
Článok 13 – odsek 2
2.  K vysokorizikovým systémom umelej inteligencie musí byť vo vhodnom digitálnom formáte alebo inak priložený návod na použitie obsahujúci stručné, úplné, správne a jasné informácie, ktoré sú pre používateľov relevantné, prístupné a zrozumiteľné.
 2.  K vysokorizikovým systémom umelej inteligencie musí byť vo vhodnom digitálnom formáte alebo inak priložený zrozumiteľný návod na použitie dostupný na trvalom médiu a obsahujúci stručné, správne, jasné a čo možno najúplnejšie informácie, ktoré používateľom pomáhajú pri prevádzke a údržbe systému umelej inteligencie a podporujú ich pri prijímaní informovaných rozhodnutí a ktoré sú pre používateľov relevantné, prístupné a zrozumiteľné.
Pozmeňujúci návrh 302
Návrh nariadenia
Článok 13 – odsek 3 – úvodná časť
3.  V informáciách podľa odseku 2 sa uvádzajú:
 3.  V záujme dosiahnutia výsledkov uvedených v odseku 1 sa v informáciách podľa odseku 2 uvádzajú:
Pozmeňujúci návrh 303
Návrh nariadenia
Článok 13 – odsek 3 – písmeno a
a)  totožnosť a kontaktné údaje prevádzkovateľa a v príslušných prípadoch jeho splnomocneného zástupcu;
 a)  totožnosť a kontaktné údaje prevádzkovateľa a v príslušných prípadoch jeho splnomocnených zástupcov;
Pozmeňujúci návrh 304
Návrh nariadenia
Článok 13 – odsek 3 – písmeno a a (nové)
aa)  ak nie je totožný s poskytovateľom, totožnosť a kontaktné údaje subjektu, ktorý vykonal posudzovanie zhody, a prípadne jeho splnomocneného zástupcu;
Pozmeňujúci návrh 305
Návrh nariadenia
Článok 13 – odsek 3 – písmeno b – úvodná časť
b)  charakteristiky, schopnosti a obmedzenia výkonnosti vysokorizikového systému umelej inteligencie vrátane:
 b)  charakteristiky, schopnosti a obmedzenia výkonnosti vysokorizikového systému umelej inteligencie vrátane prípadne:
Pozmeňujúci návrh 306
Návrh nariadenia
Článok 13 – odsek 3 – písmeno b – bod ii
ii)  úrovne presnosti, spoľahlivosti a kybernetickej bezpečnosti podľa článku 15, na základe ktorej bol vysokorizikový systém umelej inteligencie testovaný a validovaný a ktorú možno očakávať, ako aj všetky známe a predvídateľné okolnosti, ktoré môžu mať vplyv na túto očakávanú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti;
 ii)  úrovne presnosti, spoľahlivosti a kybernetickej bezpečnosti podľa článku 15, na základe ktorej bol vysokorizikový systém umelej inteligencie testovaný a validovaný a ktorú možno očakávať, ako aj všetky jednoznačne známe a predvídateľné okolnosti, ktoré môžu mať vplyv na túto očakávanú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti;
Pozmeňujúci návrh 307
Návrh nariadenia
Článok 13 – odsek 3 – písmeno b – bod iii
iii)  všetkých známych alebo predvídateľných okolností súvisiacich s používaním vysokorizikového systému umelej inteligencie v súlade s jeho zamýšľaným účelom alebo za podmienok logicky predvídateľného nesprávneho použitia, ktoré môžu viesť k rizikám pre zdravie a bezpečnosť alebo pre základné práva;
 iii)  všetkých jednoznačne známych alebo predvídateľných okolností súvisiacich s používaním vysokorizikového systému umelej inteligencie v súlade s jeho zamýšľaným účelom alebo za podmienok logicky predvídateľného nesprávneho použitia, ktoré môžu viesť k rizikám pre zdravie a bezpečnosť, pre základné práva alebo životné prostredie vrátane prípadných názorných príkladov takýchto obmedzení a scenárov, v prípade ktorých by sa systém nemal používať;
Pozmeňujúci návrh 308
Návrh nariadenia
Článok 13 – odsek 3 – písmeno b – bod iii a (nový)
iiia)  miera, do akej môže systém umelej inteligencie poskytnúť vysvetlenie rozhodnutí, ktoré prijíma;
Pozmeňujúci návrh 309
Návrh nariadenia
Článok 13 – odsek 3 – písmeno b – bod v
v)  prípadne špecifikácií vstupných údajov alebo akýchkoľvek iných relevantných informácií z hľadiska použitých súborov trénovacích, validačných a testovacích údajov, pričom sa zohľadní zamýšľaný účel systému umelej inteligencie;
 v)  relevantné informácie o činnostiach používateľov, ktoré môžu ovplyvniť výkonnosť systému, vrátane typu alebo kvality vstupných údajov, alebo akékoľvek iné relevantné informácie, pokiaľ ide o použité súbory tréningových, validačných a testovacích údajov, pričom sa zohľadní zamýšľaný účel systému umelej inteligencie.
Pozmeňujúci návrh 310
Návrh nariadenia
Článok 13 – odsek 3 – písmeno e
e)  očakávaná životnosť vysokorizikového systému umelej inteligencie a všetky potrebné opatrenia na údržbu a starostlivosť, ktorými sa má zabezpečiť riadne fungovanie tohto systému umelej inteligencie, a to aj pokiaľ ide o aktualizácie softvéru.
 e)  všetky potrebné opatrenia na údržbu a starostlivosť, ktorými sa má zabezpečiť riadne fungovanie tohto systému umelej inteligencie, a to aj pokiaľ ide o aktualizácie softvéru počas jeho očakávanej životnosti.
Pozmeňujúci návrh 311
Návrh nariadenia
Článok 13 – odsek 3 – písmeno e a (nové)
ea)  opis mechanizmov zahrnutých do systému umelej inteligencie, ktoré umožňujú používateľom riadne zhromažďovať, uchovávať a interpretovať logy v súlade s článkom 12 ods. 1.
Pozmeňujúci návrh 312
Návrh nariadenia
Článok 13 – odsek 3 – písmeno e b (nové)
eb)  informácie sa poskytnú aspoň v jazyku krajiny, v ktorej sa systém umelej inteligencie používa.
Pozmeňujúci návrh 313
Návrh nariadenia
Článok 13 – odsek 3 a (nový)
3a  . Na splnenie povinností stanovených v tomto článku poskytovatelia a používatelia zabezpečia dostatočnú úroveň gramotnosti v oblasti umelej inteligencie v súlade s článkom 4b.
Pozmeňujúci návrh 314
Návrh nariadenia
Článok 14 – odsek 1
1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté tak, aby nad nimi počas obdobia používania systému umelej inteligencie mohli fyzické osoby vykonávať účinný dohľad, a to aj pomocou vhodných nástrojov rozhrania človek – stroj.
 1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté tak, aby nad nimi fyzické osoby vykonávali účinný dohľad, a to aj pomocou vhodných nástrojov rozhrania človek – stroj a podľa potreby vzhľadom na riziká spojené s týmito systémami. Fyzické osoby zodpovedné za zabezpečenie ľudského dohľadu musia mať dostatočnú úroveň gramotnosti v oblasti umelej inteligencie v súlade s článkom 4b a potrebnú podporu a právomoc vykonávať túto funkciu počas obdobia používania systému umelej inteligencie a umožniť dôkladné vyšetrovanie po incidente.
Pozmeňujúci návrh 315
Návrh nariadenia
Článok 14 – odsek 2
2.  Ľudský dohľad sa zameriava na prevenciu alebo minimalizáciu rizík pre zdravie, bezpečnosť alebo základné práva, ktoré môžu vzniknúť pri používaní vysokorizikového systému umelej inteligencie v súlade so zamýšľaným účelom alebo za podmienok logicky predvídateľného nesprávneho použitia, najmä ak takéto riziká bez ohľadu na uplatňovanie iných požiadaviek stanovených v tejto kapitole pretrvávajú.
 2.  Ľudský dohľad sa zameriava na prevenciu alebo minimalizáciu rizík pre zdravie, bezpečnosť, základné práva alebo životné prostredie, ktoré môžu vzniknúť pri používaní vysokorizikového systému umelej inteligencie v súlade so zamýšľaným účelom alebo za podmienok logicky predvídateľného nesprávneho použitia, najmä ak takéto riziká bez ohľadu na uplatňovanie iných požiadaviek stanovených v tejto kapitole pretrvávajú a ak rozhodnutia založené výlučne na automatickom spracovávaní systémami umelej inteligencie majú právne alebo inak významné vplyvy na osoby alebo skupiny osôb, u ktorých sa systém má používať.
Pozmeňujúci návrh 316
Návrh nariadenia
Článok 14 – odsek 3 – úvodná časť
3.  Ľudský dohľad sa zabezpečuje jedným alebo všetkými týmito opatreniami:
 3.  Ľudský dohľad zohľadní konkrétne riziká, úroveň automatizácie a kontext systému umelej inteligencie a zabezpečuje sa jedným alebo všetkými týmito druhmi opatrení:
Pozmeňujúci návrh 317
Návrh nariadenia
Článok 14 – odsek 4 – úvodná časť
4.  Opatrenia uvedené v odseku 3 musia osobám, ktorým je zverený ľudský dohľad, umožniť, aby podľa okolností:
 4.  Na účely vykonávania odsekov 1 až 3 sa vysokorizikový systém umelej inteligencie poskytuje používateľovi takým spôsobom, aby fyzickým osobám, ktorým je zverený ľudský dohľad, umožňoval podľa potreby a primerane okolnostiam:
Pozmeňujúci návrh 318
Návrh nariadenia
Článok 14 – odsek 4 – písmeno a
a)  plne pochopili kapacity a obmedzenia vysokorizikového systému umelej inteligencie a boli schopné riadne monitorovať jeho prevádzku tak, aby bolo možné čo najskôr odhaliť a odstrániť príznaky anomálií, porúch a neočakávaného správania systému;
 a)  boli informované o príslušných kapacitách a obmedzeniach vysokorizikového systému umelej inteligencie, dostatočne im rozumeli a boli schopné riadne monitorovať jeho prevádzku tak, aby bolo možné čo najskôr odhaliť a odstrániť príznaky anomálií, porúch a neočakávaného správania systému;
Pozmeňujúci návrh 319
Návrh nariadenia
Článok 14 – odsek 4 – písmeno e
e)  boli schopné zasiahnuť do prevádzky vysokorizikového systému umelej inteligencie alebo ho prerušiť tlačidlom zastavenia alebo podobným postupom.
 e)  boli schopné zasiahnuť do prevádzky vysokorizikového systému umelej inteligencie alebo ho prerušiť tlačidlom zastavenia alebo podobným postupom, ktorý umožňuje zastaviť systém v bezpečnom stave, okrem prípadov, keď by ľudský zásah zvyšoval riziká alebo by mal negatívny vplyv na výkonnosť s ohľadom na všeobecne uznávaný aktuálny stav vývoja.
Pozmeňujúci návrh 320
Návrh nariadenia
Článok 14 – odsek 5
5.  V prípade vysokorizikových systémov umelej inteligencie uvedených v bode 1 písm. a) prílohy III musia byť opatrenia podľa odseku 3 také, aby sa navyše zabezpečilo, že používateľ na základe identifikácie vyplývajúcej zo systému neprijme žiadne kroky ani rozhodnutie, pokiaľ tento výsledok nebol overený a potvrdený aspoň dvoma fyzickými osobami.
 5.  V prípade vysokorizikových systémov umelej inteligencie uvedených v bode 1 písm. a) prílohy III musia byť opatrenia podľa odseku 3 také, aby sa navyše zabezpečilo, že používateľ na základe identifikácie vyplývajúcej zo systému neprijme žiadne kroky ani rozhodnutie, pokiaľ tento výsledok nebol overený a potvrdený aspoň dvoma fyzickými osobami s potrebnou spôsobilosťou, odbornou prípravou a právomocou.
Pozmeňujúci návrh 321
Návrh nariadenia
Článok 15 – odsek 1
1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté tak, aby vzhľadom na svoj zamýšľaný účel dosahovali primeranú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti a aby v týchto ohľadoch konzistentne fungovali počas celého svojho životného cyklu.
 1.  Vysokorizikové systémy umelej inteligencie musia byť koncipované a vyvinuté podľa zásady bezpečnosti už v štádiu koncepcie a štandardne. Vzhľadom na svoj zamýšľaný účel by mali dosiahnuť primeranú úroveň presnosti, spoľahlivosti, bezpečnosti a kybernetickej bezpečnosti a v týchto ohľadoch by mali fungovať konzistentne počas celého svojho životného cyklu. Dodržiavanie týchto požiadaviek zahŕňa vykonávanie najmodernejších opatrení podľa konkrétneho trhového segmentu alebo rozsahu uplatňovania.
Pozmeňujúci návrh 322
Návrh nariadenia
Článok 15 – odsek 1 a (nový)
1a.  S cieľom riešiť technické aspekty toho, ako merať primerané úrovne presnosti a spoľahlivosti stanovené v tomto článku odseku 1, úrad pre umelú inteligenciu združí vnútroštátne a medzinárodné orgány v oblasti metrológie a referenčného porovnávania a poskytne nezáväzné usmernenia v tejto otázke, ako sa uvádza v článku 56 ods. 2 písm. a).
Pozmeňujúci návrh 323
Návrh nariadenia
Článok 15 – odsek 1 b (nový)
1b.  Do riešenia nových problémov na vnútornom trhu týkajúcich sa kybernetickej bezpečnosti sa zapojí Európska rada pre umelú inteligenciu spolu s Agentúrou Európskej únie pre kybernetickú bezpečnosť (ENISA), ako je stanovené v článku 56 ods. 2 písm. b).
Pozmeňujúci návrh 324
Návrh nariadenia
Článok 15 – odsek 2
2.  Úrovne presnosti a príslušné metriky na meranie presnosti vysokorizikových systémov umelej inteligencie sa musia uvádzať v priloženom návode na použitie.
 2.  Úrovne presnosti a príslušné metriky na meranie presnosti vysokorizikových systémov umelej inteligencie sa musia uvádzať v priloženom návode na použitie. Použitý jazyk musí byť jednoznačný, bez nedorozumení či zavádzajúcich vyhlásení.
Pozmeňujúci návrh 325
Návrh nariadenia
Článok 15 – odsek 3 – pododsek 1
Vysokorizikové systémy umelej inteligencie musia byť odolné voči chybám, poruchám alebo nezrovnalostiam, ktoré sa môžu vyskytnúť v rámci systému alebo prostredia, v ktorom sa systém prevádzkuje, a to najmä z dôvodu ich interakcie s fyzickými osobami alebo inými systémami.
 Prijmú sa technické a organizačné opatrenia s cieľom zabezpečiť, aby vysokorizikové systémy umelej inteligencie boli čo najodolnejšie voči chybám, poruchám alebo nezrovnalostiam, ktoré sa môžu vyskytnúť v rámci systému alebo prostredia, v ktorom sa systém prevádzkuje, a to najmä z dôvodu ich interakcie s fyzickými osobami alebo inými systémami.
Pozmeňujúci návrh 326
Návrh nariadenia
Článok 15 – odsek 3 – pododsek 2
Spoľahlivosť vysokorizikových systémov umelej inteligencie možno dosiahnuť technickými riešeniami na vytvorenie redundancie, ktoré môžu zahŕňať plány zálohovania alebo zaistenia v prípade zlyhania.
 Spoľahlivosť vysokorizikových systémov umelej inteligencie môže dosiahnuť príslušný poskytovateľ, prípadne za prispenia používateľa, technickými riešeniami na vytvorenie redundancie, ktoré môžu zahŕňať plány zálohovania alebo zaistenia v prípade zlyhania.
Pozmeňujúci návrh 327
Návrh nariadenia
Článok 15 – odsek 3 – pododsek 3
Vysokorizikové systémy umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia, sa musia vyvíjať tak, aby sa zabezpečilo, že prípadné skreslené výstupy v dôsledku výstupov používaných ako vstup pre budúce operácie („slučky spätnej väzby“) budú náležite riešené vhodnými zmierňujúcimi opatreniami.
 Vysokorizikové systémy umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia, sa musia vyvíjať tak, aby sa zabezpečilo, že prípadné skreslené výstupy s vplyvom na vstup pre budúce operácie („slučky spätnej väzby“) a manipulácia vstupov používaných pri učení počas prevádzky so zlým úmyslom budú náležite riešené vhodnými zmierňujúcimi opatreniami.
Pozmeňujúci návrh 328
Návrh nariadenia
Článok 15 – odsek 4 – pododsek 1
Vysokorizikové systémy umelej inteligencie musia byť odolné voči pokusom neoprávnených tretích strán o zmenu ich používania alebo výkonnosti využívaním zraniteľností systému.
 Vysokorizikové systémy umelej inteligencie musia byť odolné voči pokusom neoprávnených tretích strán o zmenu ich používania, správania, výstupov alebo výkonnosti využívaním zraniteľností systému.
Pozmeňujúci návrh 329
Návrh nariadenia
Článok 15 – odsek 4 – pododsek 3
Technické riešenia na riešenie zraniteľností špecifických pre umelú inteligenciu musia v prípade potreby zahŕňať opatrenia na prevenciu a kontrolu útokov, ktoré sa pokúšajú manipulovať súbor trénovacích údajov („otrávenie údajov“), vstupov upravených tak, aby model urobil chybu („odporujúce si príklady“), alebo nedostatkov modelu.
 Technické riešenia na riešenie zraniteľností špecifických pre umelú inteligenciu musia v prípade potreby zahŕňať opatrenia na prevenciu, odhaľovanie, reakciu, riešenie a kontrolu útokov, ktoré sa pokúšajú manipulovať súbor trénovacích údajov („otrávenie údajov“) alebo vopred trénovaných komponentov používaných pri tréningu („otrávenie modelov“), vstupov upravených tak, aby model urobil chybu („odporujúce si príklady“ alebo „vyhýbanie sa modelom“), útokov na dôvernosť alebo nedostatkov modelu, ktoré by mohli viesť k škodlivému rozhodovaniu.
Pozmeňujúci návrh 330
Návrh nariadenia
Hlava III – kapitola 3 – názov
POVINNOSTI POSKYTOVATEĽOV A POUŽÍVATEĽOV VYSOKORIZIKOVÝCH SYSTÉMOV UMELEJ INTELIGENCIE a iných strán
 POVINNOSTI POSKYTOVATEĽOV A NASADZUJÚCICH SUBJEKTOV VYSOKORIZIKOVÝCH SYSTÉMOV UMELEJ INTELIGENCIE A INÝCH STRÁN
Pozmeňujúci návrh 331
Návrh nariadenia
Článok 16 – nadpis
Povinnosti poskytovateľov vysokorizikových systémov umelej inteligencie
 Povinnosti poskytovateľov a nasadzujúcich subjektov vysokorizikových systémov umelej inteligencie a iných strán
Pozmeňujúci návrh 332
Návrh nariadenia
Článok 16 – odsek 1 – písmeno a
a)  zabezpečiť, aby ich vysokorizikové systémy umelej inteligencie boli v súlade s požiadavkami stanovenými v kapitole 2 tejto hlavy;
 a)  zabezpečiť, aby ich vysokorizikové systémy umelej inteligencie boli v súlade s požiadavkami stanovenými v kapitole 2 tejto hlavy predtým, ako ich uvedú na trh alebo do prevádzky;
Pozmeňujúci návrh 333
Návrh nariadenia
Článok 16 – odsek 1 – písmeno a a (nové)
aa)  na vysokorizikovom systéme umelej inteligencie, alebo ak to nie je možné, na jeho obale, prípadne v jeho sprievodnej dokumentácii uviesť svoje meno, registrované obchodné meno alebo registrovanú ochrannú známku a svoju adresu a kontaktné informácie;
Pozmeňujúci návrh 334
Návrh nariadenia
Článok 16 – odsek 1 – písmeno a b (nové)
ab)  zabezpečiť, aby fyzické osoby, ktorým je zverený ľudský dohľad nad vysokorizikovými systémami umelej inteligencie, boli osobitne informované o riziku automatizačného alebo konfirmačného skreslenia;
Pozmeňujúci návrh 335
Návrh nariadenia
Článok 16 – odsek 1 – písmeno a c (nové)
ac)  uviesť špecifikácie vstupných údajov alebo akýchkoľvek iných relevantných informácií z hľadiska použitých súborov údajov vrátane ich obmedzenia a predpokladov, pričom sa zohľadní zamýšľaný účel, predvídateľné a logicky predvídateľné nesprávne použitie systému umelej inteligencie;
Pozmeňujúci návrh 336
Návrh nariadenia
Článok 16 – odsek 1 – písmeno c
c)  vypracovať technickú dokumentáciu vysokorizikového systému umelej inteligencie;
 c)  vypracovať a uchovávať technickú dokumentáciu vysokorizikového systému umelej inteligencie uvedenú v článku 11;
Pozmeňujúci návrh 337
Návrh nariadenia
Článok 16 – odsek 1 – písmeno d
d)  uchovávať logy automaticky generované ich vysokorizikovými systémami umelej inteligencie, ak ich majú pod kontrolou;
 d)  uchovávať logy automaticky generované ich vysokorizikovými systémami umelej inteligencie, ktoré sú potrebné na zabezpečenie a preukázanie súladu s týmto nariadením v súlade s článkom 20;
Pozmeňujúci návrh 338
Návrh nariadenia
Článok 16 – odsek 1 – písmeno e
e)  zabezpečiť, aby sa vysokorizikový systém umelej inteligencie pred uvedením na trh alebo do prevádzky podrobil príslušnému postupu posudzovania zhody;
 e)  zabezpečiť, aby sa vysokorizikový systém umelej inteligencie pred uvedením na trh alebo do prevádzky podrobil príslušnému postupu posudzovania zhody v súlade s článkom 43;
Pozmeňujúci návrh 339
Návrh nariadenia
Článok 16 – odsek 1 – písmeno e a (nové)
ea)  vypracovať EÚ vyhlásenie o zhode v súlade s článkom 48;
Pozmeňujúci návrh 340
Návrh nariadenia
Článok 16 – odsek 1 – písmeno e b (nové)
eb)  umiestniť označenie CE na vysokorizikové systémy umelej inteligencie na označenie súladu s týmto nariadením v súlade s článkom 49;
Pozmeňujúci návrh 341
Návrh nariadenia
Článok 16 – odsek 1 – písmeno g
g)  prijať potrebné nápravné opatrenia, ak vysokorizikový systém umelej inteligencie nie je v súlade s požiadavkami stanovenými v kapitole 2 tejto hlavy;
 g)  prijať potrebné nápravné opatrenia uvedené v článku 21 a poskytnúť informácie v tejto súvislosti;
Pozmeňujúci návrh 342
Návrh nariadenia
Článok 16 – odsek 1 – písmeno h
h)  informovať o nesúlade a o všetkých prijatých nápravných opatreniach príslušné vnútroštátne orgány členských štátov, v ktorých systém umelej inteligencie sprístupnili alebo uviedli do prevádzky, a v relevantných prípadoch aj notifikovanú osobu;
 vypúšťa sa
Pozmeňujúci návrh 343
Návrh nariadenia
Článok 16 – odsek 1 – písmeno i
i)  umiestniť označenie CE na svoje vysokorizikové systémy umelej inteligencie, a tak v súlade s článkom 49 vyjadriť zhodu s týmto nariadením;
 vypúšťa sa
Pozmeňujúci návrh 344
Návrh nariadenia
Článok 16 – odsek 1 – písmeno j
j)  na žiadosť príslušného vnútroštátneho orgánu preukázať zhodu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy.
 j)  na odôvodnenú žiadosť vnútroštátneho dozorného orgánu preukázať zhodu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy.
Pozmeňujúci návrh 345
Návrh nariadenia
Článok 16 – odsek 1 – písmeno j a (nové)
ja)  zabezpečiť, aby vysokorizikový systém umelej inteligencie spĺňal požiadavky na prístupnosť.
Pozmeňujúci návrh 346
Návrh nariadenia
Článok 17 – odsek 1 – úvodná časť
1.  Poskytovatelia vysokorizikových systémov umelej inteligencie zavedú systém riadenia kvality, ktorým sa zabezpečí súlad s týmto nariadením. Tento systém sa systematicky a usporiadane zdokumentuje vo forme písomných zásad, postupov a pokynov a musí zahŕňať aspoň tieto aspekty:
 1.  Poskytovatelia vysokorizikových systémov umelej inteligencie majú zavedený systém riadenia kvality, ktorým sa zabezpečí súlad s týmto nariadením. Systém sa systematicky a usporiadane zdokumentuje vo forme písomných zásad, postupov alebo pokynov a môže byť začlenený do súčasného systému riadenia kvality v rámci odvetvových legislatívnych aktov Únie. Zahŕňa aspoň tieto aspekty:
Pozmeňujúci návrh 347
Návrh nariadenia
Článok 17 – odsek 1 – písmeno a
a)  stratégiu dodržiavania regulačných požiadaviek vrátane dodržiavania postupov posudzovania zhody a postupov riadenia zmien vysokorizikového systému umelej inteligencie;
 vypúšťa sa
Pozmeňujúci návrh 348
Návrh nariadenia
Článok 17 – odsek 1 – písmeno e
e)  technické špecifikácie vrátane noriem, ktoré sa majú uplatňovať, a v prípade, že sa príslušné harmonizované normy neuplatňujú v plnom rozsahu, prostriedky, ktoré sa majú použiť na zabezpečenie toho, aby vysokorizikový systém umelej inteligencie spĺňal požiadavky stanovené v kapitole 2 tejto hlavy;
 e)  technické špecifikácie vrátane noriem, ktoré sa majú uplatňovať, a v prípade, že sa príslušné harmonizované normy neuplatňujú v plnom rozsahu alebo nepokrývajú všetky relevantné požiadavky, prostriedky, ktoré sa majú použiť na zabezpečenie toho, aby vysokorizikový systém umelej inteligencie spĺňal požiadavky stanovené v kapitole 2 tejto hlavy;
Pozmeňujúci návrh 349
Návrh nariadenia
Článok 17 – odsek 1 – písmeno f
f)  systémy a postupy správy údajov vrátane zberu údajov, ich analýzy, označovania, ukladania, filtrovania, hĺbkovej analýzy, agregácie, uchovávania a všetkých ďalších operácií týkajúcich sa údajov, ktoré sa vykonávajú pred uvedením vysokorizikových systémov umelej inteligencie na trh alebo do prevádzky a na účely ich uvedenia na trh alebo do prevádzky;
 f)  systémy a postupy správy údajov vrátane získavania údajov, zberu údajov, ich analýzy, označovania, ukladania, filtrovania, hĺbkovej analýzy, agregácie, uchovávania a všetkých ďalších operácií týkajúcich sa údajov, ktoré sa vykonávajú pred uvedením vysokorizikových systémov umelej inteligencie na trh alebo do prevádzky a na účely ich uvedenia na trh alebo do prevádzky;
Pozmeňujúci návrh 350
Návrh nariadenia
Článok 17 – odsek 1 – písmeno j
j)  vybavovanie komunikácie s príslušnými vnútroštátnymi orgánmi, príslušnými orgánmi vrátane odvetvových orgánov, ktoré poskytujú alebo podporujú prístup k údajom, s notifikovanými osobami, inými prevádzkovateľmi, zákazníkmi alebo inými zainteresovanými stranami;
 j)  vybavovanie komunikácie s relevantnými príslušnými orgánmi vrátane odvetvových orgánov;
Pozmeňujúci návrh 351
Návrh nariadenia
Článok 17 – odsek 2
2.  Vykonávanie aspektov uvedených v odseku 1 musí byť primerané veľkosti organizácie poskytovateľa.
 2.  Vykonávanie aspektov uvedených v odseku 1 musí byť primerané veľkosti organizácie poskytovateľa. Poskytovatelia v každom prípade zachovávajú mieru prísnosti a úroveň ochrany, ktoré sa vyžadujú na zabezpečenie súladu ich systémov umelej inteligencie s týmto nariadením.
Pozmeňujúci návrh 352
Návrh nariadenia
Článok 18 – nadpis
Povinnosť vypracovať technickú dokumentáciu
 vypúšťa sa
Pozmeňujúci návrh 353
Návrh nariadenia
Článok 18 – odsek 1
1.  Poskytovatelia vysokorizikových systémov umelej inteligencie vypracujú v súlade s prílohou IV technickú dokumentáciu uvedenú v článku 11.
 vypúšťa sa
Pozmeňujúci návrh 354
Návrh nariadenia
Článok 18 – odsek 2
2.  Poskytovatelia, ktorí sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, vedú technickú dokumentáciu ako súčasť dokumentácie týkajúcej sa opatrení, postupov a mechanizmov vnútorného riadenia podľa článku 74 uvedenej smernice.
 vypúšťa sa
Pozmeňujúci návrh 355
Návrh nariadenia
Článok 19
Článok 19
 vypúšťa sa
Posudzovanie zhody
1.  Poskytovatelia vysokorizikových systémov umelej inteligencie musia zabezpečiť, aby sa ich systémy pred uvedením na trh alebo do prevádzky podrobili príslušnému postupu posudzovania zhody v súlade s článkom 43. Ak sa po tomto posúdení zhody preukáže súlad systémov umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy, poskytovatelia vypracujú EÚ vyhlásenie o zhode v súlade s článkom 48 a umiestnia označenie zhody CE v súlade s článkom 49.
2.  V prípade vysokorizikových systémov umelej inteligencie uvedených v bode 5 písm. b) prílohy III, ktoré uvádzajú na trh alebo do prevádzky poskytovatelia, ktorí sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, sa posudzovanie zhody vykonáva ako súčasť postupu uvedeného v článkoch 97 až 101 uvedenej smernice.
Pozmeňujúci návrh 356
Návrh nariadenia
Článok 20 – odsek 1
1.  Poskytovatelia vysokorizikových systémov umelej inteligencie uchovávajú logy automaticky generované svojimi vysokorizikovými systémami umelej inteligencie, pokiaľ sú tieto logy na základe zmluvnej dohody s používateľom alebo zo zákona pod ich kontrolou. Logy sa uchovávajú počas obdobia, ktoré je primerané vzhľadom na zamýšľaný účel vysokorizikového systému umelej inteligencie a uplatniteľné právne povinnosti podľa právnych predpisov Únie alebo vnútroštátneho práva.
 1.  Poskytovatelia vysokorizikových systémov umelej inteligencie uchovávajú logy automaticky generované svojimi vysokorizikovými systémami umelej inteligencie, pokiaľ sú tieto logy pod ich kontrolou. Bez toho, aby bolo dotknuté uplatniteľné právo Únie alebo vnútroštátne právo, logy sa uchovávajú najmenej šesť mesiacov. Obdobie uchovávania musí byť v súlade s odvetvovými normami a primerané zamýšľanému účelu vysokorizikového systému umelej inteligencie.
Pozmeňujúci návrh 357
Návrh nariadenia
Článok 21 – odsek 1
Poskytovatelia vysokorizikových systémov umelej inteligencie, ktorí sa domnievajú alebo majú dôvod domnievať sa, že vysokorizikový systém umelej inteligencie, ktorý uviedli na trh alebo do prevádzky, nie je v zhode s týmto nariadením, bezodkladne prijmú potrebné nápravné opatrenia s cieľom dosiahnuť podľa potreby zhodu tohto systému alebo ho stiahnuť z trhu či od používateľa. Informujú o tom distribútorov daného vysokorizikového systému umelej inteligencie a v relevantných prípadoch splnomocneného zástupcu a dovozcov.
 Poskytovatelia vysokorizikových systémov umelej inteligencie, ktorí sa domnievajú alebo majú dôvod domnievať sa, že vysokorizikový systém umelej inteligencie, ktorý uviedli na trh alebo do prevádzky, nie je v zhode s týmto nariadením, bezodkladne prijmú potrebné nápravné opatrenia s cieľom dosiahnuť podľa potreby zhodu tohto systému alebo ho deaktivovať, alebo ho stiahnuť z trhu či od používateľa.
V prípadoch uvedených v prvom odseku poskytovatelia bezodkladne informujú:
a)  distribútorov;
b)  dovozcov;
c)  príslušné vnútroštátne orgány členských štátov, v ktorých systém umelej inteligencie sprístupnili alebo uviedli do prevádzky; a
d)  pokiaľ možno, nasadzujúci subjekt.
Pozmeňujúci návrh 358
Návrh nariadenia
Článok 21 – odsek 1 a (nový)
Poskytovatelia takisto informujú splnomocneného zástupcu, ak bol vymenovaný v súlade s článkom 25, a notifikovanú osobu, ak sa vysokorizikový systém umelej inteligencie musel podrobiť posudzovaniu zhody treťou stranou v súlade s článkom 43. V prípade potreby preskúmajú príčiny aj v spolupráci s nasadzujúcim subjektom.
Pozmeňujúci návrh 359
Návrh nariadenia
Článok 22 – odsek 1
Ak vysokorizikový systém umelej inteligencie predstavuje riziko v zmysle článku 65 ods. 1 a poskytovateľ systému o tomto riziku vie, tento poskytovateľ bezodkladne informuje príslušné vnútroštátne orgány členských štátov, v ktorých systém sprístupnil, a prípadne notifikovanú osobu, ktorá vydala pre vysokorizikový systém umelej inteligencie certifikát, a to najmä o nesúlade systému a o všetkých prijatých nápravných opatreniach.
 Ak vysokorizikový systém umelej inteligencie predstavuje riziko v zmysle článku 65 ods. 1 a poskytovateľ systému sa o tomto riziku dozvie, tento poskytovateľ bezodkladne informuje vnútroštátne dozorné orgány členských štátov, v ktorých systém sprístupnil, a prípadne notifikovanú osobu, ktorá vydala pre vysokorizikový systém umelej inteligencie certifikát, a to najmä o povahe nesúladu systému a o všetkých relevantných prijatých nápravných opatreniach.
Pozmeňujúci návrh 360
Návrh nariadenia
Článok 22 – odsek 1 a (nový)
V prípadoch uvedených v prvom odseku poskytovatelia vysokorizikového systému umelej inteligencie bezodkladne informujú:
a)  distribútorov;
b)  dovozcov;
c)  príslušné vnútroštátne orgány členských štátov, v ktorých systém umelej inteligencie sprístupnili alebo uviedli do prevádzky; a
d)  pokiaľ možno, nasadzujúce subjekty.
Pozmeňujúci návrh 361
Návrh nariadenia
Článok 22 – odsek 1 b (nový)
Poskytovatelia takisto informujú splnomocneného zástupcu, ak bol vymenovaný v súlade s článkom 25.
Pozmeňujúci návrh 362
Návrh nariadenia
Článok 23 – nadpis
Spolupráca s príslušnými orgánmi
 Spolupráca s príslušnými orgánmi, Úradom pre umelú inteligenciu a Komisiou
Pozmeňujúci návrh 363
Návrh nariadenia
Článok 23 – odsek 1
Poskytovatelia vysokorizikových systémov umelej inteligencie na žiadosť príslušného vnútroštátneho orgánu poskytnú tomuto orgánu všetky informácie a dokumentáciu potrebnú na preukázanie zhody vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy, a to v úradnom jazyku Únie, ktorý určí dotknutý členský štát. Na základe odôvodnenej žiadosti príslušného vnútroštátneho orgánu sprístupnia poskytovatelia tomuto orgánu aj logy automaticky generované vysokorizikovým systémom umelej inteligencie, pokiaľ sú tieto logy na základe zmluvnej dohody s používateľom alebo zo zákona pod ich kontrolou.
 Poskytovatelia vysokorizikových systémov umelej inteligencie a v relevantných prípadoch ich nasadzujúce subjekty na odôvodnenú žiadosť príslušného vnútroštátneho orgánu alebo v relevantných prípadoch úradu pre umelú inteligenciu alebo Komisie im poskytnú všetky informácie a dokumentáciu potrebnú na preukázanie zhody vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy, a to v úradnom jazyku Únie, ktorý určí dotknutý členský štát.
Pozmeňujúci návrh 364
Návrh nariadenia
Článok 23 – odsek 1 a (nový)
Na základe odôvodnenej žiadosti príslušného vnútroštátneho orgánu alebo v relevantných prípadoch na základe odôvodnenej žiadosti Komisie poskytovatelia a v relevantných prípadoch nasadzujúce subjekty sprístupnia žiadajúcemu príslušnému vnútroštátnemu orgánu alebo v relevantných prípadoch Komisii logy automaticky generované vysokorizikovým systémom umelej inteligencie, pokiaľ sú tieto logy pod ich kontrolou.
Pozmeňujúci návrh 365
Návrh nariadenia
Článok 23 – odsek 1 b (nový)
Akékoľvek informácie získané príslušným vnútroštátnym orgánom alebo Komisiou podľa ustanovení tohto článku sa považujú za obchodné tajomstvo a zaobchádza sa s nimi v súlade s povinnosťami zachovávania dôvernosti stanovenými v článku 70.
Pozmeňujúci návrh 366
Návrh nariadenia
Článok 25 – odsek 1
1.  Ak nie je možné identifikovať dovozcu, poskytovatelia usadení mimo Únie pred sprístupnením svojich systémov na trhu Únie písomným splnomocnením vymenujú splnomocneného zástupcu usadeného v Únii.
 1.  Poskytovatelia usadení mimo Únie pred sprístupnením svojich systémov na trhu Únie písomným splnomocnením vymenujú splnomocneného zástupcu usadeného v Únii.
Pozmeňujúci návrh 367
Návrh nariadenia
Článok 25 – odsek 1 a (nový)
1a.  Splnomocnený zástupca má bydlisko alebo je usadený v jednom z členských štátov, v ktorom sa vykonávajú činnosti podľa článku 2 ods. 1 písm. cb).
Pozmeňujúci návrh 368
Návrh nariadenia
Článok 25 – odsek 1 b (nový)
1b.  Prevádzkovateľ poskytne svojmu splnomocnenému zástupcovi potrebné splnomocnenia a zdroje na plnenie jeho úloh podľa tohto nariadenia.
Pozmeňujúci návrh 369
Návrh nariadenia
Článok 25 – odsek 2 – úvodná časť
2.  Splnomocnený zástupca vykonáva úlohy uvedené v splnomocnení, ktoré mu udelil poskytovateľ. Splnomocnenie poveruje splnomocneného zástupcu vykonávaním týchto úloh:
 2.  Splnomocnený zástupca vykonáva úlohy uvedené v splnomocnení, ktoré mu udelil poskytovateľ. Na požiadanie poskytne orgánom dohľadu nad trhom kópiu v jednom z úradných jazykov inštitúcie Únie, ktorú určí príslušný vnútroštátny orgán. Na účely tohto nariadenia splnomocnenie poveruje splnomocneného zástupcu vykonávaním týchto úloh:
Pozmeňujúci návrh 370
Návrh nariadenia
Článok 25 – odsek 2 – písmeno a
a)  uchovávať kópiu EÚ vyhlásenia o zhode a technickej dokumentácie, aby bola k dispozícii pre príslušné vnútroštátne orgány a vnútroštátne orgány uvedené v článku 63 ods. 7;
 a)  zabezpečiť, aby EÚ vyhlásenie o zhode a technická dokumentácia boli vypracované a aby poskytovateľ v relevantných prípadoch vykonal príslušný postup posudzovania zhody;
Pozmeňujúci návrh 371
Návrh nariadenia
Článok 25 – odsek 2 – písmeno a a (nové)
aa)  uchovávať kópiu EÚ vyhlásenia o zhode, technickú dokumentáciu a prípadne certifikát vydaný notifikovanou osobou, aby boli k dispozícii príslušným vnútroštátnym orgánom a vnútroštátnym orgánom uvedeným v článku 63 ods. 7;
Pozmeňujúci návrh 372
Návrh nariadenia
Článok 25 – odsek 2 – písmeno b
b)  poskytnúť príslušnému vnútroštátnemu orgánu na základe odôvodnenej žiadosti všetky informácie a dokumentáciu potrebné na preukázanie súladu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy vrátane prístupu k logom automaticky generovaným vysokorizikovým systémom umelej inteligencie, pokiaľ sú tieto logy na základe zmluvnej dohody s používateľom alebo zo zákona pod kontrolou poskytovateľa;
 b)  poskytnúť príslušnému vnútroštátnemu orgánu na základe odôvodnenej žiadosti všetky informácie a dokumentáciu potrebné na preukázanie súladu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy vrátane prístupu k logom automaticky generovaným vysokorizikovým systémom umelej inteligencie, pokiaľ sú tieto logy pod kontrolou poskytovateľa;
Pozmeňujúci návrh 373
Návrh nariadenia
Článok 25 – odsek 2 – písmeno c
c)  na základe odôvodnenej žiadosti spolupracovať s príslušnými vnútroštátnymi orgánmi pri každom opatrení, ktoré tieto orgány v súvislosti s vysokorizikovým systémom umelej inteligencie prijmú.
 c)  spolupracovať s vnútroštátnymi orgánmi na základe odôvodnenej žiadosti pri každom opatrení, ktoré takýto orgán prijme s cieľom znížiť a zmierniť riziká, ktoré vysokorizikový systém umelej inteligencie predstavuje;
Pozmeňujúci návrh 374
Návrh nariadenia
Článok 25 – odsek 2 – písmeno c a (nové)
ca)  v relevantných prípadoch plniť registračné povinnosti uvedené v článku 51, alebo ak registráciu vykonáva sám poskytovateľ, zabezpečiť správnosť informácií uvedených v bode 3 prílohy VIII.
Pozmeňujúci návrh 375
Návrh nariadenia
Článok 25 – odsek 2 a (nový)
2a.  Splnomocnený zástupca je poverený, aby sa na neho okrem prevádzkovateľa alebo namiesto neho obracali najmä vnútroštátny dozorný orgán alebo príslušné vnútroštátne orgány vo všetkých otázkach súvisiacich so zabezpečením súladu s týmto nariadením.
Pozmeňujúci návrh 376
Návrh nariadenia
Článok 25 – odsek 2 b (nový)
2b.  Splnomocnený zástupca splnomocnenie vypovie, ak sa domnieva alebo má dôvod domnievať sa, že poskytovateľ koná v rozpore so svojimi povinnosťami podľa tohto nariadenia. V takom prípade bezodkladne informuje aj vnútroštátny dozorný orgán členského štátu, v ktorom je usadený, ako aj prípadne príslušnú notifikovanú osobu o výpovedi splnomocnenia a jej dôvodoch.
Pozmeňujúci návrh 377
Návrh nariadenia
Článok 26 – odsek 1 – úvodná časť
1.  Pred uvedením vysokorizikového systému umelej inteligencie na trh dovozcovia takéhoto systému zabezpečia, aby:
 1.  Pred uvedením vysokorizikového systému umelej inteligencie na trh dovozcovia takéhoto systému zabezpečia, aby tento systém bol v súlade s týmto nariadením, a to zabezpečením toho, aby:
Pozmeňujúci návrh 378
Návrh nariadenia
Článok 26 – odsek 1 – písmeno a
a)  poskytovateľ uvedeného systému umelej inteligencie vykonal vhodný postup posudzovania zhody;
 a)  poskytovateľ uvedeného systému umelej inteligencie vykonal relevantný postup posudzovania zhody uvedený v článku 43;
Pozmeňujúci návrh 379
Návrh nariadenia
Článok 26 – odsek 1 – písmeno b
b)  poskytovateľ vypracoval technickú dokumentáciu v súlade s prílohou IV;
 b)  poskytovateľ vypracoval technickú dokumentáciu v súlade s článkom 11 a prílohou IV;
Pozmeňujúci návrh 380
Návrh nariadenia
Článok 26 – odsek 1 – písmeno c a (nové)
ca)  v relevantných prípadoch poskytovateľ vymenoval splnomocneného zástupcu v súlade s článkom 25 ods. 1.
Pozmeňujúci návrh 381
Návrh nariadenia
Článok 26 – odsek 2
2.  Ak sa dovozca domnieva alebo má dôvod domnievať sa, že vysokorizikový systém umelej inteligencie nie je v súlade s týmto nariadením, nesmie tento systém uviesť na trh, kým sa tento systém umelej inteligencie neuvedie do súladu. Ak vysokorizikový systém umelej inteligencie predstavuje riziko v zmysle článku 65 ods. 1, dovozca o tom informuje poskytovateľa systému umelej inteligencie a orgány dohľadu nad trhom.
 2.  Ak sa dovozca domnieva alebo má dôvod domnievať sa, že vysokorizikový systém umelej inteligencie nie je v súlade s týmto nariadením, alebo že je falšovaný, alebo že je k nemu pripojená falšovaná dokumentácia, nesmie tento systém uviesť na trh, kým sa tento systém umelej inteligencie neuvedie do súladu. Ak vysokorizikový systém umelej inteligencie predstavuje riziko v zmysle článku 65 ods. 1, dovozca o tom informuje poskytovateľa systému umelej inteligencie a orgány dohľadu nad trhom.
Pozmeňujúci návrh 382
Návrh nariadenia
Článok 26 – odsek 3
3.  Dovozcovia na vysokorizikovom systéme umelej inteligencie, alebo ak to nie je možné, na jeho obale, prípadne v jeho sprievodnej dokumentácii uvedú svoje meno, registrované obchodné meno alebo registrovanú ochrannú známku a adresu, na ktorej ich možno kontaktovať.
 3.  Dovozcovia na vysokorizikovom systéme umelej inteligencie a na jeho obale, prípadne v jeho sprievodnej dokumentácii uvedú svoje meno, registrované obchodné meno alebo registrovanú ochrannú známku a adresu, na ktorej ich možno kontaktovať.
Pozmeňujúci návrh 383
Návrh nariadenia
Článok 26 – odsek 5
5.  Dovozcovia na základe odôvodnenej žiadosti poskytnú príslušnému vnútroštátnemu orgánu všetky informácie a dokumentáciu potrebné na preukázanie súladu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy, a to v jazyku, ktorý je pre tento príslušný vnútroštátny orgán ľahko zrozumiteľný, vrátane prístupu k logom automaticky generovaným vysokorizikovým systémom umelej inteligencie, pokiaľ sú tieto logy na základe zmluvnej dohody s používateľom alebo zo zákona pod kontrolou poskytovateľa. Spolupracujú s týmito orgánmi aj pri akomkoľvek opatrení, ktoré príslušný vnútroštátny orgán prijme v súvislosti s uvedeným systémom.
 5.  Dovozcovia na základe odôvodnenej žiadosti poskytnú príslušnému vnútroštátnemu orgánu všetky informácie a dokumentáciu potrebné na preukázanie súladu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy, a to v jazyku, ktorý je im ľahko zrozumiteľný, vrátane prístupu k logom automaticky generovaným vysokorizikovým systémom umelej inteligencie, pokiaľ sú tieto logy pod kontrolou poskytovateľa v súlade s článkom 20.
Pozmeňujúci návrh 384
Návrh nariadenia
Článok 26 – odsek 5 a (nový)
5a.  Dovozcovia spolupracujú s príslušnými vnútroštátnymi orgánmi na každom opatrení, ktoré tieto orgány prijímajú s cieľom znížiť a zmierniť riziká, ktoré predstavuje vysokorizikový systém umelej inteligencie.
Pozmeňujúci návrh 385
Návrh nariadenia
Článok 27 – odsek 1
1.  Pred sprístupnením vysokorizikového systému umelej inteligencie na trhu distribútori overia, či je tento vysokorizikový systém umelej inteligencie označený požadovaným označením zhody CE, či je k nemu pripojená požadovaná dokumentácia a návod na použitie a či si poskytovateľ, prípadne dovozca systému splnili povinnosti stanovené v tomto nariadení.
 1.  Pred sprístupnením vysokorizikového systému umelej inteligencie na trhu distribútori overia, či je tento vysokorizikový systém umelej inteligencie označený požadovaným označením zhody CE, či je k nemu pripojená požadovaná dokumentácia a návod na použitie a či si poskytovateľ, prípadne dovozca systému splnili svoje povinnosti stanovené v článku 16 a článku 26 tohto nariadenia.
Pozmeňujúci návrh 386
Návrh nariadenia
Článok 27 – odsek 2
2.  Ak sa distribútor domnieva alebo má dôvod domnievať sa, že vysokorizikový systém umelej inteligencie nie je v súlade s požiadavkami stanovenými v kapitole 2 tejto hlavy, nesmie tento systém sprístupniť na trhu, kým sa tento systém neuvedie do súladu s uvedenými požiadavkami. Ak systém navyše predstavuje riziko v zmysle článku 65 ods. 1, distribútor o tom informuje poskytovateľa, prípadne dovozcu systému.
 2.  Ak sa distribútor na základe informácií, ktoré má, domnieva alebo má dôvod domnievať sa, že vysokorizikový systém umelej inteligencie nie je v súlade s požiadavkami stanovenými v kapitole 2 tejto hlavy, nesmie tento systém sprístupniť na trhu, kým sa tento systém neuvedie do súladu s uvedenými požiadavkami. Ak systém navyše predstavuje riziko v zmysle článku 65 ods. 1, distribútor o tom informuje poskytovateľa, prípadne dovozcu systému a príslušný vnútroštátny orgán.
Pozmeňujúci návrh 387
Návrh nariadenia
Článok 27 – odsek 4
4.  Distribútor, ktorý sa domnieva alebo má dôvod domnievať sa, že vysokorizikový systém umelej inteligencie, ktorý sprístupnil na trhu, nie je v súlade s požiadavkami stanovenými v kapitole 2 tejto hlavy, prijme nápravné opatrenia potrebné na dosiahnutie súladu tohto systému s uvedenými požiadavkami, na jeho stiahnutie z trhu alebo od používateľa, alebo zabezpečí, aby uvedené nápravné opatrenia prijal poskytovateľ, dovozca alebo prípadne akýkoľvek relevantný prevádzkovateľ. Ak vysokorizikový systém umelej inteligencie predstavuje riziko v zmysle článku 65 ods. 1, distribútor o tom bezodkladne informuje príslušné vnútroštátne orgány členských štátov, v ktorých výrobok sprístupnil, pričom uvedie podrobnosti najmä o nedodržaní požiadaviek a o všetkých prijatých nápravných opatreniach.
 4.  Distribútor, ktorý sa na základe informácií, ktoré má, domnieva alebo má dôvod domnievať sa, že vysokorizikový systém umelej inteligencie, ktorý sprístupnil na trhu, nie je v súlade s požiadavkami stanovenými v kapitole 2 tejto hlavy, prijme nápravné opatrenia potrebné na dosiahnutie súladu tohto systému s uvedenými požiadavkami, na jeho stiahnutie z trhu alebo od používateľa, alebo zabezpečí, aby uvedené nápravné opatrenia prijal poskytovateľ, dovozca alebo prípadne akýkoľvek relevantný prevádzkovateľ. Ak vysokorizikový systém umelej inteligencie predstavuje riziko v zmysle článku 65 ods. 1, distribútor o tom bezodkladne informuje poskytovateľa alebo dovozcu systému a príslušné vnútroštátne orgány členských štátov, v ktorých výrobok sprístupnil, pričom uvedie podrobnosti najmä o nedodržaní požiadaviek a o všetkých prijatých nápravných opatreniach.
Pozmeňujúci návrh 388
Návrh nariadenia
Článok 27 – odsek 5
5.  Na základe odôvodnenej žiadosti príslušného vnútroštátneho orgánu distribútori vysokorizikových systémov umelej inteligencie poskytnú tomuto orgánu všetky informácie a dokumentáciu potrebné na preukázanie zhody vysokorizikového systému s požiadavkami stanovenými v kapitole 2 tejto hlavy. Distribútori spolupracujú s týmto príslušným vnútroštátnym orgánom aj pri každom opatrení, ktoré tento orgán prijme.
 5.  Na základe odôvodnenej žiadosti príslušného vnútroštátneho orgánu distribútori vysokorizikových systémov umelej inteligencie poskytnú tomuto orgánu všetky informácie a dokumentáciu, ktoré majú alebo ktoré majú k dispozícii, v súlade s povinnosťami distribútorov, ako sú uvedené v odseku 1, ktoré sú potrebné na preukázanie zhody vysokorizikového systému s požiadavkami stanovenými v kapitole 2 tejto hlavy.
Pozmeňujúci návrh 389
Návrh nariadenia
Článok 27 – odsek 5 a (nový)
5a.  Distribútori spolupracujú s príslušnými vnútroštátnymi orgánmi na každom opatrení, ktoré tieto orgány prijmú s cieľom znížiť a zmierniť riziká, ktoré predstavuje vysokorizikový systém umelej inteligencie.
Pozmeňujúci návrh 390
Návrh nariadenia
Článok 28 – nadpis
Povinnosti distribútorov, dovozcov, používateľov alebo iných tretích strán
 Povinnosti poskytovateľov, distribútorov, dovozcov, nasadzujúcich subjektov alebo iných tretích strán v rámci hodnotového reťazca umelej inteligencie
Pozmeňujúci návrh 391
Návrh nariadenia
Článok 28 – odsek 1 – úvodná časť
1.  Každý distribútor, dovozca, používateľ alebo iná tretia strana sa na účely tohto nariadenia považuje za poskytovateľa a vzťahujú sa na neho povinnosti poskytovateľa podľa článku 16 za ktorýchkoľvek z týchto okolností:
 1.  Každý distribútor, dovozca, používateľ alebo iná tretia strana sa na účely tohto nariadenia považuje za poskytovateľa vysokorizikového systému umelej inteligencie a vzťahujú sa na neho povinnosti poskytovateľa podľa článku 16 za ktorýchkoľvek z týchto okolností:
Pozmeňujúci návrh 392
Návrh nariadenia
Článok 28 – odsek 1 – písmeno a
a)  pod svojím menom alebo ochrannou známkou uvádzajú na trh alebo do prevádzky vysokorizikový systém umelej inteligencie;
 a)  umiestnia svoje meno alebo ochrannú známku na vysokorizikový systém umelej inteligencie, ktorý už bol uvedený na trh alebo do prevádzky;
Pozmeňujúci návrh 393
Návrh nariadenia
Článok 28 – odsek 1 – písmeno b
b)  menia zamýšľaný účel vysokorizikového systému umelej inteligencie, ktorý už bol uvedený na trh alebo do prevádzky;
 b)  vykonávajú podstatnú zmenu vysokorizikového systému umelej inteligencie, ktorý už bol uvedený na trh alebo už bol uvedený do prevádzky, a to tak, že zostáva vysokorizikovým systémom umelej inteligencie v súlade s článkom 6;
Pozmeňujúci návrh 394
Návrh nariadenia
Článok 28 – odsek 1 – písmeno b a (nové)
ba)  menia zamýšľaný účel systému umelej inteligencie vrátane všeobecného systému umelej inteligencie, ktorý nebol klasifikovaný ako vysokorizikový a už bol uvedený na trh alebo uvedený do prevádzky takým spôsobom, že sa zo systému umelej inteligencie stane vysokorizikový systém umelej inteligencie v súlade s článkom 6;
Pozmeňujúci návrh 395
Návrh nariadenia
Článok 28 – odsek 2
2.  Ak nastanú okolnosti uvedené v odseku 1 písm. b) alebo c), poskytovateľ, ktorý uviedol vysokorizikový systém umelej inteligencie na trh alebo do prevádzky pôvodne, sa už na účely tohto nariadenia za poskytovateľa nepovažuje.
 2.  Ak nastanú okolnosti uvedené v odseku 1 písm. a až ba), poskytovateľ, ktorý pôvodne uviedol vysokorizikový systém umelej inteligencie na trh alebo do prevádzky, sa už na účely tohto nariadenia za poskytovateľa tohto konkrétneho systému umelej inteligencie nepovažuje. Tento bývalý poskytovateľ poskytne novému poskytovateľovi technickú dokumentáciu a všetky ostatné relevantné a odôvodnene očakávané informačné schopnosti systému umelej inteligencie, technický prístup alebo inú pomoc založenú na všeobecne uznávanom stave techniky, ktoré sú potrebné na splnenie povinností stanovených v tomto nariadení.
Tento odsek sa vzťahuje aj na poskytovateľov základných modelov vymedzených v článku 3, ak je základný model priamo integrovaný do vysokorizikového systému umelej inteligencie.
Pozmeňujúci návrh 396
Návrh nariadenia
Článok 28 – odsek 2 a (nový)
2a.  Poskytovateľ vysokorizikového systému umelej inteligencie a tretia strana, ktorá dodáva nástroje, služby, komponenty alebo procesy, ktoré sa používajú alebo sú integrované do vysokorizikového systému umelej inteligencie, prostredníctvom písomnej dohody spresnia informácie, schopnosti, technický prístup a/alebo inú pomoc na základe všeobecne uznávaného stavu techniky, ktoré je tretia strana povinná zabezpečiť, aby poskytovateľ vysokorizikového systému umelej inteligencie mohol v plnej miere plniť povinnosti podľa tohto nariadenia.
Komisia vypracuje a odporučí nezáväzné vzorové zmluvné podmienky medzi poskytovateľmi vysokorizikových systémov umelej inteligencie a tretími stranami, ktoré dodávajú nástroje, služby, komponenty alebo procesy, ktoré sa používajú alebo integrujú do vysokorizikových systémov umelej inteligencie, s cieľom pomôcť obom stranám pri vypracúvaní a prerokúvaní zmlúv s vyváženými zmluvnými právami a povinnosťami v súlade s úrovňou kontroly každej strany. Pri vypracúvaní nezáväzných vzorových zmluvných podmienok Komisia zohľadní možné zmluvné požiadavky uplatniteľné v konkrétnych odvetviach alebo obchodných prípadoch. Nezáväzné zmluvné podmienky sa uverejnia a bezplatne sprístupnia v ľahko použiteľnom elektronickom formáte na webovom sídle úradu pre umelú inteligenciu.
Pozmeňujúci návrh 397
Návrh nariadenia
Článok 28 – odsek 2 b (nový)
2b.  Na účely tohto článku je povinnosťou zachovávať obchodné tajomstvá a zverejňovať sa smú len pod podmienkou, že na zachovanie ich dôvernosti podľa smernice EÚ 2016/943 boli vopred prijaté všetky konkrétne nevyhnutné opatrenia, najmä vo vzťahu k tretím stranám. V prípade potreby sa môžu dohodnúť vhodné technické a organizačné opatrenia na ochranu práv duševného vlastníctva alebo obchodných tajomstiev.
Pozmeňujúci návrh 398
Návrh nariadenia
Článok 28 a (nový)
Článok 28a
Neprijateľné zmluvné podmienky jednostranne uložené MSP alebo startupu
1.  Zmluvná podmienka týkajúca sa poskytovania nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú vo vysokorizikovom systéme umelej inteligencie alebo sú doň integrované, alebo prostriedkov nápravy za porušenie alebo ukončenie súvisiacich povinností, ktoré podnik jednostranne uložil MSP alebo startupu, nie je pre túto druhú spoločnosť záväzná, ak je neprijateľná.
2.  Zmluvná podmienka sa nepovažuje za neprijateľnú, ak vyplýva z uplatniteľného práva Únie.
3.  Zmluvná podmienka je neprijateľná, ak má takú povahu, že objektívne narúša schopnosť strany, ktorej bola táto podmienka jednostranne uložená, chrániť svoj legitímny obchodný záujem na predmetných informáciách, alebo ak sa jej používanie výrazne odchyľuje od dobrej obchodnej praxe pri poskytovaní nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú vo vysokorizikovom systému umelej inteligencie alebo sú doň integrované, v rozpore s dobrou vierou a čestným obchodovaním, alebo vytvára značnú nerovnováhu medzi právami a povinnosťami zmluvných strán. Zmluvná podmienka je neprijateľná aj vtedy, ak má za následok presun sankcií uvedených v článku 71 alebo súvisiacich trov súdneho konania medzi stranami zmluvy, ako sa uvádza v článku 71 ods. 8.
4.  Na účely tohto článku je zmluvná podmienka neprijateľná, ak je jej cieľom alebo účinkom:
a)  vylúčiť alebo obmedziť zodpovednosť strany, ktorá jednostranne uložila podmienku, za úmyselné činy alebo hrubú nedbanlivosť;
b)  vylúčiť prostriedky nápravy, ktoré má k dispozícii strana, ktorej bola jednostranne uložená podmienka, v prípade neplnenia zmluvných záväzkov alebo vylúčiť zodpovednosť strany, ktorá jednostranne uložila podmienku, v prípade porušenia týchto záväzkov;
c)  udeliť strane, ktorá jednostranne uložila podmienku, výlučné právo rozhodovať, či technická dokumentácia a poskytnuté informácie sú v súlade so zmluvou, alebo vykladať ktorékoľvek podmienky zmluvy.
5.  Zmluvná podmienka sa považuje za jednostranne uloženú v zmysle tohto článku, ak ju predložila jedna zmluvná strana a druhá zmluvná strana nie je schopná ovplyvniť jej obsah napriek snahe o rokovania. Zmluvná strana, ktorá predložila zmluvnú podmienku, má povinnosť preukázať, že táto podmienka nebola jednostranne uložená.
6.  Ak je možné neprijateľnú zmluvnú podmienku oddeliť od ostatných podmienok zmluvy, ostatné podmienky sú naďalej záväzné. Strana, ktorá uložila spornú podmienku, nesmie tvrdiť, že podmienka je neprijateľná.
7.  Tento článok sa vzťahuje na všetky nové zmluvy, ktoré nadobudli platnosť po ... [dátum nadobudnutia účinnosti tohto nariadenia. Podniky preskúmajú existujúce zmluvné záväzky, na ktoré sa vzťahuje toto nariadenie, do ... [troch rokov od dátumu nadobudnutia účinnosti tohto nariadenia].
8.  Vzhľadom na to, ako rýchlo sa na trhu objavujú inovácie, Komisia pravidelne preskúma zoznam neprijateľných zmluvných podmienok v článku 28a a v prípade potreby ho aktualizuje podľa nových obchodných postupov.
Pozmeňujúci návrh 399
Návrh nariadenia
Článok 28 b (nový)
Článok 28b
Povinnosti poskytovateľa základného modelu
1.  Poskytovateľ základného modelu pred jeho sprístupnením na trhu alebo jeho uvedením do prevádzky zabezpečí, aby bol v súlade s požiadavkami stanovenými v tomto článku bez ohľadu na to, či sa poskytuje ako samostatný model alebo zabudovaný do systému umelej inteligencie alebo výrobku, alebo sa poskytuje na základe bezplatných licencií a licencií s otvoreným zdrojovým kódom ako služba, ako aj iných distribučných kanálov.
2.  Na účel odseku 1 tohto článku poskytovateľ základného modelu musí:
a)  prostredníctvom vhodnej koncepcie, testovania a analýzy preukázať identifikáciu, obmedzenie a zmiernenie odôvodnene predvídateľných rizík pre zdravie, bezpečnosť, základné práva, životné prostredie a demokraciu a právny štát pred vývojom a počas neho vhodnými metódami, napríklad zapojením nezávislých odborníkov, a zdokumentovať zostávajúce riziká, ktoré sa nedajú zmierniť po vývoji;
b)  spracúvať a začleňovať iba súbory údajov, ktoré podliehajú primeraným opatreniam na účely správy údajov v prípade základných modelov, najmä opatreniam na preskúmanie vhodnosti zdrojov údajov a možných skreslení a primeraného zmierňovania;
c)  navrhnúť a vyvíjať základný model s cieľom dosiahnuť počas celého jeho životného cyklu primeranú úroveň výkonnosti, predvídateľnosti, interpretovateľnosti, korigovateľnosti, bezpečnosti a kybernetickej bezpečnosti posudzovanú pomocou vhodných metód, ako sú hodnotenie modelu so zapojením nezávislých odborníkov, zdokumentovaná analýza a rozsiahle testovanie počas konceptualizácie, dizajnu a vývoja;
d)  navrhnúť a rozvíjať základný model s využitím platných noriem na zníženie využívania energie, využívania zdrojov a odpadu, ako aj na zvýšenie energetickej efektívnosti a celkovej efektívnosti systému bez toho, aby boli dotknuté príslušné existujúce právne predpisy Únie a vnútroštátne právne predpisy. Táto povinnosť sa neuplatňuje pred uverejnením noriem uvedených v článku 40. Základné modely musia byť navrhnuté tak, aby boli schopné merať a zaznamenávať spotrebu energie a zdrojov, a, ak je to technicky uskutočniteľné, ďalšie vplyvy na životné prostredie, ktoré môže mať zavedenie a používanie systémov počas celého ich životného cyklu;
e)  vypracovať rozsiahlu technickú dokumentáciu a zrozumiteľný návod na použitie s cieľom umožniť následným poskytovateľom plniť si povinnosti podľa článku 16 a článku 28 ods. 1;
f)  vytvoriť systém riadenia kvality s cieľom zabezpečiť a zdokumentovať súlad s týmto článkom s možnosťou experimentovať s plnením tejto požiadavky;
g)  zaregistrovať tento model nadácie v databáze EÚ uvedenej v článku 60 v súlade s pokynmi uvedenými v prílohe VIII písmene C.
Pri plnení týchto požiadaviek sa zohľadňuje všeobecne uznávaný stav techniky, a to aj v súlade s príslušnými harmonizovanými normami alebo spoločnými špecifikáciami, ako aj najnovšie metódy posudzovania a merania, ktoré sa odrážajú najmä v usmerneniach pre referenčné porovnávanie a schopnostiach uvedených v článku 58a;
3.  Poskytovatelia základných modelov uchovávajú technickú dokumentáciu uvedenú v odseku 2 písm. e) k dispozícii príslušným vnútroštátnym orgánom počas obdobia 10 rokov od uvedenia ich základných modelov na trh alebo do prevádzky.
4.  Poskytovatelia základných modelov používaných v systémoch umelej inteligencie, ktorých cieľom je s rôznymi úrovňami autonómie vytvárať obsah, ako je komplexný text, obrázky, audio alebo video („generatívna umelá inteligencia“), a poskytovatelia, ktorí špecializujú základný model na generatívny systém umelej inteligencie, musia okrem toho
a)  dodržiavať povinnosti týkajúce sa transparentnosti uvedené v článku 52 ods. 1;
b)  trénovať a prípadne navrhnúť a rozvíjať základný model takým spôsobom, aby sa zabezpečili primerané záruky na predchádzanie vytváraniu obsahu v rozpore s právnymi predpismi Únie v súlade so všeobecne uznávaným stavom techniky a bez toho, aby boli dotknuté základné práva vrátane slobody prejavu;
c)  bez toho, aby boli dotknuté právne predpisy Únie alebo vnútroštátne právne predpisy alebo právne predpisy Únie týkajúce sa autorských práv, dokumentuje a zverejňuje dostatočne podrobné zhrnutie používania údajov z odbornej prípravy chránených podľa autorského práva.
Pozmeňujúci návrh 400
Návrh nariadenia
Článok 29 – odsek 1
1.  Používatelia vysokorizikových systémov umelej inteligencie musia tieto systémy používať v súlade s návodom na použitie k nim priloženým, a to podľa odsekov 2 a 5.
 1.  Nasadzujúce subjekty vysokorizikových systémov umelej inteligencie prijmú vhodné technické a organizačné opatrenia s cieľom zabezpečiť, aby používanie takýchto systémov bolo v súlade s návodom na použitie k nim priloženým, a to podľa odsekov 2 a 5 tohto článku.
Pozmeňujúci návrh 401
Návrh nariadenia
Článok 29 – odsek 1 a (nový)
1a.  Pokiaľ nasadzujúce subjekty vykonávajú kontrolu nad vysokorizikovým systémom umelej inteligencie, musia:
i)  vykonávať ľudský dohľad v súlade s požiadavkami stanovenými v tomto nariadení,
ii)  zabezpečiť, aby fyzické osoby poverené zabezpečovaním ľudského dohľadu nad vysokorizikovými systémami umelej inteligencie boli spôsobilé, náležite kvalifikované a vyškolené a mali potrebné zdroje na zabezpečenie účinného dohľadu nad systémom umelej inteligencie v súlade s článkom 14,
iii)  zabezpečiť, aby sa relevantné a primerané opatrenia týkajúce sa spoľahlivosti a kybernetickej bezpečnosti pravidelne monitorovali z hľadiska účinnosti a aby sa pravidelne prispôsobovali alebo aktualizovali.
Pozmeňujúci návrh 402
Návrh nariadenia
Článok 29 – odsek 2
2.  Povinnosťami uvedenými v odseku 1 nie sú dotknuté iné povinnosti používateľov vyplývajúce z právnych predpisov Únie alebo vnútroštátneho práva ani rozhodovanie používateľov pri organizovaní vlastných zdrojov a činností na účely vykonávania opatrení na zabezpečenie ľudského dohľadu uvedených poskytovateľom.
 2.  Povinnosťami uvedenými v odsekoch 1 a 1a nie sú dotknuté iné povinnosti nasadzujúcich subjektov vyplývajúce z právnych predpisov Únie alebo vnútroštátneho práva ani rozhodovanie nasadzujúcich subjektov pri organizovaní vlastných zdrojov a činností na účely vykonávania opatrení na zabezpečenie ľudského dohľadu uvedených poskytovateľom.
Pozmeňujúci návrh 403
Návrh nariadenia
Článok 29 – odsek 3
3.  Bez toho, aby bol dotknutý odsek 1 a pokiaľ má používateľ kontrolu nad vstupnými údajmi, tento používateľ zabezpečí, aby vstupné údaje boli relevantné z hľadiska zamýšľaného účelu vysokorizikového systému umelej inteligencie.
 3.  Bez toho, aby boli dotknuté odseky 1 a 1a, a pokiaľ má nasadzujúci subjekt kontrolu nad vstupnými údajmi, tento nasadzujúci subjekt zabezpečí, aby vstupné údaje boli relevantné a dostatočne reprezentatívne z hľadiska zamýšľaného účelu vysokorizikového systému umelej inteligencie.
Pozmeňujúci návrh 404
Návrh nariadenia
Článok 29 – odsek 4 – úvodná časť
4.  Používatelia monitorujú prevádzku vysokorizikového systému umelej inteligencie na základe návodu na použitie. Ak majú dôvody domnievať sa, že používanie v súlade s návodom na použitie môže viesť k tomu, že systém umelej inteligencie bude predstavovať riziko v zmysle článku 65 ods. 1, informujú poskytovateľa alebo distribútora a pozastavia používanie systému. Poskytovateľa alebo distribútora informujú aj vtedy, keď zistia akýkoľvek závažný incident alebo akúkoľvek poruchu v zmysle článku 62, a používanie systému umelej inteligencie prerušia. V prípade, že používateľ sa s poskytovateľom nedokáže spojiť, uplatňuje sa mutatis mutandis článok 62.
 4.  Nasadzujúce subjekty monitorujú prevádzku vysokorizikového systému umelej inteligencie na základe návodu na použitie, a ak je to relevantné, informujú poskytovateľov v súlade s článkom 61. Ak majú dôvody domnievať sa, že používanie v súlade s návodom na použitie môže viesť k tomu, že systém umelej inteligencie bude predstavovať riziko v zmysle článku 65 ods. 1, bez zbytočného odkladu informujú poskytovateľa alebo distribútora a príslušný vnútroštátny dozorný orgán a pozastavia používanie systému. Okamžite tiež informujú najprv poskytovateľa a potom dovozcu alebo distribútora a príslušné vnútroštátne dozorné orgány, keď zistia akýkoľvek závažný incident alebo akúkoľvek poruchu v zmysle článku 62, a používanie systému umelej inteligencie prerušia. V prípade, že nasadzujúci subjekt sa s poskytovateľom nedokáže spojiť, uplatňuje sa mutatis mutandis článok 62.
Pozmeňujúci návrh 405
Návrh nariadenia
Článok 29 – odsek 4 – pododsek 1
V prípade používateľov, ktorí sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, sa povinnosť monitorovania stanovená v prvom pododseku považuje za splnenú, ak sa dodržia pravidlá týkajúce sa opatrení, postupov a mechanizmov vnútorného riadenia podľa článku 74 uvedenej smernice.
 V prípade nasadzujúcich subjektov, ktorí sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, sa povinnosť monitorovania stanovená v prvom pododseku považuje za splnenú, ak sa dodržia pravidlá týkajúce sa opatrení, postupov a mechanizmov vnútorného riadenia podľa článku 74 uvedenej smernice.
Pozmeňujúci návrh 406
Návrh nariadenia
Článok 29 – odsek 5 – úvodná časť
5.  Používatelia vysokorizikových systémov umelej inteligencie uchovávajú logy automaticky generované týmito systémami, pokiaľ sú tieto logy pod ich kontrolou. Logy sa uchovávajú počas obdobia, ktoré je primerané vzhľadom na zamýšľaný účel vysokorizikového systému umelej inteligencie a uplatniteľné právne povinnosti podľa právnych predpisov Únie alebo vnútroštátneho práva.
 5.  Subjekty nasadzujúce vysokorizikové systémy umelej inteligencie uchovávajú logy automaticky generované týmito systémami, pokiaľ sú tieto logy pod ich kontrolou a vyžadujú sa na zabezpečenie a preukázanie súladu s týmto nariadením, na účely následných auditov akejkoľvek logicky predvídateľnej poruchy, incidentov alebo nesprávneho použitia systému alebo na zabezpečenie a monitorovanie riadneho fungovania systému počas jeho životného cyklu. Bez toho, aby bolo dotknuté uplatniteľné právo Únie alebo vnútroštátne právo, logy sa uchovávajú najmenej šesť mesiacov. Obdobie uchovávania musí byť v súlade s odvetvovými normami a primerané zamýšľanému účelu vysokorizikového systému umelej inteligencie.
Pozmeňujúci návrh 407
Návrh nariadenia
Článok 29 – odsek 5 – pododsek 1
Používatelia, ktorí sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, uchovávajú logy ako súčasť dokumentácie týkajúcej sa opatrení, postupov a mechanizmov vnútorného riadenia podľa článku 74 uvedenej smernice.
 Nasadzujúce subjekty, ktoré sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, uchovávajú logy ako súčasť dokumentácie týkajúcej sa opatrení, postupov a mechanizmov vnútorného riadenia podľa článku 74 uvedenej smernice.
Pozmeňujúci návrh 408
Návrh nariadenia
Článok 29 – odsek 5 a (nový)
5a.  Pred uvedením do prevádzky alebo používaním systému umelej inteligencie na pracovisku sa nasadzujúce subjekty poradia so zástupcami zamestnancov s cieľom dosiahnuť dohodu v súlade so smernicou 2002/14/ES a informujú dotknutých zamestnancov o tom, že sa na nich bude systém vzťahovať.
Pozmeňujúci návrh 409
Návrh nariadenia
Článok 29 – odsek 5 b (nový)
5b.  Subjekty nasadzujúce vysokorizikové systémy umelej inteligencie, ktorí sú orgánmi verejnej moci alebo inštitúciami, orgánmi, úradmi a agentúrami Únie alebo podnikmi uvedenými v článku 51 ods. 1a písm. b), plnia povinnosti týkajúce sa registrácie uvedené v článku 51.
Pozmeňujúci návrh 410
Návrh nariadenia
Článok 29 – odsek 6
6.  Na splnenie svojej povinnosti vykonať posúdenie vplyvu na ochranu údajov podľa článku 35 nariadenia (EÚ) 2016/679 alebo prípadne článku 27 smernice (EÚ) 2016/680 využijú používatelia vysokorizikových systémov umelej inteligencie informácie poskytnuté podľa článku 13.
 6.  V príslušných prípadoch na splnenie svojej povinnosti vykonať posúdenie vplyvu na ochranu údajov podľa článku 35 nariadenia (EÚ) 2016/679 alebo článku 27 smernice (EÚ) 2016/680 využijú subjekty nasadzujúce vysokorizikové systémy umelej inteligencie informácie poskytnuté podľa článku 13, ktorých súhrn sa zverejní so zreteľom na konkrétne použitie a konkrétny kontext, v ktorom má systém umelej inteligencie fungovať. Nasadzujúce subjekty sa môžu čiastočne vrátiť k týmto posúdeniam vplyvu na ochranu údajov, aby splnili niektoré povinnosti stanovené v tomto článku, pokiaľ posúdenie vplyvu na ochranu údajov tieto povinnosti spĺňa.
Pozmeňujúci návrh 411
Návrh nariadenia
Článok 29 – odsek 6 a (nový)
6a.  Bez toho, aby bol dotknutý článok 52, subjekty nasadzujúce vysokorizikové systémy umelej inteligencie uvedené v prílohe III, ktorí prijímajú rozhodnutia alebo pomáhajú pri prijímaní rozhodnutí týkajúcich sa fyzických osôb, informujú fyzické osoby o tom, že sa na ne vzťahuje použitie vysokorizikového systému umelej inteligencie. Tieto informácie zahŕňajú zamýšľaný účel a typ rozhodnutí, ktoré prijíma. Nasadzujúci subjekt takisto informuje fyzickú osobu o jej práve na vysvetlenie uvedené v článku 68c.
Pozmeňujúci návrh 412
Návrh nariadenia
Článok 29 – odsek 6 b (nový)
6b.  Nasadzujúce subjekty spolupracujú s príslušnými vnútroštátnymi orgánmi na každom opatrení, ktoré tieto orgány prijmú v súvislosti s vysokorizikovým systémom s cieľom vykonať toto nariadenie.
Pozmeňujúci návrh 413
Návrh nariadenia
Článok 29 a (nový)
Článok 29a
Posúdenie vplyvu na základné práva v prípade vysokorizikových systémov umelej inteligencie
Pred uvedením vysokorizikového systému umelej inteligencie, ako je vymedzený v článku 6 ods. 2, do používania, s výnimkou systémov umelej inteligencie určených na použitie v oblasti 2 prílohy III, vykonajú posúdenie vplyvu systému v konkrétnom kontexte používania. Toto posúdenie zahŕňa aspoň tieto prvky:
a)  jednoznačný opis zamýšľaného účelu, na ktorý sa bude systém používať;
b)  jednoznačný náčrt zamýšľaného geografického a časového rozsahu používania systému;
c)  kategórie fyzických osôb a skupín, ktoré môžu byť ovplyvnené používaním systému;
d)  overenie, či je používanie systému v súlade s príslušnými právnymi predpismi Únie a vnútroštátnymi právnymi predpismi a právnymi predpismi o základných právach;
e)  odôvodnene predvídateľný vplyv uvedenia vysokorizikového systému umelej inteligencie do používania na základné práva;
f)  osobitné riziká ujmy, ktoré by mohlo mať vplyv na marginalizované osoby alebo zraniteľné skupiny;
g)  odôvodnene predvídateľný nepriaznivý vplyv používania systému na životné prostredie;
h)  podrobný plán, ako sa zmiernia zistené škody a negatívny vplyv na základné práva;
j)  systém riadenia, ktorý nasadzujúci subjekt zavedie, vrátane ľudského dohľadu, riešenia sťažností a nápravy.
2.  Ak nie je možné určiť podrobný plán na zmiernenie rizík načrtnutých počas posudzovania uvedeného v odseku 1, nasadzujúci subjekt sa zdrží uvedenia vysokorizikového systému umelej inteligencie do prevádzky a bez zbytočného odkladu o tom informuje poskytovateľa a vnútroštátny dozorný orgán. Vnútroštátne dozorné orgány môžu na základe článkov 65 a 67 zohľadniť tieto informácie pri prešetrovaní systémov, ktoré predstavujú riziko na vnútroštátnej úrovni.
3.  Povinnosť uvedená v odseku 1 sa vzťahuje na prvé použitie vysokorizikového systému umelej inteligencie. Nasadzujúci subjekt môže v podobných prípadoch vychádzať z predtým vykonaného posúdenia vplyvu na základné práva alebo z existujúceho posúdenia, ktoré vykonali poskytovatelia. Ak sa nasadzujúci subjekt počas používania vysokorizikového systému umelej inteligencie domnieva, že kritériá uvedené v odseku 1 už nie sú splnené, vykoná nové posúdenie vplyvu na základné práva.
4.  V priebehu posudzovania vplyvu nasadzujúci subjekt, s výnimkou MSP, informuje vnútroštátny dozorný orgán a relevantné zainteresované strany a v čo najväčšej možnej miere zapojí zástupcov osôb alebo skupín osôb a zainteresované strany a zapojí zástupcov osôb alebo skupín osôb, ktoré môžu byť ovplyvnené vysokorizikovým systémom umelej inteligencie, ako je uvedené v odseku 1, okrem iného vrátane: orgánov pre rovnosť, agentúr na ochranu spotrebiteľa, sociálnych partnerov a agentúr na ochranu údajov s cieľom získať podklady pre posudzovanie vplyvu. Nasadzujúci subjekt musí poskytnúť orgánom lehotu šiestich týždňov na odpoveď. MSP môžu dobrovoľne uplatňovať ustanovenia uvedené v tomto odseku.
V prípade uvedenom v článku 47 ods. 1 môžu byť verejné orgány oslobodené od týchto povinností.
5.  Nasadzujúci subjekt, ktorý je orgánom verejnej moci alebo podnikom uvedeným v článku 51 ods. 1a písm. b), zverejní súhrn výsledkov posúdenia vplyvu ako súčasť registrácie použitia v súlade so svojou povinnosťou podľa článku 51 ods. 2.
6.  Ak už je zavádzajúci subjekt povinný vykonať posúdenie vplyvu na ochranu údajov podľa článku 35 nariadenia (EÚ) 2016/679 alebo článku 27 smernice (EÚ) 2016/680, posúdenie vplyvu na základné práva uvedené v odseku 1 sa vykoná spolu s posúdením vplyvu na ochranu údajov. Posúdenie vplyvu na ochranu údajov sa uverejní ako dodatok.
Pozmeňujúci návrh 414
Návrh nariadenia
Článok 30 – odsek 1
1.  Každý členský štát určí alebo zriadi notifikujúci orgán zodpovedný za stanovenie a vykonávanie nevyhnutných postupov na posudzovanie, určovanie a notifikáciu orgánov posudzovania zhody a za ich monitorovanie.
 1.  Každý členský štát určí alebo zriadi notifikujúci orgán zodpovedný za stanovenie a vykonávanie nevyhnutných postupov na posudzovanie, určovanie a notifikáciu orgánov posudzovania zhody a za ich monitorovanie. Tieto postupy sa vypracujú v spolupráci medzi notifikujúcimi orgánmi všetkých členských štátov.
Pozmeňujúci návrh 415
Návrh nariadenia
Článok 30 – odsek 7
7.  Notifikujúce orgány majú na riadne vykonávanie svojich úloh k dispozícii dostatočný počet odborne spôsobilých zamestnancov.
 7.  Notifikujúce orgány majú na riadne vykonávanie svojich úloh k dispozícii dostatočný počet odborne spôsobilých zamestnancov. V prípade potreby majú kompetentní pracovníci potrebné odborné znalosti, ako napríklad diplom z príslušnej právnej oblasti, v oblasti dohľadu nad základnými právami zakotvenými v Charte základných práv Európskej únie.
Pozmeňujúci návrh 416
Návrh nariadenia
Článok 30 – odsek 8
8.  Notifikujúce orgány zabezpečia, aby sa posudzovanie zhody vykonávalo primeraným spôsobom, ktorým sa predíde zbytočnému zaťaženiu poskytovateľov, a aby notifikované osoby vykonávali svoje činnosti s náležitým zreteľom na veľkosť podniku, odvetvie, v ktorom podnik pôsobí, jeho štruktúru a stupeň zložitosti príslušného systému umelej inteligencie.
 8.  Notifikujúce orgány zabezpečia, aby sa posudzovanie zhody vykonávalo včas a primeraným spôsobom, ktorým sa predíde zbytočnému zaťaženiu poskytovateľov, a aby notifikované osoby vykonávali svoje činnosti s náležitým zreteľom na veľkosť podniku, odvetvie, v ktorom podnik pôsobí, jeho štruktúru a stupeň zložitosti príslušného systému umelej inteligencie. Osobitná pozornosť sa venuje minimalizácii administratívnej záťaže a nákladov na dodržiavanie predpisov pre mikropodniky a malé podniky, ako sú vymedzené v prílohe k odporúčaniu Komisie 2003/361/ES.
Pozmeňujúci návrh 417
Návrh nariadenia
Článok 32 – odsek 1
1.  Notifikujúce orgány môžu notifikovať iba o tých orgánoch posudzovania zhody, ktoré splnili požiadavky stanovené v článku 33.
 1.  Notifikujúce orgány notifikujú iba o tých orgánoch posudzovania zhody, ktoré splnili požiadavky stanovené v článku 33.
Pozmeňujúci návrh 418
Návrh nariadenia
Článok 32 – odsek 2
2.  Komisii a ostatným členským štátom podávajú notifikujúce orgány notifikácie prostredníctvom elektronického notifikačného nástroja vyvinutého a spravovaného Komisiou.
 2.  Komisii a ostatným členským štátom podávajú notifikujúce orgány notifikácie každého orgánu posudzovania zhody uvedeného v odseku 1 prostredníctvom elektronického notifikačného nástroja vyvinutého a spravovaného Komisiou.
Pozmeňujúci návrh 419
Návrh nariadenia
Článok 32 – odsek 3
3.  Notifikácia musí obsahovať úplné údaje o činnostiach posudzovania zhody, module alebo moduloch posudzovania zhody a dotknutých technológiách umelej inteligencie.
 3.  Notifikácia podľa odseku 2 musí obsahovať úplné údaje o činnostiach posudzovania zhody, module alebo moduloch posudzovania zhody a dotknutých technológiách umelej inteligencie, ako aj príslušné osvedčenie o spôsobilosti.
Pozmeňujúci návrh 420
Návrh nariadenia
Článok 32 – odsek 4
4.  Dotknutý orgán posudzovania zhody môže vykonávať činnosti notifikovanej osoby iba vtedy, ak Komisia ani ostatné členské štáty nevzniesli do jedného mesiaca od notifikácie námietky.
 4.  Dotknutý orgán posudzovania zhody môže vykonávať činnosti notifikovanej osoby iba vtedy, ak Komisia ani ostatné členské štáty nevzniesli námietky do dvoch týždňov od overenia notifikácie s uplatnením osvedčenia o akreditácii uvedeného v článku 31 ods. 2 alebo do dvoch mesiacov od notifikácie s uplatnením písomných dokladov uvedených v článku 31 ods. 3.
Pozmeňujúci návrh 421
Návrh nariadenia
Článok 32 – odsek 4 a (nový)
4a.  V prípade vznesenia námietok Komisia bezodkladne začne konzultácie s príslušnými členskými štátmi a orgánom posudzovania zhody. Vzhľadom na to Komisia rozhodne, či je povolenie opodstatnené alebo nie. Svoje rozhodnutie Komisia oznámi dotknutému členskému štátu a príslušnému orgánu posudzovania zhody.
Pozmeňujúci návrh 422
Návrh nariadenia
Článok 32 – odsek 4 b (nový)
4b.  Členské štáty musia oznámiť orgány posudzovania zhody Komisii a ostatným členským štátom.
Pozmeňujúci návrh 423
Návrh nariadenia
Článok 33 – odsek 2
2.  Notifikované osoby musia spĺňať požiadavky týkajúce sa organizácie, riadenia kvality, zdrojov a postupov potrebné na plnenie svojich úloh.
 2.  Notifikované osoby musia spĺňať požiadavky týkajúce sa organizácie, riadenia kvality, zdrojov a postupov potrebné na plnenie svojich úloh, ako aj minimálne požiadavky na kybernetickú bezpečnosť stanovené pre subjekty verejnej správy identifikované ako prevádzkovatelia základných služieb podľa smernice (EÚ) 2022/2555.
Pozmeňujúci návrh 424
Návrh nariadenia
Článok 33 – odsek 4
4.  Notifikované osoby musia byť nezávislé od poskytovateľa vysokorizikového systému umelej inteligencie, v súvislosti s ktorým vykonávajú činnosti posudzovania zhody. Takisto musia byť nezávislé od akéhokoľvek iného prevádzkovateľa, ktorý má na posudzovanom vysokorizikovom systéme umelej inteligencie hospodársky záujem, ako aj od akýchkoľvek konkurentov poskytovateľa.
 4.  Notifikované osoby musia byť nezávislé od poskytovateľa vysokorizikového systému umelej inteligencie, v súvislosti s ktorým vykonávajú činnosti posudzovania zhody. Takisto musia byť nezávislé od akéhokoľvek iného prevádzkovateľa, ktorý má na posudzovanom vysokorizikovom systéme umelej inteligencie hospodársky záujem, ako aj od akýchkoľvek konkurentov poskytovateľa. Týmto sa nevylučuje používanie posudzovaných systémov umelej inteligencie, ktoré sú potrebné na výkon činností orgánu posudzovania zhody, alebo používanie takýchto systémov na osobné účely.
Pozmeňujúci návrh 425
Návrh nariadenia
Článok 33 – odsek 4 a (nový)
4a.  Posudzovanie zhody podľa odseku 1 vykonávajú zamestnanci notifikovaných osôb, ktorí v období 12 mesiacov pred posúdením neposkytli žiadnu inú službu súvisiacu s posudzovanou záležitosťou, než je posudzovanie zhody, poskytovateľovi vysokorizikového systému umelej inteligencie ani žiadnej právnickej osobe prepojenej s týmto poskytovateľom a zaviazali sa, že im takéto služby nebudú poskytovať v lehote 12 mesiacov od ukončenia posúdenia.
Pozmeňujúci návrh 426
Návrh nariadenia
Článok 33 – odsek 6
6.  Notifikované osoby musia mať zavedené zdokumentované postupy, ktorými sa zabezpečí, aby ich zamestnanci, výbory, dcérske spoločnosti, subdodávatelia a akýkoľvek pridružený subjekt alebo zamestnanci externých subjektov zachovávali dôvernosť informácií, ktoré získajú počas vykonávania činností posudzovania zhody, s výnimkou prípadov, keď sa zverejnenie týchto informácií vyžaduje podľa zákona. Zamestnanci notifikovaných osôb sú povinní zachovávať služobné tajomstvo, pokiaľ ide o všetky informácie, ktoré získali pri vykonávaní svojich úloh podľa tohto nariadenia; táto povinnosť sa neuplatňuje vo vzťahu k notifikujúcim orgánom členského štátu, v ktorom sa ich činnosti vykonávajú.
 6.  Notifikované osoby musia mať zavedené zdokumentované postupy, ktorými sa zabezpečí, aby ich zamestnanci, výbory, dcérske spoločnosti, subdodávatelia a akýkoľvek pridružený subjekt alebo zamestnanci externých subjektov zachovávali dôvernosť informácií, ktoré získajú počas vykonávania činností posudzovania zhody, s výnimkou prípadov, keď sa zverejnenie týchto informácií vyžaduje podľa zákona. Zamestnanci notifikovaných osôb sú povinní zachovávať služobné tajomstvo, pokiaľ ide o všetky informácie, ktoré získali pri vykonávaní svojich úloh podľa tohto nariadenia; táto povinnosť sa neuplatňuje vo vzťahu k notifikujúcim orgánom členského štátu, v ktorom sa ich činnosti vykonávajú. So všetkými informáciami a s dokumentáciou získanými podľa ustanovení tohto článku, sa zaobchádza v súlade s povinnosťami zachovávania dôvernosti stanovenými v článku 70.
Pozmeňujúci návrh 427
Návrh nariadenia
Článok 34 – odsek 3
3.  Vykonávanie činností sa môže zadať subdodávateľovi alebo preniesť na dcérsku spoločnosť iba so súhlasom poskytovateľa.
 3.  Vykonávanie činností sa môže zadať subdodávateľovi alebo preniesť na dcérsku spoločnosť iba so súhlasom poskytovateľa. Notifikované osoby zverejnia zoznam svojich dcérskych spoločností.
Pozmeňujúci návrh 428
Návrh nariadenia
Článok 34 – odsek 4
4.  Notifikované osoby musia mať pre notifikujúci orgán k dispozícii príslušnú dokumentáciu týkajúcu sa posúdenia kvalifikácie subdodávateľa alebo dcérskej spoločnosti a práce, ktorú tento subdodávateľ alebo táto dcérska spoločnosť vykonali podľa tohto nariadenia.
 4.  Notifikované osoby musia mať pre notifikujúci orgán k dispozícii príslušnú dokumentáciu týkajúcu sa overenia kvalifikácie subdodávateľa alebo dcérskej spoločnosti a práce, ktorú tento subdodávateľ alebo táto dcérska spoločnosť vykonali podľa tohto nariadenia.
Pozmeňujúci návrh 429
Návrh nariadenia
Článok 35 – nadpis
Identifikačné čísla a zoznamy notifikovaných osôb určených podľa tohto nariadenia
 Identifikačné čísla a zoznamy notifikovaných osôb
Pozmeňujúci návrh 430
Návrh nariadenia
Článok 36 – odsek 1
1.  Ak má notifikujúci orgán podozrenie alebo bol informovaný o tom, že notifikovaná osoba už nespĺňa požiadavky stanovené v článku 33 alebo že si neplní svoje povinnosti, notifikujúci orgán túto záležitosť bezodkladne a čo najdôkladnejšie vyšetrí. V tejto súvislosti informuje dotknutú notifikovanú osobu o vznesených námietkach a poskytne jej možnosť na vyjadrenie stanoviska. Ak notifikujúci orgán dospeje k záveru, že notifikovaná osoba, ktorá je predmetom vyšetrovania, už nespĺňa požiadavky stanovené v článku 33 alebo že si neplní svoje povinnosti, notifikujúci orgán podľa potreby a v závislosti od závažnosti nesplnenia požiadaviek alebo neplnenia povinností obmedzí, pozastaví alebo stiahne notifikáciu. Takisto o tom okamžite informuje Komisiu a ostatné členské štáty.
 1.  Ak má notifikujúci orgán podozrenie alebo bol informovaný o tom, že notifikovaná osoba už nespĺňa požiadavky stanovené v článku 33 alebo že si neplní svoje povinnosti, notifikujúci orgán túto záležitosť bezodkladne a čo najdôkladnejšie vyšetrí. V tejto súvislosti informuje dotknutú notifikovanú osobu o vznesených námietkach a poskytne jej možnosť na vyjadrenie stanoviska. Ak notifikujúci orgán dospeje k záveru, že notifikovaná osoba, ktorá je predmetom vyšetrovania, už nespĺňa požiadavky stanovené v článku 33 alebo že si neplní svoje povinnosti, notifikujúci orgán podľa potreby a v závislosti od závažnosti nesplnenia požiadaviek alebo neplnenia povinností obmedzí, pozastaví alebo stiahne notifikáciu. Takisto o tom okamžite informuje Komisiu a ostatné členské štáty.
Pozmeňujúci návrh 431
Návrh nariadenia
Článok 36 – odsek 2
2.  V prípade obmedzenia, pozastavenia alebo stiahnutia notifikácie, alebo ak notifikovaná osoba prestala vykonávať činnosť, notifikujúci orgán prijme náležité kroky, ktorými zabezpečí, aby spisovú dokumentáciu uvedenej notifikovanej osoby prevzala iná notifikovaná osoba alebo aby bola na požiadanie sprístupnená zodpovedným notifikujúcim orgánom.
 2.  V prípade obmedzenia, pozastavenia alebo stiahnutia notifikácie, alebo ak notifikovaná osoba prestala vykonávať činnosť, notifikujúci orgán prijme náležité kroky, ktorými zabezpečí, aby spisovú dokumentáciu uvedenej notifikovanej osoby prevzala iná notifikovaná osoba alebo aby bola na požiadanie sprístupnená zodpovedným notifikujúcim orgánom a orgánu dohľadu nad trhom.
Pozmeňujúci návrh 432
Návrh nariadenia
Článok 37 – odsek 1
1.  Komisia v prípade potreby vyšetrí všetky prípady, v ktorých sú odôvodnené pochybnosti o tom, či notifikovaná osoba spĺňa požiadavky stanovené v článku 33.
 1.  Komisia v prípade potreby vyšetrí všetky prípady, v ktorých sú odôvodnené pochybnosti o spôsobilosti notifikovanej osoby alebo o tom, či notifikovaná osoba naďalej plní uplatniteľné požiadavky a povinnosti.
Pozmeňujúci návrh 433
Návrh nariadenia
Článok 37 – odsek 2
2.  Notifikujúci orgán poskytne na požiadanie Komisii všetky relevantné informácie týkajúce sa notifikácie dotknutej notifikovanej osoby.
 2.  Notifikujúci orgán poskytne na požiadanie Komisii všetky relevantné informácie týkajúce sa notifikácie alebo zachovania spôsobilosti dotknutej notifikovanej osoby.
Pozmeňujúci návrh 434
Návrh nariadenia
Článok 37 – odsek 3
3.  Komisia zabezpečí dôverné zaobchádzanie so všetkými dôvernými informáciami získanými počas jej vyšetrovaní.
 3.  Komisia zabezpečí, aby sa so všetkými citlivými informáciami získanými počas jej vyšetrovaní podľa tohto článku zaobchádzalo dôverne.
Pozmeňujúci návrh 435
Návrh nariadenia
Článok 37 – odsek 4
4.  Keď Komisia zistí, že notifikovaná osoba nespĺňa alebo prestala spĺňať požiadavky stanovené v článku 33, prijme odôvodnené rozhodnutie, ktorým notifikujúci členský štát požiada, aby prijal potrebné nápravné opatrenia vrátane prípadného stiahnutia notifikácie. Uvedený vykonávací akt sa prijme v súlade s postupom preskúmania uvedeným v článku 74 ods. 2.
 4.  Ak Komisia zistí, že notifikovaný orgán nespĺňa alebo už nespĺňa požiadavky na jeho notifikáciu, informuje o tom notifikujúci členský štát a požiada ho, aby prijal potrebné nápravné opatrenia vrátane pozastavenia alebo odňatia notifikácie, ak je to potrebné. Ak členský štát neprijme potrebné nápravné opatrenia, Komisia môže prostredníctvom vykonávacích aktov pozastaviť, obmedziť alebo odňať autorizáciu. Uvedený vykonávací akt sa prijme v súlade s postupom preskúmania uvedeným v článku 74 ods. 2.
Pozmeňujúci návrh 436
Návrh nariadenia
Článok 38 – odsek 2 a (nový)
2a.  Komisia zabezpečuje výmenu znalostí a najlepších postupov medzi vnútroštátnymi orgánmi členských štátov, ktoré sú zodpovedné za politiku notifikácie.
Pozmeňujúci návrh 437
Návrh nariadenia
Článok 40 – odsek 1
Vysokorizikové systémy umelej inteligencie, ktoré sú v zhode s harmonizovanými normami alebo ich časťami, na ktoré boli uverejnené odkazy v Úradnom vestníku Európskej únie, sa považujú za systémy, ktoré sú v zhode s požiadavkami stanovenými v kapitole 2 tejto hlavy, pokiaľ sa uvedené normy na tieto požiadavky vzťahujú.
 Vysokorizikové systémy umelej inteligencie a základné modely, ktoré sú v zhode s harmonizovanými normami alebo ich časťami, na ktoré boli uverejnené odkazy v Úradnom vestníku Európskej únie v súlade s nariadením (EÚ) 1025/2012, sa považujú za systémy, ktoré sú v zhode s požiadavkami stanovenými v kapitole 2 tejto hlavy alebo článku 28b, pokiaľ sa uvedené normy na tieto požiadavky vzťahujú.
Pozmeňujúci návrh 438
Návrh nariadenia
Článok 40 – odsek 1 a (nový)
Komisia vydá žiadosti o normalizáciu, ktoré sa vzťahujú na všetky požiadavky tohto nariadenia v súlade s článkom 10 nariadenia (EÚ) č. 1025/2012 do ... [dvoch mesiacov odo dňa nadobudnutia účinnosti tohto nariadenia]. Pri príprave žiadosti o normalizáciu Komisia konzultuje s úradom pre umelú inteligenciu a poradným fórom.
Pozmeňujúci návrh 439
Návrh nariadenia
Článok 40 – odsek 1 b (nový)
Pri vydávaní žiadosti o normalizáciu európskym normalizačným organizáciám Komisia uvedie, že normy musia byť v súlade, a to aj s odvetvovými právnymi predpismi uvedenými v prílohe II, a zamerané na zabezpečenie toho, aby systémy umelej inteligencie alebo základné modely uvádzané na trh alebo do prevádzky v Únii spĺňali príslušné požiadavky stanovené v tomto nariadení.
Pozmeňujúci návrh 440
Návrh nariadenia
Článok 40 – odsek 1 c (nový)
Subjekty zapojené do procesu normalizácie zohľadňujú všeobecné zásady dôveryhodnej umelej inteligencie stanovené v článku 4 písm. a), snažia sa podporovať investície a inovácie v oblasti umelej inteligencie, ako aj konkurencieschopnosť a rast trhu Únie a prispievajú k posilňovaniu globálnej spolupráce v oblasti normalizácie, pričom zohľadňujú existujúce medzinárodné normy v oblasti umelej inteligencie, ktoré sú v súlade s hodnotami, základnými právami a záujmami Únie, a zabezpečujú vyvážené zastúpenie záujmov a účinnú účasť všetkých príslušných zainteresovaných strán v súlade s článkami 5, 6 a 7 nariadenia (EÚ) č. 1025/2012.
Pozmeňujúci návrh 441
Návrh nariadenia
Článok 41 – odsek 1
1.  Ak harmonizované normy uvedené v článku 40 neexistujú alebo ak sa Komisia domnieva, že príslušné harmonizované normy sú nedostatočné alebo že je potrebné riešiť osobitné obavy týkajúce sa bezpečnosti alebo základných práv, môže prostredníctvom vykonávacích aktov prijať spoločné špecifikácie, pokiaľ ide o požiadavky stanovené v kapitole 2 tejto hlavy. Uvedené vykonávacie akty sa prijmú v súlade s postupom preskúmania uvedeným v článku 74 ods. 2.
 vypúšťa sa
Pozmeňujúci návrh 442
Návrh nariadenia
Článok 41 – odsek 1 a (nový)
1a.  Komisia môže prostredníctvom vykonávacieho aktu prijatého v súlade s postupom preskúmania uvedeným v článku 74 ods. 2 a po konzultácii s úradom pre umelú inteligenciu a poradným fórom pre umelú inteligenciu prijať spoločné špecifikácie, pokiaľ ide o požiadavky stanovené v kapitole 2 tejto hlavy alebo článku 28b, ak sú splnené všetky tieto podmienky:
a)  neexistuje žiadny odkaz na harmonizované normy, ktoré už boli uverejnené v Úradnom vestníku Európskej únie a ktoré sa týkajú základných požiadaviek, pokiaľ predmetná harmonizovaná norma nie je existujúcou normou, ktorá sa musí revidovať;
b)  Komisia požiadala jednu alebo viacero európskych normalizačných organizácií o vypracovanie harmonizovanej normy pre základnú požiadavku alebo základné požiadavky stanovené v kapitole 2;
c)  žiadosť Komisie uvedenú v písmene b) neakceptovala žiadna z európskych normalizačných organizácií, alebo pri stanovení vhodnej harmonizovanej normy dochádza k zbytočným prieťahom, alebo predložená norma nespĺňa požiadavky príslušných právnych predpisov Únie alebo nie je v súlade so žiadosťou Komisie.
Pozmeňujúci návrh 443
Návrh nariadenia
Článok 41 – odsek 1 b (nový)
1b.  Ak sa Komisia domnieva, že je potrebné riešiť osobitné obavy týkajúce sa základných práv, v spoločných špecifikáciách prijatých Komisiou v súlade s odsekom 1a sa riešia aj tieto osobitné obavy týkajúce sa základných práv.
Pozmeňujúci návrh 444
Návrh nariadenia
Článok 41 – odsek 1 c (nový)
1c.  Komisia vypracuje spoločné špecifikácie pre metodiku na splnenie požiadavky na podávanie správ a dokumentáciu týkajúcu sa spotreby energie a zdrojov počas vývoja, trénovania a zavádzania vysokorizikového systému umelej inteligencie.
Pozmeňujúci návrh 445
Návrh nariadenia
Článok 41 – odsek 2
2.  Komisia pri vypracúvaní spoločných špecifikácií uvedených v odseku 1 zozbiera stanoviská príslušných orgánov alebo expertných skupín zriadených podľa príslušných odvetvových právnych predpisov Únie.
 2.  Komisia počas celého procesu navrhovania spoločných špecifikácií uvedených v odsekoch 1a a 1b pravidelne konzultuje s úradom pre umelú inteligenciu a poradným fórom, európskymi normalizačnými organizáciami a orgánmi alebo expertnými skupinami zriadenými podľa príslušného odvetvového práva Únie, ako aj s inými príslušnými zainteresovanými stranami. Komisia plní ciele uvedené v článku 40 ods. 1c a riadne odôvodní, prečo sa rozhodla použiť spoločné špecifikácie.
Ak má Komisia v úmysle prijať spoločné špecifikácie podľa odseku 1a tohto článku, jasne určí aj konkrétne obavy týkajúce sa základných práv, ktorými je potrebné sa zaoberať.
Pri prijímaní spoločných špecifikácií podľa odsekov 1a a 1b tohto článku Komisia zohľadní stanovisko vydané úradom pre umelú inteligenciu uvedeným v článku 56e písm. b) tohto nariadenia. Ak sa Komisia rozhodne nepostupovať podľa stanoviska úradu pre umelú inteligenciu, poskytne úradu pre umelú inteligenciu odôvodnené vysvetlenie.
Pozmeňujúci návrh 446
Návrh nariadenia
Článok 41 – odsek 3
3.  Vysokorizikové systémy umelej inteligencie, ktoré sú v zhode so spoločnými špecifikáciami uvedenými v odseku 1, sa považujú za systémy, ktoré sú v zhode s požiadavkami stanovenými v kapitole 2 tejto hlavy, pokiaľ sa uvedené spoločné špecifikácie na tieto požiadavky vzťahujú.
 3.  Vysokorizikové systémy umelej inteligencie, ktoré sú v zhode so spoločnými špecifikáciami uvedenými v odseku 1a a 1b, sa považujú za systémy, ktoré sú v zhode s požiadavkami stanovenými v kapitole 2 tejto hlavy, pokiaľ sa uvedené spoločné špecifikácie na tieto požiadavky vzťahujú.
Pozmeňujúci návrh 447
Návrh nariadenia
Článok 41 – odsek 3 a (nový)
3a  . Ak európska normalizačná organizácia prijme harmonizovanú normu a navrhne Komisii, aby uverejnila odkaz na ňu v Úradnom vestníku Európskej únie, Komisia túto harmonizovanú normu posúdi v súlade s nariadením (EÚ) č. 1025/2012. Keď sa v Úradnom vestníku Európskej únie uverejní odkaz na harmonizovanú normu, Komisia zruší akty uvedené v odseku 1 a 1b alebo tie ich časti, ktoré sa vzťahujú na rovnaké požiadavky stanovené v tejto hlave kapitole 2.
Pozmeňujúci návrh 448
Návrh nariadenia
Článok 41 – odsek 4
4.  Ak poskytovatelia nedodržiavajú spoločné špecifikácie uvedené v odseku 1, musia riadne odôvodniť, že prijali technické riešenia, ktoré sú s uvedenými špecifikáciami aspoň rovnocenné.
 4.  Ak poskytovatelia vysokorizikových systémov umelej inteligencie nedodržiavajú spoločné špecifikácie uvedené v odseku 1, musia riadne odôvodniť, že prijali technické riešenia, ktoré spĺňajú požiadavky uvedené v kapitole 2 aspoň na minimálne rovnocennej úrovni.
Pozmeňujúci návrh 449
Návrh nariadenia
Článok 42 – odsek 1
1.  Vzhľadom na zamýšľaný účel vysokorizikových systémov umelej inteligencie, ktoré boli trénované a testované na údajoch týkajúcich sa konkrétnych geografických, behaviorálnych a funkčných podmienok, v ktorých sa majú používať, sa predpokladá, že tieto systémy sú v súlade s požiadavkou stanovenou v článku 10 ods. 4.
 1.  Vzhľadom na zamýšľaný účel vysokorizikových systémov umelej inteligencie, ktoré boli trénované a testované na údajoch týkajúcich sa konkrétnych geografických, behaviorálnych, kontextuálnych a funkčných podmienok, v ktorých sa majú používať, sa predpokladá, že tieto systémy sú v súlade s príslušnými požiadavkami stanovenými v článku 10 ods. 4.
Pozmeňujúci návrh 450
Návrh nariadenia
Článok 43 – odsek 1 – úvodná časť
1.  Ak poskytovateľ pri preukazovaní súladu vysokorizikového systému umelej inteligencie uvedeného v bode 1 prílohy III s požiadavkami stanovenými v kapitole 2 tejto hlavy uplatnil harmonizované normy uvedené v článku 40 alebo prípadne spoločné špecifikácie uvedené v článku 41, musí dodržať jeden z týchto postupov:
 1.  Ak poskytovateľ pri preukazovaní súladu vysokorizikového systému umelej inteligencie uvedeného v bode 1 prílohy III s požiadavkami stanovenými v kapitole 2 tejto hlavy uplatnil harmonizované normy uvedené v článku 40 alebo prípadne spoločné špecifikácie uvedené v článku 41, musí si zvoliť jeden z týchto postupov;
Pozmeňujúci návrh 451
Návrh nariadenia
Článok 43 – odsek 1 – písmeno a
a)  postup posudzovania zhody na základe vnútornej kontroly uvedený v prílohe VI;
 a)  postup posudzovania zhody na základe vnútornej kontroly uvedený v prílohe VI; alebo
Pozmeňujúci návrh 452
Návrh nariadenia
Článok 43 – odsek 1 – písmeno b
b)  postup posudzovania zhody na základe posúdenia systému riadenia kvality a posúdenia technickej dokumentácie za účasti notifikovanej osoby uvedený v prílohe VII.
 b)  postup posudzovania zhody na základe posúdenia systému riadenia kvality a technickej dokumentácie za účasti notifikovanej osoby uvedený v prílohe VII.
Pozmeňujúci návrh 453
Návrh nariadenia
Článok 43 – odsek 1 – pododsek 1
Ak poskytovateľ pri preukazovaní súladu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy neuplatnil harmonizované normy uvedené v článku 40 alebo ich uplatnil len čiastočne, alebo ak takéto harmonizované normy neexistujú a spoločné špecifikácie uvedené v článku 41 nie sú k dispozícii, poskytovateľ musí dodržať postup posudzovania zhody stanovený v prílohe VII.
 Pri preukazovaní súladu vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v kapitole 2 tejto hlavy poskytovateľ dodržiava postup posudzovania zhody stanovený v prílohe VII v týchto prípadoch:
a)  keď harmonizované normy uvedené v článku 40, ktorých referenčné číslo bolo uverejnené v Úradnom vestníku Európskej únie, vzťahujúce sa na všetky príslušné bezpečnostné požiadavky na systém umelej inteligencie, neexistujú a spoločné špecifikácie uvedené v článku 41 nie sú k dispozícii;
b)  keď technické špecifikácie uvedené v písmene a) existujú, ale poskytovateľ ich neuplatnil alebo ich uplatnil len čiastočne;
c)  keď technické špecifikácie uvedené v písmene a) boli uverejnené s obmedzením a len pre tú časť normy, ktorá bola obmedzená;
d)  keď sa poskytovateľ domnieva, že charakter, dizajn, konštrukcia alebo účel systému umelej inteligencie si vyžadujú overenie treťou stranou bez ohľadu na úroveň jeho rizika.
Pozmeňujúci návrh 454
Návrh nariadenia
Článok 43 – odsek 1 – pododsek 2
Na účely postupu posudzovania zhody uvedeného v prílohe VII si poskytovateľ môže vybrať ktorúkoľvek z notifikovaných osôb. Ak však majú systém uviesť do prevádzky orgány presadzovania práva, imigračné alebo azylové orgány, ako aj inštitúcie, orgány alebo agentúry EÚ, ako notifikovaná osoba koná orgán dohľadu nad trhom uvedený v článku 63 ods. 5 alebo 6.
 Na účely vykonávania postupu posudzovania zhody uvedeného v prílohe VII si poskytovateľ môže vybrať ktorúkoľvek z notifikovaných osôb. Ak však majú systém uviesť do prevádzky orgány presadzovania práva, imigračné alebo azylové orgány, ako aj inštitúcie, orgány alebo agentúry EÚ, ako notifikovaná osoba koná orgán dohľadu nad trhom uvedený v článku 63 ods. 5 alebo 6.
Pozmeňujúci návrh 455
Návrh nariadenia
Článok 43 – odsek 4 – úvodná časť
4.  Vždy, keď dôjde k podstatnej zmene vysokorizikových systémov umelej inteligencie, podrobia sa novému postupu posudzovania zhody, a to bez ohľadu na to, či je upravený systém určený na ďalšiu distribúciu alebo či ho ďalej používa súčasný používateľ.
 4.  Vždy, keď dôjde k podstatnej zmene vysokorizikových systémov umelej inteligencie, ktoré už podliehali postupu posudzovania zhody, podrobia sa novému postupu posudzovania zhody, a to bez ohľadu na to, či je upravený systém určený na ďalšiu distribúciu alebo či ho ďalej používa súčasný nasadzujúci subjekt;
Pozmeňujúci návrh 456
Návrh nariadenia
Článok 43 – odsek 4 a (nový)
4a.  Pri stanovovaní poplatkov za posudzovanie zhody treťou stranou podľa tohto článku sa zohľadnia osobitné záujmy a potreby MSP tak, že sa tieto poplatky znížia úmerne k ich veľkosti a trhovému podielu.
Pozmeňujúci návrh 457
Návrh nariadenia
Článok 43 – odsek 5
5.  Komisia je splnomocnená prijímať delegované akty v súlade s článkom 73 na účely aktualizácie príloh VI a VII s cieľom zaviesť prvky postupov posudzovania zhody, ktorých potreba vznikne vzhľadom na technický pokrok.
 5.  Komisia je splnomocnená prijímať delegované akty v súlade s článkom 73 na účely aktualizácie príloh VI a VII s cieľom zaviesť prvky postupov posudzovania zhody, ktorých potreba vznikne vzhľadom na technický pokrok. Pri príprave takýchto delegovaných aktov Komisia konzultuje s úradom pre umelú inteligenciu a dotknutými zainteresovanými stranami.
Pozmeňujúci návrh 458
Návrh nariadenia
Článok 43 – odsek 6
6.  Komisia je splnomocnená prijímať delegované akty na zmenu odsekov 1 a 2 s cieľom podrobiť vysokorizikové systémy umelej inteligencie uvedené v bodoch 2 až 8 prílohy III postupu posudzovania zhody uvedenému v prílohe VII alebo jeho častiam. Pri prijímaní takýchto delegovaných aktov Komisia zohľadní účinnosť postupu posudzovania zhody na základe vnútornej kontroly uvedeného v prílohe VI pri predchádzaní alebo minimalizácii rizík pre zdravie, bezpečnosť a ochranu základných práv, ktoré takéto systémy predstavujú, ako aj dostupnosť primeraných kapacít a zdrojov notifikovaných osôb.
 6.  Komisia je splnomocnená prijímať delegované akty na zmenu odsekov 1 a 2 s cieľom podrobiť vysokorizikové systémy umelej inteligencie uvedené v bodoch 2 až 8 prílohy III postupu posudzovania zhody uvedenému v prílohe VII alebo jeho častiam. Pri prijímaní takýchto delegovaných aktov Komisia zohľadní účinnosť postupu posudzovania zhody na základe vnútornej kontroly uvedeného v prílohe VI pri predchádzaní alebo minimalizácii rizík pre zdravie, bezpečnosť a ochranu základných práv, ktoré takéto systémy predstavujú, ako aj dostupnosť primeraných kapacít a zdrojov notifikovaných osôb. Pri príprave takýchto delegovaných aktov Komisia konzultuje s úradom pre umelú inteligenciu a dotknutými zainteresovanými stranami.
Pozmeňujúci návrh 459
Návrh nariadenia
Článok 44 – odsek 1
1.  Certifikáty vydané notifikovanými osobami v súlade s prílohou VII sa vyhotovia v niektorom z úradných jazykov Únie, ktorý určí členský štát, v ktorom je notifikovaná osoba usadená, alebo v inom úradnom jazyku Únie prijateľnom pre notifikovanú osobu.
 1.  Certifikáty vydané notifikovanými osobami v súlade s prílohou VII sa vyhotovia v jednom alebo vo viacerých úradných jazykoch Únie, ktoré určí členský štát, v ktorom je notifikovaná osoba usadená, alebo v jednom alebo vo viacerých úradných jazykoch Únie prijateľných pre notifikovanú osobu.
Pozmeňujúci návrh 460
Návrh nariadenia
Článok 44 – odsek 2
2.  Certifikáty platia na obdobie, ktoré sa v nich uvádza a ktoré nesmie presiahnuť päť rokov. Na žiadosť poskytovateľa možno platnosť certifikátu predĺžiť na ďalšie obdobia, z ktorých žiadne nesmie presiahnuť päť rokov, a to na základe opätovného posúdenia v súlade s uplatniteľnými postupmi posudzovania zhody.
 2.  Certifikáty platia na obdobie, ktoré sa v nich uvádza a ktoré nesmie presiahnuť štyri roky. Na žiadosť poskytovateľa možno platnosť certifikátu predĺžiť na ďalšie obdobia, z ktorých žiadne nesmie presiahnuť štyri roky, a to na základe opätovného posúdenia v súlade s uplatniteľnými postupmi posudzovania zhody.
Pozmeňujúci návrh 461
Návrh nariadenia
Článok 44 – odsek 3
3.  Ak notifikovaná osoba zistí, že systém umelej inteligencie už nespĺňa požiadavky stanovené v kapitole 2 tejto hlavy, pozastaví so zreteľom na zásadu primeranosti platnosť vydaného certifikátu alebo ho stiahne, alebo jeho platnosť obmedzí, pokiaľ sa v primeranej lehote stanovenej notifikovanou osobou vhodnými nápravnými opatreniami prijatými poskytovateľom systému nezabezpečí súlad s týmito požiadavkami. Notifikovaná osoba svoje rozhodnutie zdôvodní.
 3.  Ak notifikovaná osoba zistí, že systém umelej inteligencie už nespĺňa požiadavky stanovené v kapitole 2 tejto hlavy, pozastaví platnosť vydaného certifikátu alebo ho stiahne, alebo jeho platnosť obmedzí, pokiaľ sa v primeranej lehote stanovenej notifikovanou osobou vhodnými nápravnými opatreniami prijatými poskytovateľom systému nezabezpečí súlad s týmito požiadavkami. Notifikovaná osoba svoje rozhodnutie zdôvodní.
Pozmeňujúci návrh 462
Návrh nariadenia
Článok 45 – odsek 1
Členské štáty zabezpečia, aby strany, ktoré majú oprávnený záujem na rozhodnutiach notifikovaných osôb, mohli proti týmto rozhodnutiam využiť odvolacie konanie.
 Členské štáty zabezpečia, aby strany, ktoré majú oprávnený záujem na rozhodnutiach notifikovaných osôb, mohli proti týmto rozhodnutiam využiť odvolacie konanie vrátane rozhodnutí o vydaných certifikátoch zhody.
Pozmeňujúci návrh 463
Návrh nariadenia
Článok 46 – odsek 3
3.  Každá notifikovaná osoba poskytne ostatným notifikovaným osobám, ktoré vykonávajú podobné činnosti posudzovania zhody vzťahujúce sa na rovnaké technológie umelej inteligencie, relevantné informácie o otázkach týkajúcich sa negatívnych a na požiadanie aj pozitívnych výsledkov posudzovania zhody.
 3.  Každá notifikovaná osoba poskytne ostatným notifikovaným osobám, ktoré vykonávajú podobné činnosti posudzovania zhody, relevantné informácie o otázkach týkajúcich sa negatívnych a na požiadanie aj pozitívnych výsledkov posudzovania zhody.
Pozmeňujúci návrh 464
Návrh nariadenia
Článok 47 – odsek 1
1.  Odchylne od článku 43 môže každý orgán dohľadu nad trhom z výnimočných dôvodov verejnej bezpečnosti alebo ochrany života a zdravia osôb, ochrany životného prostredia a ochrany kľúčových priemyselných a infraštruktúrnych aktív povoliť uvedenie špecifických vysokorizikových systémov umelej inteligencie na trh alebo do prevádzky na území dotknutého členského štátu. Toto povolenie sa udelí na obmedzené obdobie, kým sa vykonávajú potrebné postupy posudzovania zhody, a po ukončení týchto postupov sa jeho platnosť končí. Uvedené postupy sa ukončia bez zbytočného odkladu.
 1.  Odchylne od článku 43 môže každý vnútroštátny dozorný orgán z výnimočných dôvodov ochrany života a zdravia osôb, ochrany životného prostredia a ochrany kritickej infraštruktúry požiadať súdny orgán o povolenie uvedenia špecifických vysokorizikových systémov umelej inteligencie na trh alebo do prevádzky na území dotknutého členského štátu. Toto povolenie sa udelí na obmedzené obdobie, kým sa vykonávajú potrebné postupy posudzovania zhody, a po ukončení týchto postupov sa jeho platnosť končí. Uvedené postupy sa ukončia bez zbytočného odkladu;
Pozmeňujúci návrh 465
Návrh nariadenia
Článok 47 – odsek 2
2.  Povolenie uvedené v odseku 1 sa vydá len vtedy, ak orgán dohľadu nad trhom dospeje k záveru, že vysokorizikový systém umelej inteligencie spĺňa požiadavky kapitoly 2 tejto hlavy. O každom povolení vydanom podľa odseku 1 informuje orgán dohľadu nad trhom Komisiu a ostatné členské štáty.
 2.  Povolenie uvedené v odseku 1 sa vydá len vtedy, ak vnútroštátny dozorný orgán a súdny orgán dospejú k záveru, že vysokorizikový systém umelej inteligencie spĺňa požiadavky kapitoly 2 tejto hlavy. O každej podanej žiadosti a každom následnom povolení vydanom podľa odseku 1 informuje vnútroštátny dozorný orgán Komisiu, úrad pre umelú inteligenciu a ostatné členské štáty.
Pozmeňujúci návrh 466
Návrh nariadenia
Článok 47 – odsek 3
3.  Ak žiaden členský štát ani Komisia do 15 kalendárnych dní od prijatia informácií uvedených v odseku 2 nevznesú námietku proti povoleniu vydanému orgánom dohľadu na trhom členského štátu v súlade s odsekom 1, toto povolenie sa považuje za opodstatnené.
 3.  Ak žiaden členský štát ani Komisia do 15 kalendárnych dní od prijatia informácií uvedených v odseku 2 nevznesú námietku proti žiadosti vnútroštátneho dozorného orgánu o povolenie vydané vnútroštátnym dozorným orgánom členského štátu v súlade s odsekom 1, toto povolenie sa považuje za opodstatnené.
Pozmeňujúci návrh 467
Návrh nariadenia
Článok 47 – odsek 4
4.  Ak do 15 kalendárnych dní od prijatia oznámenia uvedeného v odseku 2 členský štát vznesie námietky proti povoleniu vydanému orgánom dohľadu nad trhom iného členského štátu alebo ak sa Komisia domnieva, že povolenie je v rozpore s právnymi predpismi Únie alebo že záver členských štátov, pokiaľ ide o súlad systému uvedeného v odseku 2, je neopodstatnený, Komisia bezodkladne začne konzultácie s príslušným členským štátom; s príslušným prevádzkovateľom (prevádzkovateľmi) sa vedú konzultácie a má možnosť vyjadriť svoje stanovisko. Vzhľadom na to Komisia rozhodne, či je povolenie opodstatnené alebo nie. Svoje rozhodnutie Komisia oznámi dotknutému členskému štátu a príslušnému prevádzkovateľovi, príp. prevádzkovateľom.
 4.  Ak do 15 kalendárnych dní od prijatia oznámenia uvedeného v odseku 2 členský štát vznesie námietky proti žiadosti vydanej vnútroštátnym dozorným orgánom iného členského štátu alebo ak sa Komisia domnieva, že povolenie je v rozpore s právnymi predpismi Únie alebo že záver členských štátov, pokiaľ ide o súlad systému uvedeného v odseku 2, je neopodstatnený, Komisia bezodkladne začne konzultácie s príslušným členským štátom a úradom pre umelú inteligenciu; s príslušným prevádzkovateľom (prevádzkovateľmi) sa vedú konzultácie a má možnosť vyjadriť svoje stanovisko. Vzhľadom na to Komisia rozhodne, či je povolenie opodstatnené alebo nie. Svoje rozhodnutie Komisia oznámi dotknutému členskému štátu a príslušnému prevádzkovateľovi, resp. príslušným prevádzkovateľom.
Pozmeňujúci návrh 468
Návrh nariadenia
Článok 47 – odsek 5
5.  Ak sa povolenie považuje za neopodstatnené, orgán dohľadu nad trhom dotknutého členského štátu ho stiahne.
 5.  Ak sa povolenie považuje za neopodstatnené, národný dozorný orgán dotknutého členského štátu ho stiahne.
Pozmeňujúci návrh 469
Návrh nariadenia
Článok 48 – odsek 1
1.  Pre každý systém umelej inteligencie poskytovateľ vyhotoví EÚ vyhlásenie o zhode v písomnej podobe, ktoré desať rokov po uvedení systému umelej inteligencie na trh alebo do prevádzky uchováva k dispozícii pre potreby príslušných vnútroštátnych orgánov. V EÚ vyhlásení o zhode musí byť uvedený systém umelej inteligencie, pre ktorý bolo vyhotovené. Na požiadanie sa kópia EÚ vyhlásenia o zhode poskytne príslušným vnútroštátnym orgánom.
 1.  Pre každý vysokorizikový systém umelej inteligencie poskytovateľ vyhotoví EÚ strojovo čitateľné, fyzické alebo elektronické vyhlásenie o zhode v písomnej podobe, ktoré desať rokov po uvedení vysokorizikového systému umelej inteligencie na trh alebo do prevádzky uchováva k dispozícii pre potreby národného dozorného orgánu a príslušných vnútroštátnych orgánov. Na požiadanie sa kópia EÚ vyhlásenia o zhode predloží národnému dozornému orgánu a príslušným vnútroštátnym orgánom.
Pozmeňujúci návrh 470
Návrh nariadenia
Článok 48 – odsek 2
2.  V EÚ vyhlásení o zhode sa uvedie, že príslušný vysokorizikový systém umelej inteligencie spĺňa požiadavky stanovené v kapitole 2 tejto hlavy. EÚ vyhlásenie o zhode musí obsahovať informácie uvedené v prílohe V a musí byť preložené do toho úradného jazyka alebo tých úradných jazykov Únie, ktoré sú požadované v členských štátoch, kde sa vysokorizikový systém umelej inteligencie sprístupňuje.
 2.  V EÚ vyhlásení o zhode sa uvedie, že príslušný vysokorizikový systém umelej inteligencie spĺňa požiadavky stanovené v kapitole 2 tejto hlavy. EÚ vyhlásenie o zhode musí obsahovať informácie uvedené v prílohe V a musí byť preložené do toho úradného jazyka alebo tých úradných jazykov Únie, ktoré sú požadované v členských štátoch, kde sa vysokorizikový systém umelej inteligencie uvádza na trh alebo sprístupňuje.
Pozmeňujúci návrh 471
Návrh nariadenia
Článok 48 – odsek 3
3.  Ak sa na vysokorizikové systémy umelej inteligencie vzťahujú ďalšie harmonizačné právne predpisy Únie, v ktorých sa takisto vyžaduje EÚ vyhlásenie o zhode, vyhotoví sa vo vzťahu k všetkým právnym predpisom Únie uplatniteľným na daný vysokorizikový systém umelej inteligencie jedno EÚ vyhlásenie o zhode. Toto vyhlásenie musí obsahovať všetky informácie potrebné na to, aby bolo možné identifikovať harmonizačné právne predpisy Únie, na ktoré sa vyhlásenie vzťahuje.
 3.  Ak sa na vysokorizikové systémy umelej inteligencie vzťahujú ďalšie harmonizačné právne predpisy Únie, v ktorých sa takisto vyžaduje EÚ vyhlásenie o zhode, môže sa vyhotoviť vo vzťahu k všetkým právnym predpisom Únie uplatniteľným na daný vysokorizikový systém umelej inteligencie jedno EÚ vyhlásenie o zhode. Toto vyhlásenie musí obsahovať všetky informácie potrebné na to, aby bolo možné identifikovať harmonizačné právne predpisy Únie, na ktoré sa vyhlásenie vzťahuje.
Pozmeňujúci návrh 472
Návrh nariadenia
Článok 48 – odsek 5
5.  Komisia je splnomocnená prijímať delegované akty v súlade s článkom 73 na účely aktualizácie obsahu EÚ vyhlásenia o zhode stanoveného v prílohe V s cieľom zaviesť prvky, ktorých potreba vznikne vzhľadom na technický pokrok.
 5.  Po konzultácii s úradom pre umelú inteligenciu je Komisia splnomocnená prijímať delegované akty v súlade s článkom 73 na účely aktualizácie obsahu EÚ vyhlásenia o zhode stanoveného v prílohe V s cieľom zaviesť prvky, ktorých potreba vznikne vzhľadom na technický pokrok.
Pozmeňujúci návrh 473
Návrh nariadenia
Článok 49 – odsek 1
1.  Označenie CE sa na vysokorizikové systémy umelej inteligencie umiestni tak, aby bolo viditeľné, čitateľné a neodstrániteľné. Ak to nie je možné alebo odôvodnené z hľadiska povahy vysokorizikového systému umelej inteligencie, označenie sa umiestni na obale alebo prípadne v sprievodnej dokumentácii.
 1.  Fyzické označenie CE sa pre vysokorizikové systémy umelej inteligencie umiestni pred uvedením vysokorizikového systému umelej inteligencie na trh tak, aby bolo viditeľné, čitateľné a neodstrániteľné. Ak to nie je možné alebo odôvodnené z hľadiska povahy vysokorizikového systému umelej inteligencie, označenie sa umiestni na obale alebo prípadne v sprievodnej dokumentácii. Môže za ním nasledovať piktogram alebo akákoľvek iná značka označujúca osobitné riziko použitia.
Pozmeňujúci návrh 474
Návrh nariadenia
Článok 49 – odsek 1 a (nový)
1a.  V prípade len digitálnych vysokorizikových systémov umelej inteligencie sa digitálne označenie CE používa len vtedy, ak je k nemu možné získať jednoduchý prístup prostredníctvom rozhrania, z ktorého je prístup k systému umelej inteligencie, alebo prostredníctvom ľahko dostupného strojovo čitateľného kódu alebo iných elektronických prostriedkov.
Pozmeňujúci návrh 475
Návrh nariadenia
Článok 49 – odsek 3
3.  V relevantných prípadoch za označením CE nasleduje identifikačné číslo notifikovanej osoby zodpovednej za postupy posudzovania zhody stanovené v článku 43. Identifikačné číslo sa uvedie aj v akomkoľvek reklamnom materiáli, v ktorom sa nachádza informácia, že vysokorizikový systém umelej inteligencie spĺňa požiadavky na označenie CE.
 3.  V relevantných prípadoch za označením CE nasleduje identifikačné číslo notifikovanej osoby zodpovednej za postupy posudzovania zhody stanovené v článku 43. Identifikačné číslo notifikovanej osoby umiestňuje samotná osoba alebo na základe jej pokynov splnomocnený zástupca poskytovateľa. Identifikačné číslo sa uvedie aj v akomkoľvek reklamnom materiáli, v ktorom sa nachádza informácia, že vysokorizikový systém umelej inteligencie spĺňa požiadavky na označenie CE.
Pozmeňujúci návrh 476
Návrh nariadenia
Článok 49 – odsek 3 a (nový)
3a  . Ak vysokorizikové systémy umelej inteligencie podliehajú iným právnym predpisom Únie, v ktorých sa takisto vyžaduje umiestňovanie označenia CE, v označení CE sa uvedie, že vysokorizikové systémy umelej inteligencie spĺňajú aj požiadavky uvedených iných právnych predpisov.
Pozmeňujúci návrh 477
Návrh nariadenia
Článok 50 – odsek 1 – úvodná časť
Počas obdobia končiaceho sa desať rokov po uvedení systému umelej inteligencie na trh alebo do prevádzky uchováva poskytovateľ pre potreby príslušných vnútroštátnych orgánov:
 Počas obdobia končiaceho sa desať rokov po uvedení systému umelej inteligencie na trh alebo do prevádzky uchováva poskytovateľ pre potreby národného dozorného orgánu a príslušných vnútroštátnych orgánov:
Pozmeňujúci návrh 478
Návrh nariadenia
Článok 51 – odsek 1
Pred uvedením vysokorizikového systému umelej inteligencie podľa článku 6 ods. 2 na trh alebo do prevádzky poskytovateľ alebo prípadne jeho splnomocnený zástupca zaregistruje tento systém v databáze EÚ uvedenej v článku 60.
 Pred uvedením vysokorizikového systému umelej inteligencie podľa článku 6 ods. 2 na trh alebo do prevádzky poskytovateľ alebo prípadne jeho splnomocnený zástupca zaregistruje tento systém v databáze EÚ uvedenej v článku 60 v súlade s článkom 60 ods. 2;
Pozmeňujúci návrh 479
Návrh nariadenia
Článok 51 – odsek 1 a (nový)
Pred uvedením vysokorizikového systému umelej inteligencie do prevádzky alebo pred jeho používaním v súlade s článkom 6 ods. 2 sa do databázy EÚ uvedenej v článku 60 zaregistrujú tieto kategórie nasadzujúcich subjektov:
a)  nasadzujúce subjekty, ktoré sú orgánmi verejnej moci alebo inštitúciami, orgánmi, úradmi alebo agentúrami Únie alebo nasadzujúcimi subjektmi konajúcimi v ich mene;
b)  nasadzujúce subjekty, ktoré sú podnikmi označenými za strážcu prístupu podľa nariadenia (EÚ) 2022/1925.
Pozmeňujúci návrh 480
Návrh nariadenia
Článok 51 – odsek 1 b (nový)
Nasadzujúce subjekty, na ktoré sa nevzťahuje pododsek 1a, sú oprávnené dobrovoľne zaregistrovať používanie vysokorizikového systému umelej inteligencie uvedeného v článku 6 ods. 2 v databáze EÚ uvedenej v článku 60.
Pozmeňujúci návrh 481
Návrh nariadenia
Článok 51 – odsek 1 c (nový)
Aktualizovaný zápis o registrácii sa musí vyplniť ihneď po každej podstatnej zmene.
Pozmeňujúci návrh 482
Návrh nariadenia
Hlava IV
POVINNOSTI TRANSPARENTNOSTI PRE URČITÉ SYSTÉMY UMELEJ INTELIGENCIE
 POVINNOSTI TRANSPARENTNOSTI
Pozmeňujúci návrh 483
Návrh nariadenia
Článok 52 – nadpis
Povinnosti transparentnosti pre určité systémy umelej inteligencie
 Povinnosti transparentnosti
Pozmeňujúci návrh 484
Návrh nariadenia
Článok 52 – odsek 1
1.  Poskytovatelia zabezpečia, aby systémy umelej inteligencie určené na interakciu s fyzickými osobami boli koncipované a vyvinuté tak, aby boli fyzické osoby informované o tom, že komunikujú so systémom umelej inteligencie, pokiaľ to nie je zrejmé z okolností a kontextu používania. Táto povinnosť sa nevzťahuje na systémy umelej inteligencie, ktoré sa podľa zákona môžu používať na odhaľovanie, prevenciu, vyšetrovanie a stíhanie trestných činov, pokiaľ tieto systémy nie sú sprístupnené verejnosti na oznamovanie trestných činov.
 1.  Poskytovatelia zabezpečia, aby systémy umelej inteligencie určené na interakciu s fyzickými osobami boli koncipované a vyvinuté tak, aby systém umelej inteligencie, samotný poskytovateľ alebo používateľ včas, jasne a zrozumiteľne informovali fyzickú osobu vystavenú systému umelej inteligencie o tom, že komunikuje so systémom umelej inteligencie, pokiaľ to nie je zrejmé z okolností a kontextu používania.
Ak je to vhodné a relevantné, tieto informácie zahŕňajú aj to, ktoré funkcie sú umožnené umelou inteligenciou, ak existuje ľudský dohľad, a kto je zodpovedný za rozhodovací proces, ako aj existujúce práva a postupy, ktoré podľa práva Únie a vnútroštátneho práva umožňujú fyzickým osobám alebo ich zástupcom namietať proti uplatňovaniu takýchto systémov vo vzťahu k nim a domáhať sa súdneho prostriedku nápravy v prípade rozhodnutí prijatých systémami umelej inteligencie alebo ujmy nimi spôsobenej vrátane ich práva požiadať o vysvetlenie. Táto povinnosť sa nevzťahuje na systémy umelej inteligencie, ktoré sa podľa zákona môžu používať na odhaľovanie, prevenciu, vyšetrovanie a stíhanie trestných činov, pokiaľ tieto systémy nie sú sprístupnené verejnosti na oznamovanie trestných činov.
Pozmeňujúci návrh 485
Návrh nariadenia
Článok 52 – odsek 2
2.  Používatelia systému na rozpoznávanie emócií alebo systému biometrickej kategorizácie musia o prevádzke takéhoto systému informovať fyzické osoby, ktoré sú mu vystavené. Táto povinnosť sa nevzťahuje na systémy umelej inteligencie používané na biometrickú kategorizáciu, ktoré sa podľa zákona môžu používať na odhaľovanie, prevenciu a vyšetrovanie trestných činov.
 2.  Používatelia systému rozpoznávania emócií alebo systému biometrickej kategorizácie, ktorý nie je zakázaný podľa článku 5, musia o prevádzke takéhoto systému včas, jasne a zrozumiteľne informovať fyzické osoby, ktoré sú mu vystavené, a získať ich súhlas pred spracovaním ich biometrických a iných osobných údajov v súlade s nariadením (EÚ) 2016/679, nariadením (EÚ) 2016/1725 a prípadne smernicou (EÚ) 2016/280. Táto povinnosť sa nevzťahuje na systémy umelej inteligencie používané na biometrickú kategorizáciu, ktoré sa podľa zákona môžu používať na odhaľovanie, prevenciu a vyšetrovanie trestných činov.
Pozmeňujúci návrh 486
Návrh nariadenia
Článok 52 – odsek 3 – pododsek 1
3.  Používatelia systému umelej inteligencie, ktorý vytvára obrazový, zvukový obsah alebo videoobsah, alebo s takýmto obsahom manipuluje, pričom tento obsah sa zjavne podobá existujúcim osobám, predmetom, miestam alebo iným subjektom či udalostiam a niektorým osobám by sa mohol mylne javiť ako pravý alebo pravdivý („deepfake“), musia informovať, že tento obsah bol umelo vytvorený alebo zmanipulovaný.
 3.  Používatelia systému umelej inteligencie, ktorý vytvára textový, zvukový alebo vizuálny obsah, alebo s takýmto obsahom manipulujú, pričom tento obsah by sa mohol mylne javiť ako pravý alebo pravdivý a zobrazuje osoby, ktoré zdanlivo hovoria alebo robia veci, ktoré nepovedali alebo neurobili, a to bez ich súhlasu („deepfake“), musia vhodným spôsobom, včas, jasne a viditeľne informovať, že tento obsah bol umelo vytvorený alebo zmanipulovaný a uviesť vždy, keď je to možné, meno fyzickej alebo právnickej osoby, ktorá obsah vytvorila alebo zmanipulovala. Informovanie znamená označenie obsahu spôsobom, ktorý informuje o tom, že obsah je neautentický, a ktorý je pre príjemcu tohto obsahu jasne viditeľný. Pri označovaní obsahu používatelia zohľadňujú všeobecne uznávaný stav poznania a príslušné harmonizované normy a špecifikácie.
Pozmeňujúci návrh 487
Návrh nariadenia
Článok 52 – odsek 3 – pododsek 2
Prvý pododsek sa však neuplatňuje, ak toto použitie povoľuje zákon na odhaľovanie, prevenciu, vyšetrovanie a stíhanie trestných činov alebo je nevyhnutné na výkon práva na slobodu prejavu a práva na slobodu umenia a vedeckého bádania, ktoré sú zaručené Chartou základných práv EÚ, a pod podmienkou primeraných záruk pre práva a slobody tretích strán.
 3a  . Odsek 3 sa neuplatňuje, ak použitie systému umelej inteligencie, ktorá vytvára textový, zvukový alebo vizuálny obsah alebo s ním manipuluje, povoľuje zákon alebo ak to je nevyhnutné na výkon práva na slobodu prejavu a práva na slobodu umenia a vedeckého bádania, ktoré sú zaručené Chartou základných práv EÚ, a pod podmienkou primeraných záruk pre práva a slobody tretích strán. Ak je obsah súčasťou zjavne kreatívneho, satirického, umeleckého alebo fiktívneho kinematografického, videoherného a podobného diela alebo programu, povinnosti týkajúce sa transparentnosti stanovené v odseku 3 sa obmedzujú na zverejnenie existencie takéhoto vytvoreného alebo zmanipulovaného obsahu, a to primerane jasným a viditeľným spôsobom, ktorý nebráni zobrazeniu diela, a v relevantných prípadoch na zverejnenie príslušných autorských práv. Nebráni ani orgánom presadzovania práva, aby používali systémy umelej inteligencie určené na odhaľovanie deepfakes a prevenciu, vyšetrovanie a stíhanie trestných činov spojených s ich používaním.
Pozmeňujúci návrh 488
Návrh nariadenia
Článok 52 – odsek 3 b (nový)
3b.  Informácie uvedené v odsekoch 1 až 3 sa fyzickým osobám poskytnú najneskôr v čase prvej interakcie alebo expozície. Musia byť dostupné zraniteľným osobám, ako sú osoby so zdravotným postihnutím alebo deti, a v relevantných a vhodných prípadoch musia byť doplnené o postupy zásahu alebo označenia exponovanej fyzickej osoby, pričom sa zohľadní všeobecne uznávaný stav, ako aj príslušné harmonizované normy a spoločné špecifikácie.
Pozmeňujúci návrh 489
Návrh nariadenia
Článok 53 – odsek 1
1.  Experimentálne regulačné prostredia pre umelú inteligenciu zriadené jedným alebo viacerými príslušnými orgánmi členských štátov alebo európskym dozorným úradníkom pre ochranu údajov musia poskytovať kontrolované prostredie, ktoré na obmedzený čas pred uvedením inovačných systémov umelej inteligencie na trh alebo do prevádzky podľa konkrétneho plánu uľahčuje ich vývoj, testovanie a validáciu. Uskutočňuje sa to pod priamym dohľadom a vedením príslušných orgánov s cieľom zabezpečiť súlad s požiadavkami tohto nariadenia a prípadne s inými právnymi predpismi Únie a členských štátov, nad ktorým sa v rámci experimentálneho regulačného prostredia vykonáva dohľad.
 1.  Členské štáty zriadia aspoň jedno experimentálne regulačné prostredie pre umelú inteligenciu na vnútroštátnej úrovni, ktoré musí byť funkčné najneskôr v deň začatia uplatňovania tohto nariadenia. Toto regulačné prostredie možno zriadiť aj spoločne s jedným alebo viacerými ďalšími členskými štátmi.
Pozmeňujúci návrh 490
Návrh nariadenia
Článok 53 – odsek 1 a (nový)
1a.  Môžu sa zriadiť aj ďalšie experimentálne regulačné prostredia pre umelú inteligenciu na regionálnej alebo miestnej úrovni alebo spoločne s inými členskými štátmi.
Pozmeňujúci návrh 491
Návrh nariadenia
Článok 53 – odsek 1 b (nový)
1b.  Komisia a európsky dozorný úradník pre ochranu údajov môžu samostatne, spoločne alebo v spolupráci s jedným alebo viacerými členskými štátmi zriadiť aj experimentálne regulačné prostredia pre umelú inteligenciu na úrovni Únie.
Pozmeňujúci návrh 492
Návrh nariadenia
Článok 53 – odsek 1 c (nový)
1c.  Zriaďujúce orgány pridelia dostatočné zdroje na zabezpečenie účinného a včasného súladu s týmto článkom.
Pozmeňujúci návrh 493
Návrh nariadenia
Článok 53 – odsek 1 d (nový)
1d.  Experimentálne regulačné prostredia pre umelú inteligenciu musia poskytovať v súlade s kritériami stanovenými v článku 53a kontrolované prostredie, ktoré uľahčuje vývoj, testovanie a validáciu inovačných systémov umelej inteligencie na obmedzený čas pred ich uvedením na trh alebo do prevádzky podľa konkrétneho plánu dohodnutého medzi potenciálnymi poskytovateľmi a zriaďujúcim orgánom.
Pozmeňujúci návrh 494
Návrh nariadenia
Článok 53 – odsek 1 e (nový)
1e.  Zriadenie experimentálnych regulačných prostredí pre umelú inteligenciu má prispieť k dosiahnutiu týchto cieľov:
a)  aby príslušné orgány poskytovali potenciálnym poskytovateľom systémov umelej inteligencie usmernenia s cieľom dosiahnuť regulačný súlad s týmto nariadením alebo prípadne inými uplatniteľnými právnymi predpismi Únie a členských štátov;
b)  aby potenciálni poskytovatelia umožnili a uľahčili testovanie a vývoj inovačných riešení týkajúcich sa systémov umelej inteligencie;
c)  regulačného učenia v kontrolovanom prostredí.
Pozmeňujúci návrh 495
Návrh nariadenia
Článok 53 – odsek 1 f (nový)
1f.  Zriaďujúce orgány poskytujú usmernenia a dohľad v rámci experimentálneho prostredia s cieľom identifikovať riziká, najmä pre základné práva, demokraciu a právny štát, zdravie a bezpečnosť a životné prostredie, testovať a preukazovať zmierňujúce opatrenia pre identifikované riziká a ich účinnosť a zabezpečiť súlad s požiadavkami tohto nariadenia a prípadne s inými právnymi predpismi Únie a členských štátov.
Pozmeňujúci návrh 496
Návrh nariadenia
Článok 53 – odsek 1 f (nový)
1g.  Zrieďujúce orgány poskytujú potenciálnym poskytovateľom experimentálnych prostredí, ktorí vyvíjajú vysokorizikové systémy umelej inteligencie, usmernenia a dohľad nad tým, ako splniť požiadavky stanovené v tomto nariadení, aby systémy umelej inteligencie mohli opustiť experimentálne prostredie s predpokladom zhody s osobitnými požiadavkami tohto nariadenia, ktoré boli posúdené v rámci experimentálneho prostredia. Pokiaľ systém umelej inteligencie spĺňa požiadavky pri opustení experimentálneho prostredia, predpokladá sa, že je v súlade s týmto nariadením. V tejto súvislosti orgány dohľadu nad trhom alebo prípadne notifikované subjekty zohľadňujú správy o výstupoch vypracované zriaďujúcim orgánom v kontexte postupov posudzovania zhody alebo kontrol v rámci dohľadu nad trhom.
Pozmeňujúci návrh 497
Návrh nariadenia
Článok 53 – odsek 2
2.  Pokiaľ inovačné systémy umelej inteligencie spracúvajú osobné údaje alebo na inom základe podliehajú dohľadu ďalších vnútroštátnych orgánov alebo príslušných orgánov, ktoré poskytujú alebo podporujú prístup k údajom, členské štáty zabezpečia, aby do prevádzky experimentálneho regulačného prostredia pre umelú inteligenciu boli zapojené vnútroštátne orgány na ochranu údajov a ďalšie vnútroštátne orgány.
 2.  Zriaďujúce orgány zabezpečia, že pokiaľ inovačné systémy umelej inteligencie spracúvajú osobné údaje alebo na inom základe podliehajú dohľadu ďalších vnútroštátnych orgánov alebo príslušných orgánov, ktoré poskytujú alebo podporujú prístup k osobným údajom, aby vnútroštátne orgány na ochranu údajov alebo v prípadoch uvedených v odseku 1bEDPS a ďalšie vnútroštátne orgány boli zapojené do prevádzky experimentálneho regulačného prostredia pre umelú inteligenciu a do dohľadu nad jeho aspektmi v plnom rozsahu svojich príslušných úloh a právomocí.
Pozmeňujúci návrh 498
Návrh nariadenia
Článok 53 – odsek 3
3.  Právomoci príslušných orgánov v oblasti dohľadu a nápravy nie sú experimentálnymi regulačnými prostrediami pre umelú inteligenciu dotknuté. Akékoľvek významné riziká pre zdravie a bezpečnosť, ako aj pre základné práva, ktoré sa zistia počas vývoja a testovania takýchto systémov, musia mať za následok okamžité zmiernenie rizík, a ak to nie je možné, pozastavenie procesu vývoja a testovania, až kým k takémuto zmierneniu nedôjde.
 3.  Právomoci príslušných orgánov v oblasti dohľadu a nápravy nie sú experimentálnymi regulačnými prostrediami pre umelú inteligenciu dotknuté, a to aj na regionálnej a miestnej úrovni. Akékoľvek významné riziká pre základné práva, demokraciu, právny štát, zdravie, bezpečnosť alebo životné prostredie, ktoré sa zistia počas vývoja a testovania takýchto systémov umelej inteligencie, musia mať za následok okamžité a primerané zmiernenie rizík. Príslušné orgány majú právomoc dočasne alebo natrvalo pozastaviť testovanie alebo účasť v experimentálnom prostredí, ak nie je možné účinné zmiernenie, a o takomto rozhodnutí informujú úrad pre umelú inteligenciu.
Pozmeňujúci návrh 499
Návrh nariadenia
Článok 53 – odsek 4
4.  Účastníci experimentálneho regulačného prostredia pre umelú inteligenciu sú podľa uplatniteľných právnych predpisov Únie a členských štátov týkajúcich sa zodpovednosti zodpovední za akúkoľvek škodu spôsobenú tretím stranám v dôsledku experimentov, ktoré sa v takomto prostredí uskutočňujú.
 4.  Potenciálni poskytovatelia experimentálneho regulačného prostredia pre umelú inteligenciu sú podľa uplatniteľných právnych predpisov Únie a členských štátov týkajúcich sa zodpovednosti zodpovední za akúkoľvek škodu spôsobenú tretím stranám v dôsledku experimentov, ktoré sa v takomto prostredí uskutočňujú. Ak však potenciálni poskytovatelia dodržiavajú konkrétny plán uvedený v odseku 1c a podmienky svojej účasti a v dobrej viere sa riadia usmerneniami zriaďujúcich orgánov, orgány neprijmú žiadne administratívne donucovacie opatrenia za porušenie tohto nariadenia.
Pozmeňujúci návrh 500
Návrh nariadenia
Článok 53 – odsek 5
5.  Príslušné orgány členských štátov, ktoré experimentálne regulačné prostredia pre umelú inteligenciu zriadili, koordinujú svoje činnosti a spolupracujú v rámci Európskej rady pre umelú inteligenciu. O výsledkoch zavádzania uvedených systémov predkladajú Európskej rade pre umelú inteligenciu a Komisii výročné správy, v ktorých uvedú osvedčené postupy, získané skúsenosti a odporúčania týkajúce sa štruktúry systémov a prípadne aj uplatňovania tohto nariadenia a iných právnych predpisov Únie, nad ktorým sa v rámci regulačného prostredia vykonáva dohľad.
 5.  Zriaďujúce orgány koordinujú svoje činnosti a spolupracujú v rámci úradu pre umelú inteligenciu.
Pozmeňujúci návrh 501
Návrh nariadenia
Článok 53 – odsek 5 a (nový)
5a.  Zriaďujúce orgány informujú úrad pre umelú inteligenciu o zriadení experimentálneho prostredia a môžu požiadať o podporu a usmernenie. Úrad pre umelú inteligenciu zverejní a aktualizuje zoznam plánovaných a existujúcich experimentálnych prostredí s cieľom podporiť väčšiu interakciu v experimentálnych regulačných prostrediach a nadnárodnú spoluprácu.
Pozmeňujúci návrh 502
Návrh nariadenia
Článok 53 – odsek 5 b (nový)
5b.  Zriaďujúce orgány predkladajú úradu pre umelú inteligenciu a Komisii, pokiaľ jediným zriaďujúcim orgánom nie je Komisia, výročné správy so začiatkom rok po zriadení experimentálneho prostredia a potom každý rok až do jeho ukončenia a záverečnej správy. Tieto správy poskytujú informácie o pokroku a výsledkoch implementácie experimentálneho prostredia vrátane najlepších postupov, incidentov, získaných skúseností a odporúčaní týkajúcich sa štruktúry systémov a prípadne aj uplatňovania a prípadnej revízie tohto nariadenia a iných právnych predpisov Únie, nad ktorými sa v rámci regulačného prostredia vykonáva dohľad. Tieto výročné správy alebo ich zhrnutia sa sprístupnia verejnosti online.
Pozmeňujúci návrh 503
Návrh nariadenia
Článok 53 – odsek 6
6.  Spôsoby a podmienky fungovania experimentálnych regulačných prostredí pre umelú inteligenciu vrátane kritérií oprávnenosti a postupu podávania žiadostí, výberu, účasti a ukončenia účasti v takomto prostredí, ako aj práva a povinnosti účastníkov sa stanovia vo vykonávacích aktoch. Uvedené vykonávacie akty sa prijmú v súlade s postupom preskúmania uvedeným v článku 74 ods. 2.
 6.  Komisia vytvorí jednotné a vyhradené rozhranie, ktoré bude obsahovať všetky relevantné informácie týkajúce sa experimentálnych prostredí, spolu s jednotným kontaktným miestom na úrovni Únie s cieľom komunikovať s experimentálnymi regulačnými prostrediami a umožniť zainteresovaným stranám klásť otázky príslušným orgánom a žiadať nezáväzné usmernenia o zhode inovačných produktov, služieb a obchodných modelov zahŕňajúcich technológie umelej inteligencie;
Komisia aktívne koordinuje svoju činnosť s vnútroštátnymi, regionálnymi a prípadne aj miestnymi orgánmi.
Pozmeňujúci návrh 504
Návrh nariadenia
Článok 53 – odsek 6 a (nový)
6a.  Na účely odsekov 1 a 1a Komisia zohráva doplnkovú úlohu, a umožňuje členským štátom, aby stavali na svojich odborných znalostiach, a na druhej strane pomáha a zabezpečuje technické porozumenie a zdroje tým členským štátom, ktoré sa snažia získať usmernenia o zriadení a fungovaní týchto experimentálnych regulačných prostredí.
Pozmeňujúci návrh 505
Návrh nariadenia
Článok 53 a (nový)
Článok 53a
Modality a fungovanie experimentálnych regulačných prostredí pre umelú inteligenciu
1.  S cieľom zabrániť fragmentácii v Únii Komisia po konzultácii s úradom pre umelú inteligenciu prijme delegovaný akt, v ktorom podrobne opíše spôsoby zriadenia, vývoja, vykonávania a fungovania experimentálnych regulačných prostredí pre umelú inteligenciu a dohľadu nad nimi vrátane kritérií oprávnenosti a postupu podávania žiadostí, výberu, účasti a opustenia experimentálneho prostredia a práv a povinností účastníkov na základe ustanovení stanovených v tomto článku;
2.  Komisia je splnomocnená prijímať delegované akty v súlade s postupom uvedeným v článku 73 najneskôr do 12 mesiacov od nadobudnutia účinnosti tohto nariadenia a zabezpečí, aby:
a)  experimentálne regulačné prostredia boli otvorené každému žiadajúcemu potenciálnemu poskytovateľovi systému umelej inteligencie, ktorý spĺňa kritériá oprávnenosti a výberu. Kritériá prístupu do experimentálneho regulačného prostredia sú transparentné a spravodlivé a zriaďujúce orgány informujú žiadateľov o svojom rozhodnutí do 3 mesiacov od podania žiadosti;
b)  experimentálne regulačné prostredia umožňovali široký a rovnaký prístup a udržiavali krok s dopytom po účasti;
c)  prístup k experimentálnym regulačným prostrediam pre umelú inteligenciu bo pre MSP a startupy bezplatný bez toho, aby boli dotknuté mimoriadne náklady, ktoré môžu zriaďujúce orgány vymáhať spravodlivým a primeraným spôsobom;
d)  experimentálne regulačné prostredia uľahčovali zapojenie ďalších relevantných aktérov v rámci ekosystému umelej inteligencie, ako sú notifikované subjekty a normalizačné organizácie (MSP, startupy, podniky, inovátori, testovacie a experimentálne zariadenia, výskumné a experimentálne laboratóriá a centrá digitálnych inovácií, centrá excelentnosti, jednotliví výskumní pracovníci) s cieľom umožniť a uľahčiť spoluprácu s verejným a súkromným sektorom;
e)  umožnili potenciálnym poskytovateľom v riadenom prostredí splniť povinnosti posudzovania zhody podľa tohto nariadenia alebo dobrovoľné uplatňovanie kódexov správania uvedených v článku 69;
f)  postupy, procesy a administratívne požiadavky na podávanie žiadostí, výber, účasť a odchod z experimentálneho prostredia boli jednoduché, ľahko zrozumiteľné, jasne komunikované s cieľom uľahčiť účasť MSP a startupov s obmedzenými právnymi a administratívnymi kapacitami a aby boli zosúladené v celej Únii, a tak sa zabránilo fragmentácii a aby sa účasť v experimentálnom regulačnom prostredí vytvorenom členským štátom, Komisiou alebo EDPS vzájomne a jednotne uznávala a mala rovnaké právne účinky v celej Únii;
g)  účasť na experimentálnom regulačnom prostredí pre umelú inteligenciu bola obmedzená na obdobie, ktoré je primerané zložitosti a rozsahu projektu;
h)  regulačné prostredia uľahčia vývoj nástrojov a infraštruktúry na testovanie, referenčné porovnávanie, posudzovanie a vysvetľovanie rozmerov systémov umelej inteligencie relevantných pre experimentálne regulačné prostredia, ako sú presnosť, spoľahlivosť a kybernetická bezpečnosť, ako aj minimalizácia rizík v oblasti základných práv, životného prostredia a spoločnosti ako celku.
3.  Potenciálnym poskytovateľom v experimentálnych prostrediach, najmä MSP a startupom, sa uľahčí prístup k službám pred nasadením, ako sú usmernenia týkajúce sa vykonávania tohto nariadenia, k iným službám s pridanou hodnotou, ako je pomoc s normalizačnými dokumentmi a certifikáciou a konzultácie, a k iným iniciatívam digitálneho jednotného trhu, ako sú testovacie a experimentálne zariadenia, digitálne centrá, centrá excelentnosti a možnosti referenčného porovnávania EÚ.
Pozmeňujúci návrh 506
Návrh nariadenia
Článok 54 – nadpis
Ďalšie spracovanie osobných údajov na účely vývoja určitých systémov umelej inteligencie vo verejnom záujme v experimentálnom regulačnom prostredí pre umelú inteligenciu
 Ďalšie spracovanie údajov na účely vývoja určitých systémov umelej inteligencie vo verejnom záujme v experimentálnom regulačnom prostredí pre umelú inteligenciu
Pozmeňujúci návrh 507
Návrh nariadenia
Článok 54 – odsek 1 – úvodná časť
1.  Osobné údaje zákonne zozbierané na iné účely sa v experimentálnom regulačnom prostredí pre umelú inteligenciu spracúvajú na účely vývoja a testovania určitých inovačných systémov umelej inteligencie v regulačnom prostredí za týchto podmienok:
 1.  Osobné údaje zákonne zozbierané na iné účely sa v experimentálnom regulačnom prostredí pre umelú inteligenciu môžu spracúvať výlučne na účely vývoja a testovania určitých systémov umelej inteligencie v regulačnom prostredí, ak sú splnené všetky tieto podmienky:
Pozmeňujúci návrh 508
Návrh nariadenia
Článok 54 – odsek 1 – písmeno a – úvodná časť
a)  inovačné systémy umelej inteligencie sa vyvíjajú na ochranu významného verejného záujmu v jednej alebo viacerých z týchto oblastí:
 a)  systémy umelej inteligencie sa vyvíjajú na ochranu významného verejného záujmu v jednej alebo viacerých z týchto oblastí:
ii)  verejná bezpečnosť a verejné zdravie vrátane odhaľovania, diagnostiky, prevencie, kontroly a liečby chorôb;
iii)  vysoká úroveň ochrany životného prostredia a zlepšovanie jeho kvality, ochrana biodiverzity, ako aj zmierňovanie zmeny klímy a adaptácia na ňu;
iiia)  bezpečnosť a odolnosť dopravných systémov, kritickej infraštruktúry a sietí.
Pozmeňujúci návrh 509
Návrh nariadenia
Článok 54 – odsek 1 – písmeno a – bod i
i)  predchádzanie trestným činom, ich vyšetrovanie, odhaľovanie alebo stíhanie, alebo výkon trestných sankcií vrátane ochrany pred ohrozením verejnej bezpečnosti a predchádzania takémuto ohrozeniu pod kontrolou a v zodpovednosti príslušných orgánov. Spracovanie prebieha podľa právnych predpisov členského štátu alebo Únie;
 vypúšťa sa
Pozmeňujúci návrh 510
Návrh nariadenia
Článok 54 – odsek 1 – písmeno c
c)  existujú účinné mechanizmy monitorovania umožňujúce zistiť, či počas experimentovania v regulačných prostrediach môžu vznikať vysoké riziká pre základné práva dotknutých osôb, ako aj mechanizmus reakcie na rýchle zmiernenie týchto rizík a v prípade potreby na zastavenie spracúvania;
 c)  existujú účinné mechanizmy monitorovania umožňujúce zistiť, či počas experimentovania v regulačných prostrediach môžu vznikať vysoké riziká pre práva a slobody dotknutých osôb, ako sa uvádzajú v článku 35 nariadenia (EÚ) 2016/679 a v článku 35 nariadenia (EÚ) 2018/1725, ako aj mechanizmus reakcie na rýchle zmiernenie týchto rizík a v prípade potreby na zastavenie spracúvania;
Pozmeňujúci návrh 511
Návrh nariadenia
Článok 54 – odsek 1 – písmeno d
d)  všetky osobné údaje, ktoré sa majú spracúvať v rámci regulačného prostredia, sú vo funkčne oddelenom, izolovanom a chránenom prostredí spracovania údajov pod kontrolou účastníkov a prístup k týmto údajom majú len oprávnené osoby;
 d)  všetky osobné údaje, ktoré sa majú spracúvať v rámci regulačného prostredia, sú vo funkčne oddelenom, izolovanom a chránenom prostredí spracovania údajov pod kontrolou potenciálnych poskytovateľov a prístup k týmto údajom majú len oprávnené osoby;
Pozmeňujúci návrh 512
Návrh nariadenia
Článok 54 – odsek 1 – písmeno f
f)  spracovanie osobných údajov v rámci regulačného prostredia nevedie k opatreniam alebo rozhodnutiam, ktoré majú vplyv na dotknuté osoby;
 f)  spracovanie osobných údajov v rámci regulačného prostredia nevedie k opatreniam alebo rozhodnutiam, ktoré majú vplyv na dotknuté osoby, ani nemá vplyv na uplatňovanie ich práv stanovených v práve Únie o ochrane osobných údajov;
Pozmeňujúci návrh 513
Návrh nariadenia
Článok 54 – odsek 1 – písmeno g
g)  všetky osobné údaje spracúvané v rámci regulačného prostredia sa po ukončení účasti v regulačnom prostredí alebo po skončení obdobia uchovávania osobných údajov vymažú;
 g)  všetky osobné údaje spracúvané v rámci regulačného prostredia sú chránené primeranými technickými a organizačnými opatreniami a po ukončení účasti v regulačnom prostredí alebo po skončení obdobia uchovávania osobných údajov sa vymažú;
Pozmeňujúci návrh 514
Návrh nariadenia
Článok 54 – odsek 1 – písmeno h
h)  logy zo spracovania osobných údajov v rámci regulačného prostredia sa uchovávajú počas trvania účasti v regulačnom prostredí a 1 rok po jej ukončení, a to výlučne na účely plnenia povinností týkajúcich sa zodpovednosti a vedenia dokumentácie podľa tohto článku alebo iných uplatniteľných právnych predpisov Únie alebo členských štátov a len tak dlho, ako je to na plnenie týchto povinností potrebné;
 h)  logy zo spracovania osobných údajov v rámci regulačného prostredia sa uchovávajú počas trvania účasti v regulačnom prostredí;
Pozmeňujúci návrh 515
Návrh nariadenia
Článok 54 – odsek 1 – písmeno j
j)  na webovom sídle príslušných orgánov sa zverejní krátke zhrnutie projektu umelej inteligencie vyvinutého v regulačnom prostredí, jeho cieľov a očakávaných výsledkov.
 j)  na webovom sídle príslušných orgánov sa zverejní krátke zhrnutie týkajúce sa systému umelej inteligencie vyvinutého v regulačnom prostredí, jeho cieľov, hypotéz a očakávaných výsledkov.
Pozmeňujúci návrh 516
Návrh nariadenia
Článok 54 a (nový)
Článok 54a
Presadzovanie výskumu a vývoja umelej inteligencie na podporu sociálne a environmentálne prospešných výsledkov
1.  Členské štáty presadzujú výskum a vývoj riešení umelej inteligencie, ktoré podporujú sociálne a environmentálne prospešné výsledky, okrem iného vrátane vývoja riešení založených na umelej inteligencii s cieľom zvýšiť prístupnosť pre osoby so zdravotným postihnutím, riešiť sociálno-ekonomické nerovnosti a splniť ciele v oblasti udržateľnosti a životného prostredia, tým, že:
a)  poskytnú relevantným projektom prednostný prístup k experimentálnym regulačným prostrediam pre umelú inteligenciu, pokiaľ spĺňajú podmienky oprávnenosti;
b)  vyčlenia verejné finančné prostriedky, a to aj z príslušných fondov EÚ, na výskum a vývoj v oblasti umelej inteligencie na podporu sociálne a environmentálne prospešných výsledkov;
c)  organizujú osobitné činnosti na zvyšovanie informovanosti o uplatňovaní tohto nariadenia, dostupnosti účelového financovania a postupoch podávania žiadostí o takéto financovanie, ktoré sú prispôsobené potrebám týchto projektov;
d)  v prípade potreby vytvoria dostupný vyhradený kanál, a to aj v rámci regulačných prostredí, na komunikáciu s projektmi s cieľom poskytovať usmernenia a odpovedať na otázky týkajúce sa vykonávania tohto nariadenia.
Členské štáty podporujú občiansku spoločnosť a sociálnych aktérov, aby takéto projekty viedli alebo sa na nich zúčastňovali.
Pozmeňujúci návrh 517
Návrh nariadenia
Článok 55 – nadpis
Opatrenia pre malých poskytovateľov a používateľov
 Opatrenia pre MSP, startupy a používateľov
Pozmeňujúci návrh 518
Návrh nariadenia
Článok 55 – odsek 1 – písmeno a
a)  malým poskytovateľom a startupom poskytnú prednostný prístup k experimentálnym regulačným prostrediam pre umelú inteligenciu, pokiaľ spĺňajú podmienky oprávnenosti;
 a)  MSP a startupom so sídlom v Únii poskytnú prednostný prístup k experimentálnym regulačným prostrediam pre umelú inteligenciu, pokiaľ spĺňajú podmienky oprávnenosti;
Pozmeňujúci návrh 519
Návrh nariadenia
Článok 55 – odsek 1 – písmeno b
b)  organizujú osobitné činnosti na zvyšovanie informovanosti o uplatňovaní tohto nariadenia prispôsobené potrebám malých poskytovateľov a používateľov;
 b)  organizujú osobitné činnosti na zvyšovanie informovanosti a rozvoj digitálnych zručností v súvislosti s uplatňovaním tohto nariadenia prispôsobeného potrebám MSP, startupov a používateľov;
Pozmeňujúci návrh 520
Návrh nariadenia
Článok 55 – odsek 1 – písmeno c
c)  v prípade potreby vytvoria vyhradený kanál na komunikáciu s malými poskytovateľmi a používateľmi, ako aj s ďalšími inovátormi s cieľom poskytovať usmernenia a odpovedať na otázky týkajúce sa vykonávania tohto nariadenia.
 c)  používajú existujúce vyhradené kanály a v prípade potreby vytvoria nové vyhradené kanály na komunikáciu s MSP, startupmi, používateľmi, ako aj ďalšími inovátormi s cieľom poskytovať usmernenia a odpovedať na otázky týkajúce sa vykonávania tohto nariadenia;
Pozmeňujúci návrh 521
Návrh nariadenia
Článok 55 – odsek 1 – písmeno c a (nové)
ca)  podporia účasť MSP a iných príslušných zainteresovaných strán na procese tvorby noriem.
Pozmeňujúci návrh 522
Návrh nariadenia
Článok 55 – odsek 2
2.  Pri stanovovaní poplatkov za posudzovanie zhody podľa článku 43 sa zohľadnia osobitné záujmy a potreby malých poskytovateľov tak, že sa tieto poplatky znížia úmerne k ich veľkosti a veľkosti ich trhu.
 2.  Pri stanovovaní poplatkov za posudzovanie zhody podľa článku 43 sa zohľadnia osobitné záujmy a potreby MSP, startupov a používateľov tak, že sa tieto poplatky znížia úmerne k štádiu vývoja, ich veľkosti, veľkosti ich trhu a dopytu na trhu. Komisia pravidelne posudzuje náklady MSP a startupov na certifikáciu a dodržiavanie predpisov, a to aj prostredníctvom transparentných konzultácií s MSP, startupmi a používateľmi, a spolupracuje s členskými štátmi na znížení týchto nákladov tam, kde je to možné. Komisia predkladá o týchto zisteniach správu Európskemu parlamentu a Rade ako súčasť správy o hodnotení a preskúmaní tohto nariadenia ustanovenej v článku 84 ods. 2.
Pozmeňujúci návrh 523
Návrh nariadenia
Článok 56 – oddiel 1 – nadpis
Názov
ODDIEL 1: Všeobecné ustanovenia o Európskom úrade pre umelú inteligenciu
Pozmeňujúci návrh 524
Návrh nariadenia
Článok 56 – nadpis
Zriadenie Európskej rady pre umelú inteligenciu
 Zriadenie Európskeho úradu pre umelú inteligenciu
Pozmeňujúci návrh 525
Návrh nariadenia
Článok 56 – odsek 1
1.  Zriaďuje sa Európska rada pre umelú inteligenciu (ďalej len „rada pre umelú inteligenciu“).
 1.  Zriaďuje sa Európsky úrad pre umelú inteligenciu (ďalej len „úrad pre umelú inteligenciu“). Úrad pre umelú inteligenciu je nezávislým orgánom Únie. Má právnu subjektivitu.
Pozmeňujúci návrh 526
Návrh nariadenia
Článok 56 – odsek 2 – úvodná časť
2.  Táto rada pre umelú inteligenciu poskytuje Komisii poradenstvo a pomoc s cieľom:
 2.  Úrad pre umelú inteligenciu má sekretariát a primerané finančné a personálne zdroje, aby mohol plniť svoje úlohy podľa tohto nariadenia.
Pozmeňujúci návrh 527
Návrh nariadenia
Článok 56 – odsek 2 a (nový)
2a.  Sídlo úradu pre umelú inteligenciu sa nachádza v Bruseli.
Pozmeňujúci návrh 528
Návrh nariadenia
Článok 56 a (nový)
Článok 56a
Štruktúra
Správnu a riadiacu štruktúru úradu pre umelú inteligenciu tvorí:
a)  riadiaca rada vrátane predsedu,
b)  sekretariát riadený výkonným riaditeľom,
c)  poradné fórum.
Pozmeňujúci návrh 529
Návrh nariadenia
Článok 56 b (nový)
Článok 56b
Úlohy úradu pre umelú inteligenciu
Úrad pre umelú inteligenciu plní tieto úlohy:
a)  podporuje, poskytuje poradenstvo a spolupracuje s členskými štátmi, vnútroštátnymi dozornými orgánmi, Komisiou a inými inštitúciami, orgánmi, úradmi a agentúrami Únie, pokiaľ ide o vykonávanie tohto nariadenia;
b)  monitoruje a zabezpečuje účinné a správne uplatňovanie tohto nariadenia bez toho, aby boli dotknuté úlohy vnútroštátnych dozorných orgánov;
c)  prispieva ku koordinácii medzi vnútroštátnymi dozornými orgánmi zodpovednými za uplatňovanie tohto nariadenia;
d)  slúži ako sprostredkovateľ v diskusiách o závažných nezhodách, ktoré môžu vzniknúť medzi príslušnými orgánmi v súvislosti s uplatňovaním tohto nariadenia;
e)  koordinuje spoločné vyšetrovania podľa článku 66a;
f)  prispieva k účinnej spolupráci s príslušnými orgánmi tretích krajín a s medzinárodnými organizáciami;
g)  zhromažďuje a vymieňa odborné znalosti a najlepšie postupy členských štátov a pomáha vnútroštátnym dozorným orgánom členských štátov a Komisii pri rozvoji organizačných a technických odborných znalostí potrebných na vykonávanie tohto nariadenia, a to aj uľahčením vytvorenia a udržiavania skupiny expertov Únie;
h)  skúma z vlastnej iniciatívy alebo na žiadosť svojej riadiacej rady alebo Komisie otázky týkajúce sa vykonávania tohto nariadenia a vydáva stanoviská, odporúčania alebo písomné príspevky, a to aj pokiaľ ide o:
i)  technické špecifikácie alebo platné normy, ii) usmernenia Komisie,
iii)  kódexy správania a ich uplatňovanie v úzkej spolupráci s odvetvovými a inými relevantnými zainteresovanými stranami,
iv)  prípadnú revíziu nariadenia, prípravu delegovaných aktov a prípadné zosúladenie tohto nariadenia s právnymi aktmi uvedenými v prílohe II,
v)  trendy, ako sú európska globálna konkurencieschopnosť v oblasti umelej inteligencie, zavádzanie umelej inteligencie v Únii, rozvoj digitálnych zručností a vznikajúce systémové hrozby súvisiace s umelou inteligenciou,
vi)  usmernenie o tom, ako sa toto nariadenie uplatňuje na neustále sa vyvíjajúcu typológiu hodnotových reťazcov umelej inteligencie, najmä pokiaľ ide o dôsledky z hľadiska zodpovednosti všetkých zapojených subjektov,
i)  vydáva:
i)  výročnú správu, ktorá obsahuje hodnotenie vykonávania tohto nariadenia, preskúmanie správ o závažných incidentoch uvedených v článku 62 a fungovaní databázy uvedenej v článku 60 a
ii)  odporúčania Komisii týkajúce sa kategorizácie zakázaných praktík, vysokorizikových systémov umelej inteligencie uvedených v prílohe III, kódexov správania uvedených v článku 69 a uplatňovania všeobecných zásad uvedených v článku 4a;
j)  pomáha orgánom pri zriaďovaní a rozvoji experimentálnych regulačných prostredí a uľahčuje spoluprácu medzi experimentálnymi regulačnými prostrediami;
k)  organizuje stretnutia s agentúrami Únie a riadiacimi orgánmi, ktorých úlohy súvisia s umelou inteligenciou a vykonávaním tohto nariadenia;
l)  organizuje štvrťročné konzultácie s poradným fórom a v prípade potreby verejné konzultácie s inými zainteresovanými stranami a výsledky týchto konzultácií zverejňuje na svojom webovom sídle;
m)  podporuje informovanosť a porozumenie verejnosti, pokiaľ ide o prínosy, riziká, pravidlá, záruky a práva v súvislosti s používaním systémov umelej inteligencie;
n)  uľahčuje vypracovanie spoločných kritérií a spoločné chápanie relevantných koncepcií stanovených v tomto nariadení organizátormi trhu a príslušnými orgánmi;
o)  zabezpečuje monitorovanie základných modelov a organizuje pravidelný dialóg s vývojármi základných modelov, pokiaľ ide o ich súlad, ako aj systémy umelej inteligencie, ktoré využívajú tieto modely umelej inteligencie;
p)  poskytuje výklad o tom, ako sa akt o umelej inteligencii uplatňuje na neustále sa vyvíjajúcu typológiu hodnotových reťazcov umelej inteligencie a aké budú dôsledky z hľadiska zodpovednosti všetkých zapojených subjektov v rôznych scenároch na základe všeobecne uznávaného stavu vrátane príslušných harmonizovaných noriem;
q)  zabezpečuje osobitný dohľad a monitorovanie a inštitucionalizuje pravidelný dialóg s poskytovateľmi základných modelov o súlade základných modelov, ako aj systémov umelej inteligencie, ktoré využívajú takéto modely umelej inteligencie, s článkom 28b tohto nariadenia a o najlepších postupoch odvetvia v oblasti samosprávy. Na každom takomto stretnutí sa môžu zúčastniť vnútroštátne dozorné orgány, notifikované osoby a orgány dohľadu nad trhom a poskytnúť svoje príspevky;
r)  vydáva a pravidelne aktualizuje usmernenia o prahových hodnotách, na základe ktorých trénovanie základného modelu spĺňa podmienky rozsiahleho cyklu trénovania, zaznamenáva a monitoruje známe prípady rozsiahleho cyklu trénovania a vydáva výročnú správu o stave vývoja, šírenia a využívania základných modelov spolu s možnosťami politík na riešenie rizík a príležitostí špecifických pre základné modely;
s)  podporuje gramotnosť v oblasti umelej inteligencie podľa článku 4b.
Pozmeňujúci návrh 530
Návrh nariadenia
Článok 56 c (nový)
Článok 56c
Zodpovednosť, nezávislosť a transparentnosť
1.  Úrad pre umelú inteligenciu:
a)  sa zodpovedá Európskemu parlamentu a Rade v súlade s týmto nariadením;
b)  koná nezávisle pri plnení svojich úloh alebo pri vykonávaní svojich právomocí; a
c)  zabezpečuje vysokú úroveň transparentnosti svojich činností a tvorí osvedčené administratívne postupy v tejto oblasti.
Na dokumenty úradu pre umelú inteligenciu sa vzťahuje nariadenie (ES) č. 1049/2001.
Pozmeňujúci návrh 531
Návrh nariadenia
Článok - 57 a (nový) – oddiel 2 - názov
Názov
ODDIEL 2: Riadiaca rada
Pozmeňujúci návrh 532
Návrh nariadenia
Článok - 57 a (nový)
Článok - 57a
Zloženie riadiacej rady
1.  Riadiaca rada sa skladá z týchto členov:
a)  jedného zástupcu vnútroštátneho dozorného orgánu každého členského štátu;
b)  jedného zástupcu Komisie;
c)  jedného zástupcu európskeho dozorného úradníka pre ochranu údajov (EDPS);
d)  jedného zástupcu Agentúry Európskej únie pre kybernetickú bezpečnosť (ENISA);
e)  jedného zástupcu Agentúry Európskej únie pre základné práva (FRA).
Každý zástupca vnútroštátneho dozorného orgánu má jeden hlas. Zástupcovia Komisie, EDPS, ENISA a FRA nemajú hlasovacie práva. Každý člen má náhradníka. Pri menovaní členov riadiacej rady a ich náhradníkov sa zohľadňuje potreba vyváženého zastúpenia mužov a žien. Mená členov riadiacej rady a ich náhradníkov sa zverejňujú.
2.  Členovia riadiacej rady a ich náhradníci nesmú zastávať konfliktné pozície ani mať obchodné záujmy v súvislosti so žiadnou témou týkajúcou sa uplatňovania tohto nariadenia.
3.  Pravidlá týkajúce sa zasadnutí a hlasovania riadiacej rady a vymenovania a odvolania výkonného riaditeľa sa stanovia v rokovacom poriadku uvedenom v článku 57b písm. a).
Pozmeňujúci návrh 533
Návrh nariadenia
Článok - 57 b (nový)
Článok - 57b
Funkcie riadiacej rady
1.  Riadiaca rada má tieto úlohy:
a)  prijímať strategické rozhodnutia o činnostiach úradu pre umelú inteligenciu a prijímať rokovací poriadok dvojtretinovou väčšinou hlasov svojich členov;
b)  uplatňovať svoj rokovací poriadok;
c)  prijímať jednotný programový dokument úradu pre umelú inteligenciu, ako aj výročnú verejnú správu a zasielať ho Európskemu parlamentu, Rade, Komisii a Dvoru audítorov;
d)  prijímať rozpočet úradu pre umelú inteligenciu;
e)  menovať výkonného riaditeľa a v prípade potreby predĺžiť alebo obmedziť jeho funkčné obdobie alebo ho odvolať z funkcie;
f)  rozhodovať o zriadení vnútorných štruktúr úradu pre umelú inteligenciu a v prípade potreby o ich zmene potrebnej na plnenie úloh úradu pre umelú inteligenciu.
Pozmeňujúci návrh 534
Návrh nariadenia
Článok - 57 c (nový)
Článok - 57c
Predseda riadiacej rady
1.  Riadiaca rada si jednoduchou väčšinou volí spomedzi svojich členov s hlasovacím právom predsedu a dvoch podpredsedov.
2.  Funkčné obdobie predsedu a podpredsedov sú štyri roky. Funkčné obdobia predsedu a podpredsedov možno raz obnoviť.
Pozmeňujúci návrh 535
Návrh nariadenia
Článok 57 – oddiel 3 – nadpis
Štruktúra rady pre umelú inteligenciu
 Sekretariát
Pozmeňujúci návrh 536
Návrh nariadenia
Článok 57 – odsek 1
1.  Rada pre umelú inteligenciu pozostáva z vnútroštátnych dozorných orgánov, ktoré sú zastúpené vedúcimi alebo rovnocennými vysokopostavenými úradníkmi týchto orgánov, a z európskeho dozorného úradníka pre ochranu údajov. Na zasadnutia môžu byť prizvané iné vnútroštátne orgány, ak sú pre ne prerokúvané otázky relevantné.
 1.  Činnosť sekretariátu riadi výkonný riaditeľ. Výkonný riaditeľ sa zodpovedá riadiacej rade. Bez toho, aby boli dotknuté príslušné právomoci riadiacej rady a inštitúcií Únie, výkonný riaditeľ nesmie žiadať ani prijímať pokyny od žiadnej vlády či akéhokoľvek iného orgánu.
Pozmeňujúci návrh 537
Návrh nariadenia
Článok 57 – odsek 2
2.  Rada pre umelú inteligenciu prijme svoj rokovací poriadok jednoduchou väčšinou hlasov svojich členov po odsúhlasení Komisiou. Rokovací poriadok musí obsahovať aj operačné aspekty súvisiace s plnením úloh rady pre umelú inteligenciu uvedených v článku 58. Na účely preskúmania konkrétnych otázok môže rada pre umelú inteligenciu podľa potreby zriaďovať podskupiny.
 2.  Výkonný riaditeľ sa zúčastňuje na vypočutiach o všetkých záležitostiach súvisiacich s činnosťami úradu pre umelú inteligenciu a podáva na výzvu Európskeho parlamentu alebo Rady správu o plnení povinností výkonného riaditeľa.
Pozmeňujúci návrh 538
Návrh nariadenia
Článok 57 – odsek 3
3.  Rade pre umelú inteligenciu predsedá Komisia. Komisia zvoláva zasadnutia a pripravuje program v súlade s úlohami rady pre umelú inteligenciu podľa tohto nariadenia a s rokovacím poriadkom rady pre umelú inteligenciu. Činnostiam rady pre umelú inteligenciu podľa tohto nariadenia poskytuje Komisia administratívnu a analytickú podporu.
 3.  Výkonný riaditeľ zastupuje úrad pre umelú inteligenciu, a to aj na medzinárodných fórach pre spoluprácu v oblasti umelej inteligencie;
Pozmeňujúci návrh 539
Návrh nariadenia
Článok 57 – odsek 4
4.  Rada pre umelú inteligenciu môže k účasti na svojich zasadnutiach prizývať externých odborníkov a pozorovateľov a môže uskutočňovať výmeny informácií so zainteresovanými tretími stranami s cieľom využiť ich v primeranom rozsahu pri svojich činnostiach. Na tento účel môže Komisia poskytovať podporu pri výmenách informácií medzi radou pre umelú inteligenciu a inými orgánmi, úradmi, agentúrami a poradnými skupinami Únie.
 4.  Sekretariát poskytuje riadiacej rade a poradnému fóru analytickú, administratívnu a logistickú podporu potrebnú na plnenie úloh úradu pre umelú inteligenciu, a to aj tým, že:
a)  vykonáva rozhodnutia, programy a činnosti prijaté riadiacou radou;
b)  každoročne pripravuje návrh jednotného programového dokumentu, návrh rozpočtu, výročnú správu o činnosti úradu pre umelú inteligenciu, návrhy stanovísk a pozícií úradu pre umelú inteligenciu a predkladá ich riadiacej rade;
c)  koordinuje svoju činnosť s medzinárodnými fórami pre spoluprácu v oblasti umelej inteligencie.
Pozmeňujúci návrh 540
Návrh nariadenia
Článok 58 – oddiel 4 – nadpis
Úlohy rady pre umelú inteligenciu
 Poradné fórum
Pozmeňujúci návrh 541
Návrh nariadenia
Článok 58 – odsek 1 – úvodná časť
Pri poskytovaní poradenstva a pomoci Komisii v kontexte článku 56 ods. 2 plní rada pre umelú inteligenciu najmä tieto úlohy:
 Poradné fórum poskytuje úradu pre umelú inteligenciu podnety zainteresovaných strán, pokiaľ ide o záležitosti týkajúce sa tohto nariadenia, najmä úlohy stanovené v článku 56b písm. l).
Pozmeňujúci návrh 542
Návrh nariadenia
Článok 58 – odsek 2 (nový)
Členovia poradného fóra zastupujú vyvážený výber zainteresovaných strán vrátane priemyslu, startupov, MSP, občianskej spoločnosti, sociálnych partnerov a akademickej obce. Zloženie členov poradného fóra musí byť vyvážené, pokiaľ ide o komerčné a nekomerčné záujmy, a v rámci kategórie komerčných záujmov, pokiaľ ide o MSP a iné podniky.
Pozmeňujúci návrh 543
Návrh nariadenia
Článok 58 – odsek 3 (nový)
Riadiaca rada vymenuje členov poradného fóra v súlade s výberovým konaním stanoveným v rokovacom poriadku úradu pre umelú inteligenciu a s prihliadnutím na potrebu transparentnosti a v súlade s kritériami stanovenými v odseku 2.
Pozmeňujúci návrh 544
Návrh nariadenia
Článok 58 – odsek 4 (nový)
Funkčné obdobie členov poradného fóra je dva roky a môže sa predĺžiť najviac o štyri roky.
Pozmeňujúci návrh 545
Návrh nariadenia
Článok 58 – odsek 5 (nový)
Európsky výbor pre normalizáciu (CEN), Európsky výbor pre normalizáciu v elektrotechnike (CENELEC) a Európsky inštitút pre telekomunikačné normy (ETSI) sú stálymi členmi poradného fóra. Spoločné výskumné centrum je stálym členom bez hlasovacieho práva.
Pozmeňujúci návrh 546
Návrh nariadenia
Článok 58 – odsek 6 (nový)
Poradné fórum vypracuje svoj rokovací poriadok. Spomedzi svojich členov volí dvoch spolupredsedov v súlade s kritériami stanovenými v odseku 2. Funkčné obdobie spolupredsedov je dva roky a možno ho raz obnoviť.
Pozmeňujúci návrh 547
Návrh nariadenia
Článok 58 – odsek 7 (nový)
Zasadnutia poradného fóra sa konajú aspoň štyrikrát do roka. Poradné fórum môže na svoje zasadnutia prizvať odborníkov a iné zainteresované strany. Výkonný riaditeľ sa môže ex officio zúčastňovať na zasadnutiach poradného fóra.
Pozmeňujúci návrh 548
Návrh nariadenia
Článok 58 – odsek 8 (nový)
Pri plnení svojej úlohy uvedenej v odseku 1 môže poradné fórum vypracovať stanoviská, odporúčania a písomné príspevky.
Pozmeňujúci návrh 549
Návrh nariadenia
Článok 58 – odsek 9 (nový)
Poradné fórum môže podľa potreby zriadiť stále alebo dočasné podskupiny na účely preskúmania špecifických otázok súvisiacich s cieľmi tohto nariadenia.
Pozmeňujúci návrh 550
Návrh nariadenia
Článok 58 – odsek 10 (nový)
Poradné fórum vypracúva výročnú správu o svojej činnosti. Táto správa sa sprístupňuje verejnosti.
Pozmeňujúci návrh 551
Návrh nariadenia
Článok 58 a – oddiel 5 – nadpis
Európske orgány pre referenčné porovnávanie
Pozmeňujúci návrh 552
Návrh nariadenia
Článok 58 a (nový)
Článok 58a
Referenčné porovnávanie
Európske orgány pre referenčné porovnávanie uvedené v článku 15 ods. 1a a úrad pre umelú inteligenciu v úzkej spolupráci s medzinárodnými partnermi spoločne vytvárajú nákladovo efektívne usmernenia a spôsobilosti na meranie a referenčné porovnávanie aspektov systémov umelej inteligencie a komponentov umelej inteligencie, a najmä základných modelov relevantných pre dodržiavanie a presadzovanie tohto nariadenia na základe všeobecne uznávaného stavu vývoja, a to aj v súlade s príslušnými harmonizovanými normami.
Pozmeňujúci návrh 553
Návrh nariadenia
Článok 59 – nadpis
Určenie príslušných vnútroštátnych orgánov
 Určenie vnútroštátnych dozorných orgánov
Pozmeňujúci návrh 554
Návrh nariadenia
Článok 59 – odsek 1
1.  Na účely zabezpečenia uplatňovania a vykonávania tohto nariadenia každý členský štát zriadi alebo určí príslušné vnútroštátne orgány. Príslušné vnútroštátne orgány majú takú organizačnú štruktúru, aby zabezpečili objektivitu a nestrannosť vykonávania svojich činností a úloh.
 1.  Každý členský štát určí jeden vnútroštátny dozorný orgán, ktorý bude mať takú organizačnú štruktúru, aby zabezpečil objektivitu a nestrannosť vykonávania svojich činností a úloh do... [tri roky do nadobudnutia účinnosti tohto nariadenia].
Pozmeňujúci návrh 555
Návrh nariadenia
Článok 59 – odsek 2
2.  Spomedzi príslušných vnútroštátnych orgánov každý členský štát určí vnútroštátny dozorný orgán. Pokiaľ členský štát nemá organizačné a administratívne dôvody na určenie viac ako jedného orgánu, koná vnútroštátny dozorný orgán ako notifikujúci orgán a orgán dohľadu nad trhom.
 2.  Vnútroštátny dozorný orgán zabezpečí uplatňovanie a vykonávania tohto nariadenia. Pokiaľ ide o vysokorizikové systémy umelej inteligencie súvisiace s výrobkami, na ktoré sa vzťahujú právne akty uvedené v prílohe II, správne postupy naďalej vedú príslušné orgány určené podľa týchto právnych aktov. Pokiaľ však prípad zahŕňa aspekty, na ktoré sa vzťahuje výlučne toto nariadenie, príslušné orgány sú viazané opatreniami vydanými vnútroštátnym dozorným orgánom určeným podľa tohto nariadenia v súvislosti s týmito aspektmi. Vnútroštátny dozorný orgán koná ako orgán dohľadu nad trhom.
Pozmeňujúci návrh 556
Návrh nariadenia
Článok 59 – odsek 3
3.  Členské štáty informujú Komisiu o orgáne, príp. orgánoch, ktoré určili, a prípadne o dôvodoch na určenie viac ako jedného orgánu.
 3.  Členské štáty do ... [tri mesiace po nadobudnutí účinnosti tohto nariadenia] zverejnia a oznámia úradu pre umelú inteligenciu a Komisii vnútroštátny dozorný orgán, ktorý bol určený, a informácie o tom, ako ho možno kontaktovať. Vnútroštátny dozorný orgán pôsobí ako jednotné kontaktné miesto pre toto nariadenie a malo by ho byť možné kontaktovať elektronickými komunikačnými prostriedkami.
Pozmeňujúci návrh 557
Návrh nariadenia
Článok 59 – odsek 4
4.  Členské štáty zabezpečia, aby príslušné vnútroštátne orgány mali na plnenie svojich úloh podľa tohto nariadenia k dispozícii primerané finančné a ľudské zdroje. Príslušné vnútroštátne orgány musia mať predovšetkým neustále k dispozícii dostatočný počet zamestnancov, ktorých spôsobilosti a odborné znalosti zahŕňajú dôkladné pochopenie technológií umelej inteligencie, údajov a ich spracovania, základných práv, zdravotných a bezpečnostných rizík a znalosť existujúcich noriem a právnych požiadaviek.
 4.  Členské štáty zabezpečia, aby vnútroštátny dozorný orgán mal na účinné plnenie svojich úloh podľa tohto nariadenia k dispozícii primerané technické, finančné a ľudské zdroje a infraštruktúru. Vnútroštátny dozorný orgán musí mať predovšetkým neustále k dispozícii dostatočný počet zamestnancov, ktorých spôsobilosti a odborné znalosti zahŕňajú dôkladné pochopenie technológií umelej inteligencie, údajov a ich spracovania, ochrany osobných údajov, kybernetickej bezpečnosti, práva hospodárskej súťaže, základných práv, zdravotných a bezpečnostných rizík a znalosť existujúcich noriem a právnych požiadaviek. Členské štáty každoročne posudzujú a v prípade potreby aktualizujú požiadavky na spôsobilosť a zdroje uvedené v tomto odseku.
Pozmeňujúci návrh 558
Návrh nariadenia
Článok 59 – odsek 4 a (nový)
4a.  Každý vnútroštátny dozorný orgán vykonáva svoje právomoci a plní svoje úlohy nezávisle, nestranne a nezaujato. Členovia každého vnútroštátneho dozorného orgánu nesmú pri plnení svojich úloh a výkone svojich právomocí podľa tohto nariadenia nesmú požadovať ani prijímať pokyny od žiadneho iného orgánu a sú povinní zdržať sa akéhokoľvek konania nezlučiteľného s ich funkciou.
Pozmeňujúci návrh 559
Návrh nariadenia
Článok 59 – odsek 4 b (nový)
4b.  Vnútroštátne dozorné orgány spĺňajú minimálne požiadavky v oblasti kybernetickej bezpečnosti stanovené pre subjekty verejnej správy identifikované ako prevádzkovatelia základných služieb podľa smernice (EÚ) 2022/2555.
Pozmeňujúci návrh 560
Návrh nariadenia
Článok 59 – odsek 4 c (nový)
4c.  Vnútroštátny dozorný orgán pri plnení svojich úloh koná v súlade s povinnosťami zachovávania dôvernosti stanovenými v článku 70.
Pozmeňujúci návrh 561
Návrh nariadenia
Článok 59 – odsek 5
5.  Členské štáty každoročne podávajú Komisii správu o stave finančných a ľudských zdrojov príslušných vnútroštátnych orgánov spolu s posúdením ich primeranosti. Komisia tieto informácie postúpi rade pre umelú inteligenciu na prerokovanie a prípadné odporúčania.
 5.  Členské štáty každoročne podávajú Komisii správu o stave finančných a ľudských zdrojov vnútroštátnych dozorných orgánov spolu s posúdením ich primeranosti. Komisia tieto informácie postúpi úradu pre umelú inteligenciu na prerokovanie a prípadné odporúčania.
Pozmeňujúci návrh 562
Návrh nariadenia
Článok 59 – odsek 6
6.  Komisia podporuje výmenu skúseností medzi príslušnými vnútroštátnymi orgánmi.
 vypúšťa sa
Pozmeňujúci návrh 563
Návrh nariadenia
Článok 59 – odsek 7
7.  Príslušné vnútroštátne orgány môžu poskytovať usmernenia a poradenstvo týkajúce sa vykonávania tohto nariadenia, a to aj malým poskytovateľom. Vždy, keď príslušné vnútroštátne orgány zamýšľajú poskytnúť usmernenia a poradenstvo v súvislosti so systémom umelej inteligencie v oblastiach, na ktoré sa vzťahujú iné právne predpisy Únie, podľa potreby uskutočnia konzultácie s vnútroštátnymi orgánmi, ktoré sú príslušné podľa uvedených právnych predpisov Únie. Členské štáty môžu takisto zriadiť jedno centrálne kontaktné miesto na komunikáciu s prevádzkovateľmi.
 7.  Vnútroštátne dozorné orgány môžu poskytovať usmernenia a poradenstvo týkajúce sa vykonávania tohto nariadenia, a to aj MSP a startupom, pričom zohľadnia usmernenia a poradenstvo úradu pre umelú inteligenciu alebo Komisie. Vždy, keď vnútroštátne dozorné orgány zamýšľajú poskytnúť usmernenia a poradenstvo v súvislosti so systémom umelej inteligencie v oblastiach, na ktoré sa vzťahuje iné právo Únie, podľa potreby sa vypracuje usmernenie po konzultácii s vnútroštátnymi orgánmi, ktoré sú príslušné podľa uvedeného práva Únie.
Pozmeňujúci návrh 564
Návrh nariadenia
Článok 59 – odsek 8
8.  Pokiaľ do rozsahu pôsobnosti tohto nariadenia spadajú inštitúcie, agentúry a orgány Únie, koná ako príslušný orgán pre dohľad nad nimi európsky dozorný úradník pre ochranu údajov.
 8.  Pokiaľ do rozsahu pôsobnosti tohto nariadenia spadajú inštitúcie, agentúry a orgány Únie, koná ako príslušný orgán pre dohľad nad nimi a ich koordináciu európsky dozorný úradník pre ochranu údajov.
Pozmeňujúci návrh 565
Návrh nariadenia
Článok 59 a (nový)
Článok 59a
Mechanizmus spolupráce medzi vnútroštátnymi dozornými orgánmi v prípadoch týkajúcich sa dvoch alebo viacerých členských štátov
1.  Každý vnútroštátny dozorný orgán plní úlohy a vykonáva právomoci, ktoré mu boli zverené, v súlade s týmto nariadením na území vlastného členského štátu.
2.  Ak sa určitý prípad týka dvoch alebo viacerých vnútroštátnych dozorných orgánov, za vedúci vnútroštátny dozorný orgán sa považuje vnútroštátny dozorný orgán členského štátu, v ktorom k porušenie došlo.
3.  V prípadoch uvedených v odseku 2 príslušné dozorné orgány včas spolupracujú a vymieňajú si všetky relevantné informácie. Vnútroštátne dozorné orgány spolupracujú s cieľom dosiahnuť konsenzus.
Pozmeňujúci návrh 566
Návrh nariadenia
Hlava VII
DATABÁZA EÚ PRE SAMOSTATNÉ VYSOKORIZIKOVÉ SYSTÉMY UMELEJ INTELIGENCIE
 DATABÁZA EÚ PRE VYSOKORIZIKOVÉ SYSTÉMY UMELEJ INTELIGENCIE
Pozmeňujúci návrh 567
Návrh nariadenia
Článok 60 – nadpis
Databáza EÚ pre samostatné vysokorizikové systémy umelej inteligencie
 Databáza EÚ pre vysokorizikové systémy umelej inteligencie
Pozmeňujúci návrh 568
Návrh nariadenia
Článok 60 – odsek 1
1.  Komisia v spolupráci s členskými štátmi zriadi a spravuje databázu EÚ obsahujúcu informácie uvedené v odseku 2 týkajúce sa vysokorizikových systémov umelej inteligencie uvedených v článku 6 ods. 2, ktoré sú registrované v súlade s článkom 51.
 1.  Komisia v spolupráci s členskými štátmi zriadi a spravuje verejnú databázu EÚ obsahujúcu informácie uvedené v odsekoch 2 a 2a týkajúce sa vysokorizikových systémov umelej inteligencie uvedených v článku 6 ods. 2, ktoré sú registrované v súlade s článkom 51.
Pozmeňujúci návrh 569
Návrh nariadenia
Článok 60 – odsek 2
2.  Údaje uvedené v prílohe VIII vkladajú do databázy EÚ poskytovatelia. Komisia im poskytuje technickú a administratívnu podporu.
 2.  Údaje uvedené v prílohe VIII oddiele A vkladajú do databázy EÚ poskytovatelia.
Pozmeňujúci návrh 570
Návrh nariadenia
Článok 60 – odsek 2 a (nový)
2a.  Údaje uvedené v prílohe VIII oddiele B vkladajú do databázy EÚ nasadzujúce subjekty, ktoré sú orgánmi verejnej moci alebo inštitúciami, orgánmi, úradmi alebo agentúrami Únie alebo ktorí konajú v ich mene, a nasadzujúce subjekty, ktoré sú podnikmi uvedenými v článku 51 ods. 1a a 1b.
Pozmeňujúci návrh 571
Návrh nariadenia
Článok 60 – odsek 3
3.  Informácie obsiahnuté v databáze EÚ sú prístupné verejnosti.
 3.  Informácie obsiahnuté v databáze EÚ sú voľne dostupné verejnosti, ľahko použiteľné a prístupné, ľahko vyhľadateľné a strojovo čitateľné a obsahujú štruktúrované digitálne údaje na základe štandardizovaného protokolu.
Pozmeňujúci návrh 572
Návrh nariadenia
Článok 60 – odsek 4
4.  Osobné údaje obsahuje databáza EÚ len v rozsahu nevyhnutnom na zber a spracovanie informácií v súlade s týmto nariadením. Súčasťou týchto informácií sú mená a kontaktné údaje fyzických osôb, ktoré sú zodpovedné za registráciu systémov a majú právomoc zastupovať poskytovateľa.
 4.  Osobné údaje obsahuje databáza EÚ len v rozsahu nevyhnutnom na zber a spracovanie informácií v súlade s týmto nariadením. Súčasťou týchto informácií sú mená a kontaktné údaje fyzických osôb, ktoré sú zodpovedné za registráciu systémov a majú právomoc zastupovať poskytovateľa alebo nasadzujúci subjekt, ktorý je orgán verejnej moci alebo inštitúcia, orgán, úrad alebo agentúra Únie alebo ktorý koná v ich mene, alebo nasadzujúci subjekt, ktorý je podnikom uvedeným v článku 51 ods. 1a písm. b) a ods. 1b.
Pozmeňujúci návrh 573
Návrh nariadenia
Článok 60 – odsek 5
5.  Prevádzkovateľom databázy EÚ je Komisia. Zabezpečuje aj primeranú technickú a administratívnu podporu poskytovateľov.
 5.  Prevádzkovateľom databázy EÚ je Komisia. Zabezpečuje aj primeranú technickú a administratívnu podporu poskytovateľov a nasadzujúcich subjektov.
Databáza musí spĺňať požiadavky na prístupnosť stanovené v prílohe I k smernici (EÚ) 2019/882.
Pozmeňujúci návrh 574
Návrh nariadenia
Článok 61 – odsek 2
2.  Systém monitorovania po uvedení na trh musí aktívne a systematicky zbierať, dokumentovať a analyzovať relevantné údaje o výkonnosti vysokorizikových systémov umelej inteligencie počas celej ich životnosti poskytnuté používateľmi alebo zozbierané z iných zdrojov a umožňovať poskytovateľovi hodnotiť nepretržitý súlad systémov umelej inteligencie s požiadavkami stanovenými v hlave III kapitole 2.
 2.  Systém monitorovania po uvedení na trh musí aktívne a systematicky zbierať, dokumentovať a analyzovať relevantné údaje o výkonnosti vysokorizikových systémov umelej inteligencie počas celej ich životnosti poskytnuté nasadzujúcimi subjektmi alebo zozbierané z iných zdrojov a umožňovať poskytovateľovi hodnotiť nepretržitý súlad systémov umelej inteligencie s požiadavkami stanovenými v hlave III kapitole 2. Monitorovanie po umiestnení na trh v relevantných prípadoch zahŕňa analýzu interakcie s prostredím iných systémov umelej inteligencie vrátane iných zariadení a softvéru s prihliadnutím na pravidlá uplatniteľné v oblastiach, ako sú ochrana údajov, práva duševného vlastníctva a právo hospodárskej súťaže.
Pozmeňujúci návrh 575
Návrh nariadenia
Článok 61 – odsek 3
3.  Systém monitorovania po uvedení na trh sa musí zakladať na pláne monitorovania po uvedení na trh. Plán monitorovania po uvedení na trh tvorí súčasť technickej dokumentácie uvedenej v prílohe IV. Komisia prijme vykonávací akt, v ktorom stanoví podrobné ustanovenia, ktorými sa vytvorí vzor plánu monitorovania po uvedení na trh a zoznam prvkov, ktoré sa majú do plánu zahrnúť.
 3.  Systém monitorovania po uvedení na trh sa musí zakladať na pláne monitorovania po uvedení na trh. Plán monitorovania po uvedení na trh tvorí súčasť technickej dokumentácie uvedenej v prílohe IV. Komisia do [12 mesiacov od nadobudnutia účinnosti tohto nariadenia] prijme vykonávací akt, v ktorom stanoví podrobné ustanovenia, ktorými sa vytvorí vzor plánu monitorovania po uvedení na trh a zoznam prvkov, ktoré sa majú do plánu zahrnúť.
Pozmeňujúci návrh 576
Návrh nariadenia
Článok 62 – nadpis
Podávanie správ o závažných incidentoch a poruchách
 Podávanie správ o závažných incidentoch
Pozmeňujúci návrh 577
Návrh nariadenia
Článok 62 – odsek 1 – úvodná časť
1.  Poskytovatelia vysokorizikových systémov umelej inteligencie uvedených na trh Únie podávajú o akomkoľvek závažnom incidente alebo poruche týchto systémov, ktorá predstavuje porušenie povinností podľa právnych predpisov Únie určených na ochranu základných práv, správy orgánom dohľadu nad trhom členských štátov, v ktorých k tomuto závažnému incidentu alebo porušeniu povinností došlo.
 1.  Poskytovatelia vysokorizikových systémov umelej inteligencie uvedených na trh Únie a nasadzujúce subjekty týchto systémov, ak zistili závažný incident, podávajú o akomkoľvek závažnom incidente týchto systémov, ktorá predstavuje porušenie povinností podľa právnych predpisov Únie určených na ochranu základných práv, správy vnútroštátnemu dozornému orgánu členských štátov, v ktorých k tomuto závažnému incidentu alebo porušeniu povinností došlo.
Pozmeňujúci návrh 578
Návrh nariadenia
Článok 62 – odsek 1 – pododsek 1
Takéto oznámenie sa musí vykonať ihneď po tom, ako poskytovateľ zistí príčinnú súvislosť medzi systémom umelej inteligencie a incidentom alebo poruchou, alebo logickú pravdepodobnosť takejto súvislosti, a v každom prípade najneskôr do 15 dní po tom, ako sa poskytovateľ o závažnom incidente alebo poruche dozvie.
 Takéto oznámenie sa musí vykonať bezodkladne po tom, ako poskytovateľ alebo v náležitých prípadoch nasadzujúci subjekt zistí príčinnú súvislosť medzi systémom umelej inteligencie a incidentom, alebo logickú pravdepodobnosť takejto súvislosti, a v každom prípade najneskôr do 72 hodín po tom, ako sa poskytovateľ alebo v náležitých prípadoch nasadzujúci subjekt o závažnom incidente dozvie.
Pozmeňujúci návrh 579
Návrh nariadenia
Článok 62 – odsek 1 a (nový)
1a.  Po zistení príčinnej súvislosti medzi systémom umelej inteligencie a závažným incidentom alebo odôvodnenej pravdepodobnosti takejto súvislosti poskytovatelia prijmú primerané nápravné opatrenia podľa článku 21.
Pozmeňujúci návrh 580
Návrh nariadenia
Článok 62 – odsek 2
2.  Po prijatí oznámenia týkajúceho sa porušenia povinností podľa právnych predpisov Únie určených na ochranu základných práv orgán dohľadu nad trhom informuje vnútroštátne orgány verejnej moci alebo subjekty uvedené v článku 64 ods. 3. Na uľahčenie plnenia povinností stanovených v odseku 1 vypracuje Komisia osobitné usmernenia. Tieto usmernenia sa vydajú najneskôr 12 mesiacov po nadobudnutí účinnosti tohto nariadenia.
 2.  Po prijatí oznámenia týkajúceho sa porušenia povinností podľa právnych predpisov Únie určených na ochranu základných práv vnútroštátny dozorný orgán informuje vnútroštátne orgány verejnej moci alebo subjekty uvedené v článku 64 ods. 3. Na uľahčenie plnenia povinností stanovených v odseku 1 vypracuje Komisia osobitné usmernenia. Tieto usmernenia sa vydajú do [nadobudnutí účinnosti tohto nariadenia] a každoročne sa preskúmavajú.
Pozmeňujúci návrh 581
Návrh nariadenia
Článok 62 – odsek 2 a (nový)
2a.  Vnútroštátne dozorné orgány prijmú vhodné opatrenia do 7 dní odo dňa, keď im bolo doručené oznámenie uvedené v odseku 1. Ak k porušeniu dôjde alebo je pravdepodobné, že k nemu dôjde v iných členských štátoch, vnútroštátny dozorný orgán to oznámi úradu pre umelú inteligenciu a príslušným vnútroštátnym dozorným orgánom týchto členských štátov.
Pozmeňujúci návrh 582
Návrh nariadenia
Článok 62 – odsek 3
3.  V prípade vysokorizikových systémov umelej inteligencie uvedených v bode 5 písm. b) prílohy III uvádzaných na trh alebo do prevádzky poskytovateľmi, ktorí sú úverovými inštitúciami regulovanými smernicou 2013/36/EÚ, a v prípade vysokorizikových systémov umelej inteligencie, ktoré sú bezpečnostnými komponentmi zariadení alebo sú samy zariadeniami a na ktoré sa vzťahuje nariadenie (EÚ) 2017/745 a nariadenie (EÚ) 2017/746, sa oznamovanie závažných incidentov alebo porúch obmedzuje na tie incidenty alebo poruchy, ktoré predstavujú porušenie povinností podľa právnych predpisov Únie určených na ochranu základných práv.
 3.  V prípade vysokorizikových systémov umelej inteligencie uvedených v prílohe III, ktoré sú uvádzané na trh alebo do prevádzky poskytovateľmi, na ktorých sa vzťahujú právne nástroje Únie, ktorými sa stanovujú povinnosti rovnocenné s povinnosťami stanovenými v tomto nariadení, sa oznamovanie závažných incidentov, ktoré predstavujú porušenie základných práv podľa práva Únie, presunie na vnútroštátny dozorný orgán.
Pozmeňujúci návrh 583
Návrh nariadenia
Článok 62 – odsek 3 a (nový)
3a  . Vnútroštátne dozorné orgány každoročne informujú úrad pre umelú inteligenciu o závažných incidentoch, ktoré im boli v súlade s týmto článkom ohlásené.
Pozmeňujúci návrh 584
Návrh nariadenia
Článok 63 – odsek 1 – úvodná časť
1.  Na systémy umelej inteligencie v rozsahu pôsobnosti tohto nariadenia sa vzťahuje nariadenie (EÚ) 2019/1020. Na účely účinného presadzovania tohto nariadenia sa však:
 1.  Na systémy umelej inteligencie a základné modely v rozsahu pôsobnosti tohto nariadenia sa vzťahuje nariadenie (EÚ) 2019/1020. Na účely účinného presadzovania tohto nariadenia sa však:
Pozmeňujúci návrh 585
Návrh nariadenia
Článok 63 – odsek 1 – písmeno b a (nové)
ba)  vnútroštátne dozorné orgány konajú ako orgány dohľadu nad trhom podľa tohto nariadenia a majú rovnaké právomoci a povinnosti ako orgány dohľadu nad trhom podľa nariadenia (EÚ) 2019/1020.
Pozmeňujúci návrh 586
Návrh nariadenia
Článok 63 – odsek 2
2.  O výsledkoch príslušných činností dohľadu nad trhom podáva vnútroštátny dozorný orgán pravidelne správy Komisii. Všetky informácie zistené v priebehu činností dohľadu nad trhom, ktoré by mohli mať potenciálny význam pre uplatňovanie právnych predpisov Únie o pravidlách hospodárskej súťaže, národný dozorný orgán bezodkladne oznámi Komisii a príslušným vnútroštátnym orgánom na ochranu hospodárskej súťaže.
 2.  O výsledkoch príslušných činností dohľadu nad trhom podáva vnútroštátny dozorný orgán každoročne správy Komisii a úradu pre umelú inteligenciu. Všetky informácie zistené v priebehu činností dohľadu nad trhom, ktoré by mohli mať potenciálny význam pre uplatňovanie právnych predpisov Únie o pravidlách hospodárskej súťaže, národný dozorný orgán bezodkladne oznámi Komisii a príslušným vnútroštátnym orgánom na ochranu hospodárskej súťaže.
Pozmeňujúci návrh 587
Návrh nariadenia
Článok 63 – odsek 3 a (nový)
3a  . Na účely zabezpečenia účinného presadzovania tohto nariadenia môžu vnútroštátne dozorné orgány:
a)  vykonávať neohlásené kontroly vysokorizikových systémov umelej inteligencie na mieste a na diaľku;
b)  získavať vzorky súvisiace s vysokorizikovými systémami umelej inteligencie, a to aj prostredníctvom kontrol na diaľku, s cieľom vykonávať reverzné inžinierstvo systémov umelej inteligencie a získavať dôkazy na identifikovanie nesúladu.
Pozmeňujúci návrh 588
Návrh nariadenia
Článok 63 – odsek 5
5.  V prípade systémov umelej inteligencie uvedených v bode 1 písm. a) a pokiaľ sa tieto systémy používajú na účely presadzovania práva podľa bodov 6 a 7 prílohy III, určia členské štáty ako orgány dohľadu nad trhom na účely tohto nariadenia buď príslušné dozorné orgány pre ochranu údajov podľa smernice (EÚ) 2016/680 alebo nariadenia 2016/679, alebo príslušné vnútroštátne orgány vykonávajúce dohľad nad činnosťami orgánov presadzovania práva, imigračných alebo azylových orgánov, ktoré tieto systémy uvádzajú do prevádzky alebo používajú.
 5.  V prípade systémov umelej inteligencie, ktoré sa používajú na účely presadzovania práva, určia členské štáty ako orgány dohľadu nad trhom na účely tohto nariadenia príslušné dozorné orgány pre ochranu údajov podľa smernice (EÚ) 2016/680.
Pozmeňujúci návrh 589
Návrh nariadenia
Článok 63 – odsek 7
7.  Členské štáty podporujú koordináciu medzi orgánmi dohľadu nad trhom určenými podľa tohto nariadenia a inými príslušnými vnútroštátnymi orgánmi alebo subjektmi, ktoré vykonávajú dohľad nad uplatňovaním harmonizačných právnych predpisov Únie uvedených v prílohe II alebo iných právnych predpisov Únie, ktoré by mohlo byť relevantné pre vysokorizikové systémy umelej inteligencie uvedené v prílohe III.
 7.  Vnútroštátne dozorné orgány určené podľa tohto nariadenia koordinujú svoju činnosť s inými príslušnými vnútroštátnymi orgánmi alebo subjektmi, ktoré vykonávajú dohľad nad uplatňovaním harmonizačného práva Únie uvedeného v prílohe II alebo iného práva Únie, ktoré by mohlo byť relevantné pre vysokorizikové systémy umelej inteligencie uvedené v prílohe III.
Pozmeňujúci návrh 590
Návrh nariadenia
Článok 64 – odsek 1
1.  Orgánom dohľadu nad trhom sa v rámci ich činností poskytne úplný prístup k súborom trénovacích, validačných a testovacích údajov, ktoré používa poskytovateľ, a to aj prostredníctvom aplikačných programovacích rozhraní (application programming interfaces – API) alebo iných vhodných technických prostriedkov a nástrojov umožňujúcich diaľkový prístup.
 1.  Vnútroštátnemu dozornému orgánu sa v rámci jeho činností a na základe jeho odôvodnenej žiadosti poskytne úplný prístup k súborom trénovacích, validačných a testovacích údajov, ktoré používa poskytovateľ, alebo v relevantných prípadoch nasadzujúci subjekt a ktoré sú nevyhnutne potrebné na účely jeho žiadosti, prostredníctvom iných vhodných technických prostriedkov a nástrojov.
Pozmeňujúci návrh 591
Návrh nariadenia
Článok 64 – odsek 2
2.  Ak je to potrebné na posúdenie zhody vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v hlave III kapitole 2, a na základe odôvodnenej žiadosti sa orgánom dohľadu nad trhom udelí prístup k zdrojovému kódu systému umelej inteligencie.
 2.  Ak je to potrebné na posúdenie zhody vysokorizikového systému umelej inteligencie s požiadavkami stanovenými v hlave III kapitole 2 potom, čo sa vyčerpali všetky ostatné primerané spôsoby overenia zhody, a to aj podľa odseku 1, alebo sa ukázali ako nedostatočné, a na základe odôvodnenej žiadosti sa vnútroštátnemu dozornému orgánu udelí prístup aj k trénovacím a trénovaným modelom systému umelej inteligencie vrátane jeho príslušných parametrov modelu. So všetkými informáciami získanými v súlade s článkom 70 sa zaobchádza ako s dôvernými informáciami a vzťahuje sa na ne platné právo Únie o ochrane duševného vlastníctva a obchodného tajomstva a po ukončení vyšetrovania, na účely ktorého sa o informácie žiadalo, sa vymažú.
Pozmeňujúci návrh 592
Návrh nariadenia
Článok 64 – odsek 2 a (nový)
2a.  Odsekmi 1 a 2 nie sú dotknuté procesné práva dotknutého prevádzkovateľa v súlade s článkom 18 nariadenia (EÚ) 2019/1020.
Pozmeňujúci návrh 593
Návrh nariadenia
Článok 64 – odsek 3
3.  Vnútroštátne orgány verejnej moci alebo subjekty, ktoré dohliadajú na dodržiavanie povinností podľa právnych predpisov Únie na ochranu základných práv v súvislosti s používaním vysokorizikových systémov umelej inteligencie uvedených v prílohe III alebo dodržiavanie týchto povinností presadzujú, majú právomoc požadovať akúkoľvek dokumentáciu vytvorenú alebo udržiavanú podľa tohto nariadenia a mať k nej prístup, ak je prístup k tejto dokumentácii potrebný na plnenie právomocí v rámci ich mandátu a jurisdikcie. O každej takejto žiadosti príslušný orgán verejnej moci alebo subjekt informuje orgán dohľadu nad trhom dotknutého členského štátu.
 3.  Vnútroštátne orgány verejnej moci alebo subjekty, ktoré dohliadajú na dodržiavanie povinností podľa právnych predpisov Únie na ochranu základných práv v súvislosti s používaním vysokorizikových systémov umelej inteligencie uvedených v prílohe III alebo dodržiavanie týchto povinností presadzujú, majú právomoc požadovať akúkoľvek dokumentáciu vytvorenú alebo udržiavanú podľa tohto nariadenia a mať k nej prístup, ak je prístup k tejto dokumentácii potrebný na plnenie právomocí v rámci ich mandátu a jurisdikcie. O každej takejto žiadosti príslušný orgán verejnej moci alebo subjekt informuje vnútroštátny dozorný orgán dotknutého členského štátu.
Pozmeňujúci návrh 594
Návrh nariadenia
Článok 64 – odsek 4
4.  Do 3 mesiacov od nadobudnutia účinnosti tohto nariadenia každý členský štát určí orgány verejnej moci alebo subjekty uvedené v odseku 3 a ich zoznam zverejní na webovom sídle vnútroštátneho dozorného orgánu. Tento zoznam členské štáty oznámia Komisii a všetkým ostatným členským štátom a udržujú ho v aktuálnom stave.
 4.  Do 3 mesiacov od nadobudnutia účinnosti tohto nariadenia každý členský štát určí orgány verejnej moci alebo subjekty uvedené v odseku 3 a ich zoznam zverejní na webovom sídle vnútroštátneho dozorného orgánu. Tento zoznam vnútroštátne dozorné orgány oznámia Komisii, úradu pre umelú inteligenciu a všetkým ostatným vnútroštátnym dozorným orgánom a udržujú ho v aktuálnom stave. Komisia uverejní na osobitnom webovom sídle zoznam všetkých príslušných orgánov určených členskými štátmi v súlade s týmto článkom.
Pozmeňujúci návrh 595
Návrh nariadenia
Článok 64 – odsek 5
5.  Ak dokumentácia uvedená v odseku 3 nepostačuje na zistenie toho, či došlo k porušeniu povinností podľa právnych predpisov Únie určených na ochranu základných práv, orgán verejnej moci alebo subjekt uvedený v odseku 3 môže orgánu dohľadu nad trhom predložiť odôvodnenú žiadosť, aby zorganizoval testovanie vysokorizikového systému umelej inteligencie technickými prostriedkami. Orgán dohľadu nad trhom zorganizuje testovanie v primeranom čase od podania žiadosti v úzkej spolupráci so žiadajúcim orgánom verejnej moci alebo subjektom.
 5.  Ak dokumentácia uvedená v odseku 3 nepostačuje na zistenie toho, či došlo k porušeniu povinností podľa právnych predpisov Únie určených na ochranu základných práv, orgán verejnej moci alebo subjekt uvedený v odseku 3 môže vnútroštátny dozorný orgánu predložiť odôvodnenú žiadosť, aby zorganizoval testovanie vysokorizikového systému umelej inteligencie technickými prostriedkami. Vnútroštátny dozorný orgán zorganizuje testovanie v primeranom čase od podania žiadosti v úzkej spolupráci so žiadajúcim orgánom verejnej moci alebo subjektom.
Pozmeňujúci návrh 596
Návrh nariadenia
Článok 65 – odsek 1
1.  Systémy umelej inteligencie predstavujúce riziko sa chápu ako výrobky predstavujúce riziko vymedzené v článku 3 bode 19 nariadenia (EÚ) 2019/1020, pokiaľ ide o riziká pre zdravie alebo bezpečnosť, alebo pre ochranu základných práv osôb.
 1.  Systémy umelej inteligencie predstavujúci riziko sa chápu ako systém umelej inteligencie, ktorý môže negatívne ovplyvniť zdravie a bezpečnosť, základné práva osôb vo všeobecnosti, a to aj na pracovisku, ochranu spotrebiteľov, životné prostredie, verejnú bezpečnosť, demokraciu alebo právny štát a iné verejné záujmy, ktoré sú chránené príslušnými harmonizačnými právnymi predpismi Únie, a to v rozsahu, ktorý prekračuje rámec rizika považovaného za primerané a prijateľné vzhľadom na jeho zamýšľaný účel alebo v bežných či logicky predvídateľných podmienkach používania dotknutého systému vrátane dĺžky používania a prípadne uvedenia do prevádzky, inštalácie a požiadaviek na údržbu.
Pozmeňujúci návrh 597
Návrh nariadenia
Článok 65 – odsek 2 – úvodná časť
2.  Ak má orgán dohľadu nad trhom členského štátu dostatočné dôvody domnievať sa, že systém umelej inteligencie predstavuje riziko uvedené v odseku 1, vykoná hodnotenie dotknutého systému umelej inteligencie, pokiaľ ide o jeho súlad so všetkými požiadavkami a povinnosťami stanovenými v tomto nariadení. Ak existujú riziká pre ochranu základných práv, orgán dohľadu nad trhom informuje aj príslušné vnútroštátne orgány verejnej moci alebo subjekty uvedené v článku 64 ods. 3. S orgánmi dohľadu nad trhom a ostatnými vnútroštátnymi orgánmi verejnej moci alebo subjektmi uvedenými v článku 64 ods. 3 podľa potreby spolupracujú príslušní prevádzkovatelia.
 2.  Ak má vnútroštátny dozorný orgán členského štátu dostatočné dôvody domnievať sa, že systém umelej inteligencie predstavuje riziko uvedené v odseku 1, vykoná hodnotenie dotknutého systému umelej inteligencie, pokiaľ ide o jeho súlad so všetkými požiadavkami a povinnosťami stanovenými v tomto nariadení. Ak existujú riziká pre základné práva, vnútroštátny dozorný orgán okamžite informuje aj príslušné vnútroštátne orgány verejnej moci alebo subjekty uvedené v článku 64 ods. 3 a v plnej miere s nimi spolupracuje; Ak existuje dostatočný dôvod domnievať sa, že systém umelej inteligencie využíva zraniteľnosť zraniteľných skupín alebo úmyselne či neúmyselne porušuje ich práva, vnútroštátny dozorný orgán má povinnosť preskúmať ciele návrhu, vkladanie údajov, výber modelov, vykonávanie a výsledky systému umelej inteligencie. S vnútroštátnym dozorným orgánom a ostatnými vnútroštátnymi orgánmi verejnej moci alebo subjektmi uvedenými v článku 64 ods. 3 podľa potreby spolupracujú príslušní prevádzkovatelia.
Pozmeňujúci návrh 598
Návrh nariadenia
Článok 65 – odsek 2 – pododsek 1
Ak v priebehu uvedeného hodnotenia orgán dohľadu nad trhom zistí, že systém umelej inteligencie nespĺňa požiadavky a povinnosti stanovené v tomto nariadení, bezodkladne požiada príslušného prevádzkovateľa, aby prijal všetky primerané nápravné opatrenia, ktoré vedú k zosúladeniu systému umelej inteligencie s uvedenými požiadavkami a povinnosťami, jeho stiahnutiu z trhu alebo od používateľa v rámci primeranej lehoty úmernej povahe rizika, ktorú môže orgán stanoviť.
 Ak v priebehu uvedeného hodnotenia vnútroštátny dozorný orgán alebo v relevantných prípadoch vnútroštátny orgán verejnej moci uvedený v článku 64 ods. 3 zistí, že systém umelej inteligencie nespĺňa požiadavky a povinnosti stanovené v tomto nariadení, bezodkladne požiada príslušného prevádzkovateľa, aby prijal všetky primerané nápravné opatrenia, ktoré vedú k zosúladeniu systému umelej inteligencie s uvedenými požiadavkami a povinnosťami, jeho stiahnutiu z trhu alebo od používateľa v rámci primeranej lehoty úmernej povahe rizika, ktorú môže orgán stanoviť, a v každom prípade najneskôr do pätnásť pracovných dní alebo v súlade s príslušnými uplatniteľnými harmonizačnými právnymi predpismi Únie.
Pozmeňujúci návrh 599
Návrh nariadenia
Článok 65 – odsek 2 – pododsek 2
Orgán dohľadu nad trhom o tom informuje príslušnú notifikovanú osobu. Na opatrenia uvedené v druhom pododseku sa uplatňuje článok 18 nariadenia (EÚ) 2019/1020.
 Vnútroštátny dozorný orgán dohľadu nad trhom o tom informuje príslušnú notifikovanú osobu. Na opatrenia uvedené v druhom pododseku sa uplatňuje článok 18 nariadenia (EÚ) 2019/1020.
Pozmeňujúci návrh 600
Návrh nariadenia
Článok 65 – odsek 3
3.  Ak sa orgán dohľadu nad trhom domnieva, že nesúlad s požiadavkami a povinnosťami sa neobmedzuje na územie jeho štátu, informuje Komisiu a ostatné členské štáty o výsledkoch hodnotenia a opatreniach, o ktorých prijatie požiadal prevádzkovateľa.
 3.  Ak sa vnútroštátny dozorný orgán domnieva, že nesúlad s požiadavkami a povinnosťami sa neobmedzuje na územie jeho štátu, bez zbytočného odkladu informuje Komisiu, úrad pre umelú inteligenciu a vnútroštátny dozorný orgán ostatných členských štátov o výsledkoch hodnotenia a opatreniach, o ktorých prijatie požiadal prevádzkovateľa.
Pozmeňujúci návrh 601
Návrh nariadenia
Článok 65 – odsek 5
5.  Ak prevádzkovateľ systému umelej inteligencie v lehote uvedenej v odseku 2 neprijme primerané nápravné opatrenia, orgán dohľadu nad trhom prijme všetky primerané predbežné opatrenia s cieľom zakázať alebo obmedziť sprístupňovanie systému umelej inteligencie na svojom vnútroštátnom trhu, výrobok z uvedeného trhu stiahnuť alebo ho stiahnuť od používateľa. O týchto opatreniach uvedený orgán bezodkladne informuje Komisiu a ostatné členské štáty.
 5.  Ak prevádzkovateľ systému umelej inteligencie v lehote uvedenej v odseku 2 neprijme primerané nápravné opatrenia, vnútroštátny dozorný orgán prijme všetky primerané predbežné opatrenia s cieľom zakázať alebo obmedziť sprístupňovanie systému umelej inteligencie na svojom vnútroštátnom trhu alebo jeho uvedenie do prevádzky, systém umelej inteligencie z uvedeného trhu stiahnuť alebo ho stiahnuť od používateľa. O týchto opatreniach uvedený orgán okamžite informuje Komisiu, úrad pre umelú inteligenciu a vnútroštátne dozorné orgány ostatných členských štátov.
Pozmeňujúci návrh 602
Návrh nariadenia
Článok 65 – odsek 6 – úvodná časť
6.  Informácie uvedené v odseku 5 musia obsahovať všetky podrobné údaje, ktoré sú k dispozícii, najmä údaje potrebné na identifikáciu nevyhovujúceho systému umelej inteligencie, jeho pôvod, povahu údajného nesúladu a z neho vyplývajúce riziko, povahu a trvanie prijatých vnútroštátnych opatrení a stanoviská, ktoré predložil príslušný prevádzkovateľ. Orgány dohľadu nad trhom musia predovšetkým uviesť, či k nesúladu došlo v dôsledku jedného alebo viacerých z týchto dôvodov:
 6.  Informácie uvedené v odseku 5 musia obsahovať všetky podrobné údaje, ktoré sú k dispozícii, najmä údaje potrebné na identifikáciu nevyhovujúceho systému umelej inteligencie, jeho pôvod, dodávateľský reťazec, povahu údajného nesúladu a z neho vyplývajúce riziko, povahu a trvanie prijatých vnútroštátnych opatrení a stanoviská, ktoré predložil príslušný prevádzkovateľ. Vnútroštátne dozorné orgány musia predovšetkým uviesť, či k nesúladu došlo v dôsledku jedného alebo viacerých z týchto dôvodov:
Pozmeňujúci návrh 603
Návrh nariadenia
Článok 65 – odsek 6 – písmeno a
a)  systém umelej inteligencie nespĺňa požiadavky stanovené v hlave III kapitole 2;
 a)  vysokorizikový systém umelej inteligencie nespĺňa požiadavky stanovené v tomto nariadení;
Pozmeňujúci návrh 604
Návrh nariadenia
Článok 65 – odsek 6 – písmeno b a (nové)
ba)  nedodržiavanie zákazu praktík v oblasti umelej inteligencie uvedených v článku 5;
Pozmeňujúci návrh 605
Návrh nariadenia
Článok 65 – odsek 6 – písmeno b b (nové)
bb)  nedodržanie ustanovení uvedených v článku 52.
Pozmeňujúci návrh 606
Návrh nariadenia
Článok 65 – odsek 7
7.  Orgány dohľadu nad trhom členských štátov iné než orgán dohľadu nad trhom členského štátu, ktorý postup začal, bezodkladne oboznámia Komisiu a ostatné členské štáty so všetkými prijatými opatreniami a s akýmikoľvek dodatočnými informáciami týkajúcimi sa nesúladu dotknutého systému umelej inteligencie, ktoré majú k dispozícii, a v prípade, že nesúhlasia s oznámeným vnútroštátnym opatrením, aj so svojimi námietkami.
 7.  Vnútroštátne dozorné orgány členských štátov iné než vnútroštátny dozorný orgán členského štátu, ktorý postup začal, bezodkladne oboznámia Komisiu, úrad pre umelú inteligenciu a ostatné členské štáty so všetkými prijatými opatreniami a s akýmikoľvek dodatočnými informáciami týkajúcimi sa nesúladu dotknutého systému umelej inteligencie, ktoré majú k dispozícii, a v prípade, že nesúhlasia s oznámeným vnútroštátnym opatrením, aj so svojimi námietkami.
Pozmeňujúci návrh 607
Návrh nariadenia
Článok 65 – odsek 8
8.  Ak do troch mesiacov od prijatia informácií uvedených v odseku 5 žiaden členský štát ani Komisia nevznesú námietku proti predbežnému opatreniu prijatému členským štátom, opatrenie sa považuje za opodstatnené. Týmto nie sú dotknuté procesné práva dotknutého prevádzkovateľa v súlade s článkom 18 nariadenia (EÚ) 2019/1020.
 8.  Ak do troch mesiacov od prijatia informácií uvedených v odseku 5 žiaden vnútroštátny dozorný orgán členského štátu ani Komisia nevznesú námietku proti predbežnému opatreniu prijatému vnútroštátnym dozorným orgánom iného členského štátu, opatrenie sa považuje za opodstatnené. Týmto nie sú dotknuté procesné práva dotknutého prevádzkovateľa v súlade s článkom 18 nariadenia (EÚ) 2019/1020. Lehota uvedená v prvej vete tohto odseku sa skracuje na tridsať dní v prípade nedodržania zákazu praktík v oblasti umelej inteligencie podľa článku 5.
Pozmeňujúci návrh 608
Návrh nariadenia
Článok 65 – odsek 9
9.  Orgány dohľadu nad trhom všetkých členských štátov zabezpečia, aby sa vo vzťahu k dotknutému výrobku bezodkladne prijali primerané reštriktívne opatrenia, ako je napríklad stiahnutie výrobku z ich trhu.
 9.  Vnútroštátne dozorné orgány všetkých členských štátov zabezpečia, aby sa vo vzťahu k dotknutému systému umelej inteligencie bezodkladne prijali primerané reštriktívne opatrenia, ako je napríklad stiahnutie systému umelej inteligencie z ich trhu.
Pozmeňujúci návrh 609
Návrh nariadenia
Článok 65 – odsek 9 a (nový)
9a.  Vnútroštátne dozorné orgány každoročne podávajú úradu pre umelú inteligenciu správu o používaní zakázaných praktík, ktoré sa vyskytli počas daného roka, a o opatreniach prijatých na odstránenie alebo zmiernenie rizík v súlade s týmto článkom.
Pozmeňujúci návrh 610
Návrh nariadenia
Článok 66 – odsek 1
1.  Ak do troch mesiacov od prijatia oznámenia uvedeného v článku 65 ods. 5 členský štát vznesie námietky proti opatreniu prijatému iným členským štátom alebo ak Komisia pokladá toto opatrenie za také, ktoré je v rozpore s právnymi predpismi Únie, Komisia bezodkladne začne konzultácie s príslušným členským štátom a prevádzkovateľom, príp. prevádzkovateľmi a vnútroštátne opatrenie vyhodnotí. Na základe výsledkov tohto hodnotenia Komisia do deviatich mesiacov od oznámenia uvedeného v článku 65 ods. 5 rozhodne, či je vnútroštátne opatrenie opodstatnené, a oznámi toto rozhodnutie dotknutému členskému štátu.
 1.  Ak do troch mesiacov od prijatia oznámenia uvedeného v článku 65 ods. 5 alebo do 30 dní v prípade nedodržania zákazu praktík v oblasti umelej inteligencie podľa článku 5, vnútroštátny dozorný orgán členského štátu vznesie námietky proti opatreniu prijatému iným vnútroštátnym dozorným orgánom alebo ak Komisia pokladá toto opatrenie za také, ktoré je v rozpore s právnymi predpismi Únie, Komisia bezodkladne začne konzultácie s vnútroštátnym dozorným orgánom príslušného členského štátu a prevádzkovateľom, príp. prevádzkovateľmi a vnútroštátne opatrenie vyhodnotí. Na základe výsledkov tohto hodnotenia Komisia do troch mesiacov alebo 60 dní v prípade nedodržania zákazu praktík v oblasti umelej inteligencie podľa článku 5, počínajúc dňom oznámenia uvedeného v článku 65 ods. 5, rozhodne, či je vnútroštátne opatrenie opodstatnené, a oznámi toto rozhodnutie vnútroštátnemu dozornému orgánu dotknutého členského štátu. Komisia o tomto rozhodnutí tiež informuje všetky ostatné vnútroštátne dozorné orgány.
Pozmeňujúci návrh 611
Návrh nariadenia
Článok 66 – odsek 2
2.  Ak sa vnútroštátne opatrenie považuje za opodstatnené, všetky členské štáty prijmú opatrenia potrebné na zabezpečenie stiahnutia nevyhovujúceho systému umelej inteligencie zo svojho trhu a informujú o nich Komisiu. Ak sa vnútroštátne opatrenie považuje za neopodstatnené, dotknutý členský štát toto opatrenie zruší.
 2.  Ak sa vnútroštátne opatrenie považuje za opodstatnené, všetky vnútroštátne dozorné orgány určené podľa tohto nariadenia prijmú opatrenia potrebné na zabezpečenie okamžitého stiahnutia nevyhovujúceho systému umelej inteligencie zo svojho trhu a informujú o nich Komisiu a úrad pre umelú inteligenciu. Ak sa vnútroštátne opatrenie považuje za neopodstatnené, vnútroštátny dozorný orgán dotknutého členského štátu toto opatrenie zruší.
Pozmeňujúci návrh 612
Návrh nariadenia
Článok 66 a (nový)
Článok 66a
Spoločné vyšetrovania
Ak má vnútroštátny dozorný orgán dôvodné podozrenie, že porušenie tohto nariadenia poskytovateľom alebo nasadzujúcim systémom vysokorizikového systému umelej inteligencie alebo základného modelu predstavuje rozsiahle porušenie s rozmerom Únie alebo má vplyv alebo pravdepodobne bude mať vplyv na minimálne 45 miliónov osôb vo viac ako jednom členskom štáte, uvedený vnútroštátny dozorný orgán o tom informuje úrad pre umelú inteligenciu a môže požiadať vnútroštátne dozorné orgány členských štátov, v ktorých k takémuto porušeniu došlo, aby začali spoločné vyšetrovanie. Úrad pre umelú inteligenciu zabezpečuje centrálnu koordináciu spoločného vyšetrovania. Vyšetrovacie právomoci zostávajú v právomoci vnútroštátnych dozorných orgánov.
Pozmeňujúci návrh 613
Návrh nariadenia
Článok 67 – odsek 1
1.  Ak po vykonaní hodnotenia podľa článku 65 orgán dohľadu nad trhom členského štátu zistí, že systém umelej inteligencie, ktorý je v súlade s týmto nariadením, napriek tomu predstavuje riziko pre zdravie alebo bezpečnosť osôb, pre dodržiavanie povinností podľa právnych predpisov Únie alebo vnútroštátnych právnych predpisov určených na ochranu základných práv alebo pre iné hľadiská ochrany verejného záujmu, požiada príslušného prevádzkovateľa, aby prijal všetky primerané opatrenia, ktorými sa zabezpečí, aby dotknutý systém umelej inteligencie pri uvedení na trh alebo do prevádzky už takéto riziko nepredstavoval alebo aby v primeranej lehote úmernej povahe rizika, ktorú môže orgán stanoviť, došlo k jeho stiahnutiu z trhu alebo od používateľa.
 1.  Ak po vykonaní hodnotenia podľa článku 65 v plnej spolupráci s príslušným vnútroštátnym orgánom verejnej moci uvedeným v článku 64 ods. 3 vnútroštátny dozorný orgán členského štátu zistí, že systém umelej inteligencie, ktorý je v súlade s týmto nariadením, napriek tomu predstavuje závažné riziko pre zdravie alebo bezpečnosť osôb, pre dodržiavanie povinností podľa právnych predpisov Únie alebo vnútroštátnych právnych predpisov určených na ochranu základných práv alebo životného prostredia, alebo demokracie a právneho štátu alebo pre iné hľadiská ochrany verejného záujmu, požiada príslušného prevádzkovateľa, aby prijal všetky primerané opatrenia, ktorými sa zabezpečí, aby dotknutý systém umelej inteligencie pri uvedení na trh alebo do prevádzky už takéto riziko nepredstavoval.
Pozmeňujúci návrh 614
Návrh nariadenia
Článok 67 – odsek 2
2.  Poskytovateľ alebo iní relevantní prevádzkovatelia v lehote predpísanej orgánom dohľadu nad trhom členského štátu v zmysle odseku 1 zabezpečia prijatie nápravných opatrení v súvislosti so všetkými dotknutými systémami umelej inteligencie, ktoré sprístupnili na trhu v celej Únii.
 2.  Poskytovateľ alebo iní príslušní prevádzkovatelia v lehote predpísanej vnútroštátnym dozorným orgánom členského štátu v zmysle odseku 1 zabezpečia prijatie nápravných opatrení v súvislosti so všetkými dotknutými systémami umelej inteligencie, ktoré sprístupnili na trhu v celej Únii.
Pozmeňujúci návrh 615
Návrh nariadenia
Článok 67 – odsek 2 a (nový)
2a.  Ak poskytovateľ alebo iní relevantní prevádzkovatelia neprijmú nápravné opatrenia uvedené v odseku 2 a ak systém umelej inteligencie naďalej predstavuje riziko uvedené v odseku 1, vnútroštátny dozorný orgán môže požiadať príslušného prevádzkovateľa, aby stiahol systém umelej inteligencie z trhu alebo od používateľa v primeranej lehote úmernej povahe rizika.
Pozmeňujúci návrh 616
Návrh nariadenia
Článok 67 – odsek 3
3.  Členský štát o tom okamžite informuje Komisiu a ostatné členské štáty. Tieto informácie musia obsahovať všetky podrobnosti, ktoré sú k dispozícii, najmä údaje potrebné na identifikáciu dotknutého systému umelej inteligencie, jeho pôvod a dodávateľský reťazec, povahu z neho vyplývajúceho rizika a povahu a trvanie prijatých vnútroštátnych opatrení.
 3.  Vnútroštátny dozorný orgán o tom okamžite informuje Komisiu, úrad pre umelú inteligenciu a ostatné vnútroštátne dozorné orgány. Tieto informácie musia obsahovať všetky podrobnosti, ktoré sú k dispozícii, najmä údaje potrebné na identifikáciu dotknutého systému umelej inteligencie, jeho pôvod a dodávateľský reťazec, povahu z neho vyplývajúceho rizika a povahu a trvanie prijatých vnútroštátnych opatrení.
Pozmeňujúci návrh 617
Návrh nariadenia
Článok 67 – odsek 4
4.  Komisia začne bezodkladne konzultovať s členskými štátmi a príslušným prevádzkovateľom a prijaté vnútroštátne opatrenia vyhodnotí. Na základe výsledkov tohto hodnotenia Komisia rozhodne, či je opatrenie opodstatnené, a podľa potreby navrhne primerané opatrenia.
 4.  Komisia po konzultácii s úradom pre umelú inteligenciu začne bezodkladne konzultovať s dotknutými vnútroštátnymi dozornými orgánmi a príslušným prevádzkovateľom a prijaté vnútroštátne opatrenia vyhodnotí. Na základe výsledkov tohto hodnotenia úrad pre umelú inteligenciu rozhodne, či je opatrenie opodstatnené, a podľa potreby navrhne primerané opatrenia.
Pozmeňujúci návrh 618
Návrh nariadenia
Článok 67 – odsek 5
5.  Rozhodnutie Komisie je určené členským štátom.
 5.  Komisia po konzultácii s úradom pre umelú inteligenciu bezodkladne oznámi svoje rozhodnutie vnútroštátnym dozorným orgánom dotknutých členských štátov a príslušným prevádzkovateľom. Informuje o rozhodnutí aj všetky ostatné vnútroštátne dozorné orgány.
Pozmeňujúci návrh 619
Návrh nariadenia
Článok 67 – odsek 5 a (nový)
5a.  Komisia prijme pokyny s cieľom pomôcť príslušným vnútroštátnym orgánom identifikovať a v prípade potreby napraviť podobné problémy, ktoré vznikajú v iných systémoch umelej inteligencie.
Pozmeňujúci návrh 620
Návrh nariadenia
Článok 68 – odsek 1 – úvodná časť
1.  Orgán dohľadu na trhom členského štátu požiada príslušného prevádzkovateľa o odstránenie predmetného nesúladu, ak dospeje k jednému z týchto zistení:
 1.  Vnútroštátny dozorný orgán členského štátu požiada príslušného prevádzkovateľa o odstránenie predmetného nesúladu, ak dospeje k jednému z týchto zistení:
Pozmeňujúci návrh 621
Návrh nariadenia
Článok 68 – odsek 1 – písmeno a
a)  označenie zhody bolo umiestnené v rozpore s článkom 49;
 a)  označenie CE bolo umiestnené v rozpore s článkom 49;
Pozmeňujúci návrh 622
Návrh nariadenia
Článok 68 – odsek 1 – písmeno b
b)  označenie zhody nebolo umiestnené;
 b)  označenie CE nebolo pripojené;
Pozmeňujúci návrh 623
Návrh nariadenia
Článok 68 – odsek 1 – písmeno e a (nové)
ea)  technická dokumentácia nie je k dispozícii;
Pozmeňujúci návrh 624
Návrh nariadenia
Článok 68 – odsek 1 – písmeno e b (nové)
eb)  nebola vykonaná registrácia v databáze EÚ;
Pozmeňujúci návrh 625
Návrh nariadenia
Článok 68 – odsek 1 – písmeno e c (nové)
ec)  v relevantných prípadoch nebol vymenovaný splnomocnený zástupca.
Pozmeňujúci návrh 626
Návrh nariadenia
Článok 68 – odsek 2
2.  Ak nesúlad uvedený v odseku 1 pretrváva, dotknutý členský štát prijme všetky náležité opatrenia na obmedzenie alebo zákaz sprístupňovania vysokorizikového systému umelej inteligencie na trhu alebo zabezpečí jeho stiahnutie od používateľa alebo z trhu.
 2.  Ak nesúlad uvedený v odseku 1 pretrváva, vnútroštátny dozorný orgán dotknutého členského štátu prijme náležité a primerané opatrenia na obmedzenie alebo zákaz sprístupňovania vysokorizikového systému umelej inteligencie na trhu alebo zabezpečí jeho okamžité stiahnutie od používateľa alebo z trhu. Vnútroštátny dozorný orgán dotknutého členského štátu okamžite informuje úrad pre umelú inteligenciu o nesúlade a prijatých opatreniach.
Pozmeňujúci návrh 627
Návrh nariadenia
Článok 68 – kapitola 3 a (nová)
3a  . Prostriedky nápravy
Pozmeňujúci návrh 628
Návrh nariadenia
Článok 68 a (nový)
Článok 68a
Právo podať sťažnosť vnútroštátnemu dozornému orgánu
1.  Bez toho, aby boli dotknuté akékoľvek iné správne alebo súdne prostriedky nápravy, má každá fyzická osoba alebo skupina fyzických osôb právo podať sťažnosť vnútroštátnemu dozornému orgánu, najmä v členskom štáte svojho obvyklého pobytu, mieste výkonu práce alebo v mieste údajného porušenia, ak sa domnieva, že systém umelej inteligencie, ktorý sa jej týka, je v rozpore s týmto nariadením.
2.  Vnútroštátny dozorný orgán, ktorému sa sťažnosť podala, informuje sťažovateľa o pokroku a výsledku sťažnosti vrátane možnosti podať súdny prostriedok nápravy podľa článku 78.
Pozmeňujúci návrh 629
Návrh nariadenia
Článok 68 b (nový)
Článok 68b
Právo na účinný súdny prostriedok nápravy proti rozhodnutiu vnútroštátneho dozorného orgánu
1.  Bez toho, aby boli dotknuté iné správne alebo mimosúdne prostriedky nápravy, má každá fyzická alebo právnická osoba právo na účinný súdny prostriedok nápravy voči právne záväznému rozhodnutiu vnútroštátneho dozorného orgánu, ktoré sa jej týka.
2.  Bez toho, aby boli dotknuté akékoľvek iné správne alebo mimosúdne prostriedky nápravy, každá fyzická alebo právnická osoba má právo na účinný súdny prostriedok nápravy, ak vnútroštátny dozorný orgán, ktorý je príslušný podľa článku 59, sťažnosť nevybavil alebo neinformoval dotknutú osobu do troch mesiacov o pokroku alebo výsledku sťažnosti podanej podľa článku 68 a.
3.  Návrh na začatie konania proti vnútroštátnemu dozornému orgánu sa podáva na súdoch členského štátu, v ktorom je vnútroštátny dozorný orgán zriadený.
4.  Ak sa návrh na začatie konania podáva proti rozhodnutiu vnútroštátneho dozorného orgánu, ktorému predchádzalo stanovisko alebo rozhodnutie Komisie v rámci ochranného postupu Únie, dozorný orgán takéto stanovisko alebo rozhodnutie postúpi súdu.
Pozmeňujúci návrh 630
Návrh nariadenia
Článok 68 c (nový)
Článok 68c
Vysvetlenie individuálneho rozhodovania
1.  Každá dotknutá osoba, na ktorú sa vzťahuje rozhodnutie prijaté nasadzujúcim subjektom na základe výstupu z vysokorizikového systému umelej inteligencie s právnymi účinkami alebo má na ňu podobne významný vplyv, ktorý považuje za nepriaznivý vplyv na svoje zdravie, základné práva, sociálno-ekonomický blahobyt alebo akékoľvek iné práva vyplývajúce z povinností stanovených v tomto nariadení, má právo žiadať od nasadzujúceho subjektu jasné a zmysluplné vysvetlenie podľa článku 13 ods. 1 týkajúce sa úlohy systému umelej inteligencie v rozhodovacom postupe, hlavných parametrov prijatého rozhodnutia a súvisiacich vstupných údajov.
2.  Odsek 1 sa nevzťahuje na používanie systémov umelej inteligencie, pre ktoré sú stanovené výnimky alebo obmedzenia povinnosti podľa odseku 1 vyplývajúce z práva Únie alebo vnútroštátneho práva, pokiaľ takéto výnimky alebo obmedzenia rešpektujú podstatu základných práv a slobôd a sú nevyhnutným a primeraným opatrením v demokratickej spoločnosti.
3.  Tento článok sa uplatňuje bez toho, aby boli dotknuté články 13, 14, 15 a 22 nariadenia 2016/679.
Pozmeňujúci návrh 631
Návrh nariadenia
Článok 68 d (nový)
Článok 68d
Zmena smernice (EÚ) 2020/1828
V prílohe I k smernici Európskeho parlamentu a Rady (EÚ) 2020/18281a sa dopĺňa tento bod:
„67a) Nariadenie Európskeho parlamentu a Rady xxxx/xxxx [ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty Únie (Ú. v. EÚ L ...)].
_________________
1a Smernica Európskeho parlamentu a Rady (EÚ) 2020/1828 z 25. novembra 2020 o žalobách v zastúpení na ochranu kolektívnych záujmov spotrebiteľov a o zrušení smernice 2009/22/ES (Ú. v. EÚ L 409, 4.12.2020, s. 1).“
Pozmeňujúci návrh 632
Návrh nariadenia
Článok 68 e (nový)
Článok 68e
Nahlasovanie porušení a ochrana nahlasujúcich osôb
Na nahlasovanie porušení tohto nariadenia a na ochranu osôb nahlasujúcich tieto porušenia sa vzťahuje smernica Európskeho parlamentu a Rady (EÚ) 2019/1937.
Pozmeňujúci návrh 633
Návrh nariadenia
Článok 69 – odsek 1
1.  Komisia a členské štáty nabádajú k vypracúvaniu kódexov správania určených na podporu dobrovoľného uplatňovania požiadaviek stanovených v hlave III kapitole 2 na systémy umelej inteligencie, ktoré nie sú vysokorizikovými systémami umelej inteligencie, na základe technických špecifikácií a riešení, ktoré sú vzhľadom na zamýšľaný účel systémov vhodnými prostriedkami na zabezpečenie súladu s takýmito požiadavkami, a vypracúvanie takýchto kódexov podporujú.
 1.  Komisia, úrad pre umelú inteligenciu a členské štáty nabádajú k vypracúvaniu kódexov správania určených na podporu dobrovoľného uplatňovania požiadaviek stanovených v hlave III kapitole 2 na systémy umelej inteligencie, ktoré nie sú vysokorizikovými systémami umelej inteligencie, na základe technických špecifikácií a riešení, ktoré sú vzhľadom na zamýšľaný účel systémov vhodnými prostriedkami na zabezpečenie súladu s takýmito požiadavkami, a vypracúvanie takýchto kódexov podporujú, a to aj vtedy, ak sa tieto kódexy vypracúvajú s cieľom preukázať, že systémy umelej inteligencie dodržiavajú zásady stanovené v článku 4a, a teda že môžu byť považované za dôveryhodné.
Pozmeňujúci návrh 634
Návrh nariadenia
Článok 69 – odsek 2
2.  Komisia a rada pre umelú inteligenciu nabádajú k vypracúvaniu kódexov správania určených na podporu dobrovoľného uplatňovania požiadaviek týkajúcich sa napríklad environmentálnej udržateľnosti, prístupnosti pre osoby so zdravotným postihnutím, účasti zainteresovaných strán na koncipovaní a vývoji systémov umelej inteligencie a rozmanitosti vývojových tímov na základe jasných cieľov a kľúčových ukazovateľov výkonnosti na meranie dosahovania týchto cieľov, a podporujú vypracúvanie takýchto kódexov.
 2.  Kódexy správania určené na podporu dobrovoľného dodržiavania zásad, na ktorých sú založené dôveryhodné systémy umelej inteligencie, musia najmä:
a)   byť zamerané na dosiahnutie dostatočnej úrovne gramotnosti v oblasti umelej inteligencie medzi ich zamestnancami a akýmikoľvek inými osobami, ktoré sa zaoberajú prevádzkou a používaním systémov umelej inteligencie s cieľom dodržiavať tieto zásady;
b)   posúdiť, do akej miery môžu systémy umelej inteligencie ovplyvniť zraniteľné osoby alebo skupiny osôb vrátane detí, starších ľudí, migrantov a osoby so zdravotným postihnutím, alebo či by sa mohli zaviesť nejaké opatrenia na zvýšenie prístupnosti pre tieto osoby alebo skupiny osôb a na ich podporu;
c)   venovať pozornosť spôsobu, akým môže mať používanie ich systémov umelej inteligencie vplyv na rodovú rovnováhu a rodovú rovnosť;
d)   venovať pozornosť tomu, či sa ich systémy umelej inteligencie môžu použiť spôsobom, ktorý priamo alebo nepriamo môže dodatočne alebo výrazne posilniť existujúce predsudky alebo nerovnosti;
e)   uvažovať o potrebe a relevantnosti vytvorenia rôznorodých vývojových tímov s cieľom zabezpečiť inkluzívny návrh ich systémov;
f)   dôkladne zvážiť, či ich systémy môžu mať negatívny spoločenský vplyv, najmä pokiaľ ide o politické inštitúcie a demokratické procesy;
g)   zhodnotiť, ako môžu systémy umelej inteligencie prispievať k environmentálnej udržateľnosti, a najmä k plneniu záväzkov Únie v rámci Európskej zelenej dohody a Európskeho vyhlásenia o digitálnych právach a zásadách.
Pozmeňujúci návrh 635
Návrh nariadenia
Článok 69 – odsek 3
3.  Kódexy správania môžu vypracovať jednotliví poskytovatelia systémov umelej inteligencie alebo organizácie, ktoré ich zastupujú, alebo obaja, a to aj v spolupráci s používateľmi a akýmikoľvek zainteresovanými stranami a organizáciami, ktoré ich zastupujú. Kódexy správania sa môžu vzťahovať na jeden alebo viacero systémov umelej inteligencie, pričom sa zohľadní podobnosť zamýšľaného účelu príslušných systémov.
 3.  Kódexy správania môžu vypracovať jednotliví poskytovatelia systémov umelej inteligencie alebo organizácie, ktoré ich zastupujú, alebo obaja, a to aj v spolupráci s používateľmi a akýmikoľvek zainteresovanými stranami vrátane vedeckých výskumníkov a organizáciami, ktoré ich zastupujú, najmä s odbormi a so spotrebiteľskými organizáciami. Kódexy správania sa môžu vzťahovať na jeden alebo viacero systémov umelej inteligencie, pričom sa zohľadní podobnosť zamýšľaného účelu príslušných systémov. Poskytovatelia, ktorí prijmú kódexy správania, určia aspoň jednu fyzickú osobu zodpovednú za interné monitorovanie.
Pozmeňujúci návrh 636
Návrh nariadenia
Článok 69 – odsek 4
4.  Komisia a rada pre umelú inteligenciu pri nabádaní k vypracovaniu kódexov správania a jeho podpore zohľadňujú osobitné záujmy a potreby malých poskytovateľov a startupov.
 4.  Komisia a úrad pre umelú inteligenciu pri nabádaní k vypracovaniu kódexov správania a jeho podpore zohľadňujú osobitné záujmy a potreby MSP a startupov.
Pozmeňujúci návrh 637
Návrh nariadenia
Článok 70 – odsek 1 – úvodná časť
1.  Príslušné vnútroštátne orgány a notifikované osoby, ktoré sa zúčastňujú na uplatňovaní tohto nariadenia, musia dodržiavať dôvernosť informácií a údajov získaných pri vykonávaní svojich úloh a činností takým spôsobom, aby chránili najmä:
 1.  Komisia, príslušné vnútroštátne orgány a notifikované osoby, úrad pre umelú inteligenciu a všetky fyzické alebo právnické osoby, ktoré sa zúčastňujú na uplatňovaní tohto nariadenia, musia dodržiavať dôvernosť informácií a údajov získaných pri vykonávaní svojich úloh a činností takým spôsobom, aby chránili najmä:
Pozmeňujúci návrh 638
Návrh nariadenia
Článok 70 – odsek 1 – písmeno a
a)  práva duševného vlastníctva a dôverné obchodné informácie alebo obchodné tajomstvo fyzickej alebo právnickej osoby vrátane zdrojového kódu, s výnimkou prípadov uvedených v článku 5 smernice 2016/943 o ochrane nesprístupneného know-how a obchodných informácií (obchodného tajomstva) pred ich neoprávneným získaním, využitím a sprístupnením;
 a)  práva duševného vlastníctva a dôverné obchodné informácie alebo obchodné tajomstvo fyzickej alebo právnickej osoby v súlade s ustanoveniami smerníc 2004/48/ES a 2016/943/ES vrátane zdrojového kódu, s výnimkou prípadov uvedených v článku 5 smernice 2016/943 o ochrane nesprístupneného know-how a obchodných informácií (obchodného tajomstva) pred ich neoprávneným získaním, využitím a sprístupnením;
Pozmeňujúci návrh 639
Návrh nariadenia
Článok 70 – odsek 1 – písmeno b a (nové)
ba)  verejné záujmy a záujmy národnej bezpečnosti;
Pozmeňujúci návrh 640
Návrh nariadenia
Článok 70 – odsek 1 a (nový)
1a.  Orgány zapojené do uplatňovania tohto nariadenia podľa odseku 1 minimalizujú množstvo údajov požadovaných na sprístupnenie na údaje, ktoré sú nevyhnutne potrebné pre vnímané riziko a posúdenie tohto rizika. Údaje vymažú hneď, ako prestanú byť potrebné na účel, na ktorý boli vyžiadané. Zavedú primerané a účinné opatrenia v oblasti kybernetickej bezpečnosti, ako aj technické a organizačné opatrenia na ochranu bezpečnosti a dôvernosti informácií a údajov získaných pri plnení svojich úloh a výkone svojich činností.
Pozmeňujúci návrh 641
Návrh nariadenia
Článok 70 – odsek 2 – úvodná časť
2.  Bez toho, aby bol dotknutý odsek 1, sa informácie, ktoré sa vymieňajú na dôvernom základe medzi príslušnými vnútroštátnymi orgánmi navzájom a medzi príslušnými vnútroštátnymi orgánmi a Komisiou, nezverejňujú bez predchádzajúcej konzultácie s príslušným vnútroštátnym orgánom, od ktorého pochádzajú, a používateľom, ak vysokorizikové systémy umelej inteligencie uvedené v bodoch 1, 6 a 7 prílohy III používajú orgány presadzovania práva, imigračné alebo azylové orgány a ak by takéto zverejnenie ohrozilo verejné záujmy a záujmy národnej bezpečnosti.
 2.  Bez toho, aby boli dotknuté odseky 1 a 1a, sa informácie, ktoré sa vymieňajú na dôvernom základe medzi príslušnými vnútroštátnymi orgánmi navzájom a medzi príslušnými vnútroštátnymi orgánmi a Komisiou, nezverejňujú bez predchádzajúcej konzultácie s príslušným vnútroštátnym orgánom, od ktorého pochádzajú, a nasadzujúcim subjektom, ak vysokorizikové systémy umelej inteligencie uvedené v bodoch 1, 6 a 7 prílohy III používajú orgány presadzovania práva, imigračné alebo azylové orgány a ak by takéto zverejnenie ohrozilo verejnú alebo národnú bezpečnosť.
Pozmeňujúci návrh 642
Návrh nariadenia
Článok 70 – odsek 3
3.  Odsekmi 1 a 2 nie sú dotknuté práva a povinnosti Komisie, členských štátov a notifikovaných osôb, pokiaľ ide o výmenu informácií a šírenie upozornení, ani povinnosti dotknutých strán poskytovať informácie podľa trestného práva členských štátov.
 3.  Odsekmi 1, 1a a 2 nie sú dotknuté práva a povinnosti Komisie, členských štátov a notifikovaných osôb, pokiaľ ide o výmenu informácií a šírenie upozornení, ani povinnosti dotknutých strán poskytovať informácie podľa trestného práva členských štátov;
Pozmeňujúci návrh 643
Návrh nariadenia
Článok 70 – odsek 4
4.  Komisia a členské štáty si v prípade potreby môžu vymieňať dôverné informácie s regulačnými orgánmi tretích krajín, s ktorými uzavreli bilaterálne alebo multilaterálne dohody o zachovaní dôvernosti zaručujúce primeranú úroveň dôvernosti.
 4.  Komisia a členské štáty si v prípade, že je to nevyhnutne potrebné, a v súlade s príslušnými ustanoveniami medzinárodných a obchodných dohôd, môžu vymieňať dôverné informácie s regulačnými orgánmi tretích krajín, s ktorými uzavreli bilaterálne alebo multilaterálne dohody o zachovaní dôvernosti zaručujúce primeranú úroveň dôvernosti.
Pozmeňujúci návrh 644
Návrh nariadenia
Článok 71 – nadpis
Sankcie a pokuty
 Sankcie
Pozmeňujúci návrh 645
Návrh nariadenia
Článok 71 – odsek 1
1.  Členské štáty v súlade s podmienkami stanovenými v tomto nariadení stanovia pravidlá týkajúce sa sankcií vrátane správnych pokút, ktoré sa uplatňujú pri porušeniach tohto nariadenia, a prijmú všetky opatrenia potrebné na zabezpečenie ich riadneho a účinného vykonávania. Stanovené sankcie musia byť účinné, primerané a odrádzajúce. Musia zohľadňovať najmä záujmy malých poskytovateľov a startupov a ich ekonomickú životaschopnosť.
 1.  Členské štáty v súlade s podmienkami stanovenými v tomto nariadení stanovia pravidlá týkajúce sa sankcií, ktoré sa uplatňujú pri porušeniach tohto nariadenia zo strany niektorého prevádzkovateľa, a prijmú všetky opatrenia potrebné na zabezpečenie ich riadneho a účinného vykonávania a súladu s usmerneniami vydanými Komisiou a úradom pre umelú inteligenciu podľa článku 82b. Stanovené sankcie musia byť účinné, primerané a odrádzajúce. Musia zohľadňovať záujmy MSP a startupov a ich ekonomickú životaschopnosť.
Pozmeňujúci návrh 646
Návrh nariadenia
Článok 71 – odsek 2
2.  Členské štáty o týchto pravidlách a opatreniach informujú Komisiu a bezodkladne jej oznámia každú následnú zmenu, ktorá ich ovplyvní.
 2.  Členské štáty o týchto pravidlách a opatreniach informujú Komisiu a úrad do [12 mesiacov odo dňa nadobudnutia účinnosti tohto nariadenia] a bezodkladne im oznámia každú následnú zmenu, ktorá ich ovplyvní.
Pozmeňujúci návrh 647
Návrh nariadenia
Článok 71 – odsek 3 – úvodná časť
3.  Správne pokuty až do výšky 30 000 000 EUR, alebo ak je porušiteľom spoločnosť, až do výšky 6 % jej celkového svetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia, sa ukladajú za tieto porušenia:
 3.  Za nedodržiavanie zákazu praktík v oblasti umelej inteligencie uvedených v článku 5 sa ukladajú správne pokuty až do výšky 40 000 000 EUR, alebo ak je porušiteľom spoločnosť, až do výšky 7 % jej celkového svetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia;
Pozmeňujúci návrh 648
Návrh nariadenia
Článok 71 – odsek 3 – písmeno a
a)  nedodržiavanie zákazu praktík v oblasti umelej inteligencie uvedených v článku 5;
 vypúšťa sa
Pozmeňujúci návrh 649
Návrh nariadenia
Článok 71 – odsek 3 – písmeno b
b)  nesúlad systému umelej inteligencie s požiadavkami stanovenými v článku 10.
 vypúšťa sa
Pozmeňujúci návrh 650
Návrh nariadenia
Článok 71 – odsek 3 a (nový)
3a  . Za nesúlad systému umelej inteligencie s požiadavkami stanovenými v článkoch 10 a 13 sa ukladajú správne pokuty až do výšky 20 000 000 EUR, alebo ak je porušiteľom spoločnosť, až do výšky 4 % jej celkového svetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia.
Pozmeňujúci návrh 651
Návrh nariadenia
Článok 71 – odsek 4
4.  Za nesúlad systému umelej inteligencie s požiadavkami alebo povinnosťami podľa tohto nariadenia, ktoré nie sú stanovené v článkoch 5 a 10, sa ukladajú správne pokuty až do výšky 20 000 000 EUR, alebo ak je porušiteľom spoločnosť, až do výšky 4 % jej celkového svetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia.
 4.  Za nesúlad systému umelej inteligencie alebo základného modelu s požiadavkami alebo povinnosťami podľa tohto nariadenia, ktoré nie sú stanovené v článkoch 5, 10 a 13, sa ukladajú správne pokuty až do výšky 10 000 000 EUR, alebo ak je porušiteľom spoločnosť, až do výšky 2 % jej celkového svetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia.
Pozmeňujúci návrh 652
Návrh nariadenia
Článok 71 – odsek 5
5.  Za poskytnutie nesprávnych, neúplných alebo zavádzajúcich informácií v odpovedi na žiadosť notifikovaných osôb a príslušných vnútroštátnych orgánov sa ukladajú správne pokuty až do výšky 10 000 000 EUR, alebo ak je porušiteľom spoločnosť, až do výšky 2 % jej celkového svetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia.
 5.  Za poskytnutie nesprávnych, neúplných alebo zavádzajúcich informácií v odpovedi na žiadosť notifikovaných osôb a príslušných vnútroštátnych orgánov sa ukladajú správne pokuty až do výšky 5 000 000 EUR, alebo ak je porušiteľom spoločnosť, až do výšky 1 % jej celkového svetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia.
Pozmeňujúci návrh 653
Návrh nariadenia
Článok 71 – odsek 6 – úvodná časť
6.  Pri rozhodovaní o výške správnej pokuty sa v každom jednotlivom prípade zohľadnia všetky relevantné okolnosti konkrétnej situácie a náležite sa vezme do úvahy:
 6.  Pokuty sa môžu ukladať spolu s nepeňažnými opatreniami, ako sú príkazy alebo varovania, alebo namiesto nich. Pri rozhodovaní o výške správnej pokuty sa v každom jednotlivom prípade zohľadnia všetky relevantné okolnosti konkrétnej situácie a náležite sa vezme do úvahy:
Pozmeňujúci návrh 654
Návrh nariadenia
Článok 71 – odsek 6 – písmeno a
a)  povaha, závažnosť a trvanie porušenia a jeho dôsledkov;
 a)  povaha, závažnosť a trvanie porušenia a jeho dôsledkov s prihliadnutím na účel systému umelej inteligencie a v náležitých prípadoch aj na počet dotknutých jednotlivcov a rozsah škody, ktorú utrpeli;
Pozmeňujúci návrh 655
Návrh nariadenia
Článok 71 – odsek 6 – písmeno b
b)  či už tomu istému prevádzkovateľovi uložili za to isté porušenie správne pokuty iné orgány dohľadu nad trhom;
 b)  či už tomu istému prevádzkovateľovi uložili za to isté porušenie správne pokuty iné vnútroštátne dozorné orgány jedného alebo viacerých členských štátov;
Pozmeňujúci návrh 656
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c
c)  veľkosť a trhový podiel prevádzkovateľa, ktorý sa dopustil porušenia.
 c)  veľkosť a ročný obrat prevádzkovateľa, ktorý sa dopustil porušenia.
Pozmeňujúci návrh 657
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c a (nové)
ca)  všetky opatrenia prijaté prevádzkovateľom na zmiernenie ujmy alebo škody, ktorú utrpeli dotknuté osoby;
Pozmeňujúci návrh 658
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c b (nové)
cb)  úmyselný alebo nedbanlivostný charakter porušenia;
Pozmeňujúci návrh 659
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c c (nové)
cc)  miera spolupráce s príslušnými vnútroštátnymi orgánmi pri náprave porušenia a zmiernení možných nepriaznivých dôsledkov porušenia;
Pozmeňujúci návrh 660
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c d (nové)
cd)  mieru zodpovednosti prevádzkovateľa s prihliadnutím na technické a organizačné opatrenia, ktoré vykonal;
Pozmeňujúci návrh 661
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c e (nové)
ce)  spôsob, akým sa príslušné vnútroštátne orgány o porušení dozvedeli, a najmä to, či poskytovateľ porušenie oznámil, a ak áno, v akom rozsahu;
Pozmeňujúci návrh 662
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c f (nové)
cf)  dodržiavanie schválených kódexov správania alebo schválených mechanizmov certifikácie;
Pozmeňujúci návrh 663
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c g (nové)
cg)  akékoľvek relevantné predchádzajúce porušenia zo strany prevádzkovateľa;
Pozmeňujúci návrh 664
Návrh nariadenia
Článok 71 – odsek 6 – písmeno c h (nové)
ch)  všetky ostatné priťažujúce alebo poľahčujúce činitele vzťahujúce sa na okolnosti prípadu.
Pozmeňujúci návrh 665
Návrh nariadenia
Článok 71 – odsek 7
7.  Každý členský štát stanoví pravidlá, či a v akom rozsahu sa môžu správne pokuty uložiť orgánom verejnej moci a subjektom zriadeným v danom členskom štáte.
 7.  Každý členský štát stanoví pravidlá pre správne pokuty ukladané orgánom verejnej moci a subjektom zriadeným v danom členskom štáte.
Pozmeňujúci návrh 666
Návrh nariadenia
Článok 71 – odsek 8 a (nový)
8a.  Sankcie uvedené v tomto článku, ako aj súvisiace trovy konania a nároky na náhradu škody nesmú byť predmetom zmluvných doložiek alebo inej formy dohôd o rozdelení bremena medzi poskytovateľmi a distribútormi, dovozcami, nasadzujúcimi subjektmi alebo inými tretími stranami.
Pozmeňujúci návrh 667
Návrh nariadenia
Článok 71 – odsek 8 b (nový)
8b.  Vnútroštátne dozorné orgány každoročne podávajú úradu pre umelú inteligenciu správu o pokutách, ktoré uložili počas daného roka v súlade s týmto článkom.
Pozmeňujúci návrh 668
Návrh nariadenia
Článok 71 – odsek 8 c (nový)
8c.  Výkon právomocí príslušných orgánov podľa tohto článku by mal podliehať primeraným procesným zárukám v súlade s právom Únie a vnútroštátnym právom vrátane súdneho prostriedku nápravy a riadneho procesu.
Pozmeňujúci návrh 669
Návrh nariadenia
Článok 72 – odsek 1 – písmeno a
a)  povaha, závažnosť a trvanie porušenia a jeho dôsledkov;
 a)  povaha, závažnosť a trvanie porušenia a jeho dôsledkov, s prihliadnutím na účel daného systému umelej inteligencie, počet dotknutých osôb a rozsah škody, ktorá im vznikla, akékoľvek relevantné predchádzajúce porušenie;
Pozmeňujúci návrh 670
Návrh nariadenia
Článok 72 – odsek 1 – písmeno a a (nové)
aa)  akékoľvek opatrenie prijaté inštitúciou, agentúrou alebo orgánom Únie na zmiernenie škody, ktorá dotknutým osobám vznikla;
Pozmeňujúci návrh 671
Návrh nariadenia
Článok 72 – odsek 1 – písmeno a b (nové)
ab)  mieru zodpovednosti inštitúcie, agentúry alebo orgánu Únie s prihliadnutím na technické a organizačné opatrenia, ktoré vykonali;
Pozmeňujúci návrh 672
Návrh nariadenia
Článok 72 – odsek 1 – písmeno b
b)  spolupráca s európskym dozorným úradníkom pre ochranu údajov s cieľom napraviť porušenie a zmierniť možné nepriaznivé účinky porušenia vrátane dodržiavania všetkých opatrení, ktoré predtým nariadil európsky dozorný úradník pre ochranu údajov dotknutej inštitúcii, agentúre alebo dotknutému orgánu Únie v rovnakej veci;
 b)  úroveň spolupráce s európskym dozorným úradníkom pre ochranu údajov s cieľom napraviť porušenie a zmierniť možné nepriaznivé účinky porušenia vrátane dodržiavania všetkých opatrení, ktoré predtým nariadil európsky dozorný úradník pre ochranu údajov dotknutej inštitúcii, agentúre alebo dotknutému orgánu Únie v rovnakej veci;
Pozmeňujúci návrh 673
Návrh nariadenia
Článok 72 – odsek 1 – písmeno c a (nové)
ca)  spôsob, akým sa Európsky dozorný úradník pre ochranu údajov o porušení dozvedel, najmä to, či inštitúcia alebo orgán Únie porušenie oznámili, a ak áno, v akom rozsahu;
Pozmeňujúci návrh 674
Návrh nariadenia
Článok 72 – odsek 1 – písmeno c b (nové)
cb)  ročný rozpočet orgánu;
Pozmeňujúci návrh 675
Návrh nariadenia
Článok 72 – odsek 2 – úvodná časť
2.  Správne pokuty až do výšky 500 000 EUR sa ukladajú za tieto porušenia:
 2.  Za nedodržanie zákazu praktík umelej inteligencie podľa článku 5 sa ukladajú správne pokuty až do výšky 1 500 000 EUR.
Pozmeňujúci návrh 676
Návrh nariadenia
Článok 72 – odsek 2 – písmeno a
a)  nedodržiavanie zákazu praktík v oblasti umelej inteligencie uvedených v článku 5;
 vypúšťa sa
Pozmeňujúci návrh 677
Návrh nariadenia
Článok 72 – odsek 2 a (nový)
2a.  Za nesúlad systému umelej inteligencie s požiadavkami stanovenými v článku 10 sa ukladajú správne pokuty až do výšky 1 000 000 EUR.
Pozmeňujúci návrh 678
Návrh nariadenia
Článok 72 – odsek 3
3.  Za nesúlad systému umelej inteligencie s požiadavkami alebo povinnosťami podľa tohto nariadenia, ktoré nie sú stanovené v článkoch 5 a 10, sa ukladajú správne pokuty až do výšky 250 000 EUR.
 3.  Za nesúlad systému umelej inteligencie s požiadavkami alebo povinnosťami podľa tohto nariadenia, ktoré nie sú stanovené v článkoch 5 a 10, sa ukladajú správne pokuty až do výšky 750 000 EUR.
Pozmeňujúci návrh 679
Návrh nariadenia
Článok 72 – odsek 6
6.  Prostriedky získané z pokút uložených podľa tohto článku sú príjmom všeobecného rozpočtu Únie.
 6.  Prostriedky získané z pokút uložených podľa tohto článku sú príspevkom do všeobecného rozpočtu Únie. Pokuty nemajú vplyv na účinné fungovanie inštitúcie, orgánu alebo agentúry Únie, ktorej boli uložené.
Pozmeňujúci návrh 680
Návrh nariadenia
Článok 72 – odsek 6 a (nový)
6a.  Európsky dozorný úradník pre ochranu údajov každoročne informuje úrad pre umelú inteligenciu o pokutách, ktoré uložil podľa tohto článku.
Pozmeňujúci návrh 681
Návrh nariadenia
Článok 73 – odsek 2
2.  Delegovanie právomoci uvedené v článku 4, článku 7 ods. 1, článku 11 ods. 3, článku 43 ods. 5 a 6 a článku 48 ods. 5 sa Komisii udeľuje na neurčitý čas odo dňa [nadobudnutia účinnosti nariadenia].
 2.  Právomoc prijímať delegované akty uvedené v článku 4, článku 7 ods. 1, článku 11 ods. 3, článku 43 ods. 5 a 6 a článku 48 ods. 5 sa Komisii udeľuje na obdobie piatich rokov odo dňa [dátum nadobudnutia účinnosti nariadenia]. Komisia vypracuje správu týkajúcu sa delegovania právomoci najneskôr deväť mesiacov pred uplynutím tohto päťročného obdobia. Delegovanie právomoci sa automaticky predlžuje o rovnako dlhé obdobia, pokiaľ Európsky parlament alebo Rada nevznesú voči takémuto predĺženiu námietku najneskôr tri mesiace pred koncom každého obdobia.
Pozmeňujúci návrh 682
Návrh nariadenia
Článok 73 – odsek 3 a (nový)
3a  . Komisia pred prijatím delegovaného aktu konzultuje s príslušnými inštitúciami, úradom, poradným fórom a inými zainteresovanými stranami v súlade so zásadami stanovenými v Medziinštitucionálnej dohode z 13. apríla 2016 o lepšej tvorbe práva.
Keď sa Komisia rozhodne vypracovať delegovaný akt, oznámi túto skutočnosť Európskemu parlamentu. Toto oznámenie neukladá Komisii povinnosť uvedený akt prijať.
Pozmeňujúci návrh 683
Návrh nariadenia
Článok 81 a (nový)
Článok 81a
Zmena nariadenia (EÚ) 2019/1020
Nariadenie (EÚ) 2019/1020 sa mení takto:
Do článku 14 ods. 4 sa dopĺňa tento odsek:
„l) právomoc vykonávať právomoci stanovené v tomto článku na diaľku, ak je to relevantné.“
Pozmeňujúci návrh 684
Návrh nariadenia
Článok 82 a (nový)
Článok 82a
Lepšia právna regulácia
Pri zohľadnení požiadaviek tohto nariadenia podľa zmien v článkoch 75, 76, 77, 78, 79, 80, 81 a 82 Komisia vykoná analýzu a konzultuje s príslušnými zainteresovanými stranami s cieľom určiť potenciálne medzery, ako aj prekrývanie medzi existujúcimi odvetvovými právnymi predpismi a ustanoveniami tohto nariadenia.
Pozmeňujúci návrh 685
Návrh nariadenia
Článok 82 b (nový)
Článok 82b
Usmernenia Komisie k vykonávaniu tohto nariadenia
1.  Komisia po konzultácii s