Amandmani koje je donio Europski parlament 14. lipnja 2023. o Prijedlogu uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))(1)
(Redovni zakonodavni postupak: prvo čitanje)
Tekst koji je predložila Komisija
Izmjena
Amandman 1 Prijedlog uredbe Pozivanje 4.a (novo)
uzimajući u obzir mišljenje Europske središnje banke,
Amandman 2 Prijedlog uredbe Pozivanje 4.b (novo)
uzimajući u obzir zajedničko mišljenje Europskog odbora za zaštitu podataka i Europskog nadzornika za zaštitu podataka,
Amandman 3 Prijedlog uredbe Uvodna izjava 1.
(1) Svrha je ove Uredbe poboljšati funkcioniranje unutarnjeg tržišta utvrđivanjem ujednačenog pravnog okvira, posebno za razvoj, stavljanje na tržište i uporabu umjetne inteligencije u skladu s vrijednostima Unije. Uredbom je obuhvaćeno nekoliko prevladavajućih razloga od općeg interesa, kao što je visoka razina zaštite zdravlja, sigurnosti i temeljnih prava, te se njome osigurava slobodno prekogranično kretanje robe i usluga koje se temelje na UI-ju, čime se sprečava da države članice nameću ograničenja na razvoj, stavljanje na tržište i uporabu UI sustava osim ako je to izričito odobreno ovom Uredbom.
(1) Svrha je ove Uredbe promicati prihvaćanje pouzdane antropocentrične umjetne inteligencije i osigurati visoku razinu zaštite zdravlja, sigurnosti, temeljnih prava, demokracije i vladavine prava te okoliša od štetnih učinaka sustava umjetne inteligencije u Uniji, uz istodobno podupiranje inovacija i poboljšanje funkcioniranja unutarnjeg tržišta. Ovom se Uredbom utvrđuje ujednačen pravni okvir, posebno za razvoj, stavljanje na tržište, stavljanje u uporabu i uporabu umjetne inteligencije u skladu s vrijednostima Unije te se njome osigurava slobodno prekogranično kretanje robe i usluga koje se temelje na UI-ju, čime se sprečava da države članice nameću ograničenja na razvoj, stavljanje na tržište i uporabu sustava umjetne inteligencije (UI sustava) osim ako je to izričito odobreno ovom Uredbom. Određeni UI sustavi mogu utjecati i na demokraciju i vladavinu prava te okoliš. Te su zabrinutosti posebno uzete u obzir u ključnim sektorima i slučajevima primjene navedenima u prilozima ovoj Uredbi.
(1 a) Ovom Uredbom trebale bi se čuvati vrijednosti Unije, olakšati raspodjela koristi od umjetne inteligencije u cijelom društvu i zaštititi pojedinci, poduzeća, demokracija i vladavina prava te okoliš od rizika, uz istovremeno poticanje inovacija i zapošljavanja te pretvaranje Europe u predvodnicu u tom području.
Amandman 5 Prijedlog uredbe Uvodna izjava 2.
(2) Sustavi umjetne inteligencije (UI sustavi) mogu se lako upotrebljavati u različitim sektorima gospodarstva i društva, među ostalim preko granica, te se kretati unutar Unije. Neke su države članice već razmotrile donošenje nacionalnih pravila kojima bi zajamčile sigurnost umjetne inteligencije te njezin razvoj i uporabu u skladu s obvezama u području temeljnih prava. Različita nacionalna pravila mogu uzrokovati fragmentaciju unutarnjeg tržišta i smanjiti pravnu sigurnost za operatere koji razvijaju ili upotrebljavaju UI sustave. Stoga bi u cijeloj Uniji trebalo osigurati dosljednu i visoku razinu zaštite, dok bi razlike koje otežavaju slobodno kretanje UI sustava te povezanih proizvoda i usluga unutar unutarnjeg tržišta trebalo spriječiti utvrđivanjem jedinstvenih obveza za operatere i jamčenjem ujednačene zaštite prevladavajućih razloga od javnog interesa i prava osoba na cijelom unutarnjem tržištu na temelju članka 114. Ugovora o funkcioniranju Europske unije (UFEU). U mjeri u kojoj ova Uredba sadržava posebna pravila o zaštiti pojedinaca pri obradi osobnih podataka u vezi s ograničenjima uporabe UI sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona dio ove Uredbe koji se odnosi na ta posebna pravila primjereno je temeljiti na članku 16. UFEU-a. S obzirom na ta posebna pravila i pozivanje na članak 16. UFEU-a, primjereno je zatražiti mišljenje Europskog odbora za zaštitu podataka.
(2) UI sustavi mogu se lako upotrebljavati u različitim sektorima gospodarstva i društva, među ostalim preko granica, te se kretati unutar Unije. Neke su države članice već razmotrile donošenje nacionalnih pravila kojima bi zajamčile pouzdanost i sigurnost umjetne inteligencije te njezin razvoj i uporabu u skladu s obvezama u području temeljnih prava. Različita nacionalna pravila mogu uzrokovati fragmentaciju unutarnjeg tržišta i smanjiti pravnu sigurnost za operatere koji razvijaju ili upotrebljavaju UI sustave. Stoga bi za postizanje pouzdane umjetne inteligencije u cijeloj Uniji trebalo osigurati dosljednu i visoku razinu zaštite, dok bi razlike koje otežavaju slobodno kretanje, inovacije, primjenu i prihvaćanje UI sustava te povezanih proizvoda i usluga unutar unutarnjeg tržišta trebalo spriječiti utvrđivanjem jedinstvenih obveza za operatere i jamčenjem ujednačene zaštite prevladavajućih razloga od javnog interesa i prava osoba na cijelom unutarnjem tržištu na temelju članka 114. Ugovora o funkcioniranju Europske unije (UFEU).
(2 a) Budući da se umjetna inteligencija često oslanja na obradu velikih količina podataka, a mnogi UI sustavi i aplikacije na obradu osobnih podataka, primjereno je temeljiti ovu Uredbu na članku 16. UFEU-a, kojim se utvrđuje pravo pojedinaca na zaštitu u pogledu obrade osobnih podataka i predviđa donošenje pravila o zaštiti pojedinaca s obzirom na obradu osobnih podataka.
(2 b) Temeljno pravo na zaštitu osobnih podataka posebno je zaštićeno uredbama (EU) 2016/679 i (EU) 2018/1725 te Direktivom 2016/680. Direktivom 2002/58/EZ dodatno se štiti privatni život i povjerljivost komunikacija te utvrđuju uvjeti za svaku pohranu osobnih i neosobnih podataka na terminalnim uređajima i pristup tim podacima s njih. Ti pravni akti temelj su za održivu i odgovornu obradu podataka, među ostalim ako skupovi podataka obuhvaćaju kombinaciju osobnih i neosobnih podataka. Ovom se Uredbom ne nastoji utjecati na primjenu postojećeg prava Unije kojim se uređuje obrada osobnih podataka, uključujući zadaće i ovlasti neovisnih nadzornih tijela nadležnih za praćenje usklađenosti s tim instrumentima. Ova Uredba ne utječe na temeljna prava na privatni život i zaštitu osobnih podataka kako su predviđena pravom Unije o zaštiti podataka i privatnosti i sadržana u Povelji Europske unije o temeljnim pravima („Povelja”).
(2 c) Sustavi umjetne inteligencije u Uniji podliježu relevantnom zakonodavstvu o sigurnosti proizvoda kojim se osigurava okvir za zaštitu potrošača od opasnih proizvoda općenito te bi se takvo zakonodavstvo trebalo nastaviti primjenjivati. Ovom Uredbom ne dovode se u pitanje ni pravila utvrđena drugim pravnim aktima Unije koji se odnose na zaštitu potrošača i sigurnost proizvoda, uključujući Uredbu (EU) 2017/2394, Uredbu (EU) 2019/1020 i Direktivu 2001/95/EZ o općoj sigurnosti proizvoda te Direktivu 2013/11/EU.
(2 d) U skladu s člankom 114. stavkom 2. UFEU-a ova Uredba dopunjuje te ne bi smjela narušavati prava i interese zaposlenih osoba. Ova Uredba stoga ne bi trebala utjecati na pravo Unije o socijalnoj politici, nacionalno radno pravo i prakse, odnosno bilo koju zakonsku i ugovornu odredbu koja se odnosi na uvjete zapošljavanja, radne uvjete, uključujući zdravlje i sigurnost na radnome mjestu, te odnos između poslodavaca i zaposlenika, uključujući informiranje, savjetovanje i sudjelovanje. Ova Uredba ne bi trebala utjecati na ostvarivanje temeljnih prava priznatih u državama članicama i na razini Unije, uključujući pravo ili slobodu štrajka ili poduzimanja drugih mjera obuhvaćenih posebnim sustavima radnih odnosa u državama članicama, u skladu s nacionalnim pravom i/ili praksom. Ne bi trebala utjecati ni na prakse usuglašavanja ili pravo na pregovaranje, sklapanje i provedbu kolektivnog ugovora ili na poduzimanje kolektivnih mjera u skladu s nacionalnim pravom i/ili praksom. Ni u kojem slučaju ne bi trebala spriječiti Komisiju da predloži posebno zakonodavstvo o pravima i slobodama radnika na koje utječu UI sustavi.
(2 f) Ova bi Uredba trebala pomoći u podupiranju istraživanja i inovacija, njome se ne bi smjele ugroziti aktivnosti istraživanja i razvoja te bi se njome trebala poštovati sloboda znanstvenog istraživanja. Stoga je potrebno iz njezina područja primjene isključiti UI sustave koji su posebno razvijeni isključivo u svrhu znanstvenog istraživanja i razvoja te osigurati da Uredba na drugi način ne utječe na aktivnosti znanstvenog istraživanja i razvoja UI sustava. Sve aktivnosti istraživanja i razvoja u svim bi se okolnostima trebale provoditi u skladu s Poveljom, pravom Unije te nacionalnim pravom.
Amandman 12 Prijedlog uredbe Uvodna izjava 3.
(3) Umjetna inteligencija skupina je tehnologija koja se brzo razvija i može pridonijeti nizu gospodarskih i društvenih koristi u cijelom spektru sektora i društvenih aktivnosti. Zahvaljujući boljem predviđanju, optimizaciji operacija i dodjele resursa te personalizaciji digitalnih rješenja koja su dostupna pojedincima i organizacijama, uporaba umjetne inteligencije može poduzećima omogućiti ključne konkurentske prednosti i pridonijeti društveno i ekološki korisnim rezultatima, na primjer u zdravstvenoj zaštiti, poljoprivredi, obrazovanju i osposobljavanju, upravljanju infrastrukturom, energetici, prometu i logistici, javnim uslugama, sigurnosti, pravosuđu, učinkovitom korištenju resursa i energije te ublažavanju klimatskih promjena i prilagodbi tim promjenama.
(3) Umjetna inteligencija skupina je tehnologija koja se brzo razvija i već pridonosi nizu gospodarskih, okolišnih i društvenih koristi u cijelom spektru sektora i društvenih aktivnosti ako se razvija u skladu s relevantnim općim načelima Povelje i vrijednostima na kojima se Unija temelji. Zahvaljujući boljem predviđanju, optimizaciji operacija i dodjele resursa te personalizaciji digitalnih rješenja koja su dostupna pojedincima i organizacijama, uporaba umjetne inteligencije može poduzećima omogućiti ključne konkurentske prednosti i pridonijeti društveno i ekološki korisnim rezultatima, na primjer u zdravstvenoj zaštiti, poljoprivredi, sigurnosti hrane, obrazovanju i osposobljavanju, medijima, sportu, kulturi, upravljanju infrastrukturom, energetici, prometu i logistici, upravljanju krizama, javnim uslugama, sigurnosti, pravosuđu, učinkovitom korištenju resursa i energije, praćenju stanja okoliša, očuvanju i obnovi bioraznolikosti i ekosustava te ublažavanju klimatskih promjena i prilagodbi tim promjenama.
(3 a) Kako bi doprinijela postizanju ciljnih vrijednosti u pogledu ugljične neutralnosti, europska poduzeća trebala bi nastojati iskoristiti sva dostupna tehnološka dostignuća koja mogu pomoći pri postizanju tog cilja. Umjetna inteligencija tehnologija je koja se potencijalno može koristiti za obradu sve veće količine podataka koji se stvaraju u industrijskim, okolišnim, zdravstvenim i drugim procesima. Kako bi se olakšala ulaganja u alate za analizu i optimizaciju koji se temelje na umjetnoj inteligenciji, ovom bi se Uredbom trebalo osigurati predvidljivo i proporcionalno okruženje za niskorizična industrijska rješenja.
Amandman 14 Prijedlog uredbe Uvodna izjava 4.
(4) Međutim, ovisno o okolnostima njezine specifične primjene i uporabe, umjetna inteligencija može stvoriti rizike i uzrokovati štetu javnim interesima i pravima koja su zaštićena pravom Unije. Takva šteta može biti materijalna i nematerijalna.
(4) Međutim, ovisno o okolnostima njezine specifične primjene i uporabe te razini tehnološkog razvoja, umjetna inteligencija može stvoriti rizike i uzrokovati štetu javnim ili privatnim interesima i temeljnim pravima pojedinaca koja su zaštićena pravom Unije. Takva šteta može biti materijalna i nematerijalna, uključujući tjelesnu, psihološku, društvenu ili ekonomsku štetu.
(4 a) S obzirom na velik utjecaj koji umjetna inteligencija može imati na društvo i potrebu za izgradnjom povjerenja, ključno je da se umjetna inteligencija i njezin regulatorni okvir razvijaju u skladu s vrijednostima Unije sadržanima u članku 2. UEU-a, temeljnim pravima i slobodama sadržanima u Ugovorima, Povelji i međunarodnom pravu o ljudskim pravima. Kao preduvjet, umjetna inteligencija trebala bi biti antropocentrična tehnologija. Ona ne bi smjela zamijeniti ljudsku autonomiju niti podrazumijevati gubitak osobne slobode te bi prvenstveno trebala služiti potrebama društva i općem dobru. Trebalo bi osigurati zaštitne mjere kako bi se osigurali razvoj i upotreba umjetne inteligencije koja se temelji na etičkim načelima i kojom se poštuju vrijednosti Unije i Povelja.
Amandman 16 Prijedlog uredbe Uvodna izjava 5.
(5) Stoga je potreban pravni okvir kojim se utvrđuju usklađena pravila o umjetnoj inteligenciji kako bi se poticali razvoj, uporaba i prihvaćanje umjetne inteligencije na unutarnjem tržištu kojima se istodobno ostvaruje visoka razina zaštite javnih interesa, kao što su zdravlje i sigurnost te zaštita temeljnih prava koja su priznata i zaštićena pravom Unije. Kako bi se postigao taj cilj, trebalo bi utvrditi pravila kojima se uređuje stavljanje na tržište i stavljanje u uporabu određenih UI sustava, te tako osigurati neometano funkcioniranje unutarnjeg tržišta i omogućiti da načela slobodnog kretanja robe i usluga pogoduju tim sustavima. Ovom se Uredbom, zahvaljujući tim pravilima, pridonosi Unijinu cilju globalnog vodstva u razvoju sigurne, pouzdane i etične umjetne inteligencije koji je odredilo Europsko vijeće33 i osigurava se zaštita etičkih načela u skladu s izričitim zahtjevom Europskog parlamenta34.
(5) Stoga je potreban pravni okvir kojim se utvrđuju usklađena pravila o umjetnoj inteligenciji kako bi se poticali razvoj, uporaba i prihvaćanje umjetne inteligencije na unutarnjem tržištu kojima se istodobno ostvaruje visoka razina zaštite javnih interesa, kao što su zdravlje i sigurnost, zaštita temeljnih prava, demokracija i vladavina prava te okoliš, koja su priznata i zaštićena pravom Unije. Kako bi se postigao taj cilj, trebalo bi utvrditi pravila kojima se uređuju stavljanje na tržište, stavljanje u uporabu i uporaba određenih UI sustava, te tako osigurati neometano funkcioniranje unutarnjeg tržišta i omogućiti da načela slobodnog kretanja robe i usluga pogoduju tim sustavima. Ta bi pravila trebala biti jasna i pouzdana u zaštiti temeljnih prava, njima bi se trebala podupirati nova inovativna rješenja te bi ona trebala pogodovati europskom ekosustavu javnih i privatnih aktera koji stvaraju UI sustave u skladu s vrijednostima Unije. Ovom se Uredbom, zahvaljujući tim pravilima i mjerama za potporu inovacijama, s posebnim naglaskom na MSP-ovima i start-up poduzećima, pridonosi cilju promicanja umjetne inteligencije proizvedene u Europi i Unijinu cilju globalnog vodstva u razvoju sigurne, pouzdane i etične umjetne inteligencije koji je odredilo Europsko vijeće33 i osigurava se zaštita etičkih načela u skladu s izričitim zahtjevom Europskog parlamenta34.
__________________
__________________
33 Europsko vijeće, Izvanredni sastanak Europskog vijeća (1. i 2. listopada 2020.) – zaključci, EUCO 13/20, 2020., str. 6.
33 Europsko vijeće, Izvanredni sastanak Europskog vijeća (1. i 2. listopada 2020.) – zaključci, EUCO 13/20, 2020., str. 6.
34 Rezolucija Europskog parlamenta od 20. listopada 2020. s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija, 2020/2012(INL).
34 Rezolucija Europskog parlamenta od 20. listopada 2020. s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija, 2020/2012(INL).
(5 a) Nadalje, kako bi se potaknuo razvoj UI sustava u skladu s vrijednostima Unije, Unija treba ukloniti glavne razlike i prepreke koje blokiraju potencijal digitalne transformacije, uključujući nedostatak radnika s digitalnim vještinama, zabrinutost u pogledu kibersigurnosti, manjak ulaganja i nemogućnost pristupa ulaganjima te postojeće i moguće razlike među velikim poduzećima, MSP-ovima i start-up poduzećima. Posebnu pozornost trebalo bi posvetiti osiguravanju da su koristi umjetne inteligencije i inovacija u području novih tehnologija vidljive u svim regijama Unije te da su pružena dostatna ulaganja i resursi, osobito u regijama koje možda zaostaju u određenim digitalnim pokazateljima.
Amandman 18 Prijedlog uredbe Uvodna izjava 6.
(6) Trebalo bi jasno definirati pojam UI sustava kako bi se osigurala pravna sigurnost i pritom omogućila fleksibilnost za prilagođavanje budućem tehnološkom napretku. Ta bi se definicija trebala temeljiti na ključnim funkcionalnim karakteristikama softvera, a posebno na sposobnosti da za zadani skup ciljeva koje odredi čovjek generira izlazne rezultate kao što su sadržaj, predviđanja, preporuke ili odluke koji utječu na okolinu s kojom je sustav u interakciji, bilo u fizičkoj ili digitalnoj dimenziji. UI sustavi mogu se projektirati tako da rade s različitom razinom autonomije i da se upotrebljavaju samostalno ili kao sastavni dio nekog proizvoda, bez obzira na to je li sustav fizički integriran u proizvod (ugrađen) ili izvršava funkciju proizvoda bez integriranja u njega (neugrađen). Definiciju UI sustava trebalo bi dopuniti popisom posebnih tehnika i pristupa primijenjenih u njegovu razvoju, koji bi trebalo ažurirati s obzirom na tržišne i tehnološke promjene, i to delegiranim aktima Komisije za izmjenu tog popisa.
(6) Trebalo bi jasno definirati pojam UI sustava u ovoj Uredbi i usko ga uskladiti s radom međunarodnih organizacija koje rade na umjetnoj inteligenciji kako bi se osigurala pravna sigurnost, usklađenost i široka prihvaćenost i pritom omogućila fleksibilnost za prilagođavanje brzom tehnološkom napretku u tom području. Osim toga, ta bi se definicija trebala temeljiti na ključnim karakteristikama umjetne inteligencije, kao što su njezine sposobnosti učenja, zaključivanja ili modeliranja, kako bi je se razlikovalo od jednostavnijih softverskih sustava i programskih pristupa.UI sustavi projektirani su tako da rade s različitom razinom autonomije, što znači da imaju barem određeni stupanj neovisnosti o ljudskoj kontroli u svojem djelovanju i sposobnosti rada bez ljudske intervencije. Pojam „strojni” odnosi se na činjenicu da je rad UI sustava pogonjen strojevima. Upućivanjem na eksplicitne ili implicitne ciljeve naglašava se da UI sustavi mogu raditi u skladu s izričitim ciljevima koje definira čovjek ili implicitnim ciljevima. Ciljevi UI sustava mogu se u određenom kontekstu razlikovati od namjene UI sustava. Upućivanje na predviđanja uključuje sadržaj, koji se u ovoj Uredbi smatra oblikom predviđanja kao jednog od mogućih izlaznih rezultata UI sustava. Za potrebe ove Uredbe okruženja bi trebalo tumačiti kao kontekste u kojima UI sustavi rade, dok izlazni rezultati koje generira UI sustav, odnosno predviđanja, preporuke ili odluke, odgovaraju ciljevima sustava na temelju ulaznih podataka iz dotičnog okruženja.Takvi izlazni rezultati dodatno utječu na dotično okruženje, čak i pukim uvođenjem novih informacija u njega.
(6 a) UI sustavi često imaju sposobnost strojnog učenja koja im omogućuje da se prilagode i samostalno izvršavaju nove zadaće. Strojno učenje odnosi se na računalni proces optimizacije parametara modela iz podataka, što je matematička konstrukcija koja proizvodi izlazni rezultat na temelju ulaznih podataka. Pristupi strojnog učenja obuhvaćaju, na primjer, nadzirano, nenadzirano i podržano učenje, s pomoću raznih metoda, uključujući duboko učenje s neuronskim mrežama. Ovom se Uredbom nastoje ukloniti novi potencijalni rizici koji mogu nastati zbog delegiranja kontrole UI sustavima, posebno onim UI sustavima koji se mogu razvijati nakon uvođenja u uporabu. Funkcija i izlazni rezultati mnogih od tih UI sustava temelje se na apstraktnim matematičkim odnosima koje je ljudima teško razumjeti, pratiti i povezati s određenim ulaznim podacima. Te složene i netransparentne karakteristike (element crne kutije) utječu na odgovornost i objašnjivost. Usporedivo jednostavnije tehnike kao što su pristupi utemeljeni na znanju, Bayesovska procjena ili stabla odlučivanja također mogu dovesti do pravnih praznina koje se moraju riješiti ovom Uredbom, posebno ako se koriste u kombinaciji s pristupima strojnog učenja u hibridnim sustavima.
(6 b) UI sustavi mogu se upotrebljavati kao samostalni softverski sustav, mogu biti integrirani u fizički proizvod (ugrađeni) ili se koristiti za funkciju fizičkog proizvoda bez integriranja u njega (neugrađeni) ili se upotrebljavati kao UI komponenta većeg sustava. Ako taj veći sustav ne bi funkcionirao bez predmetne UI komponente, čitavi veći sustav trebao bi se smatrati jednim UI sustavom u skladu s ovom Uredbom.
Amandman 21 Prijedlog uredbe Uvodna izjava 7.
(7) Pojam biometrijskih podataka koji se upotrebljava u ovoj Uredbi u skladu je s pojmom biometrijskih podataka kako je definiran člankom 4. točkom 14. Uredbe (EU) 2016/679 Europskog parlamenta i Vijeća35, člankom 3. točkom 18. Uredbe (EU) 2018/1725 Europskog parlamenta i Vijeća36 i člankom 3. točkom 13. Direktive (EU) 2016/680 Europskog parlamenta i Vijeća37 te bi se trebao tumačiti dosljedno tim odredbama.
(7) Pojam biometrijskih podataka koji se upotrebljava u ovoj Uredbi u skladu je s pojmom biometrijskih podataka kako je definiran člankom 4. točkom 14. Uredbe (EU) 2016/679 Europskog parlamenta i Vijeća35. Podaci temeljeni na biometriji znači dodatni podaci dobiveni posebnom tehničkom obradom koji se odnose na fizičke, fiziološke ili bihevioralne signale pojedinca, kao što su izrazi lica, pokreti, frekvencija pulsa, glas, način tipkanja ili način kretanja koji mogu, ali i ne moraju omogućiti ili potvrditi jedinstvenu identifikaciju pojedinca.
__________________
__________________
35 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
35 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
36 Uredba (EU) 2018/1725 Europskog parlamenta i Vijeća od 23. listopada 2018. o zaštiti pojedinaca u vezi s obradom osobnih podataka u institucijama, tijelima, uredima i agencijama Unije i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Uredbe (EZ) br. 45/2001 i Odluke br. 1247/2002/EZ (SL L 295, 21.11.2018., str. 39.)
37 Direktiva (EU) 2016/680 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka od strane nadležnih tijela u svrhe sprečavanja, istrage, otkrivanja ili progona kaznenih djela ili izvršavanja kaznenih sankcija i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Okvirne odluke Vijeća 2008/977/PUP (Direktiva o zaštiti podataka pri izvršavanju zakonodavstva) (SL L 119, 4.5.2016., str. 89.).
(7 a) Pojam biometrijske identifikacije koji se upotrebljava u ovoj Uredbi trebalo bi definirati kao automatsko prepoznavanje fizičkih, fizioloških, bihevioralnih i psiholoških ljudskih obilježja kao što su lice, pokreti očiju, izrazi lica, oblik tijela, glas, govor, hod, držanje, srčani ritam, krvni tlak, miris, način tipkanja, psihološke reakcije (bijes, stres, tuga itd.) za potrebe utvrđivanja identiteta pojedinca usporedbom biometrijskih podataka tog pojedinca s biometrijskim podacima pojedinaca pohranjenima u bazi podataka (identifikacija usporedbom više uzoraka), neovisno o tome je li pojedinac dao svoj pristanak.
(7 b) Pojam biometrijske kategorizacije koji se upotrebljava u ovoj Uredbi trebalo bi definirati kao razvrstavanje pojedinaca prema određenim kategorijama ili izvođenje zaključaka o njihovim karakteristikama ili obilježjima kao što su rod, spol, dob, boja kose, boja očiju, tetovaže, etničko ili socijalno podrijetlo, zdravlje, mentalne ili fizičke sposobnosti, obilježja ponašanja ili osobine ličnosti, jezik, vjera ili pripadnost nacionalnoj manjini ili seksualna ili politička orijentacija na temelju njihovih biometrijskih podataka ili podataka koji se temelje na biometriji, ili prema kategorijama koje se mogu izvesti iz takvih podataka.
Amandman 24 Prijedlog uredbe Uvodna izjava 8.
(8) Pojam sustava za daljinsku biometrijsku identifikaciju koji se upotrebljava u ovoj Uredbi trebalo bi definirati funkcionalno, kao UI sustav namijenjen za daljinsko identificiranje pojedinaca usporedbom biometrijskih podataka osobe s biometrijskim podacima iz referentne baze podataka, pri čemu se ne može unaprijed znati hoće li ciljana osoba biti prisutna i može li je se identificirati, bez obzira na tehnologiju, postupke ili vrste biometrijskih podataka koji se upotrebljavaju. S obzirom na njihove različite karakteristike i različite načine korištenja, ali i na različite prisutne rizike, trebalo bi razlikovati sustav za daljinsku biometrijsku identifikaciju u stvarnom vremenu i sustav za naknadnu daljinsku biometrijsku identifikaciju. U sustavima za daljinsku biometrijsku identifikaciju u stvarnom vremenu prikupljanje biometrijskih podataka, usporedba i identifikacija odvijaju se trenutačno, gotovo trenutačno ili u svakom slučaju bez znatnog kašnjenja. Reguliranjem kratkih kašnjenja trebalo bi onemogućiti zaobilaženje pravila ove Uredbe o uporabi tih UI sustava u stvarnom vremenu. Sustavi u stvarnom vremenu uključuju uporabu materijala snimljenog „uživo” ili „gotovo uživo”, kao što je videozapis snimljen kamerom ili drugim uređajem sa sličnom funkcijom. S druge strane, u sustavima za naknadnu identifikaciju biometrijski su podaci već prethodno prikupljeni te se usporedba i identifikacija vrše tek nakon znatnog kašnjenja. To uključuje materijal snimljen prije nego što je sustav upotrijebljen za identifikaciju predmetnih pojedinaca, kao što su fotografije ili videozapisi snimljeni nadzornim kamerama ili privatnim uređajima.
(8) Pojam sustava za daljinsku biometrijsku identifikaciju koji se upotrebljava u ovoj Uredbi trebalo bi definirati funkcionalno, kao UI sustav namijenjen za daljinsko identificiranje pojedinaca usporedbom biometrijskih podataka osobe s biometrijskim podacima iz referentne baze podataka, pri čemu se ne može unaprijed znati hoće li ciljana osoba biti prisutna i može li je se identificirati, bez obzira na tehnologiju, postupke ili vrste biometrijskih podataka koji se upotrebljavaju, isključujući sustave provjere koji samo uspoređuju biometrijske podatke pojedinca s njihovim prijašnjim biometrijskim podacima (usporedba dvaju uzoraka). S obzirom na njihove različite karakteristike i različite načine korištenja, ali i na različite prisutne rizike, trebalo bi razlikovati sustav za daljinsku biometrijsku identifikaciju u stvarnom vremenu i sustav za naknadnu daljinsku biometrijsku identifikaciju. U sustavima za daljinsku biometrijsku identifikaciju u stvarnom vremenu prikupljanje biometrijskih podataka, usporedba i identifikacija odvijaju se trenutačno, gotovo trenutačno ili u svakom slučaju bez znatnog kašnjenja. Reguliranjem kratkih kašnjenja trebalo bi onemogućiti zaobilaženje pravila ove Uredbe o uporabi tih UI sustava u stvarnom vremenu. Sustavi u stvarnom vremenu uključuju uporabu materijala snimljenog „uživo” ili „gotovo uživo”, kao što je videozapis snimljen kamerom ili drugim uređajem sa sličnom funkcijom. S druge strane, u sustavima za naknadnu identifikaciju biometrijski su podaci već prethodno prikupljeni te se usporedba i identifikacija vrše tek nakon znatnog kašnjenja. To uključuje materijal snimljen prije nego što je sustav upotrijebljen za identifikaciju predmetnih pojedinaca, kao što su fotografije ili videozapisi snimljeni nadzornim kamerama ili privatnim uređajima. S obzirom na to da je pojam biometrijske identifikacije neovisan o pristanku pojedinca, ta se definicija primjenjuje čak i kada su na lokaciju pod nadzorom sustava za daljinsku biometrijsku identifikaciju postavljena upozorenja te se de facto ne poništava prethodnim unosom.
(8 a) Daljinska identifikacija pojedinaca tumači se tako da se sustavi za daljinsku biometrijsku identifikaciju razlikuju od sustava za provjeru pojedinaca iz neposredne blizine uz korištenje sredstava biometrijske identifikacije, čija je jedina svrha potvrditi ima li određeni pojedinac dopuštenje, primjerice kako bi dobio pristup usluzi, uređaju ili prostorima.
Amandman 26 Prijedlog uredbe Uvodna izjava 9.
(9) Pojam javnog mjesta za potrebe ove Uredbe trebalo bi shvatiti kao svako fizičko mjesto koje je dostupno javnosti, bez obzira na to je li u privatnom ili javnom vlasništvu. Dakle, taj pojam ne obuhvaća mjesta koja su privatne naravi i obično nisu slobodno dostupna trećim stranama, među ostalim ni tijelima kaznenog progona, osim ako su te strane izričito pozvane ili im je odobren pristup; to su primjerice stambeni objekti, privatni klubovi, uredi, skladišta i tvornice. Nisu obuhvaćeni ni internetski prostori jer oni nisu fizički prostori. Međutim, samo to što se nekom mjestu može pristupiti po određenim uvjetima, kao što su ulaznice ili dobna ograničenja, ne znači da to mjesto nije javno u smislu ove Uredbe. Prema tome, uz javna mjesta kao što su ulice, odgovarajući dijelovi vladinih zgrada i većina prometne infrastrukture, i mjesta kao što su kina, kazališta, trgovine i trgovački centri obično su javna. Ipak, to je li određeno mjesto javno trebalo bi utvrditi u svakom slučaju posebno i pritom uzeti u obzir specifične okolnosti konkretne situacije.
(9) Pojam javnog mjesta za potrebe ove Uredbe trebalo bi shvatiti kao svako fizičko mjesto koje je dostupno javnosti, bez obzira na to je li u privatnom ili javnom vlasništvu i bez obzira na moguća ograničenja kapaciteta. Dakle, taj pojam ne obuhvaća mjesta koja su privatne naravi i obično nisu slobodno dostupna trećim stranama, među ostalim ni tijelima kaznenog progona, osim ako su te strane izričito pozvane ili im je odobren pristup; to su primjerice stambeni objekti, privatni klubovi, uredi, skladišta i tvornice. Nisu obuhvaćeni ni internetski prostori jer oni nisu fizički prostori. Međutim, samo to što se nekom mjestu može pristupiti po određenim uvjetima, kao što su ulaznice ili dobna ograničenja, ne znači da to mjesto nije javno u smislu ove Uredbe. Prema tome, uz javna mjesta kao što su ulice, odgovarajući dijelovi vladinih zgrada i većina prometne infrastrukture, i mjesta kao što su kina, kazališta, sportski tereni, škole, sveučilišta, bolnice, relevantni dijelovi bolnica i banaka, zabavni parkovi, festivali, trgovine i trgovački centri obično su javna. Ipak, to je li određeno mjesto javno trebalo bi utvrditi u svakom slučaju posebno i pritom uzeti u obzir specifične okolnosti konkretne situacije.
(9 a) Važno je napomenuti da bi UI sustavi trebali nastojati poštovati opća načela kojima se uspostavlja okvir na visokoj razini kojim se promiče dosljedan antropocentrični pristup etičnoj i pouzdanoj umjetnoj inteligenciji u skladu s Poveljom Europske unije o temeljnim pravima i vrijednostima na kojima se Unija temelji, uključujući zaštitu temeljnih prava, ljudsko upravljanje i nadzor, tehničku stabilnost i sigurnost, upravljanje privatnošću i podacima, transparentnost, nediskriminaciju i pravednost te društvenu i ekološku dobrobit.
(9 b) „Pismenost u području umjetne inteligencije” odnosi se na vještine, znanje i razumijevanje koje dobavljačima, korisnicima i zahvaćenim osobama, uzimajući u obzir njihova prava i obveze u kontekstu ove Uredbe, omogućuje informiranu primjenu UI sustava, kao i informiranje o mogućnostima i rizicima umjetne inteligencije, te šteti koju može izazvati, a time promicanje demokratskog nadzora nad njom. Pismenost u području umjetne inteligencije ne bi smjela biti ograničena na učenje o alatima i tehnologijama, već bi trebala biti usmjerena i na to da dobavljači i korisnici usvoje pojmove i steknu vještine potrebne za osiguravanje usklađenosti s ovom Uredbom i njezine provedbe. Stoga je nužno da Komisija, države članice te dobavljači i korisnici UI sustava u suradnji sa svim relevantnim dionicima promiču razvoj dostatne razine pismenosti u području umjetne inteligencije u svim sektorima društva, za građane svih uzrasta, uključujući žene i djevojčice, te da se pomno prati napredak u tom pogledu.
Amandman 29 Prijedlog uredbe Uvodna izjava 10.
(10) Kako bi se osigurali jednaki uvjeti i djelotvorna zaštita prava i sloboda pojedinaca u cijeloj Uniji, pravila utvrđena u ovoj Uredbi trebala bi se primjenjivati na dobavljače UI sustava na nediskriminirajući način, bez obzira na to imaju li poslovni nastan u Uniji ili trećoj zemlji, i na korisnike UI sustava s poslovnim nastanom u Uniji.
(10) Kako bi se osigurali jednaki uvjeti i djelotvorna zaštita prava i sloboda pojedinaca u cijeloj Uniji i na međunarodnoj razini, pravila utvrđena u ovoj Uredbi trebala bi se primjenjivati na dobavljače UI sustava na nediskriminirajući način, bez obzira na to imaju li poslovni nastan u Uniji ili trećoj zemlji, i na subjekte koji primjenjuju UI sustave s poslovnim nastanom u Uniji. Kako bi Unija bila vjerna svojim temeljnim vrijednostima, UI sustavi namijenjeni za upotrebu u svrhe koje se u ovoj Uredbi smatraju neprihvatljivima trebali bi se također smatrati neprihvatljivima izvan Unije zbog njihova posebno štetnog učinka na temeljna prava utvrđena u Povelji. Stoga je primjereno dobavljačima s boravištem u Uniji zabraniti izvoz takvih UI sustava u treće zemlje.
Amandman 30 Prijedlog uredbe Uvodna izjava 11.
(11) Određeni bi UI sustavi zbog svojeg digitalnog karaktera trebali biti obuhvaćeni područjem primjene ove Uredbe čak i ako nisu stavljeni ni na tržište ni u uporabu niti se upotrebljavaju u Uniji. To se, primjerice, odnosi na operatera s poslovnim nastanom u Uniji koji od operatera s poslovnim nastanom izvan Unije naruči određene usluge povezane sa zadaćom koju obavlja UI sustav koji bi pripadao u visokorizične sustave i koji bi mogao utjecati na pojedince u Uniji. U tim bi okolnostima UI sustav kojim se služi operater izvan Unije mogao obrađivati podatke koji su zakonito prikupljeni u Uniji i preneseni iz nje te dostaviti izlazni rezultat UI sustava koji se temelji na toj obradi operateru ugovaratelju u Uniji, a da taj UI sustav nije stavljen ni na tržište ni u uporabu niti se upotrebljava u Uniji. Kako bi se spriječilo zaobilaženje ove Uredbe i osigurala djelotvorna zaštita pojedinaca u Uniji, ova bi se Uredba trebala primjenjivati i na dobavljače i korisnike UI sustava koji imaju poslovni nastan u trećoj zemlji ako se u Uniji upotrebljavaju izlazni rezultati tih sustava. Međutim, kako bi se uzeli u obzir postojeći aranžmani i specifične potrebe za suradnjom sa stranim partnerima s kojima se razmjenjuju informacije i dokazi, ova se Uredba ne bi trebala primjenjivati na tijela javne vlasti treće zemlje ni na međunarodne organizacije koje djeluju u okviru međunarodnih sporazuma koji su na nacionalnoj ili europskoj razini sklopljeni s Unijom ili njezinim državama članicama za suradnju u područjima kaznenog progona i pravosuđa. Riječ je o bilateralnim sporazumima sklopljenima između država članica i trećih zemalja ili između Europske unije, Europola i drugih agencija EU-a te trećih zemalja i međunarodnih organizacija.
(11) Određeni bi UI sustavi zbog svojeg digitalnog karaktera trebali biti obuhvaćeni područjem primjene ove Uredbe čak i ako nisu stavljeni ni na tržište ni u uporabu niti se upotrebljavaju u Uniji. To se, primjerice, odnosi na operatera s poslovnim nastanom u Uniji koji od operatera s poslovnim nastanom izvan Unije naruči određene usluge povezane sa zadaćom koju obavlja UI sustav koji bi pripadao u visokorizične sustave i koji bi mogao utjecati na pojedince u Uniji. U tim bi okolnostima UI sustav kojim se služi operater izvan Unije mogao obrađivati podatke koji su zakonito prikupljeni u Uniji i preneseni iz nje te dostaviti izlazni rezultat UI sustava koji se temelji na toj obradi operateru ugovaratelju u Uniji, a da taj UI sustav nije stavljen ni na tržište ni u uporabu niti se upotrebljava u Uniji. Kako bi se spriječilo zaobilaženje ove Uredbe i osigurala djelotvorna zaštita pojedinaca u Uniji, ova bi se Uredba trebala primjenjivati i na dobavljače i korisnike UI sustava te subjekte koji primjenjuju UI sustave koji imaju poslovni nastan u trećoj zemlji ako su izlazni rezultati tih sustava namijenjeni za upotrebu u Uniji. Međutim, kako bi se uzeli u obzir postojeći aranžmani i specifične potrebe za suradnjom sa stranim partnerima s kojima se razmjenjuju informacije i dokazi, ova se Uredba ne bi trebala primjenjivati na tijela javne vlasti treće zemlje ni na međunarodne organizacije koje djeluju u okviru međunarodnih sporazuma koji su na nacionalnoj ili europskoj razini sklopljeni s Unijom ili njezinim državama članicama za suradnju u područjima kaznenog progona i pravosuđa. Riječ je o bilateralnim sporazumima sklopljenima između država članica i trećih zemalja ili između Europske unije, Europola i drugih agencija EU-a te trećih zemalja i međunarodnih organizacija. Ta bi iznimka ipak trebala biti ograničena na pouzdane zemlje i međunarodne organizacije koje dijele vrijednosti Unije.
Amandman 31 Prijedlog uredbe Uvodna izjava 12.
(12) Ova bi se Uredba trebala primjenjivati i na institucije, urede, tijela i agencije Unije ako djeluju kao dobavljači ili korisnici UI sustava. UI sustave koji se razvijaju ili upotrebljavaju isključivo u vojne svrhe trebalo bi izostaviti iz područja primjene ove Uredbe ako je ta uporaba u isključivoj nadležnosti zajedničke vanjske i sigurnosne politike uređene na temelju glave V. Ugovora o Europskoj uniji (UEU). Ovom Uredbom ne bi se trebale dovoditi u pitanje odredbe o odgovornosti pružatelja posredničkih usluga iz Direktive 2000/31/EZ Europskog parlamenta i Vijeća [kako je izmijenjena Aktom o digitalnim uslugama].
(12) Ova bi se Uredba trebala primjenjivati i na institucije, urede, tijela i agencije Unije ako djeluju kao dobavljači UI sustava ili subjekti koji primjenjuju UI sustave. UI sustave koji se razvijaju ili upotrebljavaju isključivo u vojne svrhe trebalo bi izostaviti iz područja primjene ove Uredbe ako je ta uporaba u isključivoj nadležnosti zajedničke vanjske i sigurnosne politike uređene na temelju glave V. Ugovora o Europskoj uniji (UEU). Ovom Uredbom ne bi se trebale dovoditi u pitanje odredbe o odgovornosti pružatelja posredničkih usluga iz Direktive 2000/31/EZ Europskog parlamenta i Vijeća [kako je izmijenjena Aktom o digitalnim uslugama].
(12 a) Softver i podaci koji se otvoreno dijele i kojima korisnici mogu slobodno pristupiti, koristiti ih, mijenjati i redistribuirati njih ili njihove izmijenjene verzije mogu doprinijeti istraživanju i inovacijama na tržištu. Istraživanje Komisije također pokazuje da besplatni softver otvorenog koda može BDP-u Europske unije doprinijeti između 65 milijardi EUR i 95 milijardi EUR te da može pružiti znatne prilike za rast europskoga gospodarstva. Korisnicima je dopušteno pokretati, kopirati, distribuirati, proučavati, mijenjati i poboljšavati softver i podatke, uključujući modele na temelju besplatnih licencija za softver otvorenog koda. Radi poticanja razvoja i primjene umjetne inteligencije, posebno u MSP-ovima, start-up poduzećima, u okviru akademskog istraživanja, ali i od strane pojedinaca, ova Uredba ne bi se trebala primjenjivati na takve besplatne UI komponente otvorenog koda, osim ako ih dobavljač stavlja na tržište ili u uporabu kao dio visokorizičnog UI sustava ili UI sustava obuhvaćenog glavom II. ili IV. ove Uredbe.
(12 b) Ni zajednički razvoj besplatnih UI komponenti otvorenog koda niti njihovo stavljanje na raspolaganje u repozitorijima otvorenog pristupa ne bi trebalo predstavljati stavljanje na tržište ili stavljanje u uporabu. U okviru razumijevanja stavljanja na raspolaganje na tržištu, komercijalna djelatnost može, međutim, podrazumijevati ne samo naplaćivanje, uz iznimku transakcija među mikropoduzećima, besplatnih UI komponenti otvorenoga koda, nego i naplaćivanje usluga tehničke podrške, pružanjem softverske platforme putem koje dobavljač unovčuje druge usluge ili uporabom osobnih podataka u svrhe koje nisu isključivo povećanje sigurnosti, kompatibilnosti ili interoperabilnosti softvera.
(12 c) Programeri besplatnih UI komponenti otvorenog koda ne bi trebali biti obvezni na temelju ove Uredbe ispunjavati zahtjeve koji se odnose na vrijednosni lanac umjetne inteligencije i, posebno, na dobavljača koji se koristio tom besplatnom UI komponentom otvorenog koda. Međutim, programere besplatnih UI komponenti otvorenog koda trebalo bi poticati da primjenjuju široko prihvaćene prakse dokumentiranja, kao što su modeli i podatkovne kartice kako bi se ubrzala razmjena informacija duž vrijednosnog lanca umjetne inteligencije i omogućilo promicanje pouzdanih UI sustava u Uniji.
Amandman 35 Prijedlog uredbe Uvodna izjava 13.
(13) Kako bi se osigurala dosljedna i visoka razina zaštite javnih interesa u pogledu zdravlja, sigurnosti i temeljnih prava, trebalo bi utvrditi zajedničke normativne standarde za sve visokorizične UI sustave. Ti bi standardi trebali biti dosljedni s Poveljom Europske unije o temeljnim pravima (Povelja) te bi trebali biti nediskriminirajući i usklađeni s međunarodnim trgovinskim obvezama Unije.
(13) Kako bi se osigurala dosljedna i visoka razina zaštite javnih interesa u pogledu zdravlja, sigurnosti i temeljnih prava, kao i demokracije i vladavine prava te okoliša, trebalo bi utvrditi zajedničke normativne standarde za sve visokorizične UI sustave. Ti bi standardi trebali biti dosljedni s Poveljom, europskim zelenim planom, zajedničkom Deklaracijom o digitalnim pravima Unije i Etičkim smjernicama za pouzdanu umjetnu inteligenciju (UI) Stručne skupine na visokoj razini za umjetnu inteligenciju te bi trebali biti nediskriminirajući i usklađeni s međunarodnim trgovinskim obvezama Unije.
Amandman 36 Prijedlog uredbe Uvodna izjava 14.
(14) Kako bi se uveo proporcionalan i djelotvoran skup obvezujućih pravila za UI sustave, trebalo bi slijediti jasno definiran pristup koji se temelji na riziku. Vrsta i sadržaj tih pravila u tom bi pristupu trebali biti primjereni intenzitetu i opsegu rizika koje mogu stvoriti UI sustavi. Stoga je potrebno zabraniti određene prakse u području umjetne inteligencije, utvrditi zahtjeve za visokorizične UI sustave i obveze za relevantne operatere te utvrditi obveze u pogledu transparentnosti za određene UI sustave.
(14) Kako bi se uveo proporcionalan i djelotvoran skup obvezujućih pravila za UI sustave, trebalo bi slijediti jasno definiran pristup koji se temelji na riziku. Vrsta i sadržaj tih pravila u tom bi pristupu trebali biti primjereni intenzitetu i opsegu rizika koje mogu stvoriti UI sustavi. Stoga je potrebno zabraniti određene neprihvatljive prakse u području umjetne inteligencije, utvrditi zahtjeve za visokorizične UI sustave i obveze za relevantne operatere te utvrditi obveze u pogledu transparentnosti za određene UI sustave.
Amandman 37 Prijedlog uredbe Uvodna izjava 15.
(15) Osim brojnih korisnih primjena umjetne inteligencije, ta se tehnologija može i zloupotrijebiti te omogućiti nove i moćne alate za manipulativne i izrabljivačke prakse te prakse socijalne kontrole. Takve su prakse iznimno štetne i trebalo bi ih zabraniti jer su protivne Unijinim vrijednostima poštovanja ljudskog dostojanstva, slobode, ravnopravnosti, demokracije i vladavine prava te temeljnim pravima Unije, uključujući pravo na nediskriminaciju, zaštitu podataka i privatnost te prava djeteta.
(15) Osim brojnih korisnih primjena umjetne inteligencije, ta se tehnologija može i zloupotrijebiti te omogućiti nove i moćne alate za manipulativne i izrabljivačke prakse te prakse socijalne kontrole. Takve su prakse zlouporaba i iznimno su štetne i trebalo bi ih zabraniti jer su protivne Unijinim vrijednostima poštovanja ljudskog dostojanstva, slobode, ravnopravnosti, demokracije i vladavine prava te temeljnim pravima Unije, uključujući pravo na nediskriminaciju, zaštitu podataka i privatnost te prava djeteta.
Amandman 38 Prijedlog uredbe Uvodna izjava 16.
(16) Trebalo bi zabraniti stavljanje na tržište, stavljanje u uporabu ili primjenu određenih UI sustava kojima se želi promijeniti čovjekovo ponašanje, čime se može izazvati tjelesna ili psihološka šteta. U takvim UI sustavima primjenjuju se subliminalni elementi koje pojedinci ne mogu percipirati ili se iskorištavaju ranjivosti koje djeca i odrasli mogu imati zbog svoje dobi te fizičkih ili mentalnih poteškoća. Pritom se njima želi bitno promijeniti ponašanje osobe na način koji uzrokuje ili bi mogao uzrokovati štetu toj ili nekoj drugoj osobi. Ta se namjera ne može pretpostaviti ako mijenjanje ljudskog ponašanja proizlazi iz čimbenika koji su izvan UI sustava i kontrole dobavljača ili korisnika. Zabrana ne bi trebala kočiti istraživanja u zakonite svrhe koja se odnose na takve UI sustave ako ta istraživanja ne uključuju uporabu UI sustava u odnosima između ljudi i strojeva koji bi mogli naštetiti pojedincima i ako se provode u skladu s priznatim etičkim standardima za znanstvena istraživanja.
(16) Trebalo bi zabraniti stavljanje na tržište, stavljanje u uporabu ili primjenu određenih UI sustava kojima se namjerava promijeniti ili koji imaju učinak da se njima bitno mijenja čovjekovo ponašanje, čime se može izazvati tjelesna ili psihološka šteta. To ograničenje trebalo bi tumačiti na način da uključuje neurotehnologije koje podupiru UI sustavi korišteni za praćenje, uporabu ili utjecanje na neuronske podatke prikupljene sučeljima mozga i računala u mjeri u kojoj bitno mijenjaju ponašanje pojedinca na način koji toj ili drugoj osobi uzrokuje ili bi mogao uzrokovati znatnu štetu. U takvim UI sustavima primjenjuju se subliminalni elementi koje pojedinci ne mogu percipirati ili se iskorištavaju ranjivosti koje pojedinci i određene skupine osoba mogu imati zbog svojih poznatih ili predviđenih obilježja osobnosti, dobi, fizičkih ili mentalnih poteškoća te socijalne ili ekonomske situacije. Pritom se njima želi bitno promijeniti ponašanje osobe ili imaju učinak kojim se bitno mijenja ponašanje osobe na način koji uzrokuje ili bi mogao uzrokovati znatnu štetu toj ili nekoj drugoj osobi ili skupinama osoba, uključujući štetu koja se može akumulirati tijekom vremena. Ta se namjera mijenjanja ponašanja ne može pretpostaviti ako mijenjanje proizlazi iz čimbenika koji su izvan UI sustava i kontrole dobavljača ili korisnika, kao što su čimbenici koje dobavljač UI sustava ili subjekt koji primjenjuje UI sustav ne može razumno predvidjeti i ublažiti.U svakom slučaju, nije nužno da dobavljač UI sustava ili subjekt koji primjenjuje UI sustav ima namjeru prouzročiti znatnu štetu sve dok ta šteta proizlazi iz manipulativne ili izrabljivačke prakse omogućene umjetnom inteligencijom. Zabranama takve prakse UI-ja dopunjuju se odredbe sadržane u Direktivi 2005/29/EC, prema kojima su zabranjene nepoštene poslovne prakse, neovisno o tome provode li se UI sustavima ili na drugi način. U takvom kontekstu, zakonite poslovne prakse, primjerice u području oglašavanja, koje su u skladu s pravom Unije ne bi se same po sebi trebale smatrati kršenjem zabrane. Zabrana ne bi trebala kočiti istraživanja u zakonite svrhe koja se odnose na takve UI sustave ako ta istraživanja ne uključuju uporabu UI sustava u odnosima između ljudi i strojeva koji bi mogli naštetiti pojedincima i ako se provode u skladu s priznatim etičkim standardima za znanstvena istraživanja te na temelju posebnog informiranog pristanka pojedinaca koji su im izloženi ili, ako je primjenjivo, njihova zakonskog skrbnika.
(16 a) UI sustavi koji kategoriziraju pojedince tako što ih razvrstavaju u određene kategorije prema poznatim ili izvedenim osjetljivim ili zaštićenim obilježjima posebno su nametljivi, krše ljudsko dostojanstvo i sa sobom nose velik rizik od diskriminacije. Takva obilježja uključuju rod, rodni identitet, rasu, etničko podrijetlo, migracijski status ili državljanstvo, političku orijentaciju, seksualnu orijentaciju, vjeroispovijest, invaliditet ili bilo koju drugu osnovu na temelju koje je diskriminacija zabranjena člankom 21. Povelje Europske unije o temeljnim pravima te člankom 9. Uredbe (EU)2016/769. Stoga bi takve sustave trebalo zabraniti.
Amandman 40 Prijedlog uredbe Uvodna izjava 17.
(17) UI sustavi koji omogućuju društveno vrednovanje pojedinaca u opće svrhe koje provode tijela javne vlasti ili koje se provodi u njihovo ime mogu prouzročiti diskriminatorne krajnje ishode i isključivanje određenih skupina. Njima se može prekršiti pravo na dostojanstvo i nediskriminaciju te vrijednosti kao što su ravnopravnost i pravda. Takvi UI sustavi evaluiraju ili klasificiraju vjerodostojnost pojedinaca na temelju njihova društvenog ponašanja u različitim kontekstima ili poznatih ili predviđenih osobnih obilježja ili obilježja osobnosti. Društveni rejting dobiven takvim UI sustavima može uzrokovati štetno ili nepovoljno postupanje prema pojedincima ili cijelim skupinama pojedinaca u društvenim kontekstima koji nisu povezani s kontekstom u kojima su podaci izvorno generirani ili prikupljeni ili štetno postupanje koje je nerazmjerno ili neopravdano u odnosu na težinu posljedica njihova društvenog ponašanja. Stoga bi takve UI sustave trebalo zabraniti.
(17) UI sustavi koji omogućuju društveno vrednovanje pojedinaca u opće svrhe mogu prouzročiti diskriminatorne krajnje ishode i isključivanje određenih skupina. Njima se krši pravo na dostojanstvo i nediskriminaciju te vrijednosti kao što su ravnopravnost i pravda. Takvi UI sustavi evaluiraju ili klasificiraju pojedince ili skupine na temelju višestrukih podataka i vremenske učestalosti u pogledu njihova društvenog ponašanja u različitim kontekstima ili poznatih, izvedenih ili predviđenih osobnih obilježja ili obilježja osobnosti. Društveni rejting dobiven takvim UI sustavima može uzrokovati štetno ili nepovoljno postupanje prema pojedincima ili cijelim skupinama pojedinaca u društvenim kontekstima koji nisu povezani s kontekstom u kojima su podaci izvorno generirani ili prikupljeni ili štetno postupanje koje je nerazmjerno ili neopravdano u odnosu na težinu posljedica njihova društvenog ponašanja. Stoga bi takve UI sustave trebalo zabraniti.
Amandman 41 Prijedlog uredbe Uvodna izjava 18.
(18) Uporaba UI sustava za daljinsku biometrijsku identifikaciju pojedinaca u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona smatra se znatnim kršenjem prava i sloboda uključenih osoba u onoj mjeri u kojoj može utjecati na privatni život velikog dijela stanovništva, pobuditi doživljaj stalnog nadzora i neizravno odvratiti od ostvarenja slobode okupljanja i drugih temeljnih prava. Osim toga, neposrednost učinka i ograničene mogućnosti za dodatne provjere ili ispravke uporabe takvih sustava koji funkcioniraju u „stvarnom vremenu” nose povećane rizike za prava i slobode osoba koje su obuhvaćene aktivnostima kaznenog progona.
(18) Uporaba UI sustava za daljinsku biometrijsku identifikaciju pojedinaca u stvarnom vremenu na javnim mjestima znatno je kršenje prava i sloboda uključenih osoba i u konačnici može utjecati na privatni život velikog dijela stanovništva, pobuditi doživljaj stalnog nadzora, stranke koje primjenjuju biometrijsku identifikaciju na javnim mjestima dovesti u položaj moći koja se ne može kontrolirati i neizravno odvratiti pojedince od ostvarenja slobode okupljanja i drugih temeljnih prava na kojima se temelji vladavina prava. Tehničke netočnosti UI sustava namijenjenih za daljinsku biometrijsku identifikaciju fizičkih osoba mogu dovesti do pristranih rezultata i imati diskriminacijske učinke. To je posebno relevantno kad je riječ o dobi, etničkom podrijetlu, spolu ili invaliditetu. Osim toga, neposrednost učinka i ograničene mogućnosti za dodatne provjere ili ispravke uporabe takvih sustava koji funkcioniraju u „stvarnom vremenu” nose povećane rizike za prava i slobode osoba koje su obuhvaćene aktivnostima kaznenog progona. Stoga bi trebalo zabraniti uporabu tih sustava na javnim mjestima. Slično tome, trebalo bi zabraniti i UI sustave koji se upotrebljavaju za analizu snimaka javnih mjesta putem sustava za naknadnu daljinsku biometrijsku identifikaciju, osim ako postoji prethodno sudsko odobrenje za uporabu u kontekstu kaznenog progona, ako je to nužno za ciljano pretraživanje povezano s već počinjenim određenim teškim kaznenim djelom i samo podložno prethodnom sudskom odobrenju.
Amandman 42 Prijedlog uredbe Uvodna izjava 19.
(19) Stoga bi trebalo zabraniti uporabu tih sustava za potrebe kaznenog progona, osim u trima iscrpno navedenima i usko definiranim situacijama u kojima je ta uporaba nužna za ostvarenje znatnog javnog interesa čija važnost premašuje rizike. Te situacije uključuju potragu za potencijalnim žrtvama kaznenih djela, uključujući nestalu djecu, određene prijetnje životu ili tjelesnoj sigurnosti pojedinaca ili prijetnje terorističkog napada te otkrivanje, lociranje, identifikaciju ili progon počinitelja kaznenih djela ili osumnjičenika za kaznena djela iz Okvirne odluke Vijeća 2002/584/PUP38 ako su ta kaznena djela u državi članici kažnjiva najvišom kaznom zatvora ili oduzimanjem slobode od najmanje tri godine i kako su utvrđena pravom te države članice. Takvim pragom za kaznu zatvora ili oduzimanje slobode u skladu s nacionalnim pravom pomaže se osigurati da bi ta djela trebala biti dovoljno teška da se potencijalno opravda uporaba sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu. Nadalje, od 32 kaznena djela navedena u Okvirnoj odluci Vijeća 2002/584/PUP neka će u praksi vjerojatno biti relevantniji od drugih, u smislu da će da će primjena daljinske biometrijske identifikacije u stvarnom vremenu biti predvidljivo potrebna i razmjerna u veoma različitoj mjeri za otkrivanje, lociranje, identifikaciju ili progon počinitelja različitih navedenih kaznenih djela ili osumnjičenika za ta kaznena djela te s obzirom na vjerojatne razlike u težini, vjerojatnosti i razmjeru štete ili mogućih negativnih posljedica.
Briše se.
__________________
38 Okvirna odluka Vijeća 2002/584/PUP od 13. lipnja 2002. o Europskom uhidbenom nalogu i postupcima predaje između država članica (SL L 190, 18.7.2002., str. 1.).
Amandman 43 Prijedlog uredbe Uvodna izjava 20.
(20) Kako bi se osigurala odgovorna i proporcionalna uporaba tih sustava, važno je i utvrditi da bi u svakoj od tih triju iscrpno navedenih i usko definiranih situacija trebalo uzeti u obzir određene elemente, osobito u pogledu prirode situacije zbog koje zahtijeva njihova uporaba i posljedica uporabe za prava i slobode svih uključenih osoba te na zaštitne mjere i uvjete propisane za tu uporabu. Osim toga, za uporabu sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona trebala bi vrijediti odgovarajuća vremenska i prostorna ograničenja, osobito s obzirom na dokaze ili indikacije koji se odnose na prijetnje, žrtve ili počinitelje. Referentna baza podataka osoba trebala bi biti prikladna za svaki slučaj primjene u svakoj od triju prethodno navedenih situacija.
Briše se.
Amandman 44 Prijedlog uredbe Uvodna izjava 21.
(21) Za svaku uporabu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona trebalo bi pribaviti izričito i posebno odobrenje pravosudnog tijela ili neovisnog upravnog tijela države članice. Takvo bi se odobrenje u načelu trebalo pribaviti prije uporabe, osim u propisno opravdanim hitnim situacijama, odnosno situacijama u kojima je potreba za uporabom tih sustava takva da je praktično i objektivno nemoguće dobiti odobrenje prije početka uporabe. U takvim hitnim situacijama uporaba bi trebala biti ograničena na apsolutno nužni minimum te podlijegati odgovarajućim zaštitnim mjerama i uvjetima, kako je utvrđeno u nacionalnom pravu i kako je odredilo samo tijelo kaznenog progona u kontekstu svakog pojedinačnog hitnog primjera uporabe. Osim toga, tijelo kaznenog progona u takvim bi situacijama trebalo tražiti pribavljanje odobrenja što prije, uz navođenje razloga zbog kojih se ono nije moglo zatražiti ranije.
Briše se.
Amandman 45 Prijedlog uredbe Uvodna izjava 22.
(22) Nadalje, primjereno je u kontekstu iscrpnog okvira utvrđenog ovom Uredbom propisati da bi takva uporaba na državnom području države članice u skladu s ovom Uredbom trebala biti moguća samo ako i u mjeri u kojoj je ta država članica odlučila izričito predvidjeti mogućnost odobrenja takve uporabe u svojim podrobnim pravilima nacionalnog prava. Stoga države članice u skladu s ovom Uredbom i dalje mogu slobodno odlučiti da neće uopće predvidjeti takvu mogućnost ili mogu predvidjeti takvu mogućnost samo u odnosu na neke od ciljeva kojima se može opravdati odobrena uporaba utvrđena u ovoj Uredbi.
Briše se.
Amandman 46 Prijedlog uredbe Uvodna izjava 23.
(23) Uporaba UI sustavâ za daljinsku biometrijsku identifikaciju pojedinaca u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona nužno uključuje obradu biometrijskih podataka. Pravila ove Uredbe kojima se, uz određene iznimke, zabranjuje takva uporaba, koja se temelje na članku 16. UFEU-a, trebala bi se primjenjivati kao lex specialis u odnosu na pravila o obradi biometrijskih podataka iz članka 10. Direktive (EU) 2016/680, čime se na iscrpan način uređuje takva uporaba i obrada biometrijskih podataka. Stoga bi takva uporaba i obrada trebala biti moguća samo u onoj mjeri u kojoj je u skladu s okvirom utvrđenim ovom Uredbom, pri čemu ne bi trebao postojati prostor, izvan tog okvira, da nadležna tijela koja djeluju za potrebe kaznenog progona upotrebljavaju takve sustave i obrađuju takve povezane podatke na temelju razloga navedenih u članku 10. Direktive (EU) 2016/680. U tom kontekstu svrha ove Uredbe nije pružanje pravne osnove za obradu osobnih podataka iz članka 8. Direktive (EU) 2016/680. Međutim, uporaba sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u druge svrhe osim kaznenog progona, i kad ih upotrebljavaju nadležna tijela, ne bi trebala biti obuhvaćena posebnim okvirom o takvoj uporabi za potrebe kaznenog progona utvrđenim ovom Uredbom. Takva uporaba u druge svrhe osim kaznenog progona stoga ne bi trebala podlijegati zahtjevu za odobrenje u skladu s ovom Uredbom te važećim podrobnim pravilima nacionalnog prava kojima se može provoditi.
Briše se.
Amandman 47 Prijedlog uredbe Uvodna izjava 24.
(24) Svaka obrada biometrijskih podataka i drugih osobnih podataka povezana s uporabom UI sustavâ za biometrijsku identifikaciju, osim obrade povezane s uporabom sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona kako je uređeno ovom Uredbom, uključujući slučajeve kad te sustave upotrebljavaju nadležna tijela na javnim mjestima u druge svrhe osim kaznenog progona, i dalje bi trebala ispunjavati sve zahtjeve koji proizlaze iz članka 9. stavka 1. Uredbe (EU) 2016/679, članka 10. stavka 1. Uredbe (EU) 2018/1725 i članka 10. Direktive (EU) 2016/680, ovisno o slučaju.
(24) Svaka obrada biometrijskih podataka i drugih osobnih podataka povezana s uporabom UI sustavâ za biometrijsku identifikaciju, osim obrade povezane s uporabom sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima kako je uređeno ovom Uredbom i dalje bi trebala ispunjavati sve zahtjeve koji proizlaze iz članka 9. stavka 1. Uredbe (EU) 2016/679, članka 10. stavka 1. Uredbe (EU) 2018/1725 i članka 10. Direktive (EU) 2016/680, ovisno o slučaju.
Amandman 48 Prijedlog uredbe Uvodna izjava 25.
(25) U skladu s člankom 6.a Protokola br. 21 o stajalištu Ujedinjene Kraljevine i Irske s obzirom na područje slobode, sigurnosti i pravde, priloženog UEU-u i UFEU-u, Irsku ne obvezuju pravila utvrđena člankom 5. stavkom 1. točkom (d) i člankom 5. stavcima 2. i 3. ove Uredbe donesene na temelju članka 16. UFEU-a koja se odnose na obradu osobnih podataka koju vrše države članice pri obavljanju aktivnosti koje su obuhvaćene dijelom trećim glavom V. poglavljem 4. ili poglavljem 5. UFEU-a ako Irsku ne obvezuju pravila koja uređuju oblike pravosudne suradnje u kaznenim stvarima ili policijske suradnje za koja se traži usklađenost s odredbama utvrđenima na temelju članka 16. UFEU-a.
(25) U skladu s člankom 6.a Protokola br. 21 o stajalištu Ujedinjene Kraljevine i Irske s obzirom na područje slobode, sigurnosti i pravde, priloženog UEU-u i UFEU-u, Irsku ne obvezuju pravila utvrđena člankom 5. stavkom 1. točkom (d) ove Uredbe donesene na temelju članka 16. UFEU-a koja se odnose na obradu osobnih podataka koju vrše države članice pri obavljanju aktivnosti koje su obuhvaćene dijelom trećim glavom V. poglavljem 4. ili poglavljem 5. UFEU-a ako Irsku ne obvezuju pravila koja uređuju oblike pravosudne suradnje u kaznenim stvarima ili policijske suradnje za koja se traži usklađenost s odredbama utvrđenima na temelju članka 16. UFEU-a.
Amandman 49 Prijedlog uredbe Uvodna izjava 26.
(26) U skladu s člancima 2. i 2.a Protokola br. 22 o stajalištu Danske, priloženog UEU-u i UFEU-u, Dansku ne obvezuju pravila utvrđena člankom 5. stavkom 1. točkom (d) i člankom 5. stavcima 2. i 3. ove Uredbe donesene na temelju članka 16. UFEU-a niti ona podliježe primjeni tih pravila koja se odnose na obradu osobnih podataka koju vrše države članice pri obavljanju aktivnosti koje su obuhvaćene dijelom trećim glavom V. poglavljem 4. ili poglavljem 5.
(26) U skladu s člancima 2. i 2.a Protokola br. 22 o stajalištu Danske, priloženog UEU-u i UFEU-u, Dansku ne obvezuju pravila utvrđena člankom 5. stavkom 1. točkom (d) ove Uredbe donesene na temelju članka 16. UFEU-a niti ona podliježe primjeni tih pravila koja se odnose na obradu osobnih podataka koju vrše države članice pri obavljanju aktivnosti koje su obuhvaćene dijelom trećim glavom V. poglavljem 4. ili poglavljem 5.
(26 a) UI sustavi koje upotrebljavaju tijela kaznenog progona ili koji se upotrebljavaju u njihovo ime za izradu predviđanja, profila ili procjena rizika na temelju izrade profila pojedinaca ili analize podataka na temelju karakteristika ili obilježja osobnosti, uključujući lokaciju osobe, ili kriminalnog ponašanja pojedinaca ili skupina osoba u prošlosti u svrhu predviđanja počinjenja ili ponovnog počinjenja stvarnog ili mogućeg kaznenog djela ili više njih ili drugog kriminaliziranog društvenog ponašanja ili upravnih prekršaja predstavljaju poseban rizik od diskriminacije određenih osoba ili skupina osoba jer se njima krši ljudsko dostojanstvo i ključno pravno načelo pretpostavke nedužnosti. Stoga bi takve UI sustave trebalo zabraniti.
(26 b) Neselektivno i neciljano prikupljanje biometrijskih podataka s društvenih medija ili snimaka CCTV-a radi stvaranja ili širenja baza podataka za prepoznavanje lica pridonosi osjećaju masovnog nadzora i može dovesti do teških kršenja temeljnih prava, uključujući pravo na privatnost. Stoga bi trebalo zabraniti uporabu UI sustava s takvom namjenom.
(26 c) Postoji ozbiljna zabrinutost u pogledu znanstvene osnove UI sustava namijenjenih za detekciju emocija te fizičkih ili fizioloških obilježja kao što su izraz lica, pokreti, srčani ritam ili glas. Emocije ili izrazi emocija i njihova percepcija znatno se razlikuju ovisno o kulturi i situaciji, pa čak i kod određenog pojedinca. Ključni nedostaci tih tehnologija uključuju ograničenu pouzdanost (kategorije emocija ne mogu se pouzdano izraziti ni nedvosmisleno povezati sa zajedničkim skupom fizičkih ili fizioloških pokreta), nedovoljnu određenost (fizički ili fiziološki izrazi ne odgovaraju savršeno određenim kategorijama emocija) i ograničenu mogućnost generaliziranja (učinci konteksta i kulture nisu dovoljno uzeti u obzir). Problemi s pouzdanošću, a time i veliki rizici od zlouporabe, mogu se posebno pojaviti pri primjeni sustava u stvarnim situacijama povezanima s kaznenim progonom, upravljanjem granicama, radnim mjestima i obrazovnim ustanovama. Stoga bi trebalo zabraniti stavljanje na tržište, stavljanje u uporabu ili uporabu UI sustava koji se namjeravaju upotrebljavati u tim kontekstima za detekciju emocionalnog stanja pojedinaca.
(26 d) Ova Uredba ne bi trebala utjecati na prakse koje su zabranjene zakonodavstvom Unije, među ostalim u okviru prava o zaštiti podataka, nediskriminacijskog prava, prava o zaštiti potrošača i prava tržišnog natjecanja.
Amandman 54 Prijedlog uredbe Uvodna izjava 27.
(27) Visokorizični UI sustavi trebali bi se stavljati na tržište Unije ili u uporabu samo ako ispunjavaju određene obvezne zahtjeve. Tim bi se zahtjevima trebalo osigurati da visokorizični UI sustavi koji su dostupni u Uniji ili čiji se izlazni rezultati na drugi način upotrebljavaju u Uniji ne predstavljaju neprihvatljiv rizik za važne javne interese Unije koji su priznati i zaštićeni pravom Unije. UI sustavi utvrđeni kao visokorizični trebali bi biti ograničeni samo na one koji imaju znatan štetan učinak na zdravlje, sigurnost i temeljna prava osoba u Uniji i takvim bi se ograničenje trebalo minimizirati bilo kakvo potencijalno ograničenje u pogledu međunarodne trgovine.
(27) Visokorizični UI sustavi trebali bi se stavljati na tržište Unije ili u uporabu ili se upotrebljavati samo ako ispunjavaju određene obvezne zahtjeve. Tim bi se zahtjevima trebalo osigurati da visokorizični UI sustavi koji su dostupni u Uniji ili čiji se izlazni rezultati na drugi način upotrebljavaju u Uniji ne predstavljaju neprihvatljiv rizik za važne javne interese Unije koji su priznati i zaštićeni pravom Unije, uključujući temeljna prava, demokraciju, vladavinu prava i okoliš. Da bi se osigurala usklađenost sa sektorskim zakonodavstvom i izbjeglo udvostručavanje, zahtjevima za visokorizične UI sustave trebalo bi se u obzir uzeti sektorsko zakonodavstvo kojim se utvrđuju zahtjevi za visokorizične UI sustave obuhvaćene područjem primjene ove Uredbe, kao što su Uredba (EU) 2017/745 o medicinskim proizvodima i Uredba (EU) 2017/746 o in vitro dijagnostičkim medicinskim proizvodima te Direktiva 2006/42/EZ o strojevima. UI sustavi utvrđeni kao visokorizični trebali bi biti ograničeni samo na one koji imaju znatan štetan učinak na zdravlje, sigurnost i temeljna prava osoba u Uniji i takvim bi se ograničenje trebalo minimizirati bilo kakvo potencijalno ograničenje u pogledu međunarodne trgovine. S obzirom na brz tehnološki razvoj i moguće promjene u uporabi UI sustava, popis visokorizičnih područja i slučajeva primjene iz Priloga III. ipak bi trebao podlijegati stalnom preispitivanju u okviru redovitog ocjenjivanja.
Amandman 55 Prijedlog uredbe Uvodna izjava 28.
(28) Krajnji ishodi uporabe UI sustava mogli bi nepovoljno utjecati na zdravlje i sigurnost osoba, osobito ako su ti sustavi sastavni dio proizvodâ. U skladu s ciljevima zakonodavstva Unije o usklađivanju, kako bi se olakšalo slobodno kretanje proizvoda na unutarnjem tržištu i kako bi se osiguralo da se na tržište stavljaju samo sigurni i sukladni proizvodi, važno je da se propisno spriječe i smanje mogući sigurnosni rizici od proizvoda kao cjeline zbog njegovih digitalnih sastavnih dijelova, uključujući UI sustave. Na primjer, sve autonomniji roboti, bilo u kontekstu proizvodnje ili osobne skrbi i njege, trebali bi moći funkcionirati na siguran način i obavljati svoje zadaće u složenim okruženjima. Slično tome, u zdravstvenom sektoru u kojem su rizici za život i zdravlje posebno visoki, sve sofisticiraniji dijagnostički sustavi i sustavi koji pomažu ljudima u odlučivanju trebali bi biti pouzdani i točni. Razmjer nepovoljnog utjecaja UI sustava na temeljna prava zaštićena Poveljom posebno je važan pri klasificiranju UI sustava kao visokorizičnog. Ta prava uključuju pravo na ljudsko dostojanstvo, poštovanje privatnog i obiteljskog života, zaštitu osobnih podataka, slobodu izražavanja i informiranja, slobodu okupljanja i udruživanja te nediskriminaciju, zaštitu potrošača, prava radnika, prava osoba s invaliditetom, pravo na djelotvoran pravni lijek i na pošteno suđenje, pravo na obranu i pretpostavku nedužnosti te pravo na dobru upravu. Povrh tih prava, važno je naglasiti da djeca imaju posebna prava utvrđena člankom 24. Povelje EU-a i Konvencijom Ujedinjenih naroda o pravima djeteta (podrobnije razrađena u Općoj napomeni br. 25 Odbora UN-a za prava djeteta o digitalnom okruženju), kojima se zahtijeva da se vodi računa o ranjivosti djece te da se osiguraju zaštita i skrb potrebni za njihovu dobrobit. Pri procjeni ozbiljnosti štete koju UI sustav može prouzročiti, među ostalim u pogledu zdravlja i sigurnosti osoba, trebalo bi uzeti u obzir i temeljno pravo na visoku razinu zaštite okoliša koje je utvrđeno Poveljom i provodi se u politikama Unije.
(28) UI sustavi mogli bi nepovoljno utjecati na zdravlje i sigurnost osoba, osobito ako su ti sustavi sastavni sigurnosni dio proizvodâ. U skladu s ciljevima zakonodavstva Unije o usklađivanju, kako bi se olakšalo slobodno kretanje proizvoda na unutarnjem tržištu i kako bi se osiguralo da se na tržište stavljaju samo sigurni i sukladni proizvodi, važno je da se propisno spriječe i smanje mogući sigurnosni rizici od proizvoda kao cjeline zbog njegovih digitalnih sastavnih dijelova, uključujući UI sustave. Na primjer, sve autonomniji roboti, bilo u kontekstu proizvodnje ili osobne skrbi i njege, trebali bi moći funkcionirati na siguran način i obavljati svoje zadaće u složenim okruženjima. Slično tome, u zdravstvenom sektoru u kojem su rizici za život i zdravlje posebno visoki, sve sofisticiraniji dijagnostički sustavi i sustavi koji pomažu ljudima u odlučivanju trebali bi biti pouzdani i točni.
(28 a) Razmjer nepovoljnog utjecaja UI sustava na temeljna prava zaštićena Poveljom posebno je važan pri klasificiranju UI sustava kao visokorizičnog. Ta prava uključuju pravo na ljudsko dostojanstvo, poštovanje privatnog i obiteljskog života, zaštitu osobnih podataka, slobodu izražavanja i informiranja, slobodu okupljanja i udruživanja te nediskriminaciju, pravo na obrazovanje, zaštitu potrošača, prava radnika, prava osoba s invaliditetom, rodnu ravnopravnost, prava intelektualnog vlasništva, pravo na djelotvoran pravni lijek i na pošteno suđenje, pravo na obranu i pretpostavku nedužnosti te pravo na dobru upravu. Povrh tih prava, važno je naglasiti da djeca imaju posebna prava utvrđena člankom 24. Povelje EU-a i Konvencijom Ujedinjenih naroda o pravima djeteta (podrobnije razrađena u Općoj napomeni br. 25 Odbora UN-a za prava djeteta o digitalnom okruženju), kojima se zahtijeva da se vodi računa o ranjivosti djece te da se osiguraju zaštita i skrb potrebni za njihovu dobrobit. Pri procjeni ozbiljnosti štete koju UI sustav može prouzročiti, među ostalim u pogledu zdravlja i sigurnosti osoba ili okoliša, trebalo bi uzeti u obzir i temeljno pravo na visoku razinu zaštite okoliša koje je utvrđeno Poveljom i provodi se u politikama Unije.
Amandman 57 Prijedlog uredbe Uvodna izjava 29.
(29) Kad je riječ o visokorizičnim UI sustavima koji su sigurnosni sastavni dijelovi proizvodâ ili sustavâ ili koji su sami proizvodi ili sustavi obuhvaćeni područjem primjene Uredbe (EZ) br. 300/2008 Europskog parlamenta i Vijeća39, Uredbe (EU) br. 167/2013 Europskog parlamenta i Vijeća40, Uredbe (EU) br. 168/2013 Europskog parlamenta i Vijeća41, Direktive 2014/90/EU Europskog parlamenta i Vijeća42, Direktive (EU) 2016/797 Europskog parlamenta i Vijeća43, Uredbe (EU) 2018/858 Europskog parlamenta i Vijeća44, Uredbe (EU) 2018/1139 Europskog parlamenta i Vijeća45 i Uredbe (EU) 2019/2144 Europskog parlamenta i Vijeća46, primjereno je izmijeniti te akte kako bi se osiguralo da Komisija, na temelju tehničkih i regulatornih posebnosti svakog sektora te bez uplitanja u postojeće mehanizme upravljanja, ocjenjivanja sukladnosti i provedbe te rad tijela koja su njima utvrđena, pri donošenju svih relevantnih budućih delegiranih ili provedbenih akata na temelju tih akata uzima u obzir obvezne zahtjeve za visokorizične UI sustave utvrđene u ovoj Uredbi.
(29) Kad je riječ o visokorizičnim UI sustavima koji su sigurnosni sastavni dijelovi proizvodâ ili sustavâ ili koji su sami proizvodi ili sustavi obuhvaćeni područjem primjene Uredbe (EZ) br. 300/2008 Europskog parlamenta i Vijeća39, Uredbe (EU) br. 167/2013 Europskog parlamenta i Vijeća40, Uredbe (EU) br. 168/2013 Europskog parlamenta i Vijeća41, Direktive 2014/90/EU Europskog parlamenta i Vijeća42, Direktive (EU) 2016/797 Europskog parlamenta i Vijeća43, Uredbe (EU) 2018/858 Europskog parlamenta i Vijeća44, Uredbe (EU) 2018/1139 Europskog parlamenta i Vijeća45 i Uredbe (EU) 2019/2144 Europskog parlamenta i Vijeća46, primjereno je izmijeniti te akte kako bi se osiguralo da Komisija, na temelju tehničkih i regulatornih posebnosti svakog sektora te bez uplitanja u postojeće mehanizme upravljanja, ocjenjivanja sukladnosti, nadzora tržišta i provedbe te rad tijela koja su njima utvrđena, pri donošenju svih relevantnih budućih delegiranih ili provedbenih akata na temelju tih akata uzima u obzir obvezne zahtjeve za visokorizične UI sustave utvrđene u ovoj Uredbi.
__________________
__________________
39 Uredba (EZ) br. 300/2008 Europskog parlamenta i Vijeća od 11. ožujka 2008. o zajedničkim pravilima u području zaštite civilnog zračnog prometa i stavljanju izvan snage Uredbe (EZ) br. 2320/2002 (SL L 97, 9.4.2008., str. 72.).
39 Uredba (EZ) br. 300/2008 Europskog parlamenta i Vijeća od 11. ožujka 2008. o zajedničkim pravilima u području zaštite civilnog zračnog prometa i stavljanju izvan snage Uredbe (EZ) br. 2320/2002 (SL L 97, 9.4.2008., str. 72.).
40 Uredba (EU) br. 167/2013 Europskog parlamenta i Vijeća od 5. veljače 2013. o homologaciji i nadzoru tržišta traktora za poljoprivredu i šumarstvo (SL L 60, 2.3.2013., str. 1.).
40 Uredba (EU) br. 167/2013 Europskog parlamenta i Vijeća od 5. veljače 2013. o homologaciji i nadzoru tržišta traktora za poljoprivredu i šumarstvo (SL L 60, 2.3.2013., str. 1.).
41 Uredba (EU) br. 168/2013 Europskog parlamenta i Vijeća od 15. siječnja 2013. o homologaciji i nadzoru tržišta vozila na dva ili tri kotača i četverocikala (SL L 60, 2.3.2013., str. 52.).
41 Uredba (EU) br. 168/2013 Europskog parlamenta i Vijeća od 15. siječnja 2013. o homologaciji i nadzoru tržišta vozila na dva ili tri kotača i četverocikala (SL L 60, 2.3.2013., str. 52.).
42 Direktiva 2014/90/EU Europskog parlamenta i Vijeća od 23. srpnja 2014. o pomorskoj opremi i stavljanju izvan snage Direktive Vijeća 96/98/EZ (SL L 257, 28.8.2014., str. 146.).
42 Direktiva 2014/90/EU Europskog parlamenta i Vijeća od 23. srpnja 2014. o pomorskoj opremi i stavljanju izvan snage Direktive Vijeća 96/98/EZ (SL L 257, 28.8.2014., str. 146.).
43 Direktiva (EU) 2016/797 Europskog parlamenta i Vijeća od 11. svibnja 2016. o interoperabilnosti željezničkog sustava u Europskoj uniji (SL L 138, 26.5.2016., str. 44.).
43 Direktiva (EU) 2016/797 Europskog parlamenta i Vijeća od 11. svibnja 2016. o interoperabilnosti željezničkog sustava u Europskoj uniji (SL L 138, 26.5.2016., str. 44.).
44 Uredba (EU) 2018/858 Europskog parlamenta i Vijeća od 30. svibnja 2018. o homologaciji i nadzoru tržišta motornih vozila i njihovih prikolica te sustavâ, sastavnih dijelova i zasebnih tehničkih jedinica namijenjenih za takva vozila, o izmjeni uredaba (EZ) br. 715/2007 i (EZ) br. 595/2009 te o stavljanju izvan snage Direktive 2007/46/EZ (SL L 151, 14.6.2018., str. 1.).
44 Uredba (EU) 2018/858 Europskog parlamenta i Vijeća od 30. svibnja 2018. o homologaciji i nadzoru tržišta motornih vozila i njihovih prikolica te sustavâ, sastavnih dijelova i zasebnih tehničkih jedinica namijenjenih za takva vozila, o izmjeni uredaba (EZ) br. 715/2007 i (EZ) br. 595/2009 te o stavljanju izvan snage Direktive 2007/46/EZ (SL L 151, 14.6.2018., str. 1.).
45 Uredba (EU) 2018/1139 Europskog parlamenta i Vijeća od 4. srpnja 2018. o zajedničkim pravilima u području civilnog zrakoplovstva i osnivanju Agencije Europske unije za sigurnost zračnog prometa i izmjeni uredbi (EZ) br. 2111/2005, (EZ) br. 1008/2008, (EU) br. 996/2010, (EU) br. 376/2014 i direktiva 2014/30/EU i 2014/53/EU Europskog parlamenta i Vijeća te stavljanju izvan snage uredbi (EZ) br. 552/2004 i (EZ) br. 216/2008 Europskog parlamenta i Vijeća i Uredbe Vijeća (EEZ) br. 3922/91 (SL L 212, 22.8.2018., str. 1.).
45 Uredba (EU) 2018/1139 Europskog parlamenta i Vijeća od 4. srpnja 2018. o zajedničkim pravilima u području civilnog zrakoplovstva i osnivanju Agencije Europske unije za sigurnost zračnog prometa i izmjeni uredbi (EZ) br. 2111/2005, (EZ) br. 1008/2008, (EU) br. 996/2010, (EU) br. 376/2014 i direktiva 2014/30/EU i 2014/53/EU Europskog parlamenta i Vijeća te stavljanju izvan snage uredbi (EZ) br. 552/2004 i (EZ) br. 216/2008 Europskog parlamenta i Vijeća i Uredbe Vijeća (EEZ) br. 3922/91 (SL L 212, 22.8.2018., str. 1.).
46 Uredba (EU) 2019/2144 Europskog parlamenta i Vijeća od 27. studenoga 2019. o zahtjevima za homologaciju tipa za motorna vozila i njihove prikolice te za sustave, sastavne dijelove i zasebne tehničke jedinice namijenjene za takva vozila, u pogledu njihove opće sigurnosti te zaštite osoba u vozilima i nezaštićenih sudionika u cestovnom prometu, o izmjeni Uredbe (EU) 2018/858 Europskog parlamenta i Vijeća i stavljanju izvan snage uredbi (EZ) br. 78/2009, (EZ) br. 79/2009 i (EZ) br. 661/2009 Europskog parlamenta i Vijeća i uredbi Komisije (EZ) br. 631/2009, (EU) br. 406/2010, (EU) br. 672/2010, (EU) br. 1003/2010, (EU) br. 1005/2010, (EU) br. 1008/2010, (EU) br. 1009/2010, (EU) br. 19/2011, (EU) br. 109/2011, (EU) br. 458/2011, (EU) br. 65/2012, (EU) br. 130/2012, (EU) br. 347/2012, (EU) br. 351/2012, (EU) br. 1230/2012 i (EU) 2015/166 (SL L 325, 16.12.2019., str. 1.).
46 Uredba (EU) 2019/2144 Europskog parlamenta i Vijeća od 27. studenoga 2019. o zahtjevima za homologaciju tipa za motorna vozila i njihove prikolice te za sustave, sastavne dijelove i zasebne tehničke jedinice namijenjene za takva vozila, u pogledu njihove opće sigurnosti te zaštite osoba u vozilima i nezaštićenih sudionika u cestovnom prometu, o izmjeni Uredbe (EU) 2018/858 Europskog parlamenta i Vijeća i stavljanju izvan snage uredbi (EZ) br. 78/2009, (EZ) br. 79/2009 i (EZ) br. 661/2009 Europskog parlamenta i Vijeća i uredbi Komisije (EZ) br. 631/2009, (EU) br. 406/2010, (EU) br. 672/2010, (EU) br. 1003/2010, (EU) br. 1005/2010, (EU) br. 1008/2010, (EU) br. 1009/2010, (EU) br. 19/2011, (EU) br. 109/2011, (EU) br. 458/2011, (EU) br. 65/2012, (EU) br. 130/2012, (EU) br. 347/2012, (EU) br. 351/2012, (EU) br. 1230/2012 i (EU) 2015/166 (SL L 325, 16.12.2019., str. 1.).
Amandman 58 Prijedlog uredbe Uvodna izjava 30.
(30) Kad je riječ o UI sustavima koji su sigurnosni sastavni dijelovi proizvodâ ili su sami proizvodi, a obuhvaćeni su područjem primjene određenog zakonodavstva Unije o usklađivanju, primjereno ih je klasificirati među visokorizične na temelju ove Uredbe ako se za predmetni proizvod provodi postupak ocjenjivanja sukladnosti koji provodi tijelo za ocjenjivanje sukladnosti kao treća strana u skladu s relevantnim zakonodavstvom Unije o usklađivanju. Konkretno, takvi su proizvodi strojevi, igračke, dizala, oprema i zaštitni sustavi za uporabu u potencijalno eksplozivnim atmosferama, radijska oprema, tlačna oprema, oprema za rekreacijska plovila, žičare, aparati na plinovita goriva, medicinski proizvodi i in vitro dijagnostički medicinski proizvodi.
(30) Kad je riječ o UI sustavima koji su sigurnosni sastavni dijelovi proizvodâ ili su sami proizvodi, a obuhvaćeni su područjem primjene određenog prava Unije o usklađivanju navedenog u Prilogu II., primjereno ih je klasificirati među visokorizične na temelju ove Uredbe ako se za predmetni proizvod provodi postupak ocjenjivanja sukladnosti radi osiguravanja usklađenosti s ključnim sigurnosnim zahtjevima koji provodi tijelo za ocjenjivanje sukladnosti kao treća strana u skladu s relevantnim pravom Unije o usklađivanju. Konkretno, takvi su proizvodi strojevi, igračke, dizala, oprema i zaštitni sustavi za uporabu u potencijalno eksplozivnim atmosferama, radijska oprema, tlačna oprema, oprema za rekreacijska plovila, žičare, aparati na plinovita goriva, medicinski proizvodi i in vitro dijagnostički medicinski proizvodi.
Amandman 59 Prijedlog uredbe Uvodna izjava 31.
(31) Klasifikacija UI sustava kao visokorizičnog u skladu s ovom Uredbom ne bi nužno trebala značiti da se proizvod čiji je sigurnosni sastavni dio UI sustav ili pak sam UI sustav kao proizvod smatra „visokorizičnim” na temelju kriterija utvrđenih u relevantnom zakonodavstvu Unije o usklađivanju koje se primjenjuje na taj proizvod. To se posebno odnosi na Uredbu (EU) 2017/745 Europskog parlamenta i Vijeća47 i Uredbu (EU) 2017/746 Europskog parlamenta i Vijeća48 ako ocjenjivanje sukladnosti srednjerizičnih i visokorizičnih proizvoda provodi treća strana.
(31) Klasifikacija UI sustava kao visokorizičnog u skladu s ovom Uredbom ne bi trebala značiti da se proizvod čiji je sigurnosni sastavni dio UI sustav ili pak sam UI sustav kao proizvod smatra „visokorizičnim” na temelju kriterija utvrđenih u relevantnom pravu Unije o usklađivanju koje se primjenjuje na taj proizvod. To se posebno odnosi na Uredbu (EU) 2017/745 Europskog parlamenta i Vijeća47 i Uredbu (EU) 2017/746 Europskog parlamenta i Vijeća48 ako ocjenjivanje sukladnosti srednjerizičnih i visokorizičnih proizvoda provodi treća strana.
__________________
__________________
47 Uredba (EU) 2017/745 Europskog parlamenta i Vijeća od 5. travnja 2017. o medicinskim proizvodima, o izmjeni Direktive 2001/83/EZ, Uredbe (EZ) br. 178/2002 i Uredbe (EZ) br. 1223/2009 te o stavljanju izvan snage direktiva Vijeća 90/385/EEZ i 93/42/EEZ (SL L 117, 5.5.2017., str. 1.).
47 Uredba (EU) 2017/745 Europskog parlamenta i Vijeća od 5. travnja 2017. o medicinskim proizvodima, o izmjeni Direktive 2001/83/EZ, Uredbe (EZ) br. 178/2002 i Uredbe (EZ) br. 1223/2009 te o stavljanju izvan snage direktiva Vijeća 90/385/EEZ i 93/42/EEZ (SL L 117, 5.5.2017., str. 1.).
48 Uredba (EU) 2017/746 Europskog parlamenta i Vijeća od 5. travnja 2017. o in vitro dijagnostičkim medicinskim proizvodima te o stavljanju izvan snage Direktive 98/79/EZ i Odluke Komisije 2010/227/EU (SL L 117, 5.5.2017., str. 176.).
48 Uredba (EU) 2017/746 Europskog parlamenta i Vijeća od 5. travnja 2017. o in vitro dijagnostičkim medicinskim proizvodima te o stavljanju izvan snage Direktive 98/79/EZ i Odluke Komisije 2010/227/EU (SL L 117, 5.5.2017., str. 176.).
Amandman 60 Prijedlog uredbe Uvodna izjava 32.
(32) Kad je riječ o samostalnim UI sustavima, odnosno visokorizičnim UI sustavima koji nisu sigurnosni sastavni dijelovi proizvoda ili koji su sami proizvodi, primjereno ih je klasificirati kao visokorizične ako, s obzirom na njihovu namjenu, kod njih postoji velik rizik od štete za zdravlje i sigurnost ili temeljna prava osoba, uzimajući u obzir i ozbiljnost moguće štete i njezinu vjerojatnost pojavljivanja, te ako se upotrebljavaju u nekoliko posebnih unaprijed definiranih područja navedenih u Uredbi. Identifikacija tih sustava temelji se na istoj metodologiji i kriterijima predviđenima i za sve buduće izmjene popisa visokorizičnih UI sustava.
(32) Kad je riječ o samostalnim UI sustavima, odnosno visokorizičnim UI sustavima koji nisu sigurnosni sastavni dijelovi proizvoda ili koji su sami proizvodi i koji su uvršteni u jedno od područja i slučajeva primjene iz Priloga III., primjereno ih je klasificirati kao visokorizične ako, s obzirom na njihovu namjenu, kod njih postoji znatan rizik od štete za zdravlje i sigurnost ili temeljna prava osoba te, ako se UI sustav upotrebljava kao sigurnosni dio kritične infrastrukture, štete za okoliš. Takav znatan rizik od štete trebalo bi utvrditi procjenom utjecaja takvog rizika s obzirom na kombinaciju njegove razine ozbiljnosti, intenziteta, vjerojatnosti pojavljivanja i trajanja, s jedne strane, te procjenom toga može li rizik utjecati na pojedinca, više osoba ili određenu skupinu osoba, s druge strane. Takva kombinacija mogla bi, na primjer, dovesti do visoke ozbiljnosti, ali male vjerojatnosti da će utjecati na pojedinca ili do velike vjerojatnosti da će utjecati na skupinu osoba, ali će biti niskog intenziteta tijekom dugog razdoblja, ovisno o kontekstu. Identifikacija tih sustava temelji se na istoj metodologiji i kriterijima predviđenima i za sve buduće izmjene popisa visokorizičnih UI sustava.
(32 a) Dobavljači čiji UI sustavi pripadaju u jedno od područja i slučajeva primjene navedenih u Prilogu III. i koji smatraju da njihov sustav ne predstavlja znatan rizik od štete za zdravlje, sigurnost, temeljna prava ili okoliš trebali bi o tome obavijestiti nacionalna nadzorna tijela podnošenjem obrazložene obavijesti. Obavijest bi mogla biti u obliku sažetka, duljine jedne stranice, relevantnih informacija o predmetnom UI sustavu, uključujući njegovu namjenu i obrazloženje zašto ne bi predstavljao znatan rizik od štete za zdravlje, sigurnost, temeljna prava ili okoliš. Komisija bi trebala utvrditi kriterije kako bi poduzećima omogućila da procijene bi li njihov sustav predstavljao takve rizike te izraditi jednostavan i standardizirani obrazac za obavijest. Dobavljači bi trebali dostaviti obavijest što je prije moguće, a u svakom slučaju prije stavljanja UI sustava na tržište ili u uporabu, po mogućnosti u fazi razvoja, te bi ga trebali moći staviti na tržište u bilo kojem trenutku nakon dostavljanja obavijesti. Međutim, ako nadležno tijelo procijeni da je predmetni UI sustav pogrešno klasificiran, trebalo bi uložiti prigovor na obavijest u roku od tri mjeseca. Prigovor bi trebalo potkrijepiti i propisno objasniti zašto je UI sustav pogrešno klasificiran. Dobavljač bi trebao zadržati pravo na žalbu iznošenjem dodatnih argumenata. Ako nakon tri mjeseca nije bilo prigovora na obavijest, nacionalna nadzorna tijela i dalje bi mogla intervenirati ako UI sustav predstavlja rizik na nacionalnoj razini, kao i za bilo koji drugi UI sustav na tržištu. Nacionalna nadzorna tijela trebala bi Uredu za umjetnu inteligenciju podnositi godišnja izvješća s pojedinostima o primljenim obavijestima i donesenim odlukama.
Amandman 62 Prijedlog uredbe Uvodna izjava 33.
(33) Tehničke netočnosti UI sustava namijenjenih daljinskoj biometrijskoj identifikaciji fizičkih osoba mogu dovesti do pristranih rezultata i imati diskriminacijske učinke. To je posebno relevantno kad je riječ o dobi, etničkom podrijetlu, spolu ili invaliditetu. Stoga bi sustave za daljinsku biometrijsku identifikaciju u stvarnom vremenu i sustave za naknadnu daljinsku biometrijsku identifikaciju trebalo klasificirati kao visokorizične. S obzirom na rizike koje predstavljaju, na obje vrste sustava za daljinsku biometrijsku identifikaciju trebali bi se primjenjivati posebni zahtjevi u pogledu funkcija bilježenja događaja i ljudskog nadzora.
(33 a) Budući da su biometrijski podaci posebna kategorija osjetljivih osobnih podataka u skladu s Uredbom 2016/679, primjereno je klasificirati kao visokorizične nekoliko kritičnih slučajeva primjene biometrijskih sustava i sustava koji se temelje na biometriji. UI sustavi namijenjeni za biometrijsku identifikaciju pojedinaca i UI sustavi namijenjeni za izvođenje zaključaka o osobnim obilježjima pojedinaca na temelju biometrijskih podataka ili podataka koji se temelje na biometriji, uključujući sustave za prepoznavanje emocija, osim onih koji su zabranjeni ovom Uredbom, stoga bi trebali biti klasificirani kao visokorizični. To ne bi trebalo uključivati UI sustave namijenjene za biometrijsku provjeru, što uključuje autentifikaciju, čija je jedina svrha potvrditi da je određeni pojedinac doista osoba kojom se predstavlja i potvrditi identitet pojedinca isključivo u svrhu pristupa usluzi, uređaju ili prostorijama (provjera usporedbom dvaju uzoraka). Ne bi se trebalo smatrati da biometrijski sustavi i sustavi koji se temelje na biometriji koji su predviđeni pravom Unije kako bi se omogućile mjere kibersigurnosti i zaštite osobnih podataka predstavljaju znatan rizik od štete za zdravlje, sigurnost i temeljna prava.
Amandman 64 Prijedlog uredbe Uvodna izjava 34.
(34) Kad je riječ o upravljanju kritičnom infrastrukturom i njezinu radu, primjereno je klasificirati kao visokorizične one UI sustave koji su namijenjeni uporabi kao sigurnosni sastavni dijelovi u cestovnom prometu i upravljanju njime te opskrbi vodom, plinom, grijanjem i električnom energijom jer bi njihov kvar ili neispravnost mogli ugroziti život i zdravlje osoba u velikim razmjerima te znatno poremetiti uobičajeno odvijanje društvenih i gospodarskih aktivnosti.
(34) Kad je riječ o upravljanju kritičnom infrastrukturom i njezinu radu, primjereno je klasificirati kao visokorizične one UI sustave koji su namijenjeni uporabi kao sigurnosni sastavni dijelovi u upravljanju i radu opskrbe vodom, plinom, grijanjem, električnom energijom i kritičnom digitalnom infrastrukturom jer bi njihov kvar ili neispravnost mogli narušiti sigurnost i integritet takve kritične infrastrukture ili ugroziti život i zdravlje osoba u velikim razmjerima te znatno poremetiti uobičajeno odvijanje društvenih i gospodarskih aktivnosti. Sigurnosni sastavni dijelovi kritične infrastrukture, uključujući kritičnu digitalnu infrastrukturu, sustavi su koji se upotrebljavaju za izravnu zaštitu fizičkog integriteta kritične infrastrukture ili zdravlja i sigurnosti osoba i imovine. Kvar ili neispravnost takvih sastavnih dijelova može izravno dovesti do rizika za fizički integritet kritične infrastrukture, a time i do rizika za zdravlje i sigurnost osoba i imovine. Sastavne dijelove namijenjene isključivo uporabi u kibersigurnosne svrhe ne bi trebalo smatrati sigurnosnim sastavnim dijelovima. Primjeri takvih sigurnosnih sastavnih dijelova mogu uključivati sustave za praćenje tlaka vode ili sustave za kontrolu protupožarnog alarma u centrima za računalstvo u oblaku.
Amandman 65 Prijedlog uredbe Uvodna izjava 35.
(35) UI sustavi koji se upotrebljavaju u obrazovanju ili strukovnom osposobljavanju, posebno za razvrstavanje osoba u ustanove za obrazovanje i strukovno osposobljavanje ili za određivanje pristupa tim ustanovama ili pak za ocjenjivanje osoba na testiranjima tijekom obrazovanja ili kao preduvjet za obrazovanje, trebaju se smatrati visokorizičnima jer mogu odrediti obrazovni i profesionalni tijek života osobe i stoga utjecati na njezinu mogućnost da osigura vlastita sredstva za život. Ako se projektiraju i upotrebljavaju na nepravilan način, takvi sustavi mogu kršiti pravo na obrazovanje i osposobljavanje i pravo na nediskriminaciju te mogu održati povijesne diskriminacijske uzorke.
(35) Uvođenje UI sustava u obrazovanje važno je za potporu modernizaciji cijelih obrazovnih sustava i povećanje kvalitete obrazovanja, na internetu i izvan njega, te za ubrzavanje uvođenja digitalnog obrazovanja, koje bi tako postalo dostupno široj javnosti. UI sustavi koji se upotrebljavaju u obrazovanju ili strukovnom osposobljavanju, posebno za razvrstavanje osoba u ustanove za obrazovanje i strukovno osposobljavanje ili za određivanje pristupa tim ustanovama ili za bitno utjecanje na odluke o pristupu tim ustanovama ili pak za ocjenjivanje osoba na testiranjima tijekom obrazovanja ili kao preduvjet za obrazovanje ili za procjenu odgovarajuće razine obrazovanja pojedinca i bitnog utjecaja na razinu obrazovanja i osposobljavanja koju će pojedinci primiti ili kojoj će moći pristupiti ili za nadziranje i otkrivanje zabranjenog postupanja učenika tijekom testiranja trebali bi se klasificirati kao visokorizični UI sustavi jer mogu odrediti obrazovni i profesionalni tijek života osobe i stoga utjecati na njezinu mogućnost da osigura vlastita sredstva za život. Ako se projektiraju i upotrebljavaju na nepravilan način, takvi sustavi mogu biti posebno invazivni i mogu kršiti pravo na obrazovanje i osposobljavanje i pravo na nediskriminaciju te mogu održati povijesne diskriminacijske uzorke, na primjer kad je riječ o ženama, određenim dobnim skupinama, osobama s invaliditetom odnosno osobama određenog rasnog ili etničkog podrijetla ili seksualne orijentacije.
Amandman 66 Prijedlog uredbe Uvodna izjava 36.
(36) UI sustavi koji se upotrebljavaju za zapošljavanje, kadrovsko upravljanje i pristup samozapošljavanju, posebno za pronalaženje i odabir osoba, za donošenje odluka o promaknućima i otkazima te za dodjeljivanje zadataka, praćenje ili evaluaciju osoba u ugovornim odnosima povezanima s poslom, isto bi tako trebali biti klasificirani kao visokorizični jer bi mogli znatno utjecati na buduće mogućnosti za razvoj karijere i životne uvjete tih osoba. Relevantni radni ugovorni odnosi trebali bi uključivati zaposlenike i osobe koje pružaju usluge posredstvom platformi kako je navedeno u programu rada Komisije za 2021. Takve se osobe u načelu ne bi trebale smatrati korisnicima u smislu ove Uredbe. U procesu zapošljavanja i pri evaluaciji, promicanju ili zadržavanju osoba u radnim ugovornim odnosima takvi sustavi mogu održati povijesne uzorke diskriminacije, primjerice žena, određenih dobnih skupina, osoba s invaliditetom ili osoba određenog rasnog ili etničkog podrijetla ili spolne orijentacije. UI sustavi koji se upotrebljavaju za praćenje uspješnosti i ponašanja tih osoba mogu utjecati i na njihova prava na zaštitu osobnih podataka i privatnost.
(36) UI sustavi koji se upotrebljavaju za zapošljavanje, kadrovsko upravljanje i pristup samozapošljavanju, posebno za pronalaženje i odabir osoba, za donošenje odluka ili bitno utjecanje na odluke o zapošljavanju, promaknućima i otkazima te za personalizirano dodjeljivanje zadataka na temelju ponašanja, osobnih obilježja ili biometrijskih podataka pojedinca, praćenje ili evaluaciju osoba u ugovornim odnosima povezanima s poslom, isto bi tako trebali biti klasificirani kao visokorizični jer bi mogli znatno utjecati na buduće mogućnosti za razvoj karijere, životne uvjete i radnička prava tih osoba. Relevantni radni ugovorni odnosi trebali bi smisleno uključivati zaposlenike i osobe koje pružaju usluge posredstvom platformi kako je navedeno u programu rada Komisije za 2021. U procesu zapošljavanja i pri evaluaciji, promicanju ili zadržavanju osoba u radnim ugovornim odnosima takvi sustavi mogu održati povijesne uzorke diskriminacije, primjerice žena, određenih dobnih skupina, osoba s invaliditetom ili osoba određenog rasnog ili etničkog podrijetla ili spolne orijentacije. UI sustavi koji se upotrebljavaju za praćenje uspješnosti i ponašanja tih osoba mogu i ugroziti bit njihovih temeljnih prava na zaštitu osobnih podataka i privatnost. Ova se Uredba primjenjuje ne dovodeći u pitanje nadležnosti Unije i država članica za utvrđivanje konkretnijih pravila za uporabu UI sustava u kontekstu zapošljavanja.
Amandman 67 Prijedlog uredbe Uvodna izjava 37.
(37) Još jedno područje u kojem UI sustavima treba posvetiti posebnu pozornost jest korištenje i dostupnost određenih privatnih i javnih usluga i pogodnosti nužnih za potpuno sudjelovanje u društvu ili poboljšanje životnog standarda osoba. Točnije, UI sustave koji se upotrebljavaju za ocjenu kreditnog rejtinga ili kreditne sposobnosti pojedinaca trebalo bi klasificirati kao visokorizične UI sustave jer određuju pristup tih osoba financijskim sredstvima ili osnovnim uslugama kao što su stanovanje, električna energija i telekomunikacijske usluge. UI sustavi koji se upotrebljavaju u tu svrhu mogu prouzročiti diskriminaciju osoba ili skupina te nastaviti povijesne uzorke diskriminacije, primjerice na temelju rasnog ili etničkog podrijetla, invaliditeta, dobi, spolne orijentacije, ili mogu stvoriti nove oblike diskriminacije. Uzimajući u obzir vrlo ograničenu razinu utjecaja i dostupne alternative na tržištu, primjereno je izuzeti UI sustave za potrebe ocjene kreditne sposobnosti i kreditnog rejtinga kad ih u uporabu stavljaju mali dobavljači za vlastite potrebe. Pojedinci koji tijelima javne vlasti podnose zahtjev za naknade i usluge javne pomoći ili ih primaju obično ovise o tim naknadama i uslugama te su u ranjivu položaju u odnosu na nadležna tijela. Ako nadležna tijela upotrebljavaju UI sustave za određivanje treba li takve naknade i usluge odbiti, smanjiti, ukinuti ili treba li tražiti njihov povrat, ti sustavi mogu znatno utjecati na životne uvjete tih osoba i mogu kršiti njihova temeljna prava, kao što su pravo na socijalnu zaštitu, nediskriminaciju, ljudsko dostojanstvo ili djelotvoran pravni lijek. Te bi sustave stoga trebalo klasificirati kao visokorizične. Međutim, ova Uredba ne bi trebala otežavati razvoj i primjenu inovativnih pristupa u javnoj upravi, koja bi imala izravnu korist od šire uporabe usklađenih i sigurnih UI sustava, pod uvjetom da ti sustavi ne podrazumijevaju velik rizik za pravne i fizičke osobe. Naposljetku, UI sustavi koji se upotrebljavaju za dispečiranje ili određivanje prioriteta pri dispečiranju hitnih službi isto bi se trebali smatrati visokorizičnima jer donose odluke u situacijama koje su kritične za život i zdravlje osoba te za njihovu imovinu.
(37) Još jedno područje u kojem UI sustavima treba posvetiti posebnu pozornost jest korištenje i dostupnost određenih privatnih i javnih usluga, uključujući usluge zdravstvene skrbi, te osnovnih usluga, uključujući, ali ne ograničavajući se na stanovanje, električnu energiju, grijanje/hlađenje i internet, i pogodnosti nužnih za potpuno sudjelovanje u društvu ili poboljšanje životnog standarda osoba. Točnije, UI sustave koji se upotrebljavaju za ocjenu kreditnog rejtinga ili kreditne sposobnosti pojedinaca trebalo bi klasificirati kao visokorizične UI sustave jer određuju pristup tih osoba financijskim sredstvima ili osnovnim uslugama kao što su stanovanje, električna energija i telekomunikacijske usluge. UI sustavi koji se upotrebljavaju u tu svrhu mogu prouzročiti diskriminaciju osoba ili skupina te nastaviti povijesne uzorke diskriminacije, primjerice na temelju rasnog ili etničkog podrijetla, roda, invaliditeta, dobi, spolne orijentacije, ili mogu stvoriti nove oblike diskriminacije. Međutim, UI sustavi predviđeni pravom Unije u svrhu otkrivanja prijevara u ponudi financijskih usluga ne bi se trebali smatrati visokorizičnima u skladu s ovom Uredbom. Pojedinci koji tijelima javne vlasti podnose zahtjev za naknade i usluge javne pomoći, među ostalim usluge zdravstvene skrbi i osnovne usluge, uključujući, ali ne ograničavajući se na stanovanje, električnu energiju, grijanje/hlađenje i internet, ili ih primaju obično ovise o tim naknadama i uslugama te su u ranjivu položaju u odnosu na nadležna tijela. Ako nadležna tijela upotrebljavaju UI sustave za određivanje treba li takve naknade i usluge odbiti, smanjiti, ukinuti ili treba li tražiti njihov povrat, ti sustavi mogu znatno utjecati na životne uvjete tih osoba i mogu kršiti njihova temeljna prava, kao što su pravo na socijalnu zaštitu, nediskriminaciju, ljudsko dostojanstvo ili djelotvoran pravni lijek. Slično tome, UI sustavi namijenjeni za donošenje odluka ili bitno utjecanje na odluke o prihvatljivosti pojedinaca za zdravstveno i životno osiguranje također mogu znatno utjecati na životne uvjete osoba i mogu kršiti njihova temeljna prava, primjerice ograničavanjem pristupa zdravstvenoj skrbi ili nastavljanjem diskriminacije na temelju osobnih obilježja. Te bi sustave stoga trebalo klasificirati kao visokorizične. Međutim, ova Uredba ne bi trebala otežavati razvoj i primjenu inovativnih pristupa u javnoj upravi, koja bi imala izravnu korist od šire uporabe usklađenih i sigurnih UI sustava, pod uvjetom da ti sustavi ne podrazumijevaju velik rizik za pravne i fizičke osobe. Naposljetku, UI sustavi koji se upotrebljavaju za evaluaciju i klasfikaciju hitnih poziva pojedinaca ili za dispečiranje ili određivanje prioriteta pri dispečiranju hitnih službi isto bi se trebali smatrati visokorizičnima jer donose odluke u situacijama koje su kritične za život i zdravlje osoba te za njihovu imovinu.
(37 a) S obzirom na ulogu i odgovornost policije i pravosudnih tijela te utjecaj odluka koje oni donose u svrhe sprečavanja, istrage, otkrivanja ili kaznenog progona kaznenih djela ili izvršavanja kaznenopravnih sankcija, uporaba UI aplikacija u nekim posebnim slučajevima primjene u kaznenom progonu mora se kategorizirati kao visokorizična, osobito u slučajevima u kojima postoji mogućnost znatnog utjecaja na živote ili temeljna prava pojedinaca.
Amandman 69 Prijedlog uredbe Uvodna izjava 38.
(38) Postupcima tijelâ kaznenog progona koji uključuju određene uporabe UI sustavâ svojstvena je znatna neravnoteža moći, pa mogu dovesti do nadzora, uhićenja ili oduzimanja slobode pojedinaca, kao i do drugih nepovoljnih utjecaja na temeljna prava zajamčena Poveljom. Naime, ako UI sustav nije učen visokokvalitetnim podacima, ne ispunjava odgovarajuće zahtjeve u pogledu točnosti ili otpornosti ili nije pravilno projektiran i testiran prije stavljanja na tržište ili u uporabu, on može izdvajati ljude na diskriminatoran ili na drukčije netočan ili nepravedan način. Nadalje, ostvarivanje važnih postupovnih temeljnih prava, kao što su pravo na djelotvoran pravni lijek i na pošteno suđenje te pravo na obranu i pretpostavku nedužnosti, moglo bi biti otežano, osobito ako takvi UI sustavi nisu dovoljno transparentni i objašnjivi te kad o njima ne postoji dovoljno dokumentacije. Stoga je primjereno klasificirati kao visokorizične one UI sustave koji su namijenjeni uporabi u kontekstu kaznenog progona kad su točnost, pouzdanost i transparentnost posebno važne kako bi se izbjegli nepovoljni utjecaji, zadržalo povjerenje javnosti te osigurala odgovornost i učinkovita pravna zaštita. S obzirom na prirodu tih postupaka i s njima povezane rizike, među visokorizične UI sustave trebalo bi osobito klasificirati UI sustave namijenjene tijelima kaznenog progona za pojedinačne procjene rizika, poligrafe i slične alate ili za utvrđivanje emocionalnog stanja pojedinca, za otkrivanje „deep fake” sadržaja, za procjenu pouzdanosti dokaza u kaznenim postupcima, za predviđanje počinjenja ili ponavljanja stvarnog ili potencijalnog kaznenog djela na temelju izrade profila pojedinaca ili procjenu osobina ličnosti i karakteristika ili prijašnjeg kriminalnog ponašanja pojedinaca ili skupina, za izradu profila tijekom otkrivanja, istrage ili progona kaznenih djela, kao i za analitiku kaznenih djela koja se odnosi na pojedince. UI sustavi posebno namijenjeni za upravne postupke poreznih i carinskih tijela ne bi se trebali smatrati visokorizičnim UI sustavima koje tijela kaznenog progona upotrebljavaju u svrhu sprečavanja, otkrivanja, istrage i progona kaznenih djela.
(38) Postupcima tijelâ kaznenog progona koji uključuju određene uporabe UI sustavâ svojstvena je znatna neravnoteža moći, pa mogu dovesti do nadzora, uhićenja ili oduzimanja slobode pojedinaca, kao i do drugih nepovoljnih utjecaja na temeljna prava zajamčena Poveljom. Naime, ako UI sustav nije učen visokokvalitetnim podacima, ne ispunjava odgovarajuće zahtjeve u pogledu svoje sposobnosti, točnosti ili otpornosti ili nije pravilno projektiran i testiran prije stavljanja na tržište ili u uporabu, on može izdvajati ljude na diskriminatoran ili na drukčije netočan ili nepravedan način. Nadalje, ostvarivanje važnih postupovnih temeljnih prava, kao što su pravo na djelotvoran pravni lijek i na pošteno suđenje te pravo na obranu i pretpostavku nedužnosti, moglo bi biti otežano, osobito ako takvi UI sustavi nisu dovoljno transparentni i objašnjivi te kad o njima ne postoji dovoljno dokumentacije. Stoga je primjereno klasificirati kao visokorizične one UI sustave koji su namijenjeni uporabi u kontekstu kaznenog progona kad su točnost, pouzdanost i transparentnost posebno važne kako bi se izbjegli nepovoljni utjecaji, zadržalo povjerenje javnosti te osigurala odgovornost i učinkovita pravna zaštita. S obzirom na prirodu tih postupaka i s njima povezane rizike, među visokorizične UI sustave trebalo bi osobito klasificirati UI sustave namijenjene tijelima kaznenog progona, ili za upotrebu u njihovo ime, ili pak agencijama, uredima ili tijelima Unije radi potpore tijelima kaznenog progona, kao što su poligrafi i slični alati u mjeri u kojoj je njihova upotreba dopuštena u okviru relevantnog prava Unije ili nacionalnog prava za procjenu pouzdanosti dokaza u kaznenim postupcima, za izradu profila tijekom otkrivanja, istrage ili progona kaznenih djela, kao i za analitiku kaznenih djela koja se odnosi na pojedince. UI sustavi posebno namijenjeni za upravne postupke poreznih i carinskih tijela ne bi se trebali klasificirati kao visokorizični UI sustavi koje tijela kaznenog progona upotrebljavaju u svrhu sprečavanja, otkrivanja, istrage i progona kaznenih djela. Uporaba UI alata u tijelima kaznenog progona i pravosudnim tijelima ne bi smjela postati čimbenik nejednakosti, društvenog raslojavanja ili isključenosti. Ne bi se smio zanemariti utjecaj uporabe UI alata na prava osumnjičenika na obranu, osobito s obzirom na poteškoće u dobivanju smislenih informacija o njihovu funkcioniranju i posljedični problem osporavanja njihovih rezultata na sudu, osobito za pojedince pod istragom.
Amandman 70 Prijedlog uredbe Uvodna izjava 39.
(39) UI sustavi koji se upotrebljavaju u upravljanju migracijama, azilom i granicama utječu na osobe koje su često u osobito ranjivu položaju i koje ovise o ishodu postupaka nadležnih tijela javne vlasti. Točnost, nediskriminacija i transparentnost UI sustava koji se upotrebljavaju u tim kontekstima stoga su posebno važne kako bi se zajamčilo poštovanje temeljnih prava zahvaćenih osoba, posebno njihovih prava na slobodno kretanje, nediskriminaciju, zaštitu privatnog života i osobnih podataka, međunarodnu zaštitu i dobru upravu. Stoga je primjereno klasificirati kao visokorizične one UI sustave namijenjene tijelima javne vlasti nadležnima za zadaće u području upravljanja migracijama, azilom i granicama, kao što su poligrafi i slični alati ili sustavi za utvrđivanje emocionalnog stanja pojedinca, za procjenu određenih rizika koje predstavljaju pojedinci koji ulaze na državno područje države članice ili podnose zahtjev za vizu ili azil, za provjeru vjerodostojnosti relevantnih dokumenata pojedinaca, za pomaganje nadležnim tijelima javne vlasti pri razmatranju zahtjeva za azil, vize i boravišne dozvole te s tim povezanih pritužbi s obzirom na cilj da se utvrdi prihvatljivost pojedinca koji podnosi zahtjev za taj status. UI sustavi koji se upotrebljavaju u upravljanju migracijama, azilom i granicama obuhvaćeni ovom Uredbom trebali bi biti u skladu s relevantnim postupovnim zahtjevima utvrđenima Direktivom 2013/32/EU Europskog parlamenta i Vijeća49, Uredbom (EZ) br. 810/2009 Europskog parlamenta i Vijeća50 i drugim relevantnim propisima.
(39) UI sustavi koji se upotrebljavaju u upravljanju migracijama, azilom i granicama utječu na osobe koje su često u osobito ranjivu položaju i koje ovise o ishodu postupaka nadležnih tijela javne vlasti. Točnost, nediskriminacija i transparentnost UI sustava koji se upotrebljavaju u tim kontekstima stoga su posebno važne kako bi se zajamčilo poštovanje temeljnih prava zahvaćenih osoba, posebno njihovih prava na slobodno kretanje, nediskriminaciju, zaštitu privatnog života i osobnih podataka, međunarodnu zaštitu i dobru upravu. Stoga je primjereno klasificirati kao visokorizične one UI sustave namijenjene tijelima javne vlasti ili za uporabu u njihovo ime ili agencijama, uredima i tijelima Unije nadležnima za zadaće u području upravljanja migracijama, azilom i granicama, kao što su poligrafi i slični alati u mjeri u kojoj je njihova upotreba dopuštena u sklopu relevantnog prava Unije i nacionalnog prava za procjenu određenih rizika koje predstavljaju pojedinci koji ulaze na državno područje države članice ili podnose zahtjev za vizu ili azil, za provjeru vjerodostojnosti relevantnih dokumenata pojedinaca, za pomaganje nadležnim tijelima javne vlasti pri razmatranju i procjeni vjerodostojnosti dokaza u pogledu zahtjeva za azil, viza i boravišnih dozvola te s tim povezanih pritužbi s obzirom na cilj da se utvrdi prihvatljivost pojedinca koji podnosi zahtjev za taj status, za praćenje, nadziranje ili obradu osobnih podataka u kontekstu aktivnosti upravljanja granicama u svrhu otkrivanja, prepoznavanja ili identifikacije pojedinaca te za prognoziranje ili predviđanje trendova povezanih s migracijskim tokovima i graničnim prijelazima. UI sustavi koji se upotrebljavaju u upravljanju migracijama, azilom i granicama obuhvaćeni ovom Uredbom trebali bi biti u skladu s relevantnim postupovnim zahtjevima utvrđenima Direktivom 2013/32/EU Europskog parlamenta i Vijeća49, Uredbom (EZ) br. 810/2009 Europskog parlamenta i Vijeća50 i drugim relevantnim propisima. Države članice ili institucije, agencije ili tijela Unije ni u kojem slučaju ne bi smjeli upotrebljavati UI sustave u upravljanju migracijama, azilom i nadzorom granica kao sredstvo za izbjegavanje svojih međunarodnih obveza u skladu s Konvencijom od 28. srpnja 1951. o statusu izbjeglica kako je izmijenjena Protokolom od 31. siječnja 1967. niti bi se ti sustavi smjeli upotrebljavati za kršenje načela zabrane prisilnog udaljenja ili vraćanja ili za uskraćivanje sigurnih i učinkovitih zakonitih mogućnosti za dolazak u Uniju, uključujući pravo na međunarodnu zaštitu.
__________________
__________________
49 Direktiva 2013/32/EU Europskog parlamenta i Vijeća od 26. lipnja 2013. o zajedničkim postupcima za priznavanje i oduzimanje međunarodne zaštite (SL L 180, 29.6.2013., str. 60.).
49 Direktiva 2013/32/EU Europskog parlamenta i Vijeća od 26. lipnja 2013. o zajedničkim postupcima za priznavanje i oduzimanje međunarodne zaštite (SL L 180, 29.6.2013., str. 60.).
50 Uredba (EZ) br. 810/2009 Europskog parlamenta i Vijeća od 13. srpnja 2009. o uspostavi Zakonika Zajednice o vizama (Zakonik o vizama) (SL L 243, 15.9.2009., str. 1.).
50 Uredba (EZ) br. 810/2009 Europskog parlamenta i Vijeća od 13. srpnja 2009. o uspostavi Zakonika Zajednice o vizama (Zakonik o vizama) (SL L 243, 15.9.2009., str. 1.).
Amandman 71 Prijedlog uredbe Uvodna izjava 40.
(40) Određene UI sustave namijenjene pravosuđu i demokratskim procesima trebalo bi klasificirati kao visokorizične s obzirom na njihov potencijalno velik utjecaj na demokraciju, vladavinu prava, osobne slobode te pravo na djelotvoran pravni lijek i na pošteno suđenje. Točnije, radi smanjenja rizika od mogućih pristranosti, pogrešaka i netransparentnosti, primjereno je klasificirati kao visokorizične one UI sustave koji su namijenjeni za pomoć pravosudnim tijelima u istraživanju i tumačenju činjenica i prava te primjeni prava na konkretan skup činjenica. Međutim, takva se kvalifikacija ne bi se trebala odnositi na UI sustave namijenjene isključivo pomoćnim administrativnim aktivnostima koje ne utječu na stvarno sudovanje u pojedinačnim slučajevima, kao što su anonimizacija ili pseudonimizacija sudskih odluka, dokumenata ili podataka, komunikacija među osobljem, administrativne zadaće ili raspodjela resursa.
(40) Određene UI sustave namijenjene pravosuđu i demokratskim procesima trebalo bi klasificirati kao visokorizične s obzirom na njihov potencijalno velik utjecaj na demokraciju, vladavinu prava, osobne slobode te pravo na djelotvoran pravni lijek i na pošteno suđenje. Točnije, radi smanjenja rizika od mogućih pristranosti, pogrešaka i netransparentnosti, primjereno je klasificirati kao visokorizične one UI sustave koji su namijenjeni za upotrebu u pravosudnom ili upravnom tijelu ili u njihovo ime za pomoć pravosudnim ili upravnim tijelima u istraživanju i tumačenju činjenica i prava te primjeni prava na konkretan skup činjenica ili koji se upotrebljavaju na sličan način u alternativnom rješavanju sporova. Alati umjetne inteligencije mogu se koristiti kao pomoć u donošenju odluka, ali oni ne bi smjeli zamijeniti ovlast sudaca za donošenje odluka ili neovisnost sudstva s obzirom na to da konačno donošenje odluka mora ostati pod kontrolom ljudi. Međutim, takva se kvalifikacija ne bi se trebala odnositi na UI sustave namijenjene isključivo pomoćnim administrativnim aktivnostima koje ne utječu na stvarno sudovanje u pojedinačnim slučajevima, kao što su anonimizacija ili pseudonimizacija sudskih odluka, dokumenata ili podataka, komunikacija među osobljem, administrativne zadaće ili raspodjela resursa.
(40 a) Kako bi se uklonili rizici od neopravdanog vanjskog uplitanja u pravo glasa utvrđeno u članku 39. Povelje i nerazmjernih učinaka na demokratske procese, demokraciju i vladavinu prava, UI sustavi koji su namijenjeni za upotrebu u utjecanju na ishod izbora ili referenduma ili na ponašanje pojedinaca pri glasovanju na izborima ili referendumima trebali bi se klasificirati kao visokorizični UI sustavi, izuzevši UI sustave čijim izlaznim rezultatima pojedinci nisu izravno izloženi, kao što su alati koji se koriste za organizaciju, optimizaciju i strukturiranje političkih kampanja s administrativnog i logističkog stajališta.
(40 b) S obzirom na razmjere u kojima se pojedinci koriste uslugama platformi društvenih mreža koje su određene kao vrlo velike internetske platforme, takve internetske platforme mogu se upotrebljavati na način koji snažno utječe na sigurnost na internetu, oblikovanje javnog mnijenja i diskursa, izborne i demokratske procese te društvena pitanja. Stoga je primjereno da UI sustavi koje te internetske platforme upotrebljavaju u svojim sustavima za preporučivanje podliježu ovoj Uredbi kako bi se osiguralo da UI sustavi ispunjavaju zahtjeve utvrđene u ovoj Uredbi, uključujući tehničke zahtjeve u pogledu upravljanja podacima, tehničke dokumentacije i sljedivosti, transparentnosti, ljudskog nadzora, točnosti i otpornosti. Usklađenost s ovom Uredbom trebala bi jako velikim internetskim platformama omogućiti da poštuju svoje šire obveze u pogledu procjene rizika i smanjenja rizika iz članaka 34. i 35. Uredbe (EU) 2022/2065. Obvezama iz ove Uredbe ne dovodi se u pitanje Uredba (EU) 2022/2065 te bi one trebale dopuniti obveze propisane Uredbom (EU) 2022/2065 ako je platforma društvenih medija određena kao vrlo vrlo velika internetska platforma. S obzirom na to da platforme društvenih medija koje su određene kao vrlo velike internetske platforme imaju utjecaj na razini cijele Europe, tijela imenovana na temelju Uredbe (EU) 2022/2065 trebala bi djelovati kao provedbena tijela za potrebe provedbe te odredbe.
Amandman 74 Prijedlog uredbe Uvodna izjava 41.
(41) Činjenica da je UI sustav klasificiran kao visokorizičan na temelju ove Uredbe ne bi se trebala tumačiti kao indikator da je uporaba sustava nužno zakonita na temelju drugih pravnih akata Unije ili nacionalnog prava koje je usklađeno s pravom Unije, primjerice o zaštiti osobnih podataka, o uporabi poligrafa i sličnih alata ili drugih sustava kojima se utvrđuje emocionalno stanje pojedinaca. Svaka takva uporaba trebala bi se i dalje ostvarivati samo u skladu s primjenjivim zahtjevima koji proizlaze iz Povelje te primjenjivih akata sekundarnog prava Unije i nacionalnog prava. Ovu Uredbu ne bi trebalo tumačiti kao pružanje pravne osnove za obradu osobnih podataka, uključujući, ovisno o slučaju, posebne kategorije osobnih podataka.
(41) Činjenica da je UI sustav klasificiran kao visokorizičan UI sustav na temelju ove Uredbe ne bi se trebala tumačiti kao indikator da je uporaba sustava nužno zakonita ili nezakonita na temelju drugih pravnih akata Unije ili nacionalnog prava koje je usklađeno s pravom Unije, primjerice o zaštiti osobnih podataka. Svaka takva uporaba trebala bi se i dalje ostvarivati samo u skladu s primjenjivim zahtjevima koji proizlaze iz Povelje te primjenjivih akata sekundarnog prava Unije i nacionalnog prava.
(41 a) Nekoliko pravno obvezujućih pravila na europskoj, nacionalnoj i međunarodnoj razini već se primjenjuje ili je relevantno za današnje UI sustave, uključujući, ali ne isključivo, primarno pravo EU-a (Ugovori Europske unije i Povelja EU-a o temeljnim pravima), sekundarno pravo EU-a (kao što su Opća uredba o zaštiti podataka, Direktiva o odgovornosti za proizvode, Uredba o slobodnom protoku neosobnih podataka, direktive o suzbijanju diskriminacije, direktive o zaštiti potrošača i o sigurnosti i zdravlju na radu), ugovore UN-a o ljudskim pravima i konvencije Vijeća Europe (kao što je Europska konvencija o ljudskim pravima) te nacionalno pravo. Osim horizontalno primjenjivih pravila, postoje i različita pravila specifična za pojedina područja koja su mjerodavna za određene primjene umjetne inteligencije (kao što je, primjerice, Uredba o medicinskim proizvodima u zdravstvenom sektoru).
Amandman 76 Prijedlog uredbe Uvodna izjava 42.
(42) Kako bi se smanjili rizici visokorizičnih UI sustava koji su stavljeni na tržište Unije ili na drugi način stavljeni u uporabu na tržištu Unije za korisnike i zahvaćene osobe, trebali bi se primjenjivati određeni obvezni zahtjevi s obzirom na namjenu sustava i sustav upravljanja rizikom koji uspostavlja dobavljač.
(42) Kako bi se smanjili rizici visokorizičnih UI sustava koji su stavljeni na tržište Unije ili na drugi način stavljeni u uporabu na tržištu Unije za subjekte koji primjenjuju UI sustave i zahvaćene osobe, trebali bi se primjenjivati određeni obvezni zahtjevi s obzirom na namjenu, razumno predvidljivu krivu uporabu sustava i sustav upravljanja rizikom koji uspostavlja dobavljač. Ti bi zahtjevi trebali biti objektivni, primjereni svrsi, razumni i učinkoviti, bez stvaranja nepotrebnih regulatornih opterećenja ili troškova za operatere.
Amandman 77 Prijedlog uredbe Uvodna izjava 43.
(43) Zahtjevi bi se trebali primjenjivati na visokorizične UI sustave u pogledu kvalitete korištenih skupova podataka, tehničke dokumentacije i vođenja evidencije, transparentnosti i pružanja informacija korisnicima, ljudskog nadzora te otpornosti, točnosti i kibersigurnosti. Ti su zahtjevi potrebni kako bi se uspješno smanjili rizici za zdravlje, sigurnost i temeljna prava, ovisno o namjeni sustava, a druge mjere kojima se manje ograničava trgovina nisu u razumnoj mjeri dostupne, čime se izbjegavaju neopravdana ograničenja u području trgovine.
(43) Zahtjevi bi se trebali primjenjivati na visokorizične UI sustave u pogledu kvalitete i relevantnosti korištenih skupova podataka, tehničke dokumentacije i vođenja evidencije, transparentnosti i pružanja informacija subjektima koji primjenjuju UI sustave, ljudskog nadzora te otpornosti, točnosti i kibersigurnosti. Ti su zahtjevi potrebni kako bi se uspješno smanjili rizici za zdravlje, sigurnost i temeljna prava, kao i za okoliš, demokraciju i vladavinu prava, ovisno o namjeni ili razumno predvidljivoj krivoj uporabi sustava, a druge mjere kojima se manje ograničava trgovina nisu u razumnoj mjeri dostupne, čime se izbjegavaju neopravdana ograničenja u području trgovine.
Amandman 78 Prijedlog uredbe Uvodna izjava 44.
(44) Visokokvalitetni podaci ključni su za sposobnost mnogih UI sustava, posebno kad se upotrebljavaju tehnike s učenjem modelâ, s ciljem da visokorizični UI sustav funkcionira kako je predviđeno i sigurno te da ne postane izvor diskriminacije koja je zabranjena pravom Unije. Za vrlo kvalitetne skupove podataka za učenje, validaciju i testiranje potrebna je primjena odgovarajuće prakse upravljanja podacima. Skupovi podataka za učenje, validaciju i testiranje trebali bi biti dovoljno relevantni, reprezentativni i bez pogrešaka te bi trebali biti potpuni s obzirom na namjenu sustava. Trebali bi imati i odgovarajuća statistička obilježja, među ostalim u odnosu na osobe ili skupine osoba za koje se visokorizični UI sustav namjerava rabiti. Naročito bi u skupovima podataka za učenje, validaciju i testiranje trebalo uzeti u obzir, u mjeri u kojoj to iziskuje njihova namjena, obilježja, karakteristike ili elemente specifične za zemljopisno, bihevioralno ili radno okruženje ili kontekst u kojem je previđena uporaba UI sustava. Kako bi se prava drugih osoba zaštitila od moguće diskriminacije zbog pristranosti UI sustavâ, dobavljači bi trebali moći obrađivati i posebne kategorije osobnih podataka, kao pitanje od znatnog javnog interesa, kako bi se osiguralo praćenje, otkrivanje i ispravljanje pristranosti povezanih s visokorizičnim UI sustavima.
(44) Pristup visokokvalitetnim podacima ima ključnu ulogu u pružanju strukture i osiguravanju sposobnosti mnogih UI sustava, posebno kad se upotrebljavaju tehnike s učenjem modelâ, s ciljem da visokorizični UI sustav funkcionira kako je predviđeno i sigurno te da ne postane izvor diskriminacije koja je zabranjena pravom Unije. Za vrlo kvalitetne skupove podataka za učenje, validaciju i testiranje potrebna je primjena odgovarajuće prakse upravljanja podacima. Skupovi podataka za učenje i, gdje je to primjenjivo, validaciju i testiranje, uključujući oznake, trebali bi biti dovoljno relevantni, reprezentativni, primjereno provjereni u pogledu pogrešaka te bi trebali biti što je moguće potpuniji s obzirom na namjenu sustava. Trebali bi imati i odgovarajuća statistička obilježja, među ostalim u odnosu na osobe ili skupine osoba u vezi s kojima se visokorizični UI sustav namjerava rabiti, uz pridavanje posebne pozornosti ublažavanju mogućih pristranosti u skupovima podataka koje mogu dovesti do rizika za temeljna prava ili do diskriminirajućih ishoda za osobe zahvaćene visokorizičnim UI sustavom. Pristranosti mogu primjerice biti svojstvene temeljnim skupovima podataka, osobito kad se upotrebljavaju povijesni podaci koje su unijeli programeri algoritama ili koji se generiraju kad se sustavi implementiraju u okruženju stvarnog svijeta. Na rezultate koje pružaju UI sustavi utječu takve inherentne pristranosti koje su sklone postupnom povećanju, čime se nastavlja i povećava postojeća diskriminacija, posebno za osobe koje pripadaju određenim ranjivim ili etničkim skupinama ili zajednicama koje se definira na temelju rase. Naročito bi u skupovima podataka za učenje, validaciju i testiranje trebalo uzeti u obzir, u mjeri u kojoj to iziskuje njihova namjena, obilježja, karakteristike ili elemente specifične za zemljopisno, kontekstualno, bihevioralno ili radno okruženje ili kontekst u kojem je previđena uporaba UI sustava. Kako bi se prava drugih osoba zaštitila od moguće diskriminacije zbog pristranosti UI sustavâ, dobavljači bi iznimno i nakon primjene svih primjenjivih uvjeta utvrđenih u ovoj Uredbi te Uredbi (EU) 2016/679, Direktivi (EU) 2016/680 i Uredbi (EU) 2018/1725 trebali moći obrađivati i posebne kategorije osobnih podataka, kao pitanje od znatnog javnog interesa, kako bi se osiguralo otkrivanje i ispravljanje pristranosti povezanih s visokorizičnim UI sustavima. Negativnu pristranost trebalo bi tumačiti kao pristranost koja stvara izravan ili neizravan diskriminacijski učinak na pojedinca. Zahtjevi povezani s upravljanjem podacima mogu se ispuniti korištenjem usluga trećih strana koje nude certificirane usluge usklađivanja, uključujući provjeru upravljanja podacima, cjelovitost skupa podataka te prakse u pogledu učenja na temelju podataka te validacije i ispitivanja podataka.
Amandman 79 Prijedlog uredbe Uvodna izjava 45.
(45) Kad je riječ o razvoju visokorizičnih UI sustava, određeni dionici, kao što su dobavljači, prijavljena tijela i drugi relevantni subjekti, na primjer centri za digitalne inovacije, centri za testiranje i eksperimentiranje te istraživači, trebali bi imati pristup visokokvalitetnim skupovima podataka i upotrebljavati ih u okviru svojih područja aktivnosti povezanih s ovom Uredbom. Zajednički europski podatkovni prostori koje je uspostavila Komisija te olakšavanje razmjene podataka među poduzećima i s državnim upravama u javnom interesu bit će važni za osiguravanje pouzdanog, odgovornog i nediskriminirajućeg pristupa visokokvalitetnim podacima za učenje, validaciju i testiranje UI sustavâ. Na primjer, u području zdravstva zajednički europski prostor za zdravstvene podatke olakšat će nediskriminirajući pristup zdravstvenim podacima i učenje algoritama umjetne inteligencije tim skupovima podataka tako da se očuvaju privatnost, sigurnost, pravovremenost, transparentnost i pouzdanost uz odgovarajuće institucijsko upravljanje. Relevantna nadležna tijela, uključujući sektorska, koja pružaju ili olakšavaju pristup podacima, mogu olakšati i pružanje visokokvalitetnih podataka za učenje, validaciju i testiranje UI sustava.
(45) Kad je riječ o razvoju i ocjenjivanju visokorizičnih UI sustava, određeni dionici, kao što su dobavljači, prijavljena tijela i drugi relevantni subjekti, na primjer centri za digitalne inovacije, centri za testiranje i eksperimentiranje te istraživači, trebali bi imati pristup visokokvalitetnim skupovima podataka i upotrebljavati ih u okviru svojih područja aktivnosti povezanih s ovom Uredbom. Zajednički europski podatkovni prostori koje je uspostavila Komisija te olakšavanje razmjene podataka među poduzećima i s državnim upravama u javnom interesu bit će važni za osiguravanje pouzdanog, odgovornog i nediskriminirajućeg pristupa visokokvalitetnim podacima za učenje, validaciju i testiranje UI sustavâ. Na primjer, u području zdravstva zajednički europski prostor za zdravstvene podatke olakšat će nediskriminirajući pristup zdravstvenim podacima i učenje algoritama umjetne inteligencije tim skupovima podataka tako da se očuvaju privatnost, sigurnost, pravovremenost, transparentnost i pouzdanost uz odgovarajuće institucijsko upravljanje. Relevantna nadležna tijela, uključujući sektorska, koja pružaju ili olakšavaju pristup podacima, mogu olakšati i pružanje visokokvalitetnih podataka za učenje, validaciju i testiranje UI sustava.
(45 a) Pravo na privatnost i zaštitu osobnih podataka mora biti zajamčeno tijekom cijelog životnog ciklusa UI sustava. U tom su pogledu načela smanjenja količine podataka te tehničke i integrirane zaštite podataka, kako su utvrđena u pravu Unije o zaštiti podataka, ključna ako obrada podataka uključuje znatne rizike za temeljna prava pojedinaca. Dobavljači i korisnici UI sustava trebali bi provesti najsuvremenije tehničke i organizacijske mjere kako bi zaštitili ta prava. Takve mjere trebale bi uključivati ne samo anonimizaciju i šifriranje, već i upotrebu sve dostupnije tehnologije kojom se omogućuje da se algoritmi primijene na podatke i omogućuje dobivanje vrijednih uvida bez prijenosa među stranama ili nepotrebnog kopiranja samih neobrađenih ili strukturiranih podataka.
Amandman 81 Prijedlog uredbe Uvodna izjava 46.
(46) Informacije o tome kako su visokorizični UI sustavi razvijeni te kakav im je radni učinak tijekom cijelog životnog vijeka ključne su za provjeru usklađenosti sa zahtjevima iz ove Uredbe. Za to je potrebno vođenje evidencije i dostupnost tehničke dokumentacije koja sadržava informacije potrebne za procjenu usklađenosti UI sustava s relevantnim zahtjevima. Te bi informacije trebale uključivati opće karakteristike, mogućnosti i ograničenja sustava, algoritme, podatke, postupke učenja, testiranja i validacije koji su upotrijebljeni, kao i dokumentaciju o relevantnom sustavu upravljanja rizikom. Tehnička dokumentacija trebala bi se redovito ažurirati.
(46) Razumljive informacije o tome kako su visokorizični UI sustavi razvijeni te kakav im je radni učinak tijekom cijelog životnog vijeka ključne su za provjeru usklađenosti sa zahtjevima iz ove Uredbe. Za to je potrebno vođenje evidencije i dostupnost tehničke dokumentacije koja sadržava informacije potrebne za procjenu usklađenosti UI sustava s relevantnim zahtjevima. Te bi informacije trebale uključivati opće karakteristike, mogućnosti i ograničenja sustava, algoritme, podatke, postupke učenja, testiranja i validacije koji su upotrijebljeni, kao i dokumentaciju o relevantnom sustavu upravljanja rizikom. Tehnička dokumentacija trebala bi se redovito ažurirati na odgovarajući način tijekom cijelog životnog vijeka UI sustava. UI sustavi tijekom svojeg životnog vijeka mogu imati velik i važan utjecaj na okoliš te visoku potrošnju energije. Kako bi se bolje shvatio utjecaj UI sustava na okoliš, tehnička dokumentacija koju sastavljaju dobavljači trebala bi sadržavati informacije o potrošnji energije UI sustava, uključujući potrošnju tijekom razvoja i očekivanu potrošnju tijekom uporabe. Kad je riječ o tim informacijama, u obzir bi trebalo bi uzeti relevantno zakonodavstvo Unije i nacionalno zakonodavstvo. Te bi dostavljene informacije trebale biti razumljive, usporedive i provjerljive te bi u tu svrhu Komisija trebala izraditi smjernice o usklađenoj metodologiji za izračun tih informacija i izvješćivanje o njima. Kako bi se osigurala mogućnost jedinstvene dokumentacije, termini i definicije povezani s potrebnom dokumentacijom i svom potrebnom dokumentacijom iz relevantnog zakonodavstva Unije trebali bi biti usklađeni što je više moguće.
(46 a) UI sustavima u obzir bi se trebale uzeti najsuvremenije metode i relevantne primjenjive norme za smanjenje potrošnje energije, potrošnje resursa i stvaranja otpada, kao i za povećanje njihove energetske učinkovitosti i ukupne učinkovitosti sustava. Okolišni aspekti UI sustava koji su važni za potrebe ove Uredbe jesu potrošnja energije UI sustava u fazi razvoja, učenja i primjene, kao i bilježenje i pohrana tih podataka te izvješćivanje o njima. Projektiranjem UI sustava trebalo bi omogućiti mjerenje i bilježenje potrošnje energije i resursa u svakoj fazi razvoja, učenja i primjene. Praćenje emisija UI sustava i izvješćivanje o njima mora biti pouzdano, transparentno, dosljedno i točno. Kako bi se osigurala ujednačena primjena ove Uredbe i stabilan pravni ekosustav za dobavljače i subjekte koji primjenjuju UI sustave na jedinstvenom tržištu, Komisija bi trebala izraditi zajedničku specifikaciju za metodologiju za ispunjavanje zahtjeva u pogledu izvješćivanja i dokumentacije o potrošnji energije i resursa tijekom razvoja, učenja i primjene. Takvim zajedničkim specifikacijama u pogledu metodologije mjerenja može se razviti polazište na temelju kojega Komisija može bolje odlučiti jesu li potrebne buduće regulatorne intervencije nakon provedbe procjene učinka kojom se uzima u obzir postojeće pravo.
(46 b) Kako bi se ostvarili ciljevi ove Uredbe i pridonijelo okolišnim ciljevima Unije uz istodobno osiguravanje neometanog funkcioniranja unutarnjeg tržišta, moglo bi biti potrebno utvrditi preporuke i smjernice te, u konačnici, ciljne vrijednosti za održivost. U tu svrhu Komisija ima pravo razviti metodologiju kojom će doprinijeti uspostavi ključnih pokazatelja uspješnosti i referencu za ciljeve održivog razvoja. Cilj bi u prvom redu trebao biti da se omogući pravedna usporedba odabira u pogledu primjene umjetne inteligencije, uz pružanje poticaja za promicanje upotrebe učinkovitijih UI tehnologija kojima se uzima u obzir zabrinutost povezana s energijom i resursima. Kako bi se taj cilj postigao, ovom bi se Uredbom trebala osigurati sredstva za utvrđivanje referentnog prikupljanja prijavljenih podataka o emisijama u fazama razvoja, učenja i primjene.
(47a) Takvi zahtjevi u pogledu transparentnosti i mogućnosti obrazloženja odluka povezanih s umjetnom inteligencijom trebali bi pomoći i u suzbijanju odvraćajućih učinaka digitalne asimetrije i „tamnih obrazaca” usmjerenih na pojedince i njihov informirani pristanak.
Amandman 85 Prijedlog uredbe Uvodna izjava 49.
(49) Visokorizični UI sustavi trebali bi imati ujednačen učinak u cijelom životnom vijeku te imati odgovarajuću razinu točnosti, otpornosti i kibersigurnosti u skladu s općepriznatim najnovijim dostignućima. Korisnici bi trebali biti obaviješteni o razini i parametrima točnosti.
(49) Visokorizični UI sustavi trebali bi imati ujednačen učinak u cijelom životnom vijeku te imati odgovarajuću razinu točnosti, otpornosti i kibersigurnosti u skladu s općepriznatim najnovijim dostignućima. Glavni cilj definiranja parametara uspješnosti i njihove očekivane razine treba biti smanjenje rizika i negativnog učinka UI sustava. Subjekti koji primjenjuju UI sustave bi trebali na jasan, transparentan, lako razumljiv i shvatljiv način biti obaviješteni o očekivanoj razini parametara uspješnosti.Izjava o parametrima uspješnosti ne može se smatrati dokazom budućih razina, ali potrebno je primijeniti relevantne metode kako bi se osigurale dosljedne razine tijekom uporabe. Iako organizacije za normizaciju postoje radi utvrđivanja normi, potrebna je koordinacija ocjenjivanja prema referentnim vrijednostima kako bi se utvrdilo kako bi trebalo mjeriti te standardizirane zahtjeve i karakteristike UI sustava. Europski ured za umjetnu inteligenciju trebao bi okupiti nacionalna i međunarodna tijela za mjeriteljstvo i ocjenjivanje prema referentnim vrijednostima te pružiti neobvezujuće smjernice za rješavanje tehničkih aspekata načina mjerenja odgovarajućih razina uspješnosti i otpornosti.
Amandman 86 Prijedlog uredbe Uvodna izjava 50.
(50) Tehnička otpornost ključni je zahtjev za visokorizične UI sustave. Trebali bi biti otporni na rizike povezane s ograničenjima sustava (npr. pogreške, kvarovi, nedosljednosti, neočekivane situacije), kao i na zlonamjerne radnje koje mogu ugroziti sigurnost UI sustava i dovesti do štetnog ili na neki drugi način nepoželjnog ponašanja. Nedostatna zaštita od tih rizika mogla uzrokovati posljedice za sigurnost ili negativno utjecati na temeljna prava, primjerice zbog pogrešnih odluka ili krivih ili pristranih izlaznih rezultata UI sustava.
(50) Tehnička otpornost ključni je zahtjev za visokorizične UI sustave. Trebali bi biti otporni na rizike povezane s ograničenjima sustava (npr. pogreške, kvarovi, nedosljednosti, neočekivane situacije), kao i na zlonamjerne radnje koje mogu ugroziti sigurnost UI sustava i dovesti do štetnog ili na neki drugi način nepoželjnog ponašanja. Nedostatna zaštita od tih rizika mogla uzrokovati posljedice za sigurnost ili negativno utjecati na temeljna prava, primjerice zbog pogrešnih odluka ili krivih ili pristranih izlaznih rezultata UI sustava. Korisnici UI sustava trebali bi poduzeti korake kako bi osigurali da mogući kompromis između pouzdanosti i točnosti ne dovede do diskriminirajućih ili negativnih ishoda za manjinske podskupine.
Amandman 87 Prijedlog uredbe Uvodna izjava 51.
(51) Kibersigurnost je ključna za otpornost UI sustavâ na pokušaje zlonamjernih trećih strana koje iskorištavaju slabe točke sustava da bi im izmijenili način uporabe, ponašanje, sposobnost ili da bi ugrozili njihove sigurnosne mehanizme. Kibernapadima na UI sustave moguće je iskoristiti resurse svojstvene umjetnoj inteligenciji, kao što su skupovi podataka za učenje (npr. trovanje podataka) ili poučeni modeli (npr. neprijateljski napadi) ili iskoristiti slabe točke digitalnih resursa UI sustava ili osnovne IKT infrastrukture. Kako bi se osigurala razina kibersigurnosti koja odgovara rizicima, dobavljači visokorizičnih UI sustava trebali bi poduzeti odgovarajuće mjere, prema potrebi uzimajući u obzir i osnovnu infrastrukturu IKT-a.
(51) Kibersigurnost je ključna za otpornost UI sustavâ na pokušaje zlonamjernih trećih strana koje iskorištavaju slabe točke sustava da bi im izmijenili način uporabe, ponašanje, sposobnost ili da bi ugrozili njihove sigurnosne mehanizme. Kibernapadima na UI sustave moguće je iskoristiti resurse svojstvene umjetnoj inteligenciji, kao što su skupovi podataka za učenje (npr. trovanje podataka) ili poučeni modeli (npr. neprijateljski napadi ili napadi na povjerljivost) ili iskoristiti slabe točke digitalnih resursa UI sustava ili osnovne IKT infrastrukture. Kako bi se osigurala razina kibersigurnosti koja odgovara rizicima, dobavljači visokorizičnih UI sustava, kao i prijavljena tijela, nadležna nacionalna tijela i tijela za nadzor tržišta, trebali bi poduzeti odgovarajuće mjere, prema potrebi uzimajući u obzir i osnovnu infrastrukturu IKT-a. Visokorizična umjetna inteligencija treba biti popraćena sigurnosnim rješenjima i zakrpama tijekom životnog vijeka proizvoda ili, u slučaju nepostojanja ovisnosti o određenom proizvodu, tijekom razdoblja koje mora navesti proizvođač.
(53 a) Kao potpisnice Konvencije Ujedinjenih naroda o pravima osoba s invaliditetom Unija i države članice imaju pravnu obvezu štititi osobe s invaliditetom od diskriminacije i promicati njihovu ravnopravnost, osigurati da osobe s invaliditetom imaju pristup informacijskim i komunikacijskim tehnologijama i sustavima na ravnopravnoj osnovi te zajamčiti poštovanje privatnosti osoba s invaliditetom. S obzirom na sve veću važnost i uporabu UI sustava, primjenom univerzalnih načela projektiranja na sve nove tehnologije i usluge trebao bi se osigurati cjelovit, ravnopravan i neograničen pristup za sve osobe na koje bi mogle utjecati tehnologije umjetne inteligencije ili koje upotrebljavaju te tehnologije, uključujući osobe s invaliditetom, na način kojim se u cijelosti poštuju njihovo inherentno dostojanstvo i raznolikost. Stoga je ključno da dobavljači osiguraju potpunu usklađenost sa zahtjevima u pogledu pristupačnosti, uključujući Direktivu (EU) 2016/2102 i Direktivu (EU) 2019/882. Dobavljači bi trebali osigurati ugrađenu usklađenost s tim zahtjevima. Stoga bi potrebne mjere trebalo što je više moguće uključiti u projektiranje visokorizičnog UI sustava.
Amandman 89 Prijedlog uredbe Uvodna izjava 54.
(54) Dobavljač bi trebao uspostaviti pouzdan sustav upravljanja kvalitetom, osigurati realizaciju obveznog postupka ocjenjivanja sukladnosti, sastaviti relevantnu dokumentaciju i uspostaviti pouzdan sustav praćenja nakon stavljanja na tržište. Tijela javne vlasti koja stavljaju visokorizične UI sustave u uporabu za vlastite potrebe mogu donijeti i primjenjivati pravila za sustav upravljanja kvalitetom u okviru sustava upravljanja kvalitetom donesenog na nacionalnoj ili regionalnoj razini, prema potrebi, uzimajući u obzir posebnosti sektora te nadležnosti i organizaciju predmetnog tijela javne vlasti.
(54) Dobavljač bi trebao uspostaviti pouzdan sustav upravljanja kvalitetom, osigurati realizaciju obveznog postupka ocjenjivanja sukladnosti, sastaviti relevantnu dokumentaciju i uspostaviti pouzdan sustav praćenja nakon stavljanja na tržište. Za dobavljače koji već imaju uspostavljene sustave upravljanja kvalitetom koji se temelje na normama kao što su ISO 9001 ili druge relevantne norme ne bi se trebao očekivati dvostruki sustav upravljanja kvalitetom u cijelosti, već bi se trebala očekivati prilagodba njihovih postojećih sustava određenim aspektima u pogledu usklađenosti s posebnim zahtjevima ove Uredbe. To bi se trebalo odražavati i u budućim aktivnostima normizacije ili smjernicama koje Komisija donese u tom pogledu. Tijela javne vlasti koja stavljaju visokorizične UI sustave u uporabu za vlastite potrebe mogu donijeti i primjenjivati pravila za sustav upravljanja kvalitetom u okviru sustava upravljanja kvalitetom donesenog na nacionalnoj ili regionalnoj razini, prema potrebi, uzimajući u obzir posebnosti sektora te nadležnosti i organizaciju predmetnog tijela javne vlasti.
Amandman 90 Prijedlog uredbe Uvodna izjava 56.
(56) Kako bi se omogućilo izvršenje ove Uredbe i osigurali jednaki uvjeti za operatere te uzimajući u obzir različite oblike stavljanja digitalnih proizvoda na raspolaganje, važno je osigurati da osoba s poslovnim nastanom u Uniji u svim okolnostima može nadležnim tijelima pružiti sve potrebne informacije o usklađenosti UI sustava. Stoga, ako se uvoznik ne može identificirati, dobavljači s poslovnim nastanom izvan Unije pisanim ovlaštenjem imenuju ovlaštenog zastupnika s poslovnim nastanom u Uniji prije stavljanja svojih UI sustava na raspolaganje u Uniji.
(56) Kako bi se omogućilo izvršenje ove Uredbe i osigurali jednaki uvjeti za operatere te uzimajući u obzir različite oblike stavljanja digitalnih proizvoda na raspolaganje, važno je osigurati da osoba s poslovnim nastanom u Uniji u svim okolnostima može nadležnim tijelima pružiti sve potrebne informacije o usklađenosti UI sustava. Stoga dobavljači s poslovnim nastanom izvan Unije pisanim ovlaštenjem imenuju ovlaštenog zastupnika s poslovnim nastanom u Uniji prije stavljanja svojih UI sustava na raspolaganje u Uniji.
Amandman 91 Prijedlog uredbe Uvodna izjava 58.
(58) S obzirom na prirodu UI sustavâ i rizike za sigurnost i temeljna prava koji se potencijalno mogu povezati s njihovom uporabom, među ostalim u pogledu potrebe da se osigura propisno praćenje sposobnosti UI sustava u stvarnim uvjetima, primjereno je utvrditi posebne odgovornosti za korisnike. Korisnici bi ponajprije visokorizične UI sustave trebali upotrebljavati u skladu s uputama za uporabu te bi, prema potrebi, trebalo propisati određene druge obveze u pogledu praćenja funkcioniranja UI sustavâ i vođenja evidencije.
(58) S obzirom na prirodu UI sustavâ i rizike za sigurnost i temeljna prava koji se potencijalno mogu povezati s njihovom uporabom, među ostalim u pogledu potrebe da se osigura propisno praćenje sposobnosti UI sustava u stvarnim uvjetima, primjereno je utvrditi posebne odgovornosti za subjekte koji primjenjuju UI sustave. Subjekti koji primjenjuju UI sustave ponajprije bi visokorizične UI sustave trebali upotrebljavati u skladu s uputama za uporabu te bi, prema potrebi, trebalo propisati određene druge obveze u pogledu praćenja funkcioniranja UI sustavâ i vođenja evidencije.
(58 a) Iako rizici povezani s UI sustavima mogu proizlaziti iz načina na koji su ti sustavi projektirani, mogu biti uzrokovani i načinom na koji se upotrebljavaju. Subjekti koji primjenjuju visokorizične UI sustave stoga imaju ključnu ulogu u osiguravanju zaštite temeljnih prava, čime se dopunjuju obveze dobavljača pri razvoju UI sustava. Subjekti koji primjenjuju UI sustave u najboljem su položaju da razumiju kako će se visokorizični UI sustav konkretno upotrebljavati te stoga mogu utvrditi potencijalne znatne rizike koji nisu predviđeni u fazi razvoja, zahvaljujući boljem poznavanju konteksta uporabe te osoba ili skupina osoba koje bi mogle biti zahvaćene, uključujući marginalizirane i ranjive skupine. Subjekti koji primjenjuju UI sustave trebali bi utvrditi odgovarajuće upravljačke strukture u tom specifičnom kontekstu upotrebe, kao što su mehanizmi za ljudski nadzor, postupci rješavanja pritužbi i postupci pravne zaštite, jer odluke u upravljačkim strukturama mogu biti ključne za smanjenje rizika za temeljna prava u konkretnim slučajevima primjene. Kako bi se učinkovito osigurala zaštita temeljnih prava, subjekt koji primjenjuje visokorizične UI sustave trebao bi stoga prije stavljanja sustava u uporabu provesti procjenu njihova učinka na temeljna prava. Procjena učinka trebala bi biti popraćena detaljnim planom u kojem se opisuju mjere ili alati koji će pomoći u smanjenju utvrđenih rizika za temeljna prava najkasnije od trenutka stavljanja tih sustava u uporabu. Ako se takav plan ne može utvrditi, subjekt koji primjenjuje UI sustav trebao bi se suzdržati od stavljanja sustava u uporabu. Pri provedbi te procjene učinka subjekt koji primjenjuje UI sustav trebao bi obavijestiti nacionalno nadzorno tijelo i, u najvećoj mogućoj mjeri, relevantne dionike, kao i predstavnike skupina osoba na koje bi UI sustav mogao utjecati kako bi prikupio relevantne informacije koje se smatraju potrebnima za provedbu procjene učinka te se potiče da sažetak svoje procjene učinka na temeljna prava objavi na svojim internetskim stranicama. Te se obveze ne bi trebale primjenjivati na MSP-ove, kojima bi s obzirom na manjak resursa moglo biti teško provesti takvo savjetovanje. Međutim, oni bi trebali također nastojati uključiti takve predstavnike u svoju provedbu procjene učinka na temeljna prava. Osim toga, s obzirom na mogući učinak i potrebu za demokratskim nadzorom i kontrolom, subjekti koji primjenjuju visokorizične UI sustave, a koji su javna tijela ili institucije, tijela, uredi i agencije Unije, kao i subjekti koji primjenjuju UI sustave, a koji su poduzetnici određeni kao nadzornici pristupa na temelju Uredbe (EU) 2022/1925 trebali bi biti obvezni registrirati uporabu svakog visokorizičnih UI sustava u javnoj bazi podataka. Ostali subjekti koji primjenjuju UI sustave mogu se dobrovoljno registrirati.
Amandman 93 Prijedlog uredbe Uvodna izjava 59.
(59) Primjereno je predvidjeti da bi korisnik UI sustava trebao biti fizička ili pravna osoba, tijelo javne vlasti, agencija ili drugo tijelo u okviru čije se nadležnosti koristi UI sustav, osim ako se koristi u osobnoj neprofesionalnoj djelatnosti.
(59) Primjereno je predvidjeti da bi subjekt koji primjenjuje UI sustav trebao biti fizička ili pravna osoba, tijelo javne vlasti, agencija ili drugo tijelo u okviru čije se nadležnosti koristi UI sustav, osim ako se koristi u osobnoj neprofesionalnoj djelatnosti.
Amandman 94 Prijedlog uredbe Uvodna izjava 60.
(60) S obzirom na složenost lanca vrijednosti umjetne inteligencije, relevantne treće strane, posebno one uključene u prodaju i nabavu softvera, softverskih alata i sastavnih dijelova, prethodno poučenih modela i podataka ili pružatelji mrežnih usluga, trebali bi prema potrebi surađivati s dobavljačima i korisnicima kako bi im omogućili da ispune obveze iz ove Uredbe te s nadležnim tijelima uspostavljenima na temelju ove Uredbe.
(60) U vrijednosnom lancu umjetne inteligencije više subjekata često dobavlja alate i usluge, ali i sastavne dijelove ili procese koje je dobavljač potom ugrađuje u UI sustav, među ostalim u vezi s prikupljanjem i predobradom, učenjem modela, ponovnim učenjem modela, ispitivanjem i evaluacijom modela, ugradnjom u softver ili drugim aspektima razvoja modela. Uključeni subjekti mogu svoju ponudu učiniti komercijalno dostupnom izravno ili neizravno, putem sučelja, kao što su aplikacijska programska sučelja (API), i distribuirati je na temelju besplatnih licencija otvorenog koda, ali i sve više putem platformi za radnu snagu koje se temelje na umjetnoj inteligenciji, preprodaje poučenih parametara, kompleta za izradu modela ili nuđenja plaćanja pristupa modelu koji služi arhitekturi za razvoj i učenje modela. S obzirom na tu složenost lanca vrijednosti umjetne inteligencije, sve relevantne treće strane, posebno one uključene u razvoj, prodaju i komercijalnu nabavu softverskih alata, sastavnih dijelova, prethodno poučenih modela ili podataka ugrađenih u UI sustav, ili pružatelji mrežnih usluga, trebali bi bez ugrožavanja svojih prava intelektualnog vlasništva ili poslovnih tajni staviti na raspolaganje potrebne informacije, osposobljavanje ili stručno znanje i prema potrebi surađivati s dobavljačima kako bi im omogućili kontrolu nad svim aspektima koji su relevantni za usklađenost UI sustava obuhvaćenog ovom Uredbom.Kako bi se omogućilo troškovno učinkovito upravljanje vrijednosnim lancem umjetne inteligencije, svaka treća strana koja dobavljaču isporučuje alat, uslugu, sastavni dio ili proces koji dobavljač potom ugrađuje u UI sustav mora izričito navesti razinu kontrole.
(60 a) Ako je jedna strana u snažnijem pregovaračkom položaju, postoji rizik da bi ta strana mogla iskoristiti taj položaj na štetu druge ugovorne strane pri pregovaranju o nabavi alata, usluga, sastavnih dijelova ili procesa koji se upotrebljavaju ili ugrađuju u visokorizični UI sustav ili pravnim lijekovima za kršenje ili prekid povezanih obveza. Takve ugovorne neravnoteže posebno štete mikropoduzećima, malim i srednjim poduzećima te start-up poduzećima, osim ako su u vlasništvu ili podugovoru poduzeća koje može primjereno nadoknaditi štetu podugovaratelju jer nemaju bitnu sposobnost pregovaranja o uvjetima ugovornog sporazuma i možda nemaju drugog izbora nego prihvatiti ugovorne uvjete po načelu „uzmi ili ostavi”. Stoga, nepoštene ugovorne odredbe kojima se uređuje nabava alata, usluga, sastavnih dijelova ili procesa koji se upotrebljavaju u visokorizičnom UI sustavu ili su u njega ugrađeni ili pak pravni lijekovi u pogledu kršenja ili prekida povezanih obveza ne bi trebale biti obvezujuće za takva mikropoduzeća, mala ili srednja poduzeća i start-up poduzeća ako su im takve odredbe jednostrano nametnute.
(60 b) U pravilima o ugovornim odredbama trebalo bi uzeti u obzir načelo ugovorne slobode kao ključni koncept u odnosima među poduzećima. Stoga se test za utvrđivanje nepoštenih odredbi ne bi trebao primjenjivati na sve ugovorne odredbe, nego samo na one odredbe koje su jednostrano nametnute mikropoduzećima, malim i srednjim poduzećima te start-up poduzećima. To se odnosi na situacije „uzmi ili ostavi” u kojima jedna strana postavlja određenu ugovornu odredbu, a mikropoduzeće, malo ili srednje poduzeće ili start-up poduzeće ne može utjecati na sadržaj te odredbe unatoč pokušaju da se o njemu pregovara. Ugovorna odredba koju jednostavno postavlja jedna strana i koju mikropoduzeće, malo ili srednje poduzeće ili start-up poduzeće prihvati odnosno odredba o kojoj su ugovorne strane pregovarale i naknadno postigle dogovor uz izmjene ne bi se trebala smatrati jednostrano nametnutom.
(60 c) Nadalje, pravila o nepoštenim ugovornim odredbama trebala bi se primjenjivati samo na one elemente ugovora koji se odnose na nabavu alata, usluga, sastavnih dijelova ili procesa koji se upotrebljavaju ili ugrađuju u visokorizični UI sustav ili pravne lijekove za kršenje ili prekid povezanih obveza. Ostali dijelovi istog ugovora koji nisu povezani s tim elementima ne bi trebali podlijegati testu za ispitivanje nepoštenih ugovornih odredbi utvrđenom u ovoj Uredbi.
(60 d) Kriteriji za utvrđivanje nepoštenih ugovornih odredbi trebali bi se primjenjivati samo na pretjerane ugovorne odredbe kojima se zloupotrebljava snažniji pregovarački položaj. Velika većina ugovornih odredbi koje su komercijalno povoljnije za jednu stranu u odnosu na drugu, uključujući one koje su uobičajene u ugovorima među poduzećima, uobičajen su izraz načela ugovorne slobode te se i dalje primjenjuju. Ako se ugovorna odredba ne nalazi na popisu odredaba koje se uvijek smatraju nepoštenima, primjenjuje se opća odredba o nepoštenosti. U tom pogledu, odredbe navedene kao nepoštene trebale bi služiti kao mjerilo pri tumačenju opće odredbe o nepoštenosti.
(60 e) Temeljni modeli relativno su novo postignuće, u kojem se UI modeli razvijaju iz algoritama projektiranih radi optimizacije općenitosti i raznovrsnosti izlaznih rezultata. Ti modeli često uče na širokom rasponu izvora podataka i velikim količinama podataka kako bi se izvršio širok raspon zadaća dalje u lancu, uključujući neke za koje nisu posebno razvijeni i osposobljeni. Temeljni model može biti unimodalan ili multimodalan te poučen na temelju raznih metoda kao što su nadzirano učenje ili pojačano učenje. UI sustavi sa specifičnom namjenom ili UI sustavi opće namjene mogu biti provedba temeljnog modela, što znači da se svaki temeljni model može ponovno upotrijebiti u brojnim UI sustavima koji se nalaze niže u lancu ili UI sustavima opće namjene. Ti modeli imaju sve veću važnost za mnoge aplikacije i sustave dalje u lancu.
(60 f) U slučaju temeljnih modela koji se pružaju kao usluga, kao što je pristup API-ju, suradnja s pružateljima usluga niže u lancu trebala bi se proširiti tijekom razdoblja u kojem se ta usluga pruža i podupire kako bi se omogućilo odgovarajuće smanjenje rizika, osim ako dobavljač temeljnog modela ne prenese model za učenje te opširne i odgovarajuće informacije o skupovima podataka i procesu razvoja sustava ili ograniči uslugu, kao što je pristup API-ju, na način da dobavljač niže u lancu može u potpunosti poštovati ovu Uredbu bez daljnje potpore izvornog dobavljača temeljnog modela.
(60 g) S obzirom na prirodu i složenost lanca vrijednosti UI sustava, ključno je pojasniti ulogu aktera koji doprinose razvoju UI sustava. Postoji znatna nesigurnost u pogledu načina na koji će se razvijati temeljni modeli, kako u smislu tipologije modela tako i u smislu samoupravljanja. Stoga je ključno pojasniti pravnu situaciju dobavljača temeljnih modela. U kombinaciji s njihovom složenošću i neočekivanim učinkom, nedostatkom kontrole dobavljača umjetne inteligencije na kraju proizvodnog lanca nad razvojem temeljnog modela i posljedičnom neravnotežom moći te kako bi se osigurala pravedna podjela odgovornosti duž vrijednosnog lanca umjetne inteligencije, takvi bi modeli trebali podlijegati razmjernim i konkretnijim zahtjevima i obvezama u skladu s ovom Uredbom, odnosno temeljni modeli trebali bi procjenjivati i smanjivati moguće rizike i štete odgovarajućim projektiranjem, ispitivanjem i analizom, trebali bi provoditi mjere upravljanja podacima, uključujući procjenu pristranosti, te bi trebali biti u skladu s tehničkim zahtjevima u pogledu projektiranja kako bi se osigurale odgovarajuće razine učinkovitosti, predvidljivosti, mogućnosti tumačenja, mogućnosti ispravka, sigurnosti i kibersigurnosti te bi trebali biti u skladu s okolišnim normama. Te bi obveze trebale biti popraćene normama. Osim toga, temeljni modeli trebali bi imati obvezu informiranja i pripremiti svu potrebnu tehničku dokumentaciju kako bi potencijalni dobavljači niže u lancu mogli ispuniti svoje obveze na temelju ove Uredbe. Generativni temeljni modeli trebali bi osigurati transparentnost u pogledu činjenice da sadržaj generira UI sustav, a ne čovjek. Ti konkretni zahtjevi i obveze ne dovode do toga da se temeljni modeli smatraju visokorizičnim UI sustavima, ali bi se njima trebalo jamčiti postizanje ciljeva ove Uredbe radi osiguranja visoke razine zaštite temeljnih prava, zdravlja i sigurnosti, okoliša, demokracije i vladavine prava. Prethodno poučeni modeli razvijeni za uži, manje općenit i ograničeniji skup primjena koji se ne mogu prilagoditi za širok raspon zadaća kao što su jednostavni višenamjenski UI sustavi ne bi se trebali smatrati temeljnim modelima za potrebe ove Uredbe, zbog njihove veće mogućnosti tumačenja koja njihovo ponašanje čini manje nepredvidivim.
(60 h) S obzirom na prirodu temeljnih modela, stručno znanje u ocjenjivanju sukladnosti nepotpuno je, a revizijske metode trećih strana još uvijek su u fazi razvoja. Stoga sam sektor razvija nove načine za ocjenjivanje temeljnih modela kojima se djelomično ispunjava cilj revizije (kao što su evaluacija modela, „simulacija napada” (eng. red-teaming) ili tehnike provjere i vrednovanja strojnog učenja). To interno ocjenjivanje temeljnih modela trebalo bi biti široko primjenjivo (npr. neovisno o distribucijskim kanalima, modalitetu, metodama razvoja) kako bi se riješili rizici specifični za takve modele, uzimajući u obzir najsuvremenije prakse u industriji, te bi trebalo biti usmjereno na razvoj dostatnog tehničkog razumijevanja i kontrole nad modelom, upravljanje razumno predvidljivim rizicima te opsežnu analizu i ispitivanje modela s pomoću odgovarajućih mjera, primjerice uključivanjem neovisnih ocjenjivača. Budući da su temeljni modeli novo dostignuće u području umjetne inteligencije koje se brzo razvija, primjereno je da Komisija i Ured za umjetnu inteligenciju prate i periodično procjenjuju zakonodavni i upravljački okvir takvih modela, a posebno generativnih UI sustava koji se temelje na takvim modelima, koji sa sobom povlače bitna pitanja povezana s generiranjem sadržaja kojim se krši pravo Unije, pravilima o autorskim pravima i potencijalnom zlouporabom. Trebalo bi pojasniti da se ovom Uredbom ne bi trebalo dovoditi u pitanje pravo Unije o autorskom pravu i povezanim pravima, uključujući direktive 2001/29/EZ, 2004/48/EZ i (EU) 2019/790 Europskog parlamenta i Vijeća.
Amandman 103 Prijedlog uredbe Uvodna izjava 61.
(61) Normizacija bi trebala imati ključnu ulogu u pružanju tehničkih rješenja dobavljačima kako bi se osigurala usklađenost s ovom Uredbom. Sukladnost s usklađenim normama kako je utvrđeno u Uredbi (EU) br. 1025/2012 Europskog parlamenta i Vijeća54 trebala bi biti sredstvo kojim će dobavljači dokazivati sukladnost sa zahtjevima iz ove Uredbe. Međutim, Komisija bi mogla donijeti zajedničke tehničke specifikacije za područja u kojima ne postoje usklađene norme ili u kojima one nisu dovoljne.
(61) Normizacija bi trebala imati ključnu ulogu u pružanju tehničkih rješenja dobavljačima kako bi se osigurala usklađenost s ovom Uredbom. Sukladnost s usklađenim normama kako je utvrđeno u Uredbi (EU) br. 1025/2012 Europskog parlamenta i Vijeća[1] trebala bi biti sredstvo kojim će dobavljači dokazivati sukladnost sa zahtjevima iz ove Uredbe. Kako bi se osigurala učinkovitost normi kao alata politike za Uniju te uzimajući u obzir važnost normi za osiguravanje usklađenosti sa zahtjevima ove Uredbe i za konkurentnost poduzeća, potrebno je osigurati uravnoteženu zastupljenost interesa uključivanjem svih relevantnih dionika u razvoj normi.Proces normizacije trebao bi biti transparentan u pogledu pravnih i fizičkih osoba koje sudjeluju u normizacijskim aktivnostima.
__________________
__________________
54 Uredba (EU) br. 1025/2012 Europskog parlamenta i Vijeća od 25. listopada 2012. o europskoj normizaciji, o izmjeni direktiva Vijeća 89/686/EEZ i 93/15/EEZ i direktiva 94/9/EZ, 94/25/EZ, 95/16/EZ, 97/23/EZ, 98/34/EZ, 2004/22/EZ, 2007/23/EZ, 2009/23/EZ i 2009/105/EZ Europskog parlamenta i Vijeća te o stavljanju izvan snage Odluke Vijeća 87/95/EEZ i Odluke br. 1673/2006/EZ Europskog parlamenta i Vijeća (SL L 316, 14.11.2012., str. 12.).
54 Uredba (EU) br. 1025/2012 Europskog parlamenta i Vijeća od 25. listopada 2012. o europskoj normizaciji, o izmjeni direktiva Vijeća 89/686/EEZ i 93/15/EEZ i direktiva 94/9/EZ, 94/25/EZ, 95/16/EZ, 97/23/EZ, 98/34/EZ, 2004/22/EZ, 2007/23/EZ, 2009/23/EZ i 2009/105/EZ Europskog parlamenta i Vijeća te o stavljanju izvan snage Odluke Vijeća 87/95/EEZ i Odluke br. 1673/2006/EZ Europskog parlamenta i Vijeća (SL L 316, 14.11.2012., str. 12.).
(61 a) Kako bi se olakšala usklađenost, Komisija bi trebala izdati prve zahtjeve za normizaciju najkasnije dva mjeseca nakon stupanja na snagu ove Uredbe. Time bi se trebala poboljšati pravna sigurnost, čime bi se promicala ulaganja i inovacije u području umjetne inteligencije, kao i konkurentnost i rast tržišta Unije, uz istodobno jačanje upravljanja s više dionika koje predstavlja sve relevantne europske dionike, kao što su Ured za umjetnu inteligenciju, europske organizacije i tijela za normizaciju ili skupine stručnjaka uspostavljene u skladu s relevantnim sektorskim pravom Unije te industrija, MSP-ovi, start-up poduzeća, civilno društvo, istraživači i socijalni partneri, te bi se u konačnici trebala olakšati globalna suradnja kad je riječ o normizaciji u području umjetne inteligencije na način koji je u skladu s vrijednostima Unije. Pri pripremi zahtjeva za normizaciju Komisija bi se trebala savjetovati s Uredom za umjetnu inteligenciju i Savjetodavnim forumom za umjetnu inteligenciju kako bi prikupila relevantno stručno znanje.
(61 c) Komisija bi trebala moći donijeti zajedničke specifikacije pod određenim uvjetima ako ne postoji relevantna usklađena norma ili kako bi se riješila konkretna pitanja u vezi s temeljnim pravima. Tijekom cijelog postupka izrade nacrta, Komisija bi se trebala redovito savjetovati s Uredom za umjetnu inteligenciju i njegovim savjetodavnim forumom, europskim organizacijama i tijelima za normizaciju ili stručnim skupinama osnovanima u skladu s relevantnim pravom Unije te relevantnim dionicima, kao što su industrija, MSP-ovi, start-up poduzeća, civilno društvo, istraživači i socijalni partneri.
(61 d) Pri donošenju zajedničkih specifikacija Komisija bi trebala težiti regulatornom usklađivanju umjetne inteligencije s globalnim partnerima sličnih stavova, što je ključno za poticanje inovacija i prekograničnih partnerstava u području umjetne inteligencije, s obzirom na to da je koordinacija s partnerima sličnih stavova u međunarodnim tijelima za normizaciju od velike važnosti.
Amandman 108 Prijedlog uredbe Uvodna izjava 62.
(62) Kako bi se osigurala visoka razina pouzdanosti visokorizičnih UI sustava, ti bi sustavi trebali podlijegati ocjenjivanju sukladnosti prije njihova stavljanja na tržište ili u uporabu.
(62) Kako bi se osigurala visoka razina pouzdanosti visokorizičnih UI sustava, ti bi sustavi trebali podlijegati ocjenjivanju sukladnosti prije njihova stavljanja na tržište ili u uporabu. Kako bi se povećalo povjerenje u lanac vrijednosti i pružila sigurnost poduzećima u pogledu sposobnosti njihovih sustava, treće strane koje dobavljaju UI komponente mogu se dobrovoljno prijaviti za ocjenjivanje sukladnosti koje provodi treća strana.
Amandman 109 Prijedlog uredbe Uvodna izjava 64.
(64) S obzirom na bogato iskustvo profesionalnih certifikatora proizvoda prije stavljanja na tržište u području sigurnosti proizvoda i različitu prirodu uključenih rizika, primjereno je, barem u početnoj fazi primjene ove Uredbe, ograničiti područje primjene ocjenjivanja sukladnosti visokorizičnih UI sustava koje provodi treća strana, osim za one sustave koji su povezani s proizvodima. Stoga bi ocjenjivanje sukladnosti takvih sustava u pravilu trebali provoditi dobavljači na vlastitu odgovornost, osim u slučaju kad su UI sustavi namijenjeni za daljinsku biometrijsku identifikaciju osoba, za što je potrebno predvidjeti sudjelovanje prijavljenog tijela u ocjenjivanju sukladnosti, pod uvjetom da ti sustavi nisu zabranjeni.
(64) S obzirom na složenost visokorizičnih UI sustava i s njima povezane rizike, ključno je razviti primjerenije kapacitete za primjenu ocjenjivanja sukladnosti visokorizičnih UI sustava koje provodi treća strana. Međutim, obzirom na trenutačno iskustvo profesionalnih certifikatora proizvoda prije stavljanja na tržište u području sigurnosti proizvoda i različitu prirodu uključenih rizika, primjereno je, barem u početnoj fazi primjene ove Uredbe, ograničiti područje primjene ocjenjivanja sukladnosti visokorizičnih UI sustava koje provodi treća strana, osim za one sustave koji su povezani s proizvodima. Stoga bi ocjenjivanje sukladnosti takvih sustava u pravilu trebali provoditi dobavljači na vlastitu odgovornost, osim u slučaju kad su UI sustavi namijenjeni za daljinsku biometrijsku identifikaciju osoba ili u slučaju UI sustava koji su namijenjeni za izvođenje zaključaka o osobnim obilježjima pojedinaca na temelju biometrijskih podataka ili podataka koji se temelje na biometriji, uključujući sustave za prepoznavanje emocija, za što je potrebno predvidjeti sudjelovanje prijavljenog tijela u ocjenjivanju sukladnosti, pod uvjetom da ti sustavi nisu zabranjeni.
Amandman 110 Prijedlog uredbe Uvodna izjava 65.
(65) Za ocjenjivanja sukladnosti UI sustava namijenjenih za daljinsku biometrijsku identifikaciju osoba koje provodi treća strana nacionalna nadležna tijela trebala bi na temelju ove Uredbe imenovati prijavljena tijela, pod uvjetom da ispunjavaju niz zahtjeva, ponajprije u pogledu neovisnosti, sposobnosti i nepostojanja sukoba interesa.
(65) Za ocjenjivanja sukladnosti koje provodi treća strana kada je to potrebno, nacionalna nadležna tijela trebala bi na temelju ove Uredbe imenovati prijavljena tijela, pod uvjetom da ispunjavaju niz zahtjeva, ponajprije u pogledu neovisnosti, sposobnosti, nepostojanja sukoba interesa i minimalnih kibersigurnosnih zahtjeva. Države članice trebale bi poticati imenovanje dovoljnog broja tijela za ocjenjivanje sukladnosti kako bi certifikacija postala pravovremeno izvediva. Postupci ocjenjivanja, imenovanja, prijavljivanja i nadzora tijela za ocjenjivanje sukladnosti trebali bi se što ujednačenije provoditi u državama članicama s ciljem uklanjanja administrativnih prekograničnih prepreka i ostvarenja potencijala unutarnjeg tržišta.
(65 a) U skladu s obvezama Unije u okviru Sporazuma Svjetske trgovinske organizacije o tehničkim preprekama u trgovini, primjereno je u najvećoj mogućoj mjeri povećati prihvaćanje dobivenih rezultata ispitivanja koje su proizvela nadležna tijela za ocjenjivanje sukladnosti, bez obzira na to na kojem području imaju poslovni nastan, kad je potrebno dokazati sukladnost s primjenjivim zahtjevima Uredbe. Komisija bi trebala aktivno istražiti moguće međunarodne instrumente u tu svrhu te posebno nastojati uspostaviti sporazume o uzajamnom priznavanju sa zemljama koje su na usporedivoj razini tehničkog razvoja i koje imaju kompatibilan pristup u pogledu umjetne inteligencije i ocjenjivanja sukladnosti.
Amandman 112 Prijedlog uredbe Uvodna izjava 66.
(66) U skladu s uvriježenim pojmom bitne izmjene za proizvode uređene zakonodavstvom Unije o usklađivanju, primjereno je da se za UI sustav provede novi postupak ocjenjivanja sukladnosti kad god nastupi promjena koja bi mogla utjecati na usklađenost sustava s ovom Uredbom ili promjena namjene sustava. Usto, kad je riječ o UI sustavima koji „uče” i nakon što su stavljeni na tržište ili u uporabu (tj. automatski prilagođavaju način obavljanja funkcija), potrebno je propisati pravila kojima se utvrđuje da se izmjene algoritma i njegovih sposobnosti koje je dobavljač unaprijed odredio i koje se ocjenjuju u trenutku ocjenjivanja sukladnosti ne bi trebale smatrati bitnom izmjenom.
(66) U skladu s uvriježenim pojmom bitne izmjene za proizvode uređene zakonodavstvom Unije o usklađivanju, primjereno je da se za visokorizični UI sustav provede novi postupak ocjenjivanja sukladnosti kad god nastupi neplanirana promjena koja nadilazi kontrolirane ili predviđene promjene od strane dobavljača, uključujući kontinuirano učenje, i koja bi mogla dovesti do novog neprihvatljivog rizika i znatno utjecati na usklađenost visokorizičnog UI sustava s ovom Uredbom ili promjena namjene sustava. Usto, kad je riječ o UI sustavima koji „uče” i nakon što su stavljeni na tržište ili u uporabu (tj. automatski prilagođavaju način obavljanja funkcija), potrebno je propisati pravila kojima se utvrđuje da se izmjene algoritma i njegovih sposobnosti koje je dobavljač unaprijed odredio i koje se ocjenjuju u trenutku ocjenjivanja sukladnosti ne bi trebale smatrati bitnom izmjenom. Isto bi se trebalo primjenjivati na ažuriranja UI sustava općenito iz sigurnosnih razloga i radi zaštite od rastućih prijetnji manipulacijom sustava, pod uvjetom da ona ne dovode do bitnih izmjena.
Amandman 113 Prijedlog uredbe Uvodna izjava 67.
(67) Visokorizični UI sustavi trebali bi nositi oznaku CE koja upućuje na njihovu sukladnost s ovom Uredbom kako bi se mogli slobodno kretati na unutarnjem tržištu. Države članice ne bi trebale stvarati neopravdane zapreke stavljanju na tržište ili u uporabu visokorizičnih UI sustava koji ispunjavaju zahtjeve utvrđene ovom Uredbom i nose oznaku CE.
(67) Visokorizični UI sustavi trebali bi nositi oznaku CE koja upućuje na njihovu sukladnost s ovom Uredbom kako bi se mogli slobodno kretati na unutarnjem tržištu. Kad je riječ o fizičkim visokorizičnim UI sustavima, fizička oznaka CE trebala bi biti pričvršćena na njih te se može dopuniti digitalnom oznakom CE. Za isključivo digitalne visokorizične UI sustave trebalo bi upotrebljavati digitalnu oznaku CE. Države članice ne bi trebale stvarati neopravdane zapreke stavljanju na tržište ili u uporabu visokorizičnih UI sustava koji ispunjavaju zahtjeve utvrđene ovom Uredbom i nose oznaku CE.
Amandman 114 Prijedlog uredbe Uvodna izjava 68.
(68) U određenim okolnostima brza dostupnost inovativnih tehnologija može biti ključna za zdravlje i sigurnost osoba te za društvo u cjelini. Stoga je primjereno da u iznimnim okolnostima povezanima s javnom sigurnošću ili zaštitom života i zdravlja pojedinaca te zaštitom industrijskog i trgovačkog vlasništva države članice mogu odobriti stavljanje na tržište ili u uporabu UI sustava za koje nije proveden postupak ocjenjivanja sukladnosti.
(68) U određenim okolnostima brza dostupnost inovativnih tehnologija može biti ključna za zdravlje i sigurnost osoba, okoliš i klimatske promjene te za društvo u cjelini. Stoga je primjereno da u iznimnim okolnostima povezanima sa zaštitom života i zdravlja pojedinaca, zaštitom okoliša te zaštitom kritične infrastrukture države članice mogu odobriti stavljanje na tržište ili u uporabu UI sustava za koje nije proveden postupak ocjenjivanja sukladnosti.
Amandman 115 Prijedlog uredbe Uvodna izjava 69.
(69) Kako bi se olakšao rad Komisije i država članica u području umjetne inteligencije te povećala transparentnost prema javnosti, od dobavljača visokorizičnih UI sustava koji nisu povezani s proizvodima obuhvaćenima relevantnim postojećim zakonodavstvom Unije o usklađivanju trebalo bi zahtijevati da registriraju svoj visokorizični UI sustav u bazi podataka EU-a, koju će uspostaviti i voditi Komisija. Komisija bi trebala biti voditelj obrade za tu bazu podataka, u skladu s Uredbom (EU) 2018/1725 Europskog parlamenta i Vijeća55. Kako bi ta baza bila posve funkcionalna od puštanja u rad, postupak njezina uspostavljanja trebao bi uključivati razradu funkcionalnih specifikacija, što je Komisijina zadaća, te neovisno revizorsko izvješće.
(69) Kako bi se olakšao rad Komisije i država članica u području umjetne inteligencije te povećala transparentnost prema javnosti, od dobavljača visokorizičnih UI sustava koji nisu povezani s proizvodima obuhvaćenima relevantnim postojećim zakonodavstvom Unije o usklađivanju trebalo bi zahtijevati da registriraju svoj visokorizični UI sustav i temeljne modele u bazi podataka EU-a, koju će uspostaviti i voditi Komisija. Ta bi baza podataka trebala biti besplatno i javno dostupna, lako razumljiva i strojno čitljiva. Baza podataka također bi trebala biti prilagođena korisnicima i jednostavna za snalaženje, s funkcijama pretraživanja koje bi barem trebale široj javnosti omogućiti pretraživanje baze podataka s obzirom na posebne visokorizične sustave, lokacije, kategorije rizika u skladu s Prilogom IV. i ključne riječi. Subjekti koji primjenjuju UI sustave, a koji su javna tijela ili institucije, tijela, uredi i agencije Unije ili subjekti koji primjenjuju UI sustave, a koji djeluju u njihovo ime i subjekti koji primjenjuju UI sustave, a koji su poduzetnici određeni kao nadzornici pristupa na temelju Uredbe (EU) 2022/1925 trebali bi se također registrirati u bazi podataka EU-a prije stavljanja u uporabu ili prije prve uporabe visokorizičnog UI sustava te nakon svake bitne izmjene. Ostali subjekti koji primjenjuju UI sustave trebali bi imati pravo to učiniti dobrovoljno. Svaka bitna izmjena visokorizičnih UI sustava također se registrira u bazi podataka EU-a. Komisija bi trebala biti voditelj obrade za tu bazu podataka, u skladu s Uredbom (EU) 2018/1725 Europskog parlamenta i Vijeća55. Kako bi ta baza bila posve funkcionalna od puštanja u rad, postupak njezina uspostavljanja trebao bi uključivati razradu funkcionalnih specifikacija, što je Komisijina zadaća, te neovisno revizorsko izvješće. Komisija bi pri obavljanju svojih zadaća voditelja obrade podataka u bazi podataka EU-a trebala uzeti u obzir rizike povezane s kibersigurnošću i opasnostima. Kako bi se maksimalno povećale dostupnost i uporaba baze podataka u javnosti, baza podataka, uključujući podatke koji su u njoj dostupni, trebala bi ispunjavati zahtjeve iz Direktive 2019/882.
__________________
__________________
55 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
55 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
Amandman 116 Prijedlog uredbe Uvodna izjava 71.
(71) Umjetna inteligencija skup je tehnologija koje se vrlo brzo razvijaju, što zahtijeva nove oblike regulatornog nadzora i siguran prostor za eksperimentiranje, a da se pritom inovacije razvijaju na odgovoran način te da se integriraju odgovarajuće zaštitne mjere i mjere za smanjenje rizika. Kako bi se osigurao pravni okvir koji je otvoren prema inovacijama, spreman za buduće promjene i otporan na poremećaje, nacionalna nadležna tijela jedne ili više država članica trebalo bi poticati da uspostave regulatorno izolirano okruženje za umjetnu inteligenciju radi lakšeg razvoja i testiranja inovativnih UI sustava pod strogim regulatornim nadzorom prije stavljanja tih sustava na tržište ili u uporabu.
(71) Umjetna inteligencija skup je tehnologija koje se vrlo brzo razvijaju, što zahtijeva regulatorni nadzor i siguran i kontroliran prostor za eksperimentiranje, a da se pritom inovacije razvijaju na odgovoran način te da se integriraju odgovarajuće zaštitne mjere i mjere za smanjenje rizika. Kako bi se osigurao pravni okvir kojim se promiču inovacije te koji je spreman za buduće promjene i otporan na poremećaje, države članice trebale bi uspostaviti barem jedno regulatorno izolirano okruženje za umjetnu inteligenciju radi lakšeg razvoja i testiranja inovativnih UI sustava pod strogim regulatornim nadzorom prije stavljanja tih sustava na tržište ili u uporabu. Poželjno je da, kao sljedeći korak, uspostava regulatornih izoliranih okruženja, koja je trenutačno prepuštena na izbor državama članicama, postane obvezna s utvrđenim kriterijima. To bi se obvezno izolirano okruženje moglo uspostaviti i zajedno s jednom ili više drugih država članica, pod uvjetom da se tim izoliranim okruženjem obuhvati odgovarajuća nacionalna razina uključenih država članica. Dodatna izolirana okruženja mogu se uspostaviti i na različitim razinama, uključujući među državama članicama, kako bi se olakšala prekogranična suradnja i sinergije. Uz iznimku obveznog izoliranog okruženja na nacionalnoj razini, države članice trebale bi moći uspostaviti i virtualna ili hibridna izolirana okruženja. Sva regulatorna izolirana okruženja trebala bi moći prihvatiti i fizičke i virtualne proizvode. Tijela nadležna za uspostavu trebala bi osigurati i da regulatorna izolirana okruženja imaju odgovarajuće financijske i ljudske resurse kako bi mogla funkcionirati.
Amandman 117 Prijedlog uredbe Uvodna izjava 72.
(72) Ciljevi regulatornih izoliranih okruženja trebali bi biti poticanje inovacija u području umjetne inteligencije uspostavom kontroliranog okruženja za eksperimentiranje i testiranje u fazi razvoja i prije stavljanja na tržište s ciljem da se: osigura usklađenost inovativnih UI sustava s ovom Uredbom i drugim relevantnim zakonodavstvom Unije i država članica, poveća pravna sigurnost za inovatore, poboljša nadzor nadležnih tijela i njihovo razumijevanje mogućnosti, novih rizika i učinaka uporabe umjetne inteligencije te ubrza pristup tržištima, među ostalim uklanjanjem zapreka za mala i srednja poduzeća (MSP-ovi) te novoosnovana (start-up) poduzeća.Radi ujednačene provedbe u cijeloj Uniji i ekonomije razmjera, primjereno je uspostaviti zajednička pravila za primjenu regulatornih izoliranih okruženja i okvir za suradnju relevantnih tijela uključenih u nadzor izoliranih okruženja. Ovom bi se Uredbom trebala dati pravna osnova za uporabu osobnih podataka prikupljenih u druge svrhe za razvoj određenih UI sustava u javnom interesu u regulatornom izoliranom okruženju za umjetnu inteligenciju, u skladu s člankom 6. stavkom 4. Uredbe (EU) 2016/679 i člankom 6. Uredbe (EU) 2018/1725, i ne dovodeći u pitanje članak 4. stavak 2. Direktive (EU) 2016/680. Sudionici u izoliranom okruženju trebali bi osigurati odgovarajuće zaštitne mjere i surađivati s nadležnim tijelima, među ostalim tako da slijede njihove smjernice, postupaju žurno i u dobroj vjeri kako bi se smanjili bilo kakvi veliki rizici za sigurnost i temeljna prava mogući tijekom razvoja i eksperimentiranja u izoliranom okruženju. Nadležna tijela trebala bi uzeti u obzir ponašanje sudionika u izoliranom okruženju kad odlučuju o izricanju upravne novčane kazne na temelju članka 83. stavka 2. Uredbe 2016/679 i članka 57. Direktive (EU) 2016/680.
(72) Ciljevi regulatornih izoliranih okruženja trebali bi biti sljedeći: povećati razumijevanje tehničkog razvoja unutar tijela nadležnih za uspostavu, poboljšati njihove metode nadzora i omogućiti im da pruže smjernice programerima i dobavljačima UI sustava za postizanje regulatorne usklađenosti s ovom Uredbom ili, prema potrebi, s drugim zakonodavstvom Unije i država članica, kao i Poveljom o temeljnim pravima; potencijalnim dobavljačima omogućiti i olakšati testiranje i razvoj inovativnih rješenja povezanih s UI sustavima u fazi prije stavljanja na tržište kako bi se povećala pravna sigurnost; tijelima nadležnim za uspostavu omogućiti više regulatornog učenja u kontroliranom okruženju kako bi se razvile bolje smjernice i kako bi se utvrdila moguća buduća poboljšanja pravnog okvira u sklopu redovnog zakonodavnog postupka. Ako se tijekom razvoja i testiranja takvih UI sustava uoče znatni rizici, ti bi se rizici trebali odmah smanjiti, a ako to nije moguće, treba se prekinuti postupak razvoja i testiranja sve dok se oni ne smanje.Radi ujednačene provedbe u cijeloj Uniji i ekonomije razmjera, primjereno je uspostaviti zajednička pravila za primjenu regulatornih izoliranih okruženja i okvir za suradnju relevantnih tijela uključenih u nadzor izoliranih okruženja.Države članice trebale bi osigurati široku dostupnost regulatornih izoliranih okruženja diljem Unije, a sudjelovanje bi trebalo ostati dobrovoljno. Posebno je važno osigurati da MSP-ovi i start-up poduzeća kao mogu lako pristupiti tim izoliranim okruženjima te da su aktivno uključeni i da sudjeluju u razvoju i testiranju inovativnih UI sustava kako bi mogli doprinijeti svojim znanjem i iskustvom.
(72 a) Ova bi Uredba trebala poslužiti kao pravna osnova za uporabu osobnih podataka prikupljenih u druge svrhe za razvoj određenih UI sustava u javnom interesu u regulatornom izoliranom okruženju za umjetnu inteligenciju, samo pod određenim uvjetima u skladu s člankom 6. stavkom 4. Uredbe (EU) 2016/679 i člankom 6. Uredbe (EU) 2018/1725, i ne dovodeći u pitanje članak 4. stavak 2. Direktive (EU) 2016/680. Potencijalni dobavljači u izoliranom okruženju trebali bi osigurati odgovarajuće zaštitne mjere i surađivati s nadležnim tijelima, među ostalim tako da slijede njihove smjernice, postupaju žurno i u dobroj vjeri kako bi se smanjili bilo kakvi veliki rizici za sigurnost, zdravlje, okoliš i temeljna prava koji se mogu pojaviti tijekom razvoja i eksperimentiranja u izoliranom okruženju. Nadležna tijela trebala bi uzeti u obzir ponašanje potencijalnih dobavljača u izoliranom okruženju kad odlučuju o privremenoj ili stalnoj suspenziji njihova sudjelovanja u izoliranom okruženju ili izricanju upravne novčane kazne na temelju članka 83. stavka 2. Uredbe 2016/679 i članka 57. Direktive (EU) 2016/680.
(72 b) Kako bi se osiguralo da umjetna inteligencija dovodi do društveno i okolišno korisnih rezultata, države članice trebale bi podupirati i promicati istraživanje i razvoj umjetne inteligencije radi potpore takvim rezultatima dodjelom dostatnih sredstava, uključujući javno financiranje i financiranje Unije, te davanjem prednosti projektima pod vodstvom civilnog društva u pristupu regulatornim izoliranim okruženjima. Takvi bi se projekti trebali temeljiti na načelu interdisciplinarne suradnje među programerima umjetne inteligencije, stručnjacima za nejednakost i nediskriminaciju, prava pristupa i potrošačka, okolišna i digitalna prava te akademskom zajednicom.
Amandman 120 Prijedlog uredbe Uvodna izjava 73.
(73) Kako bi se promicale i štitile inovacije, posebno je važno uzeti u obzir interese malih dobavljača i korisnika UI sustava. Radi toga bi države članice trebale osmisliti inicijative usmjerene na te operatere, među ostalim u pogledu širenja svijesti i informiranja. Usto, prijavljena tijela trebala bi uzeti u obzir posebne interese i potrebe malih dobavljača kad određuju naknade za ocjenjivanje sukladnosti. Dobavljači i drugi operateri, posebno oni manje, mogu imati znatne troškove prijevoda obvezne dokumentacije i komunikacije s tijelima. Države članice trebale bi možda osigurati da jedan od jezika koji odrede i prihvaćaju za relevantnu dokumentaciju dobavljača i komunikaciju s operaterima bude jedan od jezika koji općenito razumije najveći mogući broj prekograničnih korisnika.
(73) Kako bi se promicale i štitile inovacije, posebno je važno uzeti u obzir interese malih dobavljača i korisnika UI sustava. Radi toga bi države članice trebale osmisliti inicijative usmjerene na te operatere, među ostalim u pogledu pismenosti u području umjetne inteligencije, širenja svijesti i informiranja. Države članice koriste postojeće kanale i, prema potrebi, uspostavljaju nove namjenske kanale za komunikaciju s MSP-ovima, start-up poduzećima, korisnicima i drugim inovatorima radi pružanja smjernica i odgovaranja na upite o provedbi ove Uredbe. Ti postojeći kanali mogli bi uključivati, ali nisu ograničeni na, timove za odgovor na računalne sigurnosne incidente ENISA-e, nacionalne agencije za zaštitu podataka, platformu za umjetnu inteligenciju na zahtjev, europske centre za digitalne inovacije i druge relevantne instrumente koji se financiraju iz programâ EU-a te centre za testiranje i eksperimentiranje koje su Komisija i države članice uspostavile na nacionalnoj razini ili razini Unije. Prema potrebi, kanali surađuju kako bi se stvorile sinergije i osigurala homogenost smjernica za start-up poduzeća, MSP-ove i korisnike. Usto, prijavljena tijela trebala bi uzeti u obzir posebne interese i potrebe malih dobavljača kad određuju naknade za ocjenjivanje sukladnosti. Komisija redovito ocjenjuje troškove certifikacije i usklađivanja za MSP-ove i start-up poduzeća, među ostalim transparentnim savjetovanjem s MSP-ovima, start-up poduzećima i korisnicima, te surađuje s državama članicama radi smanjenja takvih troškova. Na primjer, dobavljači i drugi operateri, posebno oni manji, mogu imati znatne troškove prijevoda obvezne dokumentacije i komunikacije s tijelima. Države članice trebale bi možda osigurati da jedan od jezika koji odrede i prihvaćaju za relevantnu dokumentaciju dobavljača i komunikaciju s operaterima bude jedan od jezika koji općenito razumije najveći mogući broj prekograničnih korisnika. Poduzeća koja su nedavno prešla iz kategorije malih u kategoriju srednjih poduzeća u skladu s Prilogom Preporuci 2003/361/EZ (članak 16.) trebala bi imati pristup tim inicijativama i smjernicama tijekom vremenskog razdoblja koje države članice smatraju primjerenim jer bi tim novim srednjim poduzećima ponekad mogli nedostajati pravni resursi i znanje potrebni za jamčenje pravilnog razumijevanja i ispunjavanja odredbi.
Amandman 121 Prijedlog uredbe Uvodna izjava 74.
(74) Kako bi se rizici za provedbu koji proizlaze iz nedostatka znanja i iskustva na tržištu sveli na najmanju moguću mjeru te kako bi se dobavljačima i prijavljenim tijelima olakšalo ispunjavanje obveza iz ove Uredbe, Komisija i države članice trebale bi pridonijeti njezinoj provedbi uspostavom platforme za umjetnu inteligenciju na zahtjev, europskih centara za digitalne inovacije te centara za testiranje i eksperimentiranje na nacionalnoj razini ili razini EU-a. U okviru svojih misija i područja kompetentnosti ponajprije mogu pružati tehničku i znanstvenu potporu dobavljačima i prijavljenim tijelima.
(Ne odnosi se na hrvatsku verziju.)
Amandman 122 Prijedlog uredbe Uvodna izjava 76.
(76) Kako bi se olakšala nesmetana, učinkovita i usklađena provedba ove Uredbe, trebalo bi uspostaviti Europski odbor za umjetnu inteligenciju. Odbor bi trebao biti odgovoran za niz savjetodavnih zadaća, uključujući davanje mišljenja, preporuka, savjeta ili smjernica o pitanjima povezanima s provedbom ove Uredbe, među ostalim o tehničkim specifikacijama ili postojećim normama povezanima sa zahtjevima iz ove Uredbe, te za davanje savjeta i pomaganje Komisiji u vezi sa specifičnim pitanjima koja se odnose na umjetnu inteligenciju.
(76) Kako bi se izbjegla rascjepkanost, osiguralo optimalno funkcioniranje jedinstvenog tržišta , osigurala učinkovita i usklađena provedba ove Uredbe, postigla visoka razina vjerodostojnosti i zaštite zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava diljem Unije u pogledu UI sustava, aktivno pružila potpora nacionalnim nadzornim tijelima te institucijama, tijelima, uredima i agencijama Unije u pitanjima koja se odnose na ovu Uredbu te smanjila fragmentacija unutarnjeg tržišta i povećalo prihvaćanje umjetne inteligencije u cijeloj Uniji, trebalo bi uspostaviti Ured Europske unije za umjetnu inteligenciju. Ured za umjetnu inteligenciju trebao bi imati pravnu osobnost, djelovati potpuno neovisno, biti odgovoran za niz savjetodavnih i koordinacijskih zadaća, uključujući davanje mišljenja, preporuka, savjeta ili smjernica o pitanjima povezanima s provedbom ove Uredbe te bi trebao raspolagati odgovarajućim financijskim sredstvima i osobljem. Države članice trebale bi osigurati strateško usmjeravanje i kontrolu Ureda za umjetnu inteligenciju putem upravnog odbora Ureda za umjetnu inteligenciju, zajedno s Komisijom, Europskim nadzornikom za zaštitu podataka, Agencijom za temeljna prava i ENISA-om. Izvršni direktor trebao bi biti odgovoran za upravljanje aktivnostima tajništva Ureda za umjetnu inteligenciju i za njegovo zastupanje. Dionici bi trebali formalno sudjelovati u radu Ureda za umjetnu inteligenciju putem savjetodavnog foruma koji bi trebao osigurati raznoliku i uravnoteženu zastupljenost dionika i savjetovati Ured za umjetnu inteligenciju o pitanjima koja se odnose na ovu Uredbu. U slučaju da se pokaže da osnivanje Ureda za umjetnu inteligenciju nije dovoljno za osiguravanje potpuno dosljedne primjene ove Uredbe na razini Unije i učinkovitih prekograničnih provedbenih mjera, trebalo bi razmotriti osnivanje agencije za umjetnu inteligenciju.
Amandman 123 Prijedlog uredbe Uvodna izjava 77.
(77) Države članice imaju ključnu ulogu u primjeni i provedbi ove Uredbe. Svaka bi država članica zato trebala odrediti jedno ili više nacionalnih nadležnih tijela za potrebe nadziranja primjene i provedbe ove Uredbe. Kako bi se povećala učinkovitost organizacije u državama članicama i uspostavila službena kontaktna točka za javne i druge partnere na razini država članica i Unije, u svakoj bi državi članici jedno nacionalno tijelo trebalo imenovati kao nacionalno nadzorno tijelo.
(77) Svaka bi država članica trebala odrediti nacionalno nadzorno tijelo za potrebe nadziranja primjene i provedbe ove Uredbe. Ono bi također trebalo predstavljati svoju državu članicu u upravnom odboru Ureda za umjetnu inteligenciju. Kako bi se povećala učinkovitost organizacije u državama članicama i uspostavila službena kontaktna točka za javne i druge partnere na razini država članica i Unije. Svako nacionalno nadzorno tijelo trebalo bi djelovati potpuno neovisno pri obavljanju svojih dužnosti i izvršavanju svojih ovlasti u skladu s ovom Uredbom.
(77 a) Nacionalna nadzorna tijela trebala bi pratiti primjenu odredaba u skladu s ovom Uredbom i pridonositi njezinoj dosljednoj primjeni u cijeloj Uniji. U tu bi svrhu nacionalna nadzorna tijela trebala surađivati međusobno, s relevantnim nacionalnim nadležnim tijelima, Komisijom i Uredom za umjetnu inteligenciju.
(77 b) Član ili osoblje svakog nacionalnog nadzornog tijela trebali bi, u skladu s pravom Unije ili nacionalnim pravom, podlijegati obvezi čuvanja profesionalne tajne i za vrijeme svojeg mandata i nakon njegova završetka, s obzirom na sve povjerljive informacije koje doznaju tijekom obavljanja svojih dužnosti ili izvršavanja svojih ovlasti. Tijekom njihovog mandata ta bi se dužnost čuvanja profesionalne tajne trebala posebno primjenjivati na izvješćivanje od strane pojedinaca o kršenjima ove Uredbe.
Amandman 126 Prijedlog uredbe Uvodna izjava 78.
(78) Kako bi dobavljači visokorizičnih UI sustava mogli uzeti u obzir iskustvo stečeno uporabom visokorizičnih UI sustava za poboljšanje svojih sustava te za projektiranje i razvoj ili kako bi mogli pravovremeno poduzeti korektivne mjere, svi bi dobavljači trebali uspostaviti sustav praćenja nakon stavljanja na tržište. Taj je sustav ključan i za učinkovitije i pravodobnije poduzimanje mjera povezanih s mogućim rizicima od UI sustava koji „uče” i nakon što su stavljeni na tržište ili u uporabu. U tom bi kontekstu od dobavljača trebalo zahtijevati i da uspostave sustav za prijavljivanje relevantnim tijelima svih ozbiljnih incidenata ili povreda nacionalnog prava i prava Unije kojima se štite temeljna prava koji su posljedica uporabe njihovih UI sustava.
(78) Kako bi dobavljači visokorizičnih UI sustava mogli uzeti u obzir iskustvo stečeno uporabom visokorizičnih UI sustava za poboljšanje svojih sustava te za projektiranje i razvoj ili kako bi mogli pravovremeno poduzeti korektivne mjere, svi bi dobavljači trebali uspostaviti sustav praćenja nakon stavljanja na tržište. Taj je sustav ključan i za učinkovitije i pravodobnije poduzimanje mjera povezanih s mogućim rizicima od UI sustava koji „uče” ili se razvijaju i nakon što su stavljeni na tržište ili u uporabu. U tom bi kontekstu od dobavljača trebalo zahtijevati i da uspostave sustav za prijavljivanje relevantnim tijelima svih ozbiljnih incidenata ili povreda nacionalnog prava i prava Unije, uključujući prav kojim se štite temeljna prava i prava potrošača, koji su posljedica uporabe njihovih UI sustava, te da poduzmu odgovarajuće korektivne mjere. Subjekti koji primjenjuju te sustave također bi trebali izvješćivati relevantna tijela o svim ozbiljnim incidentima ili povredama nacionalnog prava i prava Unije koji su posljedica uporabe njihovog UI sustava kada saznaju za takve ozbiljne incidente ili povrede.
Amandman 127 Prijedlog uredbe Uvodna izjava 79.
(79) Kako bi se osigurala odgovarajuća i učinkovita provedba zahtjeva i obveza utvrđenih ovom Uredbom, odnosno zakonodavstvom Unije o usklađivanju, u cijelosti bi se trebao primjenjivati sustav nadzora tržišta i sukladnosti proizvoda uspostavljen Uredbom (EU) 2019/1020. Ako je to potrebno za njihov mandat, pristup svoj dokumentaciji izrađenoj na temelju ove Uredbe trebala bi imati i nacionalna tijela javne vlasti ili javnopravna tijela koja nadziru primjenu prava Unije o zaštiti temeljnih prava, uključujući tijela za ravnopravnost.
(79) Kako bi se osigurala odgovarajuća i učinkovita provedba zahtjeva i obveza utvrđenih ovom Uredbom, odnosno zakonodavstvom Unije o usklađivanju, u cijelosti bi se trebao primjenjivati sustav nadzora tržišta i sukladnosti proizvoda uspostavljen Uredbom (EU) 2019/1020. Za potrebe ove Uredbe nacionalna nadzorna tijela trebala bi djelovati kao tijela za nadzor tržišta za UI sustave obuhvaćene ovom Uredbom, osim za UI sustave obuhvaćene Prilogom II. ovoj Uredbi. Za UI sustave obuhvaćene pravnim aktima navedenima u Prilogu II. nadležna tijela utvrđena na temelju tih pravnih akata trebala bi ostati vodeća tijela. Nacionalna nadzorna tijela i nadležna tijela iz pravnih akata navedenih u Prilogu II. trebala bi surađivati kad god je to potrebno. Prema potrebi, nadležna tijela iz pravnih akata navedenih u Prilogu II. trebala bi nacionalnom nadzornom tijelu poslati kvalificirano osoblje kako bi mu pomoglo u obavljanju njegovih zadaća. Za potrebe ove Uredbe nacionalna nadzorna tijela trebala bi imati iste ovlasti i obveze kao i tijela za nadzor tržišta na temelju Uredbe (EU) 2019/1020. Ako je to potrebno za njihov mandat, pristup svoj dokumentaciji izrađenoj na temelju ove Uredbe trebala bi imati i nacionalna tijela javne vlasti ili javnopravna tijela koja nadziru primjenu prava Unije o zaštiti temeljnih prava, uključujući tijela za ravnopravnost. Nakon što iscrpi sve druge razumne načine ocjenjivanja/provjere sukladnosti te na temelju obrazloženog zahtjeva, nacionalnom nadzornom tijelu trebalo bi odobriti pristup skupovima podataka za učenje, validaciju i testiranje, poučenom modelu i modelu za učenje visokorizičnog UI sustava, uključujući njegove relevantne parametre modela i njihovo okruženje za funkcioniranje/rad. U slučajevima jednostavnijih softverskih sustava obuhvaćenih ovom Uredbom koji se ne temelje na poučenim modelima, te ako su iscrpljeni svi drugi načini provjere sukladnosti, nacionalno nadzorno tijelo iznimno može, na temelju obrazloženog zahtjeva, dobiti pristup izvornom kodu. Ako je nacionalnom nadzornom tijelu odobren pristup skupovima podataka za učenje, validaciju i testiranje u skladu s ovom Uredbom, takav bi se pristup trebao ostvariti odgovarajućim tehničkim sredstvima i alatima, uključujući pristup na licu mjesta te, u iznimnim okolnostima, daljinski pristup. Nacionalno nadzorno tijelo trebalo bi sa svim informacijama, uključujući izvorni kod, softver i, ako je primjenjivo, podatke, postupati kao s povjerljivim informacijama i poštovati relevantno pravo Unije o zaštiti intelektualnog vlasništva i poslovnih tajni. Nacionalno nadzorno tijelo trebalo bi po završetku istrage izbrisati sve pribavljene informacije.
Amandman 128 Prijedlog uredbe Uvodna izjava 80.
(80) Zakonodavstvo Unije o financijskim uslugama uključuje pravila i zahtjeve o internom upravljanju i upravljanju rizikom koji se primjenjuju na regulirane financijske institucije pri pružanju tih usluga, među ostalim kad upotrebljavaju UI sustave. Kako bi se osigurala dosljedna primjena i provedba obveza iz ove Uredbe te relevantnih pravila i zahtjeva iz zakonodavstva Unije o financijskim uslugama, tijela odgovorna za nadzor i provedbu zakonodavstva o financijskim uslugama, uključujući prema potrebi Europsku središnju banku, trebala bi biti imenovana nadležnim tijelima za potrebe nadziranja provedbe ove Uredbe, uključujući aktivnosti nadzora tržišta, kad je riječ o UI sustavima koje pružaju ili upotrebljavaju financijske institucije koje su regulirane i pod nadzorom. Kako bi se dodatno poboljšala usklađenost ove Uredbe i pravila koja se primjenjuju na kreditne institucije regulirane na temelju Direktive 2013/36/EU Europskog parlamenta i Vijeća56, primjereno je i integrirati postupak ocjenjivanja sukladnosti i neke od postupovnih obveza dobavljača povezanih s upravljanjem rizikom, praćenjem nakon stavljanja na tržište i vođenjem dokumentacije u postojeće obveze i postupke na temelju Direktive 2013/36/EU. Kako bi se izbjegla preklapanja, trebalo bi predvidjeti i ograničena odstupanja u pogledu dobavljačkih sustava upravljanja kvalitetom i obveze praćenja za korisnike visokorizičnih UI sustava u mjeri u kojoj se primjenjuju na kreditne institucije uređene Direktivom 2013/36/EU.
(80) Pravo Unije o financijskim uslugama uključuje pravila i zahtjeve o internom upravljanju i upravljanju rizikom koji se primjenjuju na regulirane financijske institucije pri pružanju tih usluga, među ostalim kad upotrebljavaju UI sustave. Kako bi se osigurala dosljedna primjena i provedba obveza iz ove Uredbe te relevantnih pravila i zahtjeva iz prava Unije o financijskim uslugama, nadležna tijela odgovorna za nadzor i provedbu prava o financijskim uslugama, uključujući prema potrebi Europsku središnju banku, trebala bi biti imenovana nadležnim tijelima za potrebe nadziranja provedbe ove Uredbe, uključujući aktivnosti nadzora tržišta, kad je riječ o UI sustavima koje pružaju ili upotrebljavaju financijske institucije koje su regulirane i pod nadzorom. Kako bi se dodatno poboljšala usklađenost ove Uredbe i pravila koja se primjenjuju na kreditne institucije regulirane na temelju Direktive 2013/36/EU Europskog parlamenta i Vijeća56, primjereno je i integrirati postupak ocjenjivanja sukladnosti i neke od postupovnih obveza dobavljača povezanih s upravljanjem rizikom, praćenjem nakon stavljanja na tržište i vođenjem dokumentacije u postojeće obveze i postupke na temelju Direktive 2013/36/EU. Kako bi se izbjegla preklapanja, trebalo bi predvidjeti i ograničena odstupanja u pogledu dobavljačkih sustava upravljanja kvalitetom i obveze praćenja za subjekte koji primjenjuju visokorizične UI sustave u mjeri u kojoj se primjenjuju na kreditne institucije uređene Direktivom 2013/36/EU.
__________________
__________________
56 Direktiva 2013/36/EU Europskog parlamenta i Vijeća od 26. lipnja 2013. o pristupanju djelatnosti kreditnih institucija i bonitetnom nadzoru nad kreditnim institucijama i investicijskim društvima, izmjeni Direktive 2002/87/EZ te stavljanju izvan snage direktiva 2006/48/EZ i 2006/49/EZ (SL L 176, 27.6.2013., str. 338.).
56 Direktiva 2013/36/EU Europskog parlamenta i Vijeća od 26. lipnja 2013. o pristupanju djelatnosti kreditnih institucija i bonitetnom nadzoru nad kreditnim institucijama i investicijskim društvima, izmjeni Direktive 2002/87/EZ te stavljanju izvan snage direktiva 2006/48/EZ i 2006/49/EZ (SL L 176, 27.6.2013., str. 338.).
(80 a) S obzirom na ciljeve ove Uredbe, odnosno osiguravanje jednakovrijedne razine zaštite zdravlja, sigurnosti i temeljnih prava pojedinaca, osiguravanje zaštite vladavine prava i demokracije, te uzimajući u obzir da se ublažavanje rizika koje UI sustavi predstavljaju za takva prava možda ne može u dovoljnoj mjeri ostvariti na nacionalnoj razini ili bi moglo biti podložno različitim tumačenjima, što bi u konačnici moglo dovesti do neujednačene razine zaštite pojedinaca i dovesti do fragmentacije tržišta, nacionalna nadzorna tijela trebalo bi ovlastiti za provođenje zajedničkih istraga ili oslanjanje na zaštitni postupak Unije predviđen ovom Uredbom u svrhu učinkovite provedbe. Zajedničke istrage trebalo bi pokrenuti ako nacionalna nadzorna tijela imaju dovoljno razloga da smatraju da povreda ove Uredbe predstavlja raširenu povredu ili raširenu povredu s dimenzijom Unije ili ako UI sustav ili temeljni model predstavlja rizik koji utječe ili je vjerojatno da će utjecati na najmanje 45 milijuna pojedinaca u više od jedne države članice.
Amandman 130 Prijedlog uredbe Uvodna izjava 82.
(82) Važno je da UI sustavi povezani s proizvodima koji nisu visokorizični prema ovoj Uredbi, pa ne moraju ispunjavati njezine zahtjeve, ipak budu sigurni kad se stavljaju na tržište ili u uporabu. Kako bi se pridonijelo tom cilju, Direktiva 2001/95/EZ Europskog parlamenta i Vijeća57 primjenjivala bi se kao sigurnosni mehanizam.
(82) Važno je da UI sustavi povezani s proizvodima koji nisu visokorizični prema ovoj Uredbi, pa ne moraju ispunjavati zahtjeve za visokorizične UI sustave, ipak budu sigurni kad se stavljaju na tržište ili u uporabu. Kako bi se pridonijelo tom cilju, Direktiva 2001/95/EZ Europskog parlamenta i Vijeća57 primjenjivala bi se kao sigurnosni mehanizam.
__________________
__________________
57 Direktiva 2001/95/EZ Europskog parlamenta i Vijeća od 3. prosinca 2001. o općoj sigurnosti proizvoda (SL L 11, 15.1.2002., str. 4.).
57 Direktiva 2001/95/EZ Europskog parlamenta i Vijeća od 3. prosinca 2001. o općoj sigurnosti proizvoda (SL L 11, 15.1.2002., str. 4.).
Amandman 131 Prijedlog uredbe Uvodna izjava 83.
(83) Kako bi se osigurala pouzdana i konstruktivna suradnja nadležnih tijela na razini Unije i na nacionalnoj razini, sve strane uključene u primjenu ove Uredbe trebale bi poštovati povjerljivost informacija i podataka prikupljenih pri obavljanju svojih zadaća.
(83) Kako bi se osigurala pouzdana i konstruktivna suradnja nadležnih tijela na razini Unije i na nacionalnoj razini, sve strane uključene u primjenu ove Uredbe trebale bi težiti transparentnosti i otvorenosti, poštujući pritom povjerljivost informacija i podataka prikupljenih pri obavljanju svojih zadaća i to na način da uspostave tehničke i organizacijske mjere za zaštitu sigurnosti i povjerljivosti informacija dobivenih u okviru svojih aktivnosti, među ostalim u pogledu prava intelektualnog vlasništva te javnih i nacionalnih sigurnosnih interesa.Ako aktivnosti Komisije, nacionalnih nadležnih tijela i prijavljenih tijela u skladu s ovom Uredbom rezultiraju kršenjem prava intelektualnog vlasništva, države članice trebale bi predvidjeti adekvatne mjere i pravne lijekove kako bi se osigurala provedba prava intelektualnog vlasništva primjenom Direktive 2004/48/EZ.
Amandman 132 Prijedlog uredbe Uvodna izjava 84.
(84) Države članice trebale bi poduzeti sve potrebne mjere za provedbu odredaba ove Uredbe, među ostalim određivanjem učinkovitih, proporcionalnih i odvraćajućih sankcija za povrede tih odredaba. Za određene specifične povrede države članice trebale bi uzeti u obzir odstupanja i kriterije utvrđene u ovoj Uredbi. Europski nadzornik za zaštitu podataka trebao bi imati ovlast izreći novčane kazne institucijama, agencijama i tijelima Unije obuhvaćenima područjem primjene ove Uredbe.
(84) Usklađenost s ovom Uredbom trebala bi biti izvršiva izricanjem novčanih kazni od strane nacionalnog nadzornog tijela pri provođenju postupaka u skladu s postupkom utvrđenim u ovoj Uredbi. Države članice trebale bi poduzeti sve potrebne mjere za provedbu odredaba ove Uredbe, među ostalim određivanjem učinkovitih, proporcionalnih i odvraćajućih sankcija za povrede tih odredaba. Kako bi se postrožile i uskladile upravne sankcije za povrede ove Uredbe, trebalo bi utvrditi gornje granice za određivanje upravnih novčanih kazni za određene specifične povrede. Pri procjeni iznosa novčanih kazni nacionalna nadležna tijela trebala bi u svakom pojedinačnom slučaju uzeti u obzir sve relevantne okolnosti specifične situacije, posebno uzimajući u obzir prirodu, težinu i trajanje povrede i njezine posljedice te veličinu pružatelja, posebno ako je dobavljač MSP ili start-up poduzeće. Europski nadzornik za zaštitu podataka trebao bi imati ovlast izreći novčane kazne institucijama, agencijama i tijelima Unije obuhvaćenima područjem primjene ove Uredbe. Sankcije i troškovi sudskog postupka u skladu s ovom Uredbom ne bi smjeli biti podložni ugovornim obvezama niti bilo kojim drugim aranžmanima.
(84 a) Budući da UI sustavi mogu ozbiljno ugroziti prava i slobode pojedinaca i pravnih osoba i skupina pojedinaca, ključno je da pojedinci i pravne osobe ili skupine pojedinaca imaju smislen pristup mehanizmima prijavljivanja i pravne zaštite te da imaju pravo na pristup razmjernim i djelotvornim pravnim lijekovima. Trebali bi moći prijaviti povrede ove Uredbe svojem nacionalnom nadzornom tijelu te imati pravo podnijeti pritužbu protiv dobavljača ili subjekata koji primjenjuju UI sustave. Ako je primjenjivo, subjekti koji primjenjuju te sustave trebali bi osigurati interne mehanizme za podnošenje pritužbi kojima će se koristiti pojedinci i pravne osobe ili skupine pojedinaca. Ne dovodeći u pitanje nijedan drugi upravni ili izvansudski pravni lijek, pojedinci i pravne osobe te skupine pojedinaca također bi trebali imati pravo na djelotvoran pravni lijek u odnosu na pravno obvezujuću odluku nacionalnog nadzornog tijela koja se na njih odnosi ili ako nacionalno nadzorno tijelo ne obradi pritužbu, ne obavijesti podnositelja pritužbe o napretku ili preliminarnom ishodu podnesene pritužbe ili ne poštuje svoju obvezu donošenja konačne odluke o pritužbi.
(84 b) Zahvaćene osobe uvijek bi trebale biti obaviještene o tome da se na njima primjenjuje visokorizični UI sustav ako subjekti koji ga primjenjuju upotrebljavaju taj visokorizični UI sustav za pomoć u donošenju odluka ili za donošenje odluka povezanih s pojedincima. Te informacije zahvaćenim osobama mogu poslužiti kao osnova za ostvarivanje prava na objašnjenje u skladu s ovom Uredbom. Kada subjekti koji primjenjuju te sustave pružaju objašnjenje zahvaćenim osobama u skladu s ovom Uredbom, trebali bi uzeti u obzir razinu stručnosti i znanja prosječnog potrošača ili pojedinca.
(84 c) Pravo Unije o zaštiti zviždača (Direktiva (EU) 2019/1937) u potpunosti se primjenjuje na članove akademske zajednice, projektante, razvojne programere, sudionike u projektima, revizore, upravitelje proizvoda, inženjere i gospodarske subjekte koji prikupljaju informacije o povredama prava Unije koje je počinio dobavljač UI sustava ili njegov UI sustav.
Amandman 136 Prijedlog uredbe Uvodna izjava 85.
(85) Kako bi se regulatorni okvir mogao prilagođavati prema potrebi, Komisiji bi trebalo delegirati ovlast za donošenje akata u skladu s člankom 290. UFEU-a radi izmjene tehnika i pristupa iz Priloga I. za definiranje UI sustava, zakonodavstva Unije o usklađivanju iz Priloga II., visokorizičnih UI sustava iz Priloga III., odredaba o tehničkoj dokumentaciji iz Priloga IV., sadržaja EU izjave o sukladnosti iz Priloga V., odredaba o postupku ocjenjivanja sukladnosti iz priloga VI. i VII. te odredaba kojima se utvrđuju visokorizični UI sustavi na koje bi se trebao primjenjivati postupak ocjenjivanja sukladnosti na temelju ocjene sustava upravljanja kvalitetom i ocjene tehničke dokumentacije. Posebno je važno da Komisija u pripremnom radu provede odgovarajuća savjetovanja, među ostalim na stručnoj razini, te da se ta savjetovanja provedu u skladu s načelima utvrđenima u Međuinstitucijskom sporazumu od 13. travnja 2016. o boljoj izradi zakonodavstva58. Konkretno, s ciljem osiguravanja ravnopravnog sudjelovanja u pripremi delegiranih akata, Europski parlament i Vijeće primaju sve dokumente istodobno kad i stručnjaci iz država članica te njihovi stručnjaci sustavno imaju pristup sastancima stručnih skupina Komisije koji se odnose na pripremu delegiranih akata.
(85) Kako bi se regulatorni okvir mogao prilagođavati kada je to potrebno, Komisiji bi trebalo delegirati ovlast za donošenje akata u skladu s člankom 290. UFEU-a radi izmjene zakonodavstva Unije o usklađivanju iz Priloga II., visokorizičnih UI sustava iz Priloga III., odredaba o tehničkoj dokumentaciji iz Priloga IV., sadržaja EU izjave o sukladnosti iz Priloga V., odredaba o postupku ocjenjivanja sukladnosti iz priloga VI. i VII. te odredaba kojima se utvrđuju visokorizični UI sustavi na koje bi se trebao primjenjivati postupak ocjenjivanja sukladnosti na temelju ocjene sustava upravljanja kvalitetom i ocjene tehničke dokumentacije. Posebno je važno da Komisija u pripremnom radu provede odgovarajuća savjetovanja, među ostalim na stručnoj razini, te da se ta savjetovanja provedu u skladu s načelima utvrđenima u Međuinstitucijskom sporazumu od 13. travnja 2016. o boljoj izradi zakonodavstva58. U tim bi savjetovanjima trebao sudjelovati uravnotežen udio dionika, uključujući organizacije potrošača, civilno društvo, udruženja koja predstavljaju zahvaćene osobe, predstavnike poduzeća iz različitih sektora i različitih veličina te istraživače i znanstvenike. Konkretno, s ciljem osiguravanja ravnopravnog sudjelovanja u pripremi delegiranih akata, Europski parlament i Vijeće primaju sve dokumente istodobno kad i stručnjaci iz država članica te njihovi stručnjaci sustavno imaju pristup sastancima stručnih skupina Komisije koji se odnose na pripremu delegiranih akata.
(85 a) S obzirom na brz tehnološki razvoj i potrebno tehničko stručno znanje za provedbu procjene visokorizičnih UI sustava, Komisija bi trebala redovito, barem svake godine, preispitivati provedbu ove Uredbe, a posebno zabranjene UI sustave, obveze transparentnosti te popis visokorizičnih područja i slučajeva primjene, savjetujući se pritom s Uredom za umjetnu inteligenciju i relevantnim dionicima.
(87 a) Budući da su pouzdane informacije o uporabi resursa i energije, proizvodnji otpada i drugim učincima na okoliš UI sustava i povezanih IKT tehnologija, uključujući softver, hardver, a posebno podatkovne centre, ograničene, Komisija bi trebala uvesti odgovarajuću metodologiju za mjerenje utjecaja na okoliš i učinkovitosti ove Uredbe s obzirom na okolišne i klimatske ciljeve Unije.
Amandman 139 Prijedlog uredbe Uvodna izjava 89.
(89) Provedeno je savjetovanje s Europskim nadzornikom za zaštitu podataka i Europskim odborom za zaštitu podataka u skladu s člankom 42. stavkom 2. Uredbe (EU) 2018/1725 te su oni dali mišljenje o […],
(89) Provedeno je savjetovanje s Europskim nadzornikom za zaštitu podataka i Europskim odborom za zaštitu podataka u skladu s člankom 42. stavkom 2. Uredbe (EU) 2018/1725 te su oni 18. lipnja 2021. dali mišljenje.
1. Svrha je ove Uredbe promicati prihvaćanje antropocentrične i pouzdane umjetne inteligencije te osigurati visoku razinu zaštite zdravlja, sigurnosti, temeljnih prava, demokracije i vladavine prava te okoliša od štetnih učinaka sustava umjetne inteligencije u Uniji, uz istodobno podupiranje inovacija.
Amandman 141 Prijedlog uredbe Članak 1. – stavak 1. – točka d
(d) usklađena pravila o transparentnosti za UI sustave namijenjene za interakciju s pojedincima, sustave za prepoznavanje emocija i sustave za biometrijsku kategorizaciju te UI sustave za generiranje slikovnog sadržaja, audiosadržaja i videosadržaja te manipuliranje njime;
(d) usklađena pravila o transparentnosti za određene UI sustave;
Amandman 142 Prijedlog uredbe Članak 1. – stavak 1. – točka e
(e) pravila o praćenju i nadzoru tržišta.
(e) pravila o praćenju tržišta, nadzoru tržišta, upravljanju i provedbi;
Amandman 143 Prijedlog uredbe Članak 1. – stavak 1. – točka ea (nova)
(e a) mjere za potporu inovacijama, s posebnim naglaskom na MSP-ovima i start-up poduzećima, uključujući o uspostavi regulatornih izoliranih okruženja i ciljanih mjera za smanjenje regulatornog opterećenja za MSP-ove i start-up poduzeća;
(e b) pravila za osnivanje i funkcioniranje Ureda Unije za umjetnu inteligenciju (Ured za umjetnu inteligenciju);
Amandman 145 Prijedlog uredbe Članak 2. – stavak 1. – točka b
(b) korisnike UI sustava koji se nalaze u Uniji;
(b) subjekte koji primjenjuju UI sustave, a koji imaju poslovni nastan u Uniji ili se nalaze u Uniji;
Amandman 146 Prijedlog uredbe Članak 2. – stavak 1. – točka c
(c) dobavljače i korisnike UI sustava koji se nalaze u trećoj zemlji ako se izlazni rezultati sustava upotrebljavaju u Uniji.
(c) dobavljače i subjekte koji primjenjuju UI sustave, a koji imaju poslovni nastan ili se nalaze u trećoj zemlji, ako se ilina temelju međunarodnog javnog prava primjenjuje pravo države članice ili su izlazni rezultati sustava namijenjeni uporabi u Uniji;
Amandman 147 Prijedlog uredbe Članak 2. – stavak 1. – točka ca (nova)
(c a) dobavljače koji stavljaju na tržište ili u uporabu UI sustave iz članka 5. izvan Unije, pri čemu se dobavljač ili distributer takvih sustava nalazi unutar Unije;
(c b) uvoznike i distributere UI sustava te ovlaštene zastupnike dobavljača UI sustava, ako takvi uvoznici, distributeri ili ovlašteni zastupnici imaju poslovni nastan u Uniji ili se nalaze u Uniji;
Amandman 149 Prijedlog uredbe Članak 2. – stavak 1. – točka cc (nova)
(c c) zahvaćene osobe kako su definirane u članku 3. stavku 8.a koje se nalaze u Uniji i na čije zdravlje, sigurnost ili temeljna prava negativno utječe uporaba UI sustava koji se stavlja na tržište ili u uporabu unutar Unije.
2. Na visokorizične UI sustave koji su sigurnosni sastavni dio proizvoda ili sustava ili koji su sami proizvodi ili sustavi i obuhvaćeni su područjem primjene sljedećih akata primjenjuje se samo članak84. ove Uredbe:
2. Na visokorizične UI sustave koji su sigurnosni sastavni dio proizvoda ili sustava ili koji su sami proizvodi ili sustavi i koji su obuhvaćeni područjem primjene usklađenog zakonodavstva navedenog u Prilogu II. odjeljku B primjenjuje se samo članak 84. ove Uredbe;
Amandman 151 Prijedlog uredbe Članak 2. – stavak 2. – točka a
(a) Uredba (EZ) br. 300/2008;
Briše se.
Amandman 152 Prijedlog uredbe Članak 2. – stavak 2. – točka b
(b) Uredba (EU) br. 167/2013;
Briše se.
Amandman 153 Prijedlog uredbe Članak 2. – stavak 2. – točka c
(c) Uredba (EU) br. 168/2013;
Briše se.
Amandman 154 Prijedlog uredbe Članak 2. – stavak 2. – točka d
(d) Direktiva 2014/90/EU;
Briše se.
Amandman 155 Prijedlog uredbe Članak 2. – stavak 2. – točka e
(e) Direktiva (EU) 2016/797;
Briše se.
Amandman 156 Prijedlog uredbe Članak 2. – stavak 2. – točka f
(f) Uredba (EU) 2018/858;
Briše se.
Amandman 157 Prijedlog uredbe Članak 2. – stavak 2. – točka g
(g) Uredba (EU) 2018/1139;
Briše se.
Amandman 158 Prijedlog uredbe Članak 2. – stavak 2. – točka h
4. Ova se Uredba ne primjenjuje na tijela javne vlasti u trećoj zemlji ni na međunarodne organizacije obuhvaćene područjem primjene ove Uredbe na temelju stavka1. ako ta tijela ili organizacije koriste UI sustave u okviru međunarodnih sporazuma za suradnju s Unijom ili s jednom ili više država članica u područjima kaznenog progona i pravosuđa.
4. Ova se Uredba ne primjenjuje na tijela javne vlasti u trećoj zemlji ni na međunarodne organizacije obuhvaćene područjem primjene ove Uredbe na temelju stavka 1. ako ta tijela ili organizacije koriste UI sustave u okviru međunarodne suradnje ili međunarodnih sporazuma za suradnju s Unijom ili s jednom ili više država članica u područjima kaznenog progona i pravosuđa te su predmet odluke Komisije donesene u skladu s člankom 36. Direktive (EU) 2016/680 ili člankom 45. Uredbe 2016/679 (odluka o primjerenosti) ili su dio međunarodnog sporazuma sklopljenog između Unije i te treće zemlje ili međunarodne organizacije u skladu s člankom 218. UFEU-a kojim se pružaju odgovarajuće zaštitne mjere u pogledu zaštite privatnosti i temeljnih prava i sloboda pojedinaca;
5.a Pravo Unije o zaštiti osobnih podataka, privatnosti i povjerljivosti komunikacija primjenjuje se na osobne podatke koji se obrađuju u vezi s pravima i obvezama utvrđenima u ovoj Uredbi. Ova Uredba ne utječe na uredbe (EU) 2016/679 i (EU) 2018/1725 i direktive 2002/58/EZ i (EU) 2016/680, ne dovodeći pritom u pitanje aranžmane predviđene u članku 10. stavku 5. i članku 54. ove Uredbe.;
5 c. Ovom se Uredbom države članice ili Uniju ne sprečava da zadrže ili uvedu zakone i druge propise koji su pogodniji za radnike u smislu zaštite njihovih prava u pogledu upotrebe UI sustava od strane poslodavaca, ili da potiču ili dopuštaju primjenu kolektivnih ugovora koji su pogodniji za radnike.
5 d. Ova se Uredba ne primjenjuje na aktivnosti istraživanja, testiranja i razvoja UI sustava prije nego što se taj sustav stavi na tržište ili u uporabu, pod uvjetom da se te aktivnosti provode uz poštovanje temeljnih prava i mjerodavnog prava Unije. Ovo izuzeće ne obuhvaća testiranje u stvarnim uvjetima. Komisija je ovlaštena donijeti delegirane akte u skladu s člankom 73. kojima se pojašnjava primjena ovog stavka kako bi se preciziralo to izuzeće radi sprečavanja njegove postojeće i potencijalne zlouporabe. Ured za umjetnu inteligenciju pruža smjernice o upravljanju istraživanjem i razvojem u skladu s člankom 56., uključujući u svrhu koordinacije njegove primjene od strane nacionalnih nadzornih tijela;
5 e. Ova se Uredba ne primjenjuje na UI komponente koje se pružaju na temelju besplatnih licencija otvorenog koda, osim ako ih dobavljač stavlja na tržište ili u uporabu kao dio visokorizičnog UI sustava ili UI sustava obuhvaćenog glavom II. ili glavom IV. Ovo se izuzeće ne primjenjuje na temeljne modele kako su definirani u članku 3.
(1) „sustav umjetne inteligencije” ili „UI sustav” znači softver koji je razvijen pomoću barem jedne tehnike ili pristupa iz Priloga I. i koji može, za zadani skup ciljeva koje odredi čovjek, generirati izlazne rezultate, kao što su sadržaj, predviđanja, preporuke ili odluke, koji utječu na okruženja s kojima su u interakciji;
(1) „sustav umjetne inteligencije” ili „UI sustav” znači strojni sustav koji je projektiran tako da radi s različitim razinama autonomije i koji, u eksplicitne ili implicitne svrhe, može generirati izlazne rezultate, kao što su predviđanja, preporuke ili odluke, koji utječu na fizička ili virtualna okruženja;
(1 b) „znatan rizik” znači rizik koji je znatan zbog kombinacije njegove ozbiljnosti, intenziteta, vjerojatnosti nastanka, i trajanja njegovih učinaka, te mogućnosti da utječe na pojedinca, na više osoba ili da utječe na određenu skupinu osoba;
(1 c) „temeljni model” znači model UI sustava koji je poučen na temelju opsežnih podataka, projektiran za razne vrste izlaznih rezultata i može se prilagoditi širokom rasponu različitih zadaća;
(1 d) „UI sustav opće namjene” znači UI sustav koji se može upotrebljavati i prilagoditi za široki raspon primjena za koje nije ciljano i posebno projektiran;
(4) „korisnik” znači svaka fizička ili pravna osoba, tijelo javne vlasti, agencija ili drugo tijelo koje koristi UI sustav u okviru svoje nadležnosti, osim ako se UI sustav koristi u osobnoj neprofesionalnoj djelatnosti;
(4) „subjekt koji primjenjuje sustav” znači svaka fizička ili pravna osoba, tijelo javne vlasti, agencija ili drugo tijelo koje koristi UI sustav u okviru svoje nadležnosti, osim ako se UI sustav koristi u osobnoj neprofesionalnoj djelatnosti;
(11) „stavljanje u uporabu” znači isporuka UI sustava za prvu uporabu na tržištu Unije u skladu s njegovom namjenom izravno korisniku ili za vlastite potrebe;
(11) „stavljanje u uporabu” znači isporuka UI sustava za prvu uporabu na tržištu Unije u skladu s njegovom namjenom izravno subjektu koji primjenjuje sustav ili za vlastite potrebe;
(13) „razumno predvidljiva kriva uporaba” znači uporaba UI sustava na način koji nije u skladu s njegovom namjenom, ali može biti posljedica razumno predvidljivog čovjekova ponašanja ili interakcije s drugim sustavima;
(13) „razumno predvidljiva kriva uporaba” znači uporaba UI sustava na način koji nije u skladu s njegovom namjenom navedenom u uputama za uporabu koje je izradio dobavljač, ali može biti posljedica razumno predvidljivog čovjekova ponašanja ili interakcije s drugim sustavima, uključujući druge UI sustave;
(14) „sigurnosni sastavni dio proizvoda ili sustava” znači sastavni dio proizvoda ili sustava koji ima sigurnosnu funkciju u tom proizvodu ili sustavu ili čiji kvar ili neispravnost ugrožava zdravlje i sigurnost osoba ili imovine;
(14) „sigurnosni sastavni dio proizvoda ili sustava” znači, u skladu s pravom Unije o usklađivanju navedenom u Prilogu II., sastavni dio proizvoda ili sustava koji ima sigurnosnu funkciju u tom proizvodu ili sustavu ili čiji kvar ili neispravnost ugrožava zdravlje i sigurnost osoba;
(15) „upute za uporabu” znači informacije kojima dobavljač u prvom redu informira korisnika o namjeni i pravilnoj uporabi UI sustava, što uključuje specifično zemljopisno, bihevioralno ili radno okruženje u kojem je predviđena uporaba visokorizičnog UI sustava;
(15) „upute za uporabu” znači informacije kojima dobavljač u prvom redu informira subjekta koji primjenjuje sustav o namjeni i pravilnoj uporabi UI sustava, kao i informacije o svim mjerama opreza koje je potrebno poduzeti; što uključuje specifično zemljopisno, bihevioralno ili radno okruženje u kojem je predviđena uporaba visokorizičnog UI sustava;
(16) „povrat UI sustava” znači svaka mjera čija je svrha vraćanje dobavljaču UI sustava stavljenog na raspolaganje korisnicima;
(16) „povrat UI sustava” znači svaka mjera čija je svrha vraćanje dobavljaču UI sustava koji je stavljen na raspolaganje subjektima koji primjenjuju taj sustav;
(20) „ocjenjivanje sukladnosti” znači postupak kojim se provjerava jesu li ispunjeni zahtjevi iz glave III. poglavlja 2. ove Uredbe koji se odnose na UI sustav;
(20) „ocjenjivanje sukladnosti” znači postupak kojim se dokazuje jesu li ispunjeni zahtjevi iz glave III. poglavlja 2. ove Uredbe koji se odnose na UI sustav;
(22) „prijavljeno tijelo” znači tijelo za ocjenjivanje sukladnosti imenovano u skladu s ovom Uredbom i drugim relevantnim zakonodavstvom Unije o usklađivanju;
(22) „prijavljeno tijelo” znači tijelo za ocjenjivanje sukladnosti prijavljeno u skladu s ovom Uredbom i drugim relevantnim zakonodavstvom Unije o usklađivanju;
(23) „bitna izmjena” znači promjena UI sustava nakon njegova stavljanja na tržište ili stavljanja u uporabu koja utječe na sukladnost UI sustava sa zahtjevima iz glaveIII. poglavlja2. ove Uredbe ili koja prouzroči promjenu namjene prema kojoj je UI sustav bio ocijenjen;
(23) „bitna izmjena” znači izmjena ili niz izmjena UI sustava nakon njegova stavljanja na tržište ili stavljanja u uporabu koju dobavljač nije predvidio niti planirao u prvotnoj procjeni rizika i koja utječe na sukladnost UI sustava sa zahtjevima iz glave III. poglavlja 2. ove Uredbe ili koja prouzroči promjenu namjene prema kojoj je UI sustav bio ocijenjen;
(24) „oznaka sukladnosti CE” ili „oznaka CE” znači oznaka kojom dobavljač označuje da je UI sustav sukladan sa zahtjevima iz glaveIII. poglavlja2. ove Uredbe i drugom primjenjivom zakonodavstvu Unije o usklađivanju uvjeta za stavljanje proizvoda na tržište („zakonodavstvo Unije o usklađivanju”) kojim se propisuje označivanje tom oznakom;
(24) „oznaka sukladnosti CE” ili „oznaka CE” znači fizička ili digitalna oznaka kojom dobavljač označuje da je UI sustav ili proizvod s ugrađenim UI sustavom sukladan sa zahtjevima iz glave III. poglavlja 2. ove Uredbe i drugom primjenjivom zakonodavstvu Unije o usklađivanju uvjeta za stavljanje proizvoda na tržište („zakonodavstvo Unije o usklađivanju”) kojim se propisuje označivanje tom oznakom;
(29) „podaci za učenje” znači podaci koji se upotrebljavaju za učenje UI sustava prilagođavanjem njegovih poučivih parametara, uključujući težinske faktore neuronske mreže;
(29) „podaci za učenje” znači podaci koji se upotrebljavaju za učenje UI sustava prilagođavanjem njegovih poučivih parametara;
(30) „podaci za validaciju” znači podaci koji se upotrebljavaju za evaluaciju poučenog UI sustava te za ugađanje njegovih nepoučivih parametara i njegova procesa učenja, među ostalim, kako bi se izbjegla prenaučenost, pritom skup podataka za validaciju može biti zaseban skup podataka ili varijabilni ili fiksni dio skupa podataka za učenje;
(30) „podaci za validaciju” znači podaci koji se upotrebljavaju za evaluaciju poučenog UI sustava te za ugađanje njegovih nepoučivih parametara i njegova procesa učenja, među ostalim, kako bi se izbjegla nedovoljna naučenost ili prenaučenost, pritom je skup podataka za validaciju zaseban skup podataka ili varijabilni ili fiksni dio skupa podataka za učenje;
(33) „biometrijski podaci” znači osobni podaci dobiveni posebnom tehničkom obradom u vezi s fizičkim obilježjima, fiziološkim obilježjima ili obilježjima ponašanja pojedinca koja omogućuju ili potvrđuju jedinstvenu identifikaciju tog pojedinca, kao što su fotografije lica ili daktiloskopski podaci;
(33) „biometrijski podaci” znači biometrijski podaci kako su definirani člankom 4. točkom 14. Uredbe (EU) 2016/679;
(33 a) „podaci koji se temelje na biometriji” znači podaci koji proizlaze iz posebne tehničke obrade koja se odnosi na fizičke, fiziološke ili bihevioralne signale pojedinca;
(33 b) „biometrijska identifikacija” znači automatizirano prepoznavanje fizičkih, fizioloških, bihevioralnih i psiholoških obilježja ljudi u svrhu utvrđivanja identiteta pojedinca usporedbom biometrijskih podataka tog pojedinca s pohranjenim biometrijskim podacima pojedinaca u bazi podataka (identifikacija usporedbom više uzoraka);
(33 c) „biometrijska provjera” znači automatizirana provjera identiteta pojedinaca usporedbom biometrijskih podataka pojedinca s prethodno dostavljenim biometrijskim podacima (provjera usporedbom dvaju uzoraka, uključujući autentifikaciju);
(34) „sustav za prepoznavanje emocija” znači UI sustav namijenjen za prepoznavanje emocija ili namjera pojedinaca ili izvođenje zaključaka o njihovim emocijama ili namjerama na temelju njihovih biometrijskih podataka;
(34) „sustav za prepoznavanje emocija” znači UI sustav namijenjen za prepoznavanje emocija, misli, duševnih stanja ili namjera pojedinaca ili skupina ili za izvođenje zaključaka o njihovim emocijama, mislima, duševnim stanjima ili namjerama na temelju njihovih biometrijskih podataka i podataka koji se temelje na biometriji;
(35) „sustav za biometrijsku kategorizaciju” znači UI sustav namijenjen za razvrstavanje pojedinaca prema određenim kategorijama kao što su spol, dob, boja kose, boja očiju, tetovaže, etničko podrijetlo i seksualna ili politička orijentacija na temelju njihovih biometrijskih podataka;
(35) „biometrijska kategorizacija” znači razvrstavanje pojedinaca prema određenim kategorijama ili izvođenje zaključaka o njihovim obilježjima i atributima na temelju njihovih biometrijskih podataka ili podataka koji se temelje na biometriji, ili koji se mogu izvesti iz takvih podataka;
(36) „sustav za daljinsku biometrijsku identifikaciju” znači UI sustav namijenjen za daljinsko identificiranje pojedinaca usporedbom biometrijskih podataka osobe s biometrijskim podacima iz referentne baze podataka, pri čemu korisnik UI sustava ne može unaprijed znati hoće li osoba biti prisutna i može li je se identificirati;
(36) „sustav za daljinsku biometrijsku identifikaciju” znači UI sustav namijenjen za daljinsko identificiranje pojedinaca usporedbom biometrijskih podataka osobe s biometrijskim podacima iz referentne baze podataka, pri čemu subjekt koji primjenjuje UI sustav ne može unaprijed znati hoće li osoba biti prisutna i može li je se identificirati, a isključujući sustave za provjeru;
(37) „sustav za daljinsku biometrijsku identifikaciju u stvarnom vremenu” znači sustav za daljinsku biometrijsku identifikaciju koji bez znatnog kašnjenja prikuplja biometrijske podatke, vrši usporedbe i provodi identifikaciju. To uz trenutačnu identifikaciju obuhvaća i identifikaciju s ograničenim kratkim kašnjenjima kako bi se spriječilo zaobilaženje propisa;
(37) „sustav za daljinsku biometrijsku identifikaciju u stvarnom vremenu” znači sustav za daljinsku biometrijsku identifikaciju koji bez znatnog kašnjenja prikuplja biometrijske podatke, vrši usporedbe i provodi identifikaciju. To uz trenutačnu identifikaciju obuhvaća i identifikaciju s ograničenim kašnjenjima kako bi se spriječilo zaobilaženje propisa;
(39) „javno mjesto” znači svako fizičko mjesto dostupno javnosti, bez obzira na to vrijede li za pristup određeni uvjeti;
(39) „javno mjesto” znači svako fizičko mjesto u javnom ili privatnom vlasništvu dostupno javnosti, bez obzira na to vrijede li za pristup određeni uvjeti, te bez obzira na moguća ograničenja kapaciteta;
(41) „kazneni progon” znači aktivnosti koje provode tijela za izvršavanje zakonodavstva radi sprečavanja, istrage, otkrivanja ili progona kaznenih djela ili izvršavanje kaznenih sankcija, uključujući zaštitu od prijetnji javnoj sigurnosti i njihovo sprečavanje;
(41) „kazneni progon” znači aktivnosti koje provode tijela za izvršavanje zakonodavstva ili koje se provode u njihovo ime radi sprečavanja, istrage, otkrivanja ili progona kaznenih djela ili izvršavanje kaznenih sankcija, uključujući zaštitu od prijetnji javnoj sigurnosti i njihovo sprečavanje;
(42) „nacionalno nadzorno tijelo” znači tijelo kojem država članica povjeri odgovornost za: provedbu i primjenu ove Uredbe, koordinaciju aktivnosti povjerenih toj državi članici, obavljanje funkcije jedinstvene kontaktne točke za Komisiju te zastupanje države članice u Europskom odboru za umjetnu inteligenciju;
(42) „nacionalno nadzorno tijelo” znači javno (AM 69.) tijelo kojem država članica povjeri odgovornost za: provedbu i primjenu ove Uredbe, koordinaciju aktivnosti povjerenih toj državi članici, obavljanje funkcije jedinstvene kontaktne točke za Komisiju te zastupanje države članice u upravnom odboru Ureda za umjetnu inteligenciju;
(43) „nacionalno nadležno tijelo” znači nacionalno nadzorno tijelo, tijelo koje provodi prijavljivanje i tijelo za nadzor tržišta;
(43) „nacionalno nadležno tijelo” znači bilo koje od nacionalnih tijela koja su nadležna za provedbu ove Uredbe;
Amandman 199 Prijedlog uredbe Članak 3. – stavak 1. – točka 44. – uvodni dio
(44) „ozbiljan incident” znači svaki incident koji je izravno ili neizravno doveo, mogao dovesti ili može dovesti do bilo kojeg od sljedećeg:
(44) „ozbiljan incident” znači svaki incident ili neispravnost UI sustava koji je izravno ili neizravno doveo, mogao dovesti ili može dovesti do bilo kojeg od sljedećeg:
(a) smrti osobe ili znatne štete za zdravlje osobe, imovinu ili okoliš
(a) smrti osobe ili znatne štete za zdravlje osobe,
(b) ozbiljnog poremećaja u upravljanju kritičnom infrastrukturom i njezinu radu.
(b) ozbiljnog poremećaja u upravljanju kritičnom infrastrukturom i njezinu radu;
(b a) kršenja temeljnih prava zaštićenih pravom Unije;
(44 c) „izrada profila” znači svaki oblik automatizirane obrade osobnih podataka kako je definirano u članku 4. točki 4. Uredbe (EU) 2016/679; ili u slučaju tijela kaznenog progona – u članku 3. točki 4. Direktive (EU) 2016/680 ili, u slučaju institucija, tijela, ureda ili agencija Unije, u članku 3. točki 5. Uredbe (EU) 2018/1725;
(44 d) „uvjerljiv krivotvoreni sadržaj” znači manipulirani ili sintetički audiosadržaj, slikovni sadržaj ili videosadržaj koji netočno djeluje kao vjerodostojan ili istinit i koji prikazuje osobe kao da su rekle ili učinile nešto što nisu rekle niti učinile, a koji je stvoren primjenom UI tehnika, uključujući strojno učenje i duboko učenje;
(44 e) „raširena povreda” znači svako činjenje ili propuštanje protivno pravu Unije kojim se štite interesi pojedinaca:
(a) kojom je nanesena ili će vjerojatno biti nanesena šteta kolektivnim interesima pojedinaca koji borave u najmanje dvjema državama članicama koje nisu država članica u kojoj:
i. je činjenje ili propuštanje nastalo ili se dogodilo;
ii. dotični dobavljač ili, prema potrebi, njegov ovlašteni zastupnik ima poslovni nastan; ili,
iii. subjekt koji primjenjuje sustav ima poslovni nastan ako je taj subjekt počinio povredu;
(b) kojima se štite interesi pojedinaca, a kojima je prouzročena, prouzročuje se ili će vjerojatno biti prouzročena šteta kolektivnim interesima pojedinaca i koji imaju zajedničke značajke, uključujući istu nezakonitu praksu, povredu istog interesa i do kojih dolazi istodobno, a počinio ih je isti operater u najmanje trima državama članicama;
(44 f) „raširena povreda s dimenzijom Unije” znači raširena povreda kojom je nanesena ili će vjerojatno biti nanesena šteta kolektivnim interesima pojedinaca u najmanje dvjema trećinama država članica koje zajedno čine najmanje dvije trećine stanovništva Unije;
(44 g) „regulatorno izolirano okruženje” znači kontrolirano okruženje koje je uspostavilo javno tijelo, a koje olakšava siguran razvoj, testiranje i validaciju inovativnih UI sustava u ograničenom razdoblju prije njihova stavljanja na tržište ili stavljanja u uporabu u skladu s određenim planom pod regulatornim nadzorom;
(44 h) „kritična infrastruktura” znači imovina, objekt, oprema, mreža ili sustav ili dio imovine, objekta, opreme, mreže ili sustava, koji je potreban za pružanje ključne usluge u smislu članka 2. stavka 4. Direktive (EU) 2022/2557;
(44 k) „društveno vrednovanje” znači evaluiranje ili klasificiranje pojedinaca na temelju njihova društvenog ponašanja, socioekonomskog statusa ili poznatih ili predviđenih osobnih obilježja ili obilježja osobnosti;
(44 m) „najnovija dostignuća” znači razvijena faza tehničkih mogućnosti u određenom trenutku kada je riječ o proizvodima, procesima i uslugama, na temelju relevantnih konsolidiranih dostignuća u području znanosti, tehnologije i iskustva;
(44 n) „testiranje u stvarnim uvjetima” znači privremeno testiranje UI sustava u svrhu za koju je namijenjen u stvarnim uvjetima izvan laboratorija ili na neki drugi način simuliranog okruženja;
Amandman 212 Prijedlog uredbe Članak 4.
Članak 4.
Briše se.
Izmjene Priloga I.
Komisija je ovlaštena donositi delegirane akte u skladu s člankom 73. radi ažuriranja popisa tehnika i pristupa u Prilogu I. s obzirom na tržišne i tehnološke novine koje su po karakteristikama slične tehnikama i propisima na tom popisu.
Amandman 213 Prijedlog uredbe Članak 4.a (novi)
Članak 4.a
Opća načela koja se primjenjuju na sve UI sustave
1. Svi operateri obuhvaćeni ovom Uredbom ulažu sve napore kako bi razvili i upotrebljavali UI sustave ili temeljne modele u skladu sa sljedećim općim načelima kojima se uspostavlja okvir na visokoj razini kojim se promiče dosljedan antropocentrični europski pristup etičnoj i pouzdanoj umjetnoj inteligenciji, a koji je u potpunosti u skladu s Poveljom i vrijednostima na kojima se temelji Unija:
a) „ljudsko djelovanje i nadzor” znači da se UI sustavi razvijaju i koriste kao alat koji služi ljudima, poštuje ljudsko dostojanstvo i osobnu autonomiju te funkcionira tako da ga ljudi mogu na odgovarajući način kontrolirati i nadzirati;
b) „tehnička stabilnost i sigurnost” znači da se UI sustavi razvijaju i koriste tako da se neželjena i neočekivana šteta svede na najmanju moguću mjeru te da su otporni u slučaju nepredviđenih problema i otporni na pokušaje zlonamjernih trećih strana da promijene uporabu ili učinkovitost UI sustava radi nezakonitog korištenja;
c) „upravljanje privatnošću i podacima” znači da se UI sustavi razvijaju i koriste u skladu s postojećim pravilima o privatnosti i zaštiti podataka, pri čemu se obrađuju podaci koji ispunjavaju visoke standarde u pogledu kvalitete i cjelovitosti;
d) „transparentnost” znači da se UI sustavi razvijaju i koriste na način kojim se omogućuje odgovarajuća sljedivost i objašnjivost, uz istodobno informiranje ljudi o tome da komuniciraju ili su u interakciji s UI sustavom te propisno obavješćivanje korisnika o mogućnostima i ograničenjima tog UI sustava te zahvaćenih osoba o njihovim pravima;
e) „raznolikost, nediskriminacija i pravednost” znači da se UI sustavi razvijaju i koriste na način koji uključuje različite aktere i kojim se promiče jednak pristup, rodna ravnopravnost i kulturna raznolikost, pri čemu se izbjegavaju diskriminirajući učinci i nepoštene predrasude koji su zabranjeni pravom Unije ili država članica;
f) „društvena i okolišna dobrobit” znači da se UI sustavi razvijaju i koriste na održiv i ekološki prihvatljiv način, kao i u korist svih ljudi, uz praćenje i procjenu dugoročnih učinaka na pojedinca, društvo i demokraciju.
2. Stavkom 1. ne dovode se u pitanje obveze utvrđene postojećim pravom Unije i nacionalnim pravom. Kada je riječ o visokorizičnim UI sustavima, njihovi dobavljači ili subjekti koji ih primjenjuju provode i poštuju opća načela u skladu sa zahtjevima iz članaka od 8. do 15. te relevantnim odredbama iz poglavlja 3. glave III. ove Uredbe. Kada je riječ o temeljnim modelima, njihovi dobavljači ili subjekti koji ih primjenjuju provode i poštuju opća načela u skladu sa zahtjevima iz članaka od 28. do 28.b. Za sve UI sustave primjena načela iz stavka 1. može se, ako je primjenjivo, postići odredbama iz članka 28. i članka 52. ili primjenom usklađenih normi, tehničkih specifikacija i kodeksa ponašanja iz članka 69., bez stvaranja novih obveza na temelju ove Uredbe.
3. Komisija i Ured za umjetnu inteligenciju uključuju ta vodeća načela u zahtjeve za normizaciju, kao i preporuke koje se sastoje od tehničkih smjernica za pomoć dobavljačima i subjektima koji primjenjuju te sustave pri razvoju i uporabi UI sustava. Europske organizacije za normizaciju pri izradi odgovarajućih usklađenih normi za visokorizične UI sustave iz članka 40. stavka 2.b uzimaju u obzir načela iz stavka 1. ovog članka kao ciljeve koji se temelje na rezultatima.
Amandman 214 Prijedlog uredbe Članak 4.b (novi)
Članak 4.b
Pismenost u području umjetne inteligencije
1. Pri provedbi ove Uredbe Unija i države članice promiču mjere za razvoj dostatne razine pismenosti u području umjetne inteligencije, u različitim sektorima i uzimajući u obzir različite potrebe dotičnih skupina dobavljača, subjekata koji primjenjuju UI sustave i zahvaćenih osoba, među ostalim u okviru obrazovanja i osposobljavanja, programa stjecanja vještina i prekvalifikacije, uz osiguravanje odgovarajuće rodne i dobne ravnoteže kako bi se omogućila demokratska kontrola nad UI sustavima.
2. Dobavljači i subjekti koji primjenjuju UI sustave poduzimaju mjere za osiguravanje dostatne razine pismenosti u području umjetne inteligencije za svoje osoblje i ostale osobe uključene u rad i uporabu UI sustava u njihovo ime, uzimajući u obzir njihovo tehničko znanje, iskustvo, obrazovanje i osposobljavanje te kontekst u kojem će se UI sustavi upotrebljavati, kao i osobe ili skupine osoba na kojima će se UI sustavi primjenjivati.
3. Takve mjere za pismenost posebno obuhvaćaju podučavanje osnovnih pojmova i vještina u području UI sustava i njihova funkcioniranja, uključujući različite vrste proizvoda i uporabe, njihove rizike i koristi.
4. Dovoljna razina pismenosti u području umjetne inteligencije pridonosi, prema potrebi, sposobnosti dobavljača i subjekata koji primjenjuju UI sustave da osiguraju usklađenost s ovom Uredbom i njezinu provedbu.
Amandman 215 Prijedlog uredbe Članak 5. – stavak 1. – točka a
(a) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava u kojem se primjenjuju subliminalne tehnike zbog kojih osoba nesvjesno bitno mijenja svoje ponašanje na način koji toj ili drugoj osobi uzrokuje ili bi mogao prouzročiti tjelesnu ili psihološku štetu;
(a) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava u kojem se primjenjuju subliminalne tehnike kojih osoba nije svjesna ili namjerno manipulativne ili obmanjujuće tehnike s ciljem ili učinkom da osoba ili skupina osoba bitno izmijene svoje ponašanje tako da se znatno narušava sposobnost osobe da donese informiranu odluku, zbog čega osoba donosi odluku koju inače ne bi donijela, na način koji toj osobi, drugoj osobi ili skupini osoba uzrokuje ili bi mogao prouzročiti znatnu štetu;
Zabrana UI sustava u kojem se primjenjuju subliminalne tehnike iz prvog podstavka ne primjenjuje se na UI sustave namijenjene za uporabu u odobrene terapijske svrhe na temelju posebnog informiranog pristanka pojedinaca koji su im izloženi ili, ako je primjenjivo, njihova zakonskog skrbnika;
Amandman 216 Prijedlog uredbe Članak 5. – stavak 1. – točka b
(b) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava koji iskorištava bilo koju slabost određene skupine osoba zbog njihove dobi ili tjelesnog ili mentalnog oštećenja radi bitnog mijenjanja ponašanja osobe koja pripada toj skupini na način koji toj ili drugoj osobi uzrokuje ili bi mogao uzrokovati tjelesnu ili psihološku štetu;
(b) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava koji iskorištava bilo koju slabost određene osobe ili skupine osoba, uključujući značajke poznatih ili predviđenih osobina ličnosti ili društvenu ili ekonomsku situaciju, dob, tjelesno ili mentalno obilježje takve osobe ili takve skupine s ciljem ili učinkom bitnog mijenjanja ponašanja te osobe ili osobe koja pripada toj skupini na način koji toj ili drugoj osobi uzrokuje ili bi mogao uzrokovati znatnu štetu;
Amandman 217 Prijedlog uredbe Članak 5. – stavak 1. – točka ba (nova)
(b a) stavljanje na tržište, stavljanje u uporabu ili korištenje sustava za biometrijsku kategorizaciju kojima se fizičke osobe kategoriziraju prema osjetljivim ili zaštićenim atributima ili obilježjima ili na temelju zaključaka izvedenih na osnovi tih atributa ili obilježja. Ta se zabrana ne primjenjuje na UI sustave namijenjene za uporabu u odobrene terapijske svrhe na temelju posebnog informiranog pristanka pojedinaca koji su im izloženi ili, ako je primjenjivo, njihova zakonskog skrbnika.
Amandman 218 Prijedlog uredbe Članak 5. – stavak 1. – točka c – uvodni dio
(c) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava tijelima javne vlasti ili u njihovo ime u svrhu vrednovanja ili klasifikacije vjerodostojnosti pojedinaca u određenom razdoblju na temelju njihova društvenog ponašanja ili poznatih ili predviđenih osobnih obilježja ili obilježja osobnosti, pri čemu njihov društveni rejting uzrokuje barem jedno od sljedećeg:
(c) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava u svrhu evaluacije ili klasifikacije pojedinaca ili skupina pojedinaca radi društvenog vrednovanja u određenom razdoblju na temelju njihova društvenog ponašanja ili poznatih, izvedenih ili predviđenih osobnih obilježja ili obilježja osobnosti, pri čemu njihov društveni rejting uzrokuje barem jedno od sljedećeg:
Amandman 219 Prijedlog uredbe Članak 5. – stavak 1. – točka c – podtočka i.
i. štetno ili nepovoljno postupanje prema određenim pojedincima ili cijelim skupinama pojedinaca u društvenim kontekstima koji nisu povezani s kontekstima u kojima su podaci izvorno generirani ili prikupljeni;
(Ne odnosi se na hrvatsku verziju.)
Amandman 220 Prijedlog uredbe Članak 5. – stavak 1. – točka d – uvodni dio
(d) uporaba sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona, osim ako i u mjeri u kojoj je takvo korištenje nužno isključivo radi jednog od sljedećih ciljeva:
(d) uporaba sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima;
Amandman 221 Prijedlog uredbe Članak 5. – stavak 1. – točka d – podtočka i.
i. ciljane potrage za konkretnim potencijalnim žrtvama kaznenih djela, uključujući nestalu djecu;
Briše se.
Amandman 222 Prijedlog uredbe Članak 5. – stavak 1. – točka d – podtočka ii.
ii. sprečavanja konkretne, znatne i neposredne prijetnje životu ili tjelesnoj sigurnosti pojedinaca ili terorističkog napada;
Briše se.
Amandman 223 Prijedlog uredbe Članak 5. – stavak 1. – točka d – podtočka iii.
iii. otkrivanja, lociranja, identifikacije ili progona počinitelja kaznenog djela ili osumnjičenika za kazneno djelo iz članka 2. stavka 2. Okvirne odluke Vijeća 2002/584/PUP62 koje je u državi članici kažnjivo najvišom kaznom zatvora ili oduzimanjem slobode od najmanje tri godine, kako je utvrđeno pravom te države članice.
Briše se.
__________________
62Okvirna odluka Vijeća 2002/584/PUP od 13. lipnja 2002. o Europskom uhidbenom nalogu i postupcima predaje između država članica (SL L 190, 18.7.2002., str. 1.).
Amandman 224 Prijedlog uredbe Članak 5. – stavak 1. – točka da (nova)
(d a) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava za procjene rizika u pogledu pojedinaca ili skupina pojedinaca kako bi se procijenio rizik da pojedinac počini ili ponovno počini kazneno djelo ili za predviđanje počinjenja ili ponovnog počinjenja stvarnog ili mogućeg kaznenog djela ili upravnog prekršaja na temelju izrade profila pojedinca ili procjene osobina ličnosti i obilježja, uključujući lokaciju osobe, ili prethodnog kriminalnog ponašanja pojedinca ili skupine pojedinaca;
Amandman 225 Prijedlog uredbe Članak 5. – stavak 1. – točka db (nova)
(d b) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava koji stvaraju ili proširuju baze podataka za prepoznavanje lica neciljanim prikupljanjem fotografija lica s interneta ili snimaka CCTV-a;
Amandman 226 Prijedlog uredbe Članak 5. – stavak 1. – točka dc (nova)
dc) stavljanje na tržište, stavljanje u uporabu ili korištenje UI sustava radi izvođenja zaključaka o emocijama pojedinca u području kaznenog progona, upravljanja granicama, na radnom mjestu i u obrazovnim ustanovama.
(d d) stavljanje u uporabu ili korištenje UI sustava za analizu snimaka javnih mjesta putem sustava za naknadnu daljinsku biometrijsku identifikaciju, osim ako je to podložno prethodnom sudskom odobrenju u skladu s pravom Unije te je strogo nužno za ciljano pretraživanje povezano s određenim već počinjenim teškim kaznenim djelom kako je definirano u članku 83. stavku 1. UFEU-a za potrebe kaznenog progona.
1.a Ovaj članak ne utječe na zabrane koje se primjenjuju ako se praksom u području umjetne inteligencije krši drugo pravo Unije, uključujući pravnu stečevinu Unije o zaštiti podataka, nediskriminaciji, zaštiti potrošača ili tržišnom natjecanju;
2. Za uporabu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona radi bilo kojeg cilja iz stavka 1. točke (d) u obzir se uzimaju sljedeći elementi:
Briše se.
(a) priroda situacije zbog koje se pojavila mogućnost uporabe, osobito težina, vjerojatnost i razmjer štete koja bi nastala nekorištenjem sustava;
(b) posljedice uporabe sustava na prava i slobode svih zahvaćenih osoba, osobito težina, vjerojatnost i razmjer tih posljedica.
Usto, uporaba sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona radi bilo kojeg cilja iz stavka 1. točke (d) mora biti u skladu s nužnim i razmjernim zaštitnim mjerama i uvjetima uporabe, osobito u pogledu vremenskih, zemljopisnih i osobnih ograničenja.
3. Kad je riječ o stavku 1. točki (d) i stavku 2., za svaku pojedinačnu uporabu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu za potrebe kaznenog progona potrebno je prethodno odobrenje sudskog tijela ili neovisnog upravnog tijela države članice u kojoj će se sustav uporabiti, a koje se izdaje na obrazložen zahtjev i u skladu s podrobnim pravilima nacionalnog prava iz stavka 4. U propisno opravdanim hitnim situacijama, međutim, uporaba sustava može početi bez odobrenja i odobrenje se može zatražiti tek tijekom ili nakon uporabe.
Briše se.
Nadležno pravosudno ili upravno tijelo izdaje odobrenje samo ako je uvjereno, na temelju objektivnih dokaza ili jasnih naznaka koje su mu iznesene, da je konkretna uporaba sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu nužna i razmjerna za postizanje jednog od ciljeva iz stavka 1. točke (d), navedenog u zahtjevu. Pri odlučivanju o zahtjevu nadležno sudsko ili upravno tijelo uzima u obzir elemente iz stavka 2.
4. Država članica može odlučiti propisati mogućnost potpunog ili djelomičnog odobrenja uporabe sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona uz ograničenja i pod uvjetima iz stavka 1. točke (d) te stavaka 2. i 3. Ta država članica u svojem nacionalnom pravu utvrđuje potrebna podrobna pravila o podnošenju zahtjeva za odobrenja iz stavka 3. te izdavanje, izvršavanje i nadzor tih odobrenja. U tim se pravilima određuje i za se koje ciljeve iz stavka 1. točke (d), što znači i za koja kaznena djela iz njegove podtočke iii., nadležnim tijelima može odobriti uporaba tih sustava za potrebe kaznenog progona.
Briše se.
Amandman 232 Prijedlog uredbe Članak 6. – stavak 1. – točka a
(a) UI sustav namijenjen je za uporabu kao sigurnosni sastavni dio proizvoda ili je sam po sebi proizvod koji je obuhvaćen zakonodavstvom Unije o usklađivanju iz Priloga II.;
(a) UI sustav namijenjen je za uporabu kao sigurnosni sastavni dio proizvoda ili je UI sustav sam po sebi proizvod koji je obuhvaćen pravom Unije o usklađivanju iz Priloga II.;
Amandman 233 Prijedlog uredbe Članak 6. – stavak 1. – točka b
(b) za proizvod kojeg je UI sustav sigurnosni sastavni dio ili UI sustav koji je sam po sebi proizvod zahtijeva se ocjenjivanje sukladnosti koje provodi treća strana radi stavljanja na tržište ili stavljanja u uporabu tog proizvoda na temelju zakonodavstva Unije o usklađivanju iz Priloga II.
(b) za proizvod kojeg je u skladu s točkom (a) UI sustav sigurnosni sastavni dio ili UI sustav koji je sam po sebi proizvod zahtijeva se ocjenjivanje sukladnosti povezano s rizicima za zdravlje i sigurnost koje provodi treća strana radi stavljanja na tržište ili stavljanja u uporabu tog proizvoda na temelju prava Unije o usklađivanju iz Priloga II.;
2. Među visokorizične sustave, uz one iz stavka1., ubrajaju se i UI sustavi iz PrilogaIII.
2. Među visokorizične sustave, uz one iz stavka 1., ubrajaju se i UI sustavi koji spadaju pod jedno ili više kritičnih područja i slučajeva primjene iz Priloga III. ako predstavljaju znatan rizik nastanka štete za ljudsko zdravlje, sigurnost ili temeljna prava pojedinaca. Ako je UI sustav obuhvaćen točkom 2. Priloga III., smatra se da je visokorizičan ako predstavlja znatan rizik nastanka štete za okoliš.
Komisija šest mjeseci prije stupanja na snagu ove Uredbe, nakon savjetovanja s Uredom za umjetnu inteligenciju i relevantnim dionicima, pruža smjernice u kojima se jasno navode okolnosti u kojima bi izlazni rezultati UI sustava iz Priloga III. predstavljali znatan rizik nastanka štete za zdravlje, sigurnost ili temeljna prava pojedinaca ili slučajevi u kojima to ne bi bio slučaj.
2.a Ako dobavljači obuhvaćeni jednim ili više kritičnih područja i slučajeva primjene iz Priloga III. smatraju da njihov UI sustav ne predstavlja znatan rizik kako je opisano u stavku 2., oni nacionalnom nadzornom tijelu podnose obrazloženu obavijest o tome da ne podliježu zahtjevima iz glave III. poglavlja 2. ove Uredbe. Ako je UI sustav namijenjen za uporabu u dvije ili više država članica, ta se obavijest upućuje Uredu za umjetnu inteligenciju. Ne dovodeći u pitanje članak 65., nacionalno nadzorno tijelo preispituje obavijest i odgovara na nju izravno ili putem Ureda za umjetnu inteligenciju u roku od tri mjeseca ako ocijeni da je UI sustav pogrešno klasificiran.
2 b. Dobavljačima koji pogrešno klasificiraju svoj UI sustav kao sustav koji ne podliježe zahtjevima iz glave III. poglavlja 2. ove Uredbe i koji ga stave na tržište prije isteka roka za prigovor nacionalnih nadzornih tijela izriču se novčane kazne u skladu s člankom 71.
2 c. Nacionalna nadzorna tijela Uredu za umjetnu inteligenciju podnose godišnje izvješće s pojedinostima o broju primljenih obavijesti, povezanim visokorizičnim područjima o kojima je riječ i odlukama donesenima u vezi s primljenim obavijestima.
1. Komisija je ovlaštena donositi delegirane akte u skladu s člankom73. u svrhu ažuriranja popisa iz Priloga III. dodavanjem visokorizičnih UI sustava ako su ispunjena oba sljedeća uvjeta:
1. Komisija je ovlaštena donositi delegirane akte u skladu s člankom 73. radi izmjene Priloga III. dodavanjem ili izmjenom područja ili slučajeva primjene visokorizičnih UI sustava ako oni predstavljaju znatan rizik nastanka štete za zdravlje i sigurnost, ili negativan učinak na temeljna prava, okoliš ili demokraciju i vladavinu prava, te ako je taj rizik, s obzirom na ozbiljnost i vjerojatnost pojavljivanja, jednak ili veći od rizika nastanka štete ili negativnog učinka visokorizičnih UI sustava koji su već navedeni u Prilogu III.
Amandman 239 Prijedlog uredbe Članak 7. – stavak 1. – točka a
(a) UI sustavi namijenjeni su za uporabu u bilo kojem području iz točaka od 1. do 8. Priloga III.;
Briše se.
Amandman 240 Prijedlog uredbe Članak 7. – stavak 1. – točka b
(b) kod tih UI sustava postoji rizik od štete za zdravlje i sigurnost ili rizik od nepovoljnog utjecaja na temeljna prava koji je, u smislu ozbiljnosti i vjerojatnosti pojavljivanja, najmanje jednak riziku od štete ili nepovoljnog utjecaja koji postoji kod visokorizičnih UI sustava već navedenih u Prilogu III.
1.a Komisija je ovlaštena i za donošenje delegiranih akata u skladu s člankom 73. radi uklanjanja slučajeva primjene visokorizičnih UI sustava s popisa u Prilogu III. ako uvjeti iz stavka 1. više nisu primjenjivi;
2. Kad za potrebe stavka 1. procjenjuje postoji li kod UI sustava rizik od štete za zdravlje i sigurnost ili rizik od nepovoljnog utjecaja na temeljna prava koji je najmanje jednak riziku od štete koji postoji kod visokorizičnih UI sustava koji su već navedeni u Prilogu III., Komisija uzima u obzir sljedeće kriterije:
2. Prilikom evaluacije UI sustava za potrebe članka 1. i 1.a, Komisija uzima u obzir sljedeće kriterije:
Amandman 243 Prijedlog uredbe Članak 7. – stavak 2. – točka aa (nova)
(a a) opće mogućnosti i funkcionalnosti UI sustava neovisno o njegovoj namjeni;
Amandman 244 Prijedlog uredbe Članak 7. – stavak 2. – točka ba (nova)
(b a) prirodu i količinu podataka koje UI sustav obrađuje i upotrebljava;
(b b) stupanj u kojem UI sustav funkcionira autonomno;
Amandman 246 Prijedlog uredbe Članak 7. – stavak 2. – točka c
(c) stupanj u kojem je uporaba UI sustava već prouzročila štetu zdravlju ili sigurnosti ili nepovoljan utjecaj na temeljna prava ili u kojem izaziva snažnu zabrinutost da bi mogla prouzročiti takvu štetu ili nepovoljan utjecaj, kako je potvrđen izvješćima ili dokumentiranim navodima koji su podneseni nacionalnim nadležnim tijelima;
(c) stupanj u kojem je uporaba UI sustava već prouzročila štetuzdravlju ili sigurnosti, nepovoljno utjecala na temeljna prava, okoliš, demokraciju i vladavinu prava ili prouzročila snažnu zabrinutost u pogledu vjerojatnosti nastanka takve štete ili nepovoljnog utjecaja, kako je primjerice potvrđeno izvješćima ili dokumentiranim navodima koji su podneseni nacionalnim nadzornim tijelima, Komisiji, Uredu za umjetnu inteligenciju, EDPS-u ili Agenciji Europske unije za temeljna prava;
Amandman 247 Prijedlog uredbe Članak 7. – stavak 2. – točka d
(d) potencijalne razmjere takve štete ili takvog nepovoljnog utjecaja, osobito u smislu intenziteta i mogućnosti da zahvati mnogo osoba;
(d) potencijalne razmjere takve štete ili takvog nepovoljnog utjecaja, osobito u smislu intenziteta i mogućnosti da zahvati mnogo osoba ili da nerazmjerno zahvati određenu skupinu osoba;
Amandman 248 Prijedlog uredbe Članak 7. – stavak 2. – točka e
(e) stupanj ovisnosti potencijalno oštećenih osoba ili osoba potencijalno izloženih nepovoljnom utjecaju o krajnjem ishodu uporabe UI sustava, osobito ako taj ishod nije razumno moguće ne prihvatiti zbog praktičnih ili pravnih razloga;
(e) stupanj ovisnosti potencijalno oštećenih osoba ili osoba potencijalno izloženih nepovoljnom utjecaju o izlaznom rezultatu koji uključuje uporabu UI sustava, a taj je izlazni rezultat isključivo dodatni element u pogledu relevantne mjere ili odluke koju treba donijeti, osobito ako taj izlazni rezultat nije razumno moguće ne prihvatiti zbog praktičnih ili pravnih razloga;
Amandman 249 Prijedlog uredbe Članak 7. – stavak 2. – točka ea (nova)
(e a) potencijalnu zlouporabu i zlonamjernu uporabu UI sustava i tehnologije na kojoj se temelji;
Amandman 250 Prijedlog uredbe Članak 7. – stavak 2. – točka f
(f) stupanj u kojem su potencijalno oštećene osobe ili osobe potencijalno izložene nepovoljnom utjecaju u ranjivu položaju u odnosu na korisnika UI sustava, osobito zbog neravnoteže moći, znanja, gospodarskih ili socijalnih okolnosti ili dobi;
(f) stupanj u kojem postoji neravnoteža moći ili su potencijalno oštećene osobe ili osobe potencijalno izložene nepovoljnom utjecaju u ranjivu položaju u odnosu na korisnika UI sustava, osobito zbog statusa, autoriteta, znanja, gospodarskih ili socijalnih okolnosti ili dobi;
Amandman 251 Prijedlog uredbe Članak 7. – stavak 2. – točka g
(g) stupanj u kojem je krajnji ishod uporabe UI sustava lako poništiv, pri čemu se krajnji ishodi koji utječu na zdravlje ili sigurnost osoba ne smatraju lako poništivima;
(g) stupanj u kojem je krajnji ishod koji uključuje uporabu UI sustava lako poništiv ili ispravljiv, pri čemu se krajnji ishodi koji negativno utječu na zdravlje, sigurnost, temeljna prava osoba, okoliš ili demokraciju i vladavinu prava ne smatraju lako poništivima;
Amandman 252 Prijedlog uredbe Članak 7. – stavak 2. – točka ga (nova)
(g a) stupanj dostupnosti i uporabe efektivnih tehničkih rješenja i mehanizama za kontrolu, pouzdanost i mogućnost korekcije UI sustava;
(g b) opseg i vjerojatnost koristi od primjene UI sustava za pojedince, skupine ili društvo u cjelini, uključujući moguća poboljšanja sigurnosti proizvoda;
2.a Pri procjeni UI sustava za potrebe stavaka 1. ili 1.a Komisija se savjetuje s Uredom za umjetnu inteligenciju i, ako je relevantno, predstavnicima skupina na koje UI sustav utječe, industrije, neovisnih stručnjaka, socijalnih partnera i organizacija civilnog društva. Komisija također organizira javna savjetovanja u tom pogledu i objavljuje rezultate tih savjetovanja i konačne procjene;
2 b. Ured za umjetnu inteligenciju, nacionalna nadzorna tijela ili Europski parlament mogu zatražiti od Komisije da ponovno procijeni i prekvalificira kategorizaciju rizika UI sustava u skladu sa stavcima 1. i 1.a. Komisija navodi razloge za svoju odluku te ih objavljuje.
1.a Pri usklađivanju sa zahtjevima utvrđenima u ovom poglavlju uzimaju se u obzir smjernice razvijene u skladu s člankom 82.b, općepriznata najnovija dostignuća, među ostalim kako se odražavaju u relevantnim usklađenim normama i zajedničkim specifikacijama iz članaka 40. i 41. ili onima koje su već utvrđene u zakonodavstvu Unije o usklađivanju;
2. Kod osiguravanja ispunjavanja tih zahtjeva u obzir se uzimaju namjena visokorizičnog UI sustava i sustav upravljanja rizicima iz članka 9.
2. Kod osiguravanja ispunjavanja tih zahtjeva u obzir se uzimaju namjena visokorizičnog UI sustava, razumno predvidljive krive uporabe i sustav upravljanja rizicima iz članka 9.
2.a Sve dok su zahtjevi iz glave III. poglavlja 2. i 3. ili glave VIII. poglavlja 1., 2. i 3. za visokorizične UI sustave obuhvaćeni zakonodavstvom Unije o usklađivanju navedenim u odjeljku A Priloga II., zahtjevi ili obveze iz tih poglavlja ove Uredbe smatraju se ispunjenima pod uvjetom da uključuju UI sastavnicu. Zahtjevi iz glave III. poglavlja 2. i 3. ili glave VIII. poglavlja 1., 2. i 3. za visokorizične UI sustave koji nisu obuhvaćeni zakonodavstvom Unije o usklađivanju navedenim u Prilogu II. odjeljku A uključuju se, kada je to primjenjivo, u to zakonodavstvo Unije o usklađivanju. Odgovarajuće ocjenjivanje sukladnosti provodi se kao dio postupaka utvrđenih u okviru zakonodavstva Unije o usklađivanju navedenog u Prilogu II. odjeljku A.
1. Za visokorizične UI sustave uspostavlja se, primjenjuje i održava sustav upravljanja rizicima te se o njemu vodi dokumentacija.
1. Za visokorizične UI sustave uspostavlja se, primjenjuje i održava sustav upravljanja rizicima te se o njemu vodi dokumentacija tijekom cijelog životnog ciklusa UI sustava. Sustav upravljanja rizicima može se integrirati u već postojeće postupke upravljanja rizicima koji se odnose na relevantno sektorsko pravo Unije ili u njihov dio ako ispunjava zahtjeve iz ovog članka.
2. Sustav upravljanja rizicima sastoji se od kontinuiranog iterativnog procesa koji se izvodi cijeli životni vijek visokorizičnog UI sustava i koji je potrebno redovito sustavno ažurirati. Čine ga sljedeći koraci:
2. Sustav upravljanja rizicima sastoji se od kontinuiranog iterativnog procesa koji se izvodi cijeli životni vijek visokorizičnog UI sustava i za koji je potrebno redovito preispitivanje i ažuriranje postupka upravljanja rizicima kako bi se osigurala njegova trajna učinkovitost, te dokumentiranje važnih odluka i mjera poduzetih u skladu s ovim člankom. Čine ga sljedeći koraci:
Amandman 263 Prijedlog uredbe Članak 9. – stavak 2. – točka a
(a) identificiranje i analiza poznatih i predvidljivih rizika povezanih sa svakim visokorizičnim UI sustavom;
(a) identificiranje, procjena i evaluacija poznatih i razumno predvidljivih rizika koje visokorizični UI sustav može predstavljati za zdravlje ili sigurnost pojedinaca, njihova temeljna prava, uključujući jednak pristup i mogućnosti, demokraciju i vladavinu prava ili okoliš ako se visokorizični UI sustav upotrebljava u skladu sa svojom namjenom i u uvjetima razumno predvidljive krive uporabe;
Amandman 264 Prijedlog uredbe Članak 9. – stavak 2. – točka b
(b) procjenjivanje i evaluacija rizika koji mogu nastati pri uporabi visokorizičnog UI sustava u skladu s njegovom namjenom i u uvjetima razumno predvidljive krive uporabe;
Briše se.
Amandman 265 Prijedlog uredbe Članak 9. – stavak 2. – točka c
(c) evaluacija drugih potencijalnih rizika na temelju analize podataka prikupljenih sustavom praćenja nakon stavljanja na tržište iz članka 61.;
(c) evaluacija novih znatnih rizika kako su opisani u točki (a) i utvrđeni na temelju analize podataka prikupljenih sustavom praćenja nakon stavljanja na tržište iz članka 61.;
Amandman 266 Prijedlog uredbe Članak 9. – stavak 2. – točka d
(d) donošenje odgovarajućih mjera za upravljanje rizicima u skladu s odredbama sljedećih stavaka.
(d) donošenje primjerenih i ciljanih mjera za upravljanje rizicima osmišljenih za rješavanje rizika utvrđenih na temelju točaka (a) i (b) ovog stavka u skladu s odredbama sljedećih stavaka.
3. U mjerama upravljanja rizicima iz stavka2. točke(d) uzimaju se u obzir učinci i moguće interakcije koji proizlaze iz kombinirane primjene zahtjeva iz ovog poglavlja. U obzir se uzimaju i općepriznata najnovija dostignuća, među ostalim kako su izražena u relevantnim usklađenim normama ili zajedničkim specifikacijama.
3. U mjerama upravljanja rizicima iz stavka 2. točke (d)uzimaju se u obzir učinci i moguće interakcije koji proizlaze iz kombinirane primjene zahtjeva iz ovog poglavlja kako bi se učinkovito ublažili rizici i istodobno osigurala odgovarajuća i razmjerna provedba zahtjeva.
4. Mjere upravljanja rizicima iz stavka2. točke(d) takve su da eventualni preostali rizik povezan sa svakom pojedinom opasnošću te cjelokupni preostali rizik visokorizičnih UI sustava mora biti ocijenjen kao prihvatljiv, pod uvjetom da se visokorizični UI sustav rabi u skladu sa svojom namjenom ili u uvjetima razumno predvidljive krive uporabe. Korisnike se mora obavijestiti o tim preostalim rizicima.
4. Mjere upravljanja rizicima iz stavka 2. točke (d)takve su da relevantni preostali rizik povezan sa svakom pojedinom opasnošću te cjelokupni preostali rizik visokorizičnih UI sustava mora biti razumno ocijenjen kao prihvatljiv, pod uvjetom da se visokorizični UI sustav rabi u skladu sa svojom namjenom ili u uvjetima razumno predvidljive krive uporabe. Subjekte koji primjenjuju sustav mora se obavijestiti o tim preostalim rizicima i o obrazloženim ocjenama.
Kao najprikladnije mjere upravljanja rizicima utvrđuju se one kojima se osigurava sljedeće:
Amandman 269 Prijedlog uredbe Članak 9. – stavak 4. − podstavak 1. − točka a
(a) uklanjanje rizika ili svođenje rizika na najmanju moguću mjeru odgovarajućim projektiranjem i razvojem;
(a) uklanjanje ili smanjenje utvrđenih rizika u mjeri u kojoj je to tehnički izvedivo odgovarajućim projektiranjem i razvojem visokorizičnog UI sustava, uključujući, prema potrebi, stručnjake i vanjske dionike;
Amandman 270 Prijedlog uredbe Članak 9. – stavak 4. − podstavak 1. − točka b
(b) prema potrebi, poduzimanje odgovarajućih mjera za smanjenje i kontrolu rizika koji se ne mogu ukloniti;
(b) prema potrebi, poduzimanje odgovarajućih mjera za smanjenje i kontrolu u pogledu znatnih rizika koji se ne mogu ukloniti;
Amandman 271 Prijedlog uredbe Članak 9. – stavak 4. – podstavak 1. – točka c
(c) pružanje odgovarajućih informacija korisnicima u skladu s člankom 13., osobito o rizicima iz stavka 2. točke (b) ovog članka i, prema potrebi, osposobljavanje korisnika.
(c) pružanje potrebnih informacija korisnicima u skladu s člankom 13. i, prema potrebi, osposobljavanje subjekata koji primjenjuju sustav.
Kod uklanjanja ili smanjenja rizika povezanih s uporabom visokorizičnog UI sustava u obzir se uzimaju tehničko znanje, iskustvo, obrazovanje i osposobljavanje koje se očekuje od korisnika te predviđeno okruženje za uporabu sustava.
Kod uklanjanja ili smanjenja rizika povezanih s uporabom visokorizičnog UI sustava, dobavljači u obzir uzimaju tehničko znanje, iskustvo, obrazovanje i osposobljavanje koji bi subjektu koji primjenjuje taj sustav mogli biti potrebni, među ostalim u vezi s pretpostavljenim kontekstom uporabe.
5. Da bi se utvrdile najprikladnije mjere upravljanja rizicima, visokorizični UI sustavi se testiraju. Testiranjem se provjerava da visokorizični UI sustavi postojano rade u skladu s namjenom i da ispunjavaju zahtjeve utvrđene u ovom poglavlju.
5. Da bi se utvrdile najprikladnije i ciljane mjere upravljanja rizicima i procijenile sve takve mjere u kontekstu mogućih koristi i planiranih ciljeva sustava, visokorizični UI sustavi se testiraju. Testiranjem se provjerava da visokorizični UI sustavi postojano rade u skladu s namjenom i da ispunjavaju zahtjeve utvrđene u ovom poglavlju.
6. Postupci testiranja moraju biti prikladni za postizanje namjene UI sustava i ne trebaju obuhvaćati više nego što je potrebno za postizanje te namjene.
6. Postupci testiranja moraju biti prikladni za postizanje namjene UI sustava.
7. Visokorizični UI sustavi testiraju se prema potrebi u bilo kojem trenutku razvojnog procesa, a u svakom slučaju prije stavljanja na tržište ili stavljanja u uporabu. Testiranje se provodi u odnosu na preliminarno definirane parametre i probabilističke pragove koji su primjereni za namjenu visokorizičnog UI sustava.
7. Visokorizični UI sustavi testiraju se prije stavljanja na tržište ili stavljanja u uporabu. Testiranje se provodi u odnosu na prethodno definirane parametre i probabilističke pragove koji su primjereni za namjenu ili razumno predvidljivu krivu uporabu visokorizičnog UI sustava.
8. Pri uvođenju sustava upravljanja rizicima opisanog u stavcima od 1. do 7. posebno se vodi računa o vjerojatnosti da će visokorizični UI sustav utjecati na djecu ili da će mu djeca imati pristup.
8. Pri uvođenju sustava upravljanja rizicima opisanog u stavcima od 1. do 7. dobavljači posebno vode računa o vjerojatnosti da će visokorizični UI sustav negativno utjecati na ranjive skupine ljudi ili djecu.
9. Za kreditne institucije regulirane Direktivom 2013/36/EU aspekti opisani u stavcima 1. do 8. dio su postupaka upravljanja rizicima koje te institucije uspostavljaju na temelju članka 74. te direktive.
9. Za dobavljače UI sustava koji su već obuhvaćeni pravom Unije kojim se od njih zahtijeva da uspostave posebne sustave za upravljanje rizicima, uključujući kreditne institucije regulirane Direktivom 2013/36/EU, aspekti opisani u stavcima 1. do 8. dio su postupaka upravljanja rizicima uspostavljenih tim pravom Unije ili su s njima povezani.
1. Visokorizični UI sustavi koji koriste tehnike s učenjem modelâ pomoću podataka razvijaju se na temelju skupova podataka za učenje, validaciju i testiranje koji ispunjavaju kriterije kvalitete iz stavaka od 2. do 5.
1. Visokorizični UI sustavi koji koriste tehnike s učenjem modelâ pomoću podataka razvijaju se na temelju skupova podataka za učenje, validaciju i testiranje koji ispunjavaju kriterije kvalitete iz stavaka od 2. do 5. ako je to tehnički izvedivo s obzirom na određeni segment tržišta ili područje primjene.
Tehnike za koje nisu potrebni označeni ulazni podaci, kao što su učenje bez nadzora i podržano učenje, razvijaju se na temelju skupova podataka, primjerice za testiranje i provjeru, koji ispunjavaju kriterije kvalitete iz stavaka od 2. do 5.
2. Na skupove podataka za učenje, validaciju i testiranje primjenjuju se odgovarajuće prakse upravljanja podacima. Te se prakse ponajprije odnose na:
2. Na skupove podataka za učenje, validaciju i testiranje primjenjuje se upravljanje podacima koje je primjereno kontekstu uporabe i namjeni UI sustava. Te se mjere ponajprije odnose na:
Amandman 280 Prijedlog uredbe Članak 10. – stavak 2. – točka aa (nova)
(a a) transparentnost u pogledu izvorne svrhe prikupljanja podataka;
Amandman 281 Prijedlog uredbe Članak 10. – stavak 2. – točka b
(b) prikupljanje podataka;
(b) postupke prikupljanja podataka;
Amandman 282 Prijedlog uredbe Članak 10. – stavak 2. – točka c
(c) relevantne postupke obrade za pripremu podataka, kao što su obilježavanje, označivanje, čišćenje, obogaćivanje i agregiranje;
(c) postupke obrade za pripremu podataka, kao što su obilježavanje, označivanje, čišćenje, ažuriranje, obogaćivanje i agregiranje;
Amandman 283 Prijedlog uredbe Članak 10. – stavak 2. – točka d
(d) formuliranje relevantnih pretpostavki, osobito s obzirom na informacije koje bi podaci trebali mjeriti i predstavljati;
(d) formuliranje pretpostavki, osobito s obzirom na informacije koje bi podaci trebali mjeriti i predstavljati;
Amandman 284 Prijedlog uredbe Članak 10. – stavak 2. – točka e
(e) prethodnu procjenu raspoloživosti, količine i prikladnosti potrebnih skupova podataka;
(e) procjenu raspoloživosti, količine i prikladnosti potrebnih skupova podataka;
Amandman 285 Prijedlog uredbe Članak 10. – stavak 2. – točka f
(f) pregled s obzirom na moguće pristranosti;
(f) pregled s obzirom na moguće pristranosti koje bi mogle utjecati na zdravlje i sigurnost osoba, negativno utjecati na temeljna prava ili dovesti do diskriminacije zabranjene pravom Unije, posebno ako izlazni rezultati utječu na ulazne podatke za buduće operacije („povratne veze”) i odgovarajuće mjere za otkrivanje, sprečavanje i ublažavanje mogućih pristranosti;
Amandman 286 Prijedlog uredbe Članak 10. – stavak 2. – točka fa (nova)
(f a) odgovarajuće mjere za otkrivanje, sprečavanje i ublažavanje mogućih pristranosti;
Amandman 287 Prijedlog uredbe Članak 10. – stavak 2. – točka g
(g) utvrđivanje svih mogućih nepotpunosti i nedostataka podataka te načina na koje se te nepotpunosti i nedostaci mogu ukloniti.
(g) utvrđivanje relevantnih nepotpunosti i nedostataka podataka koji sprječavaju usklađenost s ovom Uredbom te načina na koje se te nepotpunosti i nedostaci mogu ukloniti;
3. Skupovi podataka za učenje, validaciju i testiranje su relevantni, reprezentativni, bez pogrešaka i potpuni. Imaju odgovarajuća statistička obilježja, prema potrebi i u odnosu na osobe ili skupine osoba za koje se visokorizični UI sustav namjerava rabiti. Te se karakteristike skupova podataka mogu postići na razini pojedinačnih skupova podataka ili njihove kombinacije.
3. Skupovi podataka za učenje i, ako se upotrebljavaju, skupovi podataka za validaciju i testiranje, uključujući oznake, relevantni su, dovoljno reprezentativni, primjereno provjereni u smislu pogrešaka i što potpuniji s obzirom na namjenu. Imaju odgovarajuća statistička obilježja, prema potrebi i u odnosu na osobe ili skupine osoba u pogledu kojih se visokorizični UI sustav namjerava rabiti. Te se karakteristike skupova podataka postižu na razini pojedinačnih skupova podataka ili njihove kombinacije.
4. U skupovima podataka za učenje, validaciju i testiranje u obzir se uzimaju, u mjeri u kojoj to iziskuje namjena, karakteristike ili elementi specifični za zemljopisno, bihevioralno ili radno okruženje u kojem je previđena uporaba visokorizičnog UI sustava.
4. U skupovima podataka u obzir se uzimaju, u mjeri u kojoj to iziskuje namjena ili razumno predvidljive krive uporabe UI sustava, karakteristike ili elementi specifični za zemljopisno, kontekstualno, bihevioralno ili radno okruženje u kojem je previđena uporaba visokorizičnog UI sustava.
5. Dobavljači visokorizičnih UI sustava mogu, u mjeri u kojoj je to nužno kako bi se osiguralo praćenje, otkrivanje i ispravljanje pristranosti povezanih s tim sustavima, obrađivati posebne kategorije osobnih podataka iz članka 9. stavka 1. Uredbe (EU) 2016/679, članka 10. Direktive (EU) 2016/680 i članka 10. stavka 1. Uredbe (EU) 2018/1725, ovisno o odgovarajućim zaštitnim mjerama koje se odnose na temeljna prava i slobode pojedinaca, uključujući tehnička ograničenja ponovne uporabe i uporabe vrhunskih sigurnosnih mjera i mjera zaštite privatnosti, kao što je pseudonimizacija ili enkripcija u slučaju da anonimizacija može znatno omesti željenu svrhu.
5. Dobavljači visokorizičnih UI sustava iznimno mogu, u mjeri u kojoj je to nužno kako bi se osiguralo otkrivanje i ispravljanje negativnih pristranosti povezanih s tim sustavima, obrađivati posebne kategorije osobnih podataka iz članka 9. stavka 1. Uredbe (EU) 2016/679, članka 10. Direktive (EU) 2016/680 i članka 10. stavka 1. Uredbe (EU) 2018/1725, ovisno o odgovarajućim zaštitnim mjerama koje se odnose na temeljna prava i slobode pojedinaca, uključujući tehnička ograničenja ponovne uporabe i uporabe vrhunskih sigurnosnih mjera i mjera zaštite privatnosti. Konkretno, da bi se ta obrada odvijala, moraju biti ispunjeni svi sljedeći uvjeti: (a) otkrivanje i ispravljanje pristranosti ne može se učinkovito postići obradom sintetičkih ili anonimiziranih podataka;
(b) podaci su pseudonimizirani;
(c) dobavljač poduzima odgovarajuće tehničke i organizacijske mjere kako bi osigurao da su podaci koji se obrađuju za potrebe ovog stavka osigurani, zaštićeni, podložni odgovarajućim zaštitnim mjerama i da samo ovlaštene osobe imaju pristup tim podacima uz odgovarajuće obveze povjerljivosti;
(d) podaci koji se obrađuju za potrebe ovog stavka ne smiju se prenositi, prosljeđivati niti im druge strane smiju na neki drugi način pristupiti;
(e) podaci koji se obrađuju za potrebe ovog stavka zaštićeni su odgovarajućim tehničkim i organizacijskim mjerama i brišu se nakon ispravljanja pristranosti ili završetka razdoblja čuvanja osobnih podataka;
(f) uspostavljene su djelotvorne i odgovarajuće mjere kako bi se osigurala dostupnost, sigurnost i otpornost sustava i usluga obrade na tehničke ili fizičke incidente;
(g) uspostavljene su djelotvorne i odgovarajuće mjere kako bi se osigurala fizička sigurnost lokacija na kojima se podaci pohranjuju i obrađuju, interno vođenje i upravljanje IT-om i sigurnošću IT-a, certificiranje postupaka i proizvoda;
Dobavljači koji primjenjuju ovu odredbu sastavljaju dokumentaciju u kojoj objašnjavaju zašto je obrada posebnih kategorija osobnih podataka bila potrebna za otkrivanje i ispravljanje pristranosti.
6.a Ako dobavljač ne može ispuniti obveze iz ovog članka jer taj dobavljač nema pristup podacima, a podatke posjeduje isključivo subjekt koji primjenjuje sustav, taj subjekt može, na temelju ugovora, biti odgovoran za bilo kakvo kršenje ovog članka.
Tehnička dokumentacija sastavlja se tako da se njome dokaže da visokorizični UI sustav ispunjava zahtjeve iz ovog poglavlja te da se nacionalnim nadležnim tijelima i prijavljenim tijelima pruže sve potrebne informacije za ocjenjivanje sukladnosti UI sustava s tim zahtjevima. Minimalno sadržava elemente utvrđene u PriloguIV.
Tehnička dokumentacija sastavlja se tako da se njome dokaže da visokorizični UI sustav ispunjava zahtjeve iz ovog poglavlja te da se nacionalnim nadzornim tijelima i prijavljenim tijelima pruže potrebne informacije za ocjenjivanje sukladnosti UI sustava s tim zahtjevima. Minimalno sadržava elemente utvrđene u Prilogu IV. ili, ako je riječ o MSP-ovima i start-up poduzećima, bilo koju jednakovrijednu dokumentaciju koja ispunjava iste ciljeve, podložno odobrenju nacionalnog nadležnog tijela.
2. U slučaju stavljanja na tržište ili stavljanja u uporabu visokorizičnog UI sustava povezanog s proizvodom na koji se primjenjuju pravni akti iz odjeljka A Priloga II. sastavlja se jedinstvena tehnička dokumentacija koja sadržava sve informacije iz Priloga IV. i informacije potrebne na temelju tih pravnih akata.
2. U slučaju stavljanja na tržište ili stavljanja u uporabu visokorizičnog UI sustava povezanog s proizvodom na koji se primjenjuju pravni akti iz odjeljka A Priloga II. sastavlja se jedinstvena tehnička dokumentacija koja sadržava sve informacije iz stavka 1. i informacije potrebne na temelju tih pravnih akata.
3.a Dobavljači koji su kreditne institucije regulirane Direktivom 2013/36/EU vode tehničku dokumentaciju kao dio dokumentacije o sustavima, procesima i mehanizmima internog upravljanja u skladu s člankom 74. te direktive.
1. Visokorizični UI sustavi projektiraju se i razvijaju tako da imaju funkciju automatskog bilježenja događaja („dnevnici događaja”) tijekom svojeg rada. Te funkcije bilježenja događaja moraju biti u skladu s priznatim standardima ili zajedničkim specifikacijama.
1. Visokorizični UI sustavi projektiraju se i razvijaju tako da imaju funkciju automatskog bilježenja događaja („dnevnici događaja”) tijekom svojeg rada. Te funkcije bilježenja događaja moraju biti u skladu s najnovijim dostignućima i priznatim standardima ili zajedničkim specifikacijama.
2. Funkcije bilježenja događaja takve su da osiguravaju razinu sljedivosti funkcioniranja UI sustava tijekom njegova životnog ciklusa koja je primjerena namjeni tog sustava.
2. Kako bi se osigurala razina sljedivosti funkcioniranja UI sustava tijekom cijelog njegova životnog vijeka koja je primjerena namjeni tog sustava, funkcije bilježenja olakšavaju praćenje operacija iz članka 29. stavka 4. kao i praćenje nakon stavljanja na tržište iz članka 61.Posebno omogućuju bilježenje događaja relevantnih za utvrđivanje situacija koje mogu:
(a) dovesti do toga da UI sustav predstavlja rizik u smislu članka 65. stavka 1.; ili
2.a Visokorizični UI sustavi projektiraju se i razvijaju s funkcijama bilježenja koje omogućuje bilježenje potrošnje energije, mjerenje ili izračun upotrebe resursa i utjecaja visokorizičnog UI sustava na okoliš tijekom svih faza životnog ciklusa sustava.
3. Točnije, funkcije bilježenja događaja omogućuju praćenje rada visokorizičnog UI sustava s obzirom na pojavu situacija zbog kojih UI sustav može predstavljati rizik u smislu članka 65. stavka 1. ili koje mogu dovesti do bitne izmjene te olakšavaju praćenje nakon stavljanja na tržište iz članka 61.
1. Visokorizični UI sustavi projektiraju se i razvijaju tako da njihov rad bude dovoljno transparentan da korisnici mogu tumačiti izlazne rezultate sustava i primjereno ih koristiti. Osigurava se odgovarajuća vrsta i stupanj transparentnosti kako bi se ispunile relevantne obveze korisnika i dobavljača utvrđene u poglavlju3. ove glave.
1. Visokorizični UI sustavi projektiraju se i razvijaju tako da njihov rad bude dovoljno transparentan da dobavljači i korisnici mogu u razumnoj mjeri razumjeti funkcioniranje sustava.Odgovarajuća transparentnost osigurava se u skladu s namjenom UI sustava kako bi se ispunile relevantne obveze dobavljača i korisnika utvrđene u poglavlju 3. ove glave.
Transparentnost stoga znači da se u trenutku stavljanja visokorizičnog UI sustava na tržište upotrebljavaju sva tehnička sredstva dostupna u skladu s općepriznatim najnovijim dostignućima kako bi se osiguralo da dobavljač i korisnik mogu interpretirati rezultate UI sustava. Korisniku se omogućuje da razumije i na odgovarajući način upotrebljava UI sustav na način da je općenito upoznat s time kako UI sustav funkcionira i koje podatke obrađuje, što mu omogućava da zahvaćenoj osobi objasni odluke UI sustava u skladu s člankom 68.c.
2. Visokorizičnim UI sustavima prilažu se upute za uporabu u odgovarajućem digitalnom ili drugom formatu sa sažetim, potpunim, točnim i jasnim informacijama koje su korisnicima važne, pristupačne i razumljive.
2. Visokorizičnim UI sustavima prilažu se razumljive upute za uporabu u odgovarajućem digitalnom formatu ili drugom dostupnom trajnom mediju koji uključuje sažete, točne i jasne i, koliko je to moguće, potpune informacije koje pomažu u radu i održavanju UI sustava te pomažu korisnicima u donošenju informiranih odluka te su im u razumnoj mjeri važne, pristupačne i razumljive.
3. Kako bi se ostvarili ciljevi iz stavka 1., u informacijama iz stavka 2. navode se:
Amandman 303 Prijedlog uredbe Članak 13. – stavak 3. – točka a
(a) identitet i kontaktni podaci dobavljača i, prema potrebi, njegova ovlaštenog zastupnika;
(a) identitet i kontaktni podaci dobavljača i, prema potrebi, njegovih ovlaštenih zastupnika;
Amandman 304 Prijedlog uredbe Članak 13. – stavak 3. – točka aa (nova)
(aa) ako nije isti kao dobavljač, identitet i kontaktni podaci subjekta koji je proveo ocjenjivanje sukladnosti i po potrebi njegova ovlaštenog zastupnika;
Amandman 305 Prijedlog uredbe Članak 13. – stavak 3. – točka b – uvodni dio
(b) karakteristike, mogućnosti i ograničenja sposobnosti visokorizičnog UI sustava, uključujući:
(b) karakteristike, mogućnosti i ograničenja sposobnosti visokorizičnog UI sustava, uključujući, prema potrebi:
Amandman 306 Prijedlog uredbe Članak 13. – stavak 3. – točka b – podtočka ii.
ii. razine točnosti, otpornosti i kibersigurnosti iz članka 15. u odnosu na koje je visokorizični UI sustav testiran i potvrđen i koje se mogu očekivati te sve poznate i predvidljive okolnosti koje mogu utjecati na tu očekivanu razinu točnosti, stabilnosti i kibersigurnosti;
ii. razine točnosti, otpornosti i kibersigurnosti iz članka 15. u odnosu na koje je visokorizični UI sustav testiran i potvrđen i koje se mogu očekivati te sve očito poznate i predvidljive okolnosti koje mogu utjecati na tu očekivanu razinu točnosti, stabilnosti i kibersigurnosti;
Amandman 307 Prijedlog uredbe Članak 13. – stavak 3. – točka b – podtočka iii.
iii. sve poznate i predvidljive okolnosti povezane s uporabom visokorizičnog UI sustava u skladu s njegovom namjenom ili u uvjetima razumno predvidljive krive uporabe koje mogu prouzročiti rizike za zdravlje i sigurnost ili temeljna prava;
iii. sve očito poznate i predvidljive okolnosti povezane s uporabom visokorizičnog UI sustava u skladu s njegovom namjenom ili u uvjetima razumno predvidljive krive uporabe koje mogu prouzročiti rizike za zdravlje i sigurnost, temeljna prava ili okoliš, uključujući, prema potrebi, opisne primjere tih ograničenja i scenarija u kojima se sustav ne bi trebao upotrebljavati;
Amandman 308 Prijedlog uredbe Članak 13. – stavak 3. – točka b – podtočka iii.a (nova)
iii.a mjeru u kojoj UI sustav može pružiti objašnjenje za odluke koje donosi;
Amandman 309 Prijedlog uredbe Članak 13. – stavak 3. – točka b – podtočka v.
v. prema potrebi, specifikacije ulaznih podataka ili sve druge važne informacije o korištenim skupovima podataka za učenje, validaciju i testiranje, uzimajući u obzir namjenu UI sustava;
v. relevantne informacije o radnjama korisnika koje mogu utjecati na rad sustava, među ostalim o vrsti ili kvaliteti ulaznih podataka ili sve druge važne informacije o korištenim skupovima podataka za učenje, validaciju i testiranje, uzimajući u obzir namjenu UI sustava;
Amandman 310 Prijedlog uredbe Članak 13. – stavak 3. – točka e
(e) očekivani životni vijek visokorizičnog UI sustava i sve potrebne mjere održavanja i brige kako bi se osiguralo pravilno funkcioniranje UI sustava, što se odnosi i na softverska ažuriranja.
(e) sve potrebne mjere održavanja i brige kako bi se osiguralo pravilno funkcioniranje UI sustava, što se odnosi i na softverska ažuriranja, tijekom njegova očekivanog životnog vijeka.
Amandman 311 Prijedlog uredbe Članak 13. – stavak 3. – točka ea (nova)
(ea) opis mehanizama uključenih u UI sustav koji omogućuje korisnicima da pravilno prikupljaju, pohranjuju i tumače dnevnike događaja u skladu s člankom 12. stavkom 1.
3.a Kako bi ispunili obveze iz ovog članka, dobavljači i korisnici osiguravaju dovoljnu razinu pismenosti u području umjetne inteligencije u skladu s člankom 4.b.
1. Visokorizični UI sustavi projektiraju se i razvijaju, među ostalim ugrađujući odgovarajuće alate u korisničko sučelje, tako da ih pojedinci mogu djelotvorno nadzirati tijekom uporabe.
1. Visokorizični UI sustavi projektiraju se i razvijaju, među ostalim ugrađujući odgovarajuće alate u korisničko sučelje, tako da ih pojedinci mogu djelotvorno nadzirati razmjerno rizicima povezanima s tim sustavima. Pojedinci zaduženi za ljudski nadzor moraju imati dostatnu razinu pismenosti u području umjetne inteligencije u skladu s člankom 4.b te potrebnu potporu i ovlasti za obavljanje te funkcije tijekom razdoblja u kojem se UI sustav upotrebljava i za temeljitu istragu nakon incidenta.
2. Cilj je ljudskog nadzora sprečavanje ili minimiziranje rizika za zdravlje, sigurnost ili temeljna prava koji se mogu pojaviti tijekom uporabe visokorizičnog UI sustava u skladu s namjenom ili u uvjetima razumno predvidljive krive uporabe, osobito ako su takvi rizici prisutni unatoč primjeni drugih zahtjeva iz ovog poglavlja.
2. Cilj je ljudskog nadzora sprečavanje ili minimiziranje rizika za zdravlje, sigurnost, temeljna prava ili okoliš koji se mogu pojaviti tijekom uporabe visokorizičnog UI sustava u skladu s namjenom ili u uvjetima razumno predvidljive krive uporabe, osobito ako su takvi rizici prisutni unatoč primjeni drugih zahtjeva iz ovog poglavlja i ako odluke koje se temelje isključivo na automatiziranoj obradi koju provode UI sustavi proizvode pravne ili druge znatne učinke na osobe ili skupine osoba na kojima će se sustav upotrebljavati.
3. Ljudski nadzor osigurava se svim ili bilo kojim sljedećim mjerama:
3. Ljudskim nadzorom uzimaju se u obzir posebni rizici, razina automatizacije te kontekst UI sustava i osigurava se svim ili bilo kojim sljedećim vrstama mjera:
4. Mjere iz stavka 3. omogućuju pojedincima kojima je povjeren ljudski nadzor da, ovisno o okolnostima:
4. Za potrebe primjene stavaka 1. do 3., visokorizičan UI sustav isporučuje se korisniku na način da se pojedincima kojima je povjeren ljudski nadzor omogućuje da, ovisno o okolnostima i razmjerno njima:
Amandman 318 Prijedlog uredbe Članak 14. – stavak 4. – točka a
(a) posve razumiju mogućnosti i ograničenja visokorizičnog UI sustava te da pravilno prate njegov rad kako bi se znakovi nepravilnosti, disfunkcija i neočekivanih rezultata mogli što prije otkriti i ispraviti;
(a) budu upoznati sa i dovoljno razumiju relevantne mogućnosti i ograničenja visokorizičnog UI sustava te da pravilno prate njegov rad kako bi se znakovi nepravilnosti, disfunkcija i neočekivanih rezultata mogli što prije otkriti i ispraviti;
Amandman 319 Prijedlog uredbe Članak 14. – stavak 4. – točka e
(e) interveniraju u rad visokorizičnog UI sustava ili ga prekinu pritiskom na gumb za zaustavljanje ili sličnim postupkom.
(e) interveniraju u rad visokorizičnog UI sustava ili ga prekinu pritiskom na gumb za zaustavljanje ili sličnim postupkom koji omogućuje zaustavljanje sustava u sigurnom stanju, osim ako ljudski utjecaj povećava rizike ili bi negativno utjecao na performanse s obzirom na općepriznata najnovija dostignuća.
5. Za visokorizične UI sustave iz točke 1. podtočke (a) Priloga III. mjerama iz stavka 3. mora se usto osigurati da korisnik ne poduzima nikakvu radnju niti donosi ikakvu odluku na temelju identifikacije koja je rezultat sustava ako je nisu provjerila i potvrdila barem dva pojedinca.
5. Za visokorizične UI sustave iz točke 1. podtočke (a) Priloga III. mjerama iz stavka 3. mora se usto osigurati da korisnik ne poduzima nikakvu radnju niti donosi ikakvu odluku na temelju identifikacije koja je rezultat sustava ako je nisu provjerila i potvrdila barem dva pojedinca koja imaju potrebne kompetencije, stupanj osposobljenosti i ovlasti.
1. Visokorizični UI sustavi projektiraju se i razvijaju tako da imaju odgovarajuću razinu točnosti, otpornosti i kibersigurnosti s obzirom na namjenu te da im je u tim aspektima radni učinak tijekom životnog ciklusa ujednačen.
1. Visokorizični UI sustavi projektiraju se i razvijaju u skladu s načelom integrirane i zadane sigurnosti. S obzirom na njihovu namjenu, trebali bi postići odgovarajuću razinu točnosti, otpornosti, sigurnosti i kibersigurnosti te u tim aspektima imati ujednačen radni učinak tijekom životnog ciklusa.Pridržavanje tih zahtjeva mora biti povezano s provedbom mjera koje su u skladu s najnovijim dostignućima, ovisno o konkretnom tržišnom segmentu ili području primjene.
1.a Kako bi se utvrdili tehnički aspekti načina mjerenja odgovarajućih razina točnosti i otpornosti iz stavka 1. ovog članka, Ured za umjetnu inteligenciju okuplja nacionalna i međunarodna tijela za mjeriteljstvo i utvrđivanje referentnih vrijednosti te pruža neobvezujuće smjernice o tom pitanju kako je utvrđeno u članku 56. stavku 2. točki (a).
1.b Kako bi se sagledali svi novi problemi na unutarnjem tržištu u pogledu kibersigurnosti, uključena je i Agencija Europske unije za kibersigurnost (ENISA) zajedno s Europskim odborom za umjetnu inteligenciju kako je utvrđeno u članku 56. stavku 2. točki (b).
2. Razine točnosti i relevantni parametri točnosti visokorizičnih UI sustava navode se u popratnim uputama za uporabu.
2. Razine točnosti i relevantni parametri točnosti visokorizičnih UI sustava navode se u popratnim uputama za uporabu. Jezik koji se upotrebljava mora biti jasan, bez obmanjujućih izjava i ne smije ostavljati prostora nesporazumu.
Visokorizični UI sustavi moraju biti otporni na greške, kvarove ili nedosljednosti koje se mogu dogoditi unutar sustava ili okruženja u kojem sustav radi, osobito zbog njihove interakcije s pojedincima ili drugim sustavima.
Poduzimaju se tehničke i organizacijske mjere kako bi se zajamčilo da su visokorizični UI sustavi što otporniji na greške, kvarove ili nedosljednosti koje se mogu dogoditi unutar sustava ili okruženja u kojem sustav radi, osobito zbog njihove interakcije s pojedincima ili drugim sustavima.
Otpornost visokorizičnih UI sustava može se riješiti tehničkom redundancijom, što može uključivati pričuvne ili zaštitne planove.
Relevantni dobavljač može uz doprinos korisnika, kada je to potrebno,postići otpornost visokorizičnih UI sustava tehničkom redundancijom, što može uključivati pričuvne ili zaštitne planove.
Visokorizični UI sustavi koji nastavljaju učiti nakon stavljanja na tržište ili stavljanja u uporabu razvijaju se tako da se osigura da se na izlazne rezultate koji bi mogli biti pristrani jer su kao ulazni podaci za buduće operacije korišteni izlazni rezultati („povratne veze”) primjenjuju odgovarajuće mjere za smanjenje te mogućnosti.
Visokorizični UI sustavi koji nastavljaju učiti nakon stavljanja na tržište ili stavljanja u uporabu razvijaju se tako da se osigura da se na izlazne rezultate koji bi mogli biti pristrani i koji utječu na ulazne podatke za buduće operacije („povratne veze”) i na zlonamjernu manipulaciju ulaznim podacima koji se koriste za učenje tijekom rada primjenjuju odgovarajuće mjere za smanjenje te mogućnosti.
Visokorizični UI sustavi moraju biti otporni na pokušaje neovlaštenih trećih strana da im izmijene uporabu ili sposobnost iskorištavanjem slabih točaka sustava.
Visokorizični UI sustavi moraju biti otporni na pokušaje neovlaštenih trećih strana da im izmijene uporabu, ponašanje, izlazne rezultate ili sposobnost iskorištavanjem slabih točaka sustava.
Tehnička rješenja za prevladavanje specifičnih slabih točaka UI-ja obuhvaćaju, prema potrebi, mjere za sprečavanje i obuzdavanje napada kojima je cilj manipuliranje skupom podataka za učenje („trovanje podataka”), ulaznim podacima kako bi model načinio pogrešku („neprijateljski primjeri”) ili nedostacima modela.
Tehnička rješenja za prevladavanje specifičnih slabih točaka UI-ja obuhvaćaju, prema potrebi, mjere za sprečavanje, otkrivanje, reagiranje, rješavanje i obuzdavanje napada kojima je cilj manipuliranje skupom podataka za učenje („trovanje podataka”) ili prethodno poučenim komponentama koje se upotrebljavaju u učenju („trovanje modela”), ulaznim podacima kako bi model načinio pogrešku („neprijateljski primjeri” ili „zaobilaženje modela”), napadima na povjerljivost ili nedostacima modela, koji bi mogli dovesti do štetnog donošenja odluka.
Amandman 330 Prijedlog uredbe Glava III. – poglavlje 3. – naslov
OBVEZE DOBAVLJAČA I KORISNIKA VISOKORIZIČNIH UI SUSTAVA I DRUGIH STRANA
OBVEZE DOBAVLJAČA VISOKORIZIČNIH UI SUSTAVA I SUBJEKATA KOJI IH PRIMJENJUJU TE DRUGIH STRANA
Amandman 331 Prijedlog uredbe Članak 16. – naslov
Obveze dobavljača visokorizičnih UI sustava
Obveze dobavljača visokorizičnih UI sustava i subjekata koji ih primjenjuju te drugih strana
Amandman 332 Prijedlog uredbe Članak 16. – stavak 1. – točka a
(a) pobrinuti se da njihovi visokorizični UI sustavi ispunjavaju zahtjeve iz poglavlja2. ove glave;
(a) pobrinuti se da njihovi visokorizični UI sustavi ispunjavaju zahtjeve iz poglavlja 2. ove glave prije nego što ih stave na tržište ili u uporabu;
Amandman 333 Prijedlog uredbe Članak 16. – stavak 1. – točka aa (nova)
(a a) navesti svoje ime, registrirano trgovačko ime ili registrirani žig te adresu i kontaktne podatke na visokorizičnom UI sustavu ili, ako to nije moguće, na njegovoj popratnoj dokumentaciji, ovisno o slučaju;
Amandman 334 Prijedlog uredbe Članak 16. – stavak 1. – točka ab (nova)
(a b) osigurati da su pojedinci koji su zaduženi za ljudski nadzor nad visokorizičnim UI sustavima posebno upoznati s rizikom u pogledu automatizacije ili pristranosti potvrdnog zaključivanja;
Amandman 335 Prijedlog uredbe Članak 16. – stavak 1. – točka ac (nova)
(a c) pružati specifikacije za ulazne podatke ili bilo kakve druge relevantne informacije o korištenim skupovima podataka, među ostalim o njihovim ograničenjima i pretpostavkama, uzimajući u obzir namjenu te predvidljive i razumno predvidljive krive uporabe UI sustava;
Amandman 336 Prijedlog uredbe Članak 16. – stavak 1. – točka c
(c) sastaviti i čuvati tehničku dokumentaciju visokorizičnog UI sustava iz članka 11.;
Amandman 337 Prijedlog uredbe Članak 16. – stavak 1. – točka d
(d) čuvati dnevnike događaja koje automatski generiraju njihovi visokorizični UI sustavi ako su oni pod njihovom kontrolom;
(d) čuvati dnevnike događaja koje automatski generiraju njihovi visokorizični UI sustavi, a koji se zahtijevaju za osiguravanje i dokazivanje usklađenosti s ovom Uredbom, ako su oni pod njihovom kontrolom, u skladu s člankom 20.;
Amandman 338 Prijedlog uredbe Članak 16. – stavak 1. – točka e
(e) pobrinuti se da visokorizični UI sustav prije stavljanja na tržište ili stavljanja u uporabu prođe relevantni postupak ocjenjivanja sukladnosti;
(e) pobrinuti se da visokorizični UI sustav prije stavljanja na tržište ili stavljanja u uporabu prođe relevantni postupak ocjenjivanja sukladnosti u skladu s člankom 43.;
Amandman 339 Prijedlog uredbe Članak 16. – stavak 1. – točka ea (nova)
(e a) sastaviti EU izjavu o sukladnosti u skladu s člankom 48.;
(e b) označiti svoje visokorizične UI sustave oznakom CE kako bi iskazali sukladnost s ovom Uredbom u skladu s člankom 49.
Amandman 341 Prijedlog uredbe Članak 16. – stavak 1. – točka g
(g) poduzeti potrebne korektivne mjere ako visokorizični UI sustav nije sukladan sa zahtjevima iz poglavlja 2. ove glave;
(g) poduzeti potrebne korektivne mjere kako je navedeno u članku 21. i pružiti informacije o tome;
Amandman 342 Prijedlog uredbe Članak 16. – stavak 1. – točka h
(h) o neusklađenosti i svim poduzetim korektivnim mjerama obavijestiti nacionalna nadležna tijela država članica u kojima su UI sustav stavili na raspolaganje ili u uporabu i, prema potrebi, prijavljeno tijelo;
Briše se.
Amandman 343 Prijedlog uredbe Članak 16. – stavak 1. – točka i
i. označiti svoje visokorizične UI sustave oznakom CE kako bi iskazali sukladnost s ovom Uredbom u skladu s člankom 49.
1. Dobavljači visokorizičnih UI sustava dužni su uspostaviti sustav upravljanja kvalitetom kojim se osigurava usklađenost s ovom Uredbom. O tom se sustavu na sustavan i uredan način sastavlja dokumentacija u obliku pisanih politika, postupaka i uputa te on obuhvaća barem sljedeće aspekte:
1. Dobavljači visokorizičnih UI sustava dužni su imati sustav upravljanja kvalitetom kojim se osigurava usklađenost s ovom Uredbom. O njemu se na sustavan i uredan način sastavlja dokumentacija u obliku pisanih politika, postupaka ili uputa te se može uključiti u postojeći sustav upravljanja kvalitetom u skladu sa sektorskim zakonodavnim aktima Unije. On obuhvaća barem sljedeće aspekte:
Amandman 347 Prijedlog uredbe Članak 17. – stavak 1. – točka a
(a) strategiju za usklađenost s propisima, uključujući usklađenost s postupcima ocjenjivanja sukladnosti i postupcima za upravljanje izmjenama visokorizičnog UI sustava;
Briše se.
Amandman 348 Prijedlog uredbe Članak 17. – stavak 1. – točka e
(e) tehničke specifikacije, uključujući norme, koje treba primijeniti i, ako relevantne usklađene norme nisu u cijelosti primijenjene, sredstva kojima treba osigurati sukladnost visokorizičnog UI sustava sa zahtjevima iz poglavlja2. ove glave;
(e) tehničke specifikacije, uključujući norme, koje treba primijeniti i, ako relevantne usklađene norme nisu u cijelosti primijenjene ili ne obuhvaćaju sve relevantne zahtjeve, sredstva kojima treba osigurati sukladnost visokorizičnog UI sustava sa zahtjevima iz poglavlja 2. ove glave;
Amandman 349 Prijedlog uredbe Članak 17. – stavak 1. – točka f
(f) sustave i postupke za upravljanje podacima, uključujući prikupljanje podataka, analizu podataka, označivanje podataka, pohranu podataka, filtriranje podataka, rudarenje podataka, agregiranje podataka, zadržavanje podataka i sve druge operacije s podacima koje se obavljaju prije i za potrebe stavljanja na tržište ili stavljanja u uporabu visokorizičnih UI sustava;
(f) sustave i postupke za upravljanje podacima, uključujući pribavljanje podataka, prikupljanje podataka, analizu podataka, označivanje podataka, pohranu podataka, filtriranje podataka, rudarenje podataka, agregiranje podataka, zadržavanje podataka i sve druge operacije s podacima koje se obavljaju prije i za potrebe stavljanja na tržište ili stavljanja u uporabu visokorizičnih UI sustava;
(j) postupke komunikacije s nacionalnim nadležnim tijelima i drugim nadležnim tijelima, uključujući sektorska, te pružanje ili olakšavanje pristupa podacima, prijavljenim tijelima, drugim operaterima, klijentima ili drugim zainteresiranim stranama;
(j) postupke komunikacije s relevantnim nadležnim tijelima, uključujući sektorska;
2. Aspekti iz stavka 1. primjenjuju se razmjerno veličini dobavljačeve organizacije.
2. Aspekti iz stavka 1. primjenjuju se razmjerno veličini dobavljačeve organizacije. Dobavljači u svakom slučaju poštuju stupanj strogosti i razinu zaštite potrebne kako bi se osigurala usklađenost njihovih UI sustava s ovom Uredbom.
2. Dobavljači koji su kreditne institucije regulirane Direktivom 2013/36/EU vode tehničku dokumentaciju kao dio dokumentacije o sustavima, procesima i mehanizmima internog upravljanja u skladu s člankom 74. te direktive.
Briše se.
Amandman 355 Prijedlog uredbe Članak 19.
Članak 19.
Briše se.
Ocjenjivanje sukladnosti
1. Dobavljači visokorizičnih UI sustava dužni su se pobrinuti da njihovi sustavi prije stavljanja na tržište ili stavljanja u uporabu prođu relevantni postupak ocjenjivanja u skladu s postupkom iz članka 43. Ako se na temelju tog ocjenjivanja dokaže da UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave, dobavljači sastavljaju EU izjavu o sukladnosti u skladu s člankom 48. i označuju UI sustav oznakom sukladnosti CE u skladu s člankom 49.
2. Za visokorizične UI sustave iz točke 5. podtočke (b) Priloga III., koje na tržište ili u uporabu stavljaju dobavljači koji su kreditne institucije regulirane Direktivom 2013/36/EU, ocjenjivanje sukladnosti provodi se u okviru postupka iz članaka od 97. do 101. te direktive.
1. Dobavljači visokorizičnih UI sustava dužni su čuvati dnevnike događaja koje automatski generiraju njihovi visokorizični UI sustavi u mjeri u kojoj su takvi dnevnici događaja pod njihovom kontrolom na temelju ugovornog odnosa s korisnikom ili druge pravne osnove. Dnevnici događaja čuvaju se tijekom razdoblja koje je primjereno s obzirom na namjenu visokorizičnog UI sustava i primjenjivih pravnih obveza na temelju prava Unije ili nacionalnog prava.
1. Dobavljači visokorizičnih UI sustava dužni su čuvati dnevnike događaja koje automatski generiraju njihovi visokorizični UI sustavi u mjeri u kojoj su takvi dnevnici događaja pod njihovom kontrolom. Ne dovodeći u pitanje primjenjivo pravo Unije ili nacionalno pravo, dnevnici događaja čuvaju se najmanje 6 mjeseci. Razdoblje čuvanja mora biti u skladu s industrijskim standardima i primjereno s obzirom na namjenu visokorizičnog UI sustava.
Dobavljači visokorizičnih UI sustava koji smatraju ili imaju razloga smatrati da visokorizični UI sustav koji su stavili na tržište ili u uporabu nije sukladan s ovom Uredbom odmah poduzimaju potrebne korektivne radnje kako bi, prema potrebi, postigli sukladnost tog sustava ili ga povukli ili proveli njegov povrat. O dotičnom visokorizičnom UI sustavu obavješćuju distributere i, prema potrebi i na odgovarajući način, ovlaštenog zastupnika i uvoznike.
Dobavljači visokorizičnih UI sustava koji smatraju ili imaju razloga smatrati da visokorizični UI sustav koji su stavili na tržište ili u uporabu nije sukladan s ovom Uredbom odmah poduzimaju potrebne korektivne radnje kako bi, prema potrebi, postigli sukladnost tog sustava, povukli ga, onesposobili ili proveli njegov povrat.
U slučajevima iz prvog stavka dobavljači odmah obavješćuju:
a. distributere;
b. uvoznike;
c. nacionalna nadležna tijela država članica u kojima su UI sustav stavili na raspolaganje ili u uporabu; te
d. kada je to moguće, subjekta koji primjenjuje sustav.
Dobavljači također obavješćuju ovlaštenog zastupnika, ako je on imenovan u skladu s člankom 25., i prijavljeno tijelo o tome da je visokorizični UI sustav morao proći ocjenjivanje sukladnosti koje provodi treća strana u skladu s člankom 43. Ako je primjenjivo, oni isto tako istražuju uzroke u suradnji sa subjektom koji primjenjuje sustav.
Ako visokorizični UI sustav predstavlja rizik u smislu članka 65. stavka 1. i dobavljač sustava zna za taj rizik, taj dobavljač odmah obavješćuje nacionalna nadležna tijela država članica u kojima je stavio sustav na raspolaganje i, prema potrebi, prijavljeno tijelo koje je izdalo potvrdu za taj visokorizični UI sustav, osobito o neusklađenosti i svim poduzetim korektivnim mjerama.
Ako visokorizični UI sustav predstavlja rizik u smislu članka 65. stavka 1. i dobavljač sustava sazna za taj rizik, taj dobavljač odmah obavješćuje nacionalna nadzorna tijela država članica u kojima je stavio sustav na raspolaganje i, prema potrebi, prijavljeno tijelo koje je izdalo potvrdu za taj visokorizični UI sustav, osobito o prirodi neusklađenosti i svim relevantnim poduzetim korektivnim mjerama.
Dobavljači visokorizičnih UI sustava nacionalnom nadležnom tijelu na njegov zahtjev pružaju sve informacije i dokumentaciju potrebne za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz poglavlja 2. ove glave na službenom jeziku Unije koji odredi dotična država članica. Na obrazloženi zahtjev nacionalnog nadležnog tijela dobavljači tom tijelu daju i pristup dnevnicima događaja koje je automatski generirao visokorizični UI sustav u mjeri u kojoj su takve dnevnici događaja pod njihovom kontrolom na temelju ugovornog odnosa s korisnikom ili druge pravne osnove.
Dobavljači visokorizičnih UI sustava i, prema potrebi, subjekti koji ih primjenjuju, nacionalnom nadležnom tijelu na obrazloženi zahtjev ili, ako je primjenjivo, Uredu za umjetnu inteligenciju ili Komisiji, pružaju sve informacije i dokumentaciju potrebne za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz poglavlja 2. ove glave na službenom jeziku Unije koji odredi dotična država članica.
Na obrazloženi zahtjev nacionalnog nadležnog tijela ili, ako je primjenjivo, Komisije, dobavljači i, ako je primjenjivo, subjekti koji primjenjuju sustav, tom nacionalnom nadležnom tijelu ili Komisiji, ovisno o slučaju, daju i pristup dnevnicima događaja koje je automatski generirao visokorizični UI sustav ako su takvi dnevnici događaja pod njihovom kontrolom.
Sve informacije koje su nacionalna nadležna tijela ili Komisija dobili u skladu s odredbama ovog članka smatraju se poslovnom tajnom i s njima se postupa sukladno obvezama u pogledu povjerljivosti utvrđenima u članku 70.
1. Prije stavljanja svojih sustava na raspolaganje na tržištu Unije, ako se uvoznik ne može identificirati, dobavljači s poslovnim nastanom izvan Unije pisanim ovlaštenjem imenuju ovlaštenog zastupnika s poslovnim nastanom Uniji.
1. Prije stavljanja svojih sustava na raspolaganje na tržištu Unije dobavljači s poslovnim nastanom izvan Unije pisanim ovlaštenjem imenuju ovlaštenog zastupnika s poslovnim nastanom Uniji.
1.a Ovlašteni zastupnik mora imati boravište ili poslovni nastan u jednoj od država članica u kojoj se odvijaju djelatnosti u skladu s člankom 2. stavkom 1.cb.
2. Ovlašteni zastupnik obavlja zadaće navedene u ovlaštenju koje je dobio od dobavljača. Ovlaštenjem se ovlaštenom zastupniku daje ovlast da obavlja sljedeće zadaće:
2. Ovlašteni zastupnik obavlja zadaće navedene u ovlaštenju koje je dobio od dobavljača. On dostavlja kopiju ovlaštenja tijelima za nadzor tržišta na njihov zahtjev na jednom od službenih jezika institucije Unije koji odredi nacionalno nadležno tijelo. Za potrebe ove Uredbe, ovlaštenjem se ovlaštenom zastupniku daje ovlast da obavlja sljedeće zadaće:
Amandman 370 Prijedlog uredbe Članak 25. – stavak 2. – točka a
(a) ima na raspolaganju primjerak EU izjave o sukladnosti i tehničke dokumentacije za nacionalna nadležna tijela i nacionalna tijela iz članka 63. stavka 7.;
(a) osigurava da su EU izjava o sukladnosti i tehnička dokumentacija sastavljene te da je dobavljač proveo odgovarajući postupak ocjenjivanja sukladnosti;
Amandman 371 Prijedlog uredbe Članak 25. – stavak 2. – točka aa (nova)
(a a) nacionalnim nadležnim tijelima i nacionalnim tijelima iz članka 63. stavka 7. stavlja na raspolaganje primjerak EU izjave o sukladnosti, tehničku dokumentaciju i, ako je primjenjivo, potvrdu koju je izdalo prijavljeno tijelo;
Amandman 372 Prijedlog uredbe Članak 25. – stavak 2. – točka b
(b) nacionalnom nadležnom tijelu, na obrazloženi zahtjev, daje sve informacije i dokumentaciju potrebne za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz poglavlja2. ove glave; to uključuje i davanje pristupa dnevnicima događaja koje automatski generira visokorizični UI sustav u mjeri u kojoj su takvi dnevnici događaja pod dobavljačevom kontrolom na temelju ugovornog odnosa s korisnikom ili druge pravne osnove.
(b) nacionalnom nadležnom tijelu, na obrazloženi zahtjev, daje sve informacije i dokumentaciju potrebne za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz poglavlja 2. ove glave; to uključuje i davanje pristupa dnevnicima događaja koje automatski generira visokorizični UI sustav u mjeri u kojoj su takvi dnevnici događaja pod dobavljačevom kontrolom.
Amandman 373 Prijedlog uredbe Članak 25. – stavak 2. – točka c
(c) na obrazloženi zahtjev surađuje s nadležnim nacionalnim tijelima u svim radnjama koje ta tijela poduzimaju u vezi s visokorizičnim UI sustavom.
(c) na obrazloženi zahtjev surađuje s nacionalnim nadzornim tijelima u svim radnjama koje ta tijela poduzimaju kako bi smanjila i ublažila rizike koje predstavlja visokorizični UI sustav;
Amandman 374 Prijedlog uredbe Članak 25. – stavak 2. – točka ca (nova)
(c a) ako je primjenjivo, ispunjava obveze registracije iz članka 51. ili, ako registraciju provodi sam dobavljač, osigurava točnost informacija iz točke 3. Priloga VIII.
2.a Ovlašteni zastupnik ovlašten je za to da se, posebice, nacionalno nadzorno tijelo ili nacionalna nadležna tijela, osim operateru ili umjesto operateru, obraćaju i njemu u pogledu svih pitanja povezanih s osiguravanjem sukladnosti s ovom Uredbom.
2 b. Ovlašteni zastupnik prekida ovlaštenje ako smatra ili ima razloga smatrati da dobavljač postupa protivno svojim obvezama u skladu s ovom Uredbom. U takvom slučaju također odmah obavješćuje nacionalno nadzorno tijelo države članice u kojoj ima poslovni nastan kao i, prema potrebi, relevantno prijavljeno tijelo, o prekidu ovlaštenja i razlozima za to.
1. Prije stavljanja visokorizičnog UI sustava na tržište uvoznici takvog sustava dužni su se pobrinuti da je:
1. Prije stavljanja visokorizičnog UI sustava na tržište uvoznici takvog sustava dužni su se pobrinuti da je takav sustav u skladu s ovom Uredbom tako da osiguraju da je:
Amandman 378 Prijedlog uredbe Članak 26. – stavak 1. – točka a
(a) dobavljač tog UI sustava proveo odgovarajući postupak ocjenjivanja sukladnosti;
(a) dobavljač tog UI sustava proveo relevantni postupak ocjenjivanja sukladnosti iz članka 43.;
Amandman 379 Prijedlog uredbe Članak 26. – stavak 1. – točka b
(b) dobavljač sastavio tehničku dokumentaciju u skladu s Prilogom IV.;
(b) dobavljač sastavio tehničku dokumentaciju u skladu s člankom 11. i Prilogom IV.;
Amandman 380 Prijedlog uredbe Članak 26. – stavak 1. – točka ca (nova)
(c a) dobavljač, ako je primjenjivo, imenovao ovlaštenog zastupnika u skladu s člankom 25. stavkom 1.
2. Ako uvoznik smatra ili ima razloga smatrati da visokorizični UI sustav nije sukladan s ovom Uredbom, ne stavlja taj sustav na tržište dok ga se ne učini sukladnim. Ako visokorizični UI sustav predstavlja rizik u smislu članka 65. stavka 1., uvoznik o tome obavješćuje dobavljača UI sustava i tijela za nadzor tržišta.
2. Ako uvoznik smatra ili ima razloga smatrati da visokorizični UI sustav nije sukladan s ovom Uredbom, ili da je krivotvoren ili da mu je priložena krivotvorena dokumentacija, ne stavlja taj sustav na tržište dok ga se ne učini sukladnim. Ako visokorizični UI sustav predstavlja rizik u smislu članka 65. stavka 1., uvoznik o tome obavješćuje dobavljača UI sustava i tijela za nadzor tržišta.
3. Uvoznici na visokorizičnom UI sustavu ili, ako to nije moguće, na ambalaži ili popratnoj dokumentaciji, ovisno o slučaju, navode svoje ime, registrirano trgovačko ime ili registrirani žig i adresu na koju im se moguće obratiti u vezi s tim sustavom.
3. Uvoznici na visokorizičnom UI sustavu i na ambalaži ili popratnoj dokumentaciji, ovisno o slučaju, navode svoje ime, registrirano trgovačko ime ili registrirani žig i adresu na koju im se moguće obratiti u vezi s tim sustavom.
5. Uvoznici nacionalnim nadležnim tijelima na obrazloženi zahtjev daju sve potrebne informacije i dokumentaciju za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz poglavlja 2. ove glave na jeziku koji dotično nacionalno nadležno tijelo razumije bez poteškoća; to uključuje i davanje pristupa dnevnicima događaja koje automatski generira visokorizični UI sustav u mjeri u kojoj su takvi dnevnici događaja pod dobavljačevom kontrolom na temelju ugovornog odnosa s korisnikom ili druge pravne osnove.S tim tijelima surađuju i u svim radnjama koje nacionalno nadležno tijelo poduzme u vezi s tim sustavom.
5. Uvoznici nacionalnim nadležnim tijelima na obrazloženi zahtjev daju sve potrebne informacije i dokumentaciju za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz poglavlja 2. ove glave na jeziku koji ona razumiju bez poteškoća; to uključuje i davanje pristupa dnevnicima događaja koje automatski generira visokorizični UI sustav u mjeri u kojoj su takvi dnevnici događaja pod dobavljačevom kontrolom u skladu s člankom 20.
5.a Uvoznici surađuju s nacionalnim nadležnim tijelima kada je riječ o bilo kakvim radnjama koje ta tijela poduzimaju kako bi smanjila i ublažila rizike koje predstavlja visokorizični UI sustav.
1. Prije stavljanja visokorizičnog UI sustava na tržište distributeri su dužni provjeriti ima li taj visokorizični UI sustav potrebnu oznaku sukladnosti CE, popratnu dokumentaciju i upute za uporabu te jesu li dobavljač i uvoznik sustava, ovisno o slučaju, ispunili obveze utvrđene u ovoj Uredbi.
1. Prije stavljanja visokorizičnog UI sustava na tržište distributeri su dužni provjeriti ima li taj visokorizični UI sustav potrebnu oznaku sukladnosti CE, popratnu dokumentaciju i upute za uporabu te jesu li dobavljač i uvoznik sustava, ovisno o slučaju, ispunili svoje obveze utvrđene u članku 16. odnosno članku 26. ove Uredbe.
2. Ako distributer smatra ili ima razloga smatrati da visokorizični UI sustav nije sukladan sa zahtjevima iz poglavlja 2. ove glave, ne stavlja taj sustav na tržište dok ga se ne učini sukladnim s tim zahtjevima. Ako taj sustav predstavlja rizik u smislu članka 65. stavka 1., distributer o tome obavješćuje, ovisno o slučaju, dobavljača ili uvoznika tog sustava.
2. Ako distributer na temelju informacija kojima raspolaže smatra ili ima razloga smatrati da visokorizični UI sustav nije sukladan sa zahtjevima iz poglavlja 2. ove glave, ne stavlja taj sustav na tržište dok ga se ne učini sukladnim s tim zahtjevima. Ako taj sustav predstavlja rizik u smislu članka 65. stavka 1., distributer o tome obavješćuje, ovisno o slučaju, dobavljača ili uvoznika tog sustava, relevantno nacionalno nadležno tijelo.
4. Ako distributer smatra ili ima razloga smatrati da visokorizični UI sustav koji je stavio na raspolaganje na tržištu nije sukladan sa zahtjevima iz poglavlja 2. ove glave, poduzima korektivne mjere potrebne da se taj sustav učini sukladnim s tim zahtjevima ili da se provede njegovo povlačenje ili povrat ili osigurava da te korektivne mjere poduzme, ovisno o slučaju, uvoznik ili drugi relevantni operater. Ako visokorizični UI sustav predstavlja rizik u smislu članka 65. stavka 1., distributer o tome odmah obavješćuje nacionalna nadležna tijela država članica u kojima je proizvod stavio na raspolaganje navodeći pojedinosti, osobito o nesukladnosti i svim poduzetim korektivnim radnjama.
4. Ako distributer na temelju informacija kojima raspolaže smatra ili ima razloga smatrati da visokorizični UI sustav koji je stavio na raspolaganje na tržištu nije sukladan sa zahtjevima iz poglavlja 2. ove glave, poduzima korektivne mjere potrebne da se taj sustav učini sukladnim s tim zahtjevima ili da se provede njegovo povlačenje ili povrat ili osigurava da te korektivne mjere poduzme, ovisno o slučaju, uvoznik ili drugi relevantni operater. Ako visokorizični UI sustav predstavlja rizik u smislu članka 65. stavka 1., distributer o tome odmah obavješćuje dobavljača ili uvoznika sustava i nacionalna nadležna tijela država članica u kojima je proizvod stavio na raspolaganje navodeći pojedinosti, osobito o nesukladnosti i svim poduzetim korektivnim radnjama.
5. Dobavljači visokorizičnih UI sustava nacionalnom nadležnom tijelu na njegov obrazloženi zahtjev daju sve informacije i dokumentaciju potrebne za dokazivanje sukladnosti visokorizičnog sustava sa zahtjevima iz poglavlja 2. ove glave. Distributeri s tim nacionalnim nadležnim tijelom surađuju i u svim radnjama koje to tijelo poduzme.
5. Distributeri visokorizičnog UI sustava nacionalnom nadležnom tijelu na njegov obrazloženi zahtjev daju sve informacije i dokumentaciju kojima raspolažu ili koje su im dostupne, u skladu s obvezama distributera kako je utvrđeno stavku 1., a koje su potrebne za dokazivanje sukladnosti visokorizičnog sustava sa zahtjevima iz poglavlja 2. ove glave.
5.a Distributeri surađuju s nacionalnim nadležnim tijelima kada je riječ o bilo kakvim radnjama koje ta tijela poduzimaju kako bi smanjila i ublažila rizike koje predstavlja visokorizični UI sustav.
Amandman 390 Prijedlog uredbe Članak 28. – naslov
Obveze distributera, uvoznika, korisnika ili ostalih trećih strana
Odgovornosti dobavljača, distributera, uvoznika, subjekata koji primjenjuju sustav ili drugih trećih strana duž lanca vrijednosti UI-ja
1. Svi distributeri, uvoznici, korisnici ili ostale treće strane smatraju se dobavljačima za potrebe ove Uredbe i podliježu obvezama dobavljača na temelju članka 16. u bilo kojoj od sljedećih okolnosti:
1. Svi distributeri, uvoznici, subjekti koji primjenjuju sustav ili ostale treće strane smatraju se dobavljačima visokorizičnog UI sustava za potrebe ove Uredbe i podliježu obvezama dobavljača na temelju članka 16. u bilo kojoj od sljedećih okolnosti:
Amandman 392 Prijedlog uredbe Članak 28. – stavak 1. – točka a
(a) ako visokorizični UI sustav stavljaju na tržište ili u uporabu pod svojim imenom ili žigom;
(a) ako stavljaju svoje ime ili zaštitni znak na visokorizični UI sustav koji je već stavljen na tržište ili u uporabu;
Amandman 393 Prijedlog uredbe Članak 28. – stavak 1. – točka b
(b) ako promijene namjenu visokorizičnog UI sustava koji je već stavljen na tržište ili u uporabu;
(b) ako znatno izmijene visokorizični UI sustav koji je već stavljen na tržište ili je već stavljen u uporabu i to na takav način da i dalje ostane visokorizični UI sustav u skladu s člankom 6.;
Amandman 394 Prijedlog uredbe Članak 28. – stavak 1. – točka ba (nova)
(b a) ako znatno izmijene UI sustav, uključujući UI sustav opće namjene, koji nije klasificiran kao visokorizičan i već je stavljen na tržište ili u uporabu i to na takav način da UI sustav postane visokorizični UI sustav u skladu s člankom 6.;
2. Ako nastupe okolnosti iz stavka 1. točke (b) ili (c), dobavljač koji je prvobitno stavio visokorizični UI sustav na tržište ili u uporabu više se ne smatra dobavljačem za potrebe ove Uredbe.
2. Ako nastupe okolnosti iz stavka 1. točaka od (a) do (ba),dobavljač koji je prvobitno stavio UI sustav na tržište ili u uporabu više se ne smatra dobavljačem tog konkretnog UI sustava za potrebe ove Uredbe. Taj prijašnji dobavljač novom dobavljaču stavlja na raspolaganje tehničku dokumentaciju i sve druge relevantne i razumno očekivane informacije o mogućnostima UI sustava, tehnički pristup ili drugu pomoć na temelju općepriznatih najnovijih dostignuća koji su potrebni za ispunjavanje obveza utvrđenih u ovoj Uredbi.
Ovaj se stavak primjenjuje i na dobavljače temeljnih modela kako su definirani u članku 3. ako je temeljni model izravno integriran u visokorizični UI sustav.
2.a Dobavljač visokorizičnog UI sustava i treća strana koja isporučuje alate, usluge, sastavne dijelove ili procese koji se upotrebljavaju u visokorizičnom UI sustavu ili su u njega integrirani, pisanim dogovorom utvrđuju informacije, mogućnosti, tehnički pristup i/ili drugu pomoć, na temelju općepriznatih najnovijih dostignuća, koje treća strana mora pružiti kako bi dobavljač visokorizičnog UI sustava mogao u potpunosti ispuniti obveze iz ove Uredbe.
Komisija razvija i preporučuje neobvezujuće modele ugovornih odredbi između dobavljača visokorizičnih UI sustava i trećih strana koje isporučuju alate, usluge, sastavne dijelove ili procese koji se upotrebljavaju u visokorizičnim UI sustavima ili su u njih integrirani kako bi objema stranama pomogla u sastavljanju ugovora s uravnoteženim ugovornim pravima i obvezama i u pregovaranju o njima, u skladu s razinom kontrole svake strane. Pri izradi neobvezujućih modela ugovornih odredbi Komisija uzima u obzir moguće ugovorne zahtjeve primjenjive u određenim sektorima ili poslovnim slučajevima. Neobvezujuće ugovorne odredbe objavljuju se i besplatno su dostupne u lako upotrebljivom elektroničkom obliku na internetskim stranicama Ureda za umjetnu inteligenciju.
2 b. Za potrebe ovog članka, poslovne se tajne čuvaju te se otkrivaju samo pod uvjetom da su unaprijed poduzete sve potrebne mjere u skladu s Direktivom (EU) 2016/943 za očuvanje njihove povjerljivosti, posebno u odnosu na treće strane. Prema potrebi, mogu se dogovoriti odgovarajući tehnički i organizacijski aranžmani za zaštitu prava intelektualnog vlasništva ili poslovnih tajni.
Amandman 398 Prijedlog uredbe Članak 28.a (novi)
Članak 28.a
Nepoštene ugovorne odredbe jednostrano nametnute MSP-u ili start-up poduzeću
1. Ugovorna odredba koja se odnosi na isporuku alata, usluga, sastavnih dijelova ili procesa koji se upotrebljavaju u visokorizičnom UI sustavu ili su u njega integrirani ili na pravne lijekove u pogledu kršenja ili prekida povezanih obveza koju je poduzeće jednostrano nametnulo MSP-u ili start-up poduzeću nije obvezujuća za potonje poduzeće ako je nepoštena.
2. Ugovorna odredba ne smatra se nepoštenom ako proizlazi iz primjenjivog prava Unije.
3. Ugovorna odredba nepoštena je ako je takve prirode da objektivno narušava sposobnost stranke kojoj je odredba jednostrano nametnuta da zaštiti svoj legitimni poslovni interes u pogledu predmetnih informacija ili ako njezina uporaba uvelike odstupa od dobre poslovne prakse kada je riječ o nabavi alata, usluga, sastavnih dijelova ili procesa koji se upotrebljavaju u visokorizičnom UI sustav ili su u njega integrirani, suprotno dobroj vjeri i poštenom poslovanju, ili koja stvara znatnu neravnotežu između prava i obveza ugovornih stranaka. Ugovorna odredba nepoštena je i ako ima učinak prebacivanja kazni iz članka 71. ili povezanih troškova parničenja među ugovornim strankama, kako je navedeno u članku 71. stavku 8.
4. Za potrebe ovog članka ugovorna je odredba nepoštena ako je njezin cilj ili učinak:
(a) isključiti ili ograničiti odgovornost strane koja je jednostrano nametnula odredbu zbog namjernog činjenja ili krajnje nepažnje;
(b) isključiti pravne lijekove dostupne strani kojoj je odredba jednostrano nametnuta u slučaju neizvršenja ugovornih obveza ili odgovornosti strane koja je jednostrano nametnula odredbu u slučaju povrede tih obveza;
(c) dati strani koja je jednostrano nametnula odredbu isključivo pravo da utvrdi jesu li tehnička dokumentacija, dostavljene informacije u skladu s ugovorom ili da tumači bilo koju odredbu ugovora.
5. U smislu ovog članka ugovorna se odredba smatra jednostrano nametnutom ako ju je predložila jedna ugovorna strana, a druga ugovorna strana nije mogla utjecati na njezin sadržaj unatoč pokušaju da o njemu pregovara. Teret dokazivanja da odredba nije jednostrano nametnuta snosi ugovorna strana koja je ugovornu odredbu predložila.
6. Ako je nepoštena ugovorna odredba odvojiva od preostalih odredaba ugovora, preostale odredbe ostaju obvezujuće. Strana koja je predložila spornu odredbu ne može tvrditi da je odredba nepoštena.
7. Ovaj se članak primjenjuje na sve nove ugovore koji su stupili na snagu nakon... [datum stupanja na snagu ove Uredbe]. Poduzeća preispituju postojeće ugovorne obveze koje podliježu ovoj Uredbi do ... [tri godine nakon datuma stupanja na snagu ove Uredbe].
8. S obzirom na brzinu kojom se inovacije pojavljuju na tržištima, Komisija redovito preispituje popis nepoštenih ugovornih odredbi iz članka 28.a i po potrebi ga ažurira u skladu s novim poslovnim praksama.
Amandman 399 Prijedlog uredbe Članak 28.b (novi)
Članak 28.b
Obveze dobavljača temeljnog modela
1. Dobavljač temeljnog modela prije njegova stavljanja na raspolaganje na tržištu ili stavljanja u uporabu osigurava njegovu usklađenost sa zahtjevima utvrđenima u ovom članku, bez obzira na to pruža li se on kao samostalni model ili je ugrađen u UI sustav ili proizvod, ili se pruža na temelju besplatnih licencija otvorenog koda, kao usluga, kao i drugim distribucijskim kanalima.
2. Za potrebe stavka 1. dobavljač temeljnog modela:
(a) odgovarajućim projektiranjem, testiranjem i analizom dokazuje da su utvrđeni, smanjeni i ublaženi razumno predvidljivi rizici za zdravlje, sigurnost, temeljna prava, okoliš i demokraciju te vladavinu prava prije i tijekom razvoja primjenom odgovarajućih metoda, primjerice uz sudjelovanje neovisnih stručnjaka, kao i da su dokumentirani preostali rizici koji se ne mogu ublažiti nakon razvoja;
(b) obrađuje i uključuje samo skupove podataka koji podliježu odgovarajućim mjerama upravljanja podacima za temeljne modele, posebno mjerama za ispitivanje prikladnosti izvora podataka i mogućih pristranosti, te odgovarajućem ublažavanju;
(c) projektira i razvija temeljni model kako bi se tijekom njegova životnog ciklusa postigle odgovarajuće razine učinkovitosti, predvidljivosti, interpretabilnosti, mogućnosti korekcije, sigurnosti i kibersigurnosti procijenjene odgovarajućim metodama kao što su procjena modela uz sudjelovanje neovisnih stručnjaka, dokumentirana analiza i opsežno testiranje tijekom konceptualizacije, projektiranja i razvoja;
(d) projektira i razvija temeljni model, koristeći se primjenjivim standardima za smanjenje potrošnje energije, upotrebe resursa i otpada, kao i za povećanje energetske učinkovitosti i sveukupne učinkovitosti sustava, a ne dovodeći pritom u pitanje relevantno postojeće pravo Unije i nacionalno pravo. Ova se obveza ne primjenjuje prije objave standarda iz članka 40. Temeljni modeli projektiraju se s mogućnostima kojima se omogućuje mjerenje i bilježenje potrošnje energije i resursa te, kada je to tehnički izvedivo, drugih učinaka na okoliš koje primjena i uporaba sustava mogu imati tijekom njihova cijelog životnog ciklusa.
(e) sastavlja opsežnu tehničku dokumentaciju i razumljive upute za uporabu kako bi se dobavljačima niže u poslovnom lancu omogućilo da ispune svoje obveze u skladu s člankom 16. i člankom 28. stavkom 1.;
(f) uspostavlja sustav upravljanja kvalitetom kako bi se osigurala i dokumentirala usklađenost s ovim člankom, uz mogućnost eksperimentiranja pri ispunjavanju ovog zahtjeva,
(g) registrira taj temeljni model u bazi podataka EU-a iz članka 60., u skladu s uputama navedenima u Prilogu VIII. točki C.
Pri ispunjavanju tih zahtjeva uzimaju se u obzir općepriznata najnovija dostignuća, uključujući ona koja se odražavaju u relevantnim usklađenim normama ili zajedničkim specifikacijama, kao i najnovije metode procjene i mjerenja, koje se posebno odražavaju u smjernicama i kapacitetima za ocjenjivanje prema referentnim vrijednostima iz članka 58.a;
3. Dobavljači temeljnih modela u razdoblju od 10 godina nakon što su njihovi temeljni modeli stavljeni na tržište ili u uporabu drže tehničku dokumentaciju iz stavka 2.e. na raspolaganju nacionalnim nadležnim tijelima.
4. Dobavljači temeljnih modela koji se upotrebljavaju u UI sustavima koji su posebno namijenjeni za generiranje, s različitim razinama autonomije, sadržaja kao što su složeni tekst, slike, audiozapisi ili videozapisi („generativni UI”) i dobavljači koji su specijalizirali temeljni model u generativni UI sustav, dodatno moraju:
a) poštovati obveze transparentnosti navedene u članku 52. stavku 1.,
b) poučiti i, ako je primjenjivo, projektirati i razviti temeljni model na takav način da se osiguraju odgovarajuće zaštitne mjere protiv generiranja sadržaja kojim se krši pravo Unije u skladu s općepriznatim najnovijim dostignućima, te ne dovodeći u pitanje temeljna prava, uključujući slobodu izražavanja,
c) ne dovodeći u pitanje zakonodavstvo Unije ili nacionalno zakonodavstvo o autorskom pravu, dokumentirati i staviti javnosti na raspolaganje dovoljno detaljan sažetak o uporabi podataka za učenje zaštićenih autorskim pravom.
1. Korisnici visokorizičnih UI sustava koriste takve sustave prema uputama za uporabu priloženima sustavima i u skladu sa stavcima 2. i 5.
1. Subjekti koji primjenjuju visokorizične UI sustave poduzimaju odgovarajuće tehničke i organizacijske mjere kako bi osigurali da koriste takve sustave prema uputama za uporabu priloženima sustavima i u skladu sa stavcima2. i 5. ovog članka.
1.a U mjeri u kojoj subjekti koji primjenjuju te sustave imaju kontrolu nad visokorizičnim UI sustavom, oni moraju:
i) provoditi ljudski nadzor u skladu sa zahtjevima utvrđenima u ovoj Uredbi
ii. osigurati da su pojedinci koji su zaduženi za osiguravanje ljudskog nadzora nad visokorizičnim UI sustavima kompetentni, odgovarajuće kvalificirani i osposobljeni te da imaju potrebne resurse kako bi se osigurao učinkovit nadzor nad UI sustavom u skladu s člankom 14.
iii. osigurati redovito praćenje učinkovitosti relevantnih i odgovarajućih mjera otpornosti i kibersigurnosnih mjera te njihovu redovitu prilagodbu ili ažuriranje.
2. Obvezama iz stavka 1. ne dovode se u pitanje druge obveze korisnika na temelju prava Unije ili nacionalnog prava ni diskrecijsko pravo korisnika da organizira svoje resurse i aktivnosti za potrebe provedbe mjera ljudskog nadzora koje je naveo dobavljač.
2. Obvezama iz stavaka 1. i 1.a ne dovode se u pitanje druge obveze subjekta koji primjenjuje sustav na temelju prava Unije ili nacionalnog prava ni diskrecijsko pravo tog subjekta da organizira svoje resurse i aktivnosti za potrebe provedbe mjera ljudskog nadzora koje je naveo dobavljač.
3. Ne dovodeći u pitanje stavak 1., korisnik osigurava, u mjeri u kojoj ima kontrolu nad ulaznim podacima, da su ulazni podaci relevantni s obzirom na namjenu visokorizičnog UI sustava.
3. Ne dovodeći u pitanje stavke 1. i 1.a, subjekt koji primjenjuje sustav osigurava, u mjeri u kojoj ima kontrolu nad ulaznim podacima, da su ulazni podaci relevantni i dovoljno reprezentativni s obzirom na namjenu visokorizičnog UI sustava.
4. Korisnici prate rad visokorizičnog UI sustava prema uputama za uporabu. Ako imaju razloga smatrati da zbog uporabe u skladu s uputama za uporabu UI sustav može predstavljati rizik u smislu članka 65. stavka 1., o tome obavješćuju dobavljača ili distributera i privremeno obustavljaju uporabu sustava. Dobavljaču ili distributeru dužni su prijaviti i svaki ozbiljan incident ili svaku neispravnost u smislu članka 62. i prekidaju uporabu UI sustava. Ako korisnik ne može stupiti u kontakt s dobavljačem, članak 62. primjenjuje se mutatis mutandis.
4. Subjekti koji primjenjuju visokorizični UI sustav prate rad visokorizičnog UI sustava prema uputama za uporabu i prema potrebi obavješćuju dobavljače u skladu s člankom 61. Ako imaju razloga smatrati da zbog uporabe u skladu s uputama za uporabu UI sustav može predstavljati rizik u smislu članka 65. stavka 1., o tome bez nepotrebne odgode obavješćuju dobavljača ili distributera i relevantna nacionalna nadzorna tijela te privremeno obustavljaju uporabu sustava. Dužni su prvo dobavljaču, a zatim i uvozniku ili distributeru i relevantnim nacionalnim nadzornim tijelima odmah prijaviti i svaki ozbiljan incident ili svaku neispravnost u smislu članka 62. i prekidaju uporabu UI sustava. Ako subjekt koji primjenjuje sustav ne može stupiti u kontakt s dobavljačem, članak 62. primjenjuje se mutatis mutandis.
Za korisnike koji su kreditne institucije regulirane Direktivom 2013/36/EU obveza praćenja iz prvog podstavka smatra se ispunjenom ako poštuju pravila o sustavima, procesima i mehanizmima internog upravljanja u skladu s člankom 74. te direktive.
Za subjekte koji primjenjuju sustav, a koji su kreditne institucije regulirane Direktivom 2013/36/EU obveza praćenja iz prvog podstavka smatra se ispunjenom ako poštuju pravila o sustavima, procesima i mehanizmima internog upravljanja u skladu s člankom 74. te direktive.
5. Korisnici visokorizičnih UI sustava dužni su čuvati dnevnike događaja koje automatski generira visokorizični UI sustav u mjeri u kojoj su takvi dnevnici događaja pod njihovom kontrolom. Dnevnici događaja čuvaju se tijekom razdoblja koje je primjereno s obzirom na namjenu visokorizičnog UI sustava i primjenjivih pravnih obveza na temelju prava Unije ili nacionalnog prava.
5. Subjekti koji primjenjuju visokorizične UI sustave dužni su čuvati dnevnike događaja koje automatski generira visokorizični UI sustav u mjeri u kojoj su takvi dnevnici događaja pod njihovom kontrolom te su potrebni za osiguravanje i dokazivanje usklađenosti s ovom Uredbom, za ex post revizije svih razumno predvidljivih neispravnosti, incidenata ili krivih uporaba sustava, ili za osiguravanje i praćenje pravilnog funkcioniranja sustava tijekom njegova životnog ciklusa.Ne dovodeći u pitanje primjenjivo pravo Unije ili nacionalno pravo, dnevnici događaja čuvaju se najmanje šest mjeseci. Razdoblje čuvanja mora biti u skladu s industrijskim standardima i primjereno namjeni visokorizičnog UI sustava.
Korisnici koji su kreditne institucije regulirane Direktivom 2013/36/EU čuvaju dnevnike događaja kao dio dokumentacije o sustavima, procesima i mehanizmima internog upravljanja u skladu s člankom 74. te direktive.
Subjekti koji primjenjuju UI sustav i koji su kreditne institucije regulirane Direktivom 2013/36/EU čuvaju dnevnike događaja kao dio dokumentacije o sustavima, procesima i mehanizmima internog upravljanja u skladu s člankom 74. te direktive.
5.a Prije stavljanja visokorizičnog UI sustava u uporabu ili prije uporabe takvog sustava na radnom mjestu subjekti koji primjenjuju sustav savjetuju se s predstavnicima radnika radi postizanja dogovora u skladu s Direktivom 2002/14/EZ i obavještavaju zaposlenike na koje će sustav utjecati da će biti uključeni u sustav.
5 b. Subjekti koji primjenjuju visokorizične UI sustave koji su javna tijela ili institucije, tijela, uredi i agencije Unije ili poduzeća iz članka 51. stavka 1.a točke (b) ispunjavaju obveze registracije iz članka 51.
6. Korisnici visokorizičnih UI sustava dužni su služiti informacijama iz članka 13. da bi ispunili obvezu procjene učinka na zaštitu podataka na temelju, prema potrebi, članka 35. Uredbe (EU) 2016/679 ili članka 27. Direktive (EU) 2016/680.
6. Subjekti koji primjenjuju visokorizične UI sustave dužni su se prema potrebi služiti informacijama iz članka 13. da bi ispunili obvezu procjene učinka na zaštitu podataka na temelju članka 35. Uredbe (EU) 2016/679 ili članka 27. Direktive (EU) 2016/680, čiji će se sažetak objaviti, uzimajući u obzir specifičnu uporabu i specifični kontekst u kojem bi UI sustav trebao funkcionirati.Subjekti koji primjenjuju sustav mogu se djelomično vratiti na uporabu tih procjena učinka na zaštitu podataka kako bi ispunili neke od obveza utvrđenih u ovom članku ako se procjenom učinka na zaštitu podataka ispunjavaju te obveze.
6.a Ne dovodeći u pitanje članak 52., subjekti koji primjenjuju visokorizične UI sustave iz Priloga III., koji donose odluke ili pomažu u donošenju odluka povezanih s fizičkim osobama, obavješćuju fizičke osobe o tome da će biti uključene u visokorizični UI sustav. Te informacije obuhvaćaju namjeravanu svrhu i vrstu odluka koje donosi. Subjekt koji primjenjuje sustav također obavješćuje fizičku osobu o njezinu pravu na objašnjenje iz članka 68.c.
6.b Subjekti koji primjenjuju sustav surađuju s relevantnim nacionalnim nadležnim tijelima u svim radnjama koje ta tijela poduzimaju u vezi s visokorizičnim UI sustavom radi provedbe ove Uredbe.
Amandman 413 Prijedlog uredbe Članak 29.a (novi)
Članak 29.a
Procjena učinka visokorizičnih UI sustava na temeljna prava
Prije stavljanja visokorizičnog UI sustava u uporabu kako je utvrđeno u članku 6. stavku 2., osim UI sustava koji se namjeravaju koristiti u području br. 2 Priloga III., subjekti koji primjenjuju sustav dužni su provesti procjenu učinka sustava u konkretnom kontekstu njegove uporabe. Ta procjena obuhvaća najmanje sljedeće elemente:
(a) jasan opis namjene za koju će se sustav upotrebljavati;
(b) jasan opis predviđenog zemljopisnog i vremenskog opsega uporabe sustava;
(c) kategorije fizičkih osoba i skupina na koje će vjerojatno utjecati uporaba sustava;
(d) potvrdu da je uporaba sustava u skladu s relevantnim pravom Unije i nacionalnim pravom u području temeljnih prava;
(e) razumno predvidiv učinak stavljanja visokorizičnog UI sustava u uporabu na temeljna prava;
(f) specifične rizike od štete koji bi mogli utjecati na marginalizirane osobe ili ranjive skupine;
(g) razumno predvidiv negativan utjecaj uporabe sustava na okoliš;
(h) detaljan plan ublažavanja rizika od štete i negativnog učinka na temeljna prava;
(j) sustav upravljanja koji će subjekt koji primjenjuje UI sustav uspostaviti, uključujući ljudski nadzor, rješavanje pritužbi i pravnu zaštitu.
2. Ako nije moguće utvrditi detaljan plan ublažavanja rizika u okviru procjene učinka opisane u stavku 1., subjekt koji primjenjuje sustav dužan je suzdržati se od stavljanja visokorizičnog UI sustava u uporabu i bez nepotrebne odgode obavijestiti dobavljača i nacionalno nadzorno tijelo. Nacionalna nadzorna tijela, u skladu s člancima 65. i 67., uzimaju u obzir te informacije pri istraživanju sustava koji čine rizik na nacionalnoj razini.
3. Obveza iz stavka 1. primjenjuje se na prvu uporabu visokorizičnog UI sustava. Subjekt koji primjenjuje sustav može se u sličnim slučajevima vratiti na prethodno provedenu procjenu učinka na temeljna prava ili postojeću procjenu koju su proveli dobavljači. Ako tijekom uporabe visokorizičnog UI sustava subjekt koji ga primjenjuje smatra da kriteriji iz stavka 1. više nisu ispunjeni, provodi novu procjenu učinka na temeljna prava.
4. Tijekom procjene učinka subjekt koji primjenjuje sustav, osim MSP-ova, dužan je obavijestiti nacionalno nadzorno tijelo i relevantne dionike te u najvećoj mogućoj mjeri uključiti predstavnike osoba ili skupina osoba na koje će visokorizični UI sustav vjerojatno utjecati, kako je utvrđeno u stavku 1., među ostalim tijela za ravnopravnost, agencije za zaštitu potrošača, socijalne partnere i agencije za zaštitu podataka, radi primanja informacija za procjenu učinka. Subjekt koji primjenjuje sustav tim tijelima omogućuje razdoblje od šest tjedana za odgovor. MSP-ovi mogu dobrovoljno primjenjivati odredbe utvrđene u ovom stavku.
U slučaju iz članka 47. stavka 1. javna tijela mogu biti izuzeta iz tih obveza.
5. Subjekt koji primjenjuje sustav i koji je javno tijelo ili poduzeće iz članka 51. stavka a točke (b) dužan je objaviti sažetak rezultata procjene učinka u okviru registracije uporabe u skladu sa svojom obvezom iz članka 51. stavka 2.
6. Ako subjekt koji primjenjuje sustav već mora provesti procjenu učinka na zaštitu podataka u skladu s člankom 35. Uredbe (EU) 2016/679 ili člankom 27. Direktive (EU) 2016/680, procjena učinka na temeljna prava iz stavka 1. provodi se zajedno s procjenom učinka na zaštitu podataka. Procjena učinka na zaštitu podataka objavljuje se kao dopuna.
1. Svaka država članica imenuje ili osniva tijelo koje provodi prijavljivanje, koje je odgovorno za utvrđivanje i provedbu postupaka potrebnih za ocjenjivanje, imenovanje, prijavljivanje i praćenje tijelâ za ocjenjivanje sukladnosti.
1. Svaka država članica imenuje ili osniva tijelo koje provodi prijavljivanje, koje je odgovorno za utvrđivanje i provedbu postupaka potrebnih za ocjenjivanje, imenovanje, prijavljivanje i praćenje tijelâ za ocjenjivanje sukladnosti. Ti se postupci razvijaju u suradnji tijela koja provode prijavljivanje u svim državama članicama.
7. Tijela koja provode prijavljivanje moraju na raspolaganju imati dovoljan broj stručnog osoblja za propisno obavljanje svojih zadaća.
7. Tijela koja provode prijavljivanje moraju na raspolaganju imati dovoljan broj stručnog osoblja za propisno obavljanje svojih zadaća. Ako je primjenjivo, stručno osoblje pri nadzoru nad temeljnim pravima sadržanima u Povelji Europske unije o temeljnim pravima mora imati potrebno stručno znanje, primjerice diplomu iz odgovarajućeg pravnog područja.
8. Tijela koja provode prijavljivanje osiguravaju da se ocjenjivanje sukladnosti provodi razmjerno, izbjegavajući nepotrebno opterećenje za dobavljače, te da prijavljena tijela obavljaju svoje aktivnosti uzimajući u obzir veličinu poduzeća, sektor u kojem ono posluje, njegovu strukturu i stupanj složenosti dotičnog UI sustava.
8. Tijela koja provode prijavljivanje osiguravaju da se ocjenjivanje sukladnosti provodi razmjerno i pravodobno, uz izbjegavanje nepotrebnog opterećenja za dobavljače, te da prijavljena tijela obavljaju svoje aktivnosti uzimajući u obzir veličinu poduzeća, sektor u kojem ono posluje, njegovu strukturu i stupanj složenosti predmetnog UI sustava. Posebna pozornost posvećuje se smanjivanju na minimalnu mjeru administrativnih opterećenja i troškova usklađivanja za mikro i mala poduzeća kako je definirano u Preporuci Komisije 2003/361/EZ.
2. Tijela koja provode prijavljivanje dostavljaju prijavu Komisiji i drugim državama članicama putem alata za elektroničko prijavljivanje koji je razvila i kojim upravlja Komisija.
2. Tijela koja provode prijavljivanje dostavljaju prijavu Komisiji i drugim državama članicama preko alata za elektroničko prijavljivanje koji je razvila i kojim upravlja Komisija o svakom tijelu za ocjenjivanje sukladnosti iz stavka 1.
3. Prijava mora sadržavati potpune informacije o aktivnostima ocjenjivanja sukladnosti, modulu ili modulima ocjenjivanja sukladnosti te obuhvaćenim tehnologijama umjetne inteligencije.
3. Prijava iz stavka 2. mora sadržavati potpune informacije o aktivnostima ocjenjivanja sukladnosti, modulu ili modulima ocjenjivanja sukladnosti te obuhvaćenim tehnologijama umjetne inteligencije, kao i relevantnu potvrdu o stručnosti.
4. Dotično tijelo za ocjenjivanje sukladnosti može obavljati aktivnosti prijavljenog tijela samo ako Komisija ili druge države članice ne podnesu prigovor u roku od mjesec dana od prijavljivanja.
4. Predmetno tijelo za ocjenjivanje sukladnosti može obavljati aktivnosti prijavljenog tijela samo ako Komisija ili druge države članice ne podnesu prigovor u roku od dva tjedna od provjere valjanosti prijave ako ona sadrži potvrdu o akreditaciji iz članka 31. stavka 2. ili u roku od dva mjeseca od prijave ako ona sadrži dokumente iz članka 31. stavka 3.
4.a Ako se podnese prigovor, Komisija bez odgode započinje savjetovanja s relevantnim državama članicama i tijelom za ocjenjivanje sukladnosti. U tu svrhu Komisija odlučuje je li odobrenje opravdano. Komisija upućuje svoju odluku predmetnoj državi članici i relevantnom tijelu za ocjenjivanje sukladnosti.
2. Prijavljena tijela ispunjavaju organizacijske zahtjeve te zahtjeve koji se odnose na upravljanje kvalitetom, resurse i procese koji su nužni za obavljanje njihovih zadaća.
2. Prijavljena tijela ispunjavaju organizacijske zahtjeve te zahtjeve koji se odnose na upravljanje kvalitetom, resurse i procese koji su nužni za obavljanje njihovih zadaća te minimalne zahtjeve u pogledu kibersigurnosti utvrđene za subjekte javne uprave koji su određeni kao operatori ključnih usluga u skladu s Direktivom (EU) 2022/2555.
4. Prijavljena tijela neovisna su o dobavljaču visokorizičnog UI sustava za koji provode aktivnosti ocjenjivanja sukladnosti. Osim toga, prijavljena tijela neovisna su o svim drugim operaterima koji imaju gospodarski interes u visokorizičnom UI sustavu koji se ocjenjuje, kao i o svim konkurentima dobavljača.
4. Prijavljena tijela neovisna su o dobavljaču visokorizičnog UI sustava za koji provode aktivnosti ocjenjivanja sukladnosti. Osim toga, prijavljena tijela neovisna su o svim drugim operaterima koji imaju gospodarski interes u visokorizičnom UI sustavu koji se ocjenjuje, kao i o svim konkurentima dobavljača. Time se ne isključuje uporaba procijenjenih UI sustava potrebnih za rad tijela za ocjenjivanje sukladnosti ni uporaba takvih sustava u osobne svrhe.
4.a Ocjenjivanje sukladnosti u skladu sa stavkom 1. provode zaposlenici prijavljenih tijela koji ni dobavljaču visokorizičnog UI sustava ni bilo kojoj pravnoj osobi povezanoj s tim dobavljačem nisu pružali nikakve druge usluge povezane s predmetom koji se ocjenjuje osim ocjenjivanja sukladnosti u razdoblju od 12 mjeseci prije ocjenjivanja i koji su se obvezali da im neće pružati takve usluge u razdoblju od 12 mjeseci nakon završetka ocjenjivanja.
6. Prijavljena tijela provode dokumentirane postupke kojima se osigurava da njihovo osoblje, odbori, društva kćeri, podizvođači i sva povezana tijela ili osoblje vanjskih tijela poštuju povjerljivost informacija koje prime tijekom obavljanja aktivnosti ocjenjivanja sukladnosti, osim ako je otkrivanje tih informacija zakonska obveza. Osoblje prijavljenih tijela obvezno je čuvati profesionalnu tajnu za sve informacije dobivene tijekom obavljanja zadaća u skladu s ovom Uredbom, osim prema tijelima koja provode prijavljivanje za državu članicu u kojoj prijavljena tijela obavljaju svoje aktivnosti.
6. Prijavljena tijela provode dokumentirane postupke kojima se osigurava da njihovo osoblje, odbori, društva kćeri, podizvođači i sva povezana tijela ili osoblje vanjskih tijela poštuju povjerljivost informacija koje prime tijekom obavljanja aktivnosti ocjenjivanja sukladnosti, osim ako je otkrivanje tih informacija zakonska obveza. Osoblje prijavljenih tijela obvezno je čuvati profesionalnu tajnu za sve informacije dobivene tijekom obavljanja zadaća u skladu s ovom Uredbom, osim prema tijelima koja provode prijavljivanje za državu članicu u kojoj prijavljena tijela obavljaju svoje aktivnosti. Sa svim informacijama i dokumentacijom koje su prijavljena tijela dobila u skladu s odredbama ovog članka postupa se sukladno obvezama u pogledu povjerljivosti utvrđenima u članku 70.
3. Aktivnosti se mogu povjeriti podizvođaču ili ih može provoditi društvo kći samo uz suglasnost dobavljača.
3. Aktivnosti se mogu povjeriti podizvođaču ili ih može provoditi društvo kći samo uz suglasnost dobavljača. Prijavljena tijela javno objavljuju popis svojih društava kćeri.
4. Prijavljena tijela tijelu koje provodi prijavljivanje drže na raspolaganju relevantne dokumente koji se odnose na ocjenjivanje kvalifikacija podizvođača ili društva kćeri i poslova koje oni obavljaju u skladu s ovom Uredbom.
4. Prijavljena tijela tijelu koje provodi prijavljivanje drže na raspolaganju relevantne dokumente koji se odnose na potvrđivanje kvalifikacija podizvođača ili društva kćeri i poslova koje oni obavljaju u skladu s ovom Uredbom.
Amandman 429 Prijedlog uredbe Članak 35. – naslov
Identifikacijski brojevi i popisi prijavljenih tijela imenovanih u skladu s ovom Uredbom
Identifikacijski brojevi i popisi prijavljenih tijela
1. Ako tijelo koje provodi prijavljivanje posumnja ili je obaviješteno o tome da određeno prijavljeno tijelo više ne ispunjava zahtjeve utvrđene u članku 33. ili da ne ispunjava svoje obveze, tijelo koje provodi prijavljivanje bez odgode i uz najveću moguću pozornost istražuje to pitanje. U tom kontekstu tijelo koje provodi prijavljivanje obavješćuje dotično prijavljeno tijelo o podnesenim prigovorima i daje mu mogućnost da iznese svoje primjedbe. Ako tijelo koje provodi prijavljivanje zaključi da prijavljeno tijelo pod istragom više ne ispunjava zahtjeve utvrđene u članku 33. ili da ne ispunjava svoje obveze, tijelo koje provodi prijavljivanje ograničava, suspendira ili povlači prijavu, ovisno o ozbiljnosti neispunjavanja zahtjeva ili obveza. Usto, o tome odmah obavješćuje Komisiju i druge države članice.
1. Ako tijelo koje provodi prijavljivanje posumnja ili je obaviješteno o tome da određeno prijavljeno tijelo više ne ispunjava zahtjeve utvrđene u članku 33. ili da ne ispunjava svoje obveze, tijelo koje provodi prijavljivanje bez odgode i uz najveću moguću pozornost istražuje to pitanje. U tom kontekstu tijelo koje provodi prijavljivanje obavješćuje predmetno prijavljeno tijelo o podnesenim prigovorima i daje mu mogućnost da iznese svoje primjedbe. Ako tijelo koje provodi prijavljivanje zaključi da prijavljeno tijelo više ne ispunjava zahtjeve utvrđene u članku 33. ili da ne ispunjava svoje obveze, tijelo koje provodi prijavljivanje ograničava, suspendira ili povlači prijavu, ovisno o ozbiljnosti neispunjavanja zahtjeva ili obveza. Usto, o tome odmah obavješćuje Komisiju i druge države članice.
2. U slučaju ograničenja, suspenzije ili povlačenja prijave, ili ako je prijavljeno tijelo prestalo s radom, tijelo koje provodi prijavljivanje poduzima odgovarajuće mjere kako bi osiguralo da dokumentaciju tog prijavljenog tijela preuzme drugo prijavljeno tijelo ili da ona bude na raspolaganju odgovornim tijelima koja provode prijavljivanje na njihov zahtjev.
2. U slučaju ograničenja, suspenzije ili povlačenja prijave, ili ako je prijavljeno tijelo prestalo s radom, tijelo koje provodi prijavljivanje poduzima odgovarajuće mjere kako bi osiguralo da dokumentaciju tog prijavljenog tijela preuzme drugo prijavljeno tijelo ili da ona bude na raspolaganju odgovornim tijelima i tijelu za nadzor tržišta koja provode prijavljivanje na njihov zahtjev.
1. Komisija prema potrebi istražuje sve slučajeve u kojima postoje razlozi za sumnju u usklađenost prijavljenog tijela sa zahtjevima utvrđenima u članku 33.
1. Komisija prema potrebi istražuje sve slučajeve u kojima postoje razlozi za sumnju u stručnost prijavljenog tijela ili u to da prijavljeno tijelo kontinuirano ispunjava primjenjive zahtjeve i odgovornosti.
2. Tijelo koje provodi prijavljivanje Komisiji na zahtjev dostavlja sve relevantne informacije koje se odnose na prijavu dotičnog prijavljenog tijela.
2. Tijelo koje provodi prijavljivanje Komisiji na zahtjev dostavlja sve relevantne informacije koje se odnose na prijavu ili održavanje stručnosti predmetnog prijavljenog tijela.
3. Komisija osigurava da se sa svim povjerljivim informacijama dobivenima tijekom njezinih istraga na temelju ovog članka postupa na odgovarajući način.
3. Komisija osigurava da se sa svim osjetljivim informacijama dobivenima tijekom njezinih istraga na temelju ovog članka postupa na odgovarajući način.
4. Ako Komisija utvrdi da prijavljeno tijelo ne zadovoljava ili je prestalo zadovoljavati zahtjeve iz članka 33., donosi obrazloženu odluku kojom od države članice koja provodi prijavljivanje zahtijeva da poduzme potrebne korektivne mjere, uključujući povlačenje prijave ako je to potrebno. Taj provedbeni akt donosi se u skladu s postupkom ispitivanja iz članka 74. stavka 2.
4. Ako Komisija utvrdi da prijavljeno tijelo ne zadovoljava ili je prestalo zadovoljavati zahtjeve u pogledu njegove prijave, o tome obavješćuje državu članicu koja provodi prijavljivanje i od nje zahtijeva da poduzme potrebne korektivne mjere, uključujući suspenziju ili povlačenje prijave ako je to potrebno.Ako država članica ne provede potrebne korektivne mjere, Komisija može provedbenim akt suspendirati, ograničiti ili povući imenovanje. Taj provedbeni akt donosi se u skladu s postupkom ispitivanja iz članka 74. stavka 2.
2.a Komisija organizira razmjenu znanja i primjera najboljih praksi među nacionalnim tijelima država članica koja su odgovorna za politiku prijavljivanja.
Za visokorizične UI sustave koji su sukladni s usklađenim normama ili dijelovima usklađenih normi na koje su objavljena upućivanja u Službenom listu Europske unije pretpostavlja se da su sukladni sa zahtjevima iz poglavlja 2. ove glave u mjeri u kojoj te norme obuhvaćaju dotične zahtjeve.
Za visokorizične UI sustave i osnovne modele koji su sukladni s usklađenim normama ili dijelovima usklađenih normi na koje su objavljena upućivanja u Službenom listu Europske unije u skladu s Uredbom (EU) 1025/2012 pretpostavlja se da su sukladni sa zahtjevima iz poglavlja 2. ove glave ili članka 28.b u mjeri u kojoj te norme obuhvaćaju predmetne zahtjeve.
Komisija izdaje zahtjeve za normizaciju koji obuhvaćaju sve zahtjeve ove Uredbe u skladu s člankom 10. Uredbe (EU) br. 1025/2012 do ... [dva mjeseca nakon datuma stupanja na snagu ove Uredbe]. Pri pripremi zahtjeva za normizaciju Komisija se savjetuje s Uredom za umjetnu inteligenciju i Savjetodavnim forumom.
Pri izdavanju zahtjeva za normizaciju europskim organizacijama za normizaciju Komisija navodi da norme moraju biti usklađene, među ostalim sa sektorskim pravom navedenim u Prilogu II., i da im je cilj osigurati da UI sustavi ili osnovni modeli koji se stavljaju na tržište ili u uporabu u Uniji ispunjavaju relevantne zahtjeve utvrđene u ovoj Uredbi.
Akteri uključeni u proces normizacije uzimaju u obzir opća načela pouzdane umjetne inteligencije utvrđena u članku 4. točki (a), nastoje promicati ulaganja i inovacije u području umjetne inteligencije kao i konkurentnost i rast tržišta Unije, doprinose jačanju globalne suradnje u području normizacije, uzimajući u obzir postojeće međunarodne norme u području umjetne inteligencije koje su u skladu s vrijednostima, temeljnim pravima i interesima Unije, te osiguravaju ujednačenu zastupljenost interesa i učinkovito sudjelovanje svih relevantnih dionika u skladu s člancima 5., 6. i 7. Uredbe (EU) br. 1025/2012.
1. Ako usklađene norme iz članka 40. ne postoje ili ako Komisija smatra da relevantne usklađene norme nisu dovoljne ili da je potrebno uzeti u obzir određena pitanja sigurnosti ili temeljnih prava, Komisija može provedbenim aktima donijeti zajedničke specifikacije u pogledu zahtjeva iz poglavlja 2. ove glave. Ti provedbeni akti donose se u skladu s postupkom ispitivanja iz članka 74. stavka 2.
1.a Komisija može provedbenim aktom donesenim u skladu s postupkom ispitivanja iz članka 74. stavka 2. te nakon savjetovanja s Uredom za umjetnu inteligenciju i Savjetodavnim forumom za umjetnu inteligenciju donijeti zajedničke specifikacije u pogledu zahtjeva iz poglavlja 2. ove glave ili članka 28.b ako su ispunjeni svi sljedeći uvjeti:
(a) nema upućivanja na usklađene norme koje su već objavljene u Službenom listu Europske unije u vezi s temeljnim zahtjevom/zahtjevima, osim ako je predmetna usklađena norma postojeća norma koja se mora revidirati;
(b) Komisija je od jedne ili više europskih organizacija za normizaciju zatražila da izrade nacrt usklađene norme za temeljni zahtjev/temeljne zahtjeve utvrđene u poglavlju 2.;
(c) nijedna europska organizacija za normizaciju nije prihvatila zahtjev iz (b), ili postoje nepotrebna kašnjenja u uspostavi odgovarajuće usklađene norme, ili pružena norma ne ispunjava zahtjeve relevantnog prava Unije ili nije u skladu sa zahtjevom Komisije.
1.b Ako Komisija smatra da postoji potreba za rješavanjem konkretnih pitanja u pogledu temeljnih prava, zajedničkim specifikacijama koje donosi u skladu sa stavkom 1.a rješavaju se i ta konkretna pitanja u vezi s temeljnim pravima.
1.c Komisija razvija zajedničke specifikacije za metodologiju kako bi se ispunili zahtjevi u pogledu izvješćivanja i dokumentacije o potrošnji energije i resursa tijekom razvoja, osposobljavanja i uvođenja visokorizičnog UI sustava.
2. Komisija pri pripremi zajedničkih specifikacija iz stavka 1. prikuplja stajališta relevantnih tijela ili stručnih skupina osnovanih u skladu s relevantnim sektorskim zakonodavstvom Unije.
2. Komisija se tijekom cijelog procesa izrade zajedničkih specifikacija iz stavaka 1.a i 1.b redovito savjetuje s Uredom za umjetnu inteligenciju i Savjetodavnim forumom, europskim organizacijama i tijelima za normizaciju ili stručnim skupinama osnovanima u skladu s relevantnim sektorskim zakonodavstvom Unije te s ostalim relevantnim dionicima. Komisija ispunjava ciljeve iz članka 40. stavka 1.c i propisno obrazlaže zašto je odlučila primijeniti zajedničke specifikacije.
Ako Komisija namjerava donijeti zajedničke specifikacije u skladu sa stavkom 1.a ovog članka, ona također jasno utvrđuje konkretna pitanja u pogledu temeljnih prava koja treba riješiti.
Pri donošenju zajedničkih specifikacija u skladu sa stavcima 1.a i 1.b ovog članka Komisija uzima u obzir mišljenje Ureda za umjetnu inteligenciju iz članka 56.e točke (b) ove Uredbe. Ako Komisija odluči ne postupiti u skladu s mišljenjem Ureda za umjetnu inteligenciju, daje mu obrazloženo objašnjenje.
3. Za visokorizične UI sustave koji su sukladni sa zajedničkim specifikacijama iz stavka 1. pretpostavlja se da su sukladni sa zahtjevima iz poglavlja 2. ove glave u mjeri u kojoj te zajedničke specifikacije obuhvaćaju dotične zahtjeve.
3. Za visokorizične UI sustave koji su sukladni sa zajedničkim specifikacijama iz stavaka1.a i 1.b pretpostavlja se da su sukladni sa zahtjevima iz poglavlja 2. ove glave u mjeri u kojoj te zajedničke specifikacije obuhvaćaju predmetne zahtjeve.
3.a Ako europska organizacija za normizaciju usvoji usklađenu normu i Komisiji predloži da se upućivanje na nju objavi u Službenom listu Europske unije, Komisija ocjenjuje tu usklađenu normu u skladu s Uredbom (EU) br. 1025/2012. Kad se u Službenom listu Europske unije objavi upućivanje na usklađenu normu, Komisija stavlja izvan snage akte iz stavaka 1. i 1.b ili njihove dijelove koji obuhvaćaju iste zahtjeve utvrđene u poglavlju 2. ove glave.
4. Ako dobavljači ne ispunjavaju zajedničke specifikacije iz stavka 1., moraju propisno obrazložiti da su usvojili tehnička rješenja koja su barem ekvivalentna tim specifikacijama.
4. Ako dobavljači visokorizičnih UI sustava ne ispunjavaju zajedničke specifikacije iz stavka 1., moraju propisno obrazložiti da su usvojili tehnička rješenja koja ispunjavaju zahtjeve iz poglavlja II. na razini koja je barem ekvivalentna tim specifikacijama;
1. Uzimajući u obzir njihovu namjenu, za visokorizične UI sustave koji su poučeni i testirani na podacima o specifičnom zemljopisnom, bihevioralnom ili radnom okruženju u kojem je predviđena njihova uporaba pretpostavlja se da ispunjavaju zahtjev iz članka 10. stavka 4.
1. Uzimajući u obzir njihovu namjenu, za visokorizične UI sustave koji su poučeni i testirani na podacima o specifičnom zemljopisnom, bihevioralnom, kontekstualnom ili radnom okružju u kojem je predviđena njihova uporaba pretpostavlja se da ispunjavaju odgovarajuće zahtjeve iz članka 10. stavka 4.
1. Za visokorizične UI sustave navedene u točki 1. Priloga III., ako je dobavljač pri dokazivanju da visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave primijenio usklađene norme iz članka 40. ili, ako je primjenjivo, zajedničke specifikacije iz članka 41., dobavljač primjenjuje jedan od sljedećih postupaka:
1. Za visokorizične UI sustave navedene u točki 1. Priloga III., ako je dobavljač pri dokazivanju da visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave primijenio usklađene norme iz članka 40. ili, ako je primjenjivo, zajedničke specifikacije iz članka 41., dobavljač se odlučuje za jedan od sljedećih postupaka:
Amandman 451 Prijedlog uredbe Članak 43. – stavak 1. – točka a
(a) postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole iz Priloga VI.;
(a) postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole iz Priloga VI.; ili
Amandman 452 Prijedlog uredbe Članak 43. – stavak 1. – točka b
(b) postupak ocjenjivanja sukladnosti na temelju ocjenjivanja sustava upravljanja kvalitetom i ocjenjivanja tehničke dokumentacije, uz sudjelovanje prijavljenog tijela, iz Priloga VII.
(b) postupak ocjenjivanja sukladnosti na temelju ocjenjivanja sustava upravljanja kvalitetom tehničke dokumentacije, uz sudjelovanje prijavljenog tijela, iz Priloga VII.;
Ako dobavljač pri dokazivanju da visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave nije primijenio ili je samo djelomično primijenio usklađene norme iz članka 40. ili ako takve usklađene norme ne postoje i nisu dostupne zajedničke specifikacije iz članka 41., dobavljač primjenjuje postupak ocjenjivanja sukladnosti utvrđen u PriloguVII.
Pri dokazivanju da visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave dobavljač primjenjuje postupak ocjenjivanja sukladnosti utvrđen u Prilogu VII. u sljedećim slučajevima:
(a) ako usklađene norme iz članka 40., čiji su referentni brojevi objavljeni u Službenom listu Europske unije, a kojima su obuhvaćeni svi relevantni sigurnosni zahtjevi za UI sustav, ne postoje i nisu dostupne zajedničke specifikacije iz članka 41.;
(b) ako usklađene norme iz točke (a) postoje, ali ih dobavljač ne primjenjuje ili ih primjenjuje samo djelomično;
(c) ako su jedna ili više tehničkih specifikacija iz točke (a) objavljene s ograničenjem i samo za dio norme koji je ograničen;
(d) ako dobavljač smatra da je zbog prirode, projekta, izrade ili namjene UI sustava potreban pregled treće strane, bez obzira na razinu rizika.
Za potrebe postupka ocjenjivanja sukladnosti iz Priloga VII. dobavljač može odabrati bilo koje prijavljeno tijelo. Međutim, ako sustav u uporabu namjeravaju staviti tijela kaznenog progona, tijela za imigraciju ili tijela za azil odnosno institucije, tijela ili agencije EU-a, kao prijavljeno tijelo djeluje tijelo za nadzor tržišta iz članka 63. stavka 5. ili 6., ovisno o slučaju.
Za potrebe provođenja postupka ocjenjivanja sukladnosti iz Priloga VII. dobavljač može odabrati bilo koje prijavljeno tijelo. Međutim, ako sustav u uporabu namjeravaju staviti tijela kaznenog progona, tijela za imigraciju ili tijela za azil odnosno institucije, tijela ili agencije EU-a, kao prijavljeno tijelo djeluje tijelo za nadzor tržišta iz članka 63. stavka 5. ili 6., ovisno o slučaju.
4. Za visokorizične UI sustave provodi se novi postupak ocjenjivanja sukladnosti kad god se bitno izmijene, neovisno o tome namjerava li se izmijenjeni sustav dalje distribuirati ili ga nastavlja upotrebljavati isti korisnik.
4. Za visokorizične UI sustave koji su već bili podvrgnuti postupku ocjenjivanja sukladnosti provodi se novi postupak ocjenjivanja sukladnosti kad god se bitno izmijene, neovisno o tome namjerava li se izmijenjeni sustav dalje distribuirati ili ga nastavlja upotrebljavati isti subjekt koji primjenjuje sustav;
4.a Pri određivanju naknada za ocjenjivanje sukladnosti koje provodi treća strana u skladu s ovim člankom uzimaju se u obzir posebni interesi i potrebe malih i srednjih poduzeća te se naknade smanjuju razmjerno njihovoj veličini i veličini udjela na tržištu;
5. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 73. u svrhu ažuriranja priloga VI. i VII. kako bi se dodali elementi postupaka ocjenjivanja sukladnosti koji postanu potrebni s obzirom na tehnički napredak.
5. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 73. u svrhu ažuriranja priloga VI. i VII. kako bi se dodali elementi postupaka ocjenjivanja sukladnosti koji postanu potrebni s obzirom na tehnički napredak. Pri pripremi takvih delegiranih akata Komisija se savjetuje s Uredom za umjetnu inteligenciju i pogođenim dionicima;
6. Komisija je ovlaštena za donošenje delegiranih akata radi izmjene stavaka 1. i 2. kako bi visokorizične UI sustave iz točaka od 2. do 8. Priloga III. podvrgnula postupku ocjenjivanja sukladnosti iz Priloga VII. ili dijelovima tog postupka. Komisija takve delegirane akte donosi uzimajući u obzir djelotvornost postupka ocjenjivanja sukladnosti na temelju unutarnje kontrole iz Priloga VI. u sprečavanju ili minimiziranju rizika za zdravlje i sigurnost te zaštitu temeljnih prava koje takvi sustavi predstavljaju, kao i dostupnost dostatnih kapaciteta i resursa među prijavljenim tijelima.
6. Komisija je ovlaštena za donošenje delegiranih akata radi izmjene stavaka 1. i 2. kako bi visokorizične UI sustave iz točaka od 2. do 8. Priloga III. podvrgnula postupku ocjenjivanja sukladnosti iz Priloga VII. ili dijelovima tog postupka. Komisija takve delegirane akte donosi uzimajući u obzir djelotvornost postupka ocjenjivanja sukladnosti na temelju unutarnje kontrole iz Priloga VI. u sprečavanju ili minimiziranju rizika za zdravlje i sigurnost te zaštitu temeljnih prava koje takvi sustavi predstavljaju, kao i dostupnost dostatnih kapaciteta i resursa među prijavljenim tijelima. Pri pripremi takvih delegiranih akata Komisija se savjetuje s Uredom za umjetnu inteligenciju i pogođenim dionicima;
1. Potvrde koje izdaju prijavljena tijela u skladu s prilogom VII. izdaju se na službenom jeziku Unije koji odredi država članica u kojoj prijavljeno tijelo ima poslovni nastan ili na službenom jeziku Unije koji je inače prihvatljiv prijavljenom tijelu.
1. Potvrde koje izdaju prijavljena tijela u skladu s prilogom VII. izdaju se na jednom ili više službenih jezika Unije koje odredi država članica u kojoj prijavljeno tijelo ima poslovni nastan ili na jednom ili više službenih jezika Unije koji su inače prihvatljivi prijavljenom tijelu;
2. Potvrde vrijede za razdoblje koje je u njima navedeno, a ono ne može biti dulje od pet godina. Na zahtjev dobavljača valjanost potvrde može se produljivati za daljnja razdoblja koja nisu dulja od pet godina, i to na temelju ponovnog ocjenjivanja u skladu s primjenjivim postupcima ocjenjivanja sukladnosti.
2. Potvrde vrijede za razdoblje koje je u njima navedeno, a ono ne može biti dulje od četiri godine. Na zahtjev dobavljača valjanost potvrde može se produljivati za daljnja razdoblja koja nisu dulja od četiri godine, i to na temelju ponovnog ocjenjivanja u skladu s primjenjivim postupcima ocjenjivanja sukladnosti.
3. Ako ustanovi da UI sustav više ne ispunjava zahtjeve iz poglavlja 2. ove glave, prijavljeno tijelo, uzimajući u obzir načelo proporcionalnosti, suspendira ili povlači izdanu potvrdu ili uvodi ograničenja za nju, osim ako se s pomoću primjerenih korektivnih mjera koje dobavljač sustava poduzme u primjerenom roku koji utvrdi prijavljeno tijelo osigura da UI sustav ispunjava te zahtjeve. Prijavljeno tijelo daje obrazloženje za svoju odluku.
3. Ako ustanovi da UI sustav više ne ispunjava zahtjeve iz poglavlja 2. ove glave, prijavljeno tijelo suspendira ili povlači izdanu potvrdu ili uvodi ograničenja za nju, osim ako se s pomoću primjerenih korektivnih mjera koje dobavljač sustava poduzme u primjerenom roku koji utvrdi prijavljeno tijelo osigura da UI sustav ispunjava te zahtjeve. Prijavljeno tijelo daje obrazloženje za svoju odluku.
Države članice stranama koje imaju legitiman interes u odlukama prijavljenih tijela moraju omogućiti pokretanje žalbenog postupka protiv tih odluka.
Države članice stranama koje imaju legitiman interes u odlukama prijavljenih tijela, među ostalim o izdanim potvrdama o sukladnosti, moraju omogućiti pokretanje žalbenog postupka protiv tih odluka.
3. Svako prijavljeno tijelo drugim prijavljenim tijelima koja provode slične aktivnosti ocjenjivanja sukladnosti za iste tehnologije umjetne inteligencije dostavlja relevantne informacije o pitanjima u vezi s negativnim i, na zahtjev, pozitivnim rezultatima ocjenjivanja sukladnosti.
3. Svako prijavljeno tijelo drugim prijavljenim tijelima koja provode slične aktivnosti ocjenjivanja sukladnosti dostavlja relevantne informacije o pitanjima u vezi s negativnim i, na zahtjev, pozitivnim rezultatima ocjenjivanja sukladnosti.
1. Odstupajući od članka 43., svako tijelo za nadzor tržišta može odobriti stavljanje na tržište ili u uporabu određenih visokorizičnih UI sustava na državnom području dotične države članice zbog iznimnih razloga javne sigurnosti ili zaštite života i zdravlja ljudi, zaštite okoliša i zaštite ključne industrijske i infrastrukturne imovine. Trajanje tog odobrenja mora biti ograničeno na razdoblje provedbe potrebnih postupaka ocjenjivanja sukladnosti i isteći po dovršetku tih postupaka. Ti se postupci dovršavaju bez nepotrebne odgode.
1. Odstupajući od članka 43., svako nacionalno nadzorno tijelo može od pravosudnog tijela zatražiti odobrenje za stavljanje na tržište ili u uporabu određenih visokorizičnih UI sustava na državnom području predmetne države članice zbog iznimnih razloga zaštite života i zdravlja ljudi, zaštite okoliša i zaštite presudne infrastrukture. Trajanje tog odobrenja mora biti ograničeno na razdoblje provedbe potrebnih postupaka ocjenjivanja sukladnosti i isteći po dovršetku tih postupaka. Ti se postupci dovršavaju bez nepotrebne odgode;
2. Odobrenje iz stavka 1. izdaje se samo ako tijelo za nadzor tržišta zaključi da visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave. Tijelo za nadzor tržišta obavješćuje Komisiju i druge države članice o svim odobrenjima izdanima u skladu sa stavkom 1.
2. Odobrenje iz stavka 1. izdaje se samo ako nacionalno nadzorno tijelo i pravosudno tijelo zaključe da visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave. Nacionalno nadzorno tijelo obavješćuje Komisiju, Ured za umjetnu inteligenciju i druge države članice o svim podnesenim zahtjevima i svim odobrenjima izdanima u skladu sa stavkom 1.;
3. Ako u roku od 15 kalendarskih dana od primitka informacija iz stavka 2. nijedna država članica ni Komisija ne podnese prigovor na odobrenje koje je izdalo tijelo za nadzor tržišta određene države članice u skladu sa stavkom 1., to se odobrenje smatra opravdanim.
3. Ako u roku od 15 kalendarskih dana od primitka informacija iz stavka 2. nijedna država članica ni Komisija ne podnese prigovor na zahtjev nacionalnog nadzornog tijela za odobrenje koje je izdalo nacionalno nadzorno tijelo određene države članice u skladu sa stavkom 1., to se odobrenje smatra opravdanim;
4. Ako u roku od 15 kalendarskih dana od primitka obavijesti iz stavka 2. određena država članica podnese prigovore na odobrenje koje je izdalo tijelo za nadzor tržišta druge države članice ili ako Komisija smatra da je to odobrenje u suprotnosti s pravom Unije ili da je zaključak država članica o usklađenosti sustava iz stavka 2. neutemeljen, Komisija bez odgode započinje savjetovanje s relevantnom državom članicom; u savjetovanju sudjeluju i dotični operater ili operateri te im se omogućuje da iznesu svoja stajališta. U tu svrhu Komisija odlučuje je li odobrenje opravdano. Komisija svoju odluku upućuje dotičnoj državi članici i relevantnom operateru ili operaterima.
4. Ako u roku od 15 kalendarskih dana od primitka obavijesti iz stavka 2. određena država članica podnese prigovore na zahtjev koji je izdalo nacionalno nadzorno tijelo druge države članice ili ako Komisija smatra da je to odobrenje u suprotnosti s pravom Unije ili da je zaključak država članica o usklađenosti sustava iz stavka 2. neutemeljen, Komisija bez odgode započinje savjetovanje s relevantnom državom članicom i Uredom za umjetnu inteligenciju; u savjetovanju sudjeluju i predmetni operater ili operateri te im se omogućuje da iznesu svoja stajališta. U tu svrhu Komisija odlučuje je li odobrenje opravdano. Komisija svoju odluku upućuje predmetnoj državi članici i relevantnom operateru/operaterima;
1. Dobavljač sastavlja pisanu EU izjavu o sukladnosti za svaki UI sustav i drži je na raspolaganju nacionalnim nadležnim tijelima u razdoblju od 10 godina nakon što je taj UI sustav stavljen na tržište ili u uporabu. U EU izjavi o sukladnosti navodi se za koji je UI sustav ona sastavljena. Relevantnim nacionalnim nadležnim tijelima na zahtjev se daje primjerak EU izjave o sukladnosti.
1. Dobavljač sastavlja pisanu i strojno čitljivu EU izjavu, u fizičkom ili elektroničkom obliku, o sukladnosti za svaki visokorizični UI sustav i drži je na raspolaganju nacionalnom nadzornom tijelu i nacionalnim nadležnim tijelima u razdoblju od 10 godina nakon što je taj visokorizični UI sustav stavljen na tržište ili u uporabu. Nacionalnom nadzornom tijelu i relevantnim nacionalnim nadležnim tijelima na zahtjev se daje primjerak EU izjave o sukladnosti;
2. U EU izjavi o sukladnosti navodi se da dotični visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave. EU izjava o sukladnosti sadržava informacije utvrđene u Prilogu V. i prevodi se na službeni jezik ili jezike Unije koje zahtijeva jedna ili više država članica u kojima se visokorizični UI sustav stavlja na raspolaganje.
2. U EU izjavi o sukladnosti navodi se da predmetni visokorizični UI sustav ispunjava zahtjeve iz poglavlja 2. ove glave. EU izjava o sukladnosti sadržava informacije utvrđene u Prilogu V. i prevodi se na službeni jezik ili jezike Unije koje zahtijeva jedna ili više država članica u kojima se visokorizični UI sustav stavlja na tržište ili na raspolaganje;
3. Ako visokorizični UI sustavi podliježu drugom zakonodavstvu Unije o usklađivanju kojim se također zahtijeva EU izjava o sukladnosti, sastavlja se jedinstvena EU izjava o sukladnosti u skladu sa svim zakonodavnim aktima Unije koji se primjenjuju na dotični visokorizični UI sustav. Ta izjava sadržava sve informacije potrebne za identifikaciju zakonodavstva Unije o usklađivanju na koje se izjava odnosi.
3. Ako visokorizični UI sustavi podliježu drugom zakonodavstvu Unije o usklađivanju kojim se također zahtijeva EU izjava o sukladnosti, može se sastaviti jedinstvena EU izjava o sukladnosti u skladu sa svim zakonodavnim aktima Unije koji se primjenjuju na predmetni visokorizični UI sustav. Ta izjava sadržava sve informacije potrebne za identifikaciju zakonodavstva Unije o usklađivanju na koje se izjava odnosi.
5. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 73. u svrhu ažuriranja sadržaja EU izjave o sukladnosti utvrđenog u Prilogu V. kako bi se dodali elementi koji postanu potrebni s obzirom na tehnički napredak.
5. Nakon savjetovanja s Uredom za umjetnu inteligenciju Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 73. u svrhu ažuriranja sadržaja EU izjave o sukladnosti utvrđenog u Prilogu V. kako bi se dodali elementi koji postanu potrebni s obzirom na tehnički napredak;
1. Oznaka CE stavlja se na visokorizične UI sustave tako da je vidljiva, čitka i neizbrisiva. Ako to zbog prirode visokorizičnog UI sustava nije moguće ili nije opravdano, oznaka CE stavlja se na pakiranje ili na popratnu dokumentaciju, ovisno o slučaju.
1. Fizička oznaka CE stavlja se na visokorizične UI sustave tako da je vidljiva, čitka i neizbrisiva, prije nego što se visokorizični UI sustav stavi na tržište. Ako to zbog prirode visokorizičnog UI sustava nije moguće ili nije opravdano, oznaka CE stavlja se na pakiranje ili na popratnu dokumentaciju, ovisno o slučaju. Može biti popraćena piktogramom ili bilo kojom drugom oznakom kojom se označuje poseban rizik pri uporabi;
1.a Samo za digitalne visokorizične UI sustave upotrebljava se digitalna oznaka CE samo ako joj se može lako pristupiti preko sučelja s kojeg se pristupa UI sustavu ili s pomoću lako dostupnog strojno čitljivog koda ili drugih elektroničkih sredstava.
3. Ako je to primjenjivo, uz oznaku CE navodi se identifikacijski broj prijavljenog tijela koje je odgovorno za postupke ocjenjivanja sukladnosti iz članka 43. Taj identifikacijski broj navodi se i u svakom promotivnom materijalu u kojem se naznačuje da dotični visokorizični UI sustav ispunjava zahtjeve za oznaku CE.
3. Ako je to primjenjivo, uz oznaku CE navodi se identifikacijski broj prijavljenog tijela koje je odgovorno za postupke ocjenjivanja sukladnosti iz članka 43. Identifikacijski broj prijavljenog tijela stavlja samo prijavljeno tijelo ili, prema njegovim uputama, ovlašteni zastupnik dobavljača. Taj identifikacijski broj navodi se i u svakom promotivnom materijalu u kojem se naznačuje da predmetni visokorizični UI sustav ispunjava zahtjeve za oznaku CE;
3.a Ako visokorizični UI sustavi podliježu nekom drugom zakonodavnom aktu Unije koje također nalaže stavljanje oznake CE, na oznaci CE navodi se da visokorizični UI sustav ispunjava i zahtjeve tog drugog zakonodavnog akta.
U razdoblju od 10 godina nakon što je UI sustav stavljen na tržište ili u uporabu dobavljač na raspolaganju nacionalnim nadležnim tijelima drži:
U razdoblju od 10 godina nakon što je UI sustav stavljen na tržište ili u uporabu dobavljač na raspolaganju nacionalnom nadzornom tijelu i nacionalnim nadležnim tijelima drži:
Prije stavljanja na tržište ili u uporabu visokorizičnog UI sustava iz članka 6. stavka 2., dobavljač ili, prema potrebi, ovlašteni zastupnik registrira taj sustav u bazi podataka EU-a iz članka 60.
Prije stavljanja na tržište ili u uporabu visokorizičnog UI sustava iz članka 6. stavka 2. dobavljač ili, prema potrebi, ovlašteni zastupnik registrira taj sustav u bazi podataka EU-a iz članka 60., u skladu s člankom 60. stavkom 2.;
Prije puštanja u rad ili uporabe visokorizičnog UI sustava u skladu s člankom 6. stavkom 2. sljedeće kategorije subjekata koji uvode sustav registriraju uporabu tog UI sustava u bazi podataka EU-a iz članka 60.:
a) subjekti koji primjenjuju sustav i koji su javna tijela ili institucije, tijela, uredi ili agencije Unije ili subjekti koji primjenjuju sustav i koji djeluju u njihovo ime;
b) subjekti koji primjenjuju sustav i koji su poduzetnici određeni kao nadzornici pristupa na temelju Uredbe (EU) 2022/1925.
Subjekti koji primjenjuju sustav, a koji nisu obuhvaćeni podstavkom 1.a imaju pravo dobrovoljno registrirati uporabu visokorizičnog UI sustava iz članka 6. stavka 2. u bazi podataka EU-a iz članka 60.
1. Dobavljači osiguravaju da su UI sustavi koji su namijenjeni interakciji s pojedincima osmišljeni i razvijeni tako da pojedinci budu svjesni da su u interakciji s UI sustavom, osim ako je to očito iz okolnosti i konteksta uporabe. Ta se obveza ne primjenjuje na UI sustave koji su zakonski odobreni za otkrivanje, sprečavanje, istragu i kazneni progon kaznenih djela, osim ako su ti sustavi dostupni javnosti za prijavu kaznenog djela.
1. Dobavljači osiguravaju da su UI sustavi koji su namijenjeni za interakciju s pojedincima osmišljeni i razvijeni tako da UI sustav, sam dobavljač ili korisnik pravovremeno te na jasan i razumljiv način obavijesti pojedince izložene UI sustavu da su u interakciji s UI sustavom, osim ako je to očito iz okolnosti i konteksta uporabe.
Ako je to primjereno i relevantno, te informacije sadrže i podatke o tome koje su funkcije omogućene umjetnom inteligencijom, postoji li ljudski nadzor te tko je odgovoran za proces donošenja odluka, kao i o postojećim pravima i procesima koji, u skladu s pravom Unije i nacionalnim pravom, omogućuju pojedincima ili njihovim predstavnicima da ulože prigovor na primjenu takvih sustava na njih i da zatraže sudsku zaštitu protiv odluka koje su donijeli UI sustavi ili štete koju su nanijeli, uključujući pravo na traženje objašnjenja. Ta se obveza ne primjenjuje na UI sustave koji su zakonski odobreni za otkrivanje, sprečavanje, istragu i kazneni progon kaznenih djela, osim ako su ti sustavi dostupni javnosti za prijavu kaznenog djela.
2. Korisnici sustava za prepoznavanje emocija ili sustava za biometrijsku kategorizaciju informiraju pojedince koji su izloženi tom sustavu o njegovu radu. Ta se obveza ne primjenjuje na UI sustave za biometrijsku kategorizaciju koji su zakonski dopušteni za otkrivanje, sprečavanje i istragu kaznenih djela.
2. Korisnici sustava za prepoznavanje emocija ili sustava za biometrijsku kategorizaciju koji nisu zabranjeni na temelju članka 5. dužni su pravodobno te na jasan i razumljiv način informirati pojedince koji su izloženi tom sustavu o njegovu radu i dobiti njihovu privolu prije obrade njihovih biometrijskih i ostalih osobnih podataka u skladu s Uredbom (EU) 2016/679, Uredbom (EU) 2016/1725 i Direktivom (EU) 2016/280, ovisno o slučaju. Ta se obveza ne primjenjuje na UI sustave za biometrijsku kategorizaciju koji su zakonski dopušteni za otkrivanje, sprečavanje i istragu kaznenih djela.
3. Korisnici UI sustava koji stvara ili manipulira slikovnim sadržajem, audiosadržajem ili videosadržajem u kojem postoji znatna sličnost s postojećim osobama, predmetima, mjestima ili drugim subjektima ili događajima te koji bi se nekoj osobi netočno činio vjerodostojnim ili istinitim („deep fake”) moraju navesti da je taj sadržaj umjetno stvoren ili da je njime manipulirano.
3. Korisnici UI sustava koji stvara ili manipulira tekstom, audiosadržajem ili vizualnim sadržajem koji bi se netočno činio vjerodostojnim ili istinitim i u kojem se pojavljuju osobe koje su naizgled rekle ili učinile nešto što nisu rekle ni učinile, i to bez njihova pristanka, („deep fake”) moraju navesti na primjeren, pravovremen, jasan i vidljiv način da je taj sadržaj umjetno stvoren ili da je njime manipulirano te, kad god je moguće, ime pravne ili fizičke osobe koja ga je stvorila ili njime manipulirala.Navođenje znači označivanje sadržaja tako da se obavješćuje da je sadržaj nevjerodostojan i da to bude jasno vidljivo primatelju tog sadržaja. Za označivanje sadržaja korisnici uzimaju u obzir općepriznata najnovija dostignuća i relevantne usklađene norme i specifikacije.
Međutim, prvipodstavak ne primjenjuje se ako je uporaba zakonski odobrena za otkrivanje, sprečavanje, istragu i kazneni progon kaznenih djela ili je nužna za ostvarivanje prava na slobodu izražavanja i prava na slobodu umjetnosti i znanosti zajamčenih Poveljom EU-a o temeljnim pravima, pri čemu se primjenjuju odgovarajuće mjere za zaštitu prava i sloboda trećih strana.
3.a Trećistavak ne primjenjuje se ako je uporaba UI sustava koji stvara tekst, audiosadržaj ili vizualni sadržaj ili njime manipulira zakonski odobrena ili ako je nužna za ostvarivanje prava na slobodu izražavanja i prava na slobodu umjetnosti i znanosti zajamčenih Poveljom EU-a o temeljnim pravima, pri čemu se primjenjuju odgovarajuće mjere za zaštitu prava i sloboda trećih strana. Ako je sadržaj dio očigledno kreativnog, satiričkog, umjetničkog ili fiktivnog kinematografskog djela, videoigara i sličnog djela ili programa, obveze u pogledu transparentnosti utvrđene u stavku 3. ograničene su na otkrivanje postojanja takvog stvorenog ili manipuliranog sadržaja na odgovarajući jasan i vidljiv način kojim se ne ometa prikazivanje djela i, kad je to relevantno, otkrivanje primjenjivih autorskih prava. To također ne sprečava tijela kaznenog progona da upotrebljavaju UI sustave namijenjene za otkrivanje uvjerljivih lažnih sadržaja (deep fake) te za sprečavanje, istragu i kazneni progon kaznenih djela povezanih s njihovom uporabom.
3.b Informacije iz stavaka od 1. do 3. pružaju se pojedincima najkasnije u trenutku prve interakcije ili izloženosti. Moraju biti dostupne ugroženim osobama, kao što su osobe s invaliditetom ili djeca, upotpunjene, ako je to moguće i prikladno, postupcima intervencije ili označivanja za izloženog pojedinca, uzimajući u obzir općepriznata najnovija tehnička dostignuća i relevantne usklađene norme i zajedničke specifikacije.
1. Regulatorna izolirana okruženja za umjetnu inteligenciju koja su uspostavili jedno ili više nadležnih tijela država članica ili Europski nadzornik za zaštitu podataka služe kao kontrolirano okruženje koje olakšava razvoj, testiranje i validaciju inovativnih UI sustava tijekom određenog vremena prije njihova stavljanja na tržište ili u uporabu u skladu s posebnim planom. To se odvija pod izravnim nadzorom i vodstvom nadležnih tijela kako bi se osiguralo ispunjavanje zahtjeva ove Uredbe i, prema potrebi, drugog zakonodavstva Unije i država članica koje se prati u relevantnom izoliranom okruženju.
1. Države članice uspostavljaju barem jedno regulatorno izolirano okruženje za umjetnu inteligenciju na nacionalnoj razini, koje mora biti operativno najkasnije na dan početka primjene ove Uredbe.To se izolirano okruženje može uspostaviti i zajedno s jednom ili više drugih država članica;
1.a Mogu se uspostaviti i dodatna regulatorna izolirana okruženja za umjetnu inteligenciju na regionalnoj ili lokalnoj razini ili zajedno s drugim državama članicama;
1.b Komisija i Europski nadzornik za zaštitu podataka mogu također samostalno, zajedno ili u suradnji s jednom ili više država članica uspostaviti regulatorna izolirana okruženja za umjetnu inteligenciju na razini Unije;
1.d Regulatorna izolirana okruženja za umjetnu inteligenciju, u skladu s kriterijima utvrđenima u članku 53.a, pružaju kontrolirano okruženje u kojemu se potiču inovacije i olakšava razvoj, testiranje i validacija inovativnih UI sustava tijekom ograničenog razdoblja prije njihova stavljanja na tržište ili u uporabu u skladu s posebnim planom dogovorenim između potencijalnih dobavljača i tijela nadležnog za uspostavu;
1.e Svrha uspostave regulatornih izoliranih okruženja za umjetnu inteligenciju pružanje je doprinosa sljedećim ciljevima:
a) kako bi nadležna tijela potencijalnim dobavljačima UI sustava pružila smjernice za postizanje regulatorne usklađenosti s ovom Uredbom ili, prema potrebi, drugim primjenjivim zakonodavnim aktima Unije i država članica;
b) kako bi potencijalni dobavljači omogućili i olakšali testiranje i razvoj inovativnih rješenja povezanih s UI sustavima;
c) kako bi došlo do regulatornog učenja u kontroliranom okruženju.
1.f Tijela nadležna za uspostavu pružaju smjernice i nadzor unutar izoliranog okruženja kako bi se utvrdili rizici, posebno za temeljna prava, demokraciju i vladavinu prava, zdravlje i sigurnost te okoliš, testirale i demonstrirale mjere za ublažavanje utvrđenih rizika i njihova učinkovitost te osigurala usklađenost sa zahtjevima ove Uredbe i, prema potrebi, drugim zakonodavnim aktima Unije i država članica;
1.g Tijela nadležna za uspostavu pružaju potencijalnim dobavljačima koji razvijaju visokorizične UI sustave izolirano okruženje, smjernice i nadzor nad načinom ispunjavanja zahtjeva utvrđenih u ovoj Uredbi kako bi UI sustavi mogli izaći iz izoliranog okruženja pod pretpostavkom da su u skladu s posebnim zahtjevima ove Uredbe koji su ocijenjeni u izoliranom okruženju. Ako UI sustav ispunjava zahtjeve pri izlasku iz izoliranog okruženja, pretpostavlja se da je u skladu s ovom Uredbom. U tom pogledu, u kontekstu postupaka ocjenjivanja sukladnosti ili provjera u okviru nadzora tržišta, tijela za nadzor tržišta ili prijavljena tijela, ovisno o slučaju, uzimaju u obzir izvješća koja je pri izlasku izradilo tijelo nadležno za uspostavu;
2. Države članice moraju osigurati da, ako inovativni UI sustavi obuhvaćaju obradu osobnih podataka ili na neki drugi način spadaju pod nadzor drugih nacionalnih tijela ili nadležnih tijela koja pružaju ili podržavaju pristup podacima, nacionalna tijela za zaštitu podataka i dotična druga nacionalna tijela budu povezana s radom regulatornog izoliranog okruženja za umjetnu inteligenciju.
2. Tijela nadležna za uspostavu moraju osigurati da, ako inovativni UI sustavi obuhvaćaju obradu osobnih podataka ili na neki drugi način spadaju pod nadzor drugih nacionalnih tijela ili nadležnih tijela koja pružaju ili podržavaju pristup osobnim podacima, nacionalna tijela za zaštitu podataka, ili u slučajevima iz stavka 1.b Europski nadzornik za zaštitu podataka, i predmetna druga nacionalna tijela budu povezana s radom regulatornog izoliranog okruženja za umjetnu inteligenciju i uključena u nadzor nad tim aspektima u okviru potpune provedbe svojih zadaća i primjene ovlasti;
3. Regulatorna izolirana okruženja za umjetnu inteligenciju ne utječu na nadzorne i korektivne ovlasti nadležnih tijela. Ako se tijekom razvoja i testiranja takvih sustava uoče znatni rizici za zdravlje, sigurnost i temeljna prava, ti se rizici moraju odmah smanjiti, a ako to nije moguće, mora se prekinuti postupak razvoja i testiranja sve dok se oni ne smanje.
3. Regulatorna izolirana okruženja za umjetnu inteligenciju ne utječu na nadzorne i korektivne ovlasti nadležnih tijela, uključujući regionalnu i lokalnu razinu. Ako se tijekom razvoja i testiranja takvih UI sustava uoče znatni rizici za temeljna prava, demokraciju i vladavinu prava, zdravlje, sigurnost ili okoliš, ti se rizici moraju odmah i prikladno smanjiti. Nadležna tijela ovlaštena su privremeno ili trajno obustaviti postupak testiranja ili sudjelovanje u izoliranom okruženju ako učinkovito ublažavanje nije moguće te o toj odluci obavješćuju Ured za umjetnu inteligenciju;
4. U skladu s primjenjivim zakonodavstvom Unije i država članica o odgovornosti, sudionici regulatornog izoliranog okruženja za umjetnu inteligenciju i dalje su odgovorni za svaku štetu nanesenu trećim stranama koja je posljedica eksperimentiranja u izoliranom okruženju.
4. U skladu s primjenjivim zakonodavstvom Unije i država članica o odgovornosti, potencijalni dobavljači u regulatornom izoliranom okruženju za umjetnu inteligenciju i dalje su odgovorni za svaku štetu nanesenu trećim stranama koja je posljedica eksperimentiranja u izoliranom okruženju. Međutim, ako jedan ili više potencijalnih dobavljača poštuju posebni plan iz stavka 1.c i uvjete sudjelovanja te u dobroj vjeri slijede smjernice tijela nadležnih za uspostavu, tijela ne izriču administrativne kazne zbog povrede ove Uredbe;
5. Nadležna tijela država članica koja su uspostavila regulatorna izolirana okruženja za umjetnu inteligenciju koordiniraju svoje aktivnosti i surađuju u okviru Europskog odbora za umjetnu inteligenciju. Odboru i Komisiji podnose godišnja izvješća o rezultatima provedbe tih programa, uključujući dobre primjere iz prakse, stečena iskustva i preporuke za uspostavu tih programa te, prema potrebi, o primjeni ove Uredbe i drugog zakonodavstva Unije koje se prati u relevantnom izoliranom okruženju.
5. Tijela nadležna za uspostavu koordiniraju svoje aktivnosti i surađuju u okviru Ureda za umjetnu inteligenciju;
5.a Tijela za uspostavu obavješćuju Ured za umjetnu inteligenciju o uspostavi izoliranog okruženja te mogu zatražiti potporu i smjernice. Ured za umjetnu inteligenciju javno objavljuje i ažurira popis planiranih i postojećih izoliranih okruženja kako bi se potaknula veća interakcija u regulatornim izoliranim okruženjima i transnacionalna suradnja;
5.b Tijela za uspostavu dostavljaju Uredu za umjetnu inteligenciju i, osim ako je Komisija jedino osnivačko tijelo, Komisiji godišnja izvješća, počevši jednu godinu nakon uspostave izoliranog okruženja, a zatim svake godine do njegova završetka i završnog izvješća. U tim se izvješćima pružaju informacije o napretku i rezultatima provedbe tih izoliranih okruženja, uključujući najbolje primjere iz prakse, incidente, stečena iskustva i preporuke za uspostavu tih izoliranih okruženja te, prema potrebi, o primjeni i mogućoj reviziji ove Uredbe i ostalih zakonodavnih akata Unije koji se prate u relevantnom izoliranom okruženju. Ta godišnja izvješća ili njihovi sažeci stavljaju se na raspolaganje javnosti na internetu;
6. Modaliteti i uvjeti funkcioniranja regulatornih izoliranih okruženja za umjetnu inteligenciju, uključujući kriterije prihvatljivosti i postupak za podnošenje zahtjeva, odabir, sudjelovanje u izoliranom okruženju i izlazak iz njega, te prava i obveze sudionika utvrđuju se u provedbenim aktima. Ti provedbeni akti donose se u skladu s postupkom ispitivanja iz članka 74. stavka 2.
6. Komisija razvija jedinstveno i namjensko sučelje koje sadržava sve relevantne informacije povezane s izoliranim okruženjima, zajedno s jedinstvenom kontaktnom točkom na razini Unije radi interakcije s regulatornim izoliranim okruženjima i kako bi se dionicima omogućilo da podnesu upite nadležnim tijelima te da traže neobvezujuće smjernice u pogledu sukladnosti inovativnih proizvoda, usluga i poslovnih modela u koje su ugrađene tehnologije umjetne inteligencije;
Komisija se po potrebi proaktivno koordinira s nacionalnim, regionalnim i lokalnim tijelima;
6.a Za potrebe stavaka 1. i 1.a Komisija ima komplementarnu ulogu u okviru koje omogućuje državama članicama da iskoriste svoje stručno znanje te, s druge strane, pruža pomoć i osigurava tehničko razumijevanje i resurse državama članicama kojima su potrebne smjernice u pogledu uspostave i uporabe tih regulatornih izoliranih okruženja;
Amandman 505 Prijedlog uredbe Članak 53.a (novi)
Članak 53.a
Modaliteti i funkcioniranje regulatornih izoliranih okruženja za umjetnu inteligenciju
1. Kako bi se izbjegla fragmentacija u cijeloj Uniji, Komisija, uz savjetovanje s Uredom za umjetnu inteligenciju, donosi delegirani akt u kojemu se detaljno navode načini uspostave, razvoja, provedbe, funkcioniranja i nadzora regulatornih izoliranih okruženja za umjetnu inteligenciju, uključujući kriterije prihvatljivosti i postupak za primjenu, odabir, sudjelovanje i izlazak iz izoliranog okruženja te prava i obveze sudionika na temelju odredbi utvrđenih u ovom članku;
2. Komisija je ovlaštena donositi delegirane akte u skladu s postupkom ispitivanja iz članka 73. najkasnije 12 mjeseci od stupanja na snagu ove Uredbe te osigurava sljedeće:
a) regulatorna izolirana okruženja otvorena su svakom potencijalnom dobavljaču UI sustava koji se prijavljuje i koji ispunjava kriterije prihvatljivosti i odabira. Kriteriji za pristup regulatornom izoliranom okruženju moraju biti transparentni i pošteni, a tijela za uspostavu obavješćuju podnositelje zahtjeva o svojoj odluci u roku od tri mjeseca od podnošenja zahtjeva;
b) regulatorna izolirana okruženja omogućuju širok i jednak pristup te drže korak s potražnjom za sudjelovanjem;
c) pristup regulatornim izoliranim okruženjima za umjetnu inteligenciju besplatan je za MSP-ove i novoosnovana poduzeća bez dovođenja u pitanje izvanrednih troškova koje tijela za uspostavu mogu povratiti na pravedan i razmjeran način;
d) regulatorna izolirana okruženja olakšavaju sudjelovanje ostalih relevantnih aktera u ekosustavu umjetne inteligencije, kao što su prijavljena tijela i organizacije za normizaciju (MSP-ovi, novoosnovana poduzeća, poduzeća, inovatori, objekti za testiranje i eksperimentiranje, laboratoriji za istraživanje i eksperimentiranje te digitalnoinovacijski centri, centri izvrsnosti, pojedinačni istraživači), kako bi se omogućila i olakšala suradnja s javnim i privatnim sektorom;
e) potencijalnim dobavljačima omogućuju da u izoliranom okruženju ispune obveze u pogledu ocjenjivanja sukladnosti iz ove Uredbe ili da dobrovoljno primjenjuju kodekse ponašanja iz članka 69.;
f) postupci, procesi i administrativni uvjeti za podnošenje zahtjeva, odabir, sudjelovanje i izlazak iz izoliranog okruženja jednostavni su, lako razumljivi i jasno priopćeni kako bi se olakšalo sudjelovanje MSP-ova i novoosnovanih poduzeća s ograničenim pravnim i administrativnim kapacitetima te su pojednostavljeni u cijeloj Uniji kako bi se izbjegla rascjepkanost i kako bi se sudjelovanje u regulatornom izoliranom okruženju koje su uspostavili država članica, Komisija ili Europski nadzornik za zaštitu podataka uzajamno i ujednačeno priznavalo te kako bi imalo iste pravne učinke u cijeloj Uniji;
g) sudjelovanje u regulatornom izoliranom okruženju za umjetnu inteligenciju ograničeno je na razdoblje koje je primjereno složenosti i opsegu projekta;
h) izoliranim okruženjima olakšava se razvoj alata i infrastrukture za testiranje, usporedbu, procjenu i objašnjavanje dimenzija UI sustava koje su relevantne za izolirana okruženja, kao što su točnost, otpornost i kibersigurnost te smanjenje rizika za temeljna prava, okoliš i društvo u cjelini na najmanju moguću mjeru.
3. Potencijalnim dobavljačima u izoliranim okruženjima, posebno MSP-ovima i novoosnovanim poduzećima, olakšava se pristup uslugama prije uvođenja sustava, kao što su smjernice za provedbu ove Uredbe, ostalim uslugama s dodanom vrijednošću, kao što je pomoć u vezi s dokumentima o normizaciji te certificiranje i savjetovanje, kao i drugim inicijativama povezanima s jedinstvenim digitalnim tržištem kao što su objekti za testiranje i eksperimentiranje, digitalni centri, centri izvrsnosti i sposobnosti EU-a za ocjenjivanje prema referentnim vrijednostima;
Amandman 506 Prijedlog uredbe Članak 54. – naslov
Daljnja obrada osobnih podataka za razvoj određenih UI sustava u javnom interesu u regulatornom izoliranom okruženju za umjetnu inteligenciju
Daljnja obrada podataka za razvoj određenih UI sustava u javnom interesu u regulatornom izoliranom okruženju za umjetnu inteligenciju
1. Osobni podaci koji su zakonito prikupljeni u druge svrhe u regulatornom izoliranom okruženju za umjetnu inteligenciju obrađuju se za potrebe razvoja i testiranja određenih inovativnih UI sustava pod sljedećim uvjetima:
1. Osobni podaci koji su zakonito prikupljeni u druge svrhe u regulatornom izoliranom okruženju za umjetnu inteligenciju mogu se obrađivati samo za potrebe razvoja i testiranja određenih UI sustava ako su ispunjeni svi sljedeći uvjeti:
Amandman 508 Prijedlog uredbe Članak 54. – stavak 1. – točka a – uvodni dio
(a) dotični inovativni UI sustavi razvijaju se za zaštitu znatnog javnog interesa u jednom ili više sljedećih područja:
(a) predmetni UI sustavi razvijaju se za zaštitu znatnog javnog interesa u jednom ili više sljedećih područja:
ii. javna sigurnost i javno zdravlje, uključujući otkrivanje, dijagnosticiranje, sprečavanje, kontrolu i liječenje bolesti;
iii. visoka razina zaštite i poboljšanja kvalitete okoliša, zaštite bioraznolikosti, onečišćenja te ublažavanja klimatskih promjena i prilagodbe tim promjenama;
iii.a sigurnost i otpornost prometnih sustava, kritične infrastrukture i mreža.
Amandman 509 Prijedlog uredbe Članak 54. – stavak 1. – točka a – podtočka i.
i. sprečavanje, istraga, otkrivanje ili progon kaznenih djela ili izvršavanje kaznenopravnih sankcija, uključujući zaštitu od prijetnji javnoj sigurnosti i njihovo sprečavanje, pod kontrolom i odgovornošću nadležnih tijela. Obrada se temelji na pravu države članice ili Unije;
Briše se.
Amandman 510 Prijedlog uredbe Članak 54. – stavak 1. – točka c
(c) postoje djelotvorni mehanizmi praćenja kojima se utvrđuje mogu li se tijekom eksperimentiranja u izoliranom okruženju pojaviti bilo kakvi veliki rizici za temeljna prava ispitanika te mehanizmi za odgovor kojima se ti rizici mogu brzo smanjiti i, prema potrebi, zaustaviti obrada;
(c) postoje djelotvorni mehanizmi praćenja kojima se utvrđuje mogu li se tijekom eksperimentiranja u izoliranom okruženju pojaviti bilo kakvi veliki rizici za prava i slobode ispitanika iz članka 35. Uredbe (EU) 2016/679 i članka 35. Uredbe (EU) 2018/1725 te mehanizmi za odgovor kojima se ti rizici mogu brzo smanjiti i, prema potrebi, zaustaviti obrada;
Amandman 511 Prijedlog uredbe Članak 54. – stavak 1. – točka d
(d) svi osobni podaci koji se obrađuju u izoliranom okruženju nalaze se u funkcionalno odvojenom, izoliranom i zaštićenom okruženju za obradu podataka pod kontrolom sudionika i samo ovlaštene osobe imaju pristup tim podacima;
(d) svi osobni podaci koji se obrađuju u izoliranom okruženju nalaze se u funkcionalno odvojenom, izoliranom i zaštićenom okruženju za obradu podataka pod kontrolom potencijalnog dobavljača i samo ovlaštene osobe imaju pristup tim podacima;
Amandman 512 Prijedlog uredbe Članak 54. – stavak 1. – točka f
(f) obrada osobnih podataka u izoliranom okruženju ne smije dovesti do mjera ili odluka koje utječu na ispitanike;
(f) obrada osobnih podataka u izoliranom okruženju ne smije dovesti do mjera ili odluka koje utječu na ispitanike niti smije utjecati na ostvarivanje njihovih prava utvrđenih pravom Unije o zaštiti osobnih podataka;
Amandman 513 Prijedlog uredbe Članak 54. – stavak 1. – točka g
(g) osobni podaci koji se obrađuju u izoliranom okruženju brišu se nakon završetka sudjelovanja u izoliranom okruženju ili završetka razdoblja čuvanja osobnih podataka;
(g) osobni podaci koji se obrađuju u izoliranom okruženju zaštićeni su odgovarajućim tehničkim i organizacijskim mjerama i brišu se nakon završetka sudjelovanja u izoliranom okruženju ili završetka razdoblja čuvanja osobnih podataka;
Amandman 514 Prijedlog uredbe Članak 54. – stavak 1. – točka h
(h) dnevnici događaja u okviru obrade osobnih podataka u izoliranom okruženju čuvaju se tijekom razdoblja sudjelovanja u izoliranom okruženju i godinu dana nakon završetka sudjelovanja, isključivo u svrhu ispunjavanja obveza u pogledu odgovornosti i dokumentacije na temelju ovog članka ili drugog primjenjivog zakonodavstva Unije ili država članica te samo onoliko dugo koliko je potrebno za to;
(h) dnevnici događaja u okviru obrade osobnih podataka u izoliranom okruženju čuvaju se tijekom razdoblja sudjelovanja u izoliranom okruženju;
(j) na internetskim stranicama nadležnih tijela objavljuju se kratak sažetak projekta umjetne inteligencije razvijenog u izoliranom okruženju te njegovi ciljevi i očekivani rezultati.
(j) na internetskim stranicama nadležnih tijela objavljuju se kratak sažetak sustava umjetne inteligencije razvijenog u izoliranom okruženju te njegovi ciljevi, hipoteze i očekivani rezultati;
Amandman 516 Prijedlog uredbe Članak 54.a (novi)
Članak 54.a
Promicanje istraživanja i razvoja umjetne inteligencije kako bi se doprinijelo ostvarivanju rezultata koji pogoduju društvu i okolišu
1. Države članice promiču istraživanje i razvoj UI rješenja kojima se doprinosi ostvarivanju rezultata koji pogoduju društvu i okolišu, uključujući, bez ograničenja, razvoj rješenja utemeljenih na UI-ju kako bi se povećala pristupačnost za osobe s invaliditetom, smanjile socioekonomske nejednakosti i postigli ciljevi u području održivosti i zaštite okoliša:
(a) tako da se relevantnim projektima da prioritetan pristup regulatornim izoliranim okruženjima za umjetnu inteligenciju ako ispunjavaju uvjete prihvatljivosti;
(b) tako da se javna sredstva, među ostalim iz relevantnih fondova EU-a, odrede za istraživanje i razvoj umjetne inteligencije kako bi se doprinijelo ostvarivanju rezultata koji pogoduju društvu i okolišu;
(c) tako da se organiziraju posebne aktivnosti informiranja o primjeni ove Uredbe, raspoloživosti te postupcima primjene namjenskog financiranja, prilagođenog potrebama tih projekata;
(d) tako da se, ako je to primjereno, uvedu pristupačni namjenski kanali, među ostalim unutar izoliranog okruženja, za komunikaciju s projektima radi pružanja smjernica i odgovaranja na upite o provedbi ove Uredbe.
Države članice podupiru civilno društvo i socijalne dionike u vođenju takvih projekata ili sudjelovanju u njima;
Amandman 517 Prijedlog uredbe Članak 55. – naslov
Mjere za male dobavljače i korisnike
Mjere za MSP-ove, novoosnovana poduzeća i korisnike
Amandman 518 Prijedlog uredbe Članak 55. – stavak 1. – točka a
(a) malim dobavljačima i novoosnovanim poduzećima daju prioritetni pristup regulatornim izoliranim okruženjima za umjetnu inteligenciju ako ispunjavaju uvjete prihvatljivosti;
(a) MSP-ovima i novoosnovanim poduzećima s poslovnim nastanom u Uniji daju prioritetni pristup regulatornim izoliranim okruženjima za umjetnu inteligenciju ako ispunjavaju uvjete prihvatljivosti;
Amandman 519 Prijedlog uredbe Članak 55. – stavak 1. – točka b
(b) organiziraju posebne aktivnosti informiranja o primjeni ove Uredbe prilagođene potrebama malih dobavljača i korisnika;
(b) organiziraju posebne aktivnosti informiranja i razvoja boljih digitalnih vještina u vezi s primjenom ove Uredbe prilagođene potrebama MSP-ova, novoosnovanih poduzeća i korisnika;
Amandman 520 Prijedlog uredbe Članak 55. – stavak 1. – točka c
(c) ako je to primjereno, uvode namjenski kanal za komunikaciju s malim dobavljačima i korisnicima te drugim inovatorima radi pružanja smjernica i odgovaranja na upite o provedbi ove Uredbe.
(c) koriste postojeće namjenske kanale i, ako je to primjereno, uvode nove namjenske kanale za komunikaciju s MSP-ovima, novoosnovanim poduzećima, korisnicima i drugim inovatorima radi pružanja smjernica i odgovaranja na upite o provedbi ove Uredbe.
Amandman 521 Prijedlog uredbe Članak 55. – stavak 1. – točka ca (nova)
(ca) potiču sudjelovanje MSP-ova i drugih relevantnih dionika u procesu razvoja normizacije.
2. Pri određivanju naknada za ocjenjivanje sukladnosti u skladu s člankom 43. uzimaju se u obzir posebni interesi i potrebe malih dobavljača i naknade se smanjuju razmjerno njihovoj veličini i veličini tržišta.
2. Pri određivanju naknada za ocjenjivanje sukladnosti u skladu s člankom 43. uzimaju se u obzir posebni interesi i potrebe MSP-ova, novoosnovanih poduzeća i korisnika, a naknade se smanjuju razmjerno njihovoj fazi razvoja, veličini, veličini tržišta i potražnji na tržištu.Komisija redovito ocjenjuje troškove certifikacije i usklađivanja za MSP-ove i novoosnovana poduzeća, među ostalim transparentnim savjetovanjem s MSP-ovima, novoosnovanim poduzećima i korisnicima, te surađuje s državama članicama radi smanjenja takvih troškova kad je to moguće. Komisija o tim nalazima izvješćuje Europski parlament i Vijeće u okviru izvješća o ocjenjivanju i preispitivanju ove Uredbe iz članka 84. stavka 2.
1. Osniva se „Europski odbor za umjetnu inteligenciju” („Odbor”).
1. Ovime se osniva „Europski ured za umjetnu inteligenciju” („Ured za umjetnu inteligenciju”). Ured za umjetnu inteligenciju neovisno je tijelo Unije s pravnom osobnošću.
2.a Sjedište Ureda za umjetnu inteligenciju je u Bruxellesu.
Amandman 528 Prijedlog uredbe Članak 56.a (novi)
Članak 56.a
Struktura
Administrativnu i upravljačku strukturu Ureda za umjetnu inteligenciju čine:
(a) upravni odbor, uključujući predsjednika;
(b) tajništvo kojim upravlja izvršni direktor;
(c) savjetodavni forum.
Amandman 529 Prijedlog uredbe Članak 56.b (novi)
Članak 56.b
Zadaće Ureda za umjetnu inteligenciju
Ured za umjetnu inteligenciju obavlja sljedeće zadaće:
(a) podupire i savjetuje države članice, nacionalna nadzorna tijela, Komisiju i ostale institucije, tijela, urede i agencije Unije u pogledu provedbe ove Uredbe te s njima surađuje;
(b) prati i osigurava učinkovitu i dosljednu primjenu ove Uredbe ne dovodeći u pitanje zadaće nacionalnih nadzornih tijela;
(c) doprinosi koordinaciji među nacionalnim nadzornim tijelima odgovornima za primjenu ove Uredbe;
(d) posrednik je u raspravama o ozbiljnim neslaganjima među nadležnim tijelima u vezi s primjenom uredbe;
(e) koordinira zajedničke istrage u skladu s člankom 66.a;
(f) doprinosi učinkovitoj suradnji s nadležnim tijelima trećih zemalja i međunarodnim organizacijama;
(g) prikuplja i razmjenjuje stručno znanje i najbolje prakse država članica te pomaže nacionalnim nadzornim tijelima država članica i Komisiji u razvoju organizacijskog i tehničkog stručnog znanja potrebnog za provedbu ove Uredbe, među ostalim olakšavanjem uspostave i vođenja skupine stručnjaka Unije;
(h) razmatra, na vlastitu inicijativu ili na zahtjev svojeg upravljačkog odbora ili Komisije, pitanja koja se odnose na provedbu ove Uredbe te izdaje mišljenja, preporuke ili pisane doprinose, među ostalim u pogledu:
i. tehničkih specifikacija ili postojećih normi;
ii. smjernica Komisije;
iii. kodeksa ponašanja i njihove primjene, u bliskoj suradnji s industrijom i ostalim relevantnim dionicima;
iv. moguće revizije uredbe, pripreme delegiranih akata i mogućeg usklađivanja ove Uredbe s pravnim aktima navedenima u Prilogu II.;
v. trendova kao što su europska globalna konkurentnost u području umjetne inteligencije, prihvaćanje umjetne inteligencije u Uniji, razvoj digitalnih vještina i nove sustavne prijetnje povezane s umjetnom inteligencijom;
vi. smjernica o tome kako se ova Uredba primjenjuje na tipologiju vrijednosnih lanaca umjetne inteligencije koja se stalno razvija, posebno o posljedicama koje iz toga proizlaze u pogledu odgovornosti svih uključenih subjekata;
(i) izdaje:
i. godišnje izvješće koje sadrži evaluaciju provedbe ove Uredbe, preispitivanje izvješća o ozbiljnim incidentima iz članka 62. i funkcioniranje baze podataka iz članka 60. i
ii. preporuke Komisiji o kategorizaciji zabranjenih praksi, visokorizičnih UI sustava iz Priloga III., kodeksa ponašanja iz članka 69. i primjene općih načela navedenih u članku 4.a;
(j) pomaže tijelima pri uspostavi i razvoju regulatornih izoliranih okruženja i olakšava suradnju među regulatornim izoliranim okruženjima;
(k) organizira sastanke s agencijama i upravljačkim tijelima Unije čije su zadaće povezane s umjetnom inteligencijom i provedbom ove Uredbe;
(l) organizira tromjesečna savjetovanja sa savjetodavnim forumom i, prema potrebi, javna savjetovanja s ostalim dionicima te objavljuje rezultate tih savjetovanja na svojim internetskim stranicama;
(m) promiče javnu svijest o koristima, rizicima, zaštitnim mehanizmima te pravima i obvezama u vezi s uporabom UI sustava te njihovo razumijevanje;
(n) olakšava razvoj zajedničkih kriterija i zajedničko razumijevanje relevantnih koncepata predviđenih ovom Uredbom među tržišnim subjektima i nadležnim tijelima;
(o) prati temeljne modele i organizira redovit dijalog s razvojnim programerima temeljnih modela u pogledu njihove usklađenosti, kao i sustava umjetne inteligencije koji rabe takve UI modele;
(p) pruža interpretativne smjernice o tome kako se Akt o umjetnoj inteligenciji primjenjuje na tipologiju vrijednosnih lanaca umjetne inteligencije koja se stalno mijenja i o tome koje će posljedice u smislu odgovornosti svih uključenih subjekata biti u raznim scenarijima na temelju općepriznatih najnovijih dostignuća, među ostalim kako je navedeno u relevantnim usklađenim normama;
(q) osigurava poseban nadzor i praćenje te institucionalizira redovit dijalog s dobavljačima temeljnih modela o usklađenosti temeljnih modela i UI sustava koji rabe takve UI modele s člankom 28.b ove Uredbe te o najboljim industrijskim praksama za samoupravljanje. Svaki takav sastanak otvoren je za sudjelovanje i doprinos nacionalnih nadzornih tijela, prijavljenih tijela i tijela za nadzor tržišta;
(r) izdaje i redovito ažurira smjernice o pragovima na osnovi kojih se osposobljavanje temeljnog modela kvalificira kao velik ciklus učenja, bilježi i prati poznate velike cikluse učenja te izdaje godišnje izvješće o trenutačnom stanju u razvoju, širenju i uporabi temeljnih modela, zajedno s opcijama politike za uklanjanje rizika i mogućnosti specifične za temeljne modele;
(s) promiče pismenost u području umjetne inteligencije u skladu s člankom 4.b.
Amandman 530 Prijedlog uredbe Članak 56.c (novi)
Članak 56.c
Odgovornost, neovisnost i transparentnost
1. Ured za umjetnu inteligenciju:
a. odgovoran je Europskom parlamentu i Vijeću u skladu s ovom Uredbom;
b. djeluje neovisno pri obavljanju svojih zadaća ili izvršavanju svojih ovlasti te
c. osigurava visoku razinu transparentnosti u svojim aktivnostima i razvija dobru administrativnu praksu u tom pogledu.
Na dokumente koje čuva Ured za umjetnu inteligenciju primjenjuje se Uredba (EZ) br. 1049/2001.
(a) jednog predstavnika nacionalnog nadzornog tijela svake države članice;
(b) jednog predstavnika Komisije;
(c) jednog predstavnika Europskog nadzornika za zaštitu podataka;
(d) jednog predstavnika Agencije Europske unije za kibersigurnost (ENISA);
(e) jednog predstavnika Agencija za temeljna prava (FRA).
Svaki predstavnik nacionalnog nadzornog tijela ima jedan glas. Predstavnici Komisije, Europskog nadzornika za zaštitu podataka i Agencije za temeljna prava nemaju pravo glasa. Svaki član ima zamjenika. Pri imenovanju članova i zamjenika članova upravnog odbora uzima se u obzir potreba za rodnom ravnotežom. Imena članova upravnog odbora i njihovih zamjenika javno se objavljuju.
2. Članovi upravnog odbora i njihovi zamjenici ne smiju biti na položajima koji su u sukobu interesa niti smiju imati komercijalne interese u pogledu bilo koje teme povezane s primjenom ove Uredbe.
3. Pravila za sastanke i glasovanje upravnog odbora te imenovanje i razrješenje izvršnog direktora utvrđuju se poslovnikom navedenim u članku 57.b točki (a).
Amandman 533 Prijedlog uredbe Članak 57.b (novi)
Članak 57.b
Funkcije upravnog odbora
1. Upravni odbor ima sljedeće zadaće:
(a) donošenje strateških odluka o djelovanjima Ureda za umjetnu inteligenciju i donošenje svojeg poslovnika dvotrećinskom većinom članova;
(b) provedba svojeg poslovnika;
(c) donošenje jedinstvenog programskog dokumenta Ureda za umjetnu inteligenciju i usvajanje njegova godišnjeg javnog izvješća te dostavljanje obaju dokumenata Europskom parlamentu, Vijeću, Komisiji i Revizorskom sudu;
(d) donošenje proračuna Ureda za umjetnu inteligenciju;
(e) imenovanje izvršnog direktora i po potrebi produljuje ili ograničavanje njegova mandata ili razrješenje dužnosti izvršnog direktora;
(f) odlučivanje o uspostavi unutarnjih struktura Ureda za umjetnu inteligenciju i po potrebi o njihovim izmjenama potrebnima za ispunjavanje zadaća Ureda za umjetnu inteligenciju;
Amandman 534 Prijedlog uredbe Članak 57.c (novi)
Članak 57.c
Predsjednik upravnog odbora
1. Upravni odbor izabire predsjednika i dva zamjenika predsjednika iz redova svojih članova s pravom glasa običnom većinom glasova.
2. Mandat predsjednika i zamjenika predsjednika traje četiri godine. Mandat predsjednika i zamjenika predsjednika može se produljiti jedanput.
1. Odbor se sastoji od nacionalnih nadzornih tijela, koja predstavljaju voditelji ili ekvivalentni visoki dužnosnici tih tijela, i Europskog nadzornika za zaštitu podataka.Na sastanke se mogu pozvati druga nacionalna tijela ako se raspravlja o pitanjima koja su im važna.
1. Aktivnostima tajništva upravlja izvršni direktor.Izvršni direktor odgovara upravnom odboru. Ne dovodeći u pitanje ovlasti upravnog odbora i institucija Unije, izvršni direktor ne traži niti prima upute ni od jedne vlade ni od bilo kojeg drugog tijela.
2. Na temelju suglasnosti Komisije Odbor usvaja svoj poslovnik običnom većinom članova. Poslovnik sadržava i operativne aspekte povezane s izvršavanjem zadaća Odbora navedenih u članku 58.Odbor prema potrebi može osnovati podskupine za razmatranje konkretnih pitanja.
2. Izvršni direktor prisustvuje saslušanjima o svim pitanjima povezanima s aktivnostima Ureda za umjetnu inteligenciju i na poziv Europskog parlamenta ili Vijeća izvješćuje o obnašanju dužnosti izvršnog direktora.
3. Odborom predsjeda Komisija. Komisija saziva sastanke i priprema dnevni red u skladu sa zadaćama Odbora na temelju ove Uredbe i s poslovnikom Odbora. Komisija pruža administrativnu i analitičku podršku aktivnostima Odbora na temelju ove Uredbe.
3. Izvršni direktor predstavlja Ured za umjetnu inteligenciju, među ostalim na međunarodnim forumima za suradnju u području umjetne inteligencije;
4. Odbor na svoje sastanke može pozvati vanjske stručnjake i promatrače te može razmjenjivati informacije sa zainteresiranim trećim stranama radi obavješćivanja o svojim aktivnostima, koliko je to primjereno. U tu svrhu Komisija može olakšati razmjenu informacija između Odbora i drugih tijela, ureda, agencija i savjetodavnih skupina Unije.
4. Tajništvo upravnom odboru i savjetodavnom forumu pruža analitičku, administrativnu i logističku potporu potrebnu za obavljanje zadaća Ureda za umjetnu inteligenciju, među ostalim tako što:
(a) provodi odluke, programe i aktivnosti koje donese upravni odbor;
(b) svake godine priprema nacrt jedinstvenog programskog dokumenta, nacrt proračuna, godišnje izvješće o radu Ureda za umjetnu inteligenciju, nacrte mišljenja i nacrte stajališta Ureda za umjetnu inteligenciju te ih podnosi upravnom odboru;
(c) koordinira s međunarodnim forumima za suradnju u području umjetne inteligencije;
Pri pružanju savjeta i pomoći Komisiji u kontekstu članka56. stavka 2. Odbor posebno:
Savjetodavni forum Uredu za umjetnu inteligenciju pruža doprinos dionika u pitanjima povezanima s ovom Uredbom, posebno u pogledu zadaća iz članka 56.b točke (l).
Članove savjetodavnog foruma čine ujednačeno odabrani dionici, uključujući industriju, novoosnovana poduzeća, MSP-ove, civilno društvo, socijalne partnere i akademsku zajednicu. Članstvo u savjetodavnom forumu mora biti ujednačeno u pogledu komercijalnih i nekomercijalnih interesa te, unutar kategorije komercijalnih interesa, u pogledu MSP-ova i ostalih poduzeća.
Upravni odbor imenuje članove savjetodavnog foruma u skladu s postupkom odabira utvrđenim u poslovniku Ureda za umjetnu inteligenciju, uzimajući u obzir potrebu za transparentnošću i u skladu s kriterijima utvrđenima u stavku 2.;
Europski odbor za normizaciju (CEN), Europski odbor za elektrotehničku normizaciju (CENELEC) i Europski institut za telekomunikacijske norme (ETSI) stalni su članovi savjetodavnog foruma. Zajednički istraživački centar stalni je član bez prava glasa.
Savjetodavni forum sastavlja svoj poslovnik. Forum bira dva supredsjednika među svojim članovima, u skladu s kriterijima utvrđenima u stavku 2. Mandat supredsjednika traje dvije godine i može se produljiti jednom.
Savjetodavni forum održava sastanke najmanje četiri puta godišnje. Savjetodavni forum na svoje sastanke može pozvati stručnjake i ostale dionike. Izvršni direktor može prisustvovati sastancima savjetodavnog foruma po službenoj dužnosti.
Europska tijela za ocjenjivanje prema referentnim vrijednostima
Amandman 552 Prijedlog uredbe Članak 58.a (novi)
Članak 58.a
Ocjenjivanje prema referentnim vrijednostima
Europska tijela za ocjenjivanje prema referentnim vrijednostima iz članka 15. stavka 1.a i Ured za umjetnu inteligenciju, u bliskoj suradnji s međunarodnim partnerima, zajednički razvijaju troškovno učinkovite smjernice i kapacitete za mjerenje aspekata UI sustava i UI komponenti, a posebno temeljnih modela relevantnih za usklađenost i provedbu ove Uredbe na temelju općepriznatih najnovijih dostignuća, te za njihovo ocjenjivanje prema referentnim vrijednostima, među ostalim kako je navedeno u relevantnim usklađenim normama.
1. Svaka država članica osniva ili imenuje nacionalna nadležna tijela koja će biti zadužena za primjenu i provedbu ove Uredbe.Nacionalna nadležna tijela moraju se organizirati tako da budu zajamčene objektivnost i nepristranost njihovih aktivnosti i zadaća.
1. Svaka država članica do ... [tri mjeseca nakon stupanja na snagu ove Uredbe] imenuje jedno nacionalno nadzorno tijelo, koje se mora organizirati tako da budu zajamčene objektivnost i nepristranost njegovih aktivnosti i zadaća.
2. Svaka država članica među nacionalnim nadležnim tijelima imenuje jedno nacionalno nadzorno tijelo. Nacionalno nadzorno tijelo djeluje kao tijelo koje provodi prijavljivanje i tijelo za nadzor tržišta, osim ako država članica ima organizacijske i administrativne razloge za imenovanje više tijela.
2. Nacionalno nadzorno tijelo osigurava primjenu i provedbu ove Uredbe. U pogledu visokorizičnih UI sustava, u vezi s proizvodima na koje se primjenjuju pravni akti iz Priloga II., nadležna tijela imenovana u skladu s tim pravnim aktima i dalje vode administrativne postupke. Međutim, u mjeri u kojoj slučaj obuhvaća aspekte koji su isključivo obuhvaćeni ovom Uredbom ta nadležna tijela obvezuju se mjerama povezanima s tim aspektima koje izdaje nacionalno nadzorno tijelo imenovano u skladu s ovom Uredbom. Nacionalno nadzorno tijelo djeluje kao tijelo koje provodi prijavljivanje i tijelo za nadzor tržišta.
3. Države članice obavješćuju Komisiju o imenovanom tijelu ili tijelima i, prema potrebi, razlozima za imenovanje više tijela.
3. Države članice do ... [tri mjeseca nakon stupanja na snagu ove Uredbe] javno objavljuju i priopćuju Odboru za umjetnu inteligenciju i Komisiji naziv svojeg nacionalnog nadzornog tijela i informacije o tome kako se s njime može stupiti u kontakt. Nacionalno nadzorno tijelo djeluje kao jedinstvena kontaktna točka za ovu Uredbu i trebalo bi biti dostupno preko elektroničkih komunikacijskih sredstava.
4. Države članice osiguravaju da nacionalna nadležna tijela imaju dostatne financijske i ljudske resurse za obavljanje svojih zadaća u skladu s ovom Uredbom. Konkretno, nacionalna nadležna tijela moraju imati dovoljno stalno raspoloživog osoblja čije kompetencije i stručno znanje obuhvaćaju temeljito razumijevanje tehnologija umjetne inteligencije, podataka i obrade podataka, temeljnih prava i rizika za zdravlje i sigurnost te poznavanje postojećih normi i pravnih zahtjeva.
4. Države članice osiguravaju da nacionalno nadzorno tijelo ima dostatne tehničke, financijske i ljudske resurse te infrastrukturu za učinkovito obavljanje svojih zadaća u skladu s ovom Uredbom. Konkretno, nacionalno nadzorno tijelo mora imati dovoljno stalno raspoloživog osoblja čije kompetencije i stručno znanje obuhvaćaju temeljito razumijevanje tehnologija umjetne inteligencije, podataka i obrade podataka, zaštite osobnih podataka, kibersigurnosti, prava u području tržišnog natjecanja, temeljnih prava i rizika za zdravlje i sigurnost te poznavanje postojećih normi i pravnih zahtjeva. Države članice, ako to smatraju potrebnim, jednom godišnje ocjenjuju i ažuriraju zahtjeve u pogledu kompetencija i resursa iz ovog stavka.
4.a Svako nacionalno nadzorno tijelo izvršava svoje ovlasti i obnaša dužnosti neovisno, pošteno i nepristrano. Pri obnašanju svojih dužnosti i izvršavanju ovlasti u skladu s ovom Uredbom članovi svakog nacionalnog nadzornog tijela ne smiju tražiti ni primati upute ni od kojeg drugog tijela te se moraju suzdržati od svakog djelovanja koje nije u skladu s njihovim dužnostima.
4.b Nacionalna nadzorna tijela ispunjavaju minimalne kibersigurnosne zahtjeve utvrđene za subjekte javne uprave koji su utvrđeni kao operateri ključnih usluga u skladu s Direktivom (EU) 2022/2555.
5. Države članice jednom godišnje izvješćuju Komisiju o stanju financijskih i ljudskih resursa nacionalnih nadležnih tijela i pritom ocjenjuju njihovu dostatnost. Komisija te informacije prosljeđuje Odboru radi rasprave i utvrđivanja mogućih preporuka.
5. Države članice jednom godišnje izvješćuju Komisiju o stanju financijskih i ljudskih resursa nacionalnog nadzornog tijela i pritom ocjenjuju njihovu dostatnost. Komisija te informacije prosljeđuje Uredu za umjetnu inteligenciju radi rasprave i utvrđivanja mogućih preporuka.
7. Nacionalna nadležna tijela mogu pružati smjernice i savjete o provedbi ove Uredbe, među ostalim i malim dobavljačima. Ako nacionalna nadležna tijela namjeravaju pružiti smjernice i savjete za određeni UI sustav iz područja obuhvaćenih drugim zakonodavstvom Unije, prema potrebi se savjetuju s nadležnim nacionalnim tijelima u skladu s tim drugim zakonodavstvom Unije. Osim toga, države članice mogu uspostaviti jednu središnju kontaktnu točku za komunikaciju s operaterima.
7. Nacionalna nadzorna tijela mogu pružati smjernice i savjete o provedbi ove Uredbe, među ostalim i MSP-ovima i novoosnovanim poduzećima, uzimajući u obzir smjernice i savjete Ureda za umjetnu inteligenciju ili Komisije. Ako nacionalno nadzorno tijelo namjerava pružiti smjernice i savjete za određeni UI sustav iz područja obuhvaćenih drugim zakonodavstvom Unije, te se smjernice prema potrebi sastavljaju uz savjetovanje s nadležnim nacionalnim tijelima u skladu s tim drugim zakonodavstvom Unije.
8. Ako područje primjene ove Uredbe obuhvaća institucije, agencije i tijela Unije, Europski nadzornik za zaštitu podataka djeluje kao tijelo nadležno za njihov nadzor.
8. Ako područje primjene ove Uredbe obuhvaća institucije, agencije i tijela Unije, Europski nadzornik za zaštitu podataka djeluje kao tijelo nadležno za njihov nadzor i koordinaciju.
Amandman 565 Prijedlog uredbe Članak 59.a (novi)
Članak 59.a
Mehanizam suradnje nacionalnih nadzornih tijela u slučajevima koji uključuju dvije ili više država članica
1. Svako nacionalno nadzorno tijelo obavlja svoje zadaće i izvršava ovlasti koje su mu dodijeljene u skladu s ovom Uredbom na državnom području vlastite države članice.
2. U slučaju koji uključuje dva nacionalna nadzorna tijela ili više njih nacionalno nadzorno tijelo države članice u kojoj je došlo do kršenja smatra se vodećim nadzornim tijelom.
3. U slučajevima iz stavka 2. relevantna nadzorna tijela surađuju i pravodobno razmjenjuju sve relevantne informacije. Nacionalna nadzorna tijela surađuju kako bi se postigao konsenzus.
Amandman 566 Prijedlog uredbe Glava VII.
VII. BAZA PODATAKA EU-a ZA SAMOSTALNE VISOKORIZIČNE UI SUSTAVE
BAZA PODATAKA EU-a ZA VISOKORIZIČNE UI SUSTAVE
Amandman 567 Prijedlog uredbe Članak 60. – naslov
Baza podataka EU-a za samostalne visokorizične UI sustave
1. Komisija u suradnji s državama članicama uspostavlja i vodi bazu podataka EU-a koja sadržava informacije iz stavka 2. o visokorizičnim UI sustavima iz članka 6. stavka 2. koji su registrirani u skladu s člankom 51.
1. Komisija u suradnji s državama članicama uspostavlja i vodi javnu bazu podataka EU-a koja sadržava informacije iz stavaka 2. i 2.a o visokorizičnim UI sustavima iz članka 6. stavka 2. koji su registrirani u skladu s člankom 51.
2.a Podatke navedene u Prilogu VIII. Odjeljku B u bazu podataka EU-a unose subjekti koji primjenjuju sustav i koji su javna tijela ili institucije, tijela, uredi ili agencije Unije, ili koji djeluju u njihovo ime, ili subjekti koji primjenjuju sustav i koji su poduzeća navedena u članku 51. stavcima 1.a i 1.b.
3. Informacije unesene u bazu podataka EU-a dostupne su javnosti.
3. Informacije unesene u bazu podataka EU-a besplatno su dostupne javnosti, prilagođene korisnicima i pristupačne, mogu se lako pretraživati i strojno su čitljive te sadržavaju strukturirane digitalne podatke utemeljene na standardiziranom protokolu.
4. Baza podataka EU-a sadržava osobne podatke samo u mjeri u kojoj je to potrebno za prikupljanje i obradu informacija u skladu s ovom Uredbom. Te informacije obuhvaćaju imena i kontaktne podatke pojedinaca koji su odgovorni za registraciju sustava i koji imaju pravnu ovlast za zastupanje dobavljača.
4. Baza podataka EU-a sadržava osobne podatke samo u mjeri u kojoj je to potrebno za prikupljanje i obradu informacija u skladu s ovom Uredbom. Te informacije obuhvaćaju imena i kontaktne podatke pojedinaca koji su odgovorni za registraciju sustava i koji imaju pravnu ovlast za zastupanje dobavljača ili subjekta koji primjenjuje sustav i koji je javno tijelo ili institucija, tijelo, ured ili agencija Unije, ili djeluje u njihovo ime, ili subjekta koji primjenjuje sustav i koji je poduzeće navedeno u članku 51. stavku 1.a točki (b) i stavku 1.b.
5. Komisija je nadzornik baze podataka EU-a. Osim toga, ona dobavljačima osigurava primjerenu tehničku i administrativnu podršku.
5. Komisija je nadzornik baze podataka EU-a. Osim toga, ona dobavljačima i subjektima koji primjenjuju UI sustav osigurava primjerenu tehničku i administrativnu podršku.
Baza podataka mora biti usklađena sa zahtjevima u pogledu pristupačnosti iz Priloga I. Direktivi (EU) 2019/882.
2. Sustavom praćenja nakon stavljanja na tržište aktivno se i sustavno prikupljaju, dokumentiraju i analiziraju relevantni podaci koje su dostavili korisnici ili koji su prikupljeni iz drugih izvora o sposobnosti visokorizičnih UI sustava tijekom njihova životnog vijeka te dobavljaču omogućuje da evaluira kontinuiranu usklađenost UI sustava sa zahtjevima iz glave III. poglavlja 2.
2. Sustavom praćenja nakon stavljanja na tržište aktivno se i sustavno prikupljaju, dokumentiraju i analiziraju relevantni podaci koje su dostavili subjekti koji primjenjuju sustav ili koji su prikupljeni iz drugih izvora o sposobnosti visokorizičnih UI sustava tijekom njihova životnog vijeka te dobavljaču omogućuje da evaluira kontinuiranu usklađenost UI sustava sa zahtjevima iz glave III. poglavlja 2. Praćenje nakon stavljanja na tržište prema potrebi uključuje analizu interakcije s okružjem drugih UI sustava, uključujući druge uređaje i softver, uzimajući u obzir pravila primjenjiva u područjima kao što su zaštita podataka, prava intelektualnog vlasništva i pravo tržišnog natjecanja.
3. Sustav praćenja nakon stavljanja na tržište temelji se na planu praćenja nakon stavljanja na tržište. Plan praćenja nakon stavljanja na tržište dio je tehničke dokumentacije iz Priloga IV. Komisija mora donijeti provedbeni akt s detaljnim odredbama kojima se utvrđuje predložak za plan praćenja nakon stavljanja na tržište i popis elemenata koje treba uključiti u plan.
3. Sustav praćenja nakon stavljanja na tržište temelji se na planu praćenja nakon stavljanja na tržište. Plan praćenja nakon stavljanja na tržište dio je tehničke dokumentacije iz Priloga IV. Komisija mora donijeti provedbeni akt s detaljnim odredbama kojima se utvrđuje predložak za plan praćenja nakon stavljanja na tržište i popis elemenata koje treba uključiti u plan do [12 mjeseci nakon stupanja na snagu ove Uredbe].
Amandman 576 Prijedlog uredbe Članak 62. – naslov
Prijavljivanje ozbiljnih incidenata i neispravnosti
1. Dobavljači visokorizičnih UI sustava stavljenih na tržište Unije tijelima za nadzor tržišta država članica u kojima je došlo do incidenta ili kršenja prijavljuju svaki ozbiljni incident ili neispravnost tih sustava koji čini kršenje obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava.
1. Dobavljači i subjekti koji primjenjuju visokorizični UI sustav stavljen na tržište Unije, ako su oni utvrdili ozbiljan incident, nacionalnom nadzornom tijelu država članica u kojima je došlo do incidenta ili kršenja prijavljuju svaki ozbiljan incident tih sustava koji čini kršenje obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava.
Takva se prijava radi čim dobavljač utvrdi uzročnu povezanost između UI sustava i incidenta ili neispravnosti ili razumnu vjerojatnost takve povezanosti, a u svakom slučaju najkasnije 15dana nakon što dobavljač sazna za ozbiljan incident ili neispravnost.
Takva se prijava radi bez nepotrebne odgode nakon što dobavljač ili, ako je primjenjivo, subjekt koji primjenjuje sustav utvrdi uzročnu povezanost između UI sustava i incidenta ili razumnu vjerojatnost takve povezanosti, a u svakom slučaju najkasnije 72sata nakon što dobavljač ili, ako je primjenjivo, subjekt koji primjenjuje sustav sazna za ozbiljan incident.
1.a Nakon utvrđivanja uzročne povezanosti između UI sustava i ozbiljnog incidenta ili razumne vjerojatnosti takve povezanosti dobavljači poduzimaju odgovarajuće korektivne mjere u skladu s člankom 21.
2. Nakon primitka prijave u vezi s kršenjem obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava, tijelo za nadzor tržišta o tome obavješćuje nacionalna tijela javne vlasti ili javnopravna tijela iz članka 64. stavka 3. Komisija izrađuje namjenske smjernice za lakše ispunjavanje obveza iz stavka 1. Te se smjernice izdaju najkasnije 12 mjeseci nakon stupanja na snagu ove Uredbe.
2. Nakon primitka prijave u vezi s kršenjem obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava, nacionalno nadzorno tijelo o tome obavješćuje nacionalna tijela javne vlasti ili javnopravna tijela iz članka 64. stavka 3. Komisija izrađuje namjenske smjernice za lakše ispunjavanje obveza iz stavka 1. Te se smjernice izdaju do [stupanje na snagu ove Uredbe] i redovito se ocjenjuju.
2.a Nacionalno nadzorno tijelo poduzima odgovarajuće mjere u roku od sedam dana od datuma primitka obavijesti iz stavka 1. Ako se povreda dogodi ili je vjerojatno da će se dogoditi u drugim državama članicama, nacionalno nadzorno tijelo o tome obavješćuje Ured za umjetnu inteligenciju i relevantna nacionalna nadzorna tijela tih država članica.
3. Za visokorizične UI sustave iz točke 5. podtočke (b) Priloga III. koje na tržište ili u uporabu stavljaju dobavljači koji su kreditne institucije regulirane Direktivom 2013/36/EU i za visokorizične UI sustave koji su sigurnosni sastavni dijelovi proizvoda ili su sami proizvodi obuhvaćeni Uredbom (EU) 2017/745 i Uredbom (EU) 2017/746, prijava ozbiljnih incidenata ili neispravnosti ograničava se na one koji čine kršenje obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava.
3. Za visokorizične UI sustave iz Priloga III. koje na tržište ili u uporabu stavljaju dobavljači koji podliježu zakonodavnim instrumentima Unije kojima se utvrđuju obveze u pogledu izvješćivanja jednakovrijedne onima koje su utvrđene u ovoj Uredbi, prijava ozbiljnih incidenata koji čine kršenje temeljnih prava u skladu s pravom Unije prenosi se na nacionalno nadzorno tijelo.
3.a Nacionalna nadzorna tijela jednom godišnje obavješćuju Ured za umjetnu inteligenciju o ozbiljnim incidentima koji su im prijavljeni u skladu s ovim člankom.
1. Uredba (EU) 2019/1020 primjenjuje se na UI sustave obuhvaćene ovom Uredbom. Međutim, u svrhu djelotvornog izvršenja ove Uredbe:
1. Uredba (EU) 2019/1020 primjenjuje se na UI sustave i temeljne modele obuhvaćene ovom Uredbom. Međutim, u svrhu djelotvornog izvršenja ove Uredbe:
Amandman 585 Prijedlog uredbe Članak 63. – stavak 1. – točka ba (nova)
(ba) nacionalna nadzorna tijela djeluju kao tijela za nadzor tržišta u skladu s ovom Uredbom i imaju iste ovlasti i obveze kao i tijela za nadzor tržišta na temelju Uredbe (EU) 2019/1020.
2. Nacionalno nadzorno tijelo redovito izvješćuje Komisiju o ishodima relevantnih aktivnosti nadzora tržišta. Nacionalno nadzorno tijelo bez odgode dostavlja Komisiji i relevantnim nacionalnim tijelima za tržišno natjecanje sve informacije utvrđene tijekom aktivnosti nadzora tržišta koje bi mogle biti od interesa za primjenu prava Unije o tržišnom natjecanju.
2. Nacionalno nadzorno tijelo jednom godišnje izvješćuje Komisiju i Ured za umjetnu inteligenciju o ishodima relevantnih aktivnosti nadzora tržišta. Nacionalno nadzorno tijelo bez odgode dostavlja Komisiji i relevantnim nacionalnim tijelima za tržišno natjecanje sve informacije utvrđene tijekom aktivnosti nadzora tržišta koje bi mogle biti od interesa za primjenu prava Unije o tržišnom natjecanju.
3.a Kako bi se osigurala učinkovita provedba ove Uredbe, nacionalna nadzorna tijela mogu:
(a) provoditi nenajavljene inspekcije visokorizičnih UI sustava na licu mjesta i na daljinu;
(b) prikupljati uzorke povezane s visokorizičnim UI sustavima, među ostalim inspekcijama na daljinu, kako bi se primijenio obrnuti inženjering UI sustava i prikupili dokazi za utvrđivanje nesukladnosti.
5. Za UI sustave navedene u točki 1. podtočki (a), ako se ti sustavi upotrebljavaju za kazneni progon, te točkama 6. i 7. Priloga III., države članice za potrebe ove Uredbe kao tijela za nadzor tržišta imenuju ili nadležna nadzorna tijela za zaštitu podataka na temelju Direktive (EU) 2016/680 ili Uredbe 2016/679 ili nacionalna nadležna tijela koja nadziru aktivnosti tijela kaznenog progona, tijela za imigraciju ili tijela za azil koja stavljaju u uporabu ili koriste te sustave.
5. Za UI sustave koji se upotrebljavaju za kazneni progon države članice za potrebe ove Uredbe kao tijela za nadzor tržišta imenuju nadležna nadzorna tijela za zaštitu podataka na temelju Direktive (EU) 2016/680.
7. Države članice olakšavaju koordinaciju između tijela za nadzor tržišta imenovanih na temelju ove Uredbe i drugih relevantnih nacionalnih tijela koja nadziru primjenu zakonodavstva Unije o usklađivanju iz Priloga II. ili drugog zakonodavstva Unije koje bi moglo biti relevantno za visokorizične UI sustave iz Priloga III.
7. Nacionalna nadzorna tijela imenovana na temelju ove Uredbe koordiniraju s drugim relevantnim nacionalnim tijelima koja nadziru primjenu zakonodavstva Unije o usklađivanju iz Priloga II. ili drugog zakonodavstva Unije koje bi moglo biti relevantno za visokorizične UI sustave iz Priloga III.
1. Tijelima za nadzor tržišta odobrava se, u kontekstu njihovih aktivnosti, potpuni pristup skupovima podataka za učenje, validaciju i testiranje koje je dobavljač koristio, među ostalim putem aplikacijskih programskih sučelja („API”) ili drugih odgovarajućih tehničkih sredstava i alata koji omogućuju daljinski pristup.
1. Nacionalnom nadzornom tijelu odobrava se, u kontekstu njegovih aktivnosti i na obrazložen zahtjev, potpun pristup skupovima podataka za učenje, validaciju i testiranje koje je koristio dobavljač, ili kad je to relevantno subjekt koji primjenjuje sustav, a koji su relevantni i nužno potrebni u svrhu njegova zahtjeva preko odgovarajućih tehničkih sredstava i alata.
2. Ako je to potrebno za ocjenjivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz glave III. poglavlja 2., tijelima za nadzor tržišta na obrazložen se zahtjev odobrava pristup izvornom kodu UI sustava.
2. Ako je to potrebno za ocjenjivanje sukladnosti visokorizičnog UI sustava sa zahtjevima iz glave III. poglavlja 2., nakon što su svi ostali razumni načini provjere sukladnosti, uključujući stavak 1., iscrpljeni i pokazali su se nedostatnima te na obrazložen zahtjev, nacionalnom nadzornom tijelu odobrava se pristup osposobljavanju i poučenim modelima UI sustava, uključujući njegove relevantne parametre modela. Sa svim dobivenim informacijama u skladu s člankom 70. postupa se kao s povjerljivim informacijama i one podliježu postojećem pravu Unije u području zaštite intelektualnog vlasništva i poslovnih tajni te se brišu nakon završetka istrage za koju su zatražene.
3. Nacionalna tijela javne vlasti ili javnopravna tijela koja nadziru ili izvršavaju poštovanje obveza na temelju prava Unije kojima se štite temeljna prava u pogledu uporabe visokorizičnih UI sustava iz Priloga III. ovlaštena su zatražiti i pristupiti svakoj dokumentaciji izrađenoj ili vođenoj na temelju ove Uredbe kada je pristup toj dokumentaciji potreban za ispunjavanje nadležnosti na temelju njihova mandata unutar okvira njihove jurisdikcije. Relevantno tijelo javne vlasti ili javnopravno tijelo obavješćuje tijelo za nadzor tržišta dotične države članice o svakom takvom zahtjevu.
3. Nacionalna tijela javne vlasti ili javnopravna tijela koja nadziru ili izvršavaju poštovanje obveza na temelju prava Unije kojima se štite temeljna prava u pogledu uporabe visokorizičnih UI sustava iz Priloga III. ovlaštena su zatražiti i pristupiti svakoj dokumentaciji izrađenoj ili vođenoj na temelju ove Uredbe kada je pristup toj dokumentaciji potreban za ispunjavanje nadležnosti na temelju njihova mandata unutar okvira njihove jurisdikcije. Relevantno tijelo javne vlasti ili javnopravno tijelo obavješćuje nacionalno nadzorno tijelo predmetne države članice o svakom takvom zahtjevu.
4. Najkasnije tri mjeseca nakon stupanja na snagu ove Uredbe svaka država članica mora odrediti tijela javne vlasti ili javnopravna tijela iz stavka 3. i objaviti popis na internetskoj stranici nacionalnog nadzornog tijela. Države članice dostavljaju taj popis Komisiji i svim drugim državama članicama te ga ažuriraju.
4. Najkasnije tri mjeseca nakon stupanja na snagu ove Uredbe svaka država članica mora odrediti tijela javne vlasti ili javnopravna tijela iz stavka 3. i objaviti popis na internetskoj stranici nacionalnog nadzornog tijela. Nacionalna nadzorna tijela dostavljaju taj popis Komisiji, Uredu za umjetnu inteligenciju i svim drugim nacionalnim nadzornim tijelima te ga ažuriraju. Komisija na posebnoj internetskoj stranici objavljuje popis svih nadležnih tijela koja su države članice imenovale u skladu s ovim člankom.
5. Ako dokumentacija iz stavka 3. nije dovoljna za utvrđivanje je li došlo do kršenja obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava, tijelo javne vlasti ili javnopravno tijelo iz stavka 3. može tijelu za nadzor tržišta podnijeti obrazloženi zahtjev za organiziranje testiranja visokorizičnog UI sustava tehničkim sredstvima. Tijelo za nadzor tržišta organizira testiranje uz blisku suradnju tijela javne vlasti ili javnopravnog tijela koje je podnijelo zahtjev u razumnom roku nakon podnošenja zahtjeva.
5. Ako dokumentacija iz stavka 3. nije dovoljna za utvrđivanje je li došlo do kršenja obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava, tijelo javne vlasti ili javnopravno tijelo iz stavka 3. može nacionalnom nadzornom tijelu podnijeti obrazloženi zahtjev za organiziranje testiranja visokorizičnog UI sustava tehničkim sredstvima. Nacionalno nadzorno tijelo organizira testiranje uz blisku suradnju tijela javne vlasti ili javnopravnog tijela koje je podnijelo zahtjev u razumnom roku nakon podnošenja zahtjeva.
1. UI sustavi koji predstavljaju rizik smatraju se proizvodom koji predstavlja rizik definiranim u članku 3. točki 19. Uredbe (EU) 2019/1020 s obzirom na rizike za zdravlje ili sigurnost ili zaštitu temeljnih prava osoba.
1. UI sustavi koji predstavljaju rizik smatraju se UI sustavima s potencijalnim nepovoljnim učinkom na zdravlje i sigurnost, temeljna prava osoba općenito, među ostalim na radnom mjestu, zaštitu potrošača, okoliš, javnu sigurnost, demokraciju ili vladavinu prava te ostale javne interese zaštićene primjenjivim zakonodavstvom Unije o usklađivanju u razmjeru koji premašuje onaj koji se smatra razumnim i prihvatljivim u odnosu na namjenu sustava ili u uobičajenim ili razumno predvidljivim uvjetima uporabe sustava, uključujući trajanje uporabe i po potrebi njegovo stavljanje u uporabu te zahtjeve u pogledu instalacije i održavanja.
2. Ako tijelo za nadzor tržišta države članice ima dovoljno razloga smatrati da UI sustav predstavlja rizik iz stavka 1., ono evaluira usklađenost dotičnog UI sustava sa svim zahtjevima i obvezama utvrđenima u ovoj Uredbi. Osim toga, ako postoje rizici za zaštitu temeljnih prava, tijelo za nadzor tržišta obavješćuje relevantna nacionalna tijela javne vlasti ili javnopravna tijela iz članka 64. stavka 3. Relevantni operateri prema potrebi surađuju s tijelima za nadzor tržišta i drugim nacionalnim tijelima javne vlasti ili javnopravnim tijelima iz članka 64. stavka 3.
2. Ako nacionalno nadzorno tijelo države članice ima dovoljno razloga smatrati da UI sustav predstavlja rizik iz stavka 1., ono evaluira usklađenost predmetnog UI sustava sa svim zahtjevima i obvezama utvrđenima u ovoj Uredbi. Osim toga, ako postoje rizici za temeljna prava, nacionalno nadzorno tijelo odmah obavješćuje relevantna nacionalna tijela javne vlasti ili javnopravna tijela iz članka 64. stavka 3. i s njima u potpunosti surađuje.Ako postoji dovoljan razlog da se smatra da UI sustav iskorištava ranjivost ranjivih skupina ili namjerno ili nenamjerno krši njihova prava, nacionalno nadzorno tijelo dužno je istražiti ciljeve projekta, ulazne podatke, odabir modela, provedbu i ishode UI sustava. Relevantni operateri prema potrebi surađuju s nacionalnim nadzornim tijelom i drugim nacionalnim tijelima javne vlasti ili javnopravnim tijelima iz članka 64. stavka 3.
Ako tijekom te evaluacije tijelo za nadzor tržišta utvrdi da UI sustav ne ispunjava zahtjeve i obveze utvrđene ovom Uredbom, ono bez odgode zahtijeva da relevantni operater poduzme sve odgovarajuće korektivne mjere kako bi UI sustav uskladio s tim zahtjevima i obvezama, povukao ga s tržišta ili osigurao njegov povrat u razumnom roku, razmjerno prirodi rizika, prema onome što tijelo propiše.
Ako tijekom te evaluacije nacionalno nadzorno tijelo ili po potrebi nacionalno tijelo javne vlasti iz članka 64. stavka 3. utvrdi da UI sustav ne ispunjava zahtjeve i obveze utvrđene ovom Uredbom, ono bez odgode zahtijeva da relevantni operater poduzme sve odgovarajuće korektivne mjere kako bi UI sustav uskladio s tim zahtjevima i obvezama, povukao ga s tržišta ili osigurao njegov povrat u razumnom roku, razmjerno prirodi rizika, prema onome što tijelo propiše, a u svakom slučaju najkasnije u roku od 15 radnih dana ili kako je utvrđeno u relevantnom zakonodavstvu Unije o usklađivanju.
Tijelo za nadzor tržišta o tome na odgovarajući način obavješćuje relevantno prijavljeno tijelo. Na mjere navedene u drugom podstavku primjenjuje se članak 18. Uredbe (EU) 2019/1020.
Nacionalno nadzorno tijelo o tome na odgovarajući način obavješćuje relevantno prijavljeno tijelo. Na mjere navedene u drugom podstavku primjenjuje se članak 18. Uredbe (EU) 2019/1020.
3. Ako smatra da neusklađenost nije ograničena samo na područje njegove države, tijelo za nadzor tržišta dostavlja Komisiji i drugim državama članicama informacije o rezultatima evaluacije i mjerama koje je zahtijevalo od operatera.
3. Ako smatra da neusklađenost nije ograničena samo na područje njegove države, nacionalno nadzorno tijelo bez nepotrebne odgode dostavlja Komisiji, Uredu za umjetnu inteligenciju i nacionalnom nadzornom tijelu ostalih država članica informacije o rezultatima evaluacije i mjerama koje je zahtijevalo od operatera.
5. Ako operater UI sustava ne poduzme prikladne korektivne mjere u roku navedenom u stavku 2., tijelo za nadzor tržišta poduzima sve prikladne privremene mjere kako bi zabranilo ili ograničilo stavljanje UI sustava na raspolaganje na svojem nacionalnom tržištu, odnosno povuklo taj proizvod s tog tržišta ili osiguralo njegov povrat. To je tijelo dužno o tim mjerama bez odgode obavijestiti Komisiju i druge države članice.
5. Ako operater UI sustava ne poduzme prikladne korektivne mjere u roku navedenom u stavku 2., nacionalno nadzorno tijelo poduzima sve prikladne privremene mjere kako bi zabranilo ili ograničilo stavljanje UI sustava na raspolaganje na svojem nacionalnom tržištu ili njegovo stavljanje u uporabu, odnosno povuklo taj UI sustav s tog tržišta ili osiguralo njegov povrat. To je tijelo dužno o tim mjerama odmah obavijestiti Komisiju, Ured za umjetnu inteligenciju i nacionalno nadzorno tijelo ostalih država članica.
6. Informacije iz stavka 5. uključuju sve dostupne pojedinosti, posebno podatke nužne za identifikaciju neusklađenog UI sustava, njegovo podrijetlo, prirodu navodne neusklađenosti i povezanog rizika, prirodu i trajanje poduzetih nacionalnih mjera te argumente relevantnog operatera. Tijela za nadzor tržišta posebno naznačuju je li neusklađenost posljedica jednog ili više sljedećih uzroka:
6. Informacije iz stavka 5. uključuju sve dostupne pojedinosti, posebno podatke nužne za identifikaciju neusklađenog UI sustava, njegovo podrijetlo i lanac opskrbe, prirodu navodne neusklađenosti i povezanog rizika, prirodu i trajanje poduzetih nacionalnih mjera te argumente relevantnog operatera. Nacionalno nadzorno tijelo posebno naznačuje je li neusklađenost posljedica jednog ili više sljedećih uzroka:
Amandman 603 Prijedlog uredbe Članak 65. – stavak 6. – točka a
(a) UI sustav ne ispunjava zahtjeve iz glave III. poglavlja 2.;
(a) visokorizični UI sustav ne ispunjava zahtjeve iz ove Uredbe;
Amandman 604 Prijedlog uredbe Članak 65. – stavak 6. – točka ba (nova)
(ba) ne poštuje se zabrana praksi u području umjetne inteligencije iz članka 5.;
7. Tijela za nadzor tržišta država članica, osim tijela za nadzor tržišta države članice koje pokreće postupak, bez odgode obavješćuju Komisiju i druge države članice o svim donesenim mjerama i o svim dodatnim informacijama koje su im na raspolaganju i koje se odnose na neusklađenost dotičnog UI sustava te, u slučaju neslaganja s prijavljenom nacionalnom mjerom, o svojim prigovorima.
7. Nacionalna nadzorna tijela država članica, osim nacionalnog nadzornog tijela države članice koje pokreće postupak, bez odgode obavješćuju Komisiju, Ured za umjetnu inteligenciju i ostale države članice o svim donesenim mjerama i o svim dodatnim informacijama koje su im na raspolaganju i koje se odnose na neusklađenost predmetnog UI sustava te, u slučaju neslaganja s prijavljenom nacionalnom mjerom, o svojim prigovorima.
8. Ako u roku od tri mjeseca od primitka informacija navedenih u stavku 5. nijedna država članica ni Komisija ne podnese prigovor na privremenu mjeru koju je poduzela država članica, mjera se smatra opravdanom. Time se ne dovode u pitanje postupovna prava dotičnog operatera u skladu s člankom 18. Uredbe (EU) 2019/1020.
8. Ako u roku od tri mjeseca od primitka informacija navedenih u stavku 5. ni nacionalno nadzorno tijelo države članice ni Komisija ne podnese prigovor na privremenu mjeru koju je poduzelo nacionalno nadzorno tijelo druge države članice, mjera se smatra opravdanom. Time se ne dovode u pitanje postupovna prava predmetnog operatera u skladu s člankom 18. Uredbe (EU) 2019/1020. Razdoblje iz prve rečenice ovog stavka skraćuje se na 30 dana u slučaju neusklađenosti sa zabranom praksi u području umjetne inteligencije iz članka 5.
9. Tijela za nadzor tržišta svih država članica dužna su osigurati da se bez odgode poduzmu prikladne restriktivne mjere u odnosu na dotični proizvod, primjerice povlačenje proizvoda s njihovih tržišta.
9. Nacionalna nadzorna tijela svih država članica dužna su osigurati da se bez odgode poduzmu prikladne restriktivne mjere u odnosu na predmetni UI sustav, primjerice povlačenje UI sustava s njihovih tržišta.
9.a Nacionalna nadzorna tijela jednom godišnje izvješćuju Ured za umjetnu inteligenciju o primjeni zabranjenih praksi do koje je došlo tijekom te godine te o mjerama poduzetima za uklanjanje ili ublažavanje rizika u skladu s ovim člankom.
1. Ako država članica u roku od tri mjeseca od primitka obavijesti iz članka 65. stavka 5. podnese prigovore na mjeru koju je poduzela druga država članica ili ako Komisija smatra da je mjera u suprotnosti s pravom Unije, Komisija bez odgode započinje savjetovanje s relevantnom državom članicom i operaterom ili operaterima te evaluira nacionalnu mjeru. Na temelju rezultata te evaluacije Komisija u roku od devet mjeseci od obavijesti iz članka65. stavka5. odlučuje je li nacionalna mjera opravdana te o toj odluci obavješćuje dotičnu državu članicu.
1. Ako nacionalno nadzorno tijelo države članice u roku od tri mjeseca od primitka obavijesti iz članka 65. stavka 5. ili u roku od 30 dana u slučaju nepoštovanja zabrane praksi u području umjetne inteligencije iz članka 5., podnese prigovore na mjeru koju je poduzelo drugo nacionalno nadzorno tijelo ili ako Komisija smatra da je mjera u suprotnosti s pravom Unije, Komisija bez odgode započinje savjetovanje s nacionalnim nadzornim tijelom relevantne države članice i operaterom ili operaterima te evaluira nacionalnu mjeru. Na temelju rezultata te evaluacije Komisija u roku od tri mjeseca, ili 60 dana u slučaju nepoštovanja zabrane praksi u području umjetne inteligencije iz članka 5., od obavijesti iz članka 65. stavka 5. odlučuje je li nacionalna mjera opravdana te o toj odluci obavješćuje nacionalno nadzorno tijelo predmetne države članice.Komisija o toj odluci izvješćuje sva druga nacionalna nadzorna tijela.
2. Ako se nacionalna mjera smatra opravdanom, sve države članice poduzimaju mjere potrebne kako bi osigurale da se nesukladni UI sustav povuče s njihovih tržišta, te o tome obavješćuju Komisiju. Ako se nacionalna mjera smatra neopravdanom, dotična država članica mora povući mjeru.
2. Ako se nacionalna mjera smatra opravdanom, sva nacionalna nadzorna tijela utvrđena na temelju ove Uredbe poduzimaju mjere potrebne kako bi osigurale da se nesukladni UI sustav bez odgode povuče s njihovih tržišta, te o tome obavješćuju Komisiju i Ured za umjetnu inteligenciju. Ako se nacionalna mjera smatra neopravdanom, nacionalno nadzorno tijelo predmetne države članice mora povući mjeru.
Amandman 612 Prijedlog uredbe Članak 66.a (novi)
Članak 66.a
Zajedničke istrage
Ako nacionalno nadzorno tijelo ima razloga sumnjati da povreda ove Uredbe koju je počinio dobavljač ili subjekt koji primjenjuje visokorizični UI sustav ili temeljni model čini raširenu povredu na razini Unije ili da utječe ili bi mogla utjecati na najmanje 45 milijuna pojedinaca u više od jedne države članice, to nacionalno nadzorno tijelo obavješćuje Ured za umjetnu inteligenciju i može zatražiti od nacionalnih nadzornih tijela država članica u kojima je došlo do takve povrede da započnu zajedničku istragu. Ured za umjetnu inteligenciju pri toj zajedničkoj istrazi osigurava središnju koordinaciju. Istražne ovlasti ostaju u nadležnosti nacionalnih nadzornih tijela.
1. Ako tijelo za nadzor tržišta države članice nakon provedene evaluacije na temelju članka 65. ustanovi da UI sustav koji je u skladu s ovom Uredbom ipak predstavlja rizik za zdravlje ili sigurnost osoba, za ispunjavanje obveza na temelju prava Unije ili nacionalnog prava namijenjenih zaštiti temeljnih prava ili za druge aspekte zaštite javnog interesa, od relevantnog operatera zahtijeva da poduzme sve odgovarajuće mjere kako bi osigurao da dotični UI sustav nakon stavljanja na tržište ili u uporabu više ne predstavlja rizik, povukao ga s tržišta ili osigurao njegov povrat u razumnom roku, razmjerno prirodi rizika, prema onome što tijelo propiše.
1. Ako nacionalno nadzorno tijelo države članice nakon provedene evaluacije na temelju članka 65., uz punu suradnju s relevantnim nacionalnim tijelom javne vlasti iz članka 64. stavka 3., ustanovi da UI sustav koji je u skladu s ovom Uredbom ipak predstavlja rizik za zdravlje ili sigurnost osoba, za ispunjavanje obveza na temelju prava Unije ili nacionalnog prava namijenjenih zaštiti temeljnih prava, okoliša ili demokracije i vladavine prava ili za druge aspekte zaštite javnog interesa, od relevantnog operatera zahtijeva da poduzme sve odgovarajuće mjere kako bi osigurao da predmetni UI sustav nakon stavljanja na tržište ili u uporabu više ne predstavlja rizik.
2. Dobavljač ili drugi relevantni operateri osiguravaju poduzimanje korektivnih mjera u pogledu svih dotičnih UI sustava koje su stavili na raspolaganje na tržištu bilo gdje u Uniji u roku koji je propisalo tijelo za nadzor tržišta države članice iz stavka 1.
2. Dobavljač ili drugi relevantni operateri osiguravaju poduzimanje korektivnih mjera u pogledu svih predmetnih UI sustava koje su stavili na raspolaganje na tržištu bilo gdje u Uniji u roku koji je propisalo nacionalno nadzorno tijelo države članice iz stavka 1.
2.a Ako dobavljač ili drugi relevantni operateri ne poduzmu korektivne mjere iz stavka 2. i ako UI sustav i dalje čini rizik iz stavka 1., nacionalno nadzorno tijelo može zahtijevati od relevantnog operatera da povuče UI sustav s tržišta ili da ga opozove u razumnom roku, razmjerno prirodi rizika.
3. Država članica odmah obavješćuje Komisiju i druge države članice. Te informacije uključuju sve dostupne pojedinosti, a posebno podatke nužne za identifikaciju dotičnog UI sustava, njegovo podrijetlo i lanac opskrbe, prirodu povezanog rizika te prirodu i trajanje poduzetih nacionalnih mjera.
3. Nacionalno nadzorno tijelo odmah obavješćuje Komisiju, Ured za umjetnu inteligenciju i ostala nacionalna nadzorna tijela. Te informacije uključuju sve dostupne pojedinosti, a posebno podatke nužne za identifikaciju predmetnog UI sustava, njegovo podrijetlo i lanac opskrbe, prirodu povezanog rizika te prirodu i trajanje poduzetih nacionalnih mjera.
4. Komisija bez odgode započinje savjetovanje s državama članicama i relevantnim operaterom te evaluira poduzete nacionalne mjere. Na temelju rezultata te evaluacije, Komisija odlučuje jesu li poduzete mjere opravdane i, prema potrebi, predlaže prikladne mjere.
4. Komisija, uz savjetovanje s Uredom za umjetnu inteligenciju, bez odgode započinje savjetovanje s predmetnim nacionalnim nadzornim tijelima i relevantnim operaterom te evaluira poduzete nacionalne mjere. Na temelju rezultata te evaluacije, Ured za umjetnu inteligenciju odlučuje jesu li poduzete mjere opravdane i, prema potrebi, predlaže prikladne mjere.
5. Komisija svoju odluku upućuje državama članicama.
5. Komisija, uz savjetovanje s Uredom za umjetnu inteligenciju, o svojoj odluci smjesta obavješćuje nacionalna nadzorna tijela predmetnih država članica i relevantne operatere. O toj odluci obavješćuje i sva druga nacionalna nadzorna tijela.
5.a Komisija donosi smjernice kako bi pomogla nacionalnim nadležnim tijelima u utvrđivanju i otklanjanju, prema potrebi, sličnih problema koji nastaju u drugim UI sustavima.
2. Ako se neusklađenost iz stavka 1. nastavi, dotična država članica poduzima sve odgovarajuće mjere kako bi ograničila ili zabranila stavljanje visokorizičnog UI sustava na raspolaganje na tržištu ili kako bi osigurala njegov povrat ili povlačenje s tržišta.
2. Ako se neusklađenost iz stavka 1. nastavi, nacionalno nadzorno tijelo dotične države članice poduzima odgovarajuće i razmjerne mjere kako bi ograničilo ili zabranilo stavljanje visokorizičnog UI sustava na raspolaganje na tržištu ili kako bi osiguralo njegov povrat ili povlačenje s tržišta bez odgode. Nacionalno nadzorno tijelo dotične države članice smjesta obavješćuje Ured za umjetnu inteligenciju o neusklađenosti i poduzetim mjerama.
Pravo na podnošenje pritužbe nacionalnom nadzornom tijelu
1. Ne dovodeći u pitanje druge upravne ili sudske pravne lijekove, svaki pojedinac ili skupina pojedinaca ima pravo podnijeti pritužbu nacionalnom nadzornom tijelu, osobito u državi članici u kojoj ima uobičajeno boravište, u kojoj je njegovo radno mjesto ili mjesto navodnog kršenja, ako smatra da UI sustav koji se odnosi na njega krši ovu Uredbu.
2. Nacionalno nadzorno tijelo kojem je podnesena pritužba obavješćuje podnositelja pritužbe o napretku i ishodu pritužbe, uključujući mogućnost pravnog lijeka na temelju članka 78.
Amandman 629 Prijedlog uredbe Članak 68.b (novi)
Članak 68.b
Pravo na učinkovit pravni lijek protiv nacionalnog nadzornog tijela
1. Ne dovodeći u pitanje druge upravne ili izvansudske pravne lijekove, svaki pojedinac ili pravna osoba ima pravo na učinkovit pravni lijek protiv pravno obvezujuće odluke nekog nacionalnog nadzornog tijela koja se na nju odnosi.
2. Ne dovodeći u pitanje druge upravne ili izvansudske pravne lijekove, svaki pojedinac ili pravna osoba ima pravo na učinkovit pravni lijek ako nacionalno nadzorno tijelo koje je nadležno na temelju članka 59. ne riješi pritužbu ili ne obavijesti ispitanika u roku od tri mjeseca o napretku ili ishodu pritužbe podnesene na temelju članka 68.a.
3. Postupci protiv nacionalnog nadzornog tijela vode se pred sudovima države članice u kojoj nacionalno nadzorno tijelo ima poslovni nastan.
4. Ako je pokrenut postupak protiv odluke nacionalnog nadzornog tijela kojoj je prethodilo mišljenje ili odluka Komisije u okviru zaštitnog postupka Unije, nadzorno tijelo prosljeđuje to mišljenje ili odluku sudu.
Amandman 630 Prijedlog uredbe Članak 68.c (novi)
Članak 68.c
Pravo na objašnjenje pojedinačnog donošenja odluka
1. Sve izložene osobe koje podliježu odluci koju subjekt koji primjenjuje sustav donese na temelju rezultata visokorizičnog UI sustava koja proizvodi pravne učinke ili slično znatno utječe na njih na način za koji smatraju da negativno utječe na njihovo zdravlje, sigurnost, temeljna prava, socioekonomsku dobrobit ili bilo koja druga prava koja proizlaze iz obveza utvrđenih u ovoj Uredbi, imaju pravo od subjekta koji primjenjuje sustav zatražiti jasno i smisleno objašnjenje u skladu s člankom 13. stavkom 1. o ulozi UI sustava u postupku donošenja odluka, glavnim parametrima donesene odluke i povezanim ulaznim podacima.
2. Stavak 1. ne primjenjuje se na uporabu UI sustava za koje su predviđene iznimke ili ograničenja iz obveze iz stavka 1. na temelju prava Unije ili nacionalnog prava ako se takvim iznimkama ili ograničenjima poštuje bit temeljnih prava i sloboda te ako su nužna i proporcionalna mjera u demokratskom društvu.
3. Ovaj se stavak primjenjuje ne dovodeći u pitanje članke 13., 14., 15. i 22. Uredbe (EU) 2016/679.
Amandman 631 Prijedlog uredbe Članak 68.d (novi)
Članak 68.d
Izmjena Direktive (EU) 2020/1828
U Prilogu I. Direktivi (EU) 2020/1828 Europskog parlamenta i Vijeća1a dodaje se sljedeća točka:
„(67.a) Uredba xxxx/xxxx Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (SL L ...)”.
_________________
1a Direktiva (EU) 2020/1828 Europskog parlamenta i Vijeća od 25. studenoga 2020. o predstavničkim tužbama za zaštitu kolektivnih interesa potrošačâ i stavljanju izvan snage Direktive 2009/22/EZ (SL L 409, 4.12.2020., str. 1.).
Amandman 632 Prijedlog uredbe Članak 68.e (novi)
Članak 68. e
Prijava povreda i zaštita osoba koje prijavljuju povrede
Direktiva (EU) 2019/1937 Europskog parlamenta i Vijeća primjenjuje se na prijavljivanje povreda ove Uredbe i na zaštitu osoba koje prijavljuju te povrede.
1. Komisija i države članice potiču i olakšavaju izradu kodeksa ponašanja namijenjenih poticanju da se na UI sustave koji nisu visokorizični dobrovoljno primjenjuju zahtjevi iz glave III. poglavlja 2. na temelju tehničkih specifikacija i rješenja koji su prikladni za osiguravanje usklađenosti s takvim zahtjevima s obzirom na namjenu sustavâ.
1. Komisija, Ured za umjetnu inteligenciju i države članice potiču i olakšavaju izradu kodeksa ponašanja, među ostalim ako su izrađeni kako bi se pokazalo da UI sustavi poštuju načela utvrđena u članku 4.a te se samim time mogu smatrati pouzdanima, namijenjenih poticanju da se na UI sustave koji nisu visokorizični dobrovoljno primjenjuju zahtjevi iz glave III. poglavlja 2. na temelju tehničkih specifikacija i rješenja koji su prikladni za osiguravanje usklađenosti s takvim zahtjevima s obzirom na namjenu sustavâ.
2. Komisija i Odbor potiču i olakšavaju izradu kodeksa ponašanja namijenjenih poticanju da se na UI sustave dobrovoljno primjenjuju zahtjevi koji se odnose primjerice na okolišnu održivost, pristupačnost za osobe s invaliditetom, sudjelovanje dionika u projektiranju i razvoju UI sustava te raznolikost razvojnih timova na temelju jasnih ciljeva i ključnih pokazatelja uspješnosti za mjerenje ostvarenja tih ciljeva.
2. Kodeksima ponašanja namijenjenima poticanju dobrovoljne usklađenosti s načelima na kojima se temelje pouzdani UI sustavi posebno se:
(a) teži razmatranju postoji li dovoljna razina pismenosti u području umjetne inteligencije među njihovim osobljem i svim drugim osobama koje se bave radom i upotrebom UI sustava kako bi se poštovala takva načela;
(b) procjenjuje u kojoj mjeri njihovi UI sustavi mogu utjecati na ranjive osobe ili skupine osoba, uključujući djecu, starije osobe, migrante i osobe s invaliditetom, te mogu li se uvesti mjere kako bi se povećala dostupnosti ili na drugi način pružila potpora takvim osobama ili skupinama osoba;
(c) razmatra način na koji uporaba njihovih UI sustava može utjecati na raznolikost, rodnu ravnotežu i ravnopravnost i povećati ih;
(d) uzima u obzir činjenica mogu li se njihovi UI sustavi upotrebljavati na način kojim se izravno ili neizravno, rezidualno ili znatno mogu produbiti postojeće pristranosti ili nejednakosti;
(e) razmatra potreba i važnost uspostave raznolikih razvojnih timova kako bi se osiguralo uključivo projektiranje njihovih sustava;
(f) pomno razmatra mogu li njihovi sustavi imati negativan društveni učinak, posebno u pogledu političkih institucija i demokratskih procesa;
(g) procjenjuje kako UI sustavi mogu doprinijeti održivosti okoliša, a posebno obvezama Unije u okviru europskog zelenog plana i Europske deklaracije o digitalnim pravima i načelima.
3. Kodekse ponašanja mogu sastavljati pojedinačni dobavljači UI sustava i/ili organizacije koje ih zastupaju, među ostalim uz sudjelovanje korisnika i svih zainteresiranih dionika i njihovih predstavničkih organizacija. Kodeksi ponašanja mogu obuhvaćati jedan ili više UI sustava uzimajući u obzir sličnost namjene relevantnih sustava.
3. Kodekse ponašanja mogu sastavljati pojedinačni dobavljači UI sustava i/ili organizacije koje ih zastupaju, među ostalim uz sudjelovanje korisnika i svih zainteresiranih dionika, uključujući znanstvene istraživače, i njihovih predstavničkih organizacija, uključujući posebno sindikate i organizacije za zaštitu potrošača. Kodeksi ponašanja mogu obuhvaćati jedan ili više UI sustava uzimajući u obzir sličnost namjene relevantnih sustava. Dobavljači koji donose kodekse ponašanja imenovat će barem jednog pojedinca odgovornog za interno praćenje.
4. Pri poticanju i olakšavanju izrade kodeksâ ponašanja Komisija i Odbor uzimaju u obzir posebne interese i potrebe malih dobavljača i novoosnovanih poduzeća.
4. Pri poticanju i olakšavanju izrade kodeksâ ponašanja Komisija i Ured za umjetnu inteligenciju uzimaju u obzir posebne interese i potrebe malih i srednjih poduzeća te novoosnovanih poduzeća.
1. Nacionalna nadležna tijela i prijavljena tijela uključena u primjenu ove Uredbe moraju poštovati povjerljivost informacija i podataka koje dobiju pri obavljanju svojih zadaća i aktivnosti tako da osobito štite:
1. Komisija, nacionalna nadležna tijela i prijavljena tijela, Ured za umjetnu inteligenciju i svi pojedinci i pravne osobe uključeni u primjenu ove Uredbe moraju poštovati povjerljivost informacija i podataka koje dobiju pri obavljanju svojih zadaća i aktivnosti tako da osobito štite:
Amandman 638 Prijedlog uredbe Članak 70. – stavak 1. – točka a
(a) prava intelektualnog vlasništva i povjerljive poslovne informacije ili poslovne tajne fizičke ili pravne osobe, uključujući izvorni kôd, osim slučajeva iz članka 5. Direktive (EU) 2016/943 o zaštiti neotkrivenih znanja i iskustva te poslovnih informacija (poslovne tajne) od nezakonitog pribavljanja, korištenja i otkrivanja;
(a) prava intelektualnog vlasništva i povjerljive poslovne informacije ili poslovne tajne fizičke ili pravne osobe, u skladu s odredbama direktiva 2004/48/EZ i 2016/943, uključujući izvorni kôd, osim slučajeva iz članka 5. Direktive (EU) 2016/943 o zaštiti neotkrivenih znanja i iskustva te poslovnih informacija (poslovne tajne) od nezakonitog pribavljanja, korištenja i otkrivanja;
Amandman 639 Prijedlog uredbe Članak 70. – stavak 1. – točka ba (nova)
1.a Tijela uključena u primjenu ove Uredbe u skladu sa stavkom 1. svode na najmanju moguću mjeru količinu podataka zatraženih za otkrivanje na podatke koji su prijeko potrebni za percipirani rizik i procjenu tog rizika. Brišu podatke čim više nisu potrebni u svrhu za koju su zatraženi. Ona uspostavljaju odgovarajuće i djelotvorne kibersigurnosne, tehničke i organizacijske mjere za zaštitu sigurnosti i povjerljivosti informacija i podataka dobivenih pri obavljanju svojih zadaća i aktivnosti.
2. Ne dovodeći u pitanje stavak 1., informacije koje na povjerljivoj osnovi međusobno razmjenjuju nacionalna nadležna tijela te nacionalna nadležna tijela i Komisija ne smiju se otkrivati bez prethodnog savjetovanja s izvornim nacionalnim nadležnim tijelom i korisnikom kada tijela kaznenog progona, tijela za imigraciju ili tijela za azil upotrebljavaju visokorizične UI sustave iz točaka 1., 6. i 7. Priloga III. ako bi se takvim otkrivanjem ugrozili javni i nacionalni sigurnosni interesi.
2. Ne dovodeći u pitanje stavke 1.i 1.a, informacije koje na povjerljivoj osnovi međusobno razmjenjuju nacionalna nadležna tijela te nacionalna nadležna tijela i Komisija ne smiju se otkrivati bez prethodnog savjetovanja s izvornim nacionalnim nadležnim tijelom i subjektom koji primjenjuje sustav kada tijela kaznenog progona, tijela za imigraciju ili tijela za azil upotrebljavaju visokorizične UI sustave iz točaka 1., 6. i 7. Priloga III. ako bi se takvim otkrivanjem ugrozila javna ili nacionalna sigurnost.
3. Stavci 1. i 2. ne utječu na prava i obveze Komisije, država članica i prijavljenih tijela u pogledu razmjene informacija i širenja upozorenja ni na obveze dotičnih stranaka da pruže informacije na temelju kaznenog prava država članica.
3. Stavci 1., 1.a i 2. ne utječu na prava i obveze Komisije, država članica i prijavljenih tijela u pogledu razmjene informacija i širenja upozorenja ni na obveze dotičnih stranaka da pruže informacije na temelju kaznenog prava država članica.
4. Komisija i države članice mogu po potrebi razmjenjivati povjerljive informacije s regulatornim tijelima trećih zemalja s kojima su sklopile bilateralne ili multilateralne sporazume o povjerljivosti kojima se jamči odgovarajuća razina povjerljivosti.
4. Komisija i države članice mogu razmjenjivati, kada je to strogo potrebno i u skladu s relevantnim odredbama međunarodnih i trgovinskih sporazuma, povjerljive informacije s regulatornim tijelima trećih zemalja s kojima su sklopile bilateralne ili multilateralne sporazume o povjerljivosti kojima se jamči odgovarajuća razina povjerljivosti.
1. U skladu s uvjetima utvrđenima u ovoj Uredbi, države članice utvrđuju pravila o sankcijama, uključujući upravne novčane kazne, koja se primjenjuju na povrede ove Uredbe i poduzimaju sve potrebne mjere kako bi osigurale njihovu pravilnu i djelotvornu provedbu. Predviđene sankcije moraju biti učinkovite, proporcionalne i odvraćajuće. Njima se osobito uzimaju u obzir interesi malih dobavljača i novoosnovanih poduzeća te njihova gospodarska održivost.
1. U skladu s uvjetima utvrđenima u ovoj Uredbi, države članice utvrđuju pravila o sankcijama koja se primjenjuju na povrede ove Uredbe bilo kojeg operatera i poduzimaju sve potrebne mjere kako bi osigurale njihovu pravilnu i djelotvornu provedbu i usklađenost sa smjernicama koje izdaju Komisija i Ured za umjetnu inteligenciju u skladu s člankom 82.b. Predviđene sankcije moraju biti učinkovite, proporcionalne i odvraćajuće. Njima se uzimaju u obzir interesi MSP-ova i novoosnovanih poduzeća te njihova gospodarska održivost.
2. Države članice obavješćuju Komisiju o tim pravilima i tim mjerama te je bez odgode obavješćuju o svim naknadnim izmjenama koje na njih utječu.
2. Države članice do ... [12 mjeseci nakon datuma stupanja na snagu ove Uredbe] obavješćuju Komisiju i Ured o tim pravilima i tim mjerama te ih bez odgode obavješćuju o svim naknadnim izmjenama koje na njih utječu.
3. Za sljedeće povrede izriču se upravne novčane kazne u iznosu do 30 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 6 % njegova ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći:
3. Za nesukladnost sa zabranom praksi umjetne inteligencije iz članka 5. izriču se upravne novčane kazne u iznosu do 40 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 7 % njegova ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći:
Amandman 648 Prijedlog uredbe Članak 71. – stavak 3. – točka a
(a) nepoštovanje zabrane praksi u području umjetne inteligencije iz članka 5.;
Briše se.
Amandman 649 Prijedlog uredbe Članak 71. – stavak 3. – točka b
(b) neusklađenost UI sustava sa zahtjevima utvrđenima u članku 10.
3.a Za nesukladnost UI sustava sa zahtjevima utvrđenima u člancima 10. i 13. izriču se upravne novčane kazne u iznosu do 20 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 4 % njegova ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći.
4. Za neusklađenost UI sustava s bilo kojim zahtjevima ili obvezama iz ove Uredbe, osim onih utvrđenih u člancima 5. i 10., izriču se upravne novčane kazne u iznosu do 20 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 4 % njegova ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći.
4. Za neusklađenost UI sustava ili temeljnog modela s bilo kojim zahtjevima ili obvezama iz ove Uredbe, osim onih utvrđenih u člancima 5., 10. i 13., izriču se upravne novčane kazne u iznosu do 10 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 2 % njegova ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći.
5. Za dostavljanje netočnih, nepotpunih ili obmanjujućih informacija prijavljenim tijelima i nacionalnim nadležnim tijelima kao odgovor na zahtjev izriču se upravne novčane kazne u iznosu do 10 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 2 % njegova ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći.
5. Za dostavljanje netočnih, nepotpunih ili obmanjujućih informacija prijavljenim tijelima i nacionalnim nadležnim tijelima kao odgovor na zahtjev izriču se upravne novčane kazne u iznosu do 5 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 1 % njegova ukupnog godišnjeg prometa na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći.
6. Pri odlučivanju o iznosu upravne novčane kazne u svakom pojedinom slučaju uzimaju se u obzir sve relevantne okolnosti specifične situacije i dužna se pozornost posvećuje sljedećem:
6. Kazne se mogu propisati uz nenovčane mjere, kao što su nalozi ili upozorenja, ili umjesto njih. Pri odlučivanju o iznosu upravne novčane kazne u svakom pojedinom slučaju uzimaju se u obzir sve relevantne okolnosti specifične situacije i dužna se pozornost posvećuje sljedećem:
Amandman 654 Prijedlog uredbe Članak 71. – stavak 6. – točka a
(a) prirodi, težini i trajanju povrede te njezinim posljedicama;
(a) prirodi, težini i trajanju povrede te njezinim posljedicama, uzimajući u obzir svrhu predmetnog UI sustava te, prema potrebi, broj zahvaćenih osoba i razinu štete koju su pretrpjeli;
Amandman 655 Prijedlog uredbe Članak 71. – stavak 6. – točka b
(b) eventualnim upravnim novčanim kaznama koje su druga tijela za nadzor tržišta već izrekla istom operateru za istu povredu;
(b) eventualnim upravnim novčanim kaznama koje su druga nacionalna nadzorna tijela jedne ili više država članica već izrekla istom operateru za istu povredu;
Amandman 656 Prijedlog uredbe Članak 71. – stavak 6. – točka c
(c) veličini i tržišnom udjelu operatera koji je počinio povredu;
(c) veličini i godišnjem prometu operatera koji je počinio povredu;
Amandman 657 Prijedlog uredbe Članak 71. – stavak 6. – točka ca (nova)
(c a) svakoj mjeri koju je operater poduzeo kako bi ublažio štetu povrede koju su pretrpjele izložene osobe;
7. Svaka država članica utvrđuje pravila o tome mogu li se i u kojoj mjeri tijelima javne vlasti i javnopravnim tijelima te države članice izreći upravne novčane kazne.
7. Svaka država članica utvrđuje pravila o izricanju upravnih novčanih kazni tijelima javne vlasti i javnopravnim tijelima te države članice.
8.a Sankcije iz ovog članka kao i povezani troškovi sudskog postupka i zahtjevi za naknadu štete ne mogu biti predmet ugovornih odredbi niti drugog oblika dogovora o raspodjeli tereta između dobavljača i distributera, uvoznika, subjekata koji primjenjuju sustav ili bilo koje treće strane.
8 b. Nacionalna nadzorna tijela jednom godišnje obavješćuju Ured za umjetnu inteligenciju o novčanim kaznama koje su izrekli tijekom te godine, u skladu s ovim člankom.
8 c. Izvršavanje ovlasti nadležnih tijela na temelju ovog članka podliježe odgovarajućim postupovnim zaštitnim mjerama u skladu s pravom Unije i nacionalnim pravom, uključujući pravni lijek i odgovarajući postupak.
Amandman 669 Prijedlog uredbe Članak 72. – stavak 1. – točka a
(a) prirodi, težini i trajanju povrede te njezinim posljedicama;
(a) prirodi, težini i trajanju povrede te njezinim posljedicama; uzimajući u obzir svrhu predmetnog UI sustava, kao i broj pogođenih osoba i razinu štete koju su pretrpjeli, te relevantne prethodne povrede;
Amandman 670 Prijedlog uredbe Članak 72. – stavak 1. – točka aa (nova)
(a a) svim mjerama koje institucija, agencija ili tijelo Unije poduzme radi ublažavanja štete koju su pretrpjele pogođene osobe;
Amandman 671 Prijedlog uredbe Članak 72. – stavak 1. – točka ab (nova)
(a b) stupnju odgovornosti institucije, agencije ili tijela Unije, uzimajući u obzir tehničke i organizacijske mjere koje provode;
Amandman 672 Prijedlog uredbe Članak 72. – stavak 1. – točka b
(b) suradnji s Europskim nadzornikom za zaštitu podataka radi ispravljanja povrede i ublažavanja mogućih štetnih posljedica povrede, uključujući poštovanje svih mjera koje je Europski nadzornik za zaštitu podataka prethodno izrekao dotičnoj instituciji ili agenciji ili tijelu Unije u vezi s istim predmetom;
(b) stupnju suradnje s Europskim nadzornikom za zaštitu podataka radi ispravljanja povrede i ublažavanja mogućih štetnih posljedica povrede, uključujući poštovanje svih mjera koje je Europski nadzornik za zaštitu podataka prethodno izrekao dotičnoj instituciji ili agenciji ili tijelu Unije u vezi s istim predmetom;
Amandman 673 Prijedlog uredbe Članak 72. – stavak 1. – točka ca (nova)
(c a) načinu na koji je Europski nadzornik za zaštitu podataka doznao za povredu, posebno jesu li i u kojoj mjeri institucija ili tijelo Unije prijavili povredu;
3. Za neusklađenost UI sustava s bilo kojim zahtjevima ili obvezama iz ove Uredbe, osim onih utvrđenih u člancima 5. i 10., izriču se upravne novčane kazne u iznosu do 250 000 EUR.
3. Za neusklađenost UI sustava s bilo kojim zahtjevima ili obvezama iz ove Uredbe, osim onih utvrđenih u člancima 5. i 10., izriču se upravne novčane kazne u iznosu do 750 000 EUR.
6. Sredstva ostvarena naplatom novčanih kazni iz ovog članka prihod su općeg proračuna Unije.
6. Sredstva ostvarena naplatom novčanih kazni iz ovog članka doprinos su općem proračunu Unije. Novčane kazne ne utječu na učinkovito funkcioniranje kažnjene institucije, tijela ili agencije Unije.
6.a Europski nadzornik za zaštitu podataka jednom godišnje obavješćuje Ured za umjetnu inteligenciju o novčanim kaznama koje je izrekao u skladu s ovim člankom.
2. Delegiranje ovlasti iz članka 4., članka 7. stavka 1., članka 11. stavka 3., članka 43. stavaka 5. i 6. i članka 48. stavka 5. dodjeljuje se Komisiji na neodređeno razdoblje počevši od [datuma stupanja na snagu ove Uredbe].
2. Ovlast za donošenje delegiranih akata iz članka 4., članka 7. stavka 1., članka 11. stavka 3., članka 43. stavaka 5. i 6. i članka 48. stavka 5. dodjeljuje se Komisiji na razdoblje od pet godina počevši od ... [datum stupanja na snagu ove Uredbe]. Komisija izrađuje izvješće o delegiranju ovlasti najkasnije devet mjeseci prije kraja razdoblja od pet godina. Delegiranje ovlasti prešutno se produljuje za razdoblja jednakog trajanja, osim ako se Europski parlament ili Vijeće tom produljenju usprotive najkasnije tri mjeseca prije kraja svakog razdoblja.
3.a Prije donošenja delegiranog akta Komisija se savjetuje s relevantnim institucijama, Uredom, Savjetodavnim forumom i drugim relevantnim dionicima u skladu s načelima utvrđenima u Međuinstitucijskom sporazumu o boljoj izradi zakonodavstva od 13. travnja 2016.
Nakon što Komisija odluči sastaviti delegirani akt, o tome obavješćuje Europski parlament. Ta obavijest ne obvezuje Komisiju da donese navedeni akt.
Amandman 683 Prijedlog uredbe Članak 81.a (novi)
Članak 81.a
Izmjena Uredbe (EU) 2019/1020
Uredba (EU) 2019/1020 mijenja se kako slijedi:
U članku 14. stavku 4. dodaje se sljedeći stavak:
„(l). ovlast provedbe ovlasti predviđenih ovim člankom na daljinu, ako je primjenjivo;”
Amandman 684 Prijedlog uredbe Članak 82.a (novi)
Članak 82.a
Bolja regulativa
Uzimajući u obzir zahtjeve ove Uredbe, u skladu s izmjenama članaka 75., 76., 77., 78., 79., 80., 81. i 82., Komisija provodi analizu i savjetuje se s relevantnim dionicima kako bi utvrdila moguće nedostatke i preklapanja između postojećeg sektorskog zakonodavstva i odredaba ove Uredbe.
Amandman 685 Prijedlog uredbe Članak 82.b (novi)
Članak 82.b
Smjernice Komisije o provedbi ove Uredbe
1. Komisija u dogovoru s Uredom za umjetnu inteligenciju izrađuje smjernice o praktičnoj provedbi ove Uredbe, a posebno:
(a) za primjenu uvjeta iz članaka od 8. do 15. i članaka od 28. do 28.b;
(b) za zabranjene prakse iz članka 5.;
(c) za praktičnu provedbu odredbi povezanih sa znatnom izmjenom;
(d) za praktične okolnosti u kojima bi izlazni rezultati UI sustava iz Priloga III. predstavljali znatan rizik od štete za zdravlje, sigurnost ili temeljna prava pojedinaca kako je navedeno u članku 6. stavku 2., uključujući primjere povezane s visokorizičnim UI sustavima iz Priloga III.;
(e) za praktičnu provedbu obveza u pogledu transparentnosti utvrđenih u članku 52.;
(f) za izradu kodeksa ponašanja iz članka 69.;
(g) za odnos ove Uredbe s drugim relevantnim pravom Unije, među ostalim u pogledu dosljednosti u njihovoj provedbi;
(h) za praktičnu provedbu članka 12., članka 28.b o utjecaju temeljnih modela na okoliš i Priloga IV. stavka 3. točke (b), posebno metoda mjerenja i bilježenja kako bi se omogućilo da izračuni i izvješćivanje o utjecaju sustava na okoliš budu u skladu s obvezama iz ove Uredbe, uključujući ugljični otisak i energetsku učinkovitost, uzimajući u obzir najsuvremenije metode i ekonomije razmjera.
Pri izdavanju takvih smjernica Komisija posebnu pozornost posvećuje potrebama MSP-ova, uključujući novoosnovana poduzeća, lokalnih tijela javne vlasti i sektora na koje će ova Uredba najvjerojatnije utjecati.
2. Na zahtjev država članica ili Ureda za umjetnu inteligenciju ili na vlastitu inicijativu Komisija ažurira već donesene smjernice kada to smatra potrebnim.
1. Ova se Uredba ne primjenjuje na UI sustave koji su sastavni dijelovi opsežnih informacijskih sustava uspostavljenih pravnim aktima navedenima u Prilogu IX. koji su stavljeni na tržište ili u uporabu prije [12 mjeseci nakon datuma početka primjene ove Uredbe iz članka 85. stavka 2.], osim ako zamjena ili izmjena tih pravnih akata dovodi do znatne promjene u konceptu ili namjeni dotičnog UI sustava ili dotičnih UI sustava.
1. Operateri UI sustava koji su sastavni dijelovi opsežnih informacijskih sustava uspostavljenih pravnim aktima navedenima u Prilogu IX. koji su stavljeni na tržište ili u uporabu prije [datum stupanja na snagu ove Uredbe] poduzimaju potrebne korake kako bi se uskladili sa zahtjevima utvrđenima u ovoj Uredbi u roku od ... [četiri godine nakon stupanja na snagu ove Uredbe].
Zahtjevi utvrđeni u ovoj Uredbi uzimaju se u obzir, ako je primjenjivo, pri evaluaciji svakog opsežnog informacijskog sustava uspostavljenog pravnim aktima navedenima u Prilogu IX. koju treba provesti kako je predviđeno u tim aktima.
Zahtjevi utvrđeni u ovoj Uredbi uzimaju se u obzir pri evaluaciji svakog opsežnog informacijskog sustava uspostavljenog pravnim aktima navedenima u Prilogu IX. koju treba provesti kako je predviđeno u tim aktima i svaki put kada se ti pravni akti zamjenjuju ili izmjenjuju.
2. Ova se Uredba primjenjuje na visokorizične UI sustave, osim onih iz stavka 1., koji su stavljeni na tržište ili u uporabu prije [datum početka primjene ove Uredbe iz članka 85. stavka 2.] samo ako se nakon tog datuma znatno promijeni koncept ili namjena tih sustava.
2. Ova se Uredba primjenjuje na operatere visokorizičnih UI sustava, osim onih iz stavka 1., koji su stavljeni na tržište ili u uporabu prije [datum početka primjene ove Uredbe iz članka 85. stavka 2.] samo ako se nakon tog datuma ti sustavi bitno izmijene, kako je utvrđeno u članku 3. stavku 23. U slučaju visokorizičnih UI sustava namijenjenih tijelima javne vlasti, dobavljači i subjekti koji primjenjuju takve sustave poduzimaju potrebne korake kako bi ispunili zahtjeve iz ove Uredbe [dvije godine nakon datuma stupanja na snagu ove Uredbe].
1. Komisija procjenjuje potrebu za izmjenom popisa iz Priloga III. jednom godišnje nakon stupanja na snagu ove Uredbe.
1. Nakon savjetovanja s Uredom za umjetnu inteligenciju Komisija procjenjuje potrebu za izmjenom popisa iz Priloga III., uključujući proširenje postojećih naslova područja ili dodavanje novih naslova područja u taj Prilog, popisa zabranjenih praksi u području umjetne inteligencije iz članka 5. i popisa UI sustava za koje su potrebne dodatne mjere transparentnosti iz članka 52. jednom godišnje nakon stupanja na snagu ove Uredbe i na temelju preporuke Ureda.
Komisija podnosi zaključke te procjene Europskom parlamentu i Vijeću.
2. Do [tri godine nakon datuma početka primjene ove Uredbe iz članka 85. stavka 2.] i svake četiri godine nakon toga Komisija Europskom parlamentu i Vijeću podnosi izvješće o evaluaciji i preispitivanju ove Uredbe. Ta se izvješća objavljuju.
2. Do ... [dvije godine nakon datuma početka primjene ove Uredbe iz članka 85. stavka 2.] i svake dvije godine nakon toga Komisija, zajedno s Uredom za umjetnu inteligenciju, Europskom parlamentu i Vijeću podnosi izvješće o evaluaciji i preispitivanju ove Uredbe. Ta se izvješća objavljuju.
Amandman 691 Prijedlog uredbe Članak 84. – stavak 3. – točka a
(a) stanju financijskih i ljudskih resursa nacionalnih nadležnih tijela radi djelotvornog obavljanja zadaća koje su im dodijeljene na temelju ove Uredbe;
(a) stanju financijskih, tehničkih i ljudskih resursa nacionalnih nadležnih tijela radi djelotvornog obavljanja zadaća koje su im dodijeljene na temelju ove Uredbe;
Amandman 692 Prijedlog uredbe Članak 84. – stavak 3. – točka ba (nova)
(b a) razini razvoja usklađenih normi i zajedničkih specifikacija za umjetnu inteligenciju;
(b d) učinku Uredbe u pogledu uporabe resursa i energije, kao i proizvodnje otpada i drugih utjecaja na okoliš;
Amandman 696 Prijedlog uredbe Članak 84. – stavak 3. – točka be (nova)
(b e) provedbi koordiniranog plana o umjetnoj inteligenciji, uzimajući u obzir različitu razinu napretka među državama članicama i utvrđivanje postojećih prepreka inovacijama u području umjetne inteligencije;
(b f) ažuriranju posebnih zahtjeva u pogledu održivosti UI sustava i temeljnih modela na temelju zahtjeva za izvješćivanje i dokumentaciju iz Priloga IV. i članka 28.b;
3.a Do ... [dvije godine nakon datuma početka primjene ove Uredbe iz članka 85. stavka 2.] Komisija ocjenjuje funkcioniranje Ureda za umjetnu inteligenciju, jesu li Uredu dodijeljene dostatne ovlasti i nadležnosti za ispunjavanje njegovih zadaća te bi li za pravilnu provedbu i izvršavanje ove Uredbe bilo relevantno i potrebno nadograditi Ured i njegove provedbene nadležnosti te povećati njegove resurse. Komisija to evaluacijsko izvješće podnosi Europskom parlamentu i Vijeću.
4. Do [tri godine nakon datuma početka primjene ove Uredbe iz članka 85. stavka 2.] i svake četiri godine nakon toga Komisija evaluira učinak i djelotvornost kodeksâ ponašanja kako bi se potaknula primjena zahtjeva iz glave III. poglavlja 2., a možda i drugih dodatnih zahtjeva, na UI sustave koji nisu visokorizični.
4. Do ... [jedna godina nakon datuma početka primjene ove Uredbe iz članka 85. stavka 2.] i svake dvije godine nakon toga Komisija evaluira učinak i djelotvornost kodeksâ ponašanja kako bi se potaknula primjena zahtjeva iz glave III. poglavlja 2., a možda i drugih dodatnih zahtjeva, na UI sustave koji nisu visokorizični.
5. Odbor, države članice i nacionalna nadležna tijela Komisiji na zahtjev dostavljaju informacije za potrebe stavaka od 1. do 4.
5. Ured za umjetnu inteligenciju, države članice i nacionalna nadležna tijela Komisiji na zahtjev bez odgode dostavljaju informacije za potrebe stavaka od 1. do 4.
6. Pri provedbi evaluacija i preispitivanjâ iz stavaka od 1. do 4. Komisija uzima u obzir stajališta i zaključke Odbora, Europskog parlamenta, Vijeća i drugih relevantnih tijela ili izvora.
6. Pri provedbi evaluacija i preispitivanjâ iz stavaka od 1. do 4. Komisija uzima u obzir stajališta i zaključke Ureda za umjetnu inteligenciju, Europskog parlamenta, Vijeća i drugih relevantnih tijela ili izvora te se savjetuje s relevantnim dionicima. Rezultat tog savjetovanja prilaže se izvješću.
7. Komisija prema potrebi podnosi odgovarajuće prijedloge s ciljem izmjene ove Uredbe, posebno uzimajući u obzir razvoj tehnologije te s obzirom na napredak informacijskog društva.
7. Komisija prema potrebi podnosi odgovarajuće prijedloge s ciljem izmjene ove Uredbe, posebno uzimajući u obzir razvoj tehnologije, utjecaj UI sustavâ na zaštitu zdravlja, temeljna prava, okoliš, jednakost i pristupačnost za osobe s invaliditetom, demokraciju i vladavinu prava te s obzirom na napredak informacijskog društva.
7.a Kao smjernice za evaluacije i preispitivanja iz stavaka od 1. do 4.ovog članka, Ured se obvezuje izraditi objektivnu i participativnu metodologiju za evaluaciju razine rizika na temelju kriterija navedenih u relevantnim člancima i uključivanje novih sustava u: popis u Prilogu III., uključujući proširenje postojećih naslova područja ili dodavanje novih naslova područja u taj Prilog; popis zabranjenih praksi utvrđenih u članku 5.; i popis UI sustava za koje su potrebne dodatne mjere transparentnosti u skladu s člankom 52.
7 b. Pri svakoj izmjeni ove Uredbe u skladu sa stavkom 7. ovog članka, ili mjerodavnim budućim delegiranim ili provedbenim aktima koji se odnose na sektorsko zakonodavstvo navedeno u Prilogu II. odjeljku B, uzimaju se u obzir regulatorne posebnosti svakoga sektora i postojeći mehanizmi upravljanja, ocjenjivanja sukladnosti i provedbe te tijela uspostavljena tim zakonodavstvom.
7 c. Do ... [pet godina od datuma početka primjene ove Uredbe] Komisija ocjenjuje provedbu ove Uredbe i o tome izvješćuje Europski parlament, Vijeće te Europski gospodarski i socijalni odbor, uzimajući u obzir prve godine primjene Uredbe. Na temelju zaključaka toga ocjenjivanja, izvješću se, prema potrebi, prilaže prijedlog za izmjenu ove Uredbe s obzirom na strukturu provedbe i potrebu da utvrđene nedostatke rješava agencija Unije.
Amandman 708 Prijedlog uredbe Prilog I.
TEHNIKE I PRISTUPI UMJETNE INTELIGENCIJE iz članka 3. točke 1.
Briše se.
(a) Pristupi strojnog učenja, što obuhvaća nadzirano, nenadzirano i podržano učenje, s pomoću raznih metoda, uključujući duboko učenje;
(b) pristupi temeljeni na logici i pristupi temeljeni na znanju, uključujući reprezentacije znanja, induktivno (logičko) programiranje, baze znanja, module za inferenciju i dedukciju, (simboličko) zaključivanje i stručne sustave;
(c) statistički pristupi, Bayesovska procjena, metode pretraživanja i optimizacije.
Amandman 709 Prijedlog uredbe Prilog III. – stavak 1. – uvodni dio
Visokorizični UI sustavi u skladu s člankom 6. stavkom 2. obuhvaćaju UI sustave u bilo kojem od sljedećih područja:
UI sustavi na koje se posebno upućuje u točkama od 1. do 8.a predstavljaju slučajeve kritične primjene i svaki se od njih smatra visokorizičnim UI sustavom u skladu s člankom 6. stavkom 2., pod uvjetom da ispunjavaju kriterije utvrđene u tom članku:
Amandman 710 Prijedlog uredbe Prilog III. – stavak 1. – točka 1. – uvodni dio
1. biometrijska identifikacija i kategorizacija pojedinaca:
1. biometrijski sustavi i sustavi koji se temelje na biometriji:
Amandman 711 Prijedlog uredbe Prilog III. – stavak 1. – točka 1. – podtočka a
(a) UI sustavi namijenjeni za daljinsku biometrijsku identifikaciju pojedinaca u stvarnom vremenu i za naknadnu daljinsku biometrijsku identifikaciju pojedinaca;
(a) UI sustavi namijenjeni za biometrijsku identifikaciju pojedinaca, osim onih navedenih u članku 5.;
Amandman 712 Prijedlog uredbe Prilog III. – stavak 1. – točka 1. – podtočka aa (nova)
(a a) UI sustavi namijenjeni za izvođenje zaključaka o osobnim obilježjima pojedinaca na temelju biometrijskih podataka ili podataka koji se temelje na biometriji, uključujući sustave za prepoznavanje emocija, osim onih navedenih u članku 5.;
točka 1. ne uključuje UI sustave namijenjene za biometrijsku provjeru čija je jedina svrha potvrditi da je određeni pojedinac osoba za koju tvrdi da je ta osoba.
Amandman 713 Prijedlog uredbe Prilog III. – stavak 1. – točka 2. – podtočka a
(a) UI sustavi namijenjeni za uporabu kao sigurnosni sastavni dijelovi za upravljanje cestovnim prometom i opskrbom vodom, plinom, grijanjem i električnom energijom te za rad te infrastrukture;
(a) UI sustavi namijenjeni za uporabu kao sigurnosni sastavni dijelovi za upravljanje cestovnim, željezničkim i zračnim prometom, osim ako su oni uređeni pravom o usklađivanju ili sektorskim pravom.
Amandman 714 Prijedlog uredbe Prilog III. – stavak 1. – točka 2. – podtočka aa (nova)
(a a) UI sustavi namijenjeni za uporabu kao sigurnosni sastavni dijelovi za upravljanje opskrbom vodom, plinom, grijanjem, električnom energijom i kritičnom digitalnom infrastrukturom;
Amandman 715 Prijedlog uredbe Prilog III. – stavak 1. – točka 3. – podtočka a
(a) UI sustavi namijenjeni za određivanje mogućnosti pristupa pojedinaca ustanovama za obrazovanje i strukovno osposobljavanje ili za raspoređivanje pojedinaca u te ustanove;
(a) UI sustavi namijenjeni za određivanje mogućnosti pristupa pojedinaca ustanovama za obrazovanje i strukovno osposobljavanje ili za znatno utjecanje na odluke o prijmu ili za raspoređivanje pojedinaca u te ustanove;
Amandman 716 Prijedlog uredbe Prilog III. – stavak 1. – točka 3. – podtočka b
(b) UI sustavi namijenjeni za ocjenjivanje učenika i studenata u ustanovama za obrazovanje i strukovno osposobljavanje te za ocjenjivanje sudionika na testovima koji su obično potrebni za upis u ustanove za obrazovanje;
(b) UI sustavi namijenjeni za ocjenjivanje učenika i studenata u ustanovama za obrazovanje i strukovno osposobljavanje te za ocjenjivanje sudionika na testovima koji su obično potrebni za upis u te ustanove;
Amandman 717 Prijedlog uredbe Prilog III. – stavak 1. – točka 3. – podtočka ba (nova)
(b a) UI sustavi koji su namijenjeni za procjene odgovarajuće razine obrazovanja pojedinca i znatno utjecanje na razinu obrazovanja ili strukovnog osposobljavanja koju će taj pojedinac steći ili kojoj će moći pristupiti;
Amandman 718 Prijedlog uredbe Prilog III. – stavak 1. – točka 3. – podtočka bb (nova)
(b b) UI sustavi namijenjeni za praćenje i otkrivanje zabranjenog ponašanja učenika tijekom testiranja u kontekstu ili u okviru ustanova za obrazovanje i strukovno osposobljavanje;
Amandman 719 Prijedlog uredbe Prilog III. – stavak 1. – točka 4. – podtočka a
(a) UI sustavi namijenjeni za zapošljavanje ili odabir pojedinaca, posebno za oglašavanje slobodnih radnih mjesta, pregled ili filtriranje prijava te ocjenjivanje kandidata na razgovorima ili testovima za posao;
(a) UI sustavi namijenjeni za zapošljavanje ili odabir pojedinaca, posebno za objavljivanje ciljanih oglasa za radna mjesta, pregled ili filtriranje prijava te ocjenjivanje kandidata na razgovorima ili testovima za posao;
Amandman 720 Prijedlog uredbe Prilog III. – stavak 1. – točka 4. – podtočka b
(b) umjetna inteligencija namijenjena za donošenje odluka o promicanju zaposlenika i prestanku radnih ugovornih odnosa, za dodjelu zadataka te za praćenje i evaluaciju uspješnosti i ponašanja osoba u takvim odnosima;
(b) UI sustavi namijenjeni za donošenje ili znatno utjecanje na odluke s učinkom na uvođenje u posao, promicanje zaposlenika i prestanak radnih ugovornih odnosa, za dodjelu zadataka na temelju ponašanja pojedinaca, osobina ili obilježja, ili za praćenje i evaluaciju uspješnosti i ponašanja osoba u takvim odnosima;
Amandman 721 Prijedlog uredbe Prilog III. – stavak 1. – točka 5. – podtočka a
(a) UI sustavi namijenjeni tijelima javne vlasti, ili drugima u njihovo ime, za ocjenjivanje prihvatljivosti pojedinaca za naknade i usluge javne pomoći te za odobravanje, smanjenje, ukidanje ili povrat takvih naknada i usluga;
(a) UI sustavi namijenjeni tijelima javne vlasti, ili drugima u njihovo ime, za ocjenjivanje prihvatljivosti pojedinaca za naknade i usluge javne pomoći, uključujući usluge zdravstvene skrbi i osnovne usluge, uključujući ali ne ograničavajući se na stanovanje, električnu energiju, grijanje/hlađenje i internet, te za odobravanje, smanjenje, ukidanje, povećanje ili povrat takvih naknada i usluga;
Amandman 722 Prijedlog uredbe Prilog III. – stavak 1. – točka 5. – podtočka b
(b) UI sustavi namijenjeni za ocjenjivanje kreditne sposobnosti pojedinaca ili utvrđivanje njihove kreditne ocjene, osim UI sustava koje mali dobavljači stavljaju u uporabu za vlastite potrebe;
(b) UI sustavi namijenjeni za ocjenjivanje kreditne sposobnosti pojedinaca ili utvrđivanje njihove kreditne ocjene, osim UI sustava koji se upotrebljavaju za otkrivanje financijskih prijevara;
Amandman 723 Prijedlog uredbe Prilog III. – stavak 1. – točka 5. – podtočka ba (nova)
(b a) UI sustavi namijenjeni za donošenje odluka ili znatno utjecanje na odluke o prihvatljivosti pojedinaca za zdravstveno i životno osiguranje;
Amandman 724 Prijedlog uredbe Prilog III. – stavak 1. – točka 5. – podtočka c
(c) UI sustavi namijenjeni za dispečiranje ili određivanje prioriteta pri dispečiranju hitnih službi, uključujući vatrogasce i medicinsku pomoć;
(c) UI sustavi namijenjeni za evaluaciju i klasifikaciju hitnih poziva pojedinaca ili za dispečiranje ili određivanje prioriteta pri dispečiranju hitnih službi, što među ostalim čine policija i tijela kaznenog progona, vatrogasci i medicinska pomoć, kao i sustava za trijažu pacijenata u okviru hitne zdravstvene skrbi;
Amandman 725 Prijedlog uredbe Prilog III. – stavak 1. – točka 6. – podtočka a
(a) UI sustavi namijenjeni tijelima kaznenog progona za individualne procjene rizičnosti pojedinaca za počinjenje ili ponovno počinjenje kaznenog djela ili kako bi se procijenio rizik za potencijalne žrtve kaznenih djela;
Briše se.
Amandman 726 Prijedlog uredbe Prilog III. – stavak 1. – točka 6. – podtočka b
(b) UI sustavi namijenjeni tijelima kaznenog progona kao poligrafi i slični instrumenti ili za otkrivanje emocionalnog stanja pojedinca;
(b) UI sustavi namijenjeni tijelima kaznenog progona, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za potporu tijelima kaznenog progona kao poligrafi i slični instrumenti, u mjeri u kojoj je njihova uporaba dopuštena na temelju relevantnog prava Unije i nacionalnog prava;
Amandman 727 Prijedlog uredbe Prilog III. – stavak 1. – točka 6. – podtočka c
(c) UI sustavi namijenjeni tijelima kaznenog progona za otkrivanje „deep fake” sadržaja iz članka 52. stavka 3.;
Briše se.
Amandman 728 Prijedlog uredbe Prilog III. – stavak 1. – točka 6. – podtočka d
(d) UI sustavi namijenjeni tijelima kaznenog progona za ocjenjivanje pouzdanosti dokaza tijekom istrage ili progona kaznenih djela;
(d) UI sustavi namijenjeni tijelima kaznenog progona, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za potporu tijelima kaznenog progona za ocjenjivanje pouzdanosti dokaza tijekom istrage ili progona kaznenih djela;
Amandman 729 Prijedlog uredbe Prilog III. – stavak 1. – točka 6. – podtočka e
(e) UI sustavi namijenjeni tijelima kaznenog progona za predviđanje počinjenja ili ponovnog počinjenja stvarnog ili mogućeg kaznenog djela na temelju izrade profila pojedinaca kako je navedeno u članku 3. točki 4. Direktive (EU) 2016/680 ili procjene osobina i karakteristika ili prethodnog kriminalnog ponašanja pojedinaca ili skupina;
Briše se.
Amandman 730 Prijedlog uredbe Prilog III. – stavak 1. – točka 6. – podtočka f
(f) UI sustavi namijenjeni tijelima kaznenog progona za izradu profila pojedinaca kako je navedeno u članku 3. točki 4. Direktive (EU) 2016/680 tijekom otkrivanja, istrage ili progona kaznenih djela;
(f) UI sustavi namijenjeni tijelima kaznenog progona, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za potporu tijelima kaznenog progona za izradu profila pojedinaca kako je navedeno u članku 3. točki 4. Direktive (EU) 2016/680 tijekom otkrivanja, istrage ili progona kaznenih djela ili, u slučaju agencija, ureda ili tijela Unije, kako je navedeno u članku 3. stavku 5. Uredbe (EU) 2018/1725;
Amandman 731 Prijedlog uredbe Prilog III. – stavak 1. – točka 6. – podtočka g
(g) UI sustavi namijenjeni za analitiku kaznenih djela koja se odnosi na pojedince i koja omogućuje pretraživanje složenih povezanih i nepovezanih velikih skupova podataka iz različitih izvora ili u različitim formatima s ciljem uočavanja nepoznatih uzoraka u podacima ili skrivenih veza među podacima;
(g) UI sustavi namijenjeni tijelima kaznenog progona, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za potporu tijelima kaznenog progona za analitiku kaznenih djela koja se odnosi na pojedince i koja omogućuje pretraživanje složenih povezanih i nepovezanih velikih skupova podataka iz različitih izvora ili u različitim formatima s ciljem uočavanja nepoznatih uzoraka u podacima ili skrivenih veza među podacima;
Amandman 732 Prijedlog uredbe Prilog III. – stavak 1. – točka 7. – podtočka a
(a) UI sustavi namijenjeni nadležnim tijelima javne vlasti kao poligrafi i slični instrumenti ili za otkrivanje emocionalnog stanja pojedinca;
(a) UI sustavi namijenjeni nadležnim tijelima javne vlasti, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije kao poligrafi i slični instrumenti, u mjeri u kojoj je njihova uporaba dopuštena na temelju relevantnog prava Unije ili nacionalnog prava;
Amandman 733 Prijedlog uredbe Prilog III. – stavak 1. – točka 7. – podtočka b
(b) UI sustavi namijenjeni nadležnim tijelima javne vlasti za procjenu rizika, uključujući rizik za sigurnost, rizik od nezakonitog useljavanja ili rizik za zdravlje, koji predstavlja pojedinac koji namjerava ući ili je ušao na državno područje države članice;
(b) UI sustavi namijenjeni nadležnim tijelima javne vlasti, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za procjenu rizika, uključujući rizik za sigurnost, rizik od nezakonitog useljavanja ili rizik za zdravlje, koji predstavlja pojedinac koji namjerava ući ili je ušao na državno područje države članice;
Amandman 734 Prijedlog uredbe Prilog III. – stavak 1. – točka 7. – podtočka c
(c) UI sustavi namijenjeni nadležnim tijelima javne vlasti za provjeru vjerodostojnosti putnih isprava i popratne dokumentacije pojedinaca te za otkrivanje nevjerodostojnih isprava provjerom njihovih sigurnosnih obilježja;
(c) UI sustavi namijenjeni nadležnim tijelima javne vlasti, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za provjeru vjerodostojnosti putnih isprava i popratne dokumentacije pojedinaca te za otkrivanje nevjerodostojnih isprava provjerom njihovih sigurnosnih obilježja;
Amandman 735 Prijedlog uredbe Prilog III. – stavak 1. – točka 7. – podtočka d
(d) UI sustavi namijenjeni za pomoć nadležnim tijelima javne vlasti pri razmatranju zahtjeva za azil, vize i boravišne dozvole te povezanih pritužbi u pogledu prihvatljivosti pojedinaca koji podnose zahtjev za status;
(d) UI sustavi namijenjeni nadležnim tijelima javne vlasti, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za pomoć nadležnim tijelima javne vlasti pri razmatranju i ocjenjivanju isstinitosti dokaza u odnosu na zahtjeve za azil, vize i boravišne dozvole te povezane pritužbe u pogledu prihvatljivosti pojedinaca koji podnose zahtjev za status;
Amandman 736 Prijedlog uredbe Prilog III. – stavak 1. – točka 7. – podtočka da (nova)
(d a) UI sustavi namijenjeni nadležnim tijelima javne vlasti, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za upravljanje migracijama, azilom i nadzorom granica za praćenje, nadzor ili obradu podataka u kontekstu aktivnosti upravljanja granicama u svrhu otkrivanja, prepoznavanja ili identificiranja pojedinaca;
Amandman 737 Prijedlog uredbe Prilog III. – stavak 1. – točka 7. – podtočka db (nova)
(d b) UI sustavi namijenjeni nadležnim tijelima, ili drugima u njihovo ime, ili agencijama, uredima ili tijelima Unije za upravljanje migracijama, azilom i nadzorom granica radi predviđanja ili prognoziranja trendova povezanih s migracijama, kretanjima i prelaženjem granica;
Amandman 738 Prijedlog uredbe Prilog III. – stavak 1. – točka 8. – podtočka a
(a) UI sustavi namijenjeni za pomoć pravosudnom tijelu u istraživanju i tumačenju činjenica i prava te u primjeni prava na konkretan skup činjenica.
(a) UI sustavi namijenjeni pravosudnom ili upravnom tijelu, ili u njegovo ime, za pomoć pravosudnom ili upravnom tijelu u istraživanju i tumačenju činjenica i prava te u primjeni prava na konkretan skup činjenica ili za uporabu na sličan način u alternativnom rješavanju sporova.
Amandman 739 Prijedlog uredbe Prilog III. – stavak 1. – točka 8. – podtočka aa (nova)
(a a) UI sustavi namijenjeni za utjecanje na ishod izbora ili referenduma ili na ponašanje pojedinaca pri glasovanju na izborima ili referendumima. To ne uključuje UI sustave čijim izlaznim rezultatima pojedinci nisu izravno izloženi, kao što su alati koji se upotrebljavaju za organizaciju, optimizaciju i strukturiranje političkih kampanja s administrativnog i logističkog stajališta.
Amandman 740 Prijedlog uredbe Prilog III. – stavak 1. – točka 8. – podtočka ab (nova)
(a b) UI sustavi namijenjeni platformama društvenih medija koje su određene kao vrlo velike internetske platforme u smislu članka 33. Uredbe (EU) 2022/2065 u svojim sustavima za preporučivanje primatelju sadržaja koji su izradili korisnici usluge i koji je dostupan na platformi.
Amandman 741 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka a
(a) njegovu namjenu, imena osoba koje ga razvijaju te datum i verziju sustava;
(a) njegovu namjenu, ime dobavljača i verziju sustava, pri čemu se u slijedu revizija odražava njegov odnos s prethodnim i, prema potrebi, novijim verzijama;
Amandman 742 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka aa (nova)
(a a) prirodu podataka za koje je vjerojatno ili namijenjeno da će se obrađivati u sustavu i, u slučaju osobnih podataka, kategorije pojedinaca i skupina na koje je vjerojatno ili namijenjeno da će to utjecati;
Amandman 743 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka b
(b) način na koji je UI sustav u interakciji, ili se može upotrijebiti za interakciju, s hardverom ili softverom koji nije dio samog UI sustava, ako je primjenjivo;
(b) način na koji je UI sustav može biti u interakciji, ili se može upotrijebiti za interakciju, s hardverom ili softverom, uključujući druge UI sustave koji nisu dio samog UI sustava, ako je primjenjivo;
Amandman 744 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka c
(c) verzije relevantnog softvera ili integriranog softvera i sve zahtjeve povezane s ažuriranjem verzija;
(c) verzije relevantnog softvera ili integriranog softvera i, ako je primjenjivo, informacije za subjekta koji primjenjuje sustav o svim zahtjevima povezanima s ažuriranjem verzija;
Amandman 745 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka d
(d) opis svih oblika u kojima se UI sustav stavlja na tržište ili u uporabu;
(d) opis različitih konfiguracija i varijanti UI sustava namijenjenih za stavljanje na tržište ili u uporabu;
Amandman 746 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka fa (nova)
(f a) opis sučelja subjekta koji primjenjuje sustav;
Amandman 747 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka g
(g) korisničke upute za uporabu i, prema potrebi, upute za instalaciju;
(g) korisničke upute za uporabu za subjekta koji primjenjuje sustav u skladu s člankom 13. stavcima 2. i 3. i člankom 14. stavkom 4. i, prema potrebi, upute za instalaciju;
Amandman 748 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka ga (nova)
(g a) detaljan i lako razumljiv opis glavnog cilja ili ciljeva optimizacije sustava;
Amandman 749 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka gb (nova)
(g b) detaljan i lako razumljiv opis očekivanih rezultata i kvalitete očekivanih rezultata sustava;
Amandman 750 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka gc (nova)
(g c) detaljne i lako razumljive upute za tumačenje rezultata sustava;
Amandman 751 Prijedlog uredbe Prilog IV. – stavak 1. – točka 1. – podtočka gd (nova)
(g d) primjere scenarija za koje se sustav ne bi trebao upotrebljavati;
Amandman 752 Prijedlog uredbe Prilog IV. – stavak 1. – točka 2. – podtočka b
(b) projektne specifikacije sustava, odnosno opću logiku UI sustava i algoritama; najvažnije projektne odabire, uključujući razloge i pretpostavke za njih, među ostalim u vezi s osobama ili skupinama osoba za koje je sustav namijenjen; glavna primijenjena klasifikacijska rješenja; informacije o tome što bi sustav trebao optimizirati te relevantnost različitih parametara; odluke o eventualnim kompromisima u tehničkim rješenjima koji su doneseni radi poštovanja zahtjeva iz glave III. poglavlja 2.;
(b) opis strukture, projektne specifikacije, algoritme i podatkovne strukture uz analizu njegovih sastavnih dijelova i sučelja, njihove međusobne povezanosti i načina na koji se njima osigurava cjelokupna obrada ili logika UI sustava; najvažnije projektne odabire, uključujući razloge i pretpostavke za njih, među ostalim u vezi s osobama ili skupinama osoba za koje je sustav namijenjen; glavna primijenjena klasifikacijska rješenja; informacije o tome što bi sustav trebao optimizirati te relevantnost različitih parametara; odluke o eventualnim kompromisima u tehničkim rješenjima koji su doneseni radi poštovanja zahtjeva iz glave III. poglavlja 2.;