Az Európai Parlament 2023. június 14-én elfogadott módosításai a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról (a mesterséges intelligenciáról szóló jogszabály) és egyes uniós jogalkotási aktusok módosításáról szóló európai parlamenti és tanácsi rendeletre irányuló javaslathoz (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))(1)
(Rendes jogalkotási eljárás: első olvasat)
A Bizottság által javasolt szöveg
Módosítás
Módosítás 1 Rendeletre irányuló javaslat 4 a bevezető hivatkozás (új)
tekintettel az Európai Központi Bank véleményére,
Módosítás 2 Rendeletre irányuló javaslat 4 b bevezető hivatkozás (új)
tekintettel az Európai Adatvédelmi Testület és az európai adatvédelmi biztos közös véleményére,
(1) E rendelet célja a belső piac működésének javítása azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt.
(1) E rendelet célja, hogy előmozdítsa az emberközpontú és megbízható mesterséges intelligencia elterjedését, és az innováció előmozdítása, valamint a belső piac működésének javítása mellett biztosítsa az Unióban az egészség, a biztonság, az alapvető jogok, a demokrácia és a jogállamiság, valamint a környezet magas szintű védelmét az MI-rendszerek káros hatásaival szemben; Ez a rendelet egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be a mesterségesintelligencia-rendszerek (MI-rendszerek) fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt. Egyes MI-rendszerek hatással lehetnek a demokráciára és a jogállamiságra, valamint a környezetre is. Az e rendelet mellékleteiben felsorolt kritikus ágazatok és felhasználási esetek kifejezetten foglalkoznak ezekkel az aggályokkal.
Módosítás 4 Rendeletre irányuló javaslat 1 a preambulumbekezdés (új)
(1a) A rendelet feladata az, hogy megőrizze az európai értékeket, megkönnyítse a mesterséges intelligenciából származó előnyök elosztását a társadalomban, megóvja az egyéneket, a vállalatokat, a demokráciát és jogállamiságot, valamint a környezetet a kockázatoktól, miközben ösztönzi az innovációt és a foglalkoztatást, és Európát vezető szerephez juttatja ezen a területen.
(2) A mesterségesintelligencia-rendszerek (a továbbiakban: MI-rendszerek) a gazdaság és a társadalom számos ágazatában könnyen alkalmazhatók, többek között a határokon átnyúlóan is, és az egész Unióban forgalomban lehetnek. Egyes tagállamok már megvizsgálták olyan nemzeti szabályok elfogadását, amelyek biztosítják a mesterséges intelligencia biztonságosságát, valamint az alapvető jogokra vonatkozó kötelezettségekkel összhangban történő fejlesztését és használatát. Az eltérő nemzeti szabályok a belső piac széttagoltságához vezethetnek, és csökkenthetik az MI-rendszereket fejlesztő vagy használó üzemeltetők jogbiztonságát. Ezért az egész Unióban következetes és magas szintű védelmet kell biztosítani, ugyanakkor meg kell előzni az MI-rendszerek, valamint a kapcsolódó termékek és szolgáltatások belső piacon belüli szabad mozgását akadályozó különbségeket, és ennek érdekében az üzemeltetők számára egységes kötelezettségeket kell megállapítani, és az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke alapján garantálni kell a közérdeken alapuló kényszerítő indokok és a személyek jogainak egységes védelmét a belső piacon. Amennyiben e rendelet különös szabályokat tartalmaz az egyéneknek a személyes adatok kezelése tekintetében való védelméről, az MI-rendszereknek a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, „valós idejű” távoli biometrikus azonosításra történő használatát érintő korlátozásokkal kapcsolatban, helyénvaló e rendeletet az említett különös szabályok tekintetében az EUMSZ 16. cikkére alapozni. E különös szabályokra és az EUMSZ 16. cikkének alkalmazására tekintettel helyénvaló konzultálni az Európai Adatvédelmi Testülettel.
(2) Az MI-rendszerek a gazdaság és a társadalom számos ágazatában könnyen alkalmazhatók, többek között a határokon átnyúlóan is, és az egész Unióban forgalomban lehetnek. Egyes tagállamok már megvizsgálták olyan nemzeti szabályok elfogadását, amelyek biztosítják a mesterséges intelligencia megbízhatóságát és biztonságosságát, valamint az alapvető jogokra vonatkozó kötelezettségekkel összhangban történő fejlesztését és használatát. Az eltérő nemzeti szabályok a belső piac széttagoltságához vezethetnek, és csökkenthetik az MI-rendszereket fejlesztő vagy használó üzemeltetők jogbiztonságát. Ezért a megbízható MI megvalósítása érdekében az egész Unióban következetes és magas szintű védelmet kell biztosítani, ugyanakkor meg kell előzni az MI-rendszerek, valamint a kapcsolódó termékek és szolgáltatások belső piacon belüli szabad mozgását, innovációját, bevezetését és elterjedését akadályozó különbségeket, és ennek érdekében az üzemeltetők számára egységes kötelezettségeket kell megállapítani, és az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke alapján garantálni kell a közérdeken alapuló kényszerítő indokok és a személyek jogainak egységes védelmét a belső piacon.
Módosítás 6 Rendeletre irányuló javaslat 2 a preambulumbekezdés (új)
(2a) Mivel a mesterséges intelligencia gyakran nagy mennyiségű adat feldolgozására támaszkodik, és számos MI-rendszer és alkalmazás a személyes adatok kezelésére támaszkodik, helyénvaló e rendeletet az EUMSZ 16. cikkére alapozni, amely rögzíti a természetes személyeknek a személyes adatok kezelése tekintetében való védelméhez való jogot, és rendelkezik a személyes adatok kezelése tekintetében az egyének védelméről szóló szabályok elfogadásáról.
Módosítás 7 Rendeletre irányuló javaslat 2 b preambulumbekezdés (új)
(2b) A személyes adatok védelméhez való alapvető jogot különösen az (EU) 2016/679 és az (EU) 2018/1725 rendelet, valamint a 2016/680 irányelv védi. A 2002/58/EK irányelv emellett a magánéletet és a közlések titkosságát is védi többek között azáltal, hogy meghatározza a személyes és nem személyes adatoknak a végberendezésen történő tárolására, valamint az onnan történő elérésére vonatkozó feltételeket. Ezek a jogi aktusok biztosítják a fenntartható és felelősségteljes adatkezelés alapját, ideértve azt is, ha az adatkészletekben személyes és nem személyes adatok egyaránt szerepelnek. E rendeletnek nem célja, hogy befolyásolja a személyes adatok kezelésére vonatkozó meglévő uniós jog alkalmazását, ezen belül az említett eszközöknek való megfelelés ellenőrzéséért felelős független felügyeleti hatóságok feladatait és hatáskörét. Ez a rendelet nem érinti a magánélet és a személyes adatok védelmére vonatkozó uniós jog által előírt és az Európai Unió Alapjogi Chartájában (a továbbiakban: Charta) rögzített, a magánélet tiszteletben tartásához és az adatvédelemhez való alapvető jogokat.
Módosítás 8 Rendeletre irányuló javaslat 2 c preambulumbekezdés (új)
(2c) Az Unióban működő mesterségesintelligencia-rendszerekre a vonatkozó termékbiztonsági jogszabályok vonatkoznak, amelyek általános keretet biztosítanak a fogyasztók veszélyes termékekkel szembeni védelmére, és ezeket a jogszabályokat továbbra is alkalmazni kell. E rendelet nem érinti a fogyasztóvédelemmel és termékbiztonsággal kapcsolatos egyéb uniós jogi aktusokban, köztük az (EU) 2017/2394 rendeletben, az (EU) 2019/1020 rendeletben, az általános termékbiztonságról szóló 2001/95/EK irányelvben és a 2013/11/EU irányelvben megállapított szabályokat sem.
Módosítás 9 Rendeletre irányuló javaslat 2 d preambulumbekezdés (új)
(2d) Az EUMSZ 114. cikkének (2) bekezdésével összhangban ez a rendelet kiegészíti és nem sértheti a munkavállalók jogait és érdekeit. Ez a rendelet ezért nem érinti a szociálpolitikára vonatkozó közösségi jogot és a nemzeti munkajogot és munkaügyi gyakorlatokat, azaz a foglalkoztatási feltételeket, a munkafeltételeket – többek között a munkahelyi egészségvédelmet és biztonságot – valamint a munkáltatók és munkavállalók közötti kapcsolatot – többek között a tájékoztatást, az egyeztetést és a részvételt – érintő jogi és szerződéses rendelkezéseket. Ez a rendelet nem befolyásolhatja a tagállamokban és uniós szinten elismert alapvető jogoknak – beleértve a sztrájkjognak vagy a sztrájk szabadságának vagy a tagállamokban fennálló konkrét munkaügyi kapcsolatrendszerek keretébe tartozó egyéb fellépések megtétele jogának vagy szabadságának – a nemzeti jog és/vagy gyakorlat szerinti gyakorlását. Nem érintheti továbbá az együttműködési gyakorlatot, a nemzeti joggal és/vagy gyakorlattal összhangban lévő, kollektív szerződéssel kapcsolatos tárgyalásokhoz, azok megkötéséhez és érvényesítéséhez való jogot, vagy a kollektív fellépéshez való jogot. Ez semmiképpen sem akadályozhatja meg a Bizottságot abban, hogy külön jogszabályokat javasoljon az MI-rendszerek által érintett munkavállalók jogaira és szabadságaira vonatkozóan.
Módosítás 10 Rendeletre irányuló javaslat 2 e preambulumbekezdés (új)
(2e) Ez a rendelet nem érintheti a platformalapú munkavégzés munkakörülményeinek javítását célzó, a 2021/414/EK irányelvben meghatározott rendelkezéseket.
Módosítás 11 Rendeletre irányuló javaslat 2 f preambulumbekezdés (új)
(2f) E rendeletnek elő kell segítenie a kutatás és az innováció támogatását, nem szabad aláásnia a kutatási és fejlesztési tevékenységet, és tiszteletben kell tartania a tudományos kutatás szabadságát. Ezért ki kell zárni a hatálya alól a kifejezetten tudományos kutatás és fejlesztés céljából kifejlesztett MI-rendszereket, és biztosítani kell, hogy a rendelet más módon ne érintse az MI-rendszerekkel kapcsolatos tudományos kutatási és fejlesztési tevékenységeket. A kutatási és fejlesztési tevékenységeket minden körülmények között a Chartával, az uniós joggal és a nemzeti joggal összhangban kell végezni;
(3) A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amely az ágazatok és a társadalmi tevékenységek teljes spektrumában gazdasági és társadalmi előnyök széles skálájához járulhat hozzá. Az előrejelzések javításával, a műveleteknek és az erőforrások elosztásának optimalizálásával, valamint az egyének és a szervezetek rendelkezésére álló digitális megoldások személyre szabásával a mesterséges intelligencia használata kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások számára, és társadalmi és környezeti szempontból kedvező eredményeket hozhat, például az egészségügy, a mezőgazdaság, az oktatás és képzés, az infrastruktúra-irányítás, az energia, a közlekedés és a logisztika, a közszolgáltatások, a biztonság, az igazságszolgáltatás, az erőforrás- és energiahatékonyság, valamint az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás terén.
(3) A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amely az ágazatok és a társadalmi tevékenységek teljes spektrumában gazdasági és társadalmi előnyök széles skálájához járul hozzá, ha a Chartával és az Unió alapját képező értékekkel összhangban lévő, vonatkozó általános elveknek megfelelően fejlesztik. Az előrejelzések javításával, a műveleteknek és az erőforrások elosztásának optimalizálásával, valamint az egyének és a szervezetek rendelkezésére álló digitális megoldások személyre szabásával a mesterséges intelligencia használata kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások számára, és társadalmi és környezeti szempontból kedvező eredményeket hozhat, például az egészségügy, a mezőgazdaság, az élelmiszerbiztonség, az oktatás és képzés, a média, a sport, a kultúra, az infrastruktúra-irányítás, az energia, a közlekedés és a logisztika, a válságkezelés, a közszolgáltatások, a biztonság, az igazságszolgáltatás, az erőforrás- és energiahatékonyság, a környezet figyelése, a biológiai sokféleség és ökoszisztémák fenntartása és helyreállítása, valamint az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás terén.
Módosítás 13 Rendeletre irányuló javaslat 3 a preambulumbekezdés (új)
(3a) A karbonsemlegességi célok eléréséhez való hozzájárulás érdekében az európai vállalatoknak törekedniük kell arra, hogy kihasználjanak minden olyan rendelkezésre álló technológiai fejlesztést, amely segítheti e cél megvalósítását. A mesterséges intelligencia olyan technológia, amely képes az ipari, környezeti, egészségügyi és egyéb folyamatok során létrehozott egyre növekvő mennyiségű adat feldolgozására. Az MI-alapú elemzési és optimalizálási eszközökbe történő beruházások megkönnyítése érdekében e rendeletnek kiszámítható és arányos környezetet kell biztosítania az alacsony kockázatú ipari megoldások számára.
(4) Ugyanakkor a mesterséges intelligencia – a konkrét alkalmazás és használat körülményeitől függően – kockázatokkal is járhat, és sértheti a közérdeket és az uniós jog által védett jogokat. Az ilyen kár lehet vagyoni vagy nem vagyoni kár.
(4) Ugyanakkor a mesterséges intelligencia – a konkrét alkalmazás és használat körülményeitől, valamint a technológiai fejlettség szintjétől függően – kockázatokkal is járhat, és sértheti a köz- és magánérdeket és a természetes személyeknek az uniós jog által védett alapvető jogait. Az ilyen kár lehet vagyoni vagy nem vagyoni kár, ideértve a fizikai, pszichés, társadalmi vagy gazdasági károkat is.
Módosítás 15 Rendeletre irányuló javaslat 4 a preambulumbekezdés (új)
(4a) Tekintettel arra a jelentős hatásra, amelyet a mesterséges intelligencia a társadalomra gyakorolhat és a bizalomépítés szükségességére, létfontosságú, hogy a mesterséges intelligencia fejlesztése és szabályozási keretének kidolgozása az EUSZ 2. cikkében foglalt uniós értékekkel és a Szerződésekben, a Chartában és az emberi jogok nemzetközi jogában rögzített alapvető jogokkal és szabadságokkal összhangban történjen. Ennek előfeltétele, hogy a mesterséges intelligenciának emberközpontú technológiának kell lennie. Nem helyettesítheti az emberi autonómiát, illetve nem feltételezheti az egyéni szabadság elvesztését, és elsősorban a társadalom igényeit kell kielégítenie és a közjót kell szolgálnia. Biztosítékokat kell nyújtani az etikusan beágyazott és az uniós értékeket és a Chartát tiszteletben tartó mesterséges intelligencia fejlesztésének és használatának biztosítására.
(5) Ezért a mesterséges intelligencia belső piacon történő fejlesztésének, használatának és elterjedésének elősegítése érdekében szükség van a mesterséges intelligenciára vonatkozó harmonizált szabályokat meghatározó uniós jogi keretre, amely ugyanakkor garantálja a uniós jog által elismert és oltalmazott közérdek – például az egészség és a biztonság –, valamint az alapvető jogok magas szintű védelmét. E célkitűzés elérése érdekében szabályokat kell megállapítani bizonyos MI-rendszerek forgalomba hozatalára és üzembe helyezésére vonatkozóan, ezáltal biztosítva a belső piac zavartalan működését, és lehetővé téve, hogy e rendszerek élvezhessék az áruk és szolgáltatások szabad mozgásának elvéből származó előnyöket. E szabályok megállapításával e rendelet támogatja azt a célkitűzést, hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, amint azt az Európai Tanács megállapította33, és biztosítja az etikai elvek védelmét, amint azt az Európai Parlament kifejezetten kérte34.
(5) Ezért a mesterséges intelligencia belső piacon történő fejlesztésének, használatának és elterjedésének elősegítése érdekében szükség van a mesterséges intelligenciára vonatkozó harmonizált szabályokat meghatározó uniós jogi keretre, amely ugyanakkor garantálja a uniós jog által elismert és oltalmazott közérdek – például az alapvető jogok, ademokrácia és a jogállamiság, valamint a környezet, az egészség és a biztonság – magas szintű védelmét. E célkitűzés elérése érdekében szabályokat kell megállapítani bizonyos MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan, ezáltal biztosítva a belső piac zavartalan működését, és lehetővé téve, hogy e rendszerek élvezhessék az áruk és szolgáltatások szabad mozgásának elvéből származó előnyöket. Ezeknek a szabályoknak egyértelműnek és szilárdnak kell lenniük az alapvető jogok védelme, az új innovatív megoldások támogatása, valamint az uniós értékekkel összhangban mesterségesintelligencia-rendszereket létrehozó köz- és magánszférabeli szereplők európai ökoszisztémájának lehetővé tétele tekintetében. E szabályok megállapításával, valamint az innovációt támogató intézkedések meghatározásával – különös tekintettel a kkv-kra és az induló vállalkozásokra – e rendelet támogatja azt a célkitűzést, hogy népszerűsítse az Európában kifejlesztett MI-t, hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, amint azt az Európai Tanács megállapította33, és biztosítja az etikai elvek védelmét, amint azt az Európai Parlament kifejezetten kérte34.
__________________
__________________
33 Európai Tanács, Az Európai Tanács rendkívüli ülése (2020. október 1–2.) – Következtetések, EUCO 13/20, 2020, 6. o.
33 Európai Tanács, Az Európai Tanács rendkívüli ülése (2020. október 1–2.) – Következtetések, EUCO 13/20, 2020, 6. o.
34Az Európai Parlament 2020. október 20-i állásfoglalása a Bizottsághoz intézett ajánlásokkal a mesterséges intelligencia, a robotika és a kapcsolódó technológiák etikai szempontjainak keretéről, 2020/2012(INL).
34 Az Európai Parlament 2020. október 20-i állásfoglalása a Bizottsághoz intézett ajánlásokkal a mesterséges intelligencia, a robotika és a kapcsolódó technológiák etikai szempontjainak keretéről, 2020/2012(INL).
Módosítás 17 Rendeletre irányuló javaslat 5 a preambulumbekezdés (új)
(5a) Emellett az MI-rendszerek uniós értékekkel összhangban történő fejlesztésének előmozdítása érdekében az Uniónak foglalkoznia kell a digitális átalakulásban rejlő lehetőségeket blokkoló fő hiányosságokkal és akadályokkal, köztük a digitálisan képzett munkaerő hiányával, a kiberbiztonsággal kapcsolatos aggályokkal, a beruházások és a beruházásokhoz való hozzáférés hiányával, valamint a nagyvállalatok, a kkv-k induló innovatív vállalkozások közötti meglévő és potenciális különbségekkel. Különös figyelmet kell fordítani annak biztosítására, hogy a mesterséges intelligencia és az új technológiákban elért innovációk előnyei az Unió valamennyi régiójában érezhetőek legyenek, és hogy elegendő beruházás és forrás álljon rendelkezésre, különösen azon régiók számára, amelyek néhány digitális mutató tekintetében adott esetben lemaradásban vannak.
(6) A jogbiztonság biztosítása végett egyértelműen meg kell határozni az MI-rendszer fogalmát, ugyanakkor rugalmasságot kell biztosítani a jövőbeli technológiai fejlődéshez való alkalmazkodás érdekében. A fogalommeghatározásnak a szoftver alapvető működési jellemzőin kell alapulnia, különösen azon a képességen, hogy ember által meghatározott célkitűzések egy adott sorozata tekintetében olyan kimeneteket tud generálni, mint például tartalom, előrejelzések, ajánlások vagy döntések, amelyek befolyásolják azt a környezetet, amellyel a rendszer kölcsönhatásban van, legyen szó akár fizikai, akár digitális dimenzióról. Az MI-rendszereket meg lehet úgy tervezni, hogy különböző szintű autonómiával működjenek, és önállóan vagy egy termék alkatrészeként is használhatók legyenek, függetlenül attól, hogy a rendszert fizikailag integrálták-e a termékbe (beágyazott), vagy hogy anélkül szolgálja-e a termék funkcionalitását, hogy abba beépítenék (nem beágyazott). Az MI-rendszer fogalommeghatározását ki kell egészíteni a fejlesztéséhez használt konkrét technikák és megközelítések listájával, amelyet a piaci és technológiai fejlődés fényében naprakészen kell tartani azáltal, hogy a Bizottság felhatalmazáson alapuló jogi aktusokat fogad el a lista módosítása céljából.
(6) Az MI-rendszer e rendeletben szereplő fogalmát egyértelműen meg kell határozni és szorosan össze kell hangolni a mesterséges intelligenciával foglalkozó nemzetközi szervezetek munkájával a jogbiztonság, a harmonizáció és a széles körű elfogadás biztosítása érdekében, ugyanakkor rugalmasságot kell biztosítani az e területen végbemenő gyors technológiai fejleményekhez való alkalmazkodáshoz. Ezen túlmenően a mesterséges intelligencia kulcsfontosságú jellemzőin, például annak tanulási, érvelési vagy modellezési képességén kell alapulnia, megkülönböztetve azt az egyszerűbb szoftverrendszerektől vagy programozási megközelítésektől.Az MI-rendszereket úgy alakították ki, hogy eltérő szintű autonómiával működjenek, ami azt jelenti, hogy legalább bizonyos mértékben függetlenek az emberi ellenőrzéstől és az emberi beavatkozás nélküli működéshez szükséges képességektől. A „gépalapú” kifejezés arra a tényre utal, hogy az MI-rendszerek gépeken működnek. Az explicit vagy implicit célkitűzésekre való hivatkozás hangsúlyozza, hogy az MI-rendszerek kifejezetten ember által meghatározott célkitűzések vagy implicit célkitűzések szerint működhetnek. Az MI-rendszer célkitűzései eltérhetnek az MI-rendszer rendeltetésétől egy adott kontextusban. Az előrejelzésekre való hivatkozás magában foglalja a tartalmat is, amelyet e rendelet az előrejelzés egy formájának tekint az MI-rendszer által előállított lehetséges kimenetek (outputok) egyikeként. E rendelet alkalmazásában a környezetek azok a környezetek, amelyekben az MI-rendszerek működnek, míg az MI-rendszer által generált kimenetek – azaz előrejelzések, ajánlások vagy határozatok – az említett környezetből származó bevitelek (inputok) alapján reagálnak a rendszer célkitűzéseire.Az ilyen kimenet még inkább befolyásolja az említett környezetet, még akkor is, ha csupán új információkat juttat el hozzá.
Módosítás 19 Rendeletre irányuló javaslat 6 a preambulumbekezdés (új)
(6a) Az MI-rendszerek gyakran rendelkeznek gépi tanulási kapacitással, amely lehetővé teszi számukra, hogy önállóan alkalmazkodjanak és új feladatokat hajtsanak végre. A gépi tanulás a modell paramétereinek az adatokból történő optimalizálásának számítási folyamatára utal, amely egy bemeneti adatokon alapuló kimenetet generáló matematikai konstrukció. A gépi tanulási megközelítések közé tartozik például a felügyelt, felügyelet nélküli és megerősítő tanulás, amely számos módszert alkalmaz, beleértve a neurális hálózatokkal való mély tanulást. E rendelet célja azon új potenciális kockázatok kezelése, amelyek az irányítás MI-rendszerekre történő átruházásából eredhetnek, különös tekintettel azokra az MI-rendszerekre, amelyek a telepítést követően fejlődhetnek. Számos MI-rendszer funkciója és outputjai absztrakt matematikai kapcsolatokon alapulnak, amelyeket az emberek nehezen tudnak megérteni, nyomon követni és konkrét inputokra visszavezetni. Ezek az összetett és átláthatatlan jellemzők (fekete doboz elem) hatással vannak az elszámoltathatóságra és a megmagyarázhatóságra. Az összehasonlíthatóan egyszerűbb technikák, például a tudásalapú megközelítések, a Bayes-becslések vagy a döntési fák olyan joghézagokhoz is vezethetnek, amelyeket e rendeletnek orvosolnia kell, különösen akkor, ha azokat hibrid rendszerekben alkalmazott gépi tanulási megközelítésekkel kombinálva alkalmazzák.
Módosítás 20 Rendeletre irányuló javaslat 6 b preambulumbekezdés (új)
(6b) A mesterségesintelligencia-rendszerek önálló szoftverrendszerként használhatók, fizikai termékbe integrálva (beágyazva), egy fizikai termék funkcionalitásának kiszolgálására, anélkül, hogy beépítenék őket (nem beágyazva), vagy egy nagyobb rendszer mesterségesintelligencia-komponenseként használhatók. Ha ez a nagyobb rendszer nem működne a szóban forgó MI-komponens nélkül, akkor a teljes nagyobb rendszert e rendelet értelmében egyetlen MI-rendszernek kell tekinteni.
(7) A biometrikus adatok e rendeletben használt fogalma összhangban van a biometrikus adatoknak az (EU) 2016/679 európai parlamenti és tanácsi rendelet35 4. cikkének 14. pontjában, az (EU) 2018/1725 európai parlamenti és tanácsi rendelet36 3. cikkének 18. pontjában és az (EU) 2016/680 európai parlamenti és tanácsi irányelv37 3. cikkének 13. pontjában meghatározott fogalmával, és azzal összhangban kell értelmezni.
(7) A biometrikus adatok e rendeletben használt fogalma ugyanaz mint az (EU) 2016/679 európai parlamenti és tanácsi rendelet 4. cikkének 14. pontjában35 meghatározott fogalom. „biometriai alapú adatok”: a természetes személy fizikai, fiziológiai vagy viselkedési jeleire – például arckifejezésre, mozgásra, pulzusfrekvenciára, hangra, billentyűleütésre vagy járásra – vonatkozó sajátos technikai adatkezeléssel nyert további adatok, amelyek lehetővé tehetik vagy megerősíthetik a természetes személy egyedi azonosítását;
__________________
__________________
35 Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet) (HL L 119., 2016.5.4., 1. o.).
35 Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet) (HL L 119., 2016.5.4., 1. o.).
36 Az Európai Parlament és a Tanács (EU) 2018/1725 rendelete (2018. október 23.) a természetes személyeknek a személyes adatok uniós intézmények, szervek, hivatalok és ügynökségek általi kezelése tekintetében való védelméről és az ilyen adatok szabad áramlásáról, valamint a 45/2001/EK rendelet és az 1247/2002/EK határozat hatályon kívül helyezéséről (HL L 295., 2018.11.21., 39. o.).
37 Az Európai Parlament és a Tanács (EU) 2016/680 irányelve (2016. április 27.) a személyes adatoknak az illetékes hatóságok által a bűncselekmények megelőzése, nyomozása, felderítése, a vádeljárás lefolytatása vagy büntetőjogi szankciók végrehajtása céljából végzett kezelése tekintetében a természetes személyek védelméről és az ilyen adatok szabad áramlásáról, valamint a 2008/977/IB tanácsi kerethatározat hatályon kívül helyezéséről (a bűnüldözésben érvényesítendő adatvédelemről szóló irányelv) (HL L 119., 2016.5.4., 89. o.).
Módosítás 22 Rendeletre irányuló javaslat 7 a preambulumbekezdés (új)
(7a) A biometrikus azonosítás fogalmát e rendelet céljaira a következőképpen kell meghatározni: MI-rendszerek alkalmazása a fizikai, fiziológiai, viselkedési és pszichológiai emberi jellemzők, például az arc, a szemmozgás, az arckifejezés, a testalkat, a hang, a beszéd, a járás, a testtartás, a szívverés, a vérnyomás, a testszag, a billentyűleütések, a pszichológiai reakciók (düh, szorongás, gyász stb.) automatikus felismerésére egy személy személyazonosságának megállapítása céljából az adott személy biometrikus adatainak az adatbázisban tárolt egyének biometrikus adataival való összehasonlítása révén (egy adott egyén összehasonlítása több másikkal, egy a többhöz megfeleltetés) függetlenül attól, hogy az illető egyén hozzájárulását adta-e ehhez vagy sem.
Módosítás 23 Rendeletre irányuló javaslat 7 b preambulumbekezdés (új)
(7b) A biometrikus kategorizálás fogalmát e rendelet céljaira a következőképpen kell meghatározni: olyan MI-rendszer, amely a természetes személyeket biometrikus vagy biometrikus alapú adataik alapján vagy ezekből az adatokból kikövetkeztethetően meghatározott kategóriákba (például biológiai és társadalmi nem, kor, hajszín, szemszín, tetoválás, etnikai vagy társadalmi származás, szexuális vagy politikai irányultság, egészségi állapot, szellemi vagy fizikai képességek, viselkedési vagy személyiségjegyek, nyelv, vallás vagy nemzeti kisebbséghez való tartozás) sorolja.
(8) A távoli biometrikus azonosító rendszer e rendeletben használt fogalmát funkcionális értelemben kell meghatározni, olyan MI-rendszerként, amelynek célja természetes személyek távolról történő azonosítása a személy biometrikus adatainak egy referencia-adatbázisban szereplő biometrikus adatokkal való összevetése révén, anélkül, hogy előzetesen tudomása lenne arról, hogy a célszemély jelen lesz-e és azonosítható-e, függetlenül az alkalmazott konkrét technológiától, folyamatoktól vagy a biometrikus adatok típusától. Figyelembe véve eltérő jellemzőiket és használati módjaikat, valamint a különböző kockázatokat, különbséget kell tenni a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszerek között. A „valós idejű” rendszerek esetében a biometrikus adatok rögzítése, összehasonlítása és azonosítása azonnal, majdnem azonnal vagy mindenesetre jelentős késleltetés nélkül történik. E tekintetben nem engedhető meg, hogy a szóban forgó MI-rendszerek „valós idejű” használatára vonatkozó kisebb késleltetésekre legyen lehetőség, és ezáltal az e rendeletben foglalt szabályokat bárki megkerülje. A „valós idejű” rendszerek olyan „élő” vagy megközelítőleg „élő” anyagot, például videofelvételt használnak, amelyet kamera vagy hasonló funkciójú más eszköz generál. A „nem valós idejű” rendszerek esetében ezzel szemben a biometrikus adatokat már rögzítették, és az összevetésre és az azonosításra csak jelentős késleltetéssel kerül sor. Olyan anyagokról van szó, mint például a zártláncú televíziós kamerák vagy magánkészülékek által előállított képek vagy videofelvételek, amelyek a rendszer érintett természetes személyek tekintetében történő használata előtt keletkeztek.
(8) A távoli biometrikus azonosító rendszer e rendeletben használt fogalmát funkcionális értelemben kell meghatározni, olyan MI-rendszerként, amelynek célja természetes személyek távolról történő azonosítása a személy biometrikus adatainak egy referencia-adatbázisban szereplő biometrikus adatokkal való összevetése révén, anélkül, hogy előzetesen tudomása lenne arról, hogy a célszemély jelen lesz-e és azonosítható-e, függetlenül az alkalmazott konkrét technológiától, folyamatoktól vagy a biometrikus adatok típusától, kizárva az olyan ellenőrzési rendszereket, amelyek csupán az egyén biometrikus adatait hasonlítják össze a korábban megadott biometrikus adataikkal (egy az egyhez megfeleltetés). Figyelembe véve eltérő jellemzőiket és használati módjaikat, valamint a különböző kockázatokat, különbséget kell tenni a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszerek között. A „valós idejű” rendszerek esetében a biometrikus adatok rögzítése, összehasonlítása és azonosítása azonnal, majdnem azonnal vagy mindenesetre jelentős késleltetés nélkül történik. E tekintetben nem engedhető meg, hogy a szóban forgó MI-rendszerek „valós idejű” használatára vonatkozó kisebb késleltetésekre legyen lehetőség, és ezáltal az e rendeletben foglalt szabályokat bárki megkerülje. A „valós idejű” rendszerek olyan „élő” vagy megközelítőleg „élő” anyagot, például videofelvételt használnak, amelyet kamera vagy hasonló funkciójú más eszköz generál. A „nem valós idejű” rendszerek esetében ezzel szemben a biometrikus adatokat már rögzítették, és az összevetésre és az azonosításra csak jelentős késleltetéssel kerül sor. Olyan anyagokról van szó, mint például a zártláncú televíziós kamerák vagy magánkészülékek által előállított képek vagy videofelvételek, amelyek a rendszer érintett természetes személyek tekintetében történő használata előtt keletkeztek. Tekintettel arra, hogy a biometrikus azonosítás fogalma független az egyén hozzájárulásától, ez a meghatározás akkor is alkalmazandó, ha a figyelmeztető jelzéseket a távoli biometrikus azonosító rendszer felügyelete alatt álló helyen helyezik el, és azt előzetesen nem semmisítik meg ténylegesen.
Módosítás 25 Rendeletre irányuló javaslat 8 a preambulumbekezdés (új)
(8a) A természetes személyek távolról történő azonosítása azt jelenti, hogy a távoli biometrikus azonosító rendszerek megkülönböztethetők a közelben biometrikus azonosító eszközöket használó egyedi ellenőrzési rendszerektől, amelyek kizárólagos célja annak megerősítése, hogy az azonosításra jelentkező konkrét természetes személy számára engedélyezett-e például az adott szolgáltatáshoz, eszközhöz vagy helyiséghez való hozzáférés.
(9) E rendelet alkalmazásában a nyilvánosság számára hozzáférhető hely fogalma alatt bármely, a nyilvánosság számára hozzáférhető fizikai területet kell érteni, függetlenül attól, hogy a szóban forgó hely magán- vagy állami tulajdonban van-e. Ezért a fogalom nem terjed ki a magánjellegű helyekre, amelyek általában szabadon nem hozzáférhetők harmadik felek, köztük a bűnüldöző hatóságok számára, kivéve, ha ezeket a feleket kifejezetten meghívták vagy felhatalmazták; ilyenek például az otthonok, a magánklubok, az irodák, a raktárak és a gyárak. Az online terek sem tartoznak ide, mivel nem fizikai területek. Ugyanakkor önmagában az a tény, hogy egy adott helyhez való hozzáférés bizonyos feltételekhez – például belépőjegyekhez vagy életkori korlátozásokhoz – köthető, nem jelenti azt, hogy a hely e rendelet értelmében a nyilvánosság számára nem hozzáférhető. Következésképpen az olyan nyilvános helyeken kívül, mint az utcák, a kormányzati épületek releváns részei és a közlekedési infrastruktúra többsége, az olyan helyek, mint a mozik, a színházak, az üzletek és a bevásárlóközpontok általában szintén a nyilvánosság számára hozzáférhetők. Azt azonban, hogy egy adott hely hozzáférhető-e a nyilvánosság számára, eseti alapon kell meghatározni, figyelembe véve a szóban forgó egyedi helyzet sajátosságait.
(9) E rendelet alkalmazásában a nyilvánosság számára hozzáférhető hely fogalma alatt bármely, a nyilvánosság számára hozzáférhető fizikai területet kell érteni, függetlenül attól, hogy a szóban forgó hely magán- vagy állami tulajdonban van-e és függetlenül a potenciális kapacitáskorlátozásoktól. Ezért a fogalom nem terjed ki a magánjellegű helyekre, amelyek általában szabadon nem hozzáférhetők harmadik felek, köztük a bűnüldöző hatóságok számára, kivéve, ha ezeket a feleket kifejezetten meghívták vagy felhatalmazták; ilyenek például az otthonok, a magánklubok, az irodák, a raktárak és a gyárak. Az online terek sem tartoznak ide, mivel nem fizikai területek. Ugyanakkor önmagában az a tény, hogy egy adott helyhez való hozzáférés bizonyos feltételekhez – például belépőjegyekhez vagy életkori korlátozásokhoz – köthető, nem jelenti azt, hogy a hely e rendelet értelmében a nyilvánosság számára nem hozzáférhető. Következésképpen az olyan nyilvános helyeken kívül, mint az utcák, a kormányzati épületek releváns részei és a közlekedési infrastruktúra többsége, az olyan helyek, mint a mozik, a színházak, a sportpályák, az iskolák és egyetemek, a kórházak és bankok releváns részei, a vidámparkok, a fesztiválok, az üzletek és a bevásárlóközpontok általában szintén a nyilvánosság számára hozzáférhetők. Azt azonban, hogy egy adott hely hozzáférhető-e a nyilvánosság számára, eseti alapon kell meghatározni, figyelembe véve a szóban forgó egyedi helyzet sajátosságait.
Módosítás 27 Rendeletre irányuló javaslat 9 a preambulumbekezdés (új)
(9a) Fontos megjegyezni, hogy az MI-rendszereknek minden tőlük telhetőt meg kell tenniük egy olyan magas szintű keretet létrehozó általános elvek tiszteletben tartása érdekében, amely keret az Európai Unió Alapjogi Chartájával és az Unió alapját képező értékekkel összhangban előmozdítja az etikus és megbízható MI koherens emberközpontú megközelítését, ideértve az alapvető jogok védelmét, az emberi ügynökséget és felügyeletet, a műszaki stabilitást és biztonságot, a magánélet és az adatok kezelését, az átláthatóságot, a megkülönböztetésmentességet és a méltányosságot, valamint a társadalmi és környezeti jólétet.
Módosítás 28 Rendeletre irányuló javaslat 9 b preambulumbekezdés (új)
(9b) A mesterséges intelligencia terén szerzett jártasság olyan készségeket, ismereteket és értelmezési képességeket jelent, amelyek lehetővé teszik a szolgáltatók, a felhasználók és az érintett személyek számára, hogy – figyelembe véve az e rendelettel összefüggésben rájuk vonatkozó jogokat és kötelezettségeket – a megfelelő információk birtokában tudják telepíteni az MI-rendszereket, valamint tudatában legyenek az MI által kínált lehetőségeknek és az általa jelentett kockázatoknak, valamint az általa okozott lehetséges károknak, és amelyek ezáltal előmozdítják annak demokratikus ellenőrzését. A mesterséges intelligencia terén szerzett jártasság nem korlátozódhat az eszközökkel és technológiákkal kapcsolatos ismeretek elsajátítására, hanem arra is törekedni kell, hogy a szolgáltatók és a felhasználók megismerjék az e rendeletnek való megfelelés és a végrehajtás biztosításához szükséges fogalmakat és készségeket. Ennek megfelelően a Bizottságnak, a tagállamoknak, valamint az MI-rendszerek szolgáltatóinak és felhasználóinak valamennyi érintett érdekelt féllel együttműködve elő kell mozdítaniuk a társadalom valamennyi ágazatában, minden korosztályban – a nők és a lányok körében is – a mesterséges intelligencia terén szerzett megfelelő szintű jártasságot és szorosan nyomon kell követniük az e tekintetben elért eredményeket.
(10) Az egyenlő versenyfeltételek biztosítása, valamint az egyének jogainak és szabadságainak Unió-szerte történő hatékony védelme érdekében az e rendeletben megállapított szabályokat megkülönböztetésmentes módon kell alkalmazni az MI-rendszerek szolgáltatóira, függetlenül attól, hogy az Unióban vagy harmadik országban letelepedett szolgáltatók-e, valamint az MI-rendszerek Unióban letelepedett felhasználóira.
(10) Az egyenlő versenyfeltételek biztosítása, valamint az egyének jogainak és szabadságainak Unió-szerte és nemzetközi szinten történő hatékony védelme érdekében az e rendeletben megállapított szabályokat megkülönböztetésmentes módon kell alkalmazni az MI-rendszerek szolgáltatóira, függetlenül attól, hogy az Unióban vagy harmadik országban letelepedett szolgáltatók-e, valamint az MI-rendszerek Unióban letelepedett alkalmazóira.Annak érdekében, hogy az Unió igaz legyen alapvető értékeire, az e rendelet által elfogadhatatlannak tekintett gyakorlatokhoz használt MI-rendszereket az Unión kívül is elfogadhatatlannak kell tekinteni a Chartában foglalt alapvető jogokra gyakorolt különösen káros hatásuk miatt. Ezért helyénvaló megtiltani, hogy az Unióban lakóhellyel rendelkező szolgáltatók harmadik országokba exportáljanak ilyen MI-rendszereket.
(11) Digitális jellegükre tekintettel egyes MI-rendszereknek akkor is e rendelet hatálya alá kell tartozniuk, ha azokat nem hozzák forgalomba, nem helyezik üzembe és nem használják az Unióban. Ez a helyzet például egy olyan, az Unióban letelepedett üzemeltető esetében, amely bizonyos szolgáltatásokra egy Unión kívül letelepedett üzemeltetővel köt szerződést egy MI-rendszer által végzendő olyan tevékenységgel kapcsolatban, amely nagy kockázatúnak minősülne, és amelynek hatása az Unióban tartózkodó természetes személyeket is érintené. Ilyen körülmények között az Unión kívüli üzemeltető által használt MI-rendszer az Unióban jogszerűen gyűjtött és az Unióból továbbított adatokat kezelhet, és a szóban forgó MI-rendszer által az említett adatkezelés nyomán előállított adatokat az Unióban működő, vele szerződést kötött üzemeltető rendelkezésére bocsáthatja, anélkül, hogy az említett MI-rendszert forgalomba hoznák, üzembe helyeznék vagy használnák az Unióban. E rendelet kijátszásának megelőzése és az Unióban tartózkodó természetes személyek hatékony védelmének biztosítása érdekében ezt a rendeletet MI-rendszerek harmadik országban letelepedett szolgáltatóira és felhasználóira is alkalmazni kell, amennyiben az e rendszerek által előállított kimeneteket az Unióban használják. Mindazonáltal a meglévő megállapodások és az azon külföldi partnerekkel való együttműködés iránti különleges igény figyelembevétele érdekében, amelyekkel információ- és bizonyítékcserére kerül sor, e rendelet nem alkalmazandó a harmadik országok hatóságaira és nemzetközi szervezetekre, amennyiben azok az Unióval vagy annak tagállamaival folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó – nemzeti vagy európai szinten kötött – nemzetközi megállapodások keretében járnak el. E megállapodások kétoldalúan jöttek létre a tagállamok és harmadik országok között, vagy az Európai Unió, az Europol és más uniós ügynökségek, valamint harmadik országok és nemzetközi szervezetek között.
(11) Digitális jellegükre tekintettel egyes MI-rendszereknek akkor is e rendelet hatálya alá kell tartozniuk, ha azokat nem hozzák forgalomba, nem helyezik üzembe és nem használják az Unióban. Ez a helyzet például egy olyan, az Unióban letelepedett üzemeltető esetében, amely bizonyos szolgáltatásokra egy Unión kívül letelepedett üzemeltetővel köt szerződést egy MI-rendszer által végzendő olyan tevékenységgel kapcsolatban, amely nagy kockázatúnak minősülne, és amelynek hatása az Unióban tartózkodó természetes személyeket is érintené. Ilyen körülmények között az Unión kívüli üzemeltető által használt MI-rendszer az Unióban jogszerűen gyűjtött és az Unióból továbbított adatokat kezelhet, és a szóban forgó MI-rendszer által az említett adatkezelés nyomán előállított adatokat az Unióban működő, vele szerződést kötött üzemeltető rendelkezésére bocsáthatja, anélkül, hogy az említett MI-rendszert forgalomba hoznák, üzembe helyeznék vagy használnák az Unióban. E rendelet kijátszásának megelőzése és az Unióban tartózkodó természetes személyek hatékony védelmének biztosítása érdekében ezt a rendeletet MI-rendszerek harmadik országban letelepedett szolgáltatóira és felhasználóira is alkalmazni kell, amennyiben az e rendszerek által előállított kimeneteket az Unióban szándékoznak használni. Mindazonáltal a meglévő megállapodások és az azon külföldi partnerekkel való együttműködés iránti különleges igény figyelembevétele érdekében, amelyekkel információ- és bizonyítékcserére kerül sor, e rendelet nem alkalmazandó a harmadik országok hatóságaira és nemzetközi szervezetekre, amennyiben azok az Unióval vagy annak tagállamaival folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó – nemzeti vagy európai szinten kötött – nemzetközi megállapodások keretében járnak el. E megállapodások kétoldalúan jöttek létre a tagállamok és harmadik országok között, vagy az Európai Unió, az Europol és más uniós ügynökségek, valamint harmadik országok és nemzetközi szervezetek között. Ezt a kivételt azonban azokra a megbízható országokra és nemzetközi szervezetekre kell korlátozni, amelyek osztják az Unió értékeit.
(12) Ezt a rendeletet az uniós intézményekre, hivatalokra, szervekre és ügynökségekre is alkalmazni kell, amennyiben azok MI-rendszer szolgáltatójaként vagy felhasználójaként járnak el. A kizárólag katonai célokra fejlesztett vagy használt MI-rendszereket ki kell zárni e rendelet hatálya alól, amennyiben e használat az Európai Unióról szóló szerződés (EUSZ) V. címében szabályozott közös kül- és biztonságpolitika kizárólagos hatáskörébe tartozik. Ez a rendelet nem érinti a [digitális szolgáltatásokról szóló jogszabály által módosított] 2000/31/EK európai parlamenti és tanácsi irányelvben foglalt, a közvetítő szolgáltatók felelősségére vonatkozó rendelkezéseket.
(12) Ezt a rendeletet az uniós intézményekre, hivatalokra, szervekre és ügynökségekre is alkalmazni kell, amennyiben azok MI-rendszer szolgáltatójaként vagy alkalmazójaként járnak el. A kizárólag katonai célokra fejlesztett vagy használt MI-rendszereket ki kell zárni e rendelet hatálya alól, amennyiben e használat az Európai Unióról szóló szerződés (EUSZ) V. címében szabályozott közös kül- és biztonságpolitika kizárólagos hatáskörébe tartozik. Ez a rendelet nem érinti a [digitális szolgáltatásokról szóló jogszabály által módosított] 2000/31/EK európai parlamenti és tanácsi irányelvben foglalt, a közvetítő szolgáltatók felelősségére vonatkozó rendelkezéseket.
Módosítás 32 Rendeletre irányuló javaslat 12 a preambulumbekezdés (új)
(12a) Ha szoftvereket és adatokat nyíltan megosztanak, és ha a felhasználók szabadon hozzáférhetnek ezekhez, használhatják, módosíthatják és terjeszthetik, akár ezek módosított változatait is, az hozzájárulhat a kutatásokhoz és az innovációhoz a piacon. A Bizottság által végzett kutatások azt is mutatják, hogy a szabad és nyílt forráskódú szoftverek 65–95 milliárd euróval járulhatnak hozzá az Európai Unió GDP-jéhez, és jelentős növekedési lehetőségeket biztosíthatnak az európai gazdaság számára. A felhasználók szabad és nyílt forráskódú licencekkel futtathatják, másolhatják, terjeszthetik, tanulmányozhatják, módosíthatják és javíthatják a szoftvereket és adatokat, beleértve a modelleket is. A mesterséges intelligencia fejlesztésének és bevezetésének előmozdítása érdekében - különösen a kkv-k, az induló vállalkozások, a tudományos kutatás, de a magánszemélyek által is - e rendelet nem alkalmazandó az ilyen ingyenes és nyílt forráskódú mesterséges intelligencia-összetevőkre, kivéve, ha azokat a szolgáltató egy magas kockázatú mesterséges intelligencia-rendszer vagy az e rendelet II. vagy IV. címének hatálya alá tartozó mesterséges intelligencia-rendszer részeként hozza forgalomba vagy helyezi üzembe.
Módosítás 33 Rendeletre irányuló javaslat 12 b preambulumbekezdés (új)
(12b) Sem a szabad és nyílt forráskódú MI-összetevők együttműködésen alapuló fejlesztése, sem azok szabadon hozzáférhető adattárakon való elérhetővé tétele nem minősülhet forgalomba hozatalnak vagy üzembe helyezésnek. A piaci hozzáférhetővé tétel fogalmán belül kereskedelmi tevékenységnek minősülhet azonban - a mikrovállalkozások közötti ügyletek kivételével - az ingyenes és nyílt forráskódú mesterséges intelligencia-összetevőért felszámított ár, de az is, ha a technikai támogatási szolgáltatásokért árat számítanak fel, ha olyan szoftverplatformot biztosítanak, amelyen keresztül a szolgáltató más szolgáltatásokat értékesít, vagy ha a személyes adatokat nem kizárólag a szoftver biztonságának, kompatibilitásának vagy interoperabilitásának javítására használják fel.
Módosítás 34 Rendeletre irányuló javaslat 12 c preambulumbekezdés (új)
(12c) A szabad és nyílt forráskódú mesterségesintelligencia-komponensek fejlesztői e rendelet alapján nem kötelezhetők arra, hogy megfeleljenek a mesterséges intelligencia értékláncának, és különösen az arra a szolgáltatóra vonatkozó követelményeknek, amely ezt a szabad és nyílt forráskódú MI-komponenst használta. A szabad és nyílt forráskódú mesterségesintelligencia-komponensek fejlesztőit azonban ösztönözni kell a széles körben elfogadott dokumentációs gyakorlatok, például a modellek és az adatkártyák alkalmazására, ami felgyorsíthatja az információmegosztást a mesterséges intelligencia értékláncában, lehetővé téve a megbízható MI-rendszerek előmozdítását az Unióban.
(13) A közérdek következetes és magas szintű védelmének az egészség, a biztonság és az alapvető jogok tekintetében történő biztosítása érdekében egységes normatív előírásokat kell megállapítani valamennyi nagy kockázatú MI-rendszerre vonatkozóan. Ezeknek az előírásoknak összhangban kell lenniük az Európai Unió Alapjogi Chartájával (a továbbiakban: a Charta), megkülönböztetéstől mentesnek kell lenniük, és meg kell felelniük az Unió nemzetközi kereskedelmi kötelezettségvállalásainak.
(13) Az egészséghez, a biztonsághoz és az alapvető jogokhoz fűződő közérdek, valamint a demokrácia, a jogállamiság és a környezet következetes és magas szintű védelmének biztosítása érdekében egységes normatív előírásokat kell megállapítani valamennyi nagy kockázatú MI-rendszerre vonatkozóan. Ezeknek a szabványoknak összhangban kell lenniük a Chartával, az európai zöld megállapodással, az Unió digitális jogairól szóló együttes nyilatkozattal és a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásaival, továbbá megkülönböztetéstől mentesnek kell lenniük, és meg kell felelniük az Unió nemzetközi kötelezettségvállalásainak.
(14) Az MI-rendszerekre vonatkozó, kötelező erejű szabályok arányos és hatékony rendszerének bevezetése érdekében egyértelműen meghatározott, kockázatalapú megközelítést kell alkalmazni. E megközelítés keretében az ilyen szabályok típusát és tartalmát hozzá kell igazítani az MI-rendszerek által keltett kockázatok intenzitásához és nagyságrendjéhez. Ezért meg kell tiltani bizonyos mesterségesintelligencia-gyakorlatokat, követelményeket kell megállapítani a nagy kockázatú MI-rendszerekre vonatkozóan és kötelezettségeket az érintett üzemeltetők számára, valamint átláthatósági kötelezettségeket bizonyos MI-rendszereket érintően.
(14) Az MI-rendszerekre vonatkozó, kötelező erejű szabályok arányos és hatékony rendszerének bevezetése érdekében egyértelműen meghatározott, kockázatalapú megközelítést kell alkalmazni. E megközelítés keretében az ilyen szabályok típusát és tartalmát hozzá kell igazítani az MI-rendszerek által keltett kockázatok intenzitásához és nagyságrendjéhez. Ezért meg kell tiltani bizonyos elfogadhatatlan mesterségesintelligencia-gyakorlatokat, követelményeket kell megállapítani a nagy kockázatú MI-rendszerekre vonatkozóan és kötelezettségeket az érintett üzemeltetők számára, valamint átláthatósági kötelezettségeket bizonyos MI-rendszereket érintően.
(15) A mesterséges intelligenciának számos hasznos felhasználási módja van, azonban ezzel a technológiával vissza is lehet élni, emellett új és hatékony eszközöket biztosíthat a manipulatív, kizsákmányoló és társadalmi ellenőrzési gyakorlatokhoz. Az ilyen gyakorlatok különösen károsak, és meg kell tiltani őket, mivel ellentétesek az emberi méltóság tiszteletben tartása, a szabadság, az egyenlőség, a demokrácia és a jogállamiság uniós értékeivel, valamint az uniós alapvető jogokkal, ideértve a megkülönböztetésmentességhez való jogot, az adatvédelmet és a magánélet tiszteletben tartásához való jogot, valamint a gyermekek jogait.
(15) A mesterséges intelligenciának számos hasznos felhasználási módja van, azonban ezzel a technológiával vissza is lehet élni, emellett új és hatékony eszközöket biztosíthat a manipulatív, kizsákmányoló és társadalmi ellenőrzési gyakorlatokhoz. Az ilyen gyakorlatok különösen károsak és visszaélésszerűek, és meg kell tiltani őket, mivel ellentétesek az emberi méltóság tiszteletben tartása, a szabadság, az egyenlőség, a demokrácia és a jogállamiság uniós értékeivel, valamint az uniós alapvető jogokkal, ideértve a megkülönböztetésmentességhez való jogot, az adatvédelmet és a magánélet tiszteletben tartásához való jogot, valamint a gyermekek jogait.
(16) Meg kell tiltani azon MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát, amelyek célja az emberi magatartás oly módon való befolyásolása, hogy az nagy valószínűséggel testi vagy lelki kárt okoz. Az ilyen MI-rendszerek az egyének számára tudatosan nem érzékelhető módszereket alkalmaznak, vagy kihasználják a gyermekek, valamint életkoruk, illetve csökkent testi vagy mentális képességeik miatt bizonyos felnőttek sebezhetőségét. Ezt azzal a szándékkal teszik, hogy jelentősen torzítsák egy személy magatartását, oly módon, amely kárt okoz vagy okozhat az adott személynek vagy más személynek. A szándék nem vélelmezhető, ha az emberi magatartás torzulása az MI-rendszerhez képest külső, a szolgáltatón vagy a felhasználón kívül álló tényezőkből ered. A tilalom nem nyomhatja el az ilyen MI-rendszerekhez kapcsolódó törvényes célú kutatást, amennyiben az ilyen kutatás nem jár azzal, hogy az MI-rendszer úgy kerül alkalmazásra az ember és a gép közötti kapcsolatokban, hogy kárt okozzon természetes személyeknek, és amennyiben az ilyen kutatás a tudományos kutatás elismert etikai normáival összhangban történik.
(16) Meg kell tiltani bizonyos olyan MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát, amelyek célja vagy hatása az emberi magatartás anyagi módon való befolyásolása, ami nagy valószínűséggel testi vagy lelki kárt okoz. Ez a korlátozás magában foglalja az olyan MI-rendszerek által támogatott neurotechnológiákat, amelyeket az agy-számítógép interfészeken keresztül gyűjtött neurális adatok nyomon követésére, felhasználására vagy befolyásolására használnak, amennyiben azok jelentősen torzítják egy természetes személy magatartását oly módon, amely jelentős kárt okoz vagy okozhat az adott személynek vagy más személynek. Az ilyen MI-rendszerek az egyének számára tudatosan nem érzékelhető szubliminális összetevőket alkalmaznak, vagy képesek érzékelni vagy kihasználni az egyének és személyek meghatározott csoportjainak sebezhetőségét ismert vagy előre jelzett személyiségjegyeik, életkoruk, fizikai vagy szellemi alkalmatlanságuk, társadalmi vagy gazdasági helyzetük miatt.Az ilyen rendszerek ezt azzal a céllal vagy hatással teszik , hogy jelentősen torzítsák egy személy magatartását, oly módon, amely jelentős kárt – beleértve az idővel felhalmozódó károkat is – okoz vagy valószínűleg okozhat az adott személynek vagy egy másik személynek vagy személyek csoportjainak. A magatartás torzításának szándéka nem vélelmezhető, ha az emberi magatartás torzulása az MI-rendszerhez képest külső, a szolgáltatón vagy a felhasználón kívül álló tényezőkből ered, mint például olyan tényezőkből, amelyeket az MI-rendszer szolgáltatója vagy felhasználója észszerűen nem láthat előre és nem enyhíthet.Mindenesetre nem szükséges, hogy a szolgáltatónak vagy az alkalmazónak szándékában álljon jelentős kárt okozni, amennyiben a mesterséges intelligencián alapuló manipulatív vagy kizsákmányoló gyakorlatok ilyen károkat okoznak. Az ilyen MI-gyakorlatokra vonatkozó tilalmak kiegészítik a 2005/29/EK irányelvben foglalt rendelkezéseket, amelyek szerint a tisztességtelen kereskedelmi gyakorlatok tilosak, függetlenül attól, hogy azokat MI-rendszereken keresztül vagy más módon valósítják-e meg. Ilyen körülmények között az uniós joggal összhangban lévő jogszerű kereskedelmi gyakorlatok – például a reklám területén – önmagukban nem tekinthetők jogsértő tilalomnak. A tilalom nem nyomhatja el az ilyen MI-rendszerekhez kapcsolódó törvényes célú kutatást, amennyiben az ilyen kutatás nem jár azzal, hogy az MI-rendszer úgy kerül alkalmazásra az ember és a gép közötti kapcsolatokban, hogy kárt okozzon természetes személyeknek, és amennyiben az ilyen kutatás a tudományos kutatás elismert etikai normáival összhangban történik, valamint amennyiben az ilyen kutatást a nekik kiszolgáltatott személyek vagy adott esetben törvényes gyámjaik kifejezett, tájékoztatáson alapuló beleegyezése alapján végzik.
Módosítás 39 Rendeletre irányuló javaslat 16 a preambulumbekezdés (új)
(16a) Azok az MI-rendszerek, amelyek a természetes személyeket úgy kategorizálják, hogy ismert vagy feltételezett érzékeny vagy védett jellemzők alapján meghatározott kategóriákba sorolják őket, különösen tolakodóak, sértik az emberi méltóságot, és a hátrányos megkülönböztetés magas kockázatával járnak. Az ilyen tulajdonságok vagy jellemzők közé tartoznak többek között a következők: a biológiai nem és a nemi identitás, faj, etnikai származás, migrációs vagy állampolgársági státusz, politikai irányultság, szexuális irányultság, vallás, fogyatékosság vagy bármely más olyan ok, amely alapján a megkülönböztetés az Európai Unió Alapjogi Chartájának 21. cikke és az (EU) 2016/769 rendelet 9. cikke értelmében tilos. Ezeket az rendszereket ezért be kell tiltani.
(17) Azok az MI-rendszerek, amelyek lehetőséget biztosítanak természetes személyek hatóságok általi vagy nevükben történő, általános célú közösségi pontozására, diszkriminációhoz és bizonyos csoportok kirekesztéséhez vezethetnek. Az ilyen rendszerek sérthetik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit. Az ilyen MI-rendszerek a természetes személyek megbízhatóságát bizonyos összetett körülmények között, közösségben tanúsított magatartásuk, illetve ismert vagy előre jelzett személyes tulajdonságaik vagy személyiségjegyeik alapján értékelik vagy osztályozzák. Az ilyen MI-rendszerek által adott közösségi pontszám a természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz vezethet olyan társadalmi kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, vagy olyan hátrányos bánásmódot okozhat, amely az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan. Az ilyen MI-rendszereket ezért be kell tiltani.
(17) Azok az MI-rendszerek, amelyek lehetőséget biztosítanak természetes személyek általános célú közösségi pontozására, diszkriminációhoz és bizonyos csoportok kirekesztéséhez vezethetnek. Az ilyen rendszerek sértik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit. Az ilyen MI-rendszerek a természetes személyeket vagy csoportokat bizonyos összetett körülmények között, közösségben tanúsított magatartásukhoz, illetve ismert, kikövetkeztethető vagy előre jelzett személyes tulajdonságaikhoz vagy személyiségjegyeikhez társított több adatpont és időbeli előfordulás alapján értékelik vagy osztályozzák. Az ilyen MI-rendszerek által adott közösségi pontszám a természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz vezethet olyan társadalmi kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, vagy olyan hátrányos bánásmódot okozhat, amely az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan. Az ilyen MI-rendszereket ezért be kell tiltani.
(18) Az MI-rendszereknek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata különösen betolakodik az érintett személyek jogaiba és szabadságába, mivel hatással lehet a lakosság nagy részének magánéletére, az állandó megfigyelés érzetét keltheti, és közvetve visszatarthat a gyülekezési szabadság és más alapvető jogok gyakorlásától. Ezenkívül a hatás azonnali jellege és az ilyen „valós időben” működő rendszerek használatával kapcsolatos további ellenőrzések vagy korrekciók korlátozott lehetőségei fokozott kockázatot jelentenek a bűnüldözési tevékenységek által érintett személyek jogaira és szabadságaira nézve.
(18) Az Mi-rendszereknek a természetes személyek „valós idejű” távoli biometrikus azonosítására való használata a nyilvánosság számára hozzáférhető helyeken különösen tolakodó az érintett személyek jogaira és szabadságára nézve, és végső soron hatással lehet a lakosság nagy részének magánéletére, a társadalomban az állandó megfigyelés jogos érzetét keltheti, ellenőrizhetetlen pozíciót biztosíthat a nyilvánosan hozzáférhető helyeken biometrikus azonosítást alkalmazó felek számára, és közvetve visszatarthatja az egyéneket a jogállamiság alapját képező gyülekezési szabadság és más alapvető jogaik gyakorlásától. A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Ez különösen releváns az életkor, az etnikai hovatartozás, a nem vagy a fogyatékosságok tekintetében. Ezenkívül a hatás azonnali jellege és az ilyen „valós időben” működő rendszerek használatával kapcsolatos további ellenőrzések vagy korrekciók korlátozott lehetőségei fokozott kockázatot jelentenek a bűnüldözési tevékenységek által érintett személyek jogaira és szabadságaira nézve. E rendszerek használatát ezért a nyilvánosság számára hozzáférhető terekben meg kell tiltani. Hasonlóképpen meg kell tiltani azokat az MI-rendszereket is, amelyeket a nyilvánosság számára hozzáférhető terekről rögzített felvételek elemzésére használnak „postai” távoli biometrikus azonosító rendszereken keresztül, kivéve, ha a bűnüldözéssel összefüggésben történő felhasználást megelőző engedély áll fenn, amennyiben az feltétlenül szükséges egy konkrét súlyos bűncselekményhez kapcsolódó, már elvégzett célzott kereséshez, és csak előzetes bírói engedélyhez kötött.
(19) E rendszerek bűnüldözési célú használatát ezért meg kell tiltani, kivéve három, kimerítő jelleggel felsorolt és szűken meghatározott helyzetet, amelyekben a használat feltétlenül szükséges egy olyan jelentős közérdek érvényesítéséhez, amelynek fontossága meghaladja a kockázatokat. Az ilyen helyzetek közé tartozik a bűncselekmények potenciális áldozatainak, köztük az eltűnt gyermekeknek a felkutatása; a természetes személyek életét vagy fizikai biztonságát fenyegető bizonyos veszélyek vagy a terrortámadás veszélye; valamint a 2002/584/IB tanácsi kerethatározatban38 említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés. A szabadságvesztés vagy szabadságelvonással járó intézkedés nemzeti joggal összhangban álló e küszöbértéke hozzájárul annak biztosításához, hogy a bűncselekmény kellően súlyos legyen ahhoz, hogy potenciálisan indokolhassa a „valós idejű” távoli biometrikus azonosító rendszerek használatát. Ezenfelül a 2002/584/IB tanácsi kerethatározatban felsorolt 32 bűncselekmény közül néhány a gyakorlatban valószínűleg relevánsabb lesz, mint mások, azaz a „valós idejű” távoli biometrikus azonosítás alkalmazása előreláthatóan rendkívül eltérő mértékben lesz szükséges és arányos eszköz a felsorolt különböző bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítésére, lokalizálására, azonosítására vagy büntetőeljárás alá vonására irányuló gyakorlati lépések tekintetében, és az alkalmazást befolyásolják majd a kár súlyosságának, valószínűségének és mértékének valószínűsíthető különbségei vagy az esetleges negatív következmények.
törölve
__________________
38 Council Framework Decision 2002/584/JHA of 13 June 2002 on the European arrest warrant and the surrender procedures between Member States (OJ L 190, 18.7.2002, p. 1).
(20) Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára megfelelő időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie.
(21) A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt főszabályként a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Az ilyen sürgős helyzetekben a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított és maga a bűnüldöző hatóság által az egyes sürgős esetek kapcsán meghatározott megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak ilyen helyzetekben a lehető leghamarabb meg kell próbálnia megszerezni az engedélyt, ugyanakkor meg kell indokolnia, hogy miért nem volt lehetősége arra, hogy az engedélyt korábban megkérje.
(22) Helyénvaló továbbá – az e rendeletben meghatározott kimerítő keretek között – előírni, hogy az ilyen használat egy tagállam területén e rendelettel összhangban csak akkor és annyiban legyen lehetséges, ha és amennyiben az érintett tagállam úgy határozott, hogy nemzeti jogának részletes szabályaiban kifejezetten rendelkezik az ilyen használat engedélyezésének lehetőségéről. Következésképpen a tagállamok e rendelet értelmében továbbra is szabadon dönthetnek arról, hogy egyáltalán nem, vagy csak az e rendeletben meghatározott engedélyezett használat indoklására alkalmas egyes célkitűzések tekintetében rendelkeznek ilyen lehetőségről.
(23) Az MI-rendszerek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata szükségszerűen magában foglalja biometrikus adatok feldolgozását. E rendelet azon, az EUMSZ 16. cikkén alapuló szabályait, amelyek – bizonyos kivételekre is figyelemmel – tiltják az ilyen használatot, lex specialisként kell alkalmazni az (EU) 2016/680 irányelv 10. cikkében foglalt, a biometrikus adatok kezelésére vonatkozó szabályok tekintetében, ennélfogva ezek kimerítően szabályozzák az ilyen használatot és az érintett biometrikus adatok kezelését. Ezért az ilyen használat és adatkezelés csak annyiban lehetséges, amennyiben összeegyeztethető az e rendeletben meghatározott kerettel, és nincs lehetőség arra, hogy e kereten kívül az illetékes hatóságok – amennyiben bűnüldözési célból járnak el – az (EU) 2016/680 irányelv 10. cikkében felsorolt okokból használják az ilyen rendszereket és kezeljék a kapcsolódó adatokat. Ebben az összefüggésben e rendeletnek nem célja, hogy jogalapot biztosítson a személyes adatoknak az (EU) 2016/680 irányelv 8. cikke szerinti kezeléséhez. A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési céloktól eltérő célokra történő, többek között az illetékes hatóságok általi használatára azonban nem terjedhet ki az e rendeletben meghatározott, a bűnüldözési célú használatra vonatkozó különös keret. Az ilyen, nem bűnüldözési célú használat ezért nem köthető az e rendelet szerinti, engedéllyel kapcsolatos követelményhez és a nemzeti jog azon hatályos, részletes szabályaihoz, amelyek e követelményt alkalmazzák.
(24) A biometrikus adatok és az MI-rendszerek biometrikus azonosítás céljából történő használatával érintett egyéb személyes adatok kezelésének – a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési célból történő, e rendeletben szabályozott használatával összefüggő adatkezelés kivételével –, ideértve azt az esetet is, amikor ezeket a rendszereket az illetékes hatóságok nyilvánosság számára hozzáférhető helyen, a bűnüldözéstől eltérő célokra használják, továbbra is meg kell felelnie az (EU) 2016/679 rendelet 9. cikkének (1) bekezdéséből, az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdéséből és adott esetben az (EU) 2016/680 irányelv 10. cikkéből eredő valamennyi követelménynek.
(24) A biometrikus adatok és az MI-rendszerek biometrikus azonosítás céljából történő használatával érintett egyéb személyes adatok kezelésének – a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken e rendeletben szabályozott használatával összefüggő adatkezelés kivételével – továbbra is meg kell felelnie az (EU) 2016/679 rendelet 9. cikkének (1) bekezdéséből, az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdéséből és adott esetben az (EU) 2016/680 irányelv 10. cikkéből eredő valamennyi követelménynek.
(25) Az EUSZ-hez és az EUMSZ-hez csatolt, az Egyesült Királyságnak és Írországnak a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség tekintetében fennálló helyzetéről szóló 21. jegyzőkönyv 6a. cikkével összhangban Írországot nem kötelezik az e rendelet 5. cikke (1) bekezdésének d) pontjában, (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak, amennyiben Írországot nem kötelezik a büntetőügyekben folytatott igazságügyi együttműködés vagy a rendőrségi együttműködés formáira vonatkozó olyan szabályok, amelyek megkívánják az EUMSZ 16. cikke alapján meghatározott rendelkezések betartását.
(25) Az EUSZ-hez és az EUMSZ-hez csatolt, az Egyesült Királyságnak és Írországnak a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség tekintetében fennálló helyzetéről szóló 21. jegyzőkönyv 6a. cikkével összhangban Írországot nem kötelezik az e rendelet 5. cikke (1) bekezdésének d) pontjában meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak, amennyiben Írországot nem kötelezik a büntetőügyekben folytatott igazságügyi együttműködés vagy a rendőrségi együttműködés formáira vonatkozó olyan szabályok, amelyek megkívánják az EUMSZ 16. cikke alapján meghatározott rendelkezések betartását.
(26) Az EUSZ-hez és az EUMSZ-hez csatolt, Dánia helyzetéről szóló 22. jegyzőkönyv 2. és 2a. cikkével összhangban Dániára nézve nem kötelezőek és nem alkalmazandóak az e rendelet 5. cikke (1) bekezdésének d) pontjában, valamint (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak.
(26) Az EUSZ-hez és az EUMSZ-hez csatolt, Dánia helyzetéről szóló 22. jegyzőkönyv 2. és 2a. cikkével összhangban Dániára nézve nem kötelezőek és nem alkalmazandóak az e rendelet 5. cikke (1) bekezdésének d) pontjában meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak.
Módosítás 50 Rendeletre irányuló javaslat 26 a preambulumbekezdés (új)
(26a) Azok az MI-rendszerek, amelyeket a bűnüldöző hatóságok vagy nevükben természetes személyek profilalkotásán alapuló előrejelzések, profilok vagy kockázatértékelések, vagy személyiségjegyeken és jellemzőkön alapuló adatelemzések készítésére használnak, beleértve a személy tartózkodási helyét, vagy természetes személyek vagy személyek csoportjai múltbeli bűnözői magatartását egy tényleges vagy potenciális bűncselekmény(ek) vagy más bűncselekménnyé nyilvánított társadalmi magatartás vagy szabálysértés – többek között a csalás-előrejelzési rendszerek – előfordulásának vagy megismétlődésének előrejelzése céljából, különös kockázatot hordoznak bizonyos személyekkel vagy személyek csoportjaival szemben, mivel sértik az emberi méltóságot, valamint az ártatlanság vélelmének kulcsfontosságú jogi elvét. Ezeket az MI-rendszereket ezért be kell tiltani.
Módosítás 51 Rendeletre irányuló javaslat 26 b preambulumbekezdés (új)
(26b) A biometrikus adatok közösségi médiából vagy CCTV-felvételekből való válogatás nélküli és nem célzott lekérdezése arcfelismerő adatbázisok létrehozása vagy bővítése céljából növeli a tömeges megfigyelés érzését, és az alapvető jogok, többek között a magánélet tiszteletben tartásához való jog súlyos megsértéséhez vezethet. Ezért meg kell tiltani az ilyen rendeltetésű MI-rendszerek használatát.
Módosítás 52 Rendeletre irányuló javaslat 26 c preambulumbekezdés (új)
(26c) Komoly aggályok merülnek fel az olyan mesterségesintelligencia-rendszerek tudományos alapjaival kapcsolatban, amelyek célja az érzelmek, fizikai vagy fiziológiai jellemzők, például az arckifejezések, a mozgások, a pulzusfrekvenciák vagy a hang észlelése. Az érzelmek vagy az érzelmek kifejeződései és azok érzékelése jelentősen eltér egymástól kultúránként és helyzetenként, sőt egyetlen személy esetében is. Az ilyen technológiák fő hiányosságai közé tartozik a korlátozott megbízhatóság (az érzéskategóriákat nem fejezi ki megbízhatóan a fizikai vagy fiziológiai mozgások közös készlete, és nem is kapcsolódnak egyértelműen ahhoz), a specifikusság hiánya (a fizikai vagy fiziológiai mozgások nem felelnek meg tökéletesen az érzelmi kategóriáknak) és a korlátozott általánosíthatóság (a kontextus és a kultúra hatásait nem veszik kellőképpen figyelembe). A megbízhatósággal kapcsolatos problémák, és ebből következően a visszaélések jelentős kockázatai különösen akkor merülhetnek fel, ha a rendszert a bűnüldözési, határigazgatási, munkahelyi és oktatási intézményekkel kapcsolatos valós helyzetekben alkalmazzák. Ezért meg kell tiltani az ilyen összefüggésben az egyének érzelmi állapotának felderítésére szánt MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát.
Módosítás 53 Rendeletre irányuló javaslat 26 d preambulumbekezdés (új)
(26d) Ez a rendelet nem érintheti azokat a gyakorlatokat, amelyeket uniós jogszabályok – többek között az adatvédelmi jog, a megkülönböztetésmentességi jog, a fogyasztóvédelmi jog és a versenyjog alapján – tiltanak.
(27) A nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba vagy helyezhetők üzembe, ha megfelelnek bizonyos kötelező követelményeknek. E követelményeknek biztosítaniuk kell, hogy azon nagy kockázatú MI-rendszerek, amelyek az Unióban rendelkezésre állnak vagy amelyek kimenetét más módon felhasználják az Unióban, ne jelentsenek elfogadhatatlan kockázatot az uniós jog által elismert és védett fontos uniós közérdekekre nézve. A nagy kockázatúként azonosított MI-rendszereket azokra a rendszerekre kell korlátozni, amelyek jelentős káros hatást gyakorolnak az Unióban élő személyek egészségére, biztonságára és alapvető jogaira, és ez a korlátozás minimalizálja a nemzetközi kereskedelem bármely esetleges korlátozását, ha van ilyen.
(27) A nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba az Unión belül, helyezhetők üzembe vagy használhatók, ha megfelelnek bizonyos kötelező követelményeknek. E követelményeknek biztosítaniuk kell, hogy azon nagy kockázatú MI-rendszerek, amelyek az Unióban rendelkezésre állnak vagy amelyek kimenetét más módon felhasználják az Unióban, ne jelentsenek elfogadhatatlan kockázatot az uniós jog által elismert és védett fontos uniós közérdekekre, többek között az alapvető jogokra, a demokráciára, a jogállamiságra vagy a környezetre nézve. Az ágazati jogszabályokkal való összhang biztosítása és az átfedések elkerülése érdekében a nagy kockázatú MI-rendszerekre vonatkozó követelményeknek figyelembe kell venniük az e rendelet hatálya alá tartozó nagy kockázatú MI-rendszerekre vonatkozó követelményeket meghatározó ágazati jogszabályokat, mint például az orvostechnikai eszközökről szóló (EU) 2017/745 rendelet, valamint az (EU) 2017/746 rendelet az in vitro diagnosztikai eszközökről vagy a gépekről szóló 2006/42/EK irányelv. A nagy kockázatúként azonosított MI-rendszereket azokra a rendszerekre kell korlátozni, amelyek jelentős káros hatást gyakorolnak az Unióban élő személyek egészségére, biztonságára és alapvető jogaira, és ez a korlátozás minimalizálja a nemzetközi kereskedelem bármely esetleges korlátozását, ha van ilyen. Tekintettel a technológiai fejlődés gyors ütemére, valamint az MI-rendszerek használatában bekövetkező lehetséges változásokra, a magas kockázatú területek és felhasználási esetek III. mellékletben szereplő jegyzékét rendszeres értékelés keretében folyamatosan felül kell vizsgálni.
(28) Az MI-rendszerek káros hatással lehetnek az emberek egészségére és biztonságára, különösen akkor, ha ezek a rendszerek termékek alkatrészeiként működnek. Az uniós harmonizációs jogszabályok azon célkitűzéseivel összhangban, amelyek a termékek belső piacon való szabad mozgásának megkönnyítésében, valamint annak garantálásában állnak, hogy csak biztonságos és más tekintetben megfelelő termékek kerüljenek a piacra, fontos, hogy a termék egésze által a digitális alkatrészei, többek között az MI-rendszerek miatt esetlegesen előidézett biztonsági kockázatok megfelelően meg lehessen előzni és csökkenteni. Például az – akár gyártással, akár személyes segítségnyújtással és gondozással összefüggésben használt – egyre önállóbb robotoknak képeseknek kell lenniük arra, hogy biztonságosan működjenek és funkcióikat összetett környezetben lássák el. Hasonlóképpen az egészségügyi ágazatban, ahol az élet és az egészség tekintetében különösen nagy a tét, az egyre kifinomultabb diagnosztikai rendszereknek és az emberi döntéseket támogató rendszereknek megbízhatónak és pontosnak kell lenniük. A Charta által védett alapvető jogokra az MI-rendszer által gyakorolt kedvezőtlen hatás mértéke különösen fontos egy adott MI-rendszer nagy kockázatúként való besorolásakor. E jogok közé tartozik az emberi méltósághoz való jog, a magán- és családi élet tiszteletben tartása, a személyes adatok védelme, a véleménynyilvánítás és a tájékozódás szabadsága, a gyülekezés és az egyesülés szabadsága, a megkülönböztetésmentesség, a fogyasztóvédelem, a munkavállalók jogai, a fogyatékossággal élő személyek jogai, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme, valamint a megfelelő ügyintézéshez való jog. E jogok mellett fontos kiemelni, hogy a gyermekek az Európai Unió Alapjogi Chartájának 24. cikkében és az Egyesült Nemzetek Szervezetének a gyermekek jogairól szóló egyezményében foglalt (a gyermek jogairól szóló ENSZ-egyezmény digitális környezetre vonatkozó 25. sz. általános észrevételében részletesebben kifejtett) különös jogokkal rendelkeznek; mindkét okmány előírja a gyermekek sebezhetőségének figyelembevételét, valamint a jóllétükhöz szükséges védelem és gondoskodás biztosítását. Az MI-rendszerek által – többek között a személyek egészségével és biztonságával összefüggésben – okozott károk súlyosságának értékelésekor a magas szintű környezetvédelemhez való, a Chartában rögzített és az uniós szakpolitikákban érvényesített alapvető jogot is figyelembe kell venni.
(28) Az MI-rendszerek káros hatással lehetnek az emberek egészségére és biztonságára, különösen akkor, ha ezek a rendszerek termékek biztonsági alkatrészeiként működnek. Az uniós harmonizációs jogszabályok azon célkitűzéseivel összhangban, amelyek a termékek belső piacon való szabad mozgásának megkönnyítésében, valamint annak garantálásában állnak, hogy csak biztonságos és más tekintetben megfelelő termékek kerüljenek a piacra, fontos, hogy a termék egésze által a digitális alkatrészei, többek között az MI-rendszerek miatt esetlegesen előidézett biztonsági kockázatok megfelelően meg lehessen előzni és csökkenteni. Például az – akár gyártással, akár személyes segítségnyújtással és gondozással összefüggésben használt – egyre önállóbb robotoknak képeseknek kell lenniük arra, hogy biztonságosan működjenek és funkcióikat összetett környezetben lássák el. Hasonlóképpen az egészségügyi ágazatban, ahol az élet és az egészség tekintetében különösen nagy a tét, az egyre kifinomultabb diagnosztikai rendszereknek és az emberi döntéseket támogató rendszereknek megbízhatónak és pontosnak kell lenniük.
Módosítás 56 Rendeletre irányuló javaslat 28 a preambulumbekezdés (új)
(28a) A Charta által védett alapvető jogokra az MI-rendszer által gyakorolt kedvezőtlen hatás mértéke különösen fontos egy adott MI-rendszer nagy kockázatúként való besorolásakor. E jogok közé tartozik az emberi méltósághoz való jog, a magán- és családi élet tiszteletben tartása, a személyes adatok védelme, a véleménynyilvánítás és a tájékozódás szabadsága, a gyülekezés és az egyesülés szabadsága, a megkülönböztetésmentesség, az oktatáshoz való jog, a fogyasztóvédelem, a munkavállalók jogai, a fogyatékossággal élő személyek jogai, a nemek egyenlősége, a szellemi tulajdonjog, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme, valamint a megfelelő ügyintézéshez való jog. E jogok mellett fontos kiemelni, hogy a gyermekek az Európai Unió Alapjogi Chartájának 24. cikkében és az Egyesült Nemzetek Szervezetének a gyermekek jogairól szóló egyezményében foglalt (a gyermek jogairól szóló ENSZ-egyezmény digitális környezetre vonatkozó 25. sz. általános észrevételében részletesebben kifejtett) különös jogokkal rendelkeznek; mindkét okmány előírja a gyermekek sebezhetőségének figyelembevételét, valamint a jóllétükhöz szükséges védelem és gondoskodás biztosítását. Az MI-rendszerek által – többek között a személyek egészségével és biztonságával vagy a környezettel összefüggésben – okozott károk súlyosságának értékelésekor a magas szintű környezetvédelemhez való, a Chartában rögzített és az uniós szakpolitikákban érvényesített alapvető jogot is figyelembe kell venni.
(29) Azon nagy kockázatú MI-rendszerek tekintetében, amelyek a 300/2008/EK európai parlamenti és tanácsi rendelet39, a 167/2013/EU európai parlamenti és tanácsi rendelet40, a 168/2013/EU európai parlamenti és tanácsi rendelet41, a 2014/90/EU európai parlamenti és tanácsi irányelv42, az (EU) 2016/797 európai parlamenti és tanácsi irányelv43, az (EU) 2018/858 európai parlamenti és tanácsi rendelet44, az (EU) 2018/1139 európai parlamenti és tanácsi rendelet45, valamint az (EU) 2019/2144 európai parlamenti és tanácsi rendelet46 hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek maguk is ilyen termékek vagy rendszerek, helyénvaló e jogi aktusokat módosítani annak érdekében, hogy a Bizottság – az egyes ágazatok műszaki és szabályozási sajátoságai alapján, és anélkül, hogy beavatkozna az ott létrehozott meglévő irányítási, megfelelőségértékelési és végrehajtási mechanizmusokba és hatóságokba – figyelembe vegye a nagy kockázatú MI-rendszerekre az e rendeletben megállapított kötelező követelményeket, amikor ezen aktusok alapján a jövőben releváns, felhatalmazáson alapuló vagy végrehajtási jogi aktusokat fogad el.
(29) Azon nagy kockázatú MI-rendszerek tekintetében, amelyek a 300/2008/EK európai parlamenti és tanácsi rendelet39, a 167/2013/EU európai parlamenti és tanácsi rendelet40, a 168/2013/EU európai parlamenti és tanácsi rendelet41, a 2014/90/EU európai parlamenti és tanácsi irányelv42, az (EU) 2016/797 európai parlamenti és tanácsi irányelv43, az (EU) 2018/858 európai parlamenti és tanácsi rendelet44, az (EU) 2018/1139 európai parlamenti és tanácsi rendelet45, valamint az (EU) 2019/2144 európai parlamenti és tanácsi rendelet46 hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek maguk is ilyen termékek vagy rendszerek, helyénvaló e jogi aktusokat módosítani annak érdekében, hogy a Bizottság – az egyes ágazatok műszaki és szabályozási sajátoságai alapján, és anélkül, hogy beavatkozna az ott létrehozott meglévő irányítási, megfelelőségértékelési, piackutatási és végrehajtási mechanizmusokba és hatóságokba – figyelembe vegye a nagy kockázatú MI-rendszerekre az e rendeletben megállapított kötelező követelményeket, amikor ezen aktusok alapján a jövőben releváns, felhatalmazáson alapuló vagy végrehajtási jogi aktusokat fogad el.
__________________
__________________
39 Az Európai Parlament és a Tanács 300/2008/EK rendelete (2008. március 11.) a polgári légi közlekedés védelmének közös szabályairól és a 2320/2002/EK rendelet hatályon kívül helyezéséről (HL L 97., 2008.4.9., 72. o.).
39 Az Európai Parlament és a Tanács 300/2008/EK rendelete (2008. március 11.) a polgári légi közlekedés védelmének közös szabályairól és a 2320/2002/EK rendelet hatályon kívül helyezéséről (HL L 97., 2008.4.9., 72. o.).
40 Az Európai Parlament és a Tanács 167/2013/EU rendelete (2013. február 5.) a mezőgazdasági és erdészeti járművek jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 1. o.).
40 Az Európai Parlament és a Tanács 167/2013/EU rendelete (2013. február 5.) a mezőgazdasági és erdészeti járművek jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 1. o.).
41 Az Európai Parlament és a Tanács 168/2013/EU rendelete (2013. január 15.) a két- vagy háromkerekű járművek, valamint a négykerekű motorkerékpárok jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 52. o.).
41 Az Európai Parlament és a Tanács 168/2013/EU rendelete (2013. január 15.) a két- vagy háromkerekű járművek, valamint a négykerekű motorkerékpárok jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 52. o.).
42 Az Európai Parlament és a Tanács 2014/90/EU irányelve (2014. július 23.) a tengerészeti felszerelésekről és a 96/98/EK tanácsi irányelv hatályon kívül helyezéséről (HL L 257., 2014.8.28., 146. o.).
42 Az Európai Parlament és a Tanács 2014/90/EU irányelve (2014. július 23.) a tengerészeti felszerelésekről és a 96/98/EK tanácsi irányelv hatályon kívül helyezéséről (HL L 257., 2014.8.28., 146. o.).
43 Az Európai Parlament és a Tanács (EU) 2016/797 irányelve (2016. május 11.) a vasúti rendszer Európai Unión belüli kölcsönös átjárhatóságáról (HL L 138., 2016.5.26., 44. o.).
43 Az Európai Parlament és a Tanács (EU) 2016/797 irányelve (2016. május 11.) a vasúti rendszer Európai Unión belüli kölcsönös átjárhatóságáról (HL L 138., 2016.5.26., 44. o.).
44 Az Európai Parlament és a Tanács (EU) 2018/858 rendelete (2018. május 30.) a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek jóváhagyásáról és piacfelügyeletéről, a 715/2007/EK és az 595/2009/EK rendelet módosításáról, valamint a 2007/46/EK irányelv hatályon kívül helyezéséről (HL L 151., 2018.6.14., 1. o.).
44 Az Európai Parlament és a Tanács (EU) 2018/858 rendelete (2018. május 30.) a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek jóváhagyásáról és piacfelügyeletéről, a 715/2007/EK és az 595/2009/EK rendelet módosításáról, valamint a 2007/46/EK irányelv hatályon kívül helyezéséről (HL L 151., 2018.6.14., 1. o.).
45 Az Európai Parlament és a Tanács (EU) 2018/1139 rendelete (2018. július 4.) a polgári légi közlekedés területén alkalmazandó közös szabályokról és az Európai Unió Repülésbiztonsági Ügynökségének létrehozásáról és a 2111/2005/EK, az 1008/2008/EK, a 996/2010/EU, a 376/2014/EU európai parlamenti és tanácsi rendelet és a 2014/30/EU és a 2014/53/EU európai parlamenti és tanácsi irányelv módosításáról, valamint az 552/2004/EK és a 216/2008/EK európai parlamenti és tanácsi rendelet és a 3922/91/EGK tanácsi rendelet hatályon kívül helyezéséről (HL L 212., 2018.8.22., 1. o.).
45 Az Európai Parlament és a Tanács (EU) 2018/1139 rendelete (2018. július 4.) a polgári légi közlekedés területén alkalmazandó közös szabályokról és az Európai Unió Repülésbiztonsági Ügynökségének létrehozásáról és a 2111/2005/EK, az 1008/2008/EK, a 996/2010/EU, a 376/2014/EU európai parlamenti és tanácsi rendelet és a 2014/30/EU és a 2014/53/EU európai parlamenti és tanácsi irányelv módosításáról, valamint az 552/2004/EK és a 216/2008/EK európai parlamenti és tanácsi rendelet és a 3922/91/EGK tanácsi rendelet hatályon kívül helyezéséről (HL L 212., 2018.8.22., 1. o.).
46 Az Európai Parlament és a Tanács (EU) 2019/2144 rendelete (2019. november 27.) a gépjárműveknek és pótkocsijaiknak, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek az általános biztonság, továbbá az utasok és a veszélyeztetett úthasználók védelme tekintetében történő típusjóváhagyásáról, az (EU) 2018/858 európai parlamenti és tanácsi rendelet módosításáról, valamint a 78/2009/EK, a 79/2009/EK és a 661/2009/EK európai parlamenti és tanácsi rendelet és a 631/2009/EK, a 406/2010/EU, a 672/2010/EU, az 1003/2010/EU, az 1005/2010/EU, az 1008/2010/EU, az 1009/2010/EU, a 19/2011/EU, a 109/2011/EU, a 458/2011/EU, a 65/2012/EU, a 130/2012/EU, a 347/2012/EU, a 351/2012/EU, az 1230/2012/EU és az (EU) 2015/166 bizottsági rendelet hatályon kívül helyezéséről (HL L 325, 2019.12.16., 1. o.).
46 Az Európai Parlament és a Tanács (EU) 2019/2144 rendelete (2019. november 27.) a gépjárműveknek és pótkocsijaiknak, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek az általános biztonság, továbbá az utasok és a veszélyeztetett úthasználók védelme tekintetében történő típusjóváhagyásáról, az (EU) 2018/858 európai parlamenti és tanácsi rendelet módosításáról, valamint a 78/2009/EK, a 79/2009/EK és a 661/2009/EK európai parlamenti és tanácsi rendelet és a 631/2009/EK, a 406/2010/EU, a 672/2010/EU, az 1003/2010/EU, az 1005/2010/EU, az 1008/2010/EU, az 1009/2010/EU, a 19/2011/EU, a 109/2011/EU, a 458/2011/EU, a 65/2012/EU, a 130/2012/EU, a 347/2012/EU, a 351/2012/EU, az 1230/2012/EU és az (EU) 2015/166 bizottsági rendelet hatályon kívül helyezéséről (HL L 325, 2019.12.16., 1. o.).
(30) Az olyan MI-rendszereket, amelyek bizonyos uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkatrészei, vagy amelyek maguk ilyen jogszabályok hatálya alá tartozó termékek, helyénvaló e rendelet értelmében nagy kockázatúnak minősíteni, ha a szóban forgó terméket a vonatkozó uniós harmonizációs jogszabály értelmében valamely harmadik félnek minősülő megfelelőségértékelő szervezet által lefolytatott megfelelőségértékelési eljárás alá vonják. Ilyen termékek különösen a gépek, a játékok, a felvonók, a robbanásveszélyes légkörben való használatra szánt felszerelések és a védelmi rendszerek, a rádióberendezések, a nyomástartó berendezések, a kedvtelési célú vízi járművek berendezései, a kötélpálya-létesítmények, a gázüzemű berendezések, az orvostechnikai eszközök és az in vitro diagnosztikai orvostechnikai eszközök.
(30) Az olyan MI-rendszereket, amelyek bizonyos uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkatrészei, vagy amelyek maguk ilyen jogszabályok hatálya alá tartozó termékek, helyénvaló e rendelet értelmében nagy kockázatúnak minősíteni, ha a szóban forgó terméket a II. mellékletben felsorolt uniós harmonizációs jogszabály értelmében az alapvető biztonsági követelményeknek való megfelelés biztosítása érdekében valamely harmadik félnek minősülő megfelelőségértékelő szervezet által lefolytatott megfelelőségértékelési eljárás alá vonják. Ilyen termékek különösen a gépek, a játékok, a felvonók, a robbanásveszélyes légkörben való használatra szánt felszerelések és a védelmi rendszerek, a rádióberendezések, a nyomástartó berendezések, a kedvtelési célú vízi járművek berendezései, a kötélpálya-létesítmények, a gázüzemű berendezések, az orvostechnikai eszközök és az in vitro diagnosztikai orvostechnikai eszközök.
(31) Az MI-rendszerek e rendelet szerint nagy kockázatú rendszerként való besorolása nem feltétlenül jelenti azt, hogy az a termék, amelynek biztonsági alkatrésze az MI-rendszer, vagy maga az MI-rendszer mint termék, a termékre alkalmazandó vonatkozó uniós harmonizációs jogszabályokban megállapított kritériumok alapján „nagy kockázatúnak” minősül. Ez különösen igaz az (EU) 2017/745 európai parlamenti és tanácsi rendeletre47 és az (EU) 2017/746 európai parlamenti és tanácsi rendeletre48, amelyek a közepes kockázatú és a nagy kockázatú termékek tekintetében írnak elő harmadik fél általi megfelelőségértékelést.
(31) Az MI-rendszerek e rendelet szerint nagy kockázatú rendszerként való besorolása nem jelentheti azt, hogy az a termék, amelynek biztonsági alkatrésze az MI-rendszer, vagy maga az MI-rendszer mint termék, a termékre alkalmazandó vonatkozó uniós harmonizációs jogszabályokban megállapított kritériumok alapján „nagy kockázatúnak” minősül. Ez különösen igaz az (EU) 2017/745 európai parlamenti és tanácsi rendeletre47 és az (EU) 2017/746 európai parlamenti és tanácsi rendeletre48, amelyek a közepes kockázatú és a nagy kockázatú termékek tekintetében írnak elő harmadik fél általi megfelelőségértékelést.
__________________
__________________
47 Az Európai Parlament és a Tanács (EU) 2017/745 rendelete (2017. április 5.) az orvostechnikai eszközökről, a 2001/83/EK irányelv, a 178/2002/EK rendelet és az 1223/2009/EK rendelet módosításáról, valamint a 90/385/EGK és a 93/42/EGK tanácsi irányelv hatályon kívül helyezéséről (HL L 117., 2017.5.5., 1. o.).
47 Az Európai Parlament és a Tanács (EU) 2017/745 rendelete (2017. április 5.) az orvostechnikai eszközökről, a 2001/83/EK irányelv, a 178/2002/EK rendelet és az 1223/2009/EK rendelet módosításáról, valamint a 90/385/EGK és a 93/42/EGK tanácsi irányelv hatályon kívül helyezéséről (HL L 117., 2017.5.5., 1. o.).
48 Az Európai Parlament és a Tanács (EU) 2017/746 rendelete (2017. április 5.) az in vitro diagnosztikai orvostechnikai eszközökről, valamint a 98/79/EK irányelv és a 2010/227/EU bizottsági határozat hatályon kívül helyezéséről (HL L 117., 2017.5.5., 176. o.).
48 Az Európai Parlament és a Tanács (EU) 2017/746 rendelete (2017. április 5.) az in vitro diagnosztikai orvostechnikai eszközökről, valamint a 98/79/EK irányelv és a 2010/227/EU bizottsági határozat hatályon kívül helyezéséről (HL L 117., 2017.5.5., 176. o.).
(32) Az önálló MI-rendszereket, vagyis azon nagy kockázatú MI-rendszereket, amelyek nem termékek biztonsági alkatrészei vagy maguk is termékek, helyénvaló nagy kockázatúnak minősíteni, ha rendeltetésük alapján nagy kockázatot jelentenek a személyek egészségére és biztonságára vagy alapvető jogaira nézve, figyelembe véve a lehetséges kár súlyosságát és előfordulásának valószínűségét, és ha azokat számos, a rendeletben megadott, kifejezetten előre meghatározott területen használják. E rendszerek azonosítása ugyanazon módszertanon és kritériumokon alapul, amelyeket a nagy kockázatú MI-rendszerek listájának jövőbeli módosításaira is előirányoztak.
(32) Az önálló MI-rendszereket, vagyis azon nagy kockázatú MI-rendszereket, amelyek nem termékek biztonsági alkatrészei vagy maguk is termékek, és amelyeket a III. melléklet egyik területen és alkalmazási esetben felsorol, helyénvaló nagy kockázatúnak minősíteni, ha rendeltetésük alapján jelentős kockázatot jelentenek a személyek egészségére és biztonságára vagy alapvető jogaira nézve, és – ha az adott Mi-rendszert egy kritikus infrastruktúra biztonsági elemeként használják – a környezetre nézve. Az ilyen jelentős kárkockázatot egyrészt a kockázat súlyosságának, intenzitásának, előfordulási valószínűségének és időtartamának együttes figyelembevételével, másrészt annak értékelésével kell azonosítani, hogy a kockázat hatással lehet-e egy egyénre, több személyre vagy személyek egy adott csoportjára. A körülményektől függően az ilyen kombináció növelheti például a kockázat súlyosságát, miközben annak valószínűsége csekély lenne, hogy egy természetes személyt érintsen, vagy eredményezheti azt is, hogy nagy lesz a valószínűsége annak, hogy alacsony intenzitással érinti személyek csoportját hosszú távon. E rendszerek azonosítása ugyanazon módszertanon és kritériumokon alapul, amelyeket a nagy kockázatú MI-rendszerek listájának jövőbeli módosításaira is előirányoztak.
Módosítás 61 Rendeletre irányuló javaslat 32 a preambulumbekezdés (új)
(32a) Azoknak a szolgáltatóknak, amelyek MI-rendszerei a III. mellékletben felsorolt területek valamelyikébe tartoznak, és amelyek úgy vélik, hogy a rendszerük nem jelent jelentős kockázatot az egészségre, a biztonságra, az alapvető jogokra vagy a környezetre nézve, indokolással ellátott értesítés útján tájékoztatniuk kell erről a nemzeti felügyeleti hatóságokat. Ez a szóban forgó MI-rendszerre vonatkozó releváns információk egyoldalas összefoglalásának formáját öltheti, beleértve a rendszer rendeltetését és azt is, hogy miért nem jelent jelentős kockázatot az egészségre, a biztonságra, az alapvető jogokra vagy a környezetre nézve. A Bizottságnak meg kell határoznia azokat a kritériumokat, amelyek lehetővé teszik a vállalatok számára annak értékelését, hogy rendszerük ilyen kockázatot jelent-e, valamint ki kell dolgoznia egy könnyen használható és egységesített bejelentési sablont. A szolgáltatóknak a bejelentést a lehető leghamarabb, de minden esetben az MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt, ideális esetben a fejlesztési szakaszban kell benyújtaniuk, és lehetővé kell tenni számukra, hogy az értesítést követően bármikor szabadon hozhassák azt forgalomba. Ha azonban a hatóság úgy ítéli meg, hogy a szóban forgó MI-rendszert tévesen sorolták be, három hónapon belül kifogást kell emelnie az értesítéssel szemben. A kifogást alá kell támasztani, és megfelelően ki kell fejteni, hogy az MI-rendszert miért minősítették tévesen. A szolgáltatónak további érvek benyújtásával meg kell őriznie a fellebbezéshez való jogát. Ha a három hónap elteltével nem emelnek kifogást az értesítéssel szemben, a nemzeti felügyeleti hatóságok akkor is beavatkozhatnak, ha az MI-rendszer nemzeti szinten kockázatot jelent, mint bármely más piaci MI-rendszer esetében. A nemzeti felügyeleti hatóságoknak éves jelentéseket kell benyújtaniuk az MI-hivatalhoz, amelyben részletesen ismertetik a beérkezett bejelentéseket és a meghozott határozatokat.
(33) A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Ez különösen releváns az életkor, az etnikai hovatartozás, a nem vagy a fogyatékosságok tekintetében. Ezért a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszereket nagy kockázatúnak kell minősíteni. Tekintettel az általuk jelentett kockázatokra, a távoli biometrikus azonosító rendszerek mindkét típusára a naplózási képességekkel és az emberi felügyelettel kapcsolatos különös követelményeknek kell vonatkozniuk.
törölve
Módosítás 63 Rendeletre irányuló javaslat 33 a preambulumbekezdés (új)
(33a) Mivel a biometrikus adatok az (EU) 2016/679 rendelettel összhangban az érzékeny személyes adatok különleges kategóriáját képezik, helyénvaló a biometrikus és biometrikus alapú rendszerek számos kritikus felhasználási esetét magas kockázatúnak minősíteni. Ezért magas kockázatúnak kell minősíteni a természetes személyek biometrikus azonosítására szolgáló MI-rendszereket, valamint a természetes személyek biometrikus vagy biometrikus adatokon alapuló személyes jellemzőire vonatkozó következtetések levonására szánt MI-rendszereket, beleértve az érzelmek felismerésére szolgáló rendszereket is, kivéve azokat, amelyek e rendelet értelmében tiltottak. Ez nem terjedhet ki az olyan biometrikus ellenőrzésre szánt MI-rendszerekre, amely magában foglalja a hitelesítést is, abból a kizárólagos célból, hogy megerősítse, hogy egy adott természetes személy valóban az a személy, akinek állítja magát, és amely kizárólag abból a célból erősíti meg a természetes személy személyazonosságát, hogy az illető hozzáférhessen valamely szolgáltatáshoz, eszközhöz vagy helyiséghez (egy az egyhez megfeleltetés). Azok a biometrikus és biometrikus alapú rendszerek, amelyeket az uniós jog a kiberbiztonsági és személyesadat-védelmi intézkedések lehetővé tétele érdekében ír elő, nem tekinthetők úgy, hogy jelentős kockázatot jelentenek az egészség, a biztonság és az alapvető jogok tekintetében.
(34) Ami a kritikus infrastruktúrák irányítását és üzemeltetését illeti, a közúti forgalom irányításában és üzemeltetésében, valamint a víz-, gáz-, fűtés- és villamosenergia-ellátásban biztonsági alkatrészeként használni kívánt MI-rendszereket indokolt nagy kockázatúnak minősíteni, mivel meghibásodásuk vagy hibás működésük nagymértékben veszélyeztetheti az emberek életét és egészségét, és érzékelhető zavarokhoz vezethet a társadalmi és gazdasági tevékenységek szokásos végzésében.
(34) Ami a kritikus infrastruktúrák irányítását és üzemeltetését illeti, a közúti forgalom irányításában és üzemeltetésében, valamint a víz-, gáz-, fűtés-, villamosenergia-ellátásban és a kritikus digitális infrastruktúrában biztonsági vagy védelmi alkatrészeként használni kívánt MI-rendszereket indokolt nagy kockázatúnak minősíteni, mivel meghibásodásuk vagy hibás működésük sértheti az ilyen kritikus infrastruktúrák biztonságát és integritását, és ezáltal nagymértékben veszélyeztetheti az emberek életét és egészségét, és érzékelhető zavarokhoz vezethet a társadalmi és gazdasági tevékenységek szokásos végzésében. A kritikus infrastruktúrák – és ezen belül a kritikus digitális infrastruktúrák – biztonsági alkotóelemei olyan rendszerek, amelyeket a fizikai infrastruktúra fizikai épségének, személyek egészségének és biztonságának, valamint vagyontárgyaknak a közvetlen védelmére használnak. Az ilyen alkotóelemek meghibásodása vagy hibás működése közvetlenül veszélyeztetheti a kritikus infrastruktúrák fizikai épségét, és ezáltal veszélyt jelent a személyek egészségére és biztonságára, valamint a vagyontárgyakra. A kizárólag kiberbiztonsági célokra szánt alkotóelemek nem minősülnek biztonsági alkotóelemnek. Az ilyen biztonsági alkotóelemek közé tartozhatnak például a felhőszolgáltatási központok víznyomás- vagy tűzriasztás-ellenőrző rendszerei.
(35) Az oktatásban vagy szakképzésben használt MI-rendszereket, különösen a személyek oktatási és szakképzési intézményekbe való bejutásának meghatározására vagy ilyen intézményekhez való hozzárendelésére, illetve az oktatásuk részeként vagy előfeltételeként vizsgáztatott személyek értékelésére használt MI-rendszereket nagy kockázatúnak kell tekinteni, mivel meghatározhatják az adott személy életének oktatási és szakmai pályáját, és ezáltal hatással lehetnek megélhetésük biztosítására való képességükre. Helytelen tervezés és használat esetén az ilyen rendszerek sérthetik az oktatáshoz és képzéshez való jogot, valamint a megkülönböztetésmentességhez való jogot, és állandósíthatják a megkülönböztetés korábban meglévő mintázatait.
(35) Az MI-rendszerek oktatásban való bevezetése fontos az oktatási rendszerek egészének korszerűsítése és az offline és online oktatás színvonalának javítása, valamint a digitális oktatás felgyorsítása, ezáltal a szélesebb közönség számára is elérhetővé tétele érdekében.Magas kockázatú MI-rendszereknek kell minősíteni azokat a mesterségesintelligencia-rendszereket, amelyeket az oktatásban vagy szakképzésben használt MI-rendszerekben használnak, különösen a személyek oktatási és szakképzési intézményekbe való felvételére vagy kijelölésére, illetve a vizsgákon részt vevő személyeknek az oktatásuk részeként vagy annak előfeltételeként történő értékelésére vonatkozó döntések meghatározására, illetve az oktatás megfelelő szintjének értékelésére, valamint az egyéni képzés megfelelő szintjének értékelésére, valamint annak lényeges befolyásolására, hogy az egyének hozzáférjenek, illetve képesek legyenek hozzáférni, illetve nyomon követni és felderíteni a diákok tiltott magatartását, mivel meghatározhatják az adott személy életének oktatási és szakmai lefolyását, és ezáltal befolyásolhatják megélhetésük biztosítására való képességüket. Helytelen tervezés, fejlesztés és használat esetén az ilyen rendszerek különösen betolakodóak lehetnek és sérthetik az oktatáshoz és képzéshez való jogot, valamint a megkülönböztetésmentességhez való jogot, és állandósíthatják a megkülönböztetés korábban meglévő mintázatait, például a nőkkel, egyes korcsoportokkal, a fogyatékossággal élőkkel, illetve egyes faji vagy etnikai származású vagy szexuális irányultságú személyekkel szemben.
(36) Nagy kockázatúnak kell tekinteni azokat az MI-rendszereket is, amelyeket a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés, különösen személyek felvétele és kiválasztása, az előléptetéssel és felmentéssel kapcsolatos döntések meghozatala, valamint a munkával kapcsolatos szerződéses jogviszonyban lévő személyek részére történő feladatkiosztás, továbbá az ilyen személyek nyomon követése vagy értékelése során használnak, mivel ezek a rendszerek érzékelhetően befolyásolhatják e személyek jövőbeli karrierlehetőségeit és megélhetését. A vonatkozó, munkával kapcsolatos szerződéses jogviszonyoknak magukban kell foglalniuk a munkavállalókat és a Bizottság 2021. évi munkaprogramjában említettek szerint a platformokon keresztül szolgáltatásokat nyújtó személyeket. Az ilyen személyek főszabályként nem tekintendők e rendelet értelmében vett felhasználóknak.Az ilyen rendszerek a munkaerő-felvételi folyamat egészében, valamint a munkával kapcsolatos szerződéses jogviszonyokban részt vevő személyek értékelése, előléptetése vagy megtartása során állandósíthatják a megkülönböztetés régóta fennálló mintázatait, például a nőkkel, bizonyos korcsoportokkal, a fogyatékossággal élő személyekkel, illetve bizonyos faji vagy etnikai származású, vagy szexuális irányultságú személyekkel szemben. Az e személyek teljesítményének és magatartásának nyomon követésére használt MI-rendszerek hatással lehetnek a személyek adatvédelemhez és a magánélethez való jogaira is.
(36) Nagy kockázatúnak kell tekinteni azokat az MI-rendszereket is, amelyeket a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés, különösen személyek felvétele és kiválasztása, a betanítással, az előléptetéssel és felmentéssel kapcsolatos döntések meghozatala vagy a döntéshozatal anyagi befolyásolása, valamint a munkával kapcsolatos szerződéses jogviszonyban lévő személyek részére történő, személyre szabott, egyéni viselkedésen, személyes vonásokon vagy biometrikus adatokon alapuló feladatkiosztás, továbbá az ilyen személyek nyomon követése vagy értékelése során használnak, mivel ezek a rendszerek érzékelhetően befolyásolhatják e személyek jövőbeli karrierlehetőségeit és megélhetését, akárcsak a munkavállalói jogokat. A vonatkozó, munkával kapcsolatos szerződéses jogviszonyoknak érdemben magukban kell foglalniuk a munkavállalókat és a Bizottság 2021. évi munkaprogramjában említettek szerint a platformokon keresztül szolgáltatásokat nyújtó személyeket. Az ilyen rendszerek a munkaerő-felvételi folyamat egészében, valamint a munkával kapcsolatos szerződéses jogviszonyokban részt vevő személyek értékelése, előléptetése vagy megtartása során állandósíthatják a megkülönböztetés régóta fennálló mintázatait, például a nőkkel, bizonyos korcsoportokkal, a fogyatékossággal élő személyekkel, illetve bizonyos faji vagy etnikai származású, vagy szexuális irányultságú személyekkel szemben. Az e személyek teljesítményének és magatartásának nyomon követésére használt MI-rendszerek alá is áshatják a személyek adatvédelemhez és a magánélethez való alapvető jogait is. Ezt a rendeletet az Unió és a tagállamok azon hatáskörének sérelme nélkül kell alkalmazni, hogy a foglalkoztatással összefüggésben konkrétabb szabályokat írjanak elő az MI-rendszerek használatára vonatkozóan.
(37) Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes olyan alapvető magán- és közszolgáltatások és ellátások elérhetősége és igénybevétele, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javítsák életszínvonalukat. Különösen a természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereket kell nagy kockázatú MI-rendszereknek minősíteni, mivel ezek határozzák meg e személyek pénzügyi erőforrásokhoz vagy olyan alapvető szolgáltatásokhoz való hozzáférését, mint a lakhatás, a villamos energia és a távközlési szolgáltatások. Az e célra használt MI-rendszerek személyek vagy csoportok hátrányos megkülönböztetéséhez vezethetnek, és állandósíthatják a – például faji vagy etnikai származáson, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló – megkülönböztetés korábbról eredő mintázatait, vagy a diszkriminatív hatások új formáit teremthetik meg. Figyelembe véve a hatás igen korlátozott mértékét és a piacon rendelkezésre álló alternatívákat, helyénvaló mentességet biztosítani a pontozásos hitelbírálat és a hitelképességi vizsgálat céljára használt olyan MI-rendszerek számára, amelyeket kis szolgáltatók saját maguk számára helyeznek üzembe.Azok a természetes személyek, akik állami támogatásért és szolgáltatásokért folyamodnak a hatóságokhoz, vagy akik a hatóságoktól ilyenben részesülnek, jellemzően ezen ellátásoktól és szolgáltatásoktól függenek, és az illetékes hatóságoknak kiszolgáltatott helyzetben vannak. Ha a hatóságok MI-rendszerek igénybevételével határozzák meg, hogy megtagadják, csökkentsék, visszavonják vagy visszaigényeljék-e ezeket az ellátásokat és szolgáltatásokat, e rendszerek jelentős hatást gyakorolhatnak a személyek megélhetésére, és sérthetik alapvető jogaikat, például a szociális védelemhez, a megkülönböztetésmentességhez, az emberi méltósághoz vagy a hatékony jogorvoslathoz való jogot. Ezeket a rendszereket ezért nagy kockázatúnak kell minősíteni. Mindazonáltal ez a rendelet nem akadályozhatja az innovatív megközelítések fejlesztését és alkalmazását a közigazgatásban, amely számára előnyös lenne az előírásoknak megfelelő és biztonságos MI-rendszerek szélesebb körű használata, feltéve, hogy ezek a rendszerek nem jelentenek nagy kockázatot a természetes és jogi személyekre nézve. Végezetül, a vészhelyzeti első reagálási szolgáltatások irányítására vagy irányításuk során a prioritás megállapítására használt MI-rendszereket szintén nagy kockázatúnak kell tekinteni, mivel nagyon kritikus helyzetekben hoznak döntéseket az emberek élete és egészsége, valamint tulajdona szempontjából.
(37) Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes olyan alapvető magán- és közszolgáltatások és ellátások – többek között az egészségügyi szolgáltatások és az alapvető szolgáltatások, ezen belül a lakhatás, a villamos energia, a fűtés/hűtés és az internetszolgáltatás – elérhetősége és igénybevétele, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javítsák életszínvonalukat. Különösen a természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereket kell nagy kockázatú MI-rendszereknek minősíteni, mivel ezek határozzák meg e személyek pénzügyi erőforrásokhoz vagy olyan alapvető szolgáltatásokhoz való hozzáférését, mint a lakhatás, a villamos energia és a távközlési szolgáltatások. Az e célra használt MI-rendszerek személyek vagy csoportok hátrányos megkülönböztetéséhez vezethetnek, és állandósíthatják a – például faji vagy etnikai származáson, nemen, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló – megkülönböztetés korábbról eredő mintázatait, vagy a diszkriminatív hatások új formáit teremthetik meg. Az uniós jog által a pénzügyi szolgáltatások nyújtása terén a csalások felderítése céljából előírt MI-rendszerek azonban e rendelet értelmében nem tekintendők magas kockázatúnak. Azok a természetes személyek, akik állami támogatásért és szolgáltatásokért – többek között egészségügyi szolgáltatásokért és alapvető szolgáltatásokért, ezen belül lakhatásért, villamos energiáért, fűtésért/hűtésért és internetszolgáltatásért – folyamodnak a hatóságokhoz, vagy akik a hatóságoktól ilyenben részesülnek, jellemzően ezen ellátásoktól és szolgáltatásoktól függenek, és az illetékes hatóságoknak kiszolgáltatott helyzetben vannak. Ha a hatóságok MI-rendszerek igénybevételével határozzák meg, hogy megtagadják, csökkentsék, visszavonják vagy visszaigényeljék-e ezeket az ellátásokat és szolgáltatásokat, e rendszerek jelentős hatást gyakorolhatnak a személyek megélhetésére, és sérthetik alapvető jogaikat, például a szociális védelemhez, a megkülönböztetésmentességhez, az emberi méltósághoz vagy a hatékony jogorvoslathoz való jogot. A természetes személyek egészség- és életbiztosításra való jogosultságával kapcsolatos döntések meghozatalára vagy a döntések lényeges befolyásolására tervezett MI-rendszerek hasonlóképpen jelentős hatást gyakorolhatnak a személyek megélhetésére, és – például az egészségügyi ellátáshoz való hozzáférés korlátozásával vagy a személyes tulajdonságokon alapuló megkülönböztetés fenntartásával – sérthetik alapvető jogaikat. Ezeket a rendszereket ezért nagy kockázatúnak kell minősíteni. Mindazonáltal ez a rendelet nem akadályozhatja az innovatív megközelítések fejlesztését és alkalmazását a közigazgatásban, amely számára előnyös lenne az előírásoknak megfelelő és biztonságos MI-rendszerek szélesebb körű használata, feltéve, hogy ezek a rendszerek nem jelentenek nagy kockázatot a természetes és jogi személyekre nézve. Végezetül, a természetes személyek segélyhívásainak értékelésére és osztályozására vagy a vészhelyzeti első reagálási szolgáltatások irányítására vagy irányításuk során a prioritás megállapítására használt MI-rendszereket szintén nagy kockázatúnak kell tekinteni, mivel nagyon kritikus helyzetekben hoznak döntéseket az emberek élete és egészsége, valamint tulajdona szempontjából.
Módosítás 68 Rendeletre irányuló javaslat 37 a preambulumbekezdés (új)
(37a) Tekintettel a rendőrség és az igazságügyi hatóságok szerepére és felelősségére, valamint a bűncselekmények megelőzése, kivizsgálása, felderítése, büntetőeljárás alá vonása vagy büntetőjogi szankciók végrehajtása céljából hozott döntéseik hatására, az MI-alkalmazások bűnüldözésben való felhasználásának egyes konkrét eseteit nagy kockázatúként kell besorolni, különösen azokban az esetekben, amikor fennáll annak lehetősége, hogy jelentősen befolyásolják az egyének életét.
(38) A bűnüldöző hatóságok MI-rendszerek bizonyos használatával járó fellépéseit az erőviszonyok jelentős mértékű kiegyensúlyozatlansága jellemzi, és egy természetes személy megfigyeléséhez, letartóztatásához vagy szabadságának elvonásához, valamint a Chartában garantált alapvető jogokra gyakorolt egyéb kedvezőtlen hatásokhoz vezethetnek. Különösen akkor, ha az MI-rendszert nem tanítják jó minőségű adatokkal, nem felel meg a pontossága vagy stabilitása tekintetében támasztott megfelelő követelményeknek, vagy a forgalomba hozatalt vagy a más módon történő üzembe helyezést megelőzően nem megfelelően tervezték és tesztelték, akkor e rendszer diszkriminatív vagy más tekintetben tisztességtelen vagy igazságtalan módon válaszhat ki embereket. Akadályozhatja továbbá a fontos alapvető eljárási jogoknak – például a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jognak, valamint a védelemhez való jognak és az ártatlanság vélelmének – az érvényre juttatását, különösen akkor, ha az ilyen MI-rendszerek nem eléggé átláthatók, megmagyarázhatók és dokumentálhatók. Ezért helyénvaló nagy kockázatúnak minősíteni számos olyan, a bűnüldözéssel összefüggésben használni kívánt MI-rendszert, amelyek pontossága, megbízhatósága és átláthatósága különösen fontos a kedvezőtlen hatások elkerülése, a közvélemény bizalmának megőrzése, valamint az elszámoltathatóság és a hatékony jogorvoslat biztosítása szempontjából. Tekintettel a szóban forgó tevékenységek jellegére és az azokkal kapcsolatos kockázatokra, e nagy kockázatú MI-rendszereknek magukban kell foglalniuk különösen azokat az MI-rendszereket, amelyeket a bűnüldöző hatóságok egyedi kockázatértékelések, poligráfok és hasonló eszközök céljára vagy a természetes személyek érzelmi állapotának felderítésére, a deepfake videók felderítésére, büntetőeljárásokban a bizonyítékok megbízhatóságának értékelésére, a tényleges vagy potenciális bűncselekmények elkövetésének vagy megismétlődésének természetes személyek bűnözői profilalkotásán, illetve a személyiségjegyek, tulajdonságok, valamint természetes személyek vagy csoportok múltbeli bűnöző magatartásának értékelésén alapuló előrejelzésére, a bűncselekmények felderítése, nyomozása vagy büntetőeljárás alá vonása során alkalmazott profilalkotásra, továbbá természetes személyek tekintetében bűnelemzésre terveznek használni. Azok az MI-rendszerek, amelyeket kifejezetten az adó- és vámhatóságok által közigazgatási eljárások céljára kívánnak használni, nem tekintendők a bűnüldöző hatóságok által bűncselekmények megelőzése, felderítése, nyomozása és büntetőeljárás alá vonása céljából használt nagy kockázatú MI-rendszereknek.
(38) A bűnüldöző hatóságok MI-rendszerek bizonyos használatával járó fellépéseit az erőviszonyok jelentős mértékű kiegyensúlyozatlansága jellemzi, és egy természetes személy megfigyeléséhez, letartóztatásához vagy szabadságának elvonásához, valamint a Chartában garantált alapvető jogokra gyakorolt egyéb kedvezőtlen hatásokhoz vezethetnek. Különösen akkor, ha az MI-rendszert nem tanítják jó minőségű adatokkal, nem felel meg a teljesítménye, pontossága vagy stabilitása tekintetében támasztott megfelelő követelményeknek, vagy a forgalomba hozatalt vagy a más módon történő üzembe helyezést megelőzően nem megfelelően tervezték és tesztelték, akkor e rendszer diszkriminatív vagy más tekintetben tisztességtelen vagy igazságtalan módon válaszhat ki embereket. Akadályozhatja továbbá a fontos alapvető eljárási jogoknak – például a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jognak, valamint a védelemhez való jognak és az ártatlanság vélelmének – az érvényre juttatását, különösen akkor, ha az ilyen MI-rendszerek nem eléggé átláthatók, megmagyarázhatók és dokumentálhatók. Ezért helyénvaló nagy kockázatúnak minősíteni számos olyan, a bűnüldözéssel összefüggésben használni kívánt MI-rendszert, amelyek pontossága, megbízhatósága és átláthatósága különösen fontos a kedvezőtlen hatások elkerülése, a közvélemény bizalmának megőrzése, valamint az elszámoltathatóság és a hatékony jogorvoslat biztosítása szempontjából. Tekintettel a szóban forgó tevékenységek jellegére és az azokkal kapcsolatos kockázatokra, e nagy kockázatú MI-rendszereknek magukban kell foglalniuk különösen azokat az MI-rendszereket, amelyeket a bűnüldöző hatóságok általi vagy a nevükben történő, illetve a bűnüldöző hatóságok támogatása során az uniós ügynökségek, hivatalok vagy szervek általi, poligráfokként és hasonló eszközökként történő felhasználásának céljára – amennyiben ezek használatát a vonatkozó uniós és nemzeti jog engedélyezi –, büntetőeljárásokban a bizonyítékok megbízhatóságának értékelésére, a bűncselekmények felderítése, nyomozása vagy büntetőeljárás alá vonása során alkalmazott profilalkotásra, továbbá természetes személyek tekintetében bűnelemzésre terveznek használni. Azok az MI-rendszerek, amelyeket kifejezetten az adó- és vámhatóságok által közigazgatási eljárások céljára kívánnak használni, nem minősítendők a bűnüldöző hatóságok által bűncselekmények megelőzése, felderítése, nyomozása és büntetőeljárás alá vonása céljából használt nagy kockázatú MI-rendszereknek. Az MI-eszközök bűnüldöző szervek és igazságügyi hatóságok általi használata nem idézhet elő egyenlőtlenséget, társadalmi szakadékot vagy kirekesztést. Nem szabad figyelmen kívül hagyni az MI-eszközök használatának a gyanúsítottak védelemhez való jogára gyakorolt hatását, különösen a működésükre vonatkozó érdemi információk beszerzésének nehézségét, valamint a kapott eredmények bíróság előtti vitatásának ebből eredő nehézségeit, főként a vizsgálat alatt álló személyek esetében.
(39) A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a természetes személyek érzelmi állapotának felderítése; a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben49, a 810/2009/EK európai parlamenti és tanácsi rendeletben50 és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek.
(39) A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok vagy a nevükben eljáró felek vagy uniós ügynökségek, hivatalok vagy szervek által – amennyiben ezek használatát a vonatkozó uniós és nemzeti jog megengedi – poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában és a kérelmekkel összefüggésben benyújtott bizonyítékok valóságtartalmának értékelésében a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében; a határigazgatási tevékenységekkel összefüggésben a személyes adatok természetes személyek felderítése, felismerése vagy azonosítása céljából történő nyomon követése, megfigyelése vagy kezelése; a migrációs mozgásokkal és határátlépésekkel kapcsolatos tendenciák prognosztizálása vagy előrejelzése. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben49, a 810/2009/EK európai parlamenti és tanácsi rendeletben50 és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek. A tagállamok vagy az Unió intézményei, ügynökségei vagy szervei a migráció, a menekültügy és a határellenőrzés kezelése során alkalmazott MI-rendszereket semmilyen körülmények között nem használhatják fel az 1967. január 31-i jegyzőkönyvvel módosított, a menekültek helyzetére vonatkozó 1951. július 28-i egyezmény szerinti nemzetközi kötelezettségeik megkerülésére, és semmilyen módon nem sérthetik meg a visszaküldés tilalmának elvét, illetve nem tagadhatják meg az Unió területére való belépés biztonságos és eredményes, legális csatornáit, ideértve a nemzetközi védelemhez való jogot is.
__________________
__________________
49 Az Európai Parlament és a Tanács 2013/32/EU irányelve (2013. június 26.) a nemzetközi védelem megadására és visszavonására vonatkozó közös eljárásokról (HL L 180., 2013.6.29., 60. o.).
49 Az Európai Parlament és a Tanács 2013/32/EU irányelve (2013. június 26.) a nemzetközi védelem megadására és visszavonására vonatkozó közös eljárásokról (HL L 180., 2013.6.29., 60. o.).
50 Az Európai Parlament és a Tanács 810/2009/EK rendelete (2009. július 13.) a Közösségi Vízumkódex létrehozásáról (vízumkódex) (HL L 243., 2009.9.15., 1. o.).
50 Az Európai Parlament és a Tanács 810/2009/EK rendelete (2009. július 13.) a Közösségi Vízumkódex létrehozásáról (vízumkódex) (HL L 243., 2009.9.15., 1. o.).
(40) Az igazságszolgáltatásra és a demokratikus folyamatok irányítására szánt egyes MI-rendszereket nagy kockázatúnak kell tekinteni, figyelembe véve a demokráciára, a jogállamiságra, az egyéni szabadságokra, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogra gyakorolt potenciálisan jelentős hatásukat. Különösen az esetleges torzítások, hibák és átláthatatlanság kockázatának kezelése érdekében indokolt nagy kockázatúnak minősíteni azokat az MI-rendszereket, amelyek célja, hogy segítsék az igazságügyi hatóságokat a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. Ez a minősítés azonban nem terjedhet ki azokra az MI-rendszerekre, amelyeket olyan, tisztán járulékos adminisztratív tevékenységekre szánnak, amelyek az egyedi esetekben nem befolyásolják a tényleges igazságszolgáltatást; ilyen tevékenységek például a bírósági határozatok, dokumentumok vagy adatok anonimizálása vagy álnevesítése, a személyzet közötti kommunikáció, az adminisztratív feladatok vagy a források elosztása.
(40) Az igazságszolgáltatásra és a demokratikus folyamatok irányítására szánt egyes MI-rendszereket nagy kockázatúnak kell tekinteni, figyelembe véve a demokráciára, a jogállamiságra, az egyéni szabadságokra, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogra gyakorolt potenciálisan jelentős hatásukat. Különösen az esetleges torzítások, hibák és átláthatatlanság kockázatának kezelése érdekében indokolt nagy kockázatúnak minősíteni azokat az igazságügyi hatóság vagy közigazgatási szerv általi vagy a nevükben történő használatra vagy az alternatív vitarendezés során hasonló módon történő felhasználásra szánt MI-rendszereket, amelyek célja, hogy segítsék az igazságügyi hatóságokat vagy a közigazgatási szerveket a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. A mesterséges intelligencia eszközeinek alkalmazása támogathatja, de nem válthatja fel a bírák döntéshozatali hatáskörét vagy a bírói függetlenséget, mivel a végső döntéshozatalnak ember által irányított tevékenységnek és döntésnek kell maradnia. Ez a minősítés azonban nem terjedhet ki azokra az MI-rendszerekre, amelyeket olyan, tisztán járulékos adminisztratív tevékenységekre szánnak, amelyek az egyedi esetekben nem befolyásolják a tényleges igazságszolgáltatást; ilyen tevékenységek például a bírósági határozatok, dokumentumok vagy adatok anonimizálása vagy álnevesítése, a személyzet közötti kommunikáció, az adminisztratív feladatok vagy a források elosztása.
Módosítás 72 Rendeletre irányuló javaslat 40 a preambulumbekezdés (új)
(40a) A szavazati jogot érintő, a Charta 39. cikkében foglalt indokolatlan külső beavatkozás, valamint a demokratikus folyamatokra, a demokráciára és a jogállamiságra gyakorolt aránytalan hatások kockázatának kezelése érdekében a választások vagy népszavazások eredményének vagy a természetes személyek választásokon vagy népszavazásokon tanúsított szavazási magatartásának befolyásolására tervezett MI-rendszereket magas kockázatú MI-rendszereknek kell minősíteni, kivéve azokat az MI-rendszereket – például a politikai kampányok adminisztratív és logisztikai szempontból történő szervezésére, optimalizálására és strukturálására használt eszközöket –, amelyek kimenetének nincsenek természetes személyek közvetlenül kitéve.
Módosítás 73 Rendeletre irányuló javaslat 40 b preambulumbekezdés (új)
(40b) Figyelembe véve, hogy a természetes személyek milyen mértékben használják az online óriásplatformnak minősített közösségimédia-platformok által nyújtott szolgáltatásokat, ezek az online platformok felhasználhatók oly módon, amely erősen befolyásolja az online biztonságot, a közvélemény és a közbeszéd alakulását, a választási és demokratikus folyamatokat és a társadalmi megfontolásokat. Ezért helyénvaló, hogy az említett online platformok által az ajánlórendszereikben használt MI-rendszerek e rendelet hatálya alá tartozzanak annak biztosítása érdekében, hogy az MI-rendszerek megfeleljenek az e rendeletben meghatározott követelményeknek, ezen belül az adatkormányzásra, a műszaki dokumentációra és a nyomon követhetőségre, az átláthatóságra, az emberi felügyeletre, a pontosságra és a stabilitásra vonatkozó műszaki követelményeknek. Az e rendeletnek való megfelelésnek lehetővé kell tennie ezen online óriásplatformok számára, hogy eleget tegyenek az (EU) 2022/2065 rendelet 34. és 35. cikkében foglalt szélesebb körű kockázatértékelési és kockázatcsökkentési kötelezettségeiknek. Az e rendeletben foglalt kötelezettségek nem érintik az (EU) 2022/2065 rendeletet, és ki kell egészíteniük az (EU) 2022/2065 rendeletben előírt kötelezettségeket, amennyiben a közösségimédia-platform online óriásplatformnak minősül. Tekintettel az online óriásplatformnak minősülő közösségimédia-platformok egész Európára kiterjedő hatására, az (EU) 2022/2065 rendelet értelmében kijelölt hatóságoknak végrehajtó hatóságként kell eljárniuk e rendelkezés érvényesítésének alkalmazásában.
(41) Az, hogy egy MI-rendszer e rendelet értelmében nagy kockázatúnak minősül, nem értelmezhető úgy, mint ami azt jelzi, hogy a rendszer használata szükségképpen jogszerű az uniós jog más jogi aktusai vagy az uniós joggal összeegyeztethető nemzeti jogszabályok alapján, például a személyes adatok védelmére, illetve a poligráfok és hasonló eszközök használatára vagy a természetes személyek érzelmi állapotának felderítését szolgáló rendszerek használatára vonatkozó jogi aktusok és jogszabályok alapján. Az ilyen használatra továbbra is kizárólag a Chartából, valamint a másodlagos uniós jog alkalmazandó jogi aktusaiból és a nemzeti jogból eredő hatályos követelményekkel összhangban kerülhet sor. Ez a rendelet nem értelmezhető úgy, mint amely jogalapot teremt a személyes adatok kezelésére, ideértve adott esetben a személyes adatok különleges kategóriáit is.
(41) Az, hogy egy MI-rendszer e rendelet értelmében nagy kockázatú MI-rendszernek minősül, nem értelmezhető úgy, mint ami azt jelzi, hogy a rendszer használata szükségképpen jogszerű vagy jogellenes az uniós jog más jogi aktusai vagy az uniós joggal összeegyeztethető nemzeti jogszabályok alapján, például a személyes adatok védelmére vonatkozó jogi aktusok és jogszabályok alapján. Az ilyen használatra továbbra is kizárólag a Chartából, valamint a másodlagos uniós jog alkalmazandó jogi aktusaiból és a nemzeti jogból eredő hatályos követelményekkel összhangban kerülhet sor.
Módosítás 75 Rendeletre irányuló javaslat 41 a preambulumbekezdés (új)
(41a) Az MI-rendszerekre jelenleg is számos kötelező szabály alkalmazandó vagy vonatkozik európai, nemzeti és nemzetközi szinten, többek között az elsődleges uniós jog (az Európai Unió szerződései és az Európai Unió Alapjogi Chartája), a másodlagos uniós jog (például az általános adatvédelmi rendelet, a termékfelelősségről szóló irányelv, a nem személyes adatok szabad áramlásáról szóló rendelet, a megkülönböztetés elleni irányelvek, a fogyasztóvédelmi jog, valamint a munkahelyi biztonságról és egészségvédelemről szóló irányelvek), az ENSZ emberi jogi szerződései és az Európa Tanács egyezményei (például az emberi jogok európai egyezménye), valamint a nemzeti jogszabályok. A horizontálisan alkalmazandó szabályok mellett különböző területspecifikus szabályok is léteznek, amelyek csak egyes MI-alkalmazásokra vonatkoznak (például az orvostechnikai eszközökről szóló rendelet az egészségügyi ágazatban).
(42) Az uniós piacon forgalomba hozott vagy más módon üzembe helyezett, nagy kockázatú MI-rendszerek felhasználók és érintett személyek tekintetében jelentkező kockázatainak csökkentése érdekében bizonyos kötelező követelményeket kell alkalmazni, figyelembe véve a rendszer rendeltetését és a szolgáltató által létrehozandó kockázatkezelési rendszert.
(42) Az uniós piacon forgalomba hozott vagy más módon üzembe helyezett, nagy kockázatú MI-rendszerek alkalmazók és érintett személyek tekintetében jelentkező kockázatainak csökkentése érdekében bizonyos kötelező követelményeket kell alkalmazni, figyelembe véve a rendszer rendeltetését, észszerűen előre látható helytelen használatát és a szolgáltató által létrehozandó kockázatkezelési rendszert. Ezeknek a követelményeknek célkitűzés-vezéreltnek, a célnak megfelelőnek, észszerűnek és hatékonynak kell lenniük, anélkül, hogy indokolatlan szabályozási terheket vagy költségeket rónának az üzemeltetőkre.
(43) A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai.
(43) A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége és relevanciája, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és az alkalmazóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat, valamint a környezetet, a demokráciát és a jogállamiságot érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének vagy észszerűen előre látható helytelen használatának fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai.
(44) A kiváló adatminőség alapvető fontosságú számos MI-rendszer teljesítményéhez, különösen a modellek tanítását magában foglaló technikák alkalmazása esetén, annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszer rendeltetésszerűen és biztonságosan működjön, és ne váljon az uniós jog által tiltott megkülönböztetés forrásává. A kiváló minőségű tanulóadat-, érvényesítésiadat- és tesztadat-készletekhez megfelelő adatkormányzási és adatgazdálkodási gyakorlatokra van szükség. A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek kellően relevánsnak, reprezentatívnak és hibáktól mentesnek és teljesnek kell lenniük, tekintettel a rendszer rendeltetésére. Ezen adatkészleteknek rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a nagy kockázatú MI-rendszert használni kívánják. A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek különösen – a rendeltetésüktől függően szükséges mértékben – figyelembe kell venniük azokat a jellemzőket, tulajdonságokat vagy elemeket, amelyek azon sajátos földrajzi, magatartási vagy funkcionális környezethez vagy kontextushoz kapcsolódnak, amelyben az MI-rendszert használni kívánják. Annak érdekében, hogy megvédjék mások jogát az MI-rendszerek torzulásából eredő megkülönböztetéssel szemben, a szolgáltatóknak képesnek kell lenniük arra, hogy a személyes adatok különleges kategóriáit is kezeljék, jelentős közérdekből, a nagy kockázatú MI-rendszerekkel kapcsolatos torzítás nyomon követésének, észlelésének és korrekciójának biztosítása érdekében.
(44) A kiváló minőségű adatokhoz való hozzáférés létfontosságú szerepet játszik számos MI-rendszer struktúrájának biztosításában és teljesítményének garantálásában, különösen a modellek tanítását magában foglaló technikák alkalmazása esetén, annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszer rendeltetésszerűen és biztonságosan működjön, és ne váljon az uniós jog által tiltott megkülönböztetés forrásává. A kiváló minőségű tanulóadat-, érvényesítésiadat- és tesztadat-készletekhez megfelelő adatkormányzási és adatgazdálkodási gyakorlatokra van szükség. A tanulóadat- és adott esetben az érvényesítésiadat- és tesztadat-készleteknek, beleértve a címkéket is, kellően relevánsnak, reprezentatívnak és a hibamentesség tekintetében megfelelően ellenőrzöttnek és a lehető legteljesebbnek kell lenniük, tekintettel a rendszer rendeltetésére. Ezen adatkészleteknek rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre vonatkozóan a nagy kockázatú MI-rendszert használni kívánják, különös figyelmet fordítva az adatkészletek esetleges torzításainak enyhítésére, amelyek a nagy kockázatú MI-rendszer által érintett személyek számára alapvető jogokat érintő kockázatokhoz vagy diszkriminatív eredményekhez vezethetnek. Az alapul szolgáló adatkészletek torzíthatnak, különösen akkor, ha múltbeli adatokat használnak, amelyeket az algoritmusok fejlesztői tápláltak be, vagy amelyek akkor keletkeznek, amikor a rendszereket valós körülmények között alkalmazzák. Az MI-rendszerek által nyújtott eredményeket befolyásolják az említett torzulások, amelyek hajlamosak tovább növekedni, és ezáltal állandósítják és felerősítik a meglévő diszkriminációt, különösen a kisebbségi etnikai csoportokhoz tartozó személyek vagy a faji alapon megkülönböztetett közösségek esetében. A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek különösen – a rendeltetésüktől függően szükséges mértékben – figyelembe kell venniük azokat a jellemzőket, tulajdonságokat vagy elemeket, amelyek azon sajátos földrajzi, kontextuális, magatartási vagy funkcionális környezethez vagy kontextushoz kapcsolódnak, amelyben az MI-rendszert használni kívánják. Annak érdekében, hogy megvédjék mások jogát az MI-rendszerek torzulásából eredő megkülönböztetéssel szemben, a szolgáltatóknak kivételesen és az e rendeletben és az (EU) 2016/679 rendeletben, az (EU) 2016/680 irányelvben és az (EU) 2018/1725 rendeletben foglalt valamennyi alkalmazandó feltétel alkalmazását követően képesnek kell lenniük arra, hogy a személyes adatok különleges kategóriáit is kezeljék, jelentős közérdekből, a nagy kockázatú MI-rendszerekkel kapcsolatos torzítás nyomon követésének, észlelésének és korrekciójának biztosítása érdekében. Negatív torzítás alatt olyan torzulás értendő, amely közvetlen vagy közvetett diszkriminatív hatást fejt ki valamely természetes személlyel szemben. Az adatkormányzással kapcsolatos követelmények teljesíthetők olyan harmadik felek igénybevételével, amelyek az adatkormányzás, az adatkészletek integritása, valamint az adatok tanítására, érvényesítésére és tesztelésére szolgáló gyakorlatok ellenőrzését magában foglaló tanúsított megfelelési szolgáltatásokat kínálnak.
(45) A nagy kockázatú MI-rendszerek fejlesztése tekintetében bizonyos szereplőknek, például a szolgáltatóknak, a bejelentett szervezeteknek és más érintett jogalanyoknak, például a digitális innovációs központoknak, a tesztelési–kísérleti létesítményeknek és a kutatóknak lehetőséget kell biztosítani, hogy az e rendelethez kapcsolódó tevékenységi területükön belül hozzáférjenek a kiváló minőségű adatkészletekhez és használják őket. A Bizottság által létrehozott közös európai adatterek, valamint a vállalkozások közötti és a kormányzat felé irányuló, közérdekből történő adatmegosztás megkönnyítése alapvető fontosságúak lesznek ahhoz, hogy megbízható, elszámoltatható és megkülönböztetésmentes hozzáférést lehessen biztosítani az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatokhoz. Az egészségügy terén például az európai egészségügyi adattér megkönnyíti az egészségügyi adatokhoz való megkülönböztetésmentes hozzáférést és a mesterségesintelligencia-algoritmusok ezen adatkészletekre való tanítását a magánéletet védő, biztonságos, időszerű, átlátható és megbízható módon, valamint megfelelő intézményi irányítás mellett. Az adatokhoz való hozzáférést biztosító vagy támogató érintett illetékes hatóságok, beleértve az ágazati hatóságokat is, támogathatják az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatok szolgáltatását is.
(45) A nagy kockázatú MI-rendszerek fejlesztése és értékelése tekintetében bizonyos szereplőknek, például a szolgáltatóknak, a bejelentett szervezeteknek és más érintett jogalanyoknak, például a digitális innovációs központoknak, a tesztelési–kísérleti létesítményeknek és a kutatóknak lehetőséget kell biztosítani, hogy az e rendelethez kapcsolódó tevékenységi területükön belül hozzáférjenek a kiváló minőségű adatkészletekhez és használják őket. A Bizottság által létrehozott közös európai adatterek, valamint a vállalkozások közötti és a kormányzat felé irányuló, közérdekből történő adatmegosztás megkönnyítése alapvető fontosságúak lesznek ahhoz, hogy megbízható, elszámoltatható és megkülönböztetésmentes hozzáférést lehessen biztosítani az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatokhoz. Az egészségügy terén például az európai egészségügyi adattér megkönnyíti az egészségügyi adatokhoz való megkülönböztetésmentes hozzáférést és a mesterségesintelligencia-algoritmusok ezen adatkészletekre való tanítását a magánéletet védő, biztonságos, időszerű, átlátható és megbízható módon, valamint megfelelő intézményi irányítás mellett. Az adatokhoz való hozzáférést biztosító vagy támogató érintett illetékes hatóságok, beleértve az ágazati hatóságokat is, támogathatják az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatok szolgáltatását is.
Módosítás 80 Rendeletre irányuló javaslat 45 a preambulumbekezdés (új)
(45a) A magánélet tiszteletben tartásához és az adatvédelemhez való jogot az MI-rendszer teljes életciklusa során garantálni kell. E tekintetben az adattakarékosság, valamint a beépített és alapértelmezett adatvédelem uniós adatvédelmi jogszabályokban meghatározott elve alapvető fontosságú, ha az adatkezelés jelentős kockázatot jelent az egyének alapvető jogaira nézve. Az MI-rendszerek szolgáltatóinak és felhasználóinak a legkorszerűbb technikai és szervezeti intézkedéseket kell megvalósítaniuk e jogok védelme érdekében. Ezeknek az intézkedéseknek nemcsak az anonimizálást és a titkosítást kell magukban foglalniuk, hanem az egyre inkább elérhető technológia használatát is, amely lehetővé teszi az algoritmusok adatokhoz rendelését, és anélkül szolgál értékes információkkal, hogy az adatokat a feleknek egymás között át kellene adniuk, illetve a nyers vagy strukturált adatokat szükségtelenül másolni kellene.
(46) Az e rendelet szerinti követelményeknek való megfelelés ellenőrzéséhez elengedhetetlen az arra vonatkozó információszerzés, hogy hogyan fejlesztették ki a nagy kockázatú MI-rendszereket, és hogyan működnek teljes életciklusuk során. Ehhez nyilvántartást kell vezetni, és olyan műszaki dokumentációnak kell rendelkezésre állnia, amely tartalmazza az annak értékeléséhez szükséges információkat, hogy az MI-rendszer megfelel-e a vonatkozó követelményeknek. Ezeknek az információknak ki kell terjedniük a rendszer általános jellemzőire, képességeire és korlátaira, algoritmusaira, adataira, tanulási, tesztelési és érvényesítési folyamataira, valamint a vonatkozó kockázatkezelési rendszerrel kapcsolatos dokumentációra. A műszaki dokumentációt naprakészen kell tartani.
(46) Az e rendelet szerinti követelményeknek való megfelelés ellenőrzéséhez elengedhetetlen az arra vonatkozó érthető információszerzés, hogy hogyan fejlesztették ki a nagy kockázatú MI-rendszereket, és hogyan működnek teljes élettartamuk során. Ehhez nyilvántartást kell vezetni, és olyan műszaki dokumentációnak kell rendelkezésre állnia, amely tartalmazza az annak értékeléséhez szükséges információkat, hogy az MI-rendszer megfelel-e a vonatkozó követelményeknek. Ezeknek az információknak ki kell terjedniük a rendszer általános jellemzőire, képességeire és korlátaira, algoritmusaira, adataira, tanulási, tesztelési és érvényesítési folyamataira, valamint a vonatkozó kockázatkezelési rendszerrel kapcsolatos dokumentációra. A műszaki dokumentációt az MI-rendszerek teljes életciklusa alatt megfelelően naprakészen kell tartani. Az MI-rendszerek életciklusuk alatt jelentős környezeti hatással és magas energiafogyasztással járhatnak. Az MI-rendszerek környezetre gyakorolt hatásának jobb megértése érdekében a szolgáltatók által készített műszaki dokumentációnak információkat kell tartalmaznia az MI-rendszer energiafogyasztásáról, beleértve a fejlesztés időtartama alatti fogyasztást és a használat közbeni várható fogyasztást is. Ezen információknak figyelembe kell venniük a vonatkozó uniós és nemzeti jogszabályokat. Ezeknek a bejelentett információknak érthetőnek, összehasonlíthatónak és ellenőrizhetőnek kell lenniük, és e célból a Bizottságnak iránymutatásokat kell kidolgoznia az említett információk kiszámítására és jelentésére vonatkozó harmonizált módszertan tekintetében. Az egységes dokumentáció lehetővé tétele érdekében az előírt dokumentációhoz és a vonatkozó uniós ágazati jogszabályokban előírt valamennyi dokumentációhoz kapcsolódó kifejezéseket és fogalommeghatározásokat a lehető legnagyobb mértékben össze kell hangolni.
Módosítás 82 Rendeletre irányuló javaslat 46 a preambulumbekezdés (új)
(46a) Az MI-rendszereknél az energia- és az erőforrás-felhasználás és a hulladék csökkentése, valamint az MI-rendszerek energiahatékonyságának és a rendszer általános hatékonyságának növelése érdekében figyelembe kell venni a legkorszerűbb módszereket és az alkalmazandó szabványokat. Az MI-rendszerek e rendelet alkalmazásában jelentős környezeti tényezői az MI-rendszer energiafogyasztása a fejlesztési, tanítási és telepítési szakaszban, valamint ezen adatok rögzítése, jelentése és tárolása. Az MI-rendszerek kialakításának lehetővé kell tennie az energia- és erőforrás-fogyasztás mérését és naplózását a fejlesztés, a tanítás és a telepítés minden egyes szakaszában. Az MI-rendszerek kibocsátásával kapcsolatos nyomon követésnek és jelentéstételnek megbízhatónak, átláthatónak, következetesnek és pontosnak kell lennie. E rendelet egységes alkalmazásának, valamint az egységes piacon működő szolgáltatók és alkalmazók stabil jogi ökoszisztémájának biztosítása érdekében a Bizottságnak egységes módszertani előírásokat kell kidolgoznia az energia- és erőforrás-fogyasztásra vonatkozó jelentéstételi és dokumentációs kötelezettség teljesítésére a fejlesztés, a tanítás és a telepítés során. A mérési módszertanra vonatkozó egységes előírások kidolgozhatnak egy olyan alapszintet, amelynek alapján a Bizottság a hatályos jogszabályokat figyelembe vevő hatásvizsgálat elvégzését követően jobban el tudja dönteni, hogy szükség van-e jövőbeli szabályozási beavatkozásokra.
Módosítás 83 Rendeletre irányuló javaslat 46 b preambulumbekezdés (új)
(46b) E rendelet célkitűzéseinek elérése, valamint az Unió környezetvédelmi célkitűzéseihez való – egyúttal a belső piac zavartalan működését is biztosító – hozzájárulás érdekében szükség lehet ajánlások és iránymutatások és végső soron fenntarthatósági célok meghatározására. E célból a Bizottság jogosult módszertant kidolgozni azzal a céllal, hogy hozzájáruljon a fő teljesítménymutatók (KPI-k) és a fenntartható fejlődési célokra vonatkozó referencia meghatározásához. A cél elsődlegesen az MI bevezetésével kapcsolatos döntések tisztességes összehasonlításának lehetővé tétele, ösztönzőket nyújtva a hatékonyabb MI-technológiák használatához, kezelve az energia és az erőforrásokkal kapcsolatos aggályokat. E cél elérése érdekében e rendeletnek biztosítania kell az eszközöket a fejlesztés és a tanítás során keletkező és a telepítéshez szükséges kibocsátásokra vonatkozóan bejelentett adatok referenciagyűjteményének létrehozásához.
Módosítás 84 Rendeletre irányuló javaslat 47 a preambulumbekezdés (új)
(47a) Az átláthatóságra és az MI döntéshozatalának megmagyarázhatóságára vonatkozó említett követelményeknek elő kell segíteniük a digitális aszimmetria, valamint az egyéneket és a tájékoztatáson alapuló beleegyezésüket célzó úgynevezett „sötét megoldások” visszatartó hatásainak ellensúlyozását is.
(49) A nagy kockázatú MI-rendszereknek életciklusuk során következetesen kell működniük, és a technika általánosan elfogadott, mindenkori állásával összhangban megfelelő szintű pontosságot, stabilitást és kiberbiztonságot kell garantálniuk. A pontosság szintjét és a pontossági mérőszámokat közölni kell a felhasználókkal.
(49) A nagy kockázatú MI-rendszereknek életciklusuk során következetesen kell működniük, és a technika általánosan elfogadott, mindenkori állásával összhangban megfelelő szintű pontosságot, stabilitást és kiberbiztonságot kell garantálniuk. A teljesítménymutatókat és azok várható szintjét azzal az elsődleges céllal kell meghatározni, hogy mérsékeljék az MI-rendszer egyénekre és a társadalom egészére gyakorolt kockázatait és negatív hatásait. A teljesítménymutatók várható szintjét világos, átlátható, könnyen érthető és könnyen érthető és értelmezhető módon kell közölni az alkalmazókkal.A teljesítménymutatókra vonatkozó nyilatkozat nem tekinthető a jövőbeli szintek bizonyítékának, de megfelelő módszereket kell alkalmazni az egységes szintek biztosítása érdekében a használat során. Míg a szabványok megállapítására léteznek szabványügyi szervezetek, szükség van a teljesítményértékelés koordinálására is annak meghatározásához, hogy miként kell mérni ezeket a szabványosított követelményeket és az MI-rendszerek jellemzőit. A Mesterséges Intelligenciával Foglalkozó Európai Hivatalnak össze kell fognia a nemzeti és nemzetközi metrológiai és teljesítményértékelési hatóságokat, és nem kötelező erejű iránymutatást kell nyújtania a teljesítmény és a megbízhatóság megfelelő szintjei mérésének technikai szempontjaival kapcsolatban.
(50) A műszaki stabilitás kulcsfontosságú követelmény a nagy kockázatú MI-rendszerek esetében. E rendszereknek reziliensnek kell lenniük a rendszer korlátaihoz kapcsolódó kockázatokkal (pl. hibák, meghibásodások, következetlenségek, váratlan helyzetek), valamint azokkal a rosszindulatú cselekményekkel szemben, amelyek veszélyeztethetik az MI-rendszer biztonságát és káros vagy egyéb nem kívánatos magatartáshoz vezethetnek. Az e kockázatokkal szembeni védelem hiánya biztonsági hatásokkal járhat, vagy negatívan érintheti az alapvető jogokat, például téves döntések vagy az MI-rendszer által generált hibás vagy torzított kimenetek miatt.
(50) A műszaki stabilitás kulcsfontosságú követelmény a nagy kockázatú MI-rendszerek esetében. E rendszereknek reziliensnek kell lenniük a rendszer korlátaihoz kapcsolódó kockázatokkal (pl. hibák, meghibásodások, következetlenségek, váratlan helyzetek), valamint azokkal a rosszindulatú cselekményekkel szemben, amelyek veszélyeztethetik az MI-rendszer biztonságát és káros vagy egyéb nem kívánatos magatartáshoz vezethetnek. Az e kockázatokkal szembeni védelem hiánya biztonsági hatásokkal járhat, vagy negatívan érintheti az alapvető jogokat, például téves döntések vagy az MI-rendszer által generált hibás vagy torzított kimenetek miatt. Az MI-rendszer felhasználóinak lépéseket kell tenniük annak biztosítása érdekében, hogy a stabilitás és a pontosság közötti lehetséges kompromisszum ne vezessen diszkriminatív vagy negatív eredményekhez a kisebbségi alcsoportok számára.
(51) A kiberbiztonság döntő szerepet játszik annak biztosításában, hogy az MI-rendszerek reziliensek legyenek a rendszer sebezhetőségét kihasználó, rosszhiszemű harmadik feleknek a használatuk, viselkedésük, teljesítményük megváltoztatására vagy biztonsági tulajdonságaik veszélyeztetésére irányuló kísérleteivel szemben. Az MI-rendszerek elleni kibertámadások befolyásolhatnak mesterségesintelligencia-specifikus eszközöket, például tanulóadat-készleteket (pl. adatmérgezés) vagy tanított modelleket (pl. ellenséges támadások), vagy kihasználhatják az MI-rendszer digitális eszközeinek vagy az alapul szolgáló IKT-infrastruktúrának a sebezhetőségét. A kockázatoknak megfelelő kiberbiztonsági szint biztosítása érdekében ezért a nagy kockázatú MI-rendszerek szolgáltatóinak megfelelő intézkedéseket kell hozniuk, adott esetben figyelembe véve az alapul szolgáló IKT-infrastruktúrát is.
(51) A kiberbiztonság döntő szerepet játszik annak biztosításában, hogy az MI-rendszerek reziliensek legyenek a rendszer sebezhetőségét kihasználó, rosszhiszemű harmadik feleknek a használatuk, viselkedésük, teljesítményük megváltoztatására vagy biztonsági tulajdonságaik veszélyeztetésére irányuló kísérleteivel szemben. Az MI-rendszerek elleni kibertámadások befolyásolhatnak mesterségesintelligencia-specifikus eszközöket, például tanulóadat-készleteket (pl. adatmérgezés) vagy tanított modelleket (pl. ellenséges támadások vagy bizalmas adatok elleni támadások), vagy kihasználhatják az MI-rendszer digitális eszközeinek vagy az alapul szolgáló IKT-infrastruktúrának a sebezhetőségét. A kockázatoknak megfelelő kiberbiztonsági szint biztosítása érdekében ezért a nagy kockázatú MI-rendszerek szolgáltatóinak, valamint a bejelentett szervezeteknek, a nemzeti illetékes hatóságoknak és a piacfelügyeleti hatóságoknak megfelelő intézkedéseket kell hozniuk, adott esetben figyelembe véve az alapul szolgáló IKT-infrastruktúrát is. A nagy kockázatú MI-hez a termék élettartama alatt – vagy ha az MI nem függ egy adott terméktől, akkor a gyártó által megadandó ideig – biztonsági megoldásokat és javításokat kell mellékelni.
Módosítás 88 Rendeletre irányuló javaslat 53 a preambulumbekezdés (új)
(53a) A fogyatékossággal élő személyek jogairól szóló ENSZ-egyezmény (UNCRPD) aláíróiként az Európai Unió és a tagállamok jogi kötelezettséget viselnek azért, hogy megvédjék a fogyatékossággal élő személyeket a megkülönböztetéssel szemben, és előmozdítsák egyenlőségüket, biztosítsák, hogy a fogyatékossággal élő személyek másokkal egyenlő alapon hozzáférjenek az információs és kommunikációs technológiákhoz és rendszerekhez, és biztosítsák a fogyatékossággal élő személyek magánéletének tiszteletben tartását. Tekintettel az MI-rendszerek növekvő jelentőségére és használatára, az egyetemes tervezés elveinek minden új technológiára és szolgáltatásra való alkalmazásának az MI-technológiák által potenciálisan érintett vagy azt használó minden személy – többek között a fogyatékossággal élők – számára biztosítania kell a teljes körű, egyenlő és korlátlan hozzáférést oly módon, hogy az teljes mértékben figyelembe vegye veleszületett méltóságukat és sokféleségüket. Ezért alapvető fontosságú, hogy a szolgáltatók biztosítsák az akadálymentességi követelményeknek, többek között az (EU) 2016/2102 irányelvnek és az (EU) 2019/882 irányelvnek való maradéktalan megfelelést. A szolgáltatóknak biztosítaniuk kell az e követelményeknek való, kialakítás általi beépített megfelelést. Ezért a szükséges intézkedéseket a lehető legnagyobb mértékben be kell építeni a nagy kockázatú MI-rendszer kialakításába.
(54) A szolgáltatónak megbízható minőségirányítási rendszert kell létrehoznia, biztosítania kell az előírt megfelelőségértékelési eljárás elvégzését, el kell készítenie a vonatkozó dokumentációt, és létre kell hoznia egy stabil, forgalomba hozatal utáni nyomonkövetési rendszert. A nagy kockázatú MI-rendszereket saját használatra üzembe helyező hatóságok a minőségirányítási rendszerre vonatkozó szabályokat elfogadhatják és végrehajthatják a nemzeti vagy adott esetben regionális szinten elfogadott minőségirányítási rendszer részeként, figyelembe véve az ágazat sajátosságait, valamint a szóban forgó hatóság hatásköreit és szervezetét.
(54) A szolgáltatónak megbízható minőségirányítási rendszert kell létrehoznia, biztosítania kell az előírt megfelelőségértékelési eljárás elvégzését, el kell készítenie a vonatkozó dokumentációt, és létre kell hoznia egy stabil, forgalomba hozatal utáni nyomonkövetési rendszert. Azon szolgáltatók számára, amelyek már rendelkeznek szabványokon, például az ISO 9001 szabványon vagy más vonatkozó szabványokon alapuló minőségirányítási rendszerrel, nem várható el teljes körű párhuzamos minőségirányítási rendszer, hanem meglévő rendszereiket kell az e rendelet konkrét követelményeinek való megfeleléshez kapcsolódó egyes szempontokhoz igazítaniuk. Ennek a jövőbeli szabványosítási tevékenységekben vagy a Bizottság által e tekintetben elfogadott iránymutatásokban is tükröződnie kell. A nagy kockázatú MI-rendszereket saját használatra üzembe helyező hatóságok a minőségirányítási rendszerre vonatkozó szabályokat elfogadhatják és végrehajthatják a nemzeti vagy adott esetben regionális szinten elfogadott minőségirányítási rendszer részeként, figyelembe véve az ágazat sajátosságait, valamint a szóban forgó hatóság hatásköreit és szervezetét.
(56) E rendelet végrehajtásának lehetővé tétele és az üzemeltetők számára egyenlő versenyfeltételek megteremtése érdekében, valamint figyelembe véve a digitális termékek rendelkezésre bocsátásának különböző formáit, fontos annak biztosítása, hogy az Unióban letelepedett személyek minden körülmények között megadhassák a hatóságoknak az MI-rendszerek megfelelőségével kapcsolatos összes szükséges információt. Ezért MI-rendszereiknek az Unióban való rendelkezésre bocsátását megelőzően, amennyiben az importőr nem azonosítható, az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással ki kell nevezzenek egy, az Unióban letelepedett meghatalmazott képviselőt.
(56) E rendelet végrehajtásának lehetővé tétele és az üzemeltetők számára egyenlő versenyfeltételek megteremtése érdekében, valamint figyelembe véve a digitális termékek rendelkezésre bocsátásának különböző formáit, fontos annak biztosítása, hogy az Unióban letelepedett személyek minden körülmények között megadhassák a hatóságoknak az MI-rendszerek megfelelőségével kapcsolatos összes szükséges információt. Ezért MI-rendszereiknek az Unióban való rendelkezésre bocsátását megelőzően az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással ki kell nevezzenek egy, az Unióban letelepedett meghatalmazott képviselőt.
(58) Tekintettel az MI-rendszerek jellegére, valamint az esetlegesen a használatukkal összefüggésben a biztonságot és az alapvető jogokat érintően felmerülő kockázatokra, ideértve azt is, hogy biztosítani kell az MI-rendszer teljesítményének valós körülmények között történő, megfelelő nyomon követését, helyénvaló konkrét kötelezettségeket meghatározni a felhasználók számára. Különösen fontos, hogy a felhasználók a használati utasításokkal összhangban használják a nagy kockázatú MI-rendszereket, és bizonyos egyéb kötelezettségeket is elő kell írni az MI-rendszerek működésének nyomon követésére és adott esetben a nyilvántartás vezetésére vonatkozóan.
(58) Tekintettel az MI-rendszerek jellegére, valamint az esetlegesen a használatukkal összefüggésben a biztonságot és az alapvető jogokat érintően felmerülő kockázatokra, ideértve azt is, hogy biztosítani kell az MI-rendszer teljesítményének valós körülmények között történő, megfelelő nyomon követését, helyénvaló konkrét kötelezettségeket meghatározni az alkalmazók számára. Különösen fontos, hogy az alkalmazók a használati utasításokkal összhangban használják a nagy kockázatú MI-rendszereket, és bizonyos egyéb kötelezettségeket is elő kell írni az MI-rendszerek működésének nyomon követésére és adott esetben a nyilvántartás vezetésére vonatkozóan.
Módosítás 92 Rendeletre irányuló javaslat 58 a preambulumbekezdés (új)
(58a) Az MI-rendszerekkel kapcsolatos kockázatok keletkezhetnek egyrészt az ilyen rendszerek kialakításának módjából, másrészt származhatnak abból is, ahogyan az MI-rendszereket használják. A nagy kockázatú MI-rendszerek alkalmazói ezért kritikus szerepet játszanak az alapvető jogok védelmében, kiegészítve az MI-rendszer fejlesztése során a szolgáltatóra háruló kötelezettségeket . Helyzetüknél fogva az alkalmazók képesek a legjobban megérteni, hogy konkrétan hogyan használják majd a nagy kockázatú MI-rendszert, és ezért azonosítani tudják a fejlesztési szakaszban előre nem látott potenciális jelentős kockázatokat, mivel pontosabban ismerik a felhasználás körülményeit, a valószínűsíthetően érintett személyeket vagy személyek csoportjait, köztük a marginalizált és kiszolgáltatott csoportokat. Az alkalmazóknak megfelelő irányítási struktúrákat – például az emberi felügyeletre, a panaszkezelési eljárásokra és a jogorvoslati eljárásokra vonatkozó rendelkezéseket – kell meghatározniuk a használat adott konkrét összefüggésében, mivel az irányítási struktúrákban hozott döntések fontos szerepet játszhatnak abban, hogy konkrét felhasználási esetekben csökkentsék az alapvető jogokat fenyegető kockázatokat. Az alapvető jogok védelmének hatékony biztosítása érdekében a nagy kockázatú MI-rendszerek alkalmazójának tehát alapjogi hatásvizsgálatot kell végeznie az alkalmazás megkezdése előtt. A hatásvizsgálatot részletes tervnek kell kísérnie, amely ismerteti az alapvető jogokat érintő, legkésőbb az alkalmazás megkezdésének időpontjától kezdve azonosított kockázatok mérséklését elősegítő intézkedéseket vagy eszközöket. Ha ilyen terv nem határozható meg, az alkalmazónak tartózkodnia kell a rendszer alkalmazásának megkezdésétől. Az említett hatásvizsgálat elvégzésekor az alkalmazónak értesítenie kell a nemzeti felügyeleti hatóságot és – a lehető legnagyobb mértékben – az érintett érdekelt feleket, valamint az MI-rendszer által valószínűsíthetően érintett személyek csoportjainak képviselőit annak érdekében, hogy összegyűjtse a hatásvizsgálat elvégzéséhez szükségesnek ítélt lényeges információkat, és ösztönzést kap arra, hogy az alapjogi hatásvizsgálata összefoglalóját tegye nyilvánosan hozzáférhetővé internetes honlapján. Ezek a kötelezettségek nem alkalmazandók azokra a kkv-kra, amelyek erőforrások hiányában nehézségekbe ütközhetnek e konzultáció végrehajtása során. Mindazonáltal nekik is törekedniük kell az említett képviselők bevonására alapjogi hatásvizsgálatuk elvégzése során. Emellett a lehetséges hatásra és a demokratikus felügyelet és ellenőrzés szükségességére való tekintettel a nagy kockázatú MI-rendszerek azon alkalmazói számára, amelyek hatóságok vagy uniós intézmények, szervek, hivatalok és ügynökségek, valamint az (EU) 2022/1925 rendelet értelmében kapuőrnek minősülő alkalmazók, elő kell írni a nagy kockázatú MI-rendszer használatának nyilvános adatbázisban való regisztrálását. Más alkalmazók számára a regisztráció önkéntes.
(59) Helyénvaló előirányozni, hogy az MI-rendszer felhasználója az a természetes vagy jogi személy, hatóság, ügynökség vagy más szerv legyen, amelynek felügyelete alatt az MI-rendszert működtetik, kivéve, ha a használatra személyes, nem szakmai jellegű tevékenység keretében kerül sor.
(59) Helyénvaló előirányozni, hogy az MI-rendszer alkalmazója az a természetes vagy jogi személy, hatóság, ügynökség vagy más szerv legyen, amelynek felügyelete alatt az MI-rendszert működtetik, kivéve, ha a használatra személyes, nem szakmai jellegű tevékenység keretében kerül sor.
(60) Az MI-értéklánc összetettségére tekintettel az érintett harmadik feleknek, különösen a szoftverek, szoftvereszközök és -összetevők, előtanított modellek és adatok értékesítésében és beszállításában részt vevő harmadik feleknek, illetve a hálózati szolgáltatóknak adott esetben együtt kell működniük egyrészt a szolgáltatókkal és a felhasználókkal annak érdekében, hogy lehetővé tegyék számukra az e rendelet szerinti kötelezettségeknek való megfelelést, másrészt az e rendelet alapján létrehozott illetékes hatóságokkal.
(60) Az MI-értékláncon belül több szervezet is gyakran nyújt olyan eszközöket és szolgáltatásokat, emellett pedig olyan összetevőket vagy folyamatokat, amelyeket a szolgáltató ezt követően beépít az MI-rendszerbe, többek között az adatgyűjtéssel és -előfeldolgozással, a modellek tanításával, a modellek újratanításával, a modellek tesztelésével és értékelésével, a szoftverbe való integrálással vagy a modellfejlesztés egyéb szempontjaival kapcsolatban. Az érintett szervezetek közvetlenül vagy közvetve kereskedelmileg hozzáférhetővé tehetik kínálatukat interfészeken, például alkalmazásprogramozási interfészeken (API) keresztül, és terjeszthetik azt szabad és nyílt forráskódú licencek alapján, de egyre gyakrabban MI-munkaerőplatformok, a tanított paraméterek viszonteladása, modellek építésére szolgáló „csináld magad készletek” keretében, vagy a modellek fejlesztését és tanítását lehetővé tevő modellkiszolgáló architektúrához való, fizetés ellenében nyújtott hozzáférést kínálva. Az MI-értéklánc ezen összetettségére tekintettel minden érintett harmadik félnek, különösen a szoftvereszközök és -összetevők, előtanított modellek vagy az MI-rendszerbe épített adatok fejlesztésében, értékesítésében és kereskedelmi szállításában részt vevő harmadik feleknek, illetve a hálózati szolgáltatóknak saját szellemitulajdon-jogaik vagy üzleti titkaik veszélyeztetése nélkül rendelkezésre kell bocsátaniuk a szükséges információkat, képzést vagy szakértelmet, és együtt kell működniük a szolgáltatókkal annak érdekében, hogy lehetővé tegyék számukra, hogy ellenőrzést gyakoroljanak az MI-rendszer megfelelés szempontjából releváns, e rendelet hatálya alá tartozó valamennyi szempontja felett.Az MI-értéklánc költséghatékony irányításának lehetővé tétele érdekében minden olyan harmadik félnek egyértelműen közzé kell tennie az ellenőrzés szintjét, amely olyan eszközt, szolgáltatást, komponenst vagy folyamatot biztosít szolgáltató számára, amelyet az később beépít az MI-rendszerbe.
Módosítás 95 Rendeletre irányuló javaslat 60 a preambulumbekezdés (új)
(60a) Amennyiben a felek egyike erősebb alkupozícióban van, fennáll a kockázat, hogy a másik szerződő fél kárára kihasználhatja ezt a pozíciót a magas kockázatú MI-rendszerben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállításáról, illetve a kapcsolódó kötelezettségek megsértése vagy megszűnése esetén fennálló jogorvoslatokról folytatott tárgyalások során. A szerződő felek közötti ilyen egyensúlytalanságok különösen hátrányosan érintik a mikro-, kis- és középvállalkozásokat, valamint az induló innovatív vállalkozásokat, kivéve, ha azok olyan vállalkozás tulajdonában vannak vagy olyan vállalkozás alvállalkozói, amely képes megfelelően kompenzálni őket, mivel képtelenek érdemben tárgyalni a szerződéses megállapodás feltételeiről, és nincs más választásuk, mint hogy elfogadják a megszabott szerződési feltételeket. Ezért indokolt, hogy a magas kockázatú MI-rendszerekben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállítását, illetve a kapcsolódó kötelezettségek megszegése vagy megszűnése esetén fennálló jogorvoslatokat szabályozó tisztességtelen szerződési feltételek ne legyenek kötelező erejűek az ilyen mikro-, kis- vagy középvállalkozásokra és induló innovatív vállalkozásokra, amennyiben azokat egyoldalúan kényszerítették rájuk.
Módosítás 96 Rendeletre irányuló javaslat 60 b preambulumbekezdés (új)
(60b) A szerződési feltételekre vonatkozó szabályoknak figyelembe kell venniük a szerződési szabadság elvét, amely alapvető fogalom a vállalkozások közötti kapcsolatokban. Ezért nem minden szerződési feltételt kell méltányosság hiányát megállapító tesztnek alávetni, hanem csak a mikro-, kis- és középvállalkozásokkal vagy induló innovatív vállalkozásokkal szemben egyoldalúan kikényszerített feltételeket. Ez olyan adott helyzetekre vonatkozik, amikor az egyik fél előír egy bizonyos szerződési feltételt, ám a mikro-, kis- vagy középvállalkozás vagy induló innovatív vállalkozás egyezkedési próbálkozásai ellenére sem tudja befolyásolni e feltétel tartalmát. Az egyik fél által egyszerűen előírt és a mikro-, kis- vagy középvállalkozás vagy induló innovatív vállalkozás által elfogadott szerződési feltétel, illetve a szerződő felek által megtárgyalt, majd később módosításokkal elfogadott szerződési feltétel nem tekinthető egyoldalúan kikényszerített feltételnek.
Módosítás 97 Rendeletre irányuló javaslat 60 c preambulumbekezdés (új)
(60c) Továbbá a tisztességtelen szerződési feltételekre vonatkozó szabályok kizárólag a szerződés azon elemeire alkalmazandók, amelyek a nagy kockázatú MI-rendszerben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállításához, illetve a kapcsolódó kötelezettségek megszegése vagy megszűnése esetén fennálló jogorvoslatokhoz kapcsolódnak. Ugyanazon szerződés más, az említett elemekhez nem kapcsolódó részeit nem lehet az e rendeletben meghatározott, méltányosság hiányát megállapító teszt alá vonni.
Módosítás 98 Rendeletre irányuló javaslat 60 d preambulumbekezdés (új)
(60d) A tisztességtelen szerződési feltételek azonosítására szolgáló kritériumokat csak a túlzott szerződési feltételekre kell alkalmazni, amennyiben az egyik fél visszaél erősebb alkupozíciójával. A vállalkozások közötti szerződésekben szokásos feltételeket is ideértve, az egyik fél számára üzletileg kedvezőbb szerződési feltételek túlnyomó többsége a szerződési szabadság elvének szokásos megnyilvánulása, és továbbra is alkalmazandó. Ha egy szerződési feltétel nem szerepel azon feltételek felsorolásában, amelyek mindig tisztességtelennek minősülnek, a tisztességtelen jellegre vonatkozó általános rendelkezést kell alkalmazni. E tekintetben a tisztességtelen feltételként felsorolt feltételeknek mérceként kell szolgálniuk a tisztességtelen jellegre vonatkozó általános rendelkezés értelmezéséhez.
Módosítás 99 Rendeletre irányuló javaslat 60 e preambulumbekezdés (új)
(60e) Közelmúltbeli fejleményt képviselnek az alapmodellek, amelyek esetében az MI-modelleket általános jellegű és sokoldalú kimenetre való optimalizálásra tervezett algoritmusokból fejlesztik. Ezeket a modelleket gyakran adatforrások széles körén és nagy mennyiségű adaton tanítják downstream feladatok széles körének ellátására, beleértve olyan feladatokat is, amelyekre nem kifejezetten tervezték vagy tanították azokat. Az alapmodell lehet unimodális vagy multimodális, tanítása különböző módszerekkel, például ellenőrzött tanulással vagy megerősítéses tanulással történhet. Az alapmodell megvalósításai lehetnek speciális rendeltetésű vagy általános célú MI-rendszerek, ami azt jelenti, hogy minden egyes alapmodellt számtalan downstream MI-rendszerben vagy általános célú MI-rendszerben fel lehet újra használni. E modellek jelentősége egyre növekszik számos downstream alkalmazásban és rendszerben.
Módosítás 100 Rendeletre irányuló javaslat 60 f preambulumbekezdés (új)
(60f) A szolgáltatásként – például API-hozzáférés révén – nyújtott alapmodellek esetében a megfelelő kockázatcsökkentés lehetővé tétele érdekében a downstream szolgáltatókkal folytatott együttműködésnek ki kell terjednie a szolgáltatás nyújtásának és támogatásának teljes időtartamára, kivéve, ha az alapmodell szolgáltatója átadja a tanítási modellt, valamint az adatkészletekre és a rendszer fejlesztési folyamatára vonatkozó széles körű és megfelelő információkat, vagy korlátozza a szolgáltatást, például az API-hozzáférést oly módon, hogy a downstream szolgáltató az alapmodell eredeti szolgáltatójának további támogatása nélkül képes legyen teljes mértékben megfelelni e rendeletnek.
Módosítás 101 Rendeletre irányuló javaslat 60 g preambulumbekezdés (új)
(60g) Tekintettel az MI-rendszer értékláncának jellegére és összetettségére, alapvető fontosságú tisztázni azon szereplők szerepét, akik hozzájárulnak az MI-rendszerek fejlesztéséhez. Jelentős bizonytalanság övezi az alapmodellek jövőbeli fejlődését, mind a modellek tipológiája, mind az önszabályozás tekintetében. Ezért alapvető fontosságú tisztázni az alapmodellek szolgáltatóinak jogi helyzetét. Összetettségüket és nem várt hatásukat, valamint a downstream MI-szolgáltató alapmodell fejlesztése feletti ellenőrzésének hiányát és az ebből eredő kiegyensúlyozatlan erőviszonyokat figyelembe véve, valamint a felelősségi köröknek az MI-értékláncon belüli méltányos megosztásának biztosítása érdekében az ilyen modellekre arányos és részletesebb követelményeknek kell vonatkozniuk e rendelet értelmében, nevezetesen az alapmodelleknek megfelelő tervezés, tesztelés és elemzés révén értékelniük és csökkenteniük kell a lehetséges kockázatokat és károkat, adatkormányzási intézkedéseket kell végrehajtaniuk, beleértve a torzítások értékelését is, és a teljesítmény, a kiszámíthatóság, az értelmezhetőség, a korrigálhatóság, a biztonság és a kiberbiztonság megfelelő szintjének biztosítása érdekében műszaki tervezési követelményeknek kell megfelelniük, és környezetvédelmi előírásoknak kell eleget tenniük. Ezeket a kötelezettségeket szabványoknak kell kísérniük. Az alapmodelleknek emellett tájékoztatási kötelezettséggel kell rendelkezniük, és minden szükséges műszaki dokumentációt elő kell készíteni a potenciális downstream szolgáltatók számára ahhoz, hogy eleget tudjanak tenni az e rendelet szerinti kötelezettségeiknek. A generatív alapmodelleknek biztosítaniuk kell annak átláthatóságát, hogy a tartalmat nem ember, hanem MI-rendszer állítja elő. Ezek a részletes követelmények és kötelezettségek nem jelentik azt, hogy az alapmodellek magas kockázatú MI-rendszereknek tekintendők, de garantálniuk kell e rendelet azon célkitűzéseinek elérését, hogy biztosítsák az alapvető jogok, az egészség és a biztonság, a környezet, a demokrácia és a jogállamiság magas szintű védelmét. A szűkebb, kevésbé általános, korlátozott alkalmazási körre kifejlesztett, előtanított modellek, például az egyszerű többcélú MI-rendszerek, amelyek nem igazíthatók hozzá feladatok széles köréhez, e rendelet alkalmazásában nem tekinthetők alapmodellnek, mivel jobban értelmezhetők, ami kevésbé kiszámíthatatlanná teszi viselkedésüket.
Módosítás 102 Rendeletre irányuló javaslat 60 h preambulumbekezdés (új)
(60h) Az alapmodellek jellegéből adódóan a megfelelőségértékeléssel kapcsolatos szakértelem egyelőre hiányos, és a harmadik fél által végzett ellenőrzési módszerek még fejlesztés alatt állnak. Az ágazat ezért maga is új módszereket dolgoz ki azon alapvető modellek értékelésére, amelyek részben teljesítik az ellenőrzés célját (ilyen például a modellértékelés, a vörös csapat gyakorlatok vagy a gépi tanulásra vonatkozó ellenőrzési és érvényesítési technikák). Az alapmodellekre vonatkozó említett belső értékeléseknek az ilyen modellekre jellemző kockázatok kezelése érdekében széles körben alkalmazhatónak kell lenniük (pl. az értékesítési csatornáktól, a módozattól és a fejlesztési módszerektől függetlenül), figyelembe véve az iparág legkorszerűbb gyakorlatait, és a modell megfelelő műszaki megértésére és a felette gyakorolt ellenőrzésre, valamint a modell megfelelő eszközök – például független értékelők bevonása – révén történő átfogó elemzésére és tesztelésére kell összpontosítaniuk. Mivel az alapmodellek új és gyorsan változó fejleményt képviselnek a mesterséges intelligencia területén, helyénvaló, hogy a Bizottság és az MI-hivatal nyomon kövesse és rendszeres időközönként értékelje az ilyen modellekre és különösen az ilyen modelleken alapuló – az uniós jogot, a szerzői jogi szabályokat és az esetleges visszaéléseket sértő tartalomgenerálással kapcsolatban jelentős kérdéseket felvető – generatív MI-rendszerekre vonatkozó jogszabályi és irányítási keretet. Egyértelművé kell tenni, hogy ez a rendelet nem sértheti a szerzői és szomszédos jogokra vonatkozó uniós jogot, beleértve a 2001/29/EK, a 2004/48/EK és az (EU) 2019/790 európai parlamenti és tanácsi irányelvet.
(61) A szabványosításnak kulcsszerepet kell játszania abban, hogy az e rendeletnek való megfelelés biztosítására megfelelő műszaki megoldások álljanak a szolgáltatók rendelkezésére. A szolgáltatók az 1025/2012/EU európai parlamenti és tanácsi rendeletben54 meghatározott harmonizált szabványoknak való megfelelés révén bizonyíthatják az e rendelet követelményeinek való megfelelést. A Bizottság azonban egységes műszaki előírásokat fogadhatna el azokon a területeken, ahol nincsenek harmonizált szabványok, vagy ahol azok nem elégségesek.
(61) A szabványosításnak kulcsszerepet kell játszania abban, hogy az e rendeletnek való megfelelés biztosítására megfelelő műszaki megoldások álljanak a szolgáltatók rendelkezésére. A szolgáltatók az 1025/2012/EU európai parlamenti és tanácsi rendeletben54 meghatározott harmonizált szabványoknak való megfelelés révén bizonyíthatják az e rendelet követelményeinek való megfelelést. A szabványok mint uniós szakpolitikai eszközök hatékonyságának biztosítása érdekében, valamint figyelembe véve a szabványok fontosságát az e rendeletben foglalt követelményeknek való megfelelés biztosítása és a vállalkozások versenyképessége szempontjából, valamennyi érintett érdekelt fél szabványok kidolgozásába való bevonása révén biztosítani kell az érdekek kiegyensúlyozott képviseletét.A szabványosítási folyamatnak átláthatónak kell lennie a szabványosítási tevékenységekben részt vevő jogi és természetes személyek vonatkozásában.
__________________
__________________
54 Az Európai Parlament és a Tanács 1025/2012/EU rendelete (2012. október 25.) az európai szabványosításról, a 89/686/EGK és a 93/15/EGK tanácsi irányelv, a 94/9/EK, a 94/25/EK, a 95/16/EK, a 97/23/EK, a 98/34/EK, a 2004/22/EK, a 2007/23/EK, a 2009/23/EK és a 2009/105/EK európai parlamenti és tanácsi irányelv módosításáról, valamint a 87/95/EGK tanácsi határozat és az 1673/2006/EK európai parlamenti és tanácsi határozat hatályon kívül helyezéséről (HL L 316., 2012.11.14., 12. o.).
54 Az Európai Parlament és a Tanács 1025/2012/EU rendelete (2012. október 25.) az európai szabványosításról, a 89/686/EGK és a 93/15/EGK tanácsi irányelv, a 94/9/EK, a 94/25/EK, a 95/16/EK, a 97/23/EK, a 98/34/EK, a 2004/22/EK, a 2007/23/EK, a 2009/23/EK és a 2009/105/EK európai parlamenti és tanácsi irányelv módosításáról, valamint a 87/95/EGK tanácsi határozat és az 1673/2006/EK európai parlamenti és tanácsi határozat hatályon kívül helyezéséről (HL L 316., 2012.11.14., 12. o.).
Módosítás 104 Rendeletre irányuló javaslat 61 a preambulumbekezdés (új)
(61a) A megfelelés megkönnyítése érdekében a Bizottságnak legkésőbb két hónappal e rendelet hatálybalépését követően ki kell adnia az első szabványosítási kérelmeket. Ennek a jogbiztonság javítását kell szolgálnia, ezáltal előmozdítva a mesterséges intelligencia területén a beruházásokat és innovációt, valamint az uniós piac versenyképességét és növekedését, egyúttal erősítve az összes érintett európai érdekelt felet – például az MI-hivatalt, az európai szabványügyi szervezeteket és a vonatkozó ágazati uniós jog alapján létrehozott szerveket vagy szakértői csoportokat, valamint az ipart, a kkv-kat, az induló innovatív vállalkozásokat, a civil társadalmat, a kutatókat és a szociális partnereket – képviselő, többszereplős irányítást, és végső soron az uniós értékekkel összhangban elősegítve a szabványosítással kapcsolatos globális együttműködést a mesterséges intelligencia területén. A szabványosítási kérelem elkészítésekor a Bizottságnak a megfelelő szakértelem összegyűjtése érdekében konzultálnia kell az MI-hivatallal és a mesterséges intelligenciával foglalkozó tanácsadó fórummal.
Módosítás 105 Rendeletre irányuló javaslat 61 b preambulumbekezdés (új)
(61b) Ha az MI-rendszereket munkahelyeken kívánják alkalmazni, a harmonizált szabványoknak a műszaki előírásokra és eljárásokra kell korlátozódniuk.
Módosítás 106 Rendeletre irányuló javaslat 61 c preambulumbekezdés (új)
(61c) A Bizottság számára lehetővé kell tenni, hogy bizonyos feltételek mellett – amennyiben nem létezik vonatkozó harmonizált szabvány – egységes előírásokat fogadjon el, vagy kezelje az alapvető jogokkal kapcsolatos konkrét aggályokat. A teljes szövegezési folyamat során a Bizottságnak rendszeresen konzultálnia kell az MI-hivatallal és annak tanácsadó fórumával, az európai szabványügyi szervezetekkel és a vonatkozó uniós ágazati jog alapján létrehozott érintett szervekkel vagy szakértői csoportokkal, valamint az érdekelt felekkel, például az iparral, a kkv-kkal, az induló innovatív vállalkozásokkal, a civil társadalommal, a kutatókkal és a szociális partnerekkel.
Módosítás 107 Rendeletre irányuló javaslat 61 d preambulumbekezdés (új)
(61d) Az egységes előírások elfogadásakor a Bizottságnak törekednie kell az MI szabályozásának összehangolására a hasonló gondolkodású globális partnerekkel, ami kulcsfontosságú az innováció és a határokon átnyúló partnerségek előmozdítása szempontjából a mesterséges intelligencia területén, mivel a nemzetközi szabványügyi testületekben működő hasonló gondolkodású partnerekkel való koordináció rendkívül fontos.
(62) A nagy kockázatú MI-rendszerek magas szintű megbízhatóságának biztosítása érdekében ezeket a rendszereket forgalomba hozataluk vagy üzembe helyezésük előtt megfelelőségértékelésnek kell alávetni.
(62) A nagy kockázatú MI-rendszerek magas szintű megbízhatóságának biztosítása érdekében ezeket a rendszereket forgalomba hozataluk vagy üzembe helyezésük előtt megfelelőségértékelésnek kell alávetni. Az értéklánc iránti bizalom növelése érdekében, és hogy a vállalkozások bizonyosságot szerezzenek rendszereik teljesítményével kapcsolatban, az MI-összetevőket szállító harmadik felek önkéntes alapon kérhetnek harmadik fél által végzett megfelelőségértékelést.
(64) Tekintettel a forgalomba hozatal előtti tanúsítást végző szakemberek által a termékbiztonság területén szerzett kiterjedtebb tapasztalatra és a felmerülő kockázatok eltérő jellegére, helyénvaló – legalább e rendelet alkalmazásának kezdeti szakaszában – korlátozni a harmadik fél által végzett megfelelőségértékelés alkalmazási körét a nem termékekhez kapcsolódó nagy kockázatú MI-rendszerek esetében. Ezért az ilyen rendszerek megfelelőségértékelését főszabályként a szolgáltatónak kell elvégeznie saját felelősségére, kivéve a személyek távoli biometrikus azonosítására használni tervezett MI-rendszereket, amelyek esetében elő kell írni, hogy egy bejelentett szervezet vegyen részt a megfelelőségértékelésben, amennyiben e rendszerek nem tiltottak.
(64) Tekintettel a nagy kockázatú MI-rendszerek összetett voltára és a hozzájuk kapcsolódó kockázatokra, alapvető fontosságú, hogy megfelelőbb kapacitás épüljön ki a nagy kockázatú MI-rendszerek harmadik fél általi megfelelőségértékelésének alkalmazására. Tekintettel ugyanakkor a forgalomba hozatal előtti tanúsítást végző szakemberek által a termékbiztonság területén szerzett jelenlegi tapasztalatra és a felmerülő kockázatok eltérő jellegére, helyénvaló – legalább e rendelet alkalmazásának kezdeti szakaszában – korlátozni a harmadik fél által végzett megfelelőségértékelés alkalmazási körét a nem termékekhez kapcsolódó nagy kockázatú MI-rendszerek esetében. Ezért az ilyen rendszerek megfelelőségértékelését főszabályként a szolgáltatónak kell elvégeznie saját felelősségére, kivéve a személyek távoli biometrikus azonosítására használni tervezett MI-rendszereket, illetve a természetes személyek személyes jellemzőire vonatkozó, biometrikus vagy biometrikus alapú adatokon alapuló következtetések levonására szánt MI-rendszereket – beleértve az érzelemfelismerő rendszereket –, amelyek esetében elő kell írni, hogy egy bejelentett szervezet vegyen részt a megfelelőségértékelésben, amennyiben e rendszerek nem tiltottak.
(65) A személyek távoli biometrikus azonosítására használni tervezett MI-rendszerek harmadik fél általi megfelelőségértékelésének elvégzése érdekében a nemzeti illetékes hatóságoknak e rendelet alapján ki kell jelölniük bejelentett szervezeteket, feltéve hogy azok megfelelnek bizonyos, nevezetesen a függetlenségre, a szakértelemre és az összeférhetetlenség hiányára vonatkozó követelményeknek.
(65) A harmadik fél általi megfelelőségértékelések kérésre történő elvégzése érdekében a nemzeti illetékes hatóságoknak e rendelet alapján ki kell jelölniük bejelentett szervezeteket, feltéve hogy azok megfelelnek bizonyos, nevezetesen a függetlenségre, a szakértelemre, az összeférhetetlenség hiányára vonatkozó követelményeknek és kiberbiztonsági minimumkövetelményeknek.A tagállamoknak ösztönözniük kell megfelelő számú megfelelőségértékelő szervezet kijelölését annak érdekében, hogy a tanúsítás kellő időben megvalósítható legyen. A megfelelőségértékelő szervezetek értékelésére, kijelölésére, bejelentésére és nyomon követésére vonatkozó eljárásokat az adminisztratív akadályok felszámolása és az egységes piacban rejlő lehetőségek kibontakoztatása érdekében a lehető legegységesebb módon kell végrehajtani a tagállamokban.
Módosítás 111 Rendeletre irányuló javaslat 65 a preambulumbekezdés (új)
(65a) A Kereskedelmi Világszervezetnek a kereskedelem technikai akadályairól szóló megállapodása szerinti uniós kötelezettségvállalásokkal összhangban helyénvaló az illetékes megfelelőségértékelő szervezetek által előállított teszteredmények minél szélesebb körű elfogadásának biztosítása, függetlenül e szervezetek letelepedési helyétől, amennyiben azok a rendelet alkalmazandó követelményeinek való megfelelés igazolásához szükségesek. A Bizottságnak e célból aktívan fel kell tárnia a lehetséges nemzetközi eszközöket, és különösen törekednie kell kölcsönös elismerési megállapodások megkötésére olyan országokkal, amelyek hasonló műszaki fejlettségi szinten állnak, és összeegyeztethető megközelítést alkalmaznak a mesterséges intelligencia és a megfelelőségértékelés tekintetében.
(66) Az uniós harmonizációs jogszabályok által szabályozott termékek jelentős módosításának általánosan elfogadott fogalmával összhangban helyénvaló, hogy az MI-rendszereket új megfelelőségértékelésnek vessék alá, valahányszor olyan változás következik be, amely befolyásolhatja a rendszer e rendeletnek való megfelelését, vagy amikor a rendszer rendeltetése megváltozik. Ezen túlmenően azon MI-rendszerek tekintetében, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is „tanulnak” (azaz automatikusan kiigazítják a funkciók ellátását), szabályokat kell előírni, amelyek megállapítják, hogy az algoritmusnak és a teljesítményének a szolgáltató által előre meghatározott és a megfelelőségértékelés időpontjában értékelt módosítása nem minősül jelentős módosításnak.
(66) Az uniós harmonizációs jogszabályok által szabályozott termékek jelentős módosításának általánosan elfogadott fogalmával összhangban helyénvaló, hogy a nagy kockázatú MI-rendszereket új megfelelőségértékelésnek vessék alá, valahányszor olyan nem tervezett változás következik be, amely meghaladja a szolgáltató által végrehajtott, ellenőrzött és előre meghatározott változtatásokat, beleértve a folyamatos tanulást, és amely új, elfogadhatatlan kockázatot teremthet, és jelentős mértékben befolyásolhatja a nagy kockázatú MI-rendszer e rendeletnek való megfelelését, vagy amikor a rendszer rendeltetése megváltozik. Ezen túlmenően azon MI-rendszerek tekintetében, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is „tanulnak” (azaz automatikusan kiigazítják a funkciók ellátását), szabályokat kell előírni, amelyek megállapítják, hogy az algoritmusnak és a teljesítményének a szolgáltató által előre meghatározott és a megfelelőségértékelés időpontjában értékelt módosítása nem minősül jelentős módosításnak. Ugyanez vonatkozik az MI-rendszer általában biztonsági okokból, valamint a rendszer manipulálására irányuló, folyamatosan változó fenyegetésekkel szembeni védelme érdekében végrehajtott frissítéseire.
(67) A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva.
(67) A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A nagy kockázatú fizikai MI-rendszerek esetében fizikai CE-jelölést kell elhelyezni, amely kiegészíthető digitális CE-jelöléssel. A kizárólag digitális nagy kockázatú MI-rendszerek esetében digitális CE-jelölést kell használni.A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva.
(68) Bizonyos körülmények között az innovatív technológiák gyors rendelkezésre állása döntő fontosságú lehet a személyek egészsége és biztonsága, valamint a társadalom egésze szempontjából. Ezért helyénvaló, hogy a közbiztonsághoz, a természetes személyek életének és egészségének védelméhez, valamint az ipari és kereskedelmi tulajdon védelméhez kapcsolódó kivételes okokból a tagállamok engedélyezhessék olyan MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyeket nem vontak megfelelőségértékelés alá.
(68) Bizonyos körülmények között az innovatív technológiák gyors rendelkezésre állása döntő fontosságú lehet a személyek egészsége és biztonsága, a környezet és az éghajlat-változás, valamint a társadalom egésze szempontjából. Ezért helyénvaló, hogy a természetes személyek életének és egészségének védelméhez, a környezetvédelemhez, valamint a kritikus infrastruktúrák védelméhez kapcsolódó kivételes okokból a tagállamok engedélyezhessék olyan MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyeket nem vontak megfelelőségértékelés alá.
(69) A Bizottság és a tagállamok által a mesterséges intelligencia területén végzett munka megkönnyítése, valamint a nyilvánosság számára biztosított átláthatóság növelése érdekében az olyan nagy kockázatú MI-rendszerek szolgáltatói számára, amelyek nem kapcsolódnak a vonatkozó meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez, elő kell írni, hogy nagy kockázatú MI-rendszereiket regisztrálják egy uniós adatbázisban, amelyet a Bizottságnak kell létrehoznia és kezelnie. Az (EU) 2018/1725 európai parlamenti és tanácsi rendelettel55 összhangban a Bizottság kell legyen ezen adatbázis adatkezelője. Az adatbázis teljes körű működőképességének biztosítása érdekében a telepítéskor az adatbázis beállítására irányuló eljárásnak része kell legyen a működési előírások Bizottság általi kidolgozása és egy független ellenőrzési jelentés is.
(69) A Bizottság és a tagállamok által a mesterséges intelligencia területén végzett munka megkönnyítése, valamint a nyilvánosság számára biztosított átláthatóság növelése érdekében az olyan nagy kockázatú MI-rendszerek szolgáltatói számára, amelyek nem kapcsolódnak a vonatkozó meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez, elő kell írni, hogy nagy kockázatú MI-rendszereiket és alapmodelljeiket regisztrálják egy uniós adatbázisban, amelyet a Bizottságnak kell létrehoznia és kezelnie. Ennek az adatbázisnak szabadon és nyilvánosan hozzáférhetőnek, könnyen érthetőnek és géppel olvashatónak kell lennie. Az adatbázisnak emellett felhasználóbarátnak és könnyen navigálhatónak kell lennie, és legalább olyan keresési funkciókkal kell rendelkeznie, amelyek lehetővé teszik a nagyközönség számára, hogy a IV. melléklet szerinti konkrét nagy kockázatú rendszerekre, helyszínekre, kockázati kategóriákra és kulcsszavakra keressenek az adatbázisban. Azon alkalmazóknak, amelyek hatóságok vagy uniós intézmények, szervek, hivatalok és ügynökségek, illetve a nevükben eljáró alkalmazóknak, valamint azon alkalmazóknak, amelyek az (EU) 2022/1925 rendelet értelmében kapuőrré minősített vállalkozások, a nagy kockázatú MI-rendszer üzembe helyezése vagy első használata előtt és minden egyes jelentős módosítás után szintén regisztrálniuk kell az uniós adatbázisban. A többi alkalmazó számára biztosítani kell azt a jogot, hogy ezt önkéntes alapon tegye meg. A nagy kockázatú MI-rendszerek bármely jelentős módosítását is rögzíteni kell az uniós adatbázisban. Az (EU) 2018/1725 európai parlamenti és tanácsi rendelettel55 összhangban a Bizottság kell legyen ezen adatbázis adatkezelője. Az adatbázis teljes körű működőképességének biztosítása érdekében a telepítéskor az adatbázis beállítására irányuló eljárásnak része kell legyen a működési előírások Bizottság általi kidolgozása és egy független ellenőrzési jelentés is. A Bizottságnak az uniós adatbázis adatkezelői feladatainak ellátása során figyelembe kell vennie a kiberbiztonsági és a veszélyforrásokkal kapcsolatos kockázatokat. Az adatbázis nyilvánosság általi hozzáférhetőségének és használatának maximalizálása érdekében az adatbázisnak és az annak révén rendelkezésre bocsátott információknak meg kell felelniük a 2019/882 irányelv követelményeinek.
__________________
__________________
55 Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet) (HL L 119., 2016.5.4., 1. o.).
55 Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet) (HL L 119., 2016.5.4., 1. o.).
(71) A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amelynek tekintetében a szabályozási felügyelet új formáira és biztonságos kísérletezési térre van szükség, a felelősségteljes innovációnak, valamint a megfelelő biztosítékok és kockázatcsökkentő intézkedések integrálásának egyidejű biztosítása mellett. Az innovációbarát, időtálló és a zavarokkal szemben reziliens jogi keret biztosítása érdekében egy vagy több tagállam nemzeti illetékes hatóságait ösztönözni kell arra, hogy hozzanak létre mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezeteket annak érdekében, hogy megkönnyítsék az innovatív MI-rendszerek szigorú szabályozási felügyelet melletti fejlesztését és tesztelését e rendszerek forgalomba hozatala vagy más módon történő üzembe helyezése előtt.
(71) A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amelynek tekintetében szabályozási felügyeletre és biztonságos és ellenőrzött kísérletezési térre van szükség, a felelősségteljes innovációnak, valamint a megfelelő biztosítékok és kockázatcsökkentő intézkedések integrálásának egyidejű biztosítása mellett. Az innovációt előmozdító, időtálló és a zavarokkal szemben reziliens jogi keret biztosítása érdekében a tagállamoknak legalább egy mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetet létre kell hozniuk annak érdekében, hogy megkönnyítsék az innovatív MI-rendszerek szigorú szabályozási felügyelet melletti fejlesztését és tesztelését e rendszerek forgalomba hozatala vagy más módon történő üzembe helyezése előtt. Valóban kívánatos, hogy a szabályozói tesztkörnyezetek létrehozása – amelyek létrehozása jelenleg a tagállamok mérlegelési jogkörébe tartozik – következő lépésként, meghatározott kritériumok mellett, kötelezővé váljon. Ezt a kötelező tesztkörnyezetet egy vagy több másik tagállammal közösen is létre lehet hozni, amennyiben az említett tesztkörnyezet lefedné az érintett tagállamok nemzeti szintjét. A határokon átnyúló együttműködés és a szinergiák előmozdítása érdekében további tesztkörnyezetek is létrehozhatók különböző szinteken, többek között tagállamokon átnyúló módon is. A nemzeti szintű kötelező tesztkörnyezet kivételével virtuális vagy hibrid tesztkörnyezet létrehozását is lehetővé kell tenni a tagállamok számára. Minden szabályozói tesztkörnyezetnek képesnek kell lennie fizikai és virtuális termékek befogadására egyaránt. A létrehozó hatóságoknak biztosítaniuk kell, hogy a szabályozói tesztkörnyezetek működésükhöz megfelelő pénzügyi és emberi erőforrásokkal rendelkezzenek.
(72) A szabályozói tesztkörnyezetek célja a mesterséges intelligenciával kapcsolatos innováció előmozdítása egy ellenőrzött kísérleti és tesztelési környezet létrehozásával a fejlesztési és forgalomba hozatalt megelőző szakaszban, annak biztosítása érdekében, hogy az innovatív MI-rendszerek megfeleljenek ennek a rendeletnek és más vonatkozó uniós és tagállami jogszabályoknak;céljuk ezenfelül a jogbiztonság növelése az innovátorok számára, az illetékes hatóságok felügyeletének fokozása, valamint hogy az illetékes hatóságok jobban értsék a mesterséges intelligencia használatának lehetőségeit, felmerülő kockázatait és hatásait, továbbá a piacra jutás felgyorsítása, többek között a kis- és középvállalkozások (kkv-k) és az induló innovatív vállalkozások előtt álló akadályok felszámolása révén.Az Unió-szerte egységes végrehajtás és a méretgazdaságosság biztosítása érdekében helyénvaló közös szabályokat megállapítani a szabályozói tesztkörnyezetek végrehajtására vonatkozóan, valamint meghatározni a tesztkörnyezetek felügyeletében részt vevő érintett hatóságok közötti együttműködés keretét.Az (EU) 2016/679 rendelet 6. cikkének (4) bekezdésével és az (EU) 2018/1725 rendelet 6. cikkével összhangban, valamint az (EU) 2016/680 irányelv 4. cikke (2) bekezdésének sérelme nélkül, e rendeletnek jogalapot kell biztosítania az eltérő célból gyűjtött személyes adatok felhasználásához bizonyos MI-rendszerek közérdekű, MI szabályozási tesztkörnyezetben történő fejlesztése érdekében. A tesztkörnyezet résztvevőinek megfelelő biztosítékokat kell garantálniuk, és együtt kell működniük az illetékes hatóságokkal, többek között azáltal, hogy követik iránymutatásukat, valamint gyorsan és jóhiszeműen járnak el annak érdekében, hogy csökkentsék a biztonsággal és az alapvető jogokkal kapcsolatos, a tesztkörnyezetben történő fejlesztés és kísérletezés során esetlegesen felmerülő jelentős kockázatot. A tesztkörnyezet résztvevőinek magatartását figyelembe kell venni, amikor az illetékes hatóságok az (EU) 2016/679 rendelet 83. cikkének (2) bekezdése és az (EU) 2016/680 irányelv 57. cikke szerinti közigazgatási bírság kiszabásáról döntenek.
(72) A szabályozói tesztkörnyezetek célja: a létrehozó hatóságok számára a műszaki fejlemények jobb megértése, a felügyeleti módszerek javítása és iránymutatás nyújtása az MI-rendszerek fejlesztői és szolgáltatói számára az e rendeletnek vagy adott esetben más alkalmazandó uniós és tagállami jogszabályoknak, valamint az Alapjogi Chartának való szabályozási megfelelés elérése érdekében;a leendő szolgáltatók számára az MI-rendszerekhez kapcsolódó innovatív megoldások tesztelésének és fejlesztésének lehetővé tétele és megkönnyítése a forgalomba hozatalt megelőző szakaszban a jogbiztonság fokozása érdekében, a szabályozó hatóság általi fokozottabb tanulás lehetővé tétele ellenőrzött környezetben annak érdekében, hogy jobb iránymutatást dolgozzanak ki, és azonosítsák a jogi keret lehetséges jövőbeli fejlesztéseit a rendes jogalkotási eljáráson keresztül. Amennyiben az ilyen MI-rendszerek fejlesztése és tesztelése során jelentős kockázatok merülnek fel, azokat azonnal csökkenteni kell, illetve ennek hiányában a fejlesztési és tesztelési folyamatot mindaddig fel kell függeszteni, amíg az említett kockázatcsökkentésre sor nem kerül. Az Unió-szerte egységes végrehajtás és a méretgazdaságosság biztosítása érdekében helyénvaló közös szabályokat megállapítani a szabályozói tesztkörnyezetek végrehajtására vonatkozóan, valamint meghatározni a tesztkörnyezetek felügyeletében részt vevő érintett hatóságok közötti együttműködés keretét.A tagállamoknak biztosítaniuk kell, hogy a szabályozói tesztkörnyezetek Unió-szerte széles körben elérhetők legyenek, míg a részvételnek önkéntesnek kell maradnia. Különösen fontos biztosítani, hogy a kkv-k és az induló innovatív vállalkozások könnyen hozzáférhessenek e tesztkörnyezetekhez, aktívan bevonják őket az innovatív MI-rendszerek fejlesztésébe és tesztelésébe, és abban tevékenyen részt vegyenek, hogy szakismeretükkel és tapasztalatukkal hozzájárulhassanak ahhoz.
Módosítás 118 Rendeletre irányuló javaslat 72 a preambulumbekezdés (új)
(72a) Kizárólag az (EU) 2016/679 rendelet 6. cikkének (4) bekezdésével és az (EU) 2018/1725 rendelet 6. cikkével összhangban meghatározott feltételeknek megfelelően, valamint az (EU) 2016/680 irányelv 4. cikke (2) bekezdésének sérelme nélkül e rendeletnek jogalapot kell biztosítania az eltérő célból gyűjtött személyes adatok felhasználásához bizonyos MI-rendszerek közérdekű, MI szabályozási tesztkörnyezetben történő fejlesztése érdekében. A tesztkörnyezetben a leendő szolgáltatóknak megfelelő biztosítékokat kell garantálniuk, és együtt kell működniük az illetékes hatóságokkal, többek között azáltal, hogy követik iránymutatásukat, valamint gyorsan és jóhiszeműen járnak el annak érdekében, hogy csökkentsék a biztonsággal, az egészséggel, a környezettel és az alapvető jogokkal kapcsolatos, a tesztkörnyezetben történő fejlesztés és kísérletezés során esetlegesen felmerülő jelentős kockázatot. A tesztkörnyezetben részt vevő leendő szolgáltatók magatartását figyelembe kell venni, amikor az illetékes hatóságok a tesztkörnyezetben való részvételük ideiglenes vagy végleges felfüggesztéséről vagy az (EU) 2016/679 rendelet 83. cikkének (2) bekezdése és az (EU) 2016/680 irányelv 57. cikke szerinti közigazgatási bírság kiszabásáról döntenek.
Módosítás 119 Rendeletre irányuló javaslat 72 b preambulumbekezdés (új)
(72b) Annak biztosítása érdekében, hogy a mesterséges intelligencia társadalmi és környezeti szempontból előnyös eredményekhez vezessen, a tagállamoknak támogatniuk kell és elő kell mozdítaniuk az MI-vel kapcsolatos kutatást és fejlesztést a társadalmi és környezeti szempontból előnyös eredmények támogatása érdekében, megfelelő források – többek között állami és uniós finanszírozás – biztosításával, valamint azzal, hogy a civil társadalom által irányított projektek számára elsőbbségi hozzáférést biztosítanak a szabályozási tesztkörnyezetekhez. Ezeknek a projekteknek az MI-fejlesztők, az egyenlőtlenséggel és a megkülönböztetésmentességgel, az akadálymentességgel, a fogyasztói, környezetvédelmi és digitális jogokkal foglalkozó szakértők, valamint a tudományos körök közötti interdiszciplináris együttműködés elvén kell alapulniuk.
(73) Az innováció előmozdítása és védelme érdekében különös figyelmet kell fordítani az MI-rendszerek kis szolgáltatóinak és felhasználóinak érdekeire. E célból a tagállamoknak az említett üzemeltetőket célzó kezdeményezéseket kell kidolgozniuk, többek között a figyelemfelkeltésre és a tájékoztatásra vonatkozóan. Ezenkívül a megfelelőségértékelési díjak bejelentett szervezetek általi megállapításakor is figyelembe kell venni a kis szolgáltatók sajátos érdekeit és igényeit. A kötelező dokumentációhoz és a hatóságokkal folytatott kommunikációhoz kapcsolódó fordítási költségek jelentősek lehetnek a szolgáltatók és más üzemeltetők, különösen a kisebb szolgáltatók és üzemeltetők számára. A tagállamoknak lehetőség szerint biztosítaniuk kell, hogy az érintett szolgáltatók dokumentációja és az üzemeltetőkkel folytatott kommunikáció tekintetében általuk meghatározott és elfogadott nyelvek egyike olyan nyelv legyen, amelyet a lehető legtöbb, határon átnyúló tevékenységet folytató felhasználó széles körben ért.
(73) Az innováció előmozdítása és védelme érdekében különös figyelmet kell fordítani az MI-rendszerek kis szolgáltatóinak és felhasználóinak érdekeire. E célból a tagállamoknak az említett üzemeltetőket célzó kezdeményezéseket kell kidolgozniuk, többek között a mesterséges intelligencia terén szerzett jártasságra, a figyelemfelkeltésre és a tájékoztatásra vonatkozóan. A tagállamoknak ki kell használniuk a meglévő csatornákat, és adott esetben külön kommunikációs csatornát kell létrehozniuk a kkv-kkal, az induló innovatív vállalkozásokkal, a felhasználókkal és más innovátorokkal folytatandó kommunikációra, hogy iránymutatást nyújtsanak részükre, és megválaszolják az e rendelet végrehajtásával kapcsolatos kérdéseket. E meglévő csatornák közé tartozhatnak többek között az ENISA számítógép-biztonsági eseményekre reagáló csoportjai, a nemzeti adatvédelmi ügynökségek, az igényalapú MI-platform, az európai digitális innovációs központok, uniós programok által finanszírozott egyéb vonatkozó eszközök, valamint a Bizottság és a tagállamok által nemzeti vagy uniós szinten létrehozott tesztelési és kísérleti létesítmények. Adott esetben ezeknek a csatornáknak együtt kell működniük a szinergiák kialakítása és az induló innovatív vállalkozások, a kkv-k és a felhasználók számára nyújtott iránymutatások egységessége érdekében. Ezenkívül a megfelelőségértékelési díjak bejelentett szervezetek általi megállapításakor is figyelembe kell venni a kis szolgáltatók sajátos érdekeit és igényeit. A Bizottságnak rendszeresen értékelnie kell a kkv-k és az induló innovatív vállalkozások tanúsítási és megfelelési költségeit, többek között a kkv-kkal, az induló innovatív vállalkozásokkal és a felhasználókkal folytatott átlátható konzultációk révén, és együtt kell működnie a tagállamokkal e költségek csökkentése érdekében. Például a kötelező dokumentációhoz és a hatóságokkal folytatott kommunikációhoz kapcsolódó fordítási költségek jelentősek lehetnek a szolgáltatók és más üzemeltetők, különösen a kisebb szolgáltatók és üzemeltetők számára. A tagállamoknak lehetőség szerint biztosítaniuk kell, hogy az érintett szolgáltatók dokumentációja és az üzemeltetőkkel folytatott kommunikáció tekintetében általuk meghatározott és elfogadott nyelvek egyike olyan nyelv legyen, amelyet a lehető legtöbb, határon átnyúló tevékenységet folytató felhasználó széles körben ért. Azoknak a középvállalkozásoknak, amelyek a 2003/361/EK ajánlás melléklete (16. cikk) értelmében a közelmúltban a kis- és középvállalkozások kategóriájába kerültek, a tagállamok által megfelelőnek ítélt ideig hozzá kell férniük ezekhez a kezdeményezésekhez és iránymutatásokhoz, mivel előfordulhat, hogy ezek az új középvállalkozások nem rendelkeznek a rendelkezések megfelelő megértéséhez és betartásához szükséges jogi erőforrásokkal és képzéssel.
(74) A piaci ismeretek és szakértelem hiányából eredő végrehajtási kockázatok minimalizálása, valamint annak elősegítése érdekében, hogy a szolgáltatók és a bejelentett szervezetek teljesítsék az e rendelet szerinti kötelezettségeiket, az igényalapú MI-platformnak, az európai digitális innovációs központoknak, valamint a Bizottság és a tagállamok által nemzeti vagy uniós szinten létrehozott tesztelési és kísérleti létesítményeknek lehetőség szerint hozzá kell járulniuk e rendelet végrehajtásához. Megbízatásuk és hatáskörük keretein belül különösen technikai és tudományos támogatást nyújthatnak a szolgáltatóknak és a bejelentett szervezeteknek.
(74) A piaci ismeretek és szakértelem hiányából eredő végrehajtási kockázatok minimalizálása, valamint annak elősegítése érdekében, hogy a szolgáltatók és a bejelentett szervezetek teljesítsék az e rendelet szerinti kötelezettségeiket, az igényalapú MI-platformnak, az európai digitális innovációs központoknak, valamint a Bizottság és a tagállamok által nemzeti vagy uniós szinten létrehozott tesztelési és kísérleti létesítményeknek hozzá kell járulniuk e rendelet végrehajtásához. Megbízatásuk és hatáskörük keretein belül különösen technikai és tudományos támogatást nyújthatnak a szolgáltatóknak és a bejelentett szervezeteknek.
(76) E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Mesterséges Intelligenciával Foglalkozó Európai Testületet.A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, köztük az e rendeletben megállapított követelményekkel kapcsolatos műszaki előírásokat vagy meglévő szabványokat illetően, valamint a Bizottságnak a mesterséges intelligenciával kapcsolatos konkrét kérdésekben nyújtott tanácsadást és segítséget.
(76) A belső piac széttagoltságának elkerülése, optimális működésének biztosítása, e rendelet hatékony és összehangolt végrehajtásának biztosítása, a megbízhatóság, valamint az egészség, a biztonság, az alapvető jogok, a környezet, a demokrácia és a jogállamiság védelme magas szintjének az MI-rendszerek tekintetében az Unió egész területén történő elérése, a nemzeti felügyeleti hatóságok, az uniós intézmények, szervek, hivatalok és ügynökségek e rendelettel összefüggő ügyekben történő aktív támogatása, valamint a mesterséges intelligencia Unió-szerte történő elterjedésének növelése érdekében létre kell hozni az Európai Unió Mesterséges Intelligenciával Foglalkozó Hivatalát.Az MI-hivatalnak jogi személyiséggel kell rendelkeznie, teljes mértékben függetlenül kell eljárnia, felelősségi körébe kell utalni számos tanácsadói és koordinációs feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, továbbá megfelelő finanszírozást és személyzetet kell biztosítani számára. A tagállamoknak az MI-hivatal igazgatótanácsán keresztül, a Bizottsággal, az európai adatvédelmi biztossal, az Alapjogi Ügynökséggel és az ENISA-val együtt biztosítaniuk kell az MI-hivatal stratégiai irányítását és ellenőrzését. Az MI-hivatal titkársága által folytatott tevékenységek irányítását és az MI-hivatal képviseletét az ügyvezető igazgató látja el. Az érdekelt feleknek hivatalosan részt kell venniük az MI-hivatal munkájában egy olyan tanácsadó fórumon keresztül, amely biztosítja az érdekelt felek széles körű és kiegyensúlyozott képviseletét, és tanácsot ad az MI-hivatalnak az e rendelettel összefüggő kérdésekben. Amennyiben az MI-hivatal létrehozása nem bizonyul elégségesnek ahhoz, hogy uniós szinten garantálja e rendelet teljes mértékben következetes alkalmazását, valamint hogyhatékony, határokon átnyúló végrehajtási intézkedéseket biztosítson, fontolóra kell venni egy MI-ügynökség létrehozását.
(77) A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és végrehajtásában. E tekintetben minden tagállamnak ki kell jelölnie egy vagy több nemzeti illetékes hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A tagállamoknál a szervezeti hatékonyság növelése, valamint annak érdekében, hogy hivatalos kapcsolattartó pontot lehessen kijelölni a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé, minden tagállamban ki kell jelölni egy nemzeti hatóságot nemzeti felügyeleti hatóságnak.
(77) Minden tagállamnak ki kell jelölnie egy nemzeti felügyeleti hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A hatóságnak egyúttal saját tagállamát is képviselnie kell az AI-hivatal igazgatótanácsában.Ez növeli a tagállamoknál a szervezeti hatékonyságot, és hivatalos kapcsolattartó pontot jelöl ki a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé. A nemzeti felügyeleti hatóságok az e rendelet alapján rájuk ruházott feladatok elvégzése és hatáskörök gyakorlása során teljesen függetlenül járnak el.
Módosítás 124 Rendeletre irányuló javaslat 77 a preambulumbekezdés (új)
(77a) A nemzeti felügyeleti hatóságoknak figyelemmel kell kísérniük az e rendelet szerinti rendelkezések alkalmazását, és hozzá kell járulniuk a rendelet következetes alkalmazásához. E célból a nemzeti felügyeleti hatóságoknak együtt kell működniük egymással, a megfelelő illetékes nemzeti hatóságokkal, a Bizottsággal és az MI-hivatallal.
Módosítás 125 Rendeletre irányuló javaslat 77 b preambulumbekezdés (új)
(77b) Az uniós vagy nemzeti jognak megfelelően mindegyik nemzeti felügyeleti hatóság tagját vagy tagjait és személyzetét a feladataik ellátása és hatáskörük gyakorlása során tudomásukra jutott bármely bizalmas információ tekintetében hivatali idejük alatt és annak lejártát követően is szakmai titoktartási kötelezettség terheli. Hivatali idejük alatt ez a szakmai titoktartási kötelezettség különösen vonatkozik az üzleti titkokra és a természetes személyek által e rendelet megsértését illetően tett bejelentésekre.
(78) Annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszerek szolgáltatói figyelembe vehessék a nagy kockázatú MI-rendszerek használatával kapcsolatos tapasztalatokat rendszereik javítása, valamint a tervezési és fejlesztési folyamat során, vagy időben meghozhassanak bármely lehetséges korrekciós intézkedést, valamennyi szolgáltatónak rendelkeznie kell egy forgalomba hozatal utáni nyomonkövetési rendszerrel. Ez a rendszer annak biztosítása szempontjából is kulcsfontosságú, hogy hatékonyabban és időben lehessen kezelni az olyan MI-rendszerekből eredő lehetséges kockázatokat, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően továbbra is „tanulnak”. Ebben az összefüggésben a szolgáltatók számára elő kell írni, hogy rendelkezzenek olyan rendszerrel, amely jelentést tesz az illetékes hatóságoknak az MI-rendszereik használatából eredő súlyos váratlan eseményekről, illetve az alapvető jogokat védő nemzeti és uniós jogszabályokkal szembeni jogsértésekről.
(78) Annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszerek szolgáltatói figyelembe vehessék a nagy kockázatú MI-rendszerek használatával kapcsolatos tapasztalatokat rendszereik javítása, valamint a tervezési és fejlesztési folyamat során, vagy időben meghozhassanak bármely lehetséges korrekciós intézkedést, valamennyi szolgáltatónak rendelkeznie kell egy forgalomba hozatal utáni nyomonkövetési rendszerrel. Ez a rendszer annak biztosítása szempontjából is kulcsfontosságú, hogy hatékonyabban és időben lehessen kezelni az olyan MI-rendszerekből eredő lehetséges kockázatokat, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően továbbra is „tanulnak” vagy fejlődnek. Ebben az összefüggésben a szolgáltatók számára elő kell írni, hogy rendelkezzenek olyan rendszerrel, amely jelentést tesz az illetékes hatóságoknak az MI-rendszereik használatából eredő súlyos váratlan eseményekről, illetve egyebek közt az alapvető jogokat és fogyasztói jogokat védő nemzeti és uniós jogszabályokkal szembeni jogsértésekről, és megfelelő korrekciós intézkedéseket hoz. Az alkalmazóknak is jelenteniük kell az illetékes hatóságoknak az MI-rendszereik használatából eredő súlyos váratlan eseményeket, illetve a nemzeti és uniós jogszabályok megsértését, ha tudomást szereznek ilyen súlyos váratlan eseményekről vagy jogsértésekről.
(79) Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak vagy szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz.
(79) Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. E rendelet alkalmazásában a nemzeti felügyeleti hatóságoknak piacfelügyeleti hatóságként kell eljárniuk az e rendelet hatálya alá tartozó MI-rendszerek tekintetében, kivéve az e rendelet II. mellékletének hatálya alá tartozó MI-rendszereket. A II. mellékletben felsorolt jogi aktusok hatálya alá tartozó MI-rendszerek esetében továbbra is az adott jogi aktusok szerint illetékes hatóság a vezető hatóság. Amennyiben szükséges, a nemzeti felügyeleti hatóságoknak és a II. mellékletben felsorolt jogi aktusokban foglalt illetékes hatóságoknak együtt kell működniük. Adott esetben a II. mellékletben felsorolt jogi aktusokban foglalt illetékes hatóságoknak kompetens személyzetet kell küldeniük a nemzeti felügyeleti hatósághoz, hogy segítséget nyújtsanak feladatai ellátásában. E rendelet alkalmazásában a nemzeti felügyeleti hatóságoknak az (EU) 2019/1020 rendelet szerinti piacfelügyeleti hatóságokkal megegyező hatáskörökkel és kötelezettségekkel kell rendelkezniük. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak vagy szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz. A megfelelés értékelésére/ellenőrzésére szolgáló minden egyéb észszerű módszer kimerítését követően és indokolt kérésre a nemzeti felügyeleti hatóság számára hozzáférést kell biztosítani a nagy kockázatú MI-rendszer tanulóadat-, érvényesítésiadat- és tesztadat-készleteihez, betanított és tanítási modelljéhez, a releváns modellparamétereket és azok végrehajtási/üzemelési környezetét is beleértve. Az e rendelet hatálya alá tartozó, nem tanított modelleken alapuló, egyszerűbb szoftverrendszerek esetében, és amennyiben a megfelelőség ellenőrzésének minden egyéb módját kimerítette, a nemzeti felügyeleti hatóság – indokolással ellátott kérésre – kivételesen hozzáférhet a forráskódhoz. Amennyiben a nemzeti felügyeleti hatóság e rendelettel összhangban hozzáférést kapott a tanulóadat-, érvényesítésiadat- és tesztadat-készletekhez, ezt a hozzáférést megfelelő műszaki módszerekkel és eszközökkel, ezen belül helyi hozzáféréssel, kivételes körülmények között pedig távoli hozzáféréssel kell elérni. A nemzeti felügyeleti hatóságnak minden megszerzett információt – ideértve adott esetben a forráskódot, a szoftvert és az adatokat is – bizalmas információként kell kezelnie, és tiszteletben kell tartania a szellemi tulajdon és az üzleti titkok védelmére vonatkozó uniós jogszabályokat. A vizsgálat befejezését követően a nemzeti felügyeleti hatóságnak törölnie kell minden megszerzett információt.
(80) A pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok tartalmaznak olyan belső irányítási és kockázatkezelési szabályokat és követelményeket, amelyeket az említett szolgáltatások nyújtása során alkalmazni kell a szabályozott pénzügyi intézményekre, többek között akkor is, ha MI-rendszereket használnak. Az e rendelet szerinti kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok releváns szabályai és követelményei koherens alkalmazásának és érvényesítésének biztosítása érdekében a pénzügyi szolgáltatásokra vonatkozó jogszabályok felügyeletéért és végrehajtásáért felelős hatóságokat — beleértve adott esetben az Európai Központi Bankot is – illetékes hatóságnak kell kijelölni e rendelet végrehajtásának felügyelete céljából, ideértve a piacfelügyeleti tevékenységeket is, a szabályozott és felügyelt pénzügyi intézmények által biztosított vagy használt MI-rendszerek tekintetében. A 2013/36/EU európai parlamenti és tanácsi irányelv56 szerint szabályozott hitelintézetekre alkalmazandó szabályok és az e rendelet közötti összhang további növelése érdekében helyénvaló a megfelelőségértékelési eljárást és a szolgáltatók kockázatkezeléssel, forgalomba hozatal utáni nyomon követéssel és dokumentációval kapcsolatos egyes eljárási kötelezettségeit belefoglalni a 2013/36/EU irányelv szerinti meglévő kötelezettségekbe és eljárásokba. Az átfedések elkerülése érdekében korlátozott eltéréseket kell előirányozni a szolgáltatók minőségirányítási rendszerével és a nagy kockázatú MI-rendszerek felhasználóira rótt nyomonkövetési kötelezettséggel kapcsolatban is, amennyiben ezeket a 2013/36/EU irányelv által szabályozott hitelintézetekre alkalmazni kell.
(80) A pénzügyi szolgáltatásokra vonatkozó uniós jog tartalmaz olyan belső irányítási és kockázatkezelési szabályokat és követelményeket, amelyeket az említett szolgáltatások nyújtása során alkalmazni kell a szabályozott pénzügyi intézményekre, többek között akkor is, ha MI-rendszereket használnak. Az e rendelet szerinti kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jog releváns szabályai és követelményei koherens alkalmazásának és érvényesítésének biztosítása érdekében a pénzügyi szolgáltatásokra vonatkozó jog felügyeletéért és végrehajtásáért felelős illetékes hatóságokat — beleértve adott esetben az Európai Központi Bankot is – illetékes hatóságnak kell kijelölni e rendelet végrehajtásának felügyelete céljából, ideértve a piacfelügyeleti tevékenységeket is, a szabályozott és felügyelt pénzügyi intézmények által biztosított vagy használt MI-rendszerek tekintetében. A 2013/36/EU európai parlamenti és tanácsi irányelv56 szerint szabályozott hitelintézetekre alkalmazandó szabályok és az e rendelet közötti összhang további növelése érdekében helyénvaló a megfelelőségértékelési eljárást és a szolgáltatók kockázatkezeléssel, forgalomba hozatal utáni nyomon követéssel és dokumentációval kapcsolatos egyes eljárási kötelezettségeit belefoglalni a 2013/36/EU irányelv szerinti meglévő kötelezettségekbe és eljárásokba. Az átfedések elkerülése érdekében korlátozott eltéréseket kell előirányozni a szolgáltatók minőségirányítási rendszerével és a nagy kockázatú MI-rendszerek alkalmazóira rótt nyomonkövetési kötelezettséggel kapcsolatban is, amennyiben ezeket a 2013/36/EU irányelv által szabályozott hitelintézetekre alkalmazni kell.
__________________
__________________
56 Az Európai Parlament és a Tanács 2013/36/EU irányelve (2013. június 26.) a hitelintézetek tevékenységéhez való hozzáférésről és a hitelintézetek és befektetési vállalkozások prudenciális felügyeletéről, a 2002/87/EK irányelv módosításáról, a 2006/48/EK és a 2006/49/EK irányelv hatályon kívül helyezéséről (HL L 176., 2013.6.27., 338. o.).
56 Az Európai Parlament és a Tanács 2013/36/EU irányelve (2013. június 26.) a hitelintézetek tevékenységéhez való hozzáférésről és a hitelintézetek és befektetési vállalkozások prudenciális felügyeletéről, a 2002/87/EK irányelv módosításáról, a 2006/48/EK és a 2006/49/EK irányelv hatályon kívül helyezéséről (HL L 176., 2013.6.27., 338. o.).
Módosítás 129 Rendeletre irányuló javaslat 80 a preambulumbekezdés (új)
(80a) Tekintettel e rendelet célkitűzéseire, nevezetesen a természetes személyek egészsége, biztonsága és alapvető jogai azonos szintű védelmének biztosítására, a jogállamiság és a demokrácia védelmének biztosítására, valamint figyelembe véve, hogy az MI-rendszerek által az említett jogokra jelentett kockázatok csökkentését nemzeti szinten nem lehet kielégítően megvalósítani, vagy eltérések lehetnek annak értelmezésében, ami végső soron a természetes személyek egyenlőtlen szintű védelméhez vezethet, és a piac széttöredezettségét okozhatja, a hatékony végrehajtás érdekében a nemzeti felügyeleti hatóságokat fel kell hatalmazni arra, hogy közös vizsgálatokat folytassanak, vagy az e rendeletben előírt uniós védintézkedési eljárásra támaszkodjanak. Közös vizsgálatot akkor kell kezdeményezni, ha a nemzeti felügyeleti hatóságnak elegendő oka van azt feltételezni, hogy e rendelet megsértése kiterjedt jogsértésnek vagy uniós dimenzióval rendelkező kiterjedt jogsértésnek minősül, vagy ha az MI-rendszer vagy alapmodell olyan kockázatot jelent, amely egynél több tagállamban legalább 45 millió egyént érint vagy érinthet.
(82) Fontos, hogy azok a termékekhez kapcsolódó MI-rendszerek, amelyek e rendelet értelmében nem nagy kockázatúak, és ezért nem kötelesek megfelelni az e rendeletben meghatározott követelményeknek, mégis biztonságosak legyenek a forgalomba hozatalkor vagy az üzembe helyezéskor. E cél elérése érdekében a 2001/95/EK európai parlamenti és tanácsi irányelvet57 biztonsági hálóként kellene alkalmazni.
(82) Fontos, hogy azok a termékekhez kapcsolódó MI-rendszerek, amelyek e rendelet értelmében nem nagy kockázatúak, és ezért nem kötelesek megfelelni a nagy kockázatú MI-rendszerekre vonatkozó, e rendeletben meghatározott követelményeknek, biztonságosak legyenek a forgalomba hozatalkor vagy az üzembe helyezéskor. E cél elérése érdekében a 2001/95/EK európai parlamenti és tanácsi irányelvet57 biztonsági hálóként kellene alkalmazni.
__________________
__________________
57 Az Európai Parlament és a Tanács 2001/95/EK irányelve (2001. december 3.) az általános termékbiztonságról (HL L 11., 2002.1.15., 4. o.).
57 Az Európai Parlament és a Tanács 2001/95/EK irányelve (2001. december 3.) az általános termékbiztonságról (HL L 11., 2002.1.15., 4. o.).
(83) Az illetékes hatóságok uniós és nemzeti szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét.
(83) Az illetékes hatóságok uniós és nemzeti szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek törekednie kell az átláthatóságra és a nyitottságra, ugyanakkor tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét azáltal, hogy technikai és szervezeti intézkedéseket vezet be a tevékenysége során szerzett információk biztonságának és bizalmas jellegének védelme érdekében, többek között a szellemi tulajdonjogok, valamint a köz- és nemzetbiztonsági érdekek tekintetében.Amennyiben a Bizottság, az illetékes nemzeti hatóságok és az e rendelet szerint bejelentett szervezetek tevékenységei a szellemi tulajdonjogok megsértését eredményezik, a tagállamoknak megfelelő intézkedéseket és jogorvoslati lehetőségeket kell biztosítaniuk a szellemi tulajdonjogok érvényesítésének biztosítására a 2004/48/EK irányelv alkalmazásában.
(84) A tagállamoknak minden szükséges intézkedést meg kell tenniük az e rendeletben foglalt rendelkezések végrehajtásának biztosítása érdekében, többek között azáltal, hogy hatékony, arányos és visszatartó erejű szankciókat állapítanak meg e rendelkezések megsértésének esetére. Egyes konkrét jogsértések esetében a tagállamoknak figyelembe kell venniük az e rendeletben meghatározott mozgástereket és kritériumokat. Az európai adatvédelmi biztosnak hatáskörrel kell rendelkeznie arra, hogy pénzbírságot szabjon ki az e rendelet hatálya alá tartozó uniós intézményekre, ügynökségekre és szervekre.
(84) Az e rendeletnek való megfelelést a nemzeti felügyeleti hatóság által az e rendeletben megállapított eljárás szerinti eljárás lefolytatása során bírság kiszabásával kell kikényszeríteni. A tagállamoknak minden szükséges intézkedést meg kell tenniük az e rendeletben foglalt rendelkezések végrehajtásának biztosítása érdekében, többek között azáltal, hogy hatékony, arányos és visszatartó erejű szankciókat állapítanak meg e rendelkezések megsértésének esetére. Az e rendelet megsértése esetén alkalmazandó közigazgatási szankciók megerősítése és harmonizálása érdekében meg kell állapítani az egyes konkrét jogsértések esetében kiszabandó közigazgatási bírságok felső határait; A bírságok összegének megállapításakor a nemzeti illetékes hatóságoknak minden egyes esetben figyelembe kell venniük az adott helyzet valamennyi releváns körülményét, kellő figyelmet fordítva különösen a jogsértés és következményeinek jellegére, súlyosságára és időtartamára, valamint a szolgáltató méretére, különösen akkor, ha a szolgáltató kkv vagy induló vállalkozás. Az európai adatvédelmi biztosnak hatáskörrel kell rendelkeznie arra, hogy pénzbírságot szabjon ki az e rendelet hatálya alá tartozó uniós intézményekre, ügynökségekre és szervekre. Az e rendelet szerinti szankciók és perköltségek nem képezhetik szerződéses záradékok vagy egyéb megállapodások tárgyát.
Módosítás 133 Rendeletre irányuló javaslat 84 a preambulumbekezdés (új)
(84a) Mivel az MI-rendszerek súlyosan alááshatják a természetes és jogi személyek és természetes személyek csoportjainak jogait és szabadságait, alapvető fontosságú, hogy a természetes és jogi személyek vagy természetes személyek csoportjai érdemben hozzáférjenek a bejelentési és jogorvoslati mechanizmusokhoz, és jogosultak legyenek az arányos és hatékony jogorvoslathoz való hozzáférésre. Lehetővé kell tenni számukra, hogy e rendelet megsértését bejelenthessék a saját nemzeti felügyeleti hatóságuknak, és jogukban álljon panaszt tenni az MI-rendszerek szolgáltatóival vagy alkalmazóival szemben. Adott esetben az alkalmazóknak belső panasztételi mechanizmusokat kell biztosítaniuk, amelyeket természetes és jogi személyek vagy természetes személyek csoportjai használhatnak. Az egyéb közigazgatási vagy nem bírósági jogorvoslat sérelme nélkül a természetes és jogi személyeknek, valamint a természetes személyek csoportjainak hatékony bírósági jogorvoslathoz is joguk van a nemzeti felügyeleti hatóság rájuk vonatkozó, jogilag kötelező erejű határozatával szemben, vagy ha a nemzeti felügyeleti hatóság nem foglalkozik a panasszal, nem tájékoztatja a panaszost a benyújtott panasszal kapcsolatos fejleményekről vagy annak előzetes eredményéről, illetve nem tesz eleget a panasszal kapcsolatos végleges határozat meghozatalára vonatkozó kötelezettségének.
Módosítás 134 Rendeletre irányuló javaslat 84 b preambulumbekezdés (új)
(84b) Az érintett személyeket minden esetben tájékoztatni kell arról, hogy esetükben nagy kockázatú MI-rendszert használnak, amennyiben az alkalmazók nagy kockázatú MI-rendszert használnak a döntéshozatal segítésére vagy a természetes személyekkel kapcsolatos döntések meghozatalára. Ez a tájékoztatás alapul szolgálhat ahhoz, hogy az érintett személyek élhessenek az e rendelet szerinti magyarázathoz való jogukkal.Amennyiben az alkalmazók e rendelet alapján magyarázatot adnak az érintett személyeknek, figyelembe kell venniük az átlagfogyasztó vagy az egyén szakértelmének és ismereteinek szintjét.
Módosítás 135 Rendeletre irányuló javaslat 84 c preambulumbekezdés (új)
(84c) A visszaélést bejelentő személyek védelméről szóló uniós jog ((EU) 2019/1937 irányelv) teljes mértékben vonatkozik a tudományos szakemberekre, tervezőkre, fejlesztőkre, projektekben közreműködőkre, auditorokra, termékmenedzserekre, mérnökökre és gazdasági szereplőkre, akik tudomást szereznek az uniós jog valamely MI-rendszer szolgáltatója vagy annak MI-rendszere által történő megsértéséről.
(85) Annak érdekében, hogy a szabályozási keret szükség esetén kiigazítható legyen, a Bizottságot fel kell hatalmazni arra, hogy az EUMSZ 290. cikkének megfelelően jogi aktusokat fogadjon el abból a célból, hogy módosítsa az I. mellékletben az MI-rendszerek meghatározása tekintetében említett technikákat és megközelítéseket, a II. mellékletben felsorolt uniós harmonizációs jogszabályokat, a III. mellékletben felsorolt nagy kockázatú MI-rendszereket, a IV. mellékletben felsorolt, a műszaki dokumentációra vonatkozó rendelkezéseket, az V. mellékletben szereplő EU-megfelelőségi nyilatkozat tartalmát, a VI. és VII. melléklet szerinti megfelelőségértékelési eljárásokra vonatkozó rendelkezéseket, valamint azokat a rendelkezéseket, amelyek megállapítják, hogy mely nagy kockázatú MI-rendszerekre kell minőségirányítási rendszerek értékelésén és a műszaki dokumentáció értékelésén alapuló megfelelőségértékelési eljárást alkalmazni. Különösen fontos, hogy a Bizottság az előkészítő munkája során megfelelő konzultációkat folytasson, többek között szakértői szinten is, és hogy e konzultációkra a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásnak58 megfelelően kerüljön sor. A felhatalmazáson alapuló jogi aktusok előkészítésében való egyenlő részvétel biztosítása érdekében az Európai Parlament és a Tanács a tagállamok szakértőivel egyidejűleg kézhez kap minden dokumentumot, és szakértőik rendszeresen részt vehetnek a Bizottság felhatalmazáson alapuló jogi aktusok előkészítésével foglalkozó szakértői csoportjainak ülésein.
(85) Annak érdekében, hogy a szabályozási keret szükség esetén kiigazítható legyen, a Bizottságot fel kell hatalmazni arra, hogy az EUMSZ 290. cikkének megfelelően jogi aktusokat fogadjon el abból a célból, hogy módosítsa a II. mellékletben felsorolt uniós harmonizációs jogszabályokat, a III. mellékletben felsorolt nagy kockázatú MI-rendszereket, a IV. mellékletben felsorolt, a műszaki dokumentációra vonatkozó rendelkezéseket, az V. mellékletben szereplő EU-megfelelőségi nyilatkozat tartalmát, a VI. és VII. melléklet szerinti megfelelőségértékelési eljárásokra vonatkozó rendelkezéseket, valamint azokat a rendelkezéseket, amelyek megállapítják, hogy mely nagy kockázatú MI-rendszerekre kell minőségirányítási rendszerek értékelésén és a műszaki dokumentáció értékelésén alapuló megfelelőségértékelési eljárást alkalmazni. Különösen fontos, hogy a Bizottság az előkészítő munkája során megfelelő konzultációkat folytasson, többek között szakértői szinten is, és hogy e konzultációkra a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásnak58 megfelelően kerüljön sor. E konzultációkat az érdekelt felek – többek között a fogyasztói szervezetek, a civil társadalom, az érintett személyeket képviselő egyesületek, a különféle ágazatokbeli és különböző méretű vállalkozások képviselői, valamint a kutatók és tudományos munkatársak – kiegyensúlyozott arányú részvételével kell megtartani. A felhatalmazáson alapuló jogi aktusok előkészítésében való egyenlő részvétel biztosítása érdekében az Európai Parlament és a Tanács a tagállamok szakértőivel egyidejűleg kézhez kap minden dokumentumot, és szakértőik rendszeresen részt vehetnek a Bizottság felhatalmazáson alapuló jogi aktusok előkészítésével foglalkozó szakértői csoportjainak ülésein.
__________________
__________________
58 HL L 123., 2016.5.12., 1. o.
58 HL L 123., 2016.5.12., 1. o.
Módosítás 137 Rendeletre irányuló javaslat 85 a preambulumbekezdés (új)
(85a) Tekintettel a gyors technológiai fejlődésre és a nagy kockázatú MI-rendszerek értékelésének elvégzéséhez szükséges technikai szakértelemre, a Bizottságnak rendszeresen, legalább évente felül kell vizsgálnia e rendelet végrehajtását, különös tekintettel a tiltott MI-rendszerekre, az átláthatósági kötelezettségekre, valamint a magas kockázatú területek és felhasználási esetek jegyzékére, ugyanakkor konzultálnia kell az MI-hivatallal és az érintett érdekelt felekkel.
Módosítás 138 Rendeletre irányuló javaslat 87 a preambulumbekezdés (új)
(87a) Mivel az MI-rendszerek és a kapcsolódó IKT-technológiák – többek között a szoftverek, a hardverek és különösen az adatközpontok – erőforrás- és energiafelhasználására, hulladéktermelésére és egyéb környezeti hatásaira vonatkozó megbízható információk korlátozottak, a Bizottságnak megfelelő módszertant kell bevezetnie e rendelet környezeti hatásának és hatékonyságának mérésére az uniós környezetvédelmi és éghajlati célkitűzések fényében.
(89) Az (EU) 2018/1725 rendelet 42. cikkének (2) bekezdésével összhangban konzultációra került sor az európai adatvédelmi biztossal és az Európai Adatvédelmi Testülettel, aki/amely [...]-án/-én nyilvánított véleményt,
(89) Az (EU) 2018/1725 rendelet 42. cikkének (2) bekezdésével összhangban konzultációra került sor az európai adatvédelmi biztossal és az Európai Adatvédelmi Testülettel, aki/amely 2021. június 18-án nyilvánított véleményt.
(1) E rendelet célja, hogy előmozdítsa az emberközpontú és megbízható mesterséges intelligencia elterjedését, és az innováció előmozdítása mellett biztosítsa az Unióban az egészség, a biztonság, az alapvető jogok, a demokrácia és a jogállamiság, valamint a környezet magas szintű védelmét az MI-rendszerek káros hatásaival szemben;
Módosítás 141 Rendeletre irányuló javaslat 1 cikk – 1 bekezdés – d pont
d) harmonizált átláthatósági szabályok a természetes személyekkel való interakcióra szánt MI-rendszerek, az érzelemfelismerő rendszerek és a biometrikus kategorizálási rendszerek, valamint a kép-, audio- vagy videotartalom előállítására vagy manipulálására használt MI-rendszerek tekintetében;
d) bizonyos MI-rendszerekre vonatkozó harmonizált átláthatósági szabályok;
Módosítás 142 Rendeletre irányuló javaslat 1 cikk – 1 bekezdés – e pont
e) a piaci nyomon követésre és a piacfelügyeletre vonatkozó szabályok.
e) a piaci nyomon követésre, a piacfelügyeletre, az irányításra és a végrehajtásra vonatkozó szabályok.
Módosítás 143 Rendeletre irányuló javaslat 1 cikk – 1 bekezdés – e a pont (új)
ea) innovációt támogató intézkedések, különös hangsúlyt helyezve a kkv-kra és az induló vállalkozásokra, ideértve a szabályozói tesztkörnyezet létrehozását, valamint a kkv-kra és az induló vállalkozásokra nehezedő szabályozási terhek csökkentésére irányuló célzott intézkedéseket is;
Módosítás 144 Rendeletre irányuló javaslat 1 cikk – 1 bekezdés – e b pont (új)
eb) az Unió Mesterséges Intelligenciával Foglalkozó Hivatalának (MI-hivatal) létrehozására és a működésére vonatkozó szabályok;
Módosítás 145 Rendeletre irányuló javaslat 2 cikk – 1 bekezdés – b pont
b) az MI-rendszerek Unión belüli felhasználói;
b) az MI-rendszerek Unión belüli alkalmazói, vagy amelyek székhelye az Unión belül található;
Módosítás 146 Rendeletre irányuló javaslat 2 cikk – 1 bekezdés – c pont
c) az MI-rendszerek harmadik országban található szolgáltatói és felhasználói, ha a rendszer által előállított kimenetet az Unióban használják.
c) az MI-rendszerek harmadik országban található szolgáltatói és alkalmazói, vagy amelyek székhelye olyan harmadik országban található, ahol a nemzetközi közjog értelmében valamelyik tagállam joga alkalmazandó, vagy ha a rendszer által előállított kimenetet az Unióban kívánják használni;
Módosítás 147 Rendeletre irányuló javaslat 2 cikk – 1 bekezdés – c a pont (új)
ca) az 5. cikkben említett MI-rendszereket az Unión kívül forgalomba hozó vagy üzembe helyező szolgáltatók, amennyiben az ilyen rendszerek szolgáltatója vagy forgalmazója az Unión belül található;
Módosítás 148 Rendeletre irányuló javaslat 2 cikk – 1 bekezdés – c b pont (új)
cb) az MI-rendszerek importőrei és forgalmazói, valamint az MI-rendszerek szolgáltatóinak meghatalmazott képviselői, amennyiben az ilyen importőrök, forgalmazók vagy meghatalmazott képviselők székhelye az Unióban található, vagy maguk is az Unióban találhatók;
Módosítás 149 Rendeletre irányuló javaslat 2 cikk – 1 bekezdés – c c pont (új)
cc) a 3. cikk (8a) bekezdésében meghatározott érintett személyek, akik az Unióban találhatók, és akiknek egészségét, biztonságát vagy alapvető jogait hátrányosan érinti az Unióban forgalomba hozott vagy üzembe helyezett MI-rendszer használata.
(2) Az olyan nagy kockázatú MI-rendszerek esetében, amelyek a következő jogi aktusok hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek önmagukban a következő jogi aktusok hatálya alá tartozó termékek vagy rendszerek, kizárólag e rendelet 84. cikkét kell alkalmazni:
(2) Az olyan nagy kockázatú MI-rendszerek esetében, amelyek termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek önmagukban is termékek vagy rendszerek, és amelyek a II. melléklet B. szakaszában felsorolt harmonizációs jogszabályok hatálya alá tartoznak, kizárólag e rendelet 84. cikkét kell alkalmazni;
Módosítás 151 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – a pont
a) 300/2008/EK rendelet;
törölve
Módosítás 152 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – b pont
b) 167/2013/EU rendelet;
törölve
Módosítás 153 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – c pont
c) 168/2013/EU rendelet;
törölve
Módosítás 154 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – d pont
d) 2014/90/EU irányelv;
törölve
Módosítás 155 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – e pont
e) (EU) 2016/797 irányelv;
törölve
Módosítás 156 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – f pont
f) (EU) 2018/858 rendelet;
törölve
Módosítás 157 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – g pont
g) (EU) 2018/1139 rendelet;
törölve
Módosítás 158 Rendeletre irányuló javaslat 2 cikk – 2 bekezdés – h pont
(4) Ez a rendelet nem alkalmazandó harmadik országoknak az (1) bekezdés alapján e rendelet hatálya alá tartozó hatóságaira és az (1) bekezdés alapján e rendelet hatálya alá tartozó nemzetközi szervezetekre, amennyiben ezek a hatóságok vagy szervezetek az Unióval, illetve egy vagy több tagállammal folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó nemzetközi megállapodások keretében használnak MI-rendszereket.
(4) Ez a rendelet nem alkalmazandó harmadik országoknak az (1) bekezdés alapján e rendelet hatálya alá tartozó hatóságaira és az (1) bekezdés alapján e rendelet hatálya alá tartozó nemzetközi szervezetekre, amennyiben ezek a hatóságok vagy szervezetek az Unióval, illetve egy vagy több tagállammal folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó nemzetközi együttműködés vagy megállapodások keretében használnak MI-rendszereket, és azok az (EU) 2016/680 irányelv 36. cikkévek vagy az (EU) 2016/679 rendelet 45. cikkével összhangban elfogadott bizottsági határozat (megfelelőségi határozat) hatálya alá tartoznak, vagy az Unió és az adott harmadik ország vagy nemzetközi szervezet között az EUMSZ 218. cikke alapján létrejött olyan nemzetközi megállapodás részét képezik, amely megfelelő biztosítékokat nyújt a magánélet, valamint az egyének alapvető jogainak és szabadságainak védelme tekintetében;
(5a) A személyes adatok, a magánélet és a közlés bizalmasságának védelmére vonatkozó uniós jog alkalmazandó a személyes adatok feldolgozására az e rendeletben megállapított jogokkal és kötelezettségekkel összefüggésben. Ez a rendelet – a 10. cikkének (5) bekezdésében és az 54. cikkében előírt rendelkezések sérelme nélkül – nem érinti az (EU) 2016/679 és az (EU) 2018/1725 rendeletet, valamint a 2002/58/EK és az (EU) 2016/680 irányelvet.
(5c) Ez a rendelet nem akadályozza a tagállamokat vagy az Uniót abban, hogy olyan törvényi, rendeleti vagy közigazgatási rendelkezéseket tartsanak fenn vagy vezessenek be, amelyek kedvezőbbek a munkavállalókra nézve az MI-rendszerek munkáltatók általi használatával kapcsolatos jogaik védelme tekintetében, illetve hogy a munkavállalók számára kedvezőbb kollektív szerződések alkalmazását ösztönözze vagy tegye lehetővé.
(5d) Ez a rendelet nem alkalmazandó az MI-rendszerekkel kapcsolatos kutatási, tesztelési és fejlesztési tevékenységekre a rendszer forgalomba hozatalát vagy üzembe helyezését megelőzően, feltéve, hogy e tevékenységeket az alapvető jogok és az alkalmazandó uniós jog tiszteletben tartásával végzik. Ez a mentesség nem vonatkozik a valós körülmények között végzett tesztelésre.A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el e bekezdés alkalmazásának pontosítására vonatkozóan, a létező és lehetséges visszaélések megelőzése érdekében. Az MI-hivatal iránymutatást nyújt a kutatás-fejlesztés irányítására vonatkozóan az 56. cikk alapján, többek között azzal a céllal, hogy összehangolja a nemzeti felügyeleti hatóságok általi alkalmazását.
(5e) Ez a rendelet nem alkalmazandó a szabad és nyílt forráskódú licencek alapján biztosított MI-alkotóelemekre, kivéve, ha azokat egy szolgáltató nagy kockázatú MI-rendszer vagy a II. vagy IV. cím hatálya alá tartozó MI-rendszer részeként hozza forgalomba vagy helyezi üzembe. Ez a mentesség nem vonatkozik a 3. cikkben meghatározott alapmodellekre.
1. „mesterségesintelligencia-rendszer (MI-rendszer)”: olyan szoftver, amelyet az I. mellékletben felsorolt technikák és megközelítések közül egy vagy több alkalmazásával fejlesztettek, és amely az ember által meghatározott célkitűzések adott csoportja tekintetében olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lépnek;
1. „mesterségesintelligencia-rendszer (MI-rendszer)”: olyan gépi alapú rendszer, amelyet úgy terveztek, hogy különböző szintű autonómiával működjön, és amely explicit vagy implicit célok érdekében olyan kimeneteket, például előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják a fizikai vagy virtuális környezetet;
Módosítás 166 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 1 a pont (új)
1a. „kockázat” : a káros hatás előfordulási valószínűségének és a káros hatás súlyosságának kombinációja;
Módosítás 167 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 1 b pont (új)
1b. „jelentős kockázat”: olyan kockázat, amely súlyossága, intenzitása, előfordulási valószínűsége és hatásainak időtartama, valamint az egyénre, több személyre vagy személyek egy meghatározott csoportjára gyakorolt hatásának kombinációja miatt jelentős;
Módosítás 168 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 1 c pont (új)
1c. „alapmodell”: az MI-rendszer olyan modellje, amelyet széles körű adatokon tanítottak, általános jellegű kimenetre terveztek, és amely széles körben különféle feladatokhoz igazítható;
Módosítás 169 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 1 d pont (új)
1d. „általános célú MI-rendszer”: olyan MI-rendszer, amely széles körben használható olyan alkalmazásokra vagy igazítható olyan alkalmazásokhoz, amelyekre nem kifejezetten és szándékosan tervezték;
Módosítás 170 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 1 e pont (új)
1e. „nagy tanítási sorozatok”: olyan nagy teljesítményű MI-modell létrehozásának folyamata, amelyhez nagyon magas küszöbérték feletti számítási erőforrásokra van szükség;
4. „felhasználó”: bármely olyan természetes vagy jogi személy, hatóság, ügynökség vagy egyéb szerv, aki vagy amely a felügyelete alá tartozó MI-rendszert használja, kivéve, ha az MI-rendszert személyes, nem szakmai jellegű tevékenység során használja;
4. „alkalmazó”: bármely olyan természetes vagy jogi személy, hatóság, ügynökség vagy egyéb szerv, aki vagy amely a felügyelete alá tartozó MI-rendszert használja, kivéve, ha az MI-rendszert személyes, nem szakmai jellegű tevékenység során használja;
8. „üzemeltető”: a szolgáltató, a felhasználó, a meghatalmazott képviselő, az importőr és a forgalmazó;
8. „üzemeltető”: a szolgáltató, az alkalmazó, a meghatalmazott képviselő, az importőr és a forgalmazó;
Módosítás 174 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 8 a pont (új)
8a. „érintett személy”: bármely olyan természetes személy vagy személyek csoportja, aki vagy amely egy MI-rendszer hatálya alá tartozik, vagy akit és amelyet az MI-rendszer más módon érint;
11. „üzembe helyezés”: valamely MI-rendszer első használatra történő rendelkezésre bocsátása közvetlenül a felhasználó számára vagy saját használatra az uniós piacon, a rendeltetésének megfelelően;
11. „üzembe helyezés”: valamely MI-rendszer első használatra történő rendelkezésre bocsátása közvetlenül az alkalmazó számára vagy saját használatra az uniós piacon, a rendeltetésének megfelelően;
13. „észszerűen előrelátható rendellenes használat”: valamely MI-rendszer olyan módon történő használata, amely nem felel meg a rendeltetésének, de amely észszerűen előrelátható emberi magatartásból vagy más rendszerekkel való kölcsönhatásból eredhet;
13. „észszerűen előre látható rendellenes használat”: valamely MI-rendszer olyan módon történő használata, amely nem felel meg a szolgáltató által meghatározott használati utasításban feltüntetett rendeltetésének, de amely észszerűen előre látható emberi magatartásból vagy más rendszerekkel – ezen belül más MI-rendszerekkel – való kölcsönhatásból eredhet;
14. „termék vagy rendszer biztonsági alkatrésze”: egy termék vagy rendszer olyan alkatrésze, amely az adott termék vagy rendszer tekintetében biztonsági funkciót tölt be, vagy amelynek meghibásodása vagy hibás működése veszélynek teszi ki a személyek egészségét és biztonságát vagy a vagyontárgyakat;
14. „termék vagy rendszer biztonsági alkatrésze”: az uniós harmonizációs joggal összhangban, a II. mellékletben felsorolt termék vagy rendszer olyan alkatrésze, amely az adott termék vagy rendszer tekintetében biztonsági funkciót tölt be, vagy amelynek meghibásodása vagy hibás működése veszélynek teszi ki a személyek egészségét és biztonságát;
15. „használati utasítás”: a szolgáltató által átadott információ, amely tájékoztatja a felhasználót különösen az MI-rendszer rendeltetéséről és megfelelő használatáról, beleértve azt a konkrét földrajzi, magatartási vagy funkcionális környezetet, amelyen belül a nagy kockázatú MI-rendszert használni kívánják;
15. „használati utasítás”: a szolgáltató által átadott információ, amely tájékoztatja az alkalmazót különösen az MI-rendszer rendeltetéséről és megfelelő használatáról, valamint a végrehajtandó óvintézkedésekre vonatkozó információ; beleértve azt a konkrét földrajzi, magatartási vagy funkcionális környezetet, amelyen belül a nagy kockázatú MI-rendszert használni kívánják;
16. „MI-rendszer visszahívása”: minden olyan intézkedés, amelynek célja a felhasználók rendelkezésére bocsátott MI-rendszer szolgáltatónak való visszaadása;
16. „MI-rendszer visszahívása”: minden olyan intézkedés, amelynek célja az alkalmazók rendelkezésére bocsátott MI-rendszer szolgáltatónak való visszaadása;
20. „megfelelőségértékelés”: az annak ellenőrzésére szolgáló eljárás, hogy egy adott MI-rendszer vonatkozásában teljesülnek-e az e rendelet III. címének 2. fejezetében meghatározott követelmények;
20. „megfelelőségértékelés”: az annak szemléltetésére szolgáló eljárás, hogy egy adott MI-rendszer vonatkozásában teljesülnek-e az e rendelet III. címének 2. fejezetében meghatározott követelmények;
22. „bejelentett szervezet”: az e rendelettel és más vonatkozó uniós harmonizációs jogszabályokkal összhangban kijelölt megfelelőségértékelő szervezet;
22. „bejelentett szervezet”: az e rendelettel és más vonatkozó uniós harmonizációs jogszabályokkal összhangban bejelentett megfelelőségértékelő szervezet;
23. „jelentős módosítás”: az MI-rendszer forgalomba hozatalát vagy üzembe helyezését követő olyan változtatás, amely befolyásolja az MI-rendszer e rendelet III. címének 2. fejezetében meghatározott követelményeknek való megfelelését, vagy amely az MI-rendszer értékelésének tárgyát képező rendeltetés módosulását eredményezi;
23. „jelentős módosítás”: az MI-rendszer forgalomba hozatalát vagy üzembe helyezését követő, a szolgáltató által a kockázatértékelésben nem előirányzott vagy tervezett módosítás vagy módosítások sorozata, amely érinti az MI-rendszer e rendelet III. címének 2. fejezetében meghatározott követelményeknek való megfelelését, vagy amely az MI-rendszer értékelésének tárgyát képező rendeltetés módosulását eredményezi;
24. „CE megfelelőségi jelölés (CE-jelölés)”: olyan jelölés, amellyel a szolgáltató jelzi, hogy az MI-rendszer megfelel az e rendelet III. címének 2. fejezetében meghatározott követelményeknek, valamint a termékek forgalmazásának feltételeit harmonizáló azon egyéb alkalmazandó uniós jogszabályoknak (a továbbiakban: uniós harmonizációs jogszabályok), amelyek előírják e jelölés feltüntetését;
24. „CE megfelelőségi jelölés (CE-jelölés)”: olyan fizikai vagy digitális jelölés, amellyel a szolgáltató jelzi, hogy az MI-rendszer vagy egy beágyazott MI-rendszerrel rendelkező termék megfelel az e rendelet III. címének 2. fejezetében meghatározott követelményeknek, valamint a termékek forgalmazásának feltételeit harmonizáló azon egyéb alkalmazandó uniós jogszabályoknak (a továbbiakban: uniós harmonizációs jogszabályok), amelyek előírják e jelölés feltüntetését;
29. „tanulóadatok”: olyan adatok, amelyeket egy MI-rendszernek a tanítható paraméterek – többek között a neurális hálózat súlyai – illesztése révén történő tanítására használnak;
29. „tanulóadatok”: olyan adatok, amelyeket egy MI-rendszernek a tanítható paraméterek illesztése révén történő tanítására használnak;
30. „érvényesítési adatok”: a betanított MI-rendszer értékelésére, valamint nem tanítható paramétereinek és tanulási folyamatának beállítására használt adatok, többek között a túlillesztés megelőzése érdekében; mivel az érvényesítésiadat-készlet lehet különálló adatkészlet vagy a tanulóadat-készlet része, akár fix, akár változó felosztás formájában;
30. „érvényesítési adatok”: a betanított MI-rendszer értékelésére, valamint nem tanítható paramétereinek és tanulási folyamatának beállítására használt adatok, többek között az alulillesztés vagy a túlillesztés megelőzése érdekében; mivel az érvényesítésiadat-készlet különálló adatkészlet vagy a tanulóadat-készlet része, akár fix, akár változó felosztás formájában;
33. „biometrikus adatok”: egy természetes személy fizikai, fiziológiai vagy viselkedési jellemzőire vonatkozó olyan, sajátos technikai adatkezeléssel nyert személyes adatok, amely lehetővé teszik vagy megerősítik a természetes személy egyedi azonosítását, ilyen például az arckép vagy a daktiloszkópiai adat;
33. „biometrikus adatok”: az (EU) 2016/679 rendelet 4. cikkének 14. pontjában meghatározott biometrikus adat;
Módosítás 187 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 33 a pont (új)
33a. „biometrikus alapú adatok”: egy természetes személy fizikai, fiziológiai vagy viselkedési jelzéseire vonatkozó sajátos technikai adatkezeléssel nyert adatok;
Módosítás 188 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 33 b pont (új)
33b. „biometrikus azonosítás”: az ember testi, fiziológiai, viselkedési és pszichológiai jellemzőinek automatikus felismerése az egyén személyazonosságának megállapítása céljából, az adott személy biometrikus adatainak az adatbázisban tárolt egyének biometrikus adataival való összehasonlítása révén (egy a sokhoz azonosítás);
Módosítás 189 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 33 c pont (új)
33c. „biometrikus ellenőrzés”: természetes személyek személyazonosságának automatizált ellenőrzése az egyén biometrikus adatainak a korábban megadott biometrikus adatokkal való összehasonlítása révén (egy az egyhez hasonlítás, beleértve a hitelesítést is);
Módosítás 190 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 33 d pont (új)
33d. „személyes adatok különleges kategóriái”: az (EU) 2016/679 rendelet 9. cikke (1) bekezdésében meghatározott személyesadat-kategóriák;
34. „érzelemfelismerő rendszer”: olyan MI-rendszer, amely természetes személyek biometrikus adatai alapján azonosítja vagy levezeti a természetes személyek érzelmeit vagy szándékait;
34. „érzelemfelismerő rendszer”: olyan MI-rendszer, amely egyének vagy csoportok biometrikus és biometrikus alapú adatai alapján azonosítja vagy levezeti a természetes személyek érzelmeit, gondolatait, lelkiállapotát vagy szándékait;
35. „biometrikus kategorizálási rendszer”: olyan MI-rendszer, amely a természetes személyeket biometrikus adataik alapján meghatározott kategóriákba (például nem, kor, hajszín, szemszín, tetoválás, etnikai származás, szexuális vagy politikai irányultság) sorolja;
35. „biometrikus kategorizálás”: természetes személyek meghatározott kategóriákba sorolása vagy jellemzőik és tulajdonságaik kikövetkeztetése biometrikus vagy biometrikus alapú adataik alapján, vagy az ilyen adatokból kikövetkeztethetően;
36. „távoli biometrikus azonosító rendszer”: olyan MI-rendszer, amely a természetes személyeket távolból azonosítja valamely személy biometrikus adatainak a referencia-adatbázisban szereplő biometrikus adatokkal való összehasonlítása révén, és anélkül, hogy az MI-rendszer felhasználójának előzetes tudomása lenne arról, hogy az adott személy jelen lesz-e és azonosítható-e;
36. „távoli biometrikus azonosító rendszer”: olyan MI-rendszer, amely a természetes személyeket távolból azonosítja valamely személy biometrikus adatainak a referencia-adatbázisban szereplő biometrikus adatokkal való összehasonlítása révén, és anélkül, hogy az MI-rendszer alkalmazójának előzetes tudomása lenne arról, hogy az adott személy jelen lesz-e és azonosítható-e, kizárva a hitelesítő rendszereket;
37. „»valós idejű« távoli biometrikus azonosító rendszer”: olyan távoli biometrikus azonosító rendszer, amelyben a biometrikus adatok rögzítése, az összehasonlítás és az azonosítása jelentős késleltetés nélkül történik. Ez nemcsak az azonnali azonosítást foglalja magában, hanem az intézkedések kijátszásának elkerülése érdekében a korlátozott rövid késleltetéseket is;
37. „»valós idejű« távoli biometrikus azonosító rendszer”: olyan távoli biometrikus azonosító rendszer, amelyben a biometrikus adatok rögzítése, az összehasonlítás és az azonosítása jelentős késleltetés nélkül történik. Ez nemcsak az azonnali azonosítást foglalja magában, hanem az intézkedések kijátszásának elkerülése érdekében a korlátozott késleltetéseket is;
39. „nyilvánosság számára hozzáférhető hely”: bármely, a nyilvánosság számára hozzáférhető fizikai terület, függetlenül attól, hogy esetleg alkalmazandók-e bizonyos hozzáférési feltételek;
39. „nyilvánosság számára hozzáférhető hely”: bármely, a nyilvánosság számára hozzáférhető, köz- vagy magántulajdonban lévő fizikai terület, függetlenül attól, hogy esetleg alkalmazandók-e bizonyos hozzáférési feltételek, valamint függetlenül a befogadóképesség esetleges korlátaitól;
41. „bűnüldözés”: a bűnüldöző hatóságok által a bűncselekmények megelőzését, nyomozását, felderítését, büntetőeljárás alá vonását vagy büntetőjogi szankciók végrehajtását illetően folytatott tevékenységek, beleértve a közbiztonságot fenyegető veszélyekkel szembeni védelmet és e veszélyek megelőzését is;
41. „bűnüldözés”: a bűnüldöző hatóságok által vagy a nevükben folytatott, a bűncselekmények megelőzését, nyomozását, felderítését, büntetőeljárás alá vonását vagy büntetőjogi szankciók végrehajtását illetően folytatott tevékenységek, beleértve a közbiztonságot fenyegető veszélyekkel szembeni védelmet és e veszélyek megelőzését is;
42. „nemzeti felügyeleti hatóság”: az a hatóság, amelyre egy tagállam ráruházza az e rendelet végrehajtásának és alkalmazásának, az adott tagállamra bízott tevékenységek összehangolásának, a Bizottság egyedüli kapcsolattartó pontjaként való eljárásnak, valamint a tagállam Mesterséges Intelligenciával Foglalkozó Európai Testületben való képviseletének hatáskörét;
42. „nemzeti felügyeleti hatóság”: az a közigazgatási szerv (AM 69), amelyre egy tagállam ráruházza az e rendelet végrehajtásának és alkalmazásának, az adott tagállamra bízott tevékenységek összehangolásának, a Bizottság egyedüli kapcsolattartó pontjaként való eljárásnak, valamint a tagállam az MI-hivatal igazgatótanácsában való képviseletének hatáskörét;
43. „nemzeti illetékes hatóság”: a nemzeti felügyeleti hatóság, a bejelentő hatóság és a piacfelügyeleti hatóság;
43. „nemzeti illetékes hatóság”: az e rendelet végrehajtásáért felelős nemzeti hatóságok bármelyike;
Módosítás 199 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 pont – bevezető rész
44. „súlyos váratlan esemény”: minden olyan váratlan esemény, amely közvetetten vagy közvetlenül a következőkhöz vezet, vezethetett volna vagy vezethet:
44. „súlyos váratlan esemény”: az MI-rendszerrel kapcsolatos minden olyan váratlan esemény vagy működési hiba, amely közvetetten vagy közvetlenül a következőkhöz vezet, vezethetett volna vagy vezethet:
a) valamely személy halála, vagy egészségének súlyos károsodása, súlyos vagyoni kár vagy súlyos környezetkárosítás
a) valamely személy halála, vagy egészségének súlyos károsodása;
b) kritikus infrastruktúra irányításának és üzemeltetésének súlyos zavara;
b) kritikus infrastruktúra irányításának és üzemeltetésének súlyos zavara;
ba) az uniós jog által védett alapvető jogok megsértése;
bb) súlyos vagyoni kár vagy súlyos környezetkárosítás;
Módosítás 200 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 a pont (új)
44a. „személyes adat”: az (EU) 2016/679 rendelet 4. cikkének 1. pontjában meghatározott személyes adat;
Módosítás 201 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 b pont (új)
44b. „nem személyes adat”: a személyes adattól eltérő adat;
Módosítás 202 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 c pont (új)
44c. „profilalkotás”: a személyes adatok automatizált kezelésének bármely formája az (EU) 2016/679 rendelet 4. cikkének 4. pontjában meghatározottak szerint; vagy bűnüldöző hatóságok esetében – az (EU) 2016/680 irányelv 3. cikkének 4. pontjában, illetve uniós intézmények, szervek, hivatalok vagy ügynökségek esetében az (EU) 2018/1725 rendelet 3. cikkének 5. pontjában meghatározottak szerint;
Módosítás 203 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 d pont (új)
44d. „deepfake”: manipulált vagy szintetikus hang, kép vagy videótartalom, amely megtévesztő módon az eredetiség vagy hitelesség látszatát kelti, és amely úgy ábrázol személyeket, mintha olyasmit mondanának vagy tennének, amit soha nem mondtak vagy tettek, és amelyet mesterséges intelligencián alapuló technikákkal – beleértve a gépi tanulást és a mélytanulást is – állítanak elő;
Módosítás 204 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 e pont (új)
44e. „kiterjedt jogsértés”: bármely olyan cselekmény vagy mulasztás, amely ellentétes az egyének érdekeit védő uniós joggal:
a) amely sértette vagy valószínűsíthetően sérti azon egyének kollektív érdekeit, akik az alábbiak szerinti tagállamtól eltérő legalább két tagállamban rendelkeznek lakóhellyel:
i. a cselekmény vagy a mulasztás keletkezésének vagy elkövetésének helye;
ii. az érintett szolgáltató vagy adott esetben meghatalmazott képviselője székhelye; vagy,
iii. az alkalmazó székhelye, ha a jogsértést az alkalmazó követte el;
b) amelyek védik azon egyének érdekeit, akik sértették, sértik vagy valószínűsíthetően sértik az egyének kollektív érdekeit, és amelyek közös jellemzőkkel bírnak, többek között ugyanazt a jogellenes gyakorlatot valósítják meg, vagy ugyanazt az érdeket sértik, továbbá amelyeket egy időben követ el ugyanaz az üzemeltető legalább három tagállamban;
Módosítás 205 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 f pont (új)
44f. „uniós dimenzióval rendelkező kiterjedt jogsértés”: olyan kiterjedt jogsértés, amely sértette, sérti vagy valószínűsíthetően sérti az egyének kollektív érdekeit a tagállamok legalább kétharmadában, amelyek együttesen kiteszik az Unió népességének legalább kétharmadát;
Módosítás 206 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 g pont (új)
44g. „szabályozási tesztkörnyezet”: egy hatóság által létrehozott ellenőrzött környezet, amely korlátozott ideig elősegíti az innovatív MI-rendszerek biztonságos fejlesztését, tesztelését és validálását, mielőtt azokat egy meghatározott terv szerint, hatósági felügyelet mellett forgalomba hoznák vagy üzembe helyeznék;
Módosítás 207 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 h pont (új)
44h. „kritikus infrastruktúra”: olyan eszköz, létesítmény, felszerelés, hálózat vagy rendszer, vagy olyan eszköz, létesítmény, felszerelés, hálózat vagy rendszer része, amely az (EU) 2022/2557 irányelv 2. cikkének (4) bekezdése értelmében vett alapvető szolgáltatás nyújtásához szükséges;
Módosítás 208 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 k pont (új)
44k. „társadalmi pontozás”: a természetes személyek értékelése vagy osztályozása közösségben tanúsított viselkedésük, társadalmi-gazdasági státuszuk vagy ismert vagy előre jelzett személyes tulajdonságaik vagy személyiségjegyeik alapján;
Módosítás 209 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 l pont (új)
44l. „közösségi magatartás”: az a mód, ahogyan egy természetes személy más természetes személyekkel vagy a társadalommal kapcsolatba lép, és hat rájuk;
Módosítás 210 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 m pont (új)
44m. „a technika állása”: a műszaki képességeknek egy adott időpontban a termékek, eljárások és szolgáltatások tekintetében a tudomány, a technológia és a tapasztalat vonatkozó konszolidált eredményei alapján elért fejlettségi szintje;
Módosítás 211 Rendeletre irányuló javaslat 3 cikk – 1 bekezdés – 44 n pont (új)
44n. „valós körülmények között végzett tesztelés”: egy MI-rendszernek a rendeltetésének megfelelő ideiglenes tesztelése valós körülmények között, laboratóriumi vagy más módon szimulált környezeten kívül;
Módosítás 212 Rendeletre irányuló javaslat 4 cikk
4. cikk
törölve
Az I. melléklet módosításai
A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy módosítsa az I. mellékletben felsorolt technikák és megközelítések listáját annak érdekében, hogy a listát aktualizálja a piaci és technológiai fejlemények fényében, az ott felsorolt technikákhoz és megközelítésekhez hasonló jellemzők alapján.
Módosítás 213 Rendeletre irányuló javaslat 4 a cikk (új)
4a. cikk
Az összes MI-rendszerre alkalmazandó általános elvek
(1) Az e rendelet hatálya alá tartozó összes üzemeltetőnek minden tőle telhetőt meg kell tennie annak érdekében, hogy az MI-rendszereket vagy alapmodelleket a következő általános elvekkel összhangban fejlessze és használja, amelyek olyan magas szintű keretet hoznak létre, amely előmozdítja az etikus és megbízható mesterséges intelligenciára vonatkozó koherens, emberközpontú európai megközelítést, amely teljes mértékben összhangban van a Chartával és az Unió alapját képező értékekkel:
a) „emberi cselekvőképesség és ellenőrzés”: az MI-rendszereket olyan eszközként kell fejleszteni és használni, amely az embereket szolgálja, tiszteletben tartja az emberi méltóságot és a személyes autonómiát, és amely úgy működik, hogy ember által megfelelő módon ellenőrizhető és felügyelhető legyen;
b) „műszaki stabilitás és biztonság”: az MI-rendszereket úgy kell fejleszteni és használni, hogy minimálisra csökkentsék a nem szándékos és váratlan károkat, valamint hogy nem szándékos problémák esetén stabilak legyenek, és ellenállóak az MI-rendszer használatának vagy teljesítményének rosszindulatú harmadik felek általi megváltoztatására irányuló kísérletekkel szemben;
c) „adatvédelem és adatkormányzás”: az MI-rendszereket a meglévő adatvédelmi és adatbiztonsági szabályoknak megfelelően kell fejleszteni és használni, miközben az adatok feldolgozása magas minőségi és integritási követelményeknek felel meg;
d) „átláthatóság”: az MI-rendszereket olyan módon kell fejleszteni és használni, amely lehetővé teszi a megfelelő nyomonkövethetőséget és megmagyarázhatóságot, miközben tudatosítja az emberekben, hogy MI-rendszerrel kommunikálnak vagy lépnek kapcsolatba, valamint megfelelően tájékoztatja a felhasználókat az MI-rendszer képességeiről és korlátairól, az érintett személyeket pedig jogaikról;
e) „sokszínűség, megkülönböztetésmentesség és méltányosság”: az MI-rendszereket a különböző szereplőket bevonva kell fejleszteni és használni, és elő kell segíteni az egyenlő hozzáférést, a nemek közötti egyenlőséget és a kulturális sokszínűséget, ugyanakkor el kell kerülni az uniós vagy nemzeti jog által tiltott diszkriminatív hatásokat és tisztességtelen torzítást;
f) „társadalmi és környezeti jóllét”: az MI-rendszereket fenntartható és környezetbarát módon kell fejleszteni és használni, valamint úgy, hogy az minden ember javát szolgálja, miközben figyelemmel kísérik és értékelik az egyénre, a társadalomra és a demokráciára gyakorolt hosszú távú hatásokat.
(2) Az (1) bekezdés nem érinti a hatályos uniós és nemzeti jogszabályokban meghatározott kötelezettségeket. A nagy kockázatú MI-rendszerek esetében az általános elveket a szolgáltatók vagy az alkalmazók az e rendelet 8–15. cikkében meghatározott követelmények és az e rendelet III. címének 3. fejezetében meghatározott vonatkozó kötelezettségek segítségével ültetik át és tartják be. Az alapmodellek esetében az általános elveket a szolgáltatók az e rendelet 28–28b. cikkében meghatározott követelmények segítségével ültetik át és tartják be. Az (1) bekezdésben említett elvek alkalmazása valamennyi MI-rendszer esetében adott esetben a 28. és az 52. cikk rendelkezésein keresztül, vagy a 69. cikkben említett harmonizált szabványok, műszaki előírások és magatartási kódexek alkalmazásával érhető el anélkül, hogy e rendelet alapján új kötelezettségek keletkeznének.
(3) A Bizottság és az MI-hivatal ezeket az irányadó elveket beépíti a szabványosítási kérelmekbe, valamint a technikai iránymutatást tartalmazó ajánlásokba, hogy segítse a szolgáltatókat és az alkalmazókat abban, hogy hogyan fejlesszék és használják az MI-rendszereket. Az európai szabványügyi szervezetek a 40. cikk (2b) bekezdésében említett nagy kockázatú MI-rendszerekre vonatkozó megfelelő harmonizált szabványok kidolgozása során az ezen cikk (1) bekezdésében említett általános elveket eredményalapú célkitűzésnek tekintik.
Módosítás 214 Rendeletre irányuló javaslat 4 b cikk (új)
4b. cikk
A mesterséges intelligencia terén szerzett jártasság
(1) E rendelet végrehajtása során az Unió és a tagállamok támogatják a mesterséges intelligencia terén szerzett megfelelő szintű jártasság fejlesztését célzó intézkedéseket az érintett ágazatokban, és figyelembe veszik a szolgáltatók, az alkalmazók és az érintett személyek csoportjainak eltérő szükségleteit, többek között oktatási és képzési, szakképzési és átképzési programok révén, valamint a nemek és az életkor megfelelő egyensúlyának biztosítása mellett, az MI-rendszerek demokratikus ellenőrzésének lehetővé tétele érdekében.
(2) Az MI-rendszerek szolgáltatói és alkalmazói intézkedéseket hoznak annak érdekében, hogy biztosítsák személyzetük és a nevükben az MI-rendszerek működtetésével és használatával foglalkozó bármely más személy mesterséges intelligencia terén szerzett megfelelő szintű jártasságát, figyelembe véve szakmai ismereteiket, tapasztalatukat, végzettségüket és képzettségüket, valamint azt a kontextust, amelyben az MI-rendszereket használni fogják, és figyelembe véve azokat a személyeket, illetve azon személyek csoportjait, akik tekintetében az MI-rendszereket használni fogják.
(3) E jártasságot támogató intézkedéseknek elsősorban az MI-rendszerekkel és azok működésével kapcsolatos alapvető fogalmak és készségek oktatásából kell állniuk, beleértve a különböző terméktípusokat és felhasználási módokat, azok kockázatait és előnyeit.
(4) A mesterséges intelligencia terén szerzett megfelelő szintű jártasság az, amely szükség szerint hozzájárul ahhoz, hogy a szolgáltatók és az alkalmazók biztosítani tudják e rendelet betartását és végrehajtását.
Módosítás 215 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – a pont
a) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek szubliminális technikákat alkalmaznak az adott személy tudatán kívül annak érdekében, hogy lényegesen torzítsák egy személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat;
a) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek szubliminális technikákat alkalmaznak az adott személy tudatán kívül, vagy célzottan manipulatív vagy megtévesztő technikákat alkalmaznak azzal a céllal vagy olyan hatás érdekében, hogy lényegesen torzítsák egy személy vagy személyek egy csoportjának magatartását azáltal, hogy jelentősen gyengítik az adott személy megalapozott döntéshozatalra való képességét, és ennek következtében a személy olyan döntést hozzon, amelyet egyébként nem hozott volna meg, oly módon, amely e személynek, egy másik személynek vagy személyek egy csoportjának jelentős károsodást okoz vagy okozhat;
Az első albekezdésben említett, szubliminális technikákat alkalmazó MI-rendszerekre vonatkozó tilalom nem alkalmazandó azokra az MI-rendszerekre, amelyeket jóváhagyott terápiás célokra kívánnak felhasználni a velük kapcsolatba kerülő személyek vagy adott esetben törvényes gyámjuk konkrét, tájékoztatáson alapuló beleegyezése alapján;
Módosítás 216 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – b pont
b) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek a személyek egy meghatározott csoportjának életkor, testi vagy szellemi fogyatékosság miatt fennálló valamilyen sebezhetőségét kihasználják annak érdekében, hogy torzítsák az adott csoporthoz tartozó személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat;
b) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek egy személy vagy a személyek egy meghatározott csoportjának életkor, testi vagy szellemi képesség miatt fennálló valamilyen sebezhetőségét – beleértve e személy vagy csoport ismert vagy előre jelzett személyiségjegyeinek vagy társadalmi vagy gazdasági helyzetének jellemzőit – kihasználják azzal a céllal vagy olyan hatás érdekében, hogy torzítsák az adott személy vagy az adott csoporthoz tartozó személy magatartását oly módon, amely e személynek vagy más személynek jelentős károsodást okoz vagy okozhat;
Módosítás 217 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – b a pont (új)
ba) olyan biometrikus kategorizálási rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek természetes személyeket érzékeny vagy védett tulajdonságok vagy jellemzők szerint, vagy ilyen tulajdonságokból vagy jellemzőkből levont következtetések alapján kategorizálnak. Ez a tilalom nem alkalmazandó azokra az MI-rendszerekre, amelyeket jóváhagyott terápiás célokra kívánnak felhasználni a velük kapcsolatba kerülő személyek vagy adott esetben törvényes gyámjuk konkrét, tájékoztatáson alapuló módon történő beleegyezése alapján.
Módosítás 218 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – c pont – bevezető rész
c) MI-rendszerek hatóságok általi vagy nevükben történő forgalomba hozatala, üzembe helyezése vagy használata természetes személyek megbízhatóságának értékelésére vagy osztályozására egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert vagy előre jelzett személyes vagy személyiségi tulajdonságok alapján, oly módon, hogy a közösségi pontszám a következő helyzetek egyikéhez vagy mindkettőhöz vezet:
c) MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata természetes személyek vagy ezek csoportjainak társadalmi pontozására, értékelésére vagy osztályozására egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert, kikövetkeztetett vagy előre jelzett személyes vagy személyiségi tulajdonságok alapján, oly módon, hogy a közösségi pontszám a következő helyzetek egyikéhez vagy mindkettőhöz vezet:
Módosítás 219 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – c pont – i alpont
i. bizonyos természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmód olyan szociális kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatokat eredetileg létrehozták vagy gyűjtötték;
(A magyar változatot nem érinti.)
Módosítás 220 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d pont – bevezető rész
d) „valós idejű” távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból, kivéve, ha és amennyiben az ilyen használat az alábbi célok egyikéhez feltétlenül szükséges:
d) „valós idejű” távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken;
Módosítás 221 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d pont – i alpont
i. a bűncselekmények konkrét potenciális áldozatainak célzott felkutatása, ideértve az eltűnt gyermekeket is;
törölve
Módosítás 222 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d pont – ii alpont
ii. természetes személyek életét vagy fizikai biztonságát fenyegető konkrét, jelentős és közvetlen veszély, illetve terrortámadás megelőzése;
törölve
Módosítás 223 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d pont – iii alpont
iii. a 2002/584/IB tanácsi kerethatározat62 2. cikkének (2) bekezdésében említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés.
törölve
__________________
62 A Tanács 2002/584/IB kerethatározata (2002. június 13.) az európai elfogatóparancsról és a tagállamok közötti átadási eljárásokról (HL L 190., 2002.7.18., 1. o.).
Módosítás 224 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d a pont (új)
da) olyan MI-rendszer forgalomba hozatala, üzembe helyezése vagy használata, amely természetes személyek vagy azok csoportjainak kockázatértékelését végzi annak érdekében, hogy felmérje egy természetes személy milyen kockázatot jelenthet egy bűncselekmény vagy szabálysértés elkövetése vagy újbóli elkövetése szempontjából, vagy előre jelezze a természetes személyekre vonatkozó profilalkotás alapján vagy természetes személyek vagy természetes személyek csoportjai személyiségjegyeinek és tulajdonságainak – ideértve a személy hollétének – vagy múltbeli bűnöző magatartásának értékelése alapján tényleges vagy potenciális bűncselekmények előfordulását vagy megismétlődését;
Módosítás 225 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d b pont (új)
db) olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek az arcképek internetről vagy zártláncú televízió-felvételekből való, nem célzott lekérdezésével arcfelismerő adatbázisokat hoznak létre vagy ilyeneket bővítenek;
Módosítás 226 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d c pont (új)
dc) a természetes személyek érzelmeiből következtetést levonó MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata a bűnüldözés, a határigazgatás, a munkahelyek és az oktatási intézmények területén.
Módosítás 227 Rendeletre irányuló javaslat 5 cikk – 1 bekezdés – d d pont (új)
dd) a nyilvánosság számára hozzáférhető helyekről rögzített felvételek elemzésére szolgáló MI-rendszerek üzembe helyezése vagy használata „nem valós idejű” távoli biometrikus azonosító rendszereken keresztül, kivéve, ha azok az uniós joggal összhangban előzetes bírósági engedély tárgyát képezik, és feltétlenül szükségesek az EUMSZ 83. cikkének (1) bekezdésében meghatározott konkrét, súlyos bűncselekményhez kapcsolódó, már elvégzett, bűnüldözési célú, célzott kutatáshoz.
(1a) Ez a cikk nem érinti azokat a tilalmakat, amelyek akkor alkalmazandók, ha a mesterséges intelligencia gyakorlata más uniós jogot sért, beleértve az adatvédelemre, a megkülönböztetésmentességre, a fogyasztóvédelemre vagy a versenyre vonatkozó uniós jogot is;
(2) A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, az (1) bekezdés d) pontjában említett célok bármelyike tekintetében történő használata során figyelembe kell venni a következőket:
törölve
a) a lehetséges használatot eredményező helyzet jellege, különösen a rendszer használatának hiányában okozott kár súlyossága, valószínűsége és mértéke;
b) a rendszer használatának valamennyi érintett személy jogaira és szabadságaira gyakorolt következményei, különösen e következmények súlyossága, valószínűsége és mértéke.
Emellett a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, az (1) bekezdés d) pontjában említett célok bármelyike tekintetében történő használatának meg kell felelnie a használattal kapcsolatos szükséges és arányos biztosítékoknak és feltételeknek, különösen az időbeli, földrajzi és személyi korlátozások tekintetében.
(3) Ami az (1) bekezdés d) pontját és a (2) bekezdést illeti, a „valós idejű” távoli biometrikus azonosító rendszer nyilvánosság számára hozzáférhető helyeken, bűnüldözési célokra történő minden egyes használata a használat helye szerinti tagállam igazságügyi hatósága vagy független közigazgatási hatósága által kiadott előzetes engedélyhez kötött, amelyet indokolt megkeresésre, a (4) bekezdésben említett nemzeti jogszabályok részletes szabályaival összhangban bocsátanak ki. Kellően indokolt sürgős helyzetben azonban a rendszer használata engedély nélkül is megkezdhető, és az engedélyt elegendő a használat alatt vagy után megkérni.
törölve
Az illetékes igazságügyi vagy közigazgatási hatóság csak akkor adja meg az engedélyt, ha az elé terjesztett objektív bizonyítékok vagy egyértelmű jelzések alapján meggyőződött arról, hogy a szóban forgó „valós idejű” távoli biometrikus azonosító rendszer használata az (1) bekezdés d) pontjában meghatározott, a megkeresésben megjelölt célok valamelyikének eléréséhez szükséges és azzal arányos. A megkeresésről való döntés során az illetékes igazságügyi vagy közigazgatási hatóság figyelembe veszi a (2) bekezdésben említett tényezőket.
(4) A tagállamok dönthetnek úgy, hogy az (1) bekezdés d) pontjában, valamint a (2) és (3) bekezdésben felsorolt korlátokon belül és feltételek mellett lehetővé teszik a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatának teljes vagy részleges engedélyezését. Az említett tagállam nemzeti jogában meghatározza a (3) bekezdésben említett engedélyek kérelmezésére, kiadására és felhasználására, valamint az azokkal kapcsolatos felügyeletre vonatkozó szükséges részletes szabályokat. Ezekben a szabályokban azt is meg kell határozni, hogy az (1) bekezdés d) pontjában felsorolt célok közül melyek tekintetében, és az (1) bekezdés d) pontjának iii. alpontjában említett bűncselekmények közül melyek tekintetében engedélyezhető az illetékes hatóságok számára az említett rendszerek bűnüldözési célú használata.
törölve
Módosítás 232 Rendeletre irányuló javaslat 6 cikk – 1 bekezdés – a pont
a) az MI-rendszert a II. mellékletben felsorolt uniós harmonizációs jogszabályok hatálya alá tartozó termék biztonsági alkatrészeként vagy önmagában ilyen termékként kívánják használni;
a) az MI-rendszert a II. mellékletben felsorolt uniós harmonizációs jog hatálya alá tartozó termék biztonsági alkatrészeként vagy az MI-rendszert önmagában ilyen termékként kívánják használni;
Módosítás 233 Rendeletre irányuló javaslat 6 cikk – 1 bekezdés – b pont
b) azon terméket, amelynek biztonsági alkatrésze az MI-rendszer, vagy magát az MI-rendszert mint terméket a II. mellékletben felsorolt uniós harmonizációs jogszabályok értelmében a termék forgalomba hozatala vagy üzembe helyezése céljából harmadik fél által végzett megfelelőségértékelésnek kell alávetni.
b) azon terméket, amelynek az a) pont szerinti biztonsági alkatrésze az MI-rendszer, vagy magát az MI-rendszert mint terméket a II. mellékletben felsorolt uniós harmonizációs jog értelmében a termék forgalomba hozatala vagy üzembe helyezése céljából harmadik fél által végzett, az egészségügyi és biztonsági kockázatokkal kapcsolatos megfelelőségértékelésnek kell alávetni;
(2) Az (1) bekezdésben említett nagy kockázatú MI-rendszerek mellett a III. mellékletben említett MI-rendszereket is nagy kockázatúnak kell tekinteni.
(2) Az (1) bekezdésben említett nagy kockázatú MI-rendszerek mellett a III. mellékletben említett kritikus területek és felhasználási esetek közül egy vagy több alá tartozó MI-rendszereket akkor kell nagy kockázatúnak tekinteni, ha jelentős veszélyt jelentenek a természetes személyek egészségére, biztonságára vagy alapvető jogaira. Amennyiben egy MI-rendszer a III. melléklet 2. pontjának hatálya alá tartozik, akkor minősül nagy kockázatúnak, ha jelentős kockázatot jelent a környezetre nézve.
A Bizottság e rendelet hatálybalépése előtt hat hónappal, az MI-hivatallal és az érintett érdekelt felekkel folytatott konzultációt követően iránymutatást ad ki, amelyben egyértelműen meghatározza azokat a körülményeket, amelyek esetén a III. mellékletben említett MI-rendszerek kimenete jelentős veszélyt jelentene a természetes személyek egészségére, biztonságára vagy alapvető jogaira nézve, illetve azokat az eseteket, amelyekben nem.
(2a) Amennyiben a III. mellékletben említett egy vagy több kritikus terület és felhasználási eset alá tartozó szolgáltatók úgy ítélik meg, hogy MI-rendszerük a (2) bekezdésben leírtak szerint nem jelent jelentős kockázatot, indokolással ellátott értesítést kell küldeniük a nemzeti felügyeleti hatóságnak arról, hogy az e rendelet III. címének 2. fejezetében foglalt követelmények nem vonatkoznak rájuk. Amennyiben az MI-rendszert két vagy több tagállamban kívánják használni, ezt az értesítést az MI-hivatalnak kell címezni. A 65. cikk sérelme nélkül a nemzeti felügyeleti hatóság három hónapon belül felülvizsgálja az értesítést és – közvetlenül vagy az MI-hivatalon keresztül – válaszol rá, ha úgy ítéli meg, hogy az MI-rendszer téves besorolást kapott.
(2b) Azok a szolgáltatók, amelyek MI-rendszerüket tévesen úgy minősítik, hogy az nem tartozik e rendelet III. címének 2. fejezetében foglalt követelmények hatálya alá, és azt a nemzeti felügyeleti hatóságok általi kifogás benyújtására megállapított határidő előtt forgalomba hozzák, a 71. cikk szerinti pénzbírsággal sújthatók.
(2c) A nemzeti felügyeleti hatóságok éves jelentést nyújtanak be az MI-hivatalnak, amelyben részletezik a beérkezett bejelentések számát, az érintett nagy kockázatú területeket és a beérkezett értesítésekkel kapcsolatban hozott határozatokat.
(1) A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy aktualizálja a III. mellékletben szereplő listát nagy kockázatú MI-rendszerek hozzáadásával, amennyiben mindkét alábbi feltétel teljesül:
(1) A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy módosítsa a III. mellékletet nagy kockázatú MI-rendszerekkel kapcsolatos területek vagy felhasználási esetek hozzáadásával vagy módosításával, amennyiben ezek jelentős kockázatot jelentenek az egészségre és biztonságra, illetve az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra nézve, és ez a kockázat – súlyosságát és előfordulásának valószínűségét tekintve – megegyezik a III. mellékletben már említett nagy kockázatú MI-rendszerek által okozott kár vagy káros hatás kockázatával vagy annál nagyobb.
Módosítás 239 Rendeletre irányuló javaslat 7 cikk – 1 bekezdés – a pont
a) az MI-rendszereket a III. melléklet 1–8. pontjában felsorolt területek valamelyikén kívánják használni;
törölve
Módosítás 240 Rendeletre irányuló javaslat 7 cikk – 1 bekezdés – b pont
b) az MI-rendszerek az egészségben és a biztonságban okozott kár vagy az alapvető jogokat érő kedvezőtlen hatás tekintetében olyan kockázattal járnak, amely – súlyosságát és előfordulásának valószínűségét tekintve – megegyezik a III. mellékletben már említett nagy kockázatú MI-rendszerek által okozott kár vagy kedvezőtlen hatás kockázatával vagy annál nagyobb.
(1a) A Bizottság felhatalmazást kap arra is, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy törölje a nagy kockázatú MI-rendszerek felhasználási eseteit a III. mellékletben szereplő jegyzékből, amennyiben az (1) bekezdésben említett feltételek már nem állnak fenn;
(2) Az (1) bekezdés alkalmazásában annak értékelésekor, hogy egy MI-rendszer által az egészségben és biztonságban okozott kár kockázata vagy az általa az alapvető jogokra gyakorolt kedvezőtlen hatás kockázata a III. mellékletben már említett, nagy kockázatú MI-rendszerek által okozott kár kockázatával megegyező vagy annál nagyobb-e, a Bizottság a következő kritériumokat veszi figyelembe:
(2) Az (1) és (1a) bekezdés alkalmazásában egy MI-rendszer értékelésekor a Bizottság a következő kritériumokat veszi figyelembe:
Módosítás 243 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – a a pont (új)
aa) az MI-rendszer általános képességei és funkciói, függetlenül annak rendeltetésétől;
Módosítás 244 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – b a pont (új)
ba) az MI-rendszer által kezelt és felhasznált adatok jellege és mennyisége;
Módosítás 245 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – b b pont (új)
bb) az MI-rendszer autonóm cselekvésének mértéke;
Módosítás 246 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – c pont
c) az, hogy egy MI-rendszer használata milyen mértékben okozott már kárt az egészségben és a biztonságban, vagy milyen kedvezőtlen hatást gyakorolt az alapvető jogokra, vagy milyen jelentős aggodalomra adott okot az ilyen kár vagy kedvezőtlen hatás bekövetkezésével kapcsolatban, amint azt a nemzeti illetékes hatóságokhoz benyújtott jelentések vagy dokumentált állítások bizonyítják;
c) az, hogy egy MI-rendszer használata milyen mértékben okozott már kárt az egészségben és a biztonságban, milyen kedvezőtlen hatást gyakorolt az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra, vagy milyen jelentős aggodalomra adott okot az ilyen kár vagy kedvezőtlen hatás valószínűségével kapcsolatban, amint azt a nemzeti felügyeleti hatóságokhoz, a Bizottsághoz, az MI-hivatalhoz, az európai adatvédelmi biztoshoz vagy az Európai Unió Alapjogi Ügynökségéhez benyújtott jelentések vagy dokumentált állítások bizonyítják;
Módosítás 247 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – d pont
d) az ilyen kár vagy kedvezőtlen hatás lehetséges mértéke, különösen annak intenzitása tekintetében és azt illetően, hogy érinthet-e több személyt;
d) az ilyen kár vagy kedvezőtlen hatás lehetséges mértéke, különösen annak intenzitása tekintetében és azt illetően, hogy érinthet-e több személyt vagy aránytalanul érintheti-e személyek egy adott csoportját;
Módosítás 248 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – e pont
e) az, hogy a potenciálisan károsult vagy kedvezőtlen hatásnak kitett személyek milyen mértékben függnek az MI-rendszerrel elért kimenettől, különösen azért, mert gyakorlati vagy jogi okokból észszerűen nem lehet a kimeneten kívül maradni;
e) az, hogy a potenciálisan károsult vagy kedvezőtlen hatásnak kitett személyek milyen mértékben függnek az MI-rendszer használatával elért kimenettől, és ez a kimenet a meghozandó intézkedés vagy döntés tekintetében pusztán kiegészítő jellegű, különösen azért, mert gyakorlati vagy jogi okokból észszerűen nem lehet a kimeneten kívül maradni;
Módosítás 249 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – e a pont (új)
ea) az MI-rendszerrel és az azt alátámasztó technológiával való esetleges visszaélés és ezek rosszindulatú felhasználása;
Módosítás 250 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – f pont
f) az, hogy a potenciálisan károsult vagy kedvezőtlen hatásnak kitett személyek milyen mértékben vannak kiszolgáltatott helyzetben az MI-rendszer felhasználójával szemben, különösen az erőviszonyok, a tudás, a gazdasági vagy társadalmi körülmények vagy az életkor kiegyensúlyozatlansága miatt;
f) az, hogy az erőviszonyok milyen mértékben kiegyensúlyozatlanok, vagy a potenciálisan károsult vagy kedvezőtlen hatásnak kitett személyek milyen mértékben vannak kiszolgáltatott helyzetben az MI-rendszer felhasználójával szemben, különösen a státusz, a hatalom, a tudás, a gazdasági vagy társadalmi körülmények vagy az életkor kiegyensúlyozatlansága miatt;
Módosítás 251 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – g pont
g) az MI-rendszerrel létrehozott kimenet mennyire könnyen visszafordítható, amely esetben a személyek egészségére vagy biztonságára hatást gyakorló kimenetek nem tekinthetők könnyen visszafordíthatónak;
g) az MI-rendszer használatával elért kimenet mennyire könnyen visszafordítható vagy orvosolható, amely esetben a személyek egészségére, biztonságára, alapvető jogaira, a környezetre vagy a demokráciára és a jogállamiságra kedvezőtlen hatást gyakorló kimenetek nem tekinthetők könnyen visszafordíthatónak;
Módosítás 252 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – g a pont (új)
ga) az, hogy az MI-rendszer ellenőrzésére, megbízhatóságára és javíthatóságára szolgáló hatékony műszaki megoldások és mechanizmusok mennyire állnak rendelkezésre, és azokat mennyire használják;
Módosítás 253 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – g b pont (új)
gb) az MI-rendszer létesítéséből származó előnyök nagyságrendje és valószínűsége az egyének, csoportok vagy a társadalom egésze számára, beleértve a termékbiztonság lehetséges javulását;
Módosítás 254 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – g c pont (új)
gc) az emberi felügyelet mértéke és az emberi beavatkozás lehetősége potenciálisan kárt okozó döntés vagy javaslatok felülírása érdekében;
Módosítás 255 Rendeletre irányuló javaslat 7 cikk – 2 bekezdés – h pont
i. hatékony jogorvoslati intézkedések az MI-rendszerek jelentette kockázatokkal kapcsolatban, a kártérítési keresetek kizárásával;
h) a hatályos uniós jog milyen mértékben rendelkezik a következőkről:
i. hatékony jogorvoslati intézkedések az MI-rendszerek által okozott károkkal kapcsolatban, a közvetlen vagy közvetett károkra vonatkozó kártérítési keresetek kizárásával;
ii. hatékony intézkedések e kockázatok megelőzésére vagy jelentős minimalizálására.
(2a) Amikor a Bizottság az (1) vagy az (1a) bekezdés alkalmazásában egy MI-rendszert értékel, konzultál az MI-hivatallal és adott esetben azon csoportok képviselőivel, amelyekre az MI-rendszer hatással van, az ágazattal, a független szakértőkkel, a szociális partnerekkel és a civil társadalmi szervezetekkel. A Bizottság e tekintetben nyilvános konzultációkat is szervez, és e konzultációk és a végső értékelés eredményeit nyilvánosan hozzáférhetővé teszi;
(2b) Az MI-hivatal, a nemzeti felügyeleti hatóságok vagy az Európai Parlament felkérhetik a Bizottságot, hogy az (1) és az (1a) bekezdéssel összhangban értékelje újra és minősítse át az MI-rendszer kockázati besorolását. A Bizottság megindokolja döntését és közzéteszi indokolását.
(1a) Az e fejezetben meghatározott követelménynek való megfelelés során kellően figyelembe kell venni a 82b. cikkben említett iránymutatásokat, a technika általánosan elismert jelenlegi állását, beleértve a 40. és 41. cikkben hivatkozott, vonatkozó harmonizált szabványokban és egységes előírásokban foglaltakat, vagy az uniós harmonizációs jogszabályokban már meghatározottakat is;
(2) Az említett követelményeknek való megfelelés biztosítása során figyelembe kell venni a nagy kockázatú MI-rendszer rendeltetését és a 9. cikkben említett kockázatkezelési rendszert.
(2) Az említett követelményeknek való megfelelés biztosítása során figyelembe kell venni a nagy kockázatú MI-rendszer rendeltetését, az észszerűen előre látható rendellenes használatot és a 9. cikkben említett kockázatkezelési rendszert.
(2a) Mindaddig, amíg a III. cím 2. és 3. fejezetének vagy a VIII. cím 1., 2. és 3. fejezetének a nagy kockázatú MI-rendszerekre vonatkozó követelményeit a II. melléklet A. szakaszában felsorolt uniós harmonizációs jog szabályozza, az e rendelet említett fejezeteiben foglalt követelményeket vagy kötelezettségeket teljesítettnek kell tekinteni, amennyiben azok magukban foglalják az MI-komponenst. A III. cím 2. és 3. fejezetében vagy a VIII. cím 1., 2. és 3. fejezetében foglalt, a II. melléklet A. szakaszában felsorolt uniós harmonizációs jogszabályok hatálya alá nem tartozó nagy kockázatú MI-rendszerekre vonatkozó követelményeket adott esetben bele kell foglalni az említett uniós harmonizációs jogszabályba. A vonatkozó megfelelőségértékelést a II. melléklet A. szakaszában felsorolt uniós harmonizációs jog alapján meghatározott eljárások részeként kell elvégezni.
(1) A nagy kockázatú MI-rendszerek tekintetében kockázatkezelési rendszert kell létrehozni, bevezetni, dokumentálni és fenntartani.
(1) A nagy kockázatú MI-rendszerek tekintetében kockázatkezelési rendszert kell létrehozni, bevezetni, dokumentálni és fenntartani az MI-rendszer teljes életciklusa során.A kockázatkezelési rendszer beépíthető a vonatkozó uniós ágazati joggal kapcsolatos, már meglévő kockázatkezelési eljárásokba vagy azok részét képezheti, amennyiben megfelel e cikk követelményeinek.
(2) A kockázatkezelési rendszer olyan megszakítás nélkül végzett iteratív folyamat, amely a nagy kockázatú MI-rendszer egész életciklusát végigkíséri, és amelyhez az adatok rendszeres és szisztematikus aktualizálására van szükség. A folyamatnak a következő lépéseket kell tartalmaznia:
(2) A kockázatkezelési rendszer olyan megszakítás nélkül végzett iteratív folyamat, amely a nagy kockázatú MI-rendszer egész életciklusát végigkíséri, és amelyhez a kockázatkezelési folyamat rendszeres felülvizsgálatára és aktualizálására van szükség annak folyamatos hatékonyságának, valamint az e cikk hatálya alá tartozó valamennyi jelentős döntés és intézkedés dokumentálásának biztosítása érdekében. A folyamatnak a következő lépéseket kell tartalmaznia:
Módosítás 263 Rendeletre irányuló javaslat 9 cikk – 2 bekezdés – a pont
a) az egyes nagy kockázatú MI-rendszerekhez kapcsolódó ismert és előre látható kockázatok azonosítása és elemzése;
a) azon ismert és észszerűen előre látható kockázatok azonosítása, becslése és értékelése, amelyeket a nagy kockázatú MI-rendszer a természetes személyek egészségére vagy biztonságára, alapvető jogaira – beleértve az egyenlő hozzáférési feltételeket és lehetőségeket –, a demokráciára és a jogállamiságra, illetve a környezetre jelenthet, ha a nagy kockázatú MI-rendszert rendeltetésszerűen és az észszerűen előre látható rendellenes használat feltételeinek megfelelően használják;
Módosítás 264 Rendeletre irányuló javaslat 9 cikk – 2 bekezdés – b pont
b) a nagy kockázatú MI-rendszer rendeltetésszerű használata, valamint észszerűen előre látható rendellenes használata esetén felmerülő kockázatok becslése és értékelése;
törölve
Módosítás 265 Rendeletre irányuló javaslat 9 cikk – 2 bekezdés – c pont
c) egyéb esetlegesen felmerülő kockázatok értékelése a 61. cikkben említett forgalomba hozatal utáni nyomonkövetési rendszerből gyűjtött adatok elemzése alapján;
c) az a) pontban leírt és a 61. cikkben említett forgalomba hozatal utáni nyomonkövetési rendszerből gyűjtött adatok elemzése alapján azonosított, újonnan felmerülő, jelentős kockázatok értékelése;
Módosítás 266 Rendeletre irányuló javaslat 9 cikk – 2 bekezdés – d pont
d) megfelelő kockázatkezelési intézkedések elfogadása a következő bekezdésekben foglalt rendelkezésekkel összhangban.
d) az e bekezdés a) és b) pontja alapján azonosított kockázatok kezelésére irányuló helyénvaló és célzott kockázatkezelési intézkedések elfogadása a következő bekezdésekben foglalt rendelkezésekkel összhangban.
(3) A (2) bekezdés d) pontjában említett kockázatkezelési intézkedéseknek kellően figyelembe kell venniük az e 2. fejezetben meghatározott követelmények együttes alkalmazásából eredő hatásokat és lehetséges kölcsönhatásokat. Figyelembe kell venniüka technika általánosan elismert állását, többek között amint az a vonatkozó harmonizált szabványokban vagy egységes előírásokban megjelenik.
(3) A (2) bekezdés d) pontjában említett kockázatkezelési intézkedéseknek – a kockázatok hatékony csökkentése érdekében, biztosítva ugyanakkor a követelmények megfelelő és arányos végrehajtását – kellően figyelembe kell venniük az e 2. fejezetben meghatározott követelmények együttes alkalmazásából eredő hatásokat és lehetséges kölcsönhatásokat.
(4) A (2) bekezdés d) pontjában említett kockázatkezelési intézkedéseket úgy kell kialakítani, hogy az egyes veszélyekhez kapcsolódó minden fennmaradó kockázatot, valamint a nagy kockázatú MI-rendszerek teljes fennmaradó kockázatát elfogadhatónak ítéljék, feltéve, hogy a nagy kockázatú MI-rendszert rendeltetésszerűen vagy észszerűen előre láthatóan rendellenesen használják. Ezeket a fennmaradó kockázatokat közölni kell a felhasználóval.
(4) A (2) bekezdés d) pontjában említett kockázatkezelési intézkedéseket úgy kell kialakítani, hogy az egyes veszélyekhez kapcsolódó releváns fennmaradó kockázatot, valamint a nagy kockázatú MI-rendszerek teljes fennmaradó kockázatát észszerűen elfogadhatónak ítéljék, feltéve, hogy a nagy kockázatú MI-rendszert rendeltetésszerűen vagy észszerűen előre láthatóan rendellenesen használják. Ezeket a fennmaradó kockázatokat és az indokolással ellátott döntéseket közölni kell az alkalmazóval.
A legmegfelelőbb kockázatkezelési intézkedések meghatározásakor a következőket kell biztosítani:
Módosítás 269 Rendeletre irányuló javaslat 9 cikk – 4 bekezdés – 1 albekezdés – a pont
a) a kockázatok megszüntetése vagy csökkentése, amennyire lehetséges, megfelelő tervezés és fejlesztés révén;
a) az azonosított kockázatok megszüntetése vagy csökkentése, amennyire ez technikailag megvalósíthatóa nagy kockázatú MI-rendszer megfelelő tervezése és fejlesztése révén, adott esetben szakértők és külső érdekelt felek bevonásával;
Módosítás 270 Rendeletre irányuló javaslat 9 cikk – 4 bekezdés – 1 albekezdés – b pont
b) adott esetben a nem megszüntethető kockázatokkal kapcsolatos megfelelő kockázatcsökkentő és ellenőrző intézkedések végrehajtása;
b) adott esetben a nem megszüntethető, jelentős kockázatokat kezelő megfelelő kockázatcsökkentő és ellenőrző intézkedések végrehajtása;
Módosítás 271 Rendeletre irányuló javaslat 9 cikk – 4 bekezdés – 1 albekezdés – c pont
c) a 13. cikk szerinti megfelelő tájékoztatás nyújtása, különösen az e cikk (2) bekezdésének b) pontjában említett kockázatokra vonatkozóan, valamint adott esetben a felhasználók képzése.
c) a 13. cikk szerinti szükséges tájékoztatás nyújtása, valamint adott esetben az alkalmazók képzése.
A nagy kockázatú MI-rendszer használatával kapcsolatos kockázatok megszüntetése vagy csökkentése során kellő figyelmet kell fordítani a felhasználó által elvárt műszaki ismeretekre, tapasztalatokra, oktatásra és képzésre, valamint arra a környezetre, amelyben a rendszert használni kívánják.
A nagy kockázatú MI-rendszer használatával kapcsolatos kockázatok megszüntetése vagy csökkentése során a szolgáltatóknak kellő figyelmet kell fordítaniuk azokra a műszaki ismeretekre, tapasztalatokra, oktatásra és képzésre, amelyekre az alkalmazónak szüksége lehet, ideértve azt a kontextust is, amelyben a rendszert feltételezhetően használni kívánják.
(5) A nagy kockázatú MI-rendszereket tesztelni kell a legmegfelelőbb kockázatkezelési intézkedések azonosítása céljából. A tesztelés biztosítja, hogy a nagy kockázatú MI-rendszerek következetesen működjenek a rendeltetésüknek megfelelően, és megfeleljenek az e fejezetben meghatározott követelményeknek.
(5) A nagy kockázatú MI-rendszereket tesztelni kell a legmegfelelőbb és célzott kockázatkezelési intézkedések azonosítása céljából, a rendszer lehetséges előnyei és kitűzött céljai szempontjából mérlegelve minden ilyen intézkedést. A tesztelés biztosítja, hogy a nagy kockázatú MI-rendszerek következetesen működjenek a rendeltetésüknek megfelelően, és megfeleljenek az e fejezetben meghatározott követelményeknek.
(6) A tesztelési eljárásoknak alkalmasnak kell lenniük az MI-rendszer rendeltetésének teljesítésére, és nem kell túllépniük az e cél eléréséhez szükséges mértéket.
(6) A tesztelési eljárásoknak alkalmasnak kell lenniük az MI-rendszer rendeltetésének teljesítésére.
(7) A nagy kockázatú MI-rendszerek tesztelését adott esetben a fejlesztési folyamat során bármikor, de mindenképpen a forgalomba hozatalt vagy az üzembe helyezést megelőzően kell elvégezni. A tesztelést a nagy kockázatú MI-rendszer rendeltetésének megfelelő, előre meghatározott mérőszámok és valószínűségi küszöbértékek alapján kell lefolytatni.
(7) A nagy kockázatú MI-rendszerek tesztelését a forgalomba hozatalt vagy az üzembe helyezést megelőzően kell elvégezni. A tesztelést a nagy kockázatú MI-rendszer rendeltetésének vagy észszerűen előre látható rendellenes használatának megfelelő, előzetesen meghatározott mérőszámok és valószínűségi küszöbértékek alapján kell lefolytatni.
(8) Az (1)–(7) bekezdésben ismertetett kockázatkezelési rendszer végrehajtása során különös figyelmet kell fordítani arra, hogy a nagy kockázatú MI-rendszerhez a gyermekek valószínűleg hozzáférnek-e, vagy az hatással lesz-e rájuk.
(8) Az (1)–(7) bekezdésben ismertetett kockázatkezelési rendszer végrehajtása során a szolgáltatóknak különös figyelmet kell fordítaniuk arra, hogy a nagy kockázatú MI-rendszer kedvezőtlen hatást gyakorolhat-e a kiszolgáltatott csoportokra vagy a gyerekekre.
(9) A 2013/36/EU irányelv által szabályozott hitelintézetek esetében az (1)–(8) bekezdésben leírt szempontok az ezen intézmények által az említett irányelv 74. cikke alapján létrehozott kockázatkezelési eljárások részét képezik.
(9) A már más uniós jogi aktusok hatálya alá tartozó MI-rendszerek szolgáltatói esetében – beleértve a 2013/36/EU irányelv által szabályozott hitelintézeteket is – az (1)–(8) bekezdésben leírt szempontok az említett uniós jogi aktusok alapján létrehozott kockázatkezelési eljárások részét képezik.
(1) A modellek adatokkal való tanítását magukban foglaló technikákat használó nagy kockázatú MI-rendszereket a (2)–(5) bekezdésben említett minőségi kritériumoknak megfelelő tanulóadat-, érvényesítésiadat- és tesztadatkészletek alapján kell fejleszteni.
(1) A modellek adatokkal való tanítását magukban foglaló technikákat használó nagy kockázatú MI-rendszereket a (2)–(5) bekezdésben említett minőségi kritériumoknak megfelelő tanulóadat-, érvényesítésiadat- és tesztadatkészletek alapján kell fejleszteni, amennyiben ez az adott piaci szegmensnek vagy alkalmazási területnek megfelelően technikailag megvalósítható.
A címkézett bemeneti adatokat nem igénylő technikákat, például a felügyelet nélküli tanulást és a megerősítéses tanulást olyan adatkészletek alapján kell kifejleszteni, például tesztelés és ellenőrzés céljából, amelyek megfelelnek a (2)–(5) bekezdésben említett minőségi kritériumoknak.
(2) A tanulóadat-, érvényesítésiadat- és tesztadatkészleteket megfelelő adatkormányzási és adatgazdálkodási gyakorlatoknak kell alávetni. Ezek a gyakorlatok különösen a következőket érintik:
(2) A tanulóadat-, érvényesítésiadat- és tesztadatkészleteket a felhasználás kontextusának és az MI-rendszer rendeltetésének megfelelő adatkormányzásnak kell alávetni. Ezek az intézkedések különösen a következőket érintik:
Módosítás 280 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – a a pont (új)
aa) az adatgyűjtés eredeti céljával kapcsolatos átláthatóság;
Módosítás 281 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – b pont
b) adatgyűjtés;
b) adatgyűjtési eljárások;
Módosítás 282 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – c pont
c) releváns adat-előkészítési műveletek, mint például annotáció, címkézés, tisztítás, gazdagítás és összesítés;
c) adat-előkészítési műveletek, mint például annotáció, címkézés, tisztítás, frissítés, gazdagítás és összesítés;
Módosítás 283 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – d pont
d) a vonatkozó feltételezések megfogalmazása, különös tekintettel azokra az információkra, amelyeket az adatoknak mérniük kell és meg kell jeleníteniük;
d) a feltételezések megfogalmazása, különös tekintettel azokra az információkra, amelyeket az adatoknak mérniük kell és meg kell jeleníteniük;
Módosítás 284 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – e pont
e) a szükséges adatkészletek elérhetőségének, mennyiségének és alkalmasságának előzetes értékelése;
e) a szükséges adatkészletek elérhetőségének, mennyiségének és alkalmasságának értékelése;
Módosítás 285 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – f pont
f) az esetleges torzítások vizsgálata;
f) az olyan esetleges torzítások vizsgálata, amelyek valószínűleg hatással lehetnek a személyek egészségére és biztonságára, negatívan befolyásolhatják az alapvető jogokat vagy az uniós jog által tiltott megkülönböztetéshez vezethetnek, különösen akkor, ha az adatok kimenetei befolyásolják a jövőbeli műveletek bemeneteit („visszacsatolási hurkok”), valamint az esetleges torzítások észlelésére, megelőzésére és enyhítésére irányuló megfelelő intézkedések;
Módosítás 286 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – f a pont (új)
fa) megfelelő intézkedések az esetleges torzítások felderítésére, megelőzésére és enyhítésére;
Módosítás 287 Rendeletre irányuló javaslat 10 cikk – 2 bekezdés – g pont
g) az esetleges adathiányok vagy hiányosságok azonosítása, valamint e hiányok és hiányosságok kezelésének módja.
g) az e rendeletnek való megfelelést akadályozó releváns adathiányok vagy hiányosságok azonosítása, valamint e hiányok és hiányosságok kezelésének módja;
(3) A tanulóadat-, érvényesítésiadat- és tesztadatkészleteknek relevánsnak, reprezentatívnak, hibáktól mentesnek és teljesnek kell lenniük. Rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között adott esetben azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a nagy kockázatú MI-rendszert használni kívánják. Az adatkészletek e jellemzői teljesíthetők az egyes adatkészleteknek vagy azok kombinációjának a szintjén.
(3) A tanulóadat-készleteknek és – amennyiben használják – az érvényesítésiadat- és tesztadat-készleteknek, beleértve a címkéket is, relevánsnak, kellően reprezentatívnak és a hibamentesség tekintetében megfelelően ellenőrzöttnek és a lehető legteljesebbnek kell lenniük, tekintettel a rendeltetésre. Rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között adott esetben azon személyek vagy személyek csoportjai tekintetében, akik vagy amelyek vonatkozásában a nagy kockázatú MI-rendszert használni kívánják. Az adatkészletek e jellemzőit az egyes adatkészleteknek vagy azok kombinációjának a szintjén kell teljesíteni.
(4) A tanulóadat-, érvényesítésiadat- és tesztadatkészletek – a rendeltetéstől függően szükséges mértékben – figyelembe veszik azokat a jellemzőket vagy elemeket, amelyek azon sajátos földrajzi, magatartási vagy funkcionális környezethez kapcsolódnak, amelyben a nagy kockázatú MI-rendszert használni kívánják.
(4) Az adatkészletek – az MI-rendszerek rendeltetésétől vagy észszerűen előre látható rendellenes használatától függően szükséges mértékben – figyelembe veszik azokat a jellemzőket vagy elemeket, amelyek azon sajátos földrajzi, kontextuális, magatartási vagy funkcionális környezethez kapcsolódnak, amelyben a nagy kockázatú MI-rendszert használni kívánják.
(5) Amennyiben ez a nagy kockázatú MI-rendszerekkel kapcsolatosan a torzítás nyomon követésének, észlelésének és korrekciójának biztosításához feltétlenül szükséges, az ilyen rendszerek szolgáltatói kezelhetik a személyes adatoknak az (EU) 2016/679 rendelet 9. cikkének (1) bekezdésében, az (EU) 2016/680 irányelv 10. cikkében és az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdésében említett különleges kategóriáit, a természetes személyek alapvető jogaira és szabadságaira vonatkozó megfelelő biztosítékokra is figyelemmel, ideértve a legkorszerűbb biztonsági és magánéletvédelmi intézkedések – köztük az álnevesítés, vagy ha az anonimizálás jelentősen befolyásolja a kitűzött célt, a titkosítás – további felhasználására és használatára vonatkozó technikai korlátokat is.
(5) Amennyiben ez a nagy kockázatú MI-rendszerekkel kapcsolatosan a negatív torzítás észlelésének és korrekciójának biztosításához feltétlenül szükséges, az ilyen rendszerek szolgáltatói kivételes jelleggel kezelhetik a személyes adatoknak az (EU) 2016/679 rendelet 9. cikkének (1) bekezdésében, az (EU) 2016/680 irányelv 10. cikkében és az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdésében említett különleges kategóriáit, a természetes személyek alapvető jogaira és szabadságaira vonatkozó megfelelő biztosítékokra is figyelemmel, ideértve a legkorszerűbb biztonsági és magánéletvédelmi intézkedések további felhasználására és használatára vonatkozó technikai korlátokat is. Ahhoz, hogy ez a feldolgozás megtörténhessen, különösen az alábbi feltételek mindegyikének kell teljesülnie:
a) a torzítás észlelése és korrigálása szintetikus vagy anonimizált adatok feldolgozásával nem valósítható meg hatékonyan;
b) az adatok álnevesítve vannak;
c) a szolgáltató megfelelő technikai és szervezési intézkedéseket hoz annak biztosítása érdekében, hogy az e bekezdés alkalmazásában feldolgozott adatok biztonságosak és védettek legyenek, megfelelő biztosítékok hatálya alá tartozzanak, és ezekhez az adatokhoz csak felhatalmazott személyek férjenek hozzá megfelelő titoktartási kötelezettség mellett;
d) az e bekezdés alkalmazásában kezelt adatok nem továbbíthatók, nem ruházhatók át, és nem tehetők harmadik felek által egyéb módon hozzáférhetővé;
e) az e bekezdés alkalmazásában kezelt adatok megfelelő technikai és szervezeti intézkedések útján védelem alatt állnak, illetve törlésre kerülnek, miután a torzítást kiigazították, vagy a személyes adatok megőrzési időszaka lejárt;
f) hatékony és megfelelő intézkedések vannak érvényben az adatkezelési rendszerek és szolgáltatások műszaki vagy fizikai meghibásodás esetén történő rendelkezésre állásának, biztonságának és az ilyen meghibásodással szembeni rezilienciájának biztosítása érdekében;
g) hatékony és megfelelő intézkedések vannak érvényben azon helyszínek fizikai biztonságának biztosítására, ahol az adatokat tárolják és kezelik, a belső informatikai és az informatikai biztonsági irányításra és kezelésre, valamint a folyamatok és termékek tanúsítására;
Az e rendelkezést alkalmazó szolgáltatóknak dokumentációt kell készíteniük, amelyben megindokolják, hogy a személyes adatok különleges kategóriáinak kezelése miért volt szükséges a torzítás észleléséhez és korrigálásához.
(6a) Amennyiben a szolgáltató azért nem tud eleget tenni az e cikkben megállapított kötelezettségeknek, mert nem fér hozzá az adatokhoz, és az adatokat kizárólagosan az alkalmazó birtokolja, szerződés alapján az alkalmazó is felelősségre vonható e cikk megsértéséért.
A műszaki dokumentációt úgy kell összeállítani, hogy bizonyítsa, a nagy kockázatú MI-rendszer megfelel az e fejezetben meghatározott követelményeknek, és hogy a nemzeti illetékes hatóságok és a bejelentett szervezetek minden szükséges információhoz hozzájussanak belőle annak értékeléséhez, hogy az MI-rendszer megfelel-e az említett követelményeknek. A műszaki dokumentációnak legalább a IV. mellékletben meghatározott elemeket tartalmaznia kell.
A műszaki dokumentációt úgy kell összeállítani, hogy bizonyítsa, a nagy kockázatú MI-rendszer megfelel az e fejezetben meghatározott követelményeknek, és hogy a nemzeti felügyeleti hatóságok és a bejelentett szervezetek a szükséges információhoz hozzájussanak belőle annak értékeléséhez, hogy az MI-rendszer megfelel-e az említett követelményeknek. A műszaki dokumentációnak legalább a IV. mellékletben meghatározott elemeket, illetve kkv-k és induló innovatív vállalkozások esetében az nemzeti illetékes hatóság jóváhagyásától függően bármely ezzel egyenértékű, azonos célokat szolgáló dokumentációt tartalmaznia kell.
(2) Olyan termékhez kapcsolódó nagy kockázatú MI-rendszer forgalombahozatala vagy üzembe helyezése esetén, amelyre a II. melléklet A. szakaszában felsorolt jogi aktusok vonatkoznak, egyetlen műszaki dokumentációt kell készíteni, amely tartalmazza a IV. mellékletben meghatározott összes információt, valamint az említett jogi aktusokban előírt információkat.
(2) Olyan termékhez kapcsolódó nagy kockázatú MI-rendszer forgalombahozatala vagy üzembe helyezése esetén, amelyre a II. melléklet A. szakaszában felsorolt jogi aktusok vonatkoznak, egyetlen műszaki dokumentációt kell készíteni, amely tartalmazza az (1) bekezdésben meghatározott összes információt, valamint az említett jogi aktusokban előírt információkat.
(3a) A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő szolgáltatók az említett irányelv 74. cikke szerinti belső irányításra, rendszerekre, eljárásokra és mechanizmusokra vonatkozó dokumentáció részeként őrzik meg a műszaki dokumentációt.
(1) A nagy kockázatú MI-rendszereket olyan képességekkel kell megtervezni és fejleszteni, amelyek lehetővé teszik az események automatikus rögzítését („naplózás”) a nagy kockázatú MI-rendszerek működése közben. Ezeknek a naplózási képességeknek meg kell felelniük az elismert szabványoknak vagy az egységes előírásoknak.
(1) A nagy kockázatú MI-rendszereket olyan képességekkel kell megtervezni és fejleszteni, amelyek lehetővé teszik az események automatikus rögzítését („naplózás”) a nagy kockázatú MI-rendszerek működése közben. Ezeknek a naplózási képességeknek meg kell felelniük a legkorszerűbb elismert szabványoknak vagy az egységes előírásoknak.
(2) A naplózási képességeknek az MI-rendszer teljes életciklusa során biztosítaniuk kell az MI-rendszer működésének a rendszer rendeltetésének megfelelő szintű nyomonkövethetőségét.
(2) Annak biztosítása érdekében, hogy az MI-rendszer teljes élettartama alatt a rendszer rendeltetésének megfelelő mértékben nyomon követhető legyen, a naplózási képességeknek elő kell segíteniük a műveleteknek a 29. cikk (4) bekezdésében említett nyomon követését, valamint a 61. cikkben említett forgalomba hozatal utáni nyomon követést. Lehetővé kell tenniük különösen az olyan helyzetek azonosítása szempontjából releváns események rögzítését, amelyek:
a) azt eredményezik, hogy az MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent; vagy
b) az MI-rendszer jelentős módosulását eredményezik.
(2a) A nagy kockázatú MI-rendszereket olyan naplózási képességekkel kell kialakítani és fejleszteni, amelyek lehetővé teszik az energiafogyasztás rögzítését, a nagy kockázatú MI-rendszer erőforrás-felhasználásának és környezeti hatásának mérését vagy kiszámítását a rendszer életciklusának valamennyi szakaszában.
(3) A naplózási képességeknek különösen lehetővé kell tenniük a nagy kockázatú MI-rendszer működésének nyomon követését olyan helyzetek előfordulása tekintetében, amelyek eredményeként az MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, vagy amelyek jelentős módosításhoz vezetnek; e képességek továbbá megkönnyítik a 61. cikkben említett, forgalomba hozatal utáni nyomon követést.
törölve
Módosítás 299 Rendeletre irányuló javaslat 13 cikk – cím
(1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy működésük kellően átlátható legyen ahhoz, hogy a felhasználók értelmezhessék a rendszer kimenetét és megfelelően használhassák azt. A felhasználó és a szolgáltató e cím 3. fejezetében meghatározott vonatkozó kötelezettségeinek való megfelelés érdekében megfelelő típusú és mértékű átláthatóságot kell biztosítani.
(1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy működésük kellően átlátható legyen ahhoz, hogy a szolgáltatók és a felhasználók az észszerűen elvárható mértékben megérthessék a rendszer működését. A felhasználó és a szolgáltató e cím 3. fejezetében meghatározott vonatkozó kötelezettségeinek való megfelelés érdekében megfelelő átláthatóságot kell biztosítani az MI-rendszer rendeltetésének megfelelően.
Az átláthatóság így azt jelenti, hogy a nagy kockázatú MI-rendszer forgalomba hozatalakor a technika általánosan elismert állásának megfelelően minden rendelkezésre álló technikai eszközt felhasználnak annak biztosítására, hogy az MI-rendszer kimenete a szolgáltató és a felhasználó számára értelmezhető legyen. A felhasználó számára lehetővé kell tenni az MI-rendszer megfelelő megértését és használatát azáltal, hogy általánosságban ismeri az MI-rendszer működését és hogy milyen adatokat dolgoz fel, lehetővé téve a felhasználó számára, hogy elmagyarázza az érintett személynek az MI-rendszer által a 68. cikk c) pontja szerint hozott döntéseket.
(2) A nagy kockázatú MI-rendszerekhez megfelelő digitális formátumú vagy egyéb használati utasítást kell mellékelni, amely tömör, teljes körű, pontos és egyértelmű, a felhasználók számára releváns, hozzáférhető és érthető információkat tartalmaz.
(2) A nagy kockázatú MI-rendszerekhez megfelelő digitális formátumú vagy egyéb formátumban, tartós adathordozón elérhető, érthető használati utasítást kell mellékelni, amely tömör, pontos, egyértelmű és a lehető legnagyobb mértékben teljes körű információkat tartalmaz, amelyek segítik az MI-rendszer üzemeltetését és karbantartását, valamint a felhasználók számára kellőképpen releváns, hozzáférhető és érthető információkat tartalmaz, amelyek segítik a felhasználó tájékozott döntéshozatalát.
(3) A (2) bekezdésben említett információk a következőket határozzák meg:
(3) Az (1) bekezdésben említett kimenet elérése érdekében a (2) bekezdésben említett információk a következőket határozzák meg:
Módosítás 303 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – a pont
a) a szolgáltatónak és – ha van ilyen – a meghatalmazott képviselőjének a kiléte és elérhetőségei;
a) a szolgáltatónak és – ha van ilyen – a meghatalmazott képviselőinek a kiléte és elérhetőségei;
Módosítás 304 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – a a pont (új)
aa) amennyiben az nem azonos a szolgáltatóval, a megfelelőségértékelést végző szervezet és adott esetben meghatalmazott képviselőjének kiléte és elérhetőségei;
Módosítás 305 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – b pont – bevezető rész
b) a nagy kockázatú MI-rendszer jellemzői, képességei és teljesítményének korlátai, beleértve a következőket:
b) a nagy kockázatú MI-rendszer jellemzői, képességei és teljesítményének korlátai, adott esetben beleértve a következőket:
Módosítás 306 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – b pont – ii alpont
ii. a 15. cikkben említett pontosság, stabilitás és kiberbiztonság azon várható szintje, amelyhez viszonyítva a nagy kockázatú MI-rendszert tesztelték és érvényesítették, valamint minden olyan ismert és előre látható körülmény, amely befolyásolhatja a pontosság, a stabilitás és a kiberbiztonság várható szintjét;
ii. a 15. cikkben említett pontosság, stabilitás és kiberbiztonság azon várható szintje, amelyhez viszonyítva a nagy kockázatú MI-rendszert tesztelték és érvényesítették, valamint minden olyan egyértelműen ismert és előre látható körülmény, amely befolyásolhatja a pontosság, a stabilitás és a kiberbiztonság várható szintjét;
Módosítás 307 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – b pont – iii alpont
iii. bármely ismert vagy előre látható, a nagy kockázatú MI-rendszer rendeltetésszerű használatával vagy az észszerűen előrelátható rendellenes használatával összefüggő körülmény, amely kockázatot jelenthet az egészségre és a biztonságra vagy az alapvető jogokra nézve;
iii. bármely egyértelműen ismert vagy előre látható, a nagy kockázatú MI-rendszer rendeltetésszerű használatával vagy az észszerűen előrelátható rendellenes használatával összefüggő körülmény, amely kockázatot jelenthet az egészségre és a biztonságra, az alapvető jogokra vagy a környezetre nézve, beleértve adott esetben az ilyen korlátokra és azokra a helyzetekre vonatkozó szemléltető példákat, amelyek esetében nem használható a rendszer;
Módosítás 308 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – c pont – iii a alpont (új)
iiia. annak a mértéke, hogy az MI-rendszer mennyire képes magyarázatot adni az általa hozott döntésekre;
Módosítás 309 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – b pont – v alpont
v. adott esetben a bemeneti adatokra vonatkozó előírások vagy az alkalmazott tanulóadat-, érvényesítésiadat- és tesztadatkészletekre vonatkozó egyéb releváns információk, figyelembe véve az MI-rendszer rendeltetését;
v. a rendszer teljesítményét befolyásolni képes felhasználói műveletekre vonatkozó releváns információk, többek között a bemeneti adatok típusa vagy minősége vagy az alkalmazott tanulóadat-, érvényesítésiadat- és tesztadatkészletekre vonatkozó egyéb releváns információk, figyelembe véve az MI-rendszer rendeltetését;
Módosítás 310 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – e pont
e) a nagy kockázatú MI-rendszer várható élettartama, valamint az említett MI-rendszer megfelelő működésének biztosításához szükséges karbantartási és gondozási intézkedések, többek között a szoftverfrissítések tekintetében.
e) az említett MI-rendszer megfelelő működésének biztosításához szükséges karbantartási és gondozási intézkedések, többek között a szoftverfrissítések is, a rendszer várható élettartama során.
Módosítás 311 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – e a pont (új)
ea) az MI-rendszerben foglalt mechanizmusok leírása, amelyek lehetővé teszik a felhasználók számára a naplók megfelelő gyűjtését, tárolását és értelmezését a 12. cikk (1) bekezdésével összhangban.
Módosítás 312 Rendeletre irányuló javaslat 13 cikk – 3 bekezdés – e b pont (új)
eb) A rendszerrel kapcsolatos információkat legalább annak az országnak a nyelvén rendelkezésre kell bocsátani, ahol az MI-rendszert alkalmazzák.
3a . Az e cikkben foglalt kötelezettségek teljesítése érdekében a szolgáltatók és a felhasználók a 4b. cikkel összhangban gondoskodnak a mesterséges intelligencia terén szerzett jártasság megfelelő szintjéről.
(1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni – többek között megfelelő ember–gép interfész eszközökkel –, hogy azokat az MI-rendszer használatának időtartama alatt természetes személyek hatékonyan felügyelhessék.
(1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni – többek között megfelelő ember–gép interfész eszközökkel –, hogy azokat a természetes személyek a rendszerekkel kapcsolatos kockázatokkal arányosan hatékonyan felügyelhessék. Az emberi felügyelet biztosításáért felelős természetes személyeknek a 4b. cikkel összhangban a mesterséges intelligencia terén szerzett megfelelő szintű jártassággal és a feladat ellátásához szükséges támogatással és felhatalmazással kell rendelkezniük az MI-rendszer használatának időtartama alatt, és lehetővé kell tenniük az incidenst követő alapos kivizsgálást.
(2) Az emberi felügyelet célja az egészséget, a biztonságot vagy az alapvető jogokat érintő azon kockázatok megelőzése vagy minimálisra csökkentése, amelyek a nagy kockázatú MI-rendszer rendeltetésszerű használata vagy észszerűen előrelátható rendellenes használata esetén merülhetnek fel, különösen, ha ezek a kockázatok az e fejezetben meghatározott egyéb követelmények alkalmazása ellenére tartósan fennállnak.
(2) Az emberi felügyelet célja az egészséget, a biztonságot, az alapvető jogokat vagy a környezetet érintő azon kockázatok megelőzése vagy minimálisra csökkentése, amelyek a nagy kockázatú MI-rendszer rendeltetésszerű használata vagy észszerűen előrelátható rendellenes használata esetén merülhetnek fel, különösen, ha ezek a kockázatok az e fejezetben meghatározott egyéb követelmények alkalmazása ellenére tartósan fennállnak, és ha egyedül, az ilyen MI-rendszerek által végzett automatizált feldolgozáson alapuló döntések jogi vagy egyéb jelentős hatással vannak azokra a személyekre vagy személyek azon csoportjára, akikre vagy amelyekre a rendszert alkalmazni kívánják.
(3) Az emberi felügyeletet az alábbi intézkedések egyikével vagy mindegyikével kell biztosítani:
(3) Az emberi felügyeletnek figyelembe kell vennie az adott kockázatokat, az automatizáció szintjét és az MI-rendszer környezetét, és azt az alábbi intézkedéstípusok egyikével vagy mindegyikével kell biztosítani:
(4) A (3) bekezdésben említett intézkedéseknek lehetővé kell tenniük az emberi felügyeletet ellátó személyek számára, hogy a körülményeknek megfelelően:
(4) Az (1)–(3) bekezdés végrehajtása céljából a nagy kockázatú MI-rendszert úgy kell a felhasználó rendelkezésére bocsátani, hogy az emberi felügyeletet ellátó természetes személyek számára a körülményeknek megfelelően és azokkal arányosan lehetővé tegyék, hogy:
Módosítás 318 Rendeletre irányuló javaslat 14 cikk – 4 bekezdés – a pont
a) teljes mértékben megértsék a nagy kockázatú MI-rendszer kapacitásait és korlátait, és képesek legyenek megfelelően nyomon követni annak működését annak érdekében, hogy a rendellenességek, zavarok és váratlan teljesítmény jeleit a lehető leghamarabb fel lehessen tárni és kezelni lehessen;
a) megismerjék és kellően megértsék a nagy kockázatú MI-rendszer vonatkozó kapacitásait és korlátait, és képesek legyenek megfelelően nyomon követni annak működését annak érdekében, hogy a rendellenességek, zavarok és váratlan teljesítmény jeleit a lehető leghamarabb fel lehessen tárni és kezelni lehessen;
Módosítás 319 Rendeletre irányuló javaslat 14 cikk – 4 bekezdés – e pont
e) képesek legyenek beavatkozni a nagy kockázatú MI-rendszer működésébe, vagy megszakítani a rendszert egy „stop” gomb vagy hasonló eljárás segítségével.
e) képesek legyenek beavatkozni a nagy kockázatú MI-rendszer működésébe, vagy megszakítani a rendszert egy „stop” gomb vagy hasonló eljárás segítségével, ami lehetővé teszi a rendszer biztonságos állapotban történő leállítását, kivéve, ha az emberi beavatkozás növeli a kockázatokat, vagy negatívan befolyásolná a teljesítményt, figyelembe véve az általánosan elismert legkorszerűbb technológiát.
(5) A III. melléklet 1.a) pontjában említett nagy kockázatú MI-rendszerek esetében a (3) bekezdésben említett intézkedések biztosítják ezenfelül, hogy a felhasználó a rendszerből származó azonosítás alapján ne hozzon intézkedést vagy döntést, kivéve, ha ezt legalább két természetes személy ellenőrizte és megerősítette.
(5) A III. melléklet 1.a) pontjában említett nagy kockázatú MI-rendszerek esetében a (3) bekezdésben említett intézkedések biztosítják ezenfelül, hogy a felhasználó a rendszerből származó azonosítás alapján ne hozzon intézkedést vagy döntést, kivéve, ha ezt legalább két természetes személy a szükséges szakértelem, képzettség és hatáskör birtokában ellenőrizte és megerősítette.
(1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy rendeltetésük fényében megfelelő szintű pontosságot, stabilitást és kiberbiztonságot érjenek el, és teljes életciklusuk során ezek tekintetében következetesen teljesítsenek.
(1) A nagy kockázatú MI-rendszereket a beépített és alapértelmezett biztonság elvét követve kell megtervezni és fejleszteni. Rendeltetésük fényében megfelelő szintű pontosságot, stabilitást, biztonságot és kiberbiztonságot kell elérniük, és teljes életciklusuk során ezek tekintetében következetesen kell teljesíteniük.Az e követelményeknek való megfelelésnek magában kell foglalnia a legkorszerűbb intézkedések végrehajtását, az adott piaci szegmensnek vagy alkalmazási területnek megfelelően.
(1a) A pontosság és a megbízhatóság e cikk (1) bekezdésében meghatározott szintjeinek mérésével kapcsolatos technikai szempontok figyelembevétele érdekében az MI-hivatal összefogja a nemzeti és nemzetközi metrológiai és teljesítményértékelési hatóságokat, és az 56. cikk (2) bekezdésének a) pontjában meghatározottak szerint nem kötelező erejű iránymutatást nyújt a kérdésben.
(1b) Az Európai Uniós Kiberbiztonsági Ügynökséget (ENISA) az 56. cikk (2) bekezdésének b) pontjában meghatározottak szerint a Mesterséges Intelligenciával Foglalkozó Európai Testülettel együtt be kell vonni a kiberbiztonsággal kapcsolatban a belső piacon felmerülő problémák kezelésébe.
(2) A nagy kockázatú MI-rendszerek pontossági szintjeit és vonatkozó pontossági mérőszámait a mellékelt használati utasításban kell feltüntetni.
(2) A nagy kockázatú MI-rendszerek pontossági szintjeit és vonatkozó pontossági mérőszámait a mellékelt használati utasításban kell feltüntetni. A használt nyelvezetnek világosnak, félreértésektől és megtévesztő kijelentésektől mentesnek kell lennie.
A nagy kockázatú MI-rendszereknek reziliensnek kell lenniük azon hibák, meghibásodások vagy következetlenségek tekintetében, amelyek a rendszeren vagy a rendszer működési környezetén belül előfordulhatnak, különösen a természetes személyekkel vagy más rendszerekkel való kölcsönhatásuk miatt.
Technikai és szervezeti intézkedéseket kell hozni annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszerek reziliensnek legyenek azon hibák, meghibásodások vagy következetlenségek tekintetében, amelyek a rendszeren vagy a rendszer működési környezetén belül előfordulhatnak, különösen a természetes személyekkel vagy más rendszerekkel való kölcsönhatásuk miatt.
A nagy kockázatú MI-rendszerek stabilitása elérhető műszaki redundanciamegoldásokkal, amelyek magukban foglalhatnak biztonsági vagy vészüzemi terveket is.
A nagy kockázatú MI-rendszerek megbízhatóságát a megfelelő szolgáltató a felhasználó hozzájárulásával, szükség esetén technikai redundancia megoldásokkal érheti el, amelyek magukban foglalhatnak biztonsági vagy vészüzemi terveket is.
Azokat a nagy kockázatú MI-rendszereket, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is tanulnak, úgy kell fejleszteni, hogy a jövőbeli műveletek bemeneteként használt kimenetek („visszacsatolási hurkok”) miatt esetleg torzított kimeneteket kielégítően kezeljék megfelelő kockázatcsökkentő intézkedésekkel.
Azokat a nagy kockázatú MI-rendszereket, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is tanulnak, úgy kell fejleszteni, hogy a jövőbeli műveletekhez szükséges bemeneteket befolyásoló kimenetek („visszacsatolási hurkok”) és a működés alatti tanulás során használt bemenetek rosszhiszemű manipulálása miatt esetleg torzított kimeneteket kielégítően kezeljék megfelelő kockázatcsökkentő intézkedésekkel.
A nagy kockázatú MI-rendszereknek reziliensnek kell lenniük a jogosulatlan harmadik felek arra irányuló kísérleteivel szemben, hogy a rendszer sebezhetőségének kiaknázása révén megváltoztassák a rendszer használatát vagy teljesítményét.
A nagy kockázatú MI-rendszereknek reziliensnek kell lenniük a jogosulatlan harmadik felek arra irányuló kísérleteivel szemben, hogy a rendszer sebezhetőségének kiaknázása révén megváltoztassák a rendszer használatát, magatartását, kimeneteit vagy teljesítményét.
Az MI-specifikus sebezhetőségek kezelésére szolgáló műszaki megoldásoknak adott esetben magukban kell foglalniuk a tanulóadat-készlet manipulálását megkísérlő támadásoknak („adatmérgezés”), a modell hibájának előidézésére szolgáló bemeneteknek („ellenséges példák”) vagy a modellhibáknak a megelőzésére és ellenőrzésére irányuló intézkedéseket.
Az MI-specifikus sebezhetőségek kezelésére szolgáló műszaki megoldásoknak adott esetben magukban kell foglalniuk a tanulóadat-készlet manipulálását megkísérlő támadásoknak („adatmérgezés”), a tanítás során használt előtanított összetevők manipulálását megkísérlő támadásoknak („modellmérgezés”), a modell hibájának előidézésére szolgáló bemeneteknek („ellenséges példák” vagy „modellkijátszás”), a titoktartási támadásoknak vagy a modellhibáknak a megelőzésére, felderítésére, az azokra való reagálásra, azok megoldására és ellenőrzésére irányuló intézkedéseket, amelyek káros döntéshozatalhoz vezethetnének.
Módosítás 330 Rendeletre irányuló javaslat III cím – 3 fejezet – cím
A NAGY KOCKÁZATÚ MI-RENDSZEREK SZOLGÁLTATÓIRA ÉS FELHASZNÁLÓIRA, valamint más felekre vonatkozó KÖTELEZETTSÉGEK
A NAGY KOCKÁZATÚ MI-RENDSZEREK SZOLGÁLTATÓIRA ÉS ALKALMAZÓIRA, VALAMINT MÁS FELEKRE VONATKOZÓ KÖTELEZETTSÉGEK
Módosítás 331 Rendeletre irányuló javaslat 16 cikk – cím
A nagy kockázatú MI-rendszerek szolgáltatóinak kötelezettségei
A nagy kockázatú MI-rendszerek szolgáltatóira és alkalmazóira, valamint más felekre vonatkozó kötelezettségek
Módosítás 332 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – a pont
a) biztosítják, hogy nagy kockázatú MI-rendszereik megfeleljenek az e cím 2. fejezetében meghatározott követelményeknek;
a) nagy kockázatú MI-rendszereik forgalomba hozatala vagy üzembe helyezése előtt biztosítják, hogy azok megfeleljenek az e cím 2. fejezetében meghatározott követelményeknek;
Módosítás 333 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – a a pont (új)
aa) feltüntetik a nagy kockázatú MI-rendszeren, vagy ha ez nem lehetséges, annak a kísérő dokumentációján a nevüket, bejegyzett kereskedelmi nevüket vagy bejegyzett védjegyüket, a címüket és a kapcsolattartási adataikat;
Módosítás 334 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – a b pont (új)
ab) biztosítják, hogy a nagy kockázatú MI-rendszerek emberi felügyeletével megbízott természetes személyek figyelmét kifejezetten felhívják az automatizálási torzítás kockázatára;
Módosítás 335 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – a c pont (új)
ac) megadják a bemeneti adatokra vonatkozó előírásokat vagy az alkalmazott adatkészletekre vonatkozó egyéb releváns információkat, beleértve az azokkal kapcsolatos korlátozásokat és feltételezéseket, figyelembe véve az MI-rendszer rendeltetését, valamint annak előrelátható és észszerűen előrelátható rendellenes használatát;
Módosítás 336 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – c pont
c) elkészítik a nagy kockázatú MI-rendszer műszaki dokumentációját;
c) elkészítik és megőrzik a nagy kockázatú MI-rendszer 11. cikkben említett műszaki dokumentációját;
Módosítás 337 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – d pont
d) megőrzik a nagy kockázatú MI-rendszereik által automatikusan generált naplókat, ha azok az ellenőrzésük alatt állnak;
d) ha azok az ellenőrzésük alatt állnak, megőrzik a nagy kockázatú MI-rendszereik által automatikusan generált naplókat, amelyek szükségesek az e rendeletnek való megfelelés biztosításához és bizonyításához, a 20. cikkel összhangban;
Módosítás 338 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – e pont
e) biztosítják, hogy a nagy kockázatú MI-rendszert forgalomba hozatala vagy üzembe helyezése előtt alávessék a vonatkozó megfelelőségértékelési eljárásnak;
e) biztosítják, hogy a nagy kockázatú MI-rendszert forgalomba hozatala vagy üzembe helyezése előtt a 43. cikkel összhangban alávessék a vonatkozó megfelelőségértékelési eljárásnak;
Módosítás 339 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – e a pont (új)
ea) a 48. cikkel összhangban EU-megfelelőségi nyilatkozatot készítenek;
Módosítás 340 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – e b pont (új)
eb) a 49. cikkel összhangban feltüntetik a CE-jelölést a nagy kockázatú MI-rendszeren, hogy jelezzék az e rendeletnek való megfelelést;
Módosítás 341 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – g pont
g) megteszik a szükséges korrekciós intézkedéseket, ha a nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek;
g) megteszik a 21. cikkben említett szükséges korrekciós intézkedéseket és információt szolgáltatnak e tekintetben;
Módosítás 342 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – h pont
h) tájékoztatják azon tagállamok nemzeti illetékes hatóságait, amelyekben az MI-rendszert rendelkezésre bocsátották vagy üzembe helyezték, valamint adott esetben a bejelentett szervezetet a meg nem felelésről és a meghozott korrekciós intézkedésekről;
törölve
Módosítás 343 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – i pont
i) feltüntetik a CE-jelölést a nagy kockázatú MI-rendszereiken, hogy jelezzék az e rendeletnek való megfelelést a 49. cikkel összhangban;
j) a nemzeti illetékes hatóság kérésére igazolják, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek.
j) a nemzeti felügyeleti hatóság indokolt kérésére igazolják, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek.
Módosítás 345 Rendeletre irányuló javaslat 16 cikk – 1 bekezdés – j a pont (új)
ja) biztosítják, hogy a nagy kockázatú MI-rendszer megfeleljen az akadálymentesítési követelményeknek.
(1) A nagy kockázatú MI-rendszerek szolgáltatói minőségirányítási rendszert vezetnek be, amely biztosítja az e rendeletnek való megfelelést. Ezt a rendszert írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és annak legalább a következő szempontokra kell kiterjednie:
(1) A nagy kockázatú MI-rendszerek szolgáltatói minőségirányítási rendszerrel rendelkeznek, amely biztosítja az e rendeletnek való megfelelést. Ezt írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és be lehet építeni az uniós ágazati jogalkotási aktusok meglévő minőségirányítási rendszerébe. Annak legalább a következő szempontokra kell kiterjednie:
Módosítás 347 Rendeletre irányuló javaslat 17 cikk – 1 bekezdés – a pont
a) a jogszabályi rendelkezések tiszteletben tartását célzó stratégia, beleértve a megfelelőségértékelési eljárásoknak, valamint a nagy kockázatú MI-rendszer módosításának kezelését célzó eljárásoknak való megfelelést is;
törölve
Módosítás 348 Rendeletre irányuló javaslat 17 cikk – 1 bekezdés – e pont
e) az alkalmazandó műszaki előírások, beleértve a szabványokat, valamint – amennyiben a vonatkozó harmonizált szabványokat nem alkalmazzák teljes mértékben – az annak biztosítására szolgáló eszközök, hogy a nagy kockázatú MI-rendszer megfeleljen az e cím 2. fejezetében meghatározott követelményeknek;
e) az alkalmazandó műszaki előírások, beleértve a szabványokat, valamint – amennyiben a vonatkozó harmonizált szabványokat nem alkalmazzák teljes mértékben, vagy azok nem terjednek ki valamennyi releváns követelményre – az annak biztosítására szolgáló eszközök, hogy a nagy kockázatú MI-rendszer megfeleljen az e cím 2. fejezetében meghatározott követelményeknek;
Módosítás 349 Rendeletre irányuló javaslat 17 cikk – 1 bekezdés – f pont
f) adatgazdálkodási rendszerek és eljárások, beleértve az adatgyűjtést, az adatelemzést, az adatcímkézést, az adattárolást, az adatszűrést, az adatbányászatot, az adatösszesítést, az adatmegőrzést és a nagy kockázatú MI-rendszerek forgalomba hozatala vagy üzembe helyezése előtt és céljából végzett, bármely más, adatokkal kapcsolatos műveletet;
f) adatgazdálkodási rendszerek és eljárások, beleértve az az adatszerzés, az adatgyűjtést, az adatelemzést, az adatcímkézést, az adattárolást, az adatszűrést, az adatbányászatot, az adatösszesítést, az adatmegőrzést és a nagy kockázatú MI-rendszerek forgalomba hozatala vagy üzembe helyezése előtt és céljából végzett, bármely más, adatokkal kapcsolatos műveletet;
j) az adatokhoz való hozzáférést biztosító vagy támogató nemzeti illetékes hatóságokkal, illetékes hatóságokkal, többek között ágazati hatóságokkal, a bejelentett szervezetekkel, más üzemeltetőkkel, ügyfelekkel vagy más érdekelt felekkel folytatott kommunikáció kezelése;
j) az érintett illetékes hatóságokkal, többek között ágazati hatóságokkal folytatott kommunikáció kezelése;
(2) Az (1) bekezdésben említett szempontok megvalósításának arányosnak kell lennie a szolgáltató szervezetének méretével.
(2) Az (1) bekezdésben említett szempontok megvalósításának arányosnak kell lennie a szolgáltató szervezetének méretével. A szolgáltatóknak minden esetben tiszteletben kell tartaniuk az MI-rendszereik e rendeletnek való megfeleléséhez szükséges szigorúság mértékét és védelem szintjét.
Módosítás 352 Rendeletre irányuló javaslat 18 cikk – cím
A műszaki dokumentáció elkészítésére vonatkozó kötelezettség
(2) A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő szolgáltatók az említett irányelv 74. cikke szerinti belső irányításra, rendszerekre, eljárásokra és mechanizmusokra vonatkozó dokumentáció részeként őrzik meg a műszaki dokumentációt.
(1) A nagy kockázatú MI-rendszerek szolgáltatói biztosítják, hogy rendszereiket forgalomba hozataluk vagy üzembe helyezésük előtt alávessék a 43. cikk szerinti megfelelőségértékelési eljárásnak. Amennyiben az említett megfelelőségértékelés után bizonyítást nyer, hogy az MI-rendszerek megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, a szolgáltatók a 48. cikkel összhangban EU-megfelelőségi nyilatkozatot állítanak ki, és a 49. cikkel összhangban feltüntetik a CE megfelelőségi jelölést.
(2) A III. melléklet 5. b) pontjában említett nagy kockázatú MI-rendszerek esetében, amelyeket a 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő szolgáltatók hoznak forgalomba vagy helyeznek üzembe, a megfelelőségértékelést az említett irányelv 97–101. cikkében említett eljárás részeként kell elvégezni.
(1) A nagy kockázatú MI-rendszerek szolgáltatói megőrzik a nagy kockázatú MI-rendszereik által automatikusan generált naplókat, amennyiben az ilyen naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként az ellenőrzésük alatt állnak. A naplókat a nagy kockázatú MI-rendszer rendeltetésének és az uniós vagy nemzeti jog szerinti alkalmazandó jogi kötelezettségeknek megfelelő ideig meg kell őrizni.
(1) A nagy kockázatú MI-rendszerek felhasználói megőrzik az adott nagy kockázatú MI-rendszer által automatikusan generált naplókat, amennyiben az ilyen naplók ellenőrzésük alatt állnak. Az alkalmazandó uniós vagy nemzeti jogszabályok sérelme nélkül a naplókat legalább 6 hónapig meg kell őrizni. A megőrzési időszaknak összhangban kell lennie az ágazati szabványokkal, és meg kell felelnie a nagy kockázatú MI-rendszer rendeltetésének.
A nagy kockázatú MI-rendszerek azon szolgáltatói, amelyek úgy ítélik meg, illetve amelyek okkal feltételezik, hogy az általuk forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszer nem felel meg ennek a rendeletnek, azonnal meghozzák a szükséges korrekciós intézkedéseket a szóban forgó rendszer megfelelőségének biztosítására, adott esetben kivonására vagy visszahívására.Minderről tájékoztatják a szóban forgó nagy kockázatú MI-rendszer forgalmazóját és adott esetben a meghatalmazott képviselőket és az importőröket.
A nagy kockázatú MI-rendszerek azon szolgáltatói, amelyek úgy ítélik meg, illetve amelyek okkal feltételezik, hogy az általuk forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszer nem felel meg ennek a rendeletnek, azonnal meghozzák a szükséges korrekciós intézkedéseket a szóban forgó rendszer megfelelőségének biztosítására, adott esetben kivonására, üzemen kívül helyezésére vagy visszahívására.
Az első bekezdésben említett esetekben a szolgáltatók haladéktalanul tájékoztatják a következőket:
a) a forgalmazókat;
b) az importőröket;
c) azon tagállamok illetékes nemzeti hatóságait, amelyekben az MI-rendszert rendelkezésre bocsátották vagy üzembe helyezték; valamint
A szolgáltatóknak tájékoztatniuk kell továbbá a meghatalmazott képviselőt, ha a 25. cikkel összhangban jelölték ki, valamint a bejelentett szervezetet, ha a nagy kockázatú MI-rendszert a 43. cikkel összhangban harmadik fél által végzett megfelelőségértékelésnek kellett alávetni. Adott esetben az alkalmazóval együttműködve meg kell vizsgálniuk az okokat is.
Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, és ezt a kockázatot a rendszer szolgáltatója ismeri, a szolgáltató haladéktalanul tájékoztatja – különösen a meg nem felelésről és a meghozott korrekciós intézkedésekről – azon tagállamok nemzeti illetékes hatóságait, amelyekben a rendszert rendelkezésre bocsátotta, valamint adott esetben azt a bejelentett szervezetet, amely a nagy kockázatú MI-rendszerre tanúsítványt adott ki.
Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, és erről a kockázatról a rendszer szolgáltatója tudomást szerez, a szolgáltató haladéktalanul tájékoztatja – különösen a meg nem felelés jellegéről és a meghozott releváns korrekciós intézkedésekről – azon tagállamok nemzeti felügyeleti hatóságait, amelyekben a rendszert rendelkezésre bocsátotta, valamint adott esetben azt a bejelentett szervezetet, amely a nagy kockázatú MI-rendszerre tanúsítványt adott ki.
A nagy kockázatú MI-rendszerek szolgáltatói valamely nemzeti illetékes hatóság kérésére az Unió valamely, az érintett tagállam által meghatározott hivatalos nyelvén átadják a nagy kockázatú MI-rendszer e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolásához szükséges összes információt és dokumentációt az említett hatóságnak.A nemzeti illetékes hatóság indokolt kérésére a szolgáltatók hozzáférést biztosítanak az említett hatóság számára a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz is, amennyiben ezek a naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként az ellenőrzésük alatt állnak.
A nagy kockázatú MI-rendszerek szolgáltatói és adott esetben alkalmazói valamely nemzeti illetékes hatóság vagy adott esetben az MI-hivatal vagy a Bizottság indokolt kérésére az Unió valamely, az érintett tagállam által meghatározott hivatalos nyelvén átadják részükre a nagy kockázatú MI-rendszer e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolásához szükséges összes információt és dokumentációt.
A nemzeti illetékes hatóság vagy adott esetben a Bizottság indokolt kérésére a szolgáltatók és adott esetben az alkalmazók hozzáférést biztosítanak a megkereső nemzeti illetékes hatóság vagy adott esetben a Bizottság számára a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz is, amennyiben ezek a naplók az ellenőrzésük alatt állnak.
Az illetékes nemzeti hatóság vagy a Bizottság által az e cikk rendelkezései alapján megszerzett információkat üzleti titoknak kell tekinteni, és azokat a 70. cikkben meghatározott titoktartási kötelezettségeknek megfelelően kell kezelni.
(1) Az MI-rendszereiknek az Unióban való forgalmazását megelőzően, amennyiben nem azonosítható importőr, az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással kineveznek egy, az Unióban letelepedett meghatalmazott képviselőt.
(1) Az MI-rendszereiknek az Unióban való forgalmazását megelőzően az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással kineveznek egy, az Unióban letelepedett meghatalmazott képviselőt.
(1a) A meghatalmazott képviselőnek azon tagállamok egyikében kell lakóhellyel vagy székhellyel rendelkeznie, ahol a 2. cikk (1) bekezdésének cb) pontja szerinti tevékenységeket végzik.
(1b) A szolgáltató biztosítja a meghatalmazott képviselője számára az e rendelet szerinti feladatai ellátásához szükséges hatásköröket és erőforrásokat.
(2) A meghatalmazott képviselők a szolgáltatótól kapott meghatalmazásban meghatározott feladatokat látják el. A meghatalmazott képviselő meghatalmazása értelmében a következő feladatok elvégzésére jogosult:
(2) A meghatalmazott képviselők a szolgáltatótól kapott meghatalmazásban meghatározott feladatokat látják el. A meghatalmazás egy példányát kérésre a piacfelügyeleti hatóságok rendelkezésére bocsátják az Unió egyik, a nemzeti illetékes hatóság által meghatározott hivatalos nyelvén. E rendelet alkalmazásában a meghatalmazott képviselő meghatalmazása értelmében a következő feladatok elvégzésére jogosult:
Módosítás 370 Rendeletre irányuló javaslat 25 cikk – 2 bekezdés – a pont
a) az EU-megfelelőségi nyilatkozat és a műszaki dokumentáció egy példányát megőrzi a nemzeti illetékes hatóságok és a 63. cikk (7) bekezdésében említett nemzeti hatóságok számára;
a) biztosítja, hogy elkészül az EU-megfelelőségi nyilatkozat és a műszaki dokumentáció, továbbá hogy a szolgáltató elvégezte-e a vonatkozó megfelelőségértékelési eljárást;
Módosítás 371 Rendeletre irányuló javaslat 25 cikk – 2 bekezdés – a a pont (új)
aa) az illetékes nemzeti hatóságok és a 63. cikk (7) bekezdésében említett nemzeti hatóságok számára elérhetővé teszik az EU-megfelelőségi nyilatkozat, a műszaki dokumentáció és adott esetben a bejelentett szervezet által kiállított tanúsítvány egy példányát;
Módosítás 372 Rendeletre irányuló javaslat 25 cikk – 2 bekezdés – b pont
b) indokolt kérésre a nemzeti illetékes hatóság rendelkezésére bocsát minden annak igazolásához szükséges információt és dokumentációt, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek, ideértve a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz való hozzáférést is, amennyiben az ilyen naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként a szolgáltató ellenőrzése alatt állnak;
b) indokolt kérésre a nemzeti illetékes hatóság rendelkezésére bocsát minden annak igazolásához szükséges információt és dokumentációt, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek, ideértve a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz való hozzáférést is, amennyiben az ilyen naplók egyébként a szolgáltató ellenőrzése alatt állnak;
Módosítás 373 Rendeletre irányuló javaslat 25 cikk – 2 bekezdés – c pont
c) indokolt kérésre együttműködik a nemzeti illetékes hatóságokkal a nagy kockázatú MI-rendszerrel kapcsolatban e hatóságok által tett bármely intézkedés tekintetében.
c) indokolt kérésre együttműködik a nemzeti felügyeleti hatóságokkal a nagy kockázatú MI-rendszer által kiváltott kockázatok csökkentésével és mérséklésével kapcsolatban e hatóságok által tett bármely intézkedés tekintetében.
Módosítás 374 Rendeletre irányuló javaslat 25 cikk – 2 bekezdés – c a pont (új)
ca) adott esetben teljesíti az 51. cikkben említett nyilvántartásba vételi kötelezettségeket, vagy – ha a nyilvántartásba vételt maga a szolgáltató végzi – biztosítja a VIII. melléklet 3. pontjában említett információk helyességét.
(2a) A meghatalmazott képviselő megbízást kap arra, hogy a szolgáltató mellett vagy helyett különösen a nemzeti felügyeleti hatóság vagy az illetékes nemzeti hatóságok hozzá forduljanak az e rendeletnek való megfelelés biztosításával kapcsolatos valamennyi kérdésben.
(2b) A meghatalmazott képviselő felmondja a megbízást, ha úgy ítéli meg vagy okkal feltételezi, hogy a szolgáltató az e rendelet szerinti kötelezettségeivel ellentétesen jár el. Ilyen esetben a megbízás megszűnéséről és annak okairól haladéktalanul tájékoztatja a székhelye szerinti tagállam nemzeti felügyeleti hatóságát, valamint adott esetben az érintett bejelentett szervezetet is.
(1) Egy nagy kockázatú MI-rendszer forgalomba hozatala előtt az ilyen rendszer importőrei gondoskodnak arról, hogy:
(1) Egy nagy kockázatú MI-rendszer forgalomba hozatala előtt az ilyen rendszer importőrei gondoskodnak arról, hogy ez a rendszer megfelel ennek a rendeletnek, biztosítva, hogy:
Módosítás 378 Rendeletre irányuló javaslat 26 cikk – 1 bekezdés – a pont
a) az említett MI-rendszer szolgáltatója elvégezte a megfelelő megfelelőségértékelési eljárást;
a) az említett MI-rendszer szolgáltatója elvégezte a 43. cikkben említett megfelelő megfelelőségértékelési eljárást;
Módosítás 379 Rendeletre irányuló javaslat 26 cikk – 1 bekezdés – b pont
b) a szolgáltató elkészítette a műszaki dokumentációt a IV. mellékletnek megfelelően;
b) a szolgáltató elkészítette a műszaki dokumentációt a 11. cikknek és a IV. mellékletnek megfelelően;
Módosítás 380 Rendeletre irányuló javaslat 26 cikk – 1 bekezdés – c a pont (új)
ca) a szolgáltató adott esetben kinevezett egy meghatalmazott képviselőt a 25. cikk (1) bekezdésének megfelelően.
(2) Amennyiben az importőr úgy ítéli meg, vagy okkal feltételezi, hogy egy nagy kockázatú MI-rendszer nem felel meg e rendeletnek, addig nem hozza forgalomba a szóban forgó rendszert, amíg annak megfelelőségéről nem gondoskodtak. Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, az importőr erről tájékoztatja az MI-rendszer szolgáltatóját és a piacfelügyeleti hatóságokat.
(2) Amennyiben az importőr úgy ítéli meg, vagy okkal feltételezi, hogy egy nagy kockázatú MI-rendszer nem felel meg e rendeletnek, illetve hamisítvány vagy hamisított dokumentációval rendelkezik, addig nem hozza forgalomba a szóban forgó rendszert, amíg annak megfelelőségéről nem gondoskodtak. Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, az importőr erről tájékoztatja az MI-rendszer szolgáltatóját és a piacfelügyeleti hatóságokat.
(3) Az importőrök feltüntetik a nagy kockázatú MI-rendszeren, vagy ha ez nem lehetséges, annak csomagolásán vagy adott esetben a kísérő dokumentációján a nevüket, bejegyzett kereskedelmi nevüket vagy bejegyzett védjegyüket és azt a címüket, amelyen velük kapcsolatba lehet lépni.
(3) Az importőrök feltüntetik a nagy kockázatú MI-rendszeren és annak csomagolásán vagy adott esetben a kísérő dokumentációján a nevüket, bejegyzett kereskedelmi nevüket vagy bejegyzett védjegyüket és azt a címüket, amelyen velük kapcsolatba lehet lépni.
(5) Az importőrök indokolt kérésre a nemzeti illetékes hatóság által könnyen érthető nyelven a hatóság rendelkezésére bocsátanak minden annak igazolásához szükséges információt és dokumentációt, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek, ideértve a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz való hozzáférést is, amennyiben az ilyen naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként a szolgáltató ellenőrzése alatt állnak. Az importőrök együttműködnek az említett hatóságokkal a nemzeti illetékes hatóságok által az adott rendszerrel kapcsolatban tett intézkedések tekintetében is.
(5) Az importőrök indokolt kérésre a nemzeti illetékes hatóság által könnyen érthető nyelven a hatóság rendelkezésére bocsátanak minden annak igazolásához szükséges információt és dokumentációt, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek, ideértve a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz való hozzáférést is, amennyiben az ilyen naplók a 20. cikkel összhangban a szolgáltató ellenőrzése alatt állnak.
(5a) Az importőrök együttműködnek a nemzeti illetékes hatóságokkal minden olyan intézkedés tekintetében, amelyet ezek a hatóságok a nagy kockázatú MI-rendszer jelentette kockázatok csökkentése és mérséklése érdekében tesznek.
(1) A nagy kockázatú MI-rendszer forgalmazását megelőzően a forgalmazók ellenőrzik, hogy a nagy kockázatú MI-rendszeren fel van-e tüntetve az előírt CE megfelelőségi jelölés, mellékelték-e hozzá az előírt dokumentációt és használati utasítást, valamint hogy a rendszer szolgáltatója és – adott esetben – importőre teljesítette-e az e rendeletben meghatározott kötelezettségeket.
(1) A nagy kockázatú MI-rendszer forgalmazását megelőzően a forgalmazók ellenőrzik, hogy a nagy kockázatú MI-rendszeren fel van-e tüntetve az előírt CE megfelelőségi jelölés, mellékelték-e hozzá az előírt dokumentációt és használati utasítást, valamint hogy a rendszer szolgáltatója és – adott esetben – importőre teljesítette-e az e rendelet 16. cikkében és 26. cikkében meghatározott kötelezettségeiket.
(2) Amennyiben a forgalmazó úgy ítéli meg, vagy okkal feltételezi, hogy egy nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek, addig nem forgalmazhatja a nagy kockázatú MI-rendszert, amíg a rendszert nem hozzák összhangba az említett követelményekkel. Továbbá, amennyiben a rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazó erről tájékoztatja a rendszer szolgáltatóját vagy adott esetben importőrét.
(2) Amennyiben a forgalmazó a birtokában lévő információk alapján úgy ítéli meg, vagy okkal feltételezi, hogy egy nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek, addig nem forgalmazhatja a nagy kockázatú MI-rendszert, amíg a rendszert nem hozzák összhangba az említett követelményekkel. Továbbá, amennyiben a rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazó erről tájékoztatja a rendszer szolgáltatóját vagy importőrét és adott esetben az érintett nemzeti illetékes hatóságot.
(4) Az a forgalmazó, amely úgy ítéli meg, vagy okkal feltételezi, hogy az általa forgalmazott nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek, megteszi a szükséges korrekciós intézkedéseket annak érdekében, hogy gondoskodjon a rendszer említett követelményeknek való megfelelőségéről, illetve hogy kivonja vagy visszahívja a rendszert, vagy biztosítja, hogy a szolgáltató, az importőr vagy adott esetben bármely érintett üzemeltető megtegye a korrekciós intézkedéseket. Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazó erről haladéktalanul tájékoztatja azon tagállamok nemzeti illetékes hatóságait, amelyekben a terméket rendelkezésre bocsátotta, részletezve különösen a meg nem felelést és a meghozott korrekciós intézkedéseket.
(4) Az a forgalmazó, amely a birtokában lévő információk alapján úgy ítéli meg, vagy okkal feltételezi, hogy az általa forgalmazott nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek, megteszi a szükséges korrekciós intézkedéseket annak érdekében, hogy gondoskodjon a rendszer említett követelményeknek való megfelelőségéről, illetve hogy kivonja vagy visszahívja a rendszert, vagy biztosítja, hogy a szolgáltató, az importőr vagy adott esetben bármely érintett üzemeltető megtegye a korrekciós intézkedéseket. Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazó erről haladéktalanul tájékoztatja a rendszer szolgáltatóját vagy importőrét és azon tagállamok nemzeti illetékes hatóságait, amelyekben a terméket rendelkezésre bocsátotta, részletezve különösen a meg nem felelést és a meghozott korrekciós intézkedéseket.
(5) Valamely nemzeti illetékes hatóság indokolt kérésére a nagy kockázatú MI-rendszerek forgalmazói az említett hatóság rendelkezésére bocsátják a nagy kockázatú rendszerek e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolásához szükséges összes információt és dokumentációt. A forgalmazók együttműködnek az említett nemzeti illetékes hatósággal is az említett hatóság által tett bármely intézkedés tekintetében.
(5) Valamely nemzeti illetékes hatóság indokolt kérésére a nagy kockázatú MI-rendszer forgalmazói az (1) bekezdésben meghatározott forgalmazói kötelezettségekkel összhangban az említett hatóság rendelkezésére bocsátják a birtokukban lévő vagy a rendelkezésükre álló, a nagy kockázatú rendszerek e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolásához szükséges összes információt és dokumentációt.
(5a) A forgalmazók együttműködnek a nemzeti illetékes hatóságokkal minden olyan intézkedés tekintetében, amelyet ezek a hatóságok a nagy kockázatú MI-rendszer jelentette kockázatok csökkentése és mérséklése érdekében tesznek.
Módosítás 390 Rendeletre irányuló javaslat 28 cikk – cím
A forgalmazók, importőrök, felhasználók vagy bármely más harmadik fél kötelezettségei
A szolgáltatók, forgalmazók, importőrök, alkalmazók vagy egyéb harmadik felek felelősségi köre az MI-értéklánc mentén
(1) E rendelet alkalmazásában minden forgalmazót, importőrt, felhasználót vagy egyéb harmadik felet szolgáltatónak kell tekinteni, és a szolgáltató 16. cikk szerinti kötelezettségei vonatkoznak rájuk az alábbi körülmények bármelyikének fennállása esetén:
(1) E rendelet alkalmazásában minden forgalmazót, importőrt, alkalmazót vagy egyéb harmadik felet nagy kockázatú MI-rendszer szolgáltatójának kell tekinteni, és a szolgáltató 16. cikk szerinti kötelezettségei vonatkoznak rájuk az alábbi körülmények bármelyikének fennállása esetén:
Módosítás 392 Rendeletre irányuló javaslat 28 cikk – 1 bekezdés – a pont
a) saját nevük vagy védjegyük alatt nagy kockázatú MI-rendszert hoznak forgalomba vagy helyeznek üzembe;
a) nevüket vagy védjegyüket egy már forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszeren helyezik el;
Módosítás 393 Rendeletre irányuló javaslat 28 cikk – 1 bekezdés – b pont
b) módosítják egy már forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszer rendeltetését;
b) jelentős módosítást hajtanak végre egy már forgalomba hozott vagy már üzembe helyezett nagy kockázatú MI-rendszeren oly módon, hogy az a 6. cikkel összhangban továbbra is nagy kockázatú MI-rendszer marad;
Módosítás 394 Rendeletre irányuló javaslat 28 cikk – 1 bekezdés – b a pont (új)
ba) jelentős módosítást hajtanak végre egy olyan MI-rendszeren, beleértve az általános célú MI-rendszereket is, amelyet nem minősítettek nagy kockázatúnak, és amelyet már forgalomba hoztak vagy üzembe helyeztek oly módon, hogy az MI-rendszer a 6. cikkel összhangban nagy kockázatú MI-rendszerré válik;
(2) Amennyiben az (1) bekezdés b) vagy c) pontjában említett körülmények fennállnak, e rendelet alkalmazásában a nagy kockázatú MI-rendszert eredetileg forgalomba hozó vagy üzembe helyező szolgáltató többé nem tekinthető szolgáltatónak.
(2) Amennyiben az (1) bekezdés a)–ba) pontjában említett körülmények fennállnak, e rendelet alkalmazásában az MI-rendszert eredetileg forgalomba hozó vagy üzembe helyező szolgáltató többé nem tekinthető az adott konkrét MI-rendszer szolgáltatójának.Ez a korábbi szolgáltató biztosítja az új szolgáltató számára az e rendeletben meghatározott kötelezettségek teljesítéséhez szükséges műszaki dokumentációt és az MI-rendszer minden egyéb releváns és észszerűen elvárható információs képességét, a műszaki hozzáférést vagy a technika általánosan elismert állása szerinti egyéb segítséget, amely az e rendeletben meghatározott kötelezettségek teljesítéséhez szükséges.
Ez a bekezdés a 3. cikkben meghatározott alapmodellek szolgáltatóira is alkalmazandó, amennyiben az alapmodellt közvetlenül integrálják egy nagy kockázatú MI-rendszerbe.
(2a) A nagy kockázatú MI-rendszer szolgáltatója és a nagy kockázatú MI-rendszerben használt vagy abba integrált eszközöket, szolgáltatásokat, alkotóelemeket vagy folyamatokat szállító harmadik fél írásbeli megállapodás révén meghatározza azokat az információkat, képességeket, technikai hozzáférést és vagy egyéb segítséget, amelyeket a technika általánosan elismert állása alapján a harmadik félnek biztosítania kell annak érdekében, hogy a nagy kockázatú MI-rendszer szolgáltatója teljes mértékben eleget tudjon tenni az e rendelet szerinti kötelezettségeknek.
A Bizottság nem kötelező erejű szerződési mintafeltételeket dolgoz ki és ajánl a nagy kockázatú MI-rendszerek szolgáltatói és a nagy kockázatú MI-rendszerekben használt vagy integrált eszközöket, szolgáltatásokat, alkotóelemeket vagy folyamatokat szolgáltató harmadik felek között annak érdekében, hogy segítse mindkét felet a kiegyensúlyozott szerződéses jogokat és kötelezettségeket tartalmazó szerződések kidolgozásában és megtárgyalásában, összhangban az egyes felek ellenőrzési szintjével. A nem kötelező érvényű szerződési mintafeltételek kidolgozása során a Bizottság figyelembe veszi az egyes ágazatokban vagy konkrét üzleti esetekben alkalmazandó lehetséges szerződéses követelményeket. A nem kötelező szerződési feltételeket könnyen használható elektronikus formátumban közzé kell tenni és díjmentesen elérhetővé kell tenni az MI-hivatal honlapján.
(2b) E cikk alkalmazásában z üzleti titkokat meg kell őrizni, és csak akkor lehet felfedni, ha az (EU) 2016/943 irányelv alapján előzetesen minden szükséges intézkedést megtesznek a bizalmas jellegük megőrzése érdekében, különösen harmadik felek tekintetében. A szellemi tulajdonjogok vagy az üzleti titkok védelme érdekében szükség esetén megfelelő technikai és szervezeti intézkedésekről is meg lehet állapodni.
Módosítás 398 Rendeletre irányuló javaslat 28 a cikk (új)
28a. cikk
Kkv-kal és induló innovatív vállalkozásokkal szemben egyoldalúan kikényszerített tisztességtelen szerződési feltételek
(1) A nagy kockázatú MI-rendszerekben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállítását, illetve a kapcsolódó kötelezettségek megszegése vagy megszűnése esetén fennálló jogorvoslatokat szabályozó szerződési feltételek, amennyiben azokat egy vállalkozás egyoldalúan kényszerítette egy kkv-ra vagy induló innovatív vállalkozásra, és tisztességtelenek, nem kötelező erejűek.
(2) Egy szerződési feltétel nem tekinthető tisztességtelennek, amennyiben az alkalmazandó uniós jogból ered.
(3) Egy szerződési feltétel akkor tisztességtelen, ha olyan jellegű, hogy objektíve korlátozza annak a félnek a képességét, akire a feltételt egyoldalúan rákényszerítették, hogy megvédje a szóban forgó információhoz fűződő jogos kereskedelmi érdekét, vagy ha a feltétel alkalmazása a jóhiszeműséggel és tisztességes kereskedelemmel ellentétben jelentős mértékben eltér a helyes kereskedelmi gyakorlattól a nagy kockázatú MI-rendszerekben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállítása során, vagy jelentős egyensúlyhiányt teremt a felek szerződésben foglalt jogai és kötelezettségei között. Egy szerződési feltétel akkor is tisztességtelen, ha a 71. cikkben említett szankciókat vagy a kapcsolódó perköltségeket a 71. cikk (8) bekezdésében említettek szerint a szerződő felekre hárítja.
(4) A szerződési feltétel tisztességtelen e cikk alkalmazásában, ha annak tárgya vagy hatása a következő:
a) kizárja vagy korlátozza annak a félnek a felelősségét, amely szándékosan vagy súlyos gondatlanságból egyoldalúan kikényszerítette a feltételt;
b) kizárja az azon fél rendelkezésére álló jogorvoslati lehetőségeket, amellyel szemben a szerződéses kötelezettségek nemteljesítésére, vagy a szerződéses kötelezettségeknek a feltételt egyoldalúan kikényszerítő fél általi megszegése esetén fennálló felelősségére alkalmazott szerződési feltételt egyoldalúan kényszerítették ki;
c) kizárólagos jogot biztosít a feltételt egyoldalúan kikényszerítő fél számára annak megállapítására, hogy a műszaki dokumentáció és a szolgáltatott információk megfelelnek-e a szerződésnek, vagy a szerződés bármely feltételének értelmezésére.
(5) Valamely szerződési feltétel e cikk értelmében akkor minősül egyoldalúan kikényszerítettnek, ha azt az egyik szerződő fél írta elő, és annak tartalmát a másik szerződő fél egyezkedési próbálkozásai ellenére sem tudta befolyásolni. A szerződési feltételt előíró szerződő félnek kell bizonyítania, hogy a szóban forgó feltételt nem egyoldalúan kényszerítette ki.
(6) Ha a tisztességtelen szerződési feltétel elválasztható a szerződés többi feltételétől, a fennmaradó feltételek továbbra is kötelezőek. A vitatott feltételt megfogalmazó fél nem hivatkozhat arra, hogy tisztességtelen feltételről van szó.
(7) Ezt a cikket minden új, [e rendelet hatálybalépésének időpontja] után hatályba lépett szerződésre alkalmazni kell. A vállalkozásoknak [három évvel e rendelet hatálybalépését követően]-ig felül kell vizsgálniuk az e rendelet hatálya alá tartozó meglévő szerződéses kötelezettségeket.
(8) Tekintettel az innovációk piacokon való megjelenésének gyorsaságára, a Bizottság rendszeresen felülvizsgálja a 28a. cikk szerinti tisztességtelen szerződési feltételek listáját, és szükség esetén az új üzleti gyakorlatoknak megfelelően frissíti azt.
Módosítás 399 Rendeletre irányuló javaslat 28 b cikk (új)
28b. cikk
Az alapmodell szolgáltatójának kötelezettségei
(1) Az alapmodell szolgáltatójának az alapmodell forgalmazását vagy üzembe helyezését megelőzően biztosítania kell, hogy az megfeleljen az e cikkben meghatározott követelményeknek, függetlenül attól, hogy azt önálló modellként vagy MI-rendszerbe vagy termékbe ágyazott szolgáltatásként, vagy ingyenes és nyílt forráskódú licenc alapján szolgáltatásként, valamint más forgalmazási csatornákon nyújtják-e.
(2) Az (1) bekezdés alkalmazásában az alapmodell szolgáltatója:
a) megfelelő tervezéssel, teszteléssel és elemzéssel igazolja, hogy az egészséget, a biztonságot, az alapvető jogokat, a környezetet, a demokráciát és a jogállamiságot érintő, észszerűen előrelátható kockázatok azonosítása, csökkentése és mérséklése a fejlesztést megelőzően és annak során megfelelő módszerekkel, például független szakértők bevonásával, valamint a fejlesztés után még fennálló, nem mérsékelhető kockázatok dokumentálása révén megtörtént;
b) csak olyan adatkészleteket dolgoz fel és integrál, amelyek az alapmodellek esetében megfelelő adatkormányzási intézkedéseknek lettek alávetve, különös tekintettel az adatforrások alkalmasságának, a lehetséges torzításoknak és a megfelelő mérséklésnek a vizsgálatára;
c) úgy alakítja ki és fejleszti az alapmodellt, hogy annak teljes életciklusa alatt megfelelő szintű teljesítményt, kiszámíthatóságot, értelmezhetőséget, korrigálhatóságot, biztonságot és kiberbiztonságot érjenek el, amelyeket megfelelő módszerekkel, például független szakértők bevonásával végzett modellértékeléssel, dokumentált elemzéssel, valamint a koncepcióalkotás, tervezés és fejlesztés során végzett kiterjedt teszteléssel értékelnek;
d) az alapmodellt az energiafelhasználás, az erőforrás-felhasználás és a hulladékok csökkentése, valamint az energiahatékonyság és a rendszer általános hatékonyságának növelése érdekében – a vonatkozó hatályos uniós és nemzeti jogszabályok sérelme nélkül – az alkalmazandó szabványok felhasználásával tervezi és fejleszti. Ez a kötelezettség nem alkalmazandó a 40. cikkben említett szabványok közzététele előtt. Az alapmodellek tervezése és fejlesztése során azokat olyan képességekkel kell felruházni, amelyek lehetővé teszik az energia- és erőforrás-fogyasztás és – amennyiben technikailag megvalósítható – a rendszerek életciklusa alatt esetlegesen felmerülő, azok bevezetéséből és használatából eredő teljes egyéb környezeti hatások mérését és naplózását;
e) átfogó műszaki dokumentációt és érthető használati utasítást kell készíteni annak érdekében, hogy a downstream szolgáltatók teljesíthessék a 16. cikk és a 28. cikk (1) bekezdése szerinti kötelezettségeiket;
f) minőségirányítási rendszert kell létrehozni az e cikknek való megfelelés biztosítása és dokumentálása érdekében, lehetővé téve a kísérletezést e követelmény teljesítése terén,
g) a VIII. melléklet C. pontjában foglalt utasításoknak megfelelően regisztrálni kell ezt az alapmodellt a 60. cikkben említett uniós adatbázisban.
E követelmények teljesítése során figyelembe kell venni a technika általánosan elismert állását, többek között a vonatkozó harmonizált szabványokban vagy egységes előírásokban, valamint a legújabb értékelési és mérési módszerekben foglaltak szerint, amelyek különösen az 58a. cikkben említett teljesítményértékelési iránymutatásban és képességekben tükröződnek;
(3) Az alapmodellek szolgáltatói az alapmodellek forgalomba hozatalát vagy üzembe helyezését követő 10 évig kötelesek a (2) bekezdés e) pontjában említett műszaki dokumentációt az illetékes nemzeti hatóságok rendelkezésére bocsátani.
(4) A kifejezetten olyan MI-rendszerekben használt alapmodellek szolgáltatói, amelyek célja, hogy különböző szintű autonómiával generáljanak olyan tartalmakat, mint például összetett szöveg, kép, hang vagy videó („generatív MI”), valamint azok a szolgáltatók, akik egy alapmodellt generatív MI-rendszerre specializálnak, ezen túlmenően:
a) eleget tesznek az 52. cikk (1) bekezdésében felvázolt átláthatósági kötelezettségeknek;
b) úgy tanítják be, és adott esetben úgy alakítják ki és fejlesztik ki az alapmodellt, hogy a technika általánosan elismert állásának megfelelően és az alapvető jogok, köztük a véleménynyilvánítás szabadságának sérelme nélkül megfelelő biztosítékokat nyújtsanak az uniós jogot sértő tartalmak generálásával szemben;
c) a szerzői jogra vonatkozó uniós, nemzeti vagy uniós jogszabályok sérelme nélkül dokumentálják és nyilvánosan hozzáférhetővé teszik a szerzői jog alapján védett tanulóadatok felhasználásának kellően részletes összefoglalóját.
(1) A nagy kockázatú MI-rendszerek felhasználói ezeket a rendszereket a (2) és (5) bekezdés szerint, a rendszerekhez mellékelt használati utasításoknak megfelelően használják.
(1) A nagy kockázatú MI-rendszerek alkalmazói megfelelő technikai és szervezési intézkedéseket tesznek annak biztosítására, hogy ezeket a rendszereket e cikk (2) és (5) bekezdése szerint, a rendszerekhez mellékelt használati utasításoknak megfelelően használják.
(1a) Amennyiben az alkalmazók ellenőrzést gyakorolnak a nagy kockázatú MI-rendszer felett,
i. az emberi felügyeletet az e rendeletben meghatározott követelményeknek megfelelően hajtják végre;
ii. biztosítják, hogy a nagy kockázatú MI-rendszerek emberi felügyeletének biztosítására kijelölt természetes személyek kompetensek, megfelelően képesítettek és képzettek legyenek, és rendelkezzenek az MI-rendszer 14. cikk szerinti hatékony felügyeletének biztosításához szükséges erőforrásokkal;
iii. biztosítják, hogy a releváns és megfelelő megbízhatósági és kiberbiztonsági intézkedéseket rendszeresen nyomon kövessék hatékonyságuk szempontjából, és azokat rendszeresen kiigazítsák vagy frissítsék.
(2) Az (1) bekezdésben foglalt kötelezettségek nem érintik az uniós vagy nemzeti jog szerinti egyéb felhasználói kötelezettségeket, valamint a felhasználó arra vonatkozó mérlegelési jogkörét, hogy a szolgáltató által megjelölt emberi felügyeleti intézkedések végrehajtása céljából megszervezze saját erőforrásait és tevékenységeit.
(2) Az (1) és (1a) bekezdésben foglalt kötelezettségek nem érintik az uniós vagy nemzeti jog szerinti egyéb alkalmazói kötelezettségeket, valamint az alkalmazó arra vonatkozó mérlegelési jogkörét, hogy a szolgáltató által megjelölt emberi felügyeleti intézkedések végrehajtása céljából megszervezze saját erőforrásait és tevékenységeit.
(3) Az (1) bekezdés sérelme nélkül, amennyiben a felhasználó ellenőrzést gyakorol a bemeneti adatok felett, e felhasználó biztosítja, hogy a bemeneti adatok relevánsak legyenek a nagy kockázatú MI-rendszer rendeltetése szempontjából.
(3) Az (1) és (1a) bekezdés sérelme nélkül, amennyiben az alkalmazó ellenőrzést gyakorol a bemeneti adatok felett, ezen alkalmazó biztosítja, hogy a bemeneti adatok relevánsak és kellően reprezentatívak legyenek a nagy kockázatú MI-rendszer rendeltetése szempontjából.
(4) A felhasználók a használati utasítások alapján nyomon követik a nagy kockázatú MI-rendszer működését. Amennyiben okkal feltételezik, hogy a használati utasításnak megfelelő használat azt eredményezheti, hogy az MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, erről tájékoztatják a szolgáltatót vagy a forgalmazót, és felfüggesztik a rendszer használatát. A szolgáltatót vagy a forgalmazót akkor is tájékoztatják, ha a 62. cikk értelmében vett súlyos váratlan eseményt vagy hibás működést észlelnek, és megszakítják az MI-rendszer használatát. Amennyiben a felhasználó nem tudja elérni a szolgáltatót, a 62. cikket kell értelemszerűen alkalmazni.
(4) Az alkalmazók a használati utasítások alapján nyomon követik a nagy kockázatú MI-rendszer működését, és adott esetben a 61. cikknek megfelelően tájékoztatják a szolgáltatót. Amennyiben okkal feltételezik, hogy a használati utasításnak megfelelő használat azt eredményezheti, hogy az MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, erről indokolatlan késedelem nélkül tájékoztatják a szolgáltatót vagy a forgalmazót és az érintett nemzeti felügyeleti hatóságot, és felfüggesztik a rendszer használatát. Először a szolgáltatót, majd az importőrt vagy a forgalmazót és az érintett nemzeti felügyeleti hatóságot akkor is haladéktalanul tájékoztatják, ha a 62. cikk értelmében vett súlyos váratlan eseményt vagy hibás működést észlelnek, és megszakítják az MI-rendszer használatát. Amennyiben az alkalmazó nem tudja elérni a szolgáltatót, a 62. cikket kell értelemszerűen alkalmazni.
A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő felhasználók esetében az első albekezdésben meghatározott nyomonkövetési kötelezettséget teljesítettnek kell tekinteni az említett irányelv 74. cikke szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó szabályoknak való megfeleléssel.
A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő alkalmazók esetében az első albekezdésben meghatározott nyomonkövetési kötelezettséget teljesítettnek kell tekinteni az említett irányelv 74. cikke szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó szabályoknak való megfeleléssel.
(5) A nagy kockázatú MI-rendszerek felhasználói megőrzik az adott nagy kockázatú MI-rendszer által automatikusan generált naplókat, amennyiben az ilyen naplók ellenőrzésük alatt állnak. A naplókat a nagy kockázatú MI-rendszer rendeltetésének és az uniós vagy nemzeti jog szerinti alkalmazandó jogi kötelezettségeknek megfelelő ideig meg kell őrizni.
(5) A nagy kockázatú MI-rendszerek alkalmazói megőrzik az adott nagy kockázatú MI-rendszer által automatikusan generált naplókat, amennyiben az ilyen naplók ellenőrzésük alatt állnak, és szükségesek az e rendeletnek való megfelelés biztosításához és bizonyításához, a rendszer észszerűen előre látható működési hibáinak, váratlan eseményeinek vagy rendellenes használatának utólagos ellenőrzéséhez, vagy a rendszer megfelelő működésének biztosításához és nyomon követéséhez annak teljes életciklusa során. Az alkalmazandó uniós vagy nemzeti jogszabályok sérelme nélkül a naplókat legalább hat hónapig meg kell őrizni. A megőrzési időszaknak összhangban kell lennie az ágazati szabványokkal, és meg kell felelnie a nagy kockázatú MI-rendszer rendeltetésének.
A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő felhasználók az említett irányelv 74. cikke szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó dokumentáció részeként őrzik meg a naplókat.
A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő alkalmazók az említett irányelv 74. cikke szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó dokumentáció részeként őrzik meg a naplókat.
(5a) Az MI-rendszer munkahelyi üzembe helyezése vagy használata előtt az alkalmazók konzultálnak a munkavállalók képviselőivel a 2002/14/EK irányelvnek megfelelő megállapodás elérése érdekében, és tájékoztatják az érintett munkavállalókat arról, hogy a rendszer hatálya alá tartoznak.
(5b) A nagy kockázatú MI-rendszerek alkalmazói, amennyiben azok hatóságok vagy az 51. cikk (1a) bekezdésének b) pontjában említett uniós intézmények, szervek, hivatalok és ügynökségek vagy vállalkozások, eleget tesznek az 51. cikkben említett nyilvántartási kötelezettségeknek.
(6) A nagy kockázatú MI-rendszerek felhasználói a 13. cikk szerint megadott információkat arra használják fel, hogy eleget tegyenek az (EU) 2016/679 rendelet 35. cikke vagy adott esetben az (EU) 2016/680 irányelv 27. cikke szerinti, adatvédelmi hatásvizsgálat elvégzésére vonatkozó kötelezettségüknek.
(6) Adott esetben a nagy kockázatú MI-rendszerek alkalmazói a 13. cikk szerint megadott információkat adott esetben arra használják fel, hogy eleget tegyenek az (EU) 2016/679 rendelet 35. cikke vagy az (EU) 2016/680 irányelv 27. cikke szerinti, adatvédelmi hatásvizsgálat elvégzésére vonatkozó kötelezettségüknek, amelynek összefoglalóját közzé kell tenni, figyelembe véve a konkrét használatot és azokat a konkrét használati körülményeket, amelyek között az MI-rendszert működtetni kívánják.Az e cikkben meghatározott egyes kötelezettségek teljesítése érdekében az alkalmazók részben visszatérhetnek ezekre az adatvédelmi hatásvizsgálatokra, amennyiben az adatvédelmi hatásvizsgálat teljesíti ezeket a kötelezettségeket.
(6a) Az 52. cikk sérelme nélkül, a III. mellékletben említett, természetes személyekkel kapcsolatos döntéseket hozó vagy az ilyen döntések meghozatalában segítséget nyújtó nagy kockázatú MI-rendszerek felhasználói tájékoztatják a természetes személyeket arról, hogy esetükben nagy kockázatú MI-rendszert használnak. Ez a tájékoztatás tartalmazza az alkalmazott MI-rendszer rendeltetését és az általa hozott döntések típusát. Az alkalmazónak tájékoztatnia kell a természetes személyt a 68c. cikkben említett magyarázathoz való jogáról is.
(6b) Az alkalmazók együttműködnek az érintett illetékes nemzeti hatóságokkal a nagy kockázatú rendszerrel kapcsolatos minden olyan intézkedés tekintetében, amelyet a hatóságok e rendelet végrehajtása érdekében tesznek.
Módosítás 413 Rendeletre irányuló javaslat 29 a cikk (új)
29a. cikk
A nagy kockázatú MI-rendszerre vonatkozó alapjogi hatásvizsgálat
A 6. cikk (2) bekezdésében meghatározott, nagy kockázatú MI-rendszerek üzembe helyezése előtt – a III. melléklet 2. területén történő felhasználásra szánt MI-rendszerek kivételével – az alkalmazók értékelik a rendszerek hatását az adott felhasználási környezetben. Ennek az értékelésnek tartalmaznia kell legalább a következő elemeket:
a) a rendszer azon rendeltetésének egyértelmű meghatározása, amelyre a rendszert használni fogják;
b) a rendszer felhasználása tervezett földrajzi és időbeli hatókörének világos meghatározása;
c) a rendszer használata által valószínűleg érintett természetes személyek és csoportok kategóriái;
d) annak ellenőrzése, hogy a rendszer használata megfelel-e az alapvető jogokra vonatkozó releváns uniós és nemzeti jognak;
e) a nagy kockázatú MI-rendszer használatba vétele által az alapvető jogokra gyakorolt, észszerűen előre látható hatás;
f) a marginalizált személyeket vagy kiszolgáltatott csoportokat valószínűleg érintő bármilyen konkrét kár veszélye;
g) a rendszer használatának észszerűen előrelátható kedvezőtlen hatása a környezetre;
h) részletes terv arról, hogy a kárt és az alapvető jogokra gyakorolt negatív hatást hogyan fogják enyhíteni.
j) az alkalmazó által létrehozott irányítási rendszer, beleértve az emberi felügyeletet, a panaszkezelést és a jogorvoslatot is.
(2) Ha az (1) bekezdésben említett értékelés során felvázolt kockázatok mérséklésére vonatkozó részletes terv nem azonosítható, az alkalmazónak tartózkodnia kell a nagy kockázatú MI-rendszer használatba vételétől, és erről indokolatlan késedelem nélkül tájékoztatnia kell a szolgáltatót és a nemzeti felügyeleti hatóságokat. A nemzeti felügyeleti hatóságok a 65. és 67. cikknek megfelelően figyelembe vehetik ezeket az információkat a kockázatot jelentő rendszerek nemzeti szintű vizsgálata során.
(3) Az (1) bekezdésben ismertetett kötelezettség a nagy kockázatú MI-rendszer első használatára vonatkozik. Az alkalmazó hasonló esetekben támaszkodhat a korábban elvégzett alapjogi hatásvizsgálatra vagy a szolgáltatók által már elvégzett értékelésre. Amennyiben a nagy kockázatú MI-rendszer használata során az alkalmazó úgy ítéli meg, hogy az (1) bekezdésben felsorolt kritériumok már nem teljesülnek, új alapjogi hatásvizsgálatot kell végeznie.
(4) A hatásvizsgálat során az alkalmazónak – a kkv-k kivételével – értesítenie kell a nemzeti felügyeleti hatóságot és az érintett érdekelt feleket, és a lehető legnagyobb mértékben be kell vonnia az (1) bekezdésben meghatározott, nagy kockázatú MI-rendszer által valószínűleg érintett személyek vagy személyek csoportjainak képviselőit, beleértve többek között a következőket: esélyegyenlőségi szervek, fogyasztóvédelmi ügynökségek, szociális partnerek és adatvédelmi ügynökségek, a hatásvizsgálathoz való hozzájárulás céljából. Az alkalmazónak hat hetet kell hagynia a szerveknek a válaszadásra. A kkv-k önkéntesen alkalmazhatják az e bekezdésben megállapított rendelkezéseket.
A 47. cikk (1) bekezdésében említett esetben a hatóságok mentesíthetők e kötelezettségek alól.
(5) Az 51. cikk (1a) bekezdésének b) pontjában említett hatóságnak vagy vállalkozásnak minősülő alkalmazó az 51. cikk (2) bekezdése szerinti kötelezettségének megfelelően a használat nyilvántartásba vételének részeként közzéteszi a hatásvizsgálat eredményeinek összefoglalóját.
(6) Ha az alkalmazónak már az (EU) 2016/679 rendelet 35. cikke vagy az (EU) 2016/680 irányelv 27. cikke alapján adatvédelmi hatásvizsgálatot kell végeznie, az (1) bekezdésben ismertetett alapjogi hatásvizsgálatot az adatvédelmi hatásvizsgálattal együtt kell elvégeznie. Az adatvédelmi hatásvizsgálatot kiegészítésként közzé kell tenni.
(1) Minden tagállam kijelöl vagy létrehoz egy bejelentő hatóságot, amely a megfelelőségértékelő szervezetek értékeléséhez, kijelöléséhez és bejelentéséhez, valamint nyomon követéséhez szükséges eljárások kialakításáért és végrehajtásáért felel.
(1) Minden tagállam kijelöl vagy létrehoz egy bejelentő hatóságot, amely a megfelelőségértékelő szervezetek értékeléséhez, kijelöléséhez és bejelentéséhez, valamint nyomon követéséhez szükséges eljárások kialakításáért és végrehajtásáért felel. Ezeket az eljárásokat valamennyi tagállam bejelentő hatóságainak együttműködésével kell kidolgozni.
(7) A bejelentő hatóságok kellő létszámú hozzáértő személyzettel rendelkeznek ahhoz, hogy megfelelően elláthassák feladataikat.
(7) A bejelentő hatóságok kellő létszámú hozzáértő személyzettel rendelkeznek ahhoz, hogy megfelelően elláthassák feladataikat. Adott esetben a hozzáértő személyzetnek rendelkeznie kell az Európai Unió Alapjogi Chartájában foglalt alapvető jogok felügyeletéhez szükséges szakértelemmel, például a megfelelő jogi területen szerzett diplomával.
(8) A bejelentő hatóságok gondoskodnak arról, hogy a megfelelőségértékeléseket arányos módon végezzék, elkerülve a szolgáltatókra háruló szükségtelen terheket, és hogy a bejelentett szervezetek a vállalkozás méretét, azt az ágazatot, amelyben a vállalkozás működik, valamint a szóban forgó MI-rendszer összetettségének mértékét megfelelően figyelembe véve lássák el tevékenységüket.
(8) A bejelentő hatóságok gondoskodnak arról, hogy a megfelelőségértékeléseket arányos módon és megfelelő időben végezzék, elkerülve a szolgáltatókra háruló szükségtelen terheket, és hogy a bejelentett szervezetek a vállalkozás méretét, azt az ágazatot, amelyben a vállalkozás működik, valamint a szóban forgó MI-rendszer összetettségének mértékét megfelelően figyelembe véve lássák el tevékenységüket. Különös figyelmet kell fordítani arra, hogy minimálisra csökkentsék a 2003/361/EK bizottsági ajánlás mellékletében meghatározottak szerinti mikro- és kisvállalkozások adminisztratív terheit és megfelelési költségeit.
(2) A bejelentő hatóságok a Bizottság által kifejlesztett és kezelt elektronikus bejelentési eszközön keresztül értesítik a Bizottságot és a többi tagállamot.
(2) A bejelentő hatóságok a Bizottság által kifejlesztett és kezelt elektronikus bejelentési eszközön keresztül értesítik a Bizottságot és a többi tagállamot az (1) bekezdésben említett minden megfelelőségértékelő szervezetről.
(3) A bejelentés részletes információkat tartalmaz a megfelelőségértékelési tevékenységekről, a megfelelőségértékelési modulról vagy modulokról, valamint az érintett mesterségesintelligencia-technológiákról.
(3) A (2) bekezdésben említett bejelentés részletes információkat tartalmaz a megfelelőségértékelési tevékenységekről, a megfelelőségértékelési modulról vagy modulokról, valamint az érintett mesterségesintelligencia-technológiákról és a felkészültség megfelelő igazolását.
(4) Az érintett megfelelőségértékelő szervezet csak akkor láthatja el egy bejelentett szervezet tevékenységeit, ha a Bizottság és a többi tagállam a bejelentést követő egy hónapon belül nem emelt kifogást.
(4) Az érintett megfelelőségértékelő szervezet csak akkor végezheti egy bejelentett szervezet tevékenységeit, ha a Bizottság és a többi tagállam nem emelt kifogást a bejelentés jóváhagyását követő két héten belül, amennyiben az a 31. cikk (2) bekezdése szerinti akkreditálási tanúsítványt tartalmaz, illetve a bejelentést követő két hónapon belül, amennyiben az a 31. cikk (3) bekezdése szerinti igazoló dokumentumokat tartalmaz.
(4a) Kifogás esetén a Bizottság haladéktalanul konzultációt kezdeményez az érintett tagállamokkal és a megfelelőségértékelő szervvel. Mindezek birtokában a Bizottság dönt arról, hogy az engedély indokolt vagy sem. A Bizottság döntését az érintett tagállamnak és az érintett megfelelőségértékelő szernek címezi.
(2) A bejelentett szervezetek eleget tesznek azoknak a szervezeti, minőségirányítási, erőforrásokra vonatkozó és eljárási követelményeknek, amelyek a feladataik ellátásához szükségesek.
(2) A bejelentett szervezetek eleget tesznek a feladataik ellátásához szükséges szervezeti, minőségirányítási, erőforrásokra vonatkozó és eljárási követelményeknek, valamint az (EU) 2022/2555 irányelv alapján alapvető szolgáltatásokat nyújtó szereplőként azonosított közigazgatási szervekre vonatkozóan meghatározott kiberbiztonsági minimumkövetelményeknek.
(4) A bejelentett szervezetek függetlenek attól a nagy kockázatú MI-rendszer szolgáltatójától, amellyel kapcsolatban megfelelőségértékelési tevékenységeket végeznek. A bejelentett szervezetek továbbá függetlenek az értékelés tárgyát képező nagy kockázatú MI-rendszerben gazdasági érdekeltséggel rendelkező egyéb üzemeltetőtől, valamint a szolgáltató versenytársaitól is.
(4) A bejelentett szervezetek függetlenek attól a nagy kockázatú MI-rendszer szolgáltatójától, amellyel kapcsolatban megfelelőségértékelési tevékenységeket végeznek. A bejelentett szervezetek továbbá függetlenek az értékelés tárgyát képező nagy kockázatú MI-rendszerben gazdasági érdekeltséggel rendelkező egyéb üzemeltetőtől, valamint a szolgáltató versenytársaitól is. Ez nem zárja ki az olyan értékelt MI-rendszerek használatát, amelyek a megfelelőségértékelő szervezet működéséhez szükségesek, illetve az ilyen rendszerek személyes célra történő használatát.
(4a) Az (1) bekezdés szerinti megfelelőségértékelést a bejelentett szervezetek olyan alkalmazottainak kell elvégezniük, akik az értékelést megelőző 12 hónapos időszakban a megfelelőségértékelésen kívül más, az értékelt üggyel kapcsolatos szolgáltatást nem nyújtottak a nagy kockázatú MI-rendszer szolgáltatója vagy az adott szolgáltatóhoz kapcsolódó bármely jogi személy számára, és kötelezettséget vállaltak arra, hogy az értékelés befejezését követő 12 hónapon belül nem nyújtanak számukra ilyen szolgáltatásokat.
(6) A bejelentett szervezetek dokumentált eljárásokkal rendelkeznek, amelyek biztosítják, hogy a személyzetük, a bizottságaik, a leányvállalataik, az alvállalkozóik és bármely velük kapcsolatban álló szervezet vagy külső szervezetek munkavállalói tiszteletben tartsák azon információk bizalmasságát, amelyek a megfelelőségértékelési tevékenységek végzése során a birtokukba kerülnek, kivéve ha azok közzétételét jogszabály írja elő. A bejelentett szervezetek személyzete betartja a szakmai titoktartás követelményeit minden olyan információ tekintetében, amely az e rendeletben foglalt feladataik végrehajtása során jutott birtokába, kivéve annak a tagállamnak a bejelentő hatóságaival szemben, ahol a bejelentett szervezetek tevékenységüket végzik.
(6) A bejelentett szervezetek dokumentált eljárásokkal rendelkeznek, amelyek biztosítják, hogy a személyzetük, a bizottságaik, a leányvállalataik, az alvállalkozóik és bármely velük kapcsolatban álló szervezet vagy külső szervezetek munkavállalói tiszteletben tartsák azon információk bizalmasságát, amelyek a megfelelőségértékelési tevékenységek végzése során a birtokukba kerülnek, kivéve ha azok közzétételét jogszabály írja elő. A bejelentett szervezetek személyzete betartja a szakmai titoktartás követelményeit minden olyan információ tekintetében, amely az e rendeletben foglalt feladataik végrehajtása során jutott birtokába, kivéve annak a tagállamnak a bejelentő hatóságaival szemben, ahol a bejelentett szervezetek tevékenységüket végzik. A bejelentett szervezetek által e cikk rendelkezései alapján megszerzett információkat és dokumentumokat a 70. cikkben meghatározott titoktartási kötelezettségeknek megfelelően kell kezelni.
(3) A tevékenységeket csak a szolgáltató beleegyezésével lehet alvállalkozásba adni vagy leányvállalattal elvégeztetni.
(3) A tevékenységeket csak a szolgáltató beleegyezésével lehet alvállalkozásba adni vagy leányvállalattal elvégeztetni. A bejelentett szervezetek nyilvánosan hozzáférhetővé teszik leányvállalataik jegyzékét.
(4) A bejelentett szervezetek a bejelentő hatóság számára elérhetővé teszik az alvállalkozó vagy a leányvállalat szakmai felkészültségének és az általuk az e rendelet alapján elvégzett munkának az értékelésére vonatkozó megfelelő dokumentumokat.
(4) A bejelentett szervezetek a bejelentő hatóság számára elérhetővé teszik az alvállalkozó vagy a leányvállalat szakmai felkészültségének és az általuk az e rendelet alapján elvégzett munkának az ellenőrzésére vonatkozó megfelelő dokumentumokat.
Módosítás 429 Rendeletre irányuló javaslat 35 cikk – cím
Az e rendelet értelmében kijelölt bejelentett szervezetek azonosító száma és jegyzékei
A bejelentett szervezetek azonosító száma és jegyzéke
(1) Amennyiben a bejelentő hatóság azt gyanítja, vagy arról értesül, hogy a bejelentett szervezet már nem felel meg a 33. cikkben meghatározott követelményeknek, vagy elmulasztja teljesíteni kötelezettségeit, a bejelentő hatóság a lehető legnagyobb gondossággal kivizsgálja az ügyet. Ezzel összefüggésben tájékoztatja az érintett bejelentett szervezetet a felmerült kifogásokról, és lehetőséget biztosít számára álláspontjának ismertetésére. Ha a bejelentő hatóság arra a következtetésre jut, hogy a vizsgált bejelentett szervezet már nem felel meg a 33. cikkben meghatározott követelményeknek, vagy elmulasztja teljesíteni kötelezettségeit, a mulasztás súlyosságától függően korlátozhatja, felfüggesztheti vagy visszavonhatja a bejelentést. A bejelentő hatóság erről haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot is.
(1) Amennyiben a bejelentő hatóság azt gyanítja, vagy arról értesül, hogy a bejelentett szervezet már nem felel meg a 33. cikkben meghatározott követelményeknek, vagy elmulasztja teljesíteni kötelezettségeit, a bejelentő hatóság a lehető legnagyobb gondossággal kivizsgálja az ügyet. Ezzel összefüggésben tájékoztatja az érintett bejelentett szervezetet a felmerült kifogásokról, és lehetőséget biztosít számára álláspontjának ismertetésére. Ha a bejelentő hatóság arra a következtetésre jut, hogy a bejelentett szervezet már nem felel meg a 33. cikkben meghatározott követelményeknek, vagy elmulasztja teljesíteni kötelezettségeit, a mulasztás súlyosságától függően korlátozhatja, felfüggesztheti vagy visszavonhatja a bejelentést. A bejelentő hatóság erről haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot is.
(2) A bejelentés korlátozása, felfüggesztése vagy visszavonása, illetve a bejelentett szervezet tevékenységének megszűnése esetén a bejelentő hatóság megteszi a szükséges lépéseket annak biztosítása érdekében, hogy egy másik bejelentett szervezet átvegye a szóban forgó bejelentett szervezet dokumentációját, vagy hogy az megőrzésre kerüljön annak érdekében, hogy az illetékes bejelentő hatóságok kérésre hozzáférhessenek ahhoz.
(2) A bejelentés korlátozása, felfüggesztése vagy visszavonása, illetve a bejelentett szervezet tevékenységének megszűnése esetén a bejelentő hatóság megteszi a szükséges lépéseket annak biztosítása érdekében, hogy egy másik bejelentett szervezet átvegye a szóban forgó bejelentett szervezet dokumentációját, vagy hogy az megőrzésre kerüljön annak érdekében, hogy az illetékes bejelentő hatóságok és a piacfelügyeleti hatóság kérésre hozzáférhessenek ahhoz.
(1) A Bizottság szükség esetén kivizsgál minden olyan esetet, amikor okkal kérdőjelezhető meg, hogy a bejelentett szervezet megfelel-e a 33. cikkben meghatározott követelményeknek.
(1) A Bizottság szükség esetén kivizsgál minden olyan esetet, amikor okkal kérdőjelezhető meg a bejelentett szervezet alkalmassága, vagy az, hogy a bejelentett szervezet folyamatosan teljesíti-e az alkalmazandó követelményeket és kötelezettségeket.
(2) A bejelentő hatóság– kérésre – a Bizottság rendelkezésére bocsát minden, az érintett bejelentett szervezet kijelölésével összefüggő információt.
(2) A bejelentő hatóság – kérésre – a Bizottság rendelkezésére bocsát minden, az érintett bejelentett szervezet kijelölésével vagy szakmai alkalmassága fenntartásával összefüggő információt.
(3) A Bizottság gondoskodik arról, hogy az e cikk értelmében általa lefolytatott vizsgálatok során a birtokába jutott valamennyi bizalmas információt bizalmasan kezelje.
(3) A Bizottság gondoskodik arról, hogy az e cikk értelmében általa lefolytatott vizsgálatok során a birtokába jutott valamennyi érzékeny információt bizalmasan kezelje.
(4) Ha a Bizottság megbizonyosodott arról, hogy egy bejelentett szervezet nem vagy már nem tesz eleget a 33. cikkben megállapított követelményeknek, indokolással ellátott határozatot fogad el, amelyben felszólítja a bejelentő tagállamot a szükséges korrekciós intézkedések megtételére, ideértve szükség esetén a bejelentés visszavonását is. Ezt a végrehajtási jogi aktust a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.
(4) Ha a Bizottság megbizonyosodott arról, hogy egy bejelentett szervezet nem vagy már nem tesz eleget a rá vonatkozó bejelentés követelményeinek, tájékoztatja erről a bejelentő tagállamot, és felkéri a szükséges korrekciós intézkedések megtételére, ideértve szükség esetén a bejelentés felfüggesztését vagy visszavonását is.Amennyiben a tagállam nem hozza meg a szükséges korrekciós intézkedéseket, a Bizottság végrehajtási jogi aktusok útján felfüggesztheti vagy korlátozhatja a bejelentett tevékenységet vagy visszavonhatja a kijelölést. Ezt a végrehajtási jogi aktust a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.
(2a) A Bizottság gondoskodik az ismereteknek és a bevált gyakorlatoknak a tagállamok bejelentéssel kapcsolatos szakpolitikai intézkedésekért felelős nemzeti hatóságai közötti cseréjéről.
Azokról a nagy kockázatú MI-rendszerekről, amelyek megfelelnek az olyan harmonizált szabványoknak, illetve azok egyes részeinek, amelyek hivatkozásait közzétették az Európai Unió Hivatalos Lapjában, azt kell feltételezni, hogy megfelelnek az e cím 2. fejezetében megállapított követelményeknek, amennyiben az említett szabványok e követelményekre is kiterjednek.
Azokról a nagy kockázatú MI-rendszerekről és alapmodellekről, amelyek megfelelnek az olyan harmonizált szabványoknak, illetve azok egyes részeinek, amelyek hivatkozásait az (EU) 1025/2012 rendelettel összhangban közzétették az Európai Unió Hivatalos Lapjában, azt kell feltételezni, hogy megfelelnek az e cím 2. fejezetében vagy a 28a. cikkben megállapított követelményeknek, amennyiben az említett szabványok e követelményekre is kiterjednek.
A Bizottság az 1025/2012/EU rendelet 10. cikkével összhangban [a rendelet hatálybalépésétől számított két hónapon belül]-ig a rendelet valamennyi követelményére kiterjedő szabványosítási kérelmet nyújt be. Az ilyen szabványosítási kérelmek előkészítése során a Bizottság konzultál az MI-hivatallal és az érintett érdekelt felekkel és a tanácsadó fórummal;
Az európai szabványügyi szervezeteknek benyújtott szabványosítási kérelem kiadásakor a Bizottság meghatározza, hogy a szabványoknak összhangban kell lenniük – többek között a II. mellékletben felsorolt ágazati jogszabályokkal –, és biztosítaniuk kell, hogy az Unióban forgalomba hozott vagy üzembe helyezett MI-rendszerek vagy alapmodellek megfeleljenek az e rendeletben meghatározott vonatkozó követelményeknek;
A szabványosítási folyamatban részt vevő szereplőknek figyelembe kell venniük a megbízható MI-re vonatkozóan a 4. cikk a) pontjában meghatározott általános elveket, törekedniük kell az MI-vel kapcsolatos beruházások és innováció, valamint az uniós piac versenyképességének és növekedésének előmozdítására, és hozzá kell járulniuk a szabványosítás terén folytatott globális együttműködés megerősítéséhez, figyelembe véve az MI területén meglévő, az uniós értékekkel, alapvető jogokkal és érdekekkel összhangban lévő nemzetközi szabványokat, valamint az 1025/2012/EU rendelet 5., 6. és 7. cikkével összhangban biztosítaniuk kell az érdekek kiegyensúlyozott képviseletét és valamennyi érdekelt fél tényleges részvételét.
(1) Amennyiben a 40. cikkben említett harmonizált szabványok nem léteznek, vagy ha a Bizottság úgy ítéli meg, hogy a vonatkozó harmonizált szabványok nem elégségesek, vagy konkrét biztonsági vagy alapjogi aggályok megoldására van szükség, a Bizottság végrehajtási jogi aktusok útján egységes előírásokat fogadhat el az e cím 2. fejezetében meghatározott követelményekre vonatkozóan. Ezeket a végrehajtási jogi aktusokat a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.
(1a) A Bizottság a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárással összhangban elfogadott végrehajtási jogi aktus révén, valamint az MI-hivatallal és az MI-vel foglalkozó tanácsadó fórummal folytatott konzultációt követően egységes előírásokat fogadhat el az e cím 2. fejezetében vagy a 28b. cikkben meghatározott követelmények tekintetében, amennyiben az alábbi feltételek mindegyike teljesül:
a) az alapvető követelmény(ek)re vonatkozóan nincs hivatkozás az Európai Unió Hivatalos Lapjában már közzétett harmonizált szabványokra, kivéve, ha a szóban forgó harmonizált szabvány olyan meglévő szabvány, amelyet felül kell vizsgálni;
b) a Bizottság egy vagy több európai szabványügyi szervezetet felkért a 2. fejezetben meghatározott alapvető követelmény(ek)re vonatkozó harmonizált szabvány kidolgozására;
c) a b) pontban említett kérelmet egyik európai szabványügyi szervezet sem fogadta be; vagy indokolatlan késedelmet szenved a megfelelő harmonizált szabvány kidolgozása; vagy a megadott szabvány nem felel meg a vonatkozó uniós jog követelményeinek vagy a Bizottság kérésének.
(1b) Amennyiben a Bizottság úgy ítéli meg, hogy foglalkozni kell az alapvető jogokkal kapcsolatos konkrét aggályokkal, az (1a) bekezdéssel összhangban a Bizottság által elfogadott közös előírások az alapvető jogokkal kapcsolatos konkrét aggályokra is kitérnek.
(1c) A Bizottság közös előírásokat dolgoz ki a nagy kockázatú MI-rendszer fejlesztése, betanítása és telepítése során az energia- és erőforrás-fogyasztásra vonatkozó jelentéstételi és dokumentációs követelmény teljesítésére szolgáló módszertanra vonatkozóan.
(2) Az (1) bekezdésben említett egységes előírások kidolgozása során a Bizottság összegyűjti a vonatkozó uniós ágazati jog alapján létrehozott érintett szervek vagy szakértői csoportok véleményét.
(2) A Bizottság az (1a) és (1b) bekezdésben említett egységes előírások kidolgozásának teljes folyamata során rendszeresen konzultál az MI-hivatallal és a tanácsadó fórummal, az európai szabványügyi szervezetekkel és testületekkel vagy a vonatkozó ágazati uniós jog alapján létrehozott szakértői csoportokkal, valamint más érdekelt felekkel.A Bizottság teljesíti a 40. cikk (1c) bekezdésében említett célkitűzéseket, és megfelelően megindokolja, hogy miért döntött az egységes előírások alkalmazása mellett.
Amennyiben a Bizottság e cikk (1a) bekezdése alapján egységes előírásokat kíván elfogadni, egyértelműen meg kell határoznia az alapvető jogokkal kapcsolatban kezelendő konkrét aggályokat is.
Az e cikk (1a) és (1b) bekezdése szerinti egységes előírások elfogadásakor a Bizottság figyelembe veszi az MI-hivatal az e rendelet 56e. cikkének b) pontjában említett véleményét. Amennyiben a Bizottság úgy határoz, hogy nem követi az MI-hivatal véleményét, indokolással ellátott magyarázatot kell adnia az MI-hivatalnak.
(3) Azokról a nagy kockázatú MI-rendszerekről, amelyek megfelelnek az (1) bekezdésben említett egységes előírásoknak, azt kell vélelmezni, hogy megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, amennyiben ezek az egységes előírások az említett követelményekre is kiterjednek.
(3) Azokról a nagy kockázatú MI-rendszerekről, amelyek megfelelnek az (1a) és (1b) bekezdésben említett egységes előírásoknak, azt kell vélelmezni, hogy megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, amennyiben ezek az egységes előírások az említett követelményekre is kiterjednek.
(3a) Amennyiben valamely európai szabványügyi szervezet harmonizált szabványt fogad el, és javasolja a Bizottságnak, hogy arra vonatkozóan tegyen közzé hivatkozást az Európai Unió Hivatalos Lapjában, a Bizottság az 1025/2012/EU rendelettel összhangban értékeli a harmonizált szabványt. Amikor egy harmonizált szabvány hivatkozását közzéteszik az Európai Unió Hivatalos Lapjában, a Bizottság hatályon kívül helyezi az (1a) és (1b) bekezdésben említett jogi aktusokat vagy azok azon részeit, amelyek az e cím 2. fejezetében említett ugyanazon követelményekre vonatkoznak.
(4) Amennyiben a szolgáltatók nem felelnek meg az (1) bekezdésben említett egységes előírásoknak, megfelelően igazolniuk kell, hogy legalább azokkal egyenértékű műszaki megoldásokat fogadtak el.
(4) Amennyiben a nagy kockázatú MI-rendszerek szolgáltatói nem felelnek meg az (1) bekezdésben említett egységes előírásoknak, megfelelően igazolniuk kell, hogy olyan műszaki megoldásokat fogadtak el, amelyek megfelelnek a II. fejezetben említett, legalább azokkal egyenértékű követelményeknek;
(1) Rendeltetésük figyelembevételével vélelmezni kell, hogy azok a nagy kockázatú MI-rendszerek, amelyeket azon konkrét földrajzi, viselkedési és funkcionális környezetre vonatkozó adatok alapján tanítottak be és teszteltek, amely környezeten belül használni kívánják őket, megfelelnek a 10. cikk (4) bekezdésében meghatározott követelménynek.
(1) Rendeltetésük figyelembevételével vélelmezni kell, hogy azok a nagy kockázatú MI-rendszerek, amelyeket azon konkrét földrajzi, viselkedési, kontextuális és funkcionális környezetre vonatkozó adatok alapján tanítottak be és teszteltek, amely környezeten belül használni kívánják őket, megfelelnek a 10. cikk (4) bekezdésében meghatározott, vonatkozó követelményeknek.
(1) A III. melléklet 1. pontjában felsorolt nagy kockázatú MI-rendszerek esetében, amennyiben valamely nagy kockázatú MI-rendszernek az e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolása során a szolgáltató a 40. cikkben említett harmonizált szabványokat, vagy adott esetben a 41. cikkben említett egységes előírásokat alkalmazta, a szolgáltató a következő eljárások egyikét követi:
(1) A III. melléklet 1. pontjában felsorolt nagy kockázatú MI-rendszerek esetében, amennyiben valamely nagy kockázatú MI-rendszernek az e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolása során a szolgáltató a 40. cikkben említett harmonizált szabványokat, vagy adott esetben a 41. cikkben említett egységes előírásokat alkalmazta, a szolgáltató a következő eljárások egyikét választja:
Módosítás 451 Rendeletre irányuló javaslat 43 cikk – 1 bekezdés – a pont
a) a VI. mellékletben említett, belső ellenőrzésen alapuló megfelelőségértékelési eljárás;
a) a VI. mellékletben említett, belső ellenőrzésen alapuló megfelelőségértékelési eljárás; vagy
Módosítás 452 Rendeletre irányuló javaslat 43 cikk – 1 bekezdés – b pont
b) a VII. mellékletben említett, a minőségirányítási rendszer értékelésén és a műszaki dokumentáció értékelésén alapuló, valamely bejelentett szervezet bevonásával zajló megfelelőségértékelési eljárás.
b) a VII. mellékletben említett, a minőségirányítási rendszer és a műszaki dokumentáció értékelésén alapuló, valamely bejelentett szervezet bevonásával zajló megfelelőségértékelési eljárás.
Amennyiben valamely nagy kockázatú MI-rendszernek az e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolása során a szolgáltató nem vagy csak részben alkalmazta a 40. cikkben említett harmonizált szabványokat, vagy ha ilyen harmonizált szabványok nem léteznek és a 41. cikkben említett egységes előírások nem állnak rendelkezésre, a szolgáltató a VII. mellékletben meghatározott megfelelőségértékelési eljárást követi.
Valamely nagy kockázatú MI-rendszernek az e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolása során a szolgáltató a VII. mellékletben meghatározott megfelelőségértékelési eljárást követi a következő esetekben:
a) ha nem léteznek a 40. cikkben említett olyan harmonizált szabványok, amelyek hivatkozási számát az Európai Unió Hivatalos Lapjában közzétették, és amelyek az MI-rendszerrel kapcsolatos összes releváns biztonsági követelményre vonatkoznak, és a 41. cikkben említett egységes előírások nem állnak rendelkezésre;
b) ha léteznek az a) pontban említett műszaki szabványok, de a szolgáltató nem, vagy csak részben alkalmazta őket;
c) ha az a) pontban említett egy vagy több műszaki előírást korlátozással és csak a szabvány korlátozott részére tettek közzé;
d) amennyiben a szolgáltató úgy ítéli meg, hogy az MI-rendszer jellege, kialakítása, felépítése vagy célja harmadik fél általi ellenőrzést tesz szükségessé, függetlenül annak kockázati szintjétől.
A VII. mellékletben említett megfelelőségértékelési eljárás céljából a szolgáltató a bejelentett szervezetek bármelyikét választhatja. Ha azonban a rendszert bűnüldöző, bevándorlási vagy menekültügyi hatóságok, valamint uniós intézmények, szervek vagy ügynökségek kívánják üzembe helyezni, a 63. cikk (5) vagy (6) bekezdésében említett piacfelügyeleti hatóság jár el bejelentett szervezetként.
A VII. mellékletben említett megfelelőségértékelési eljárás elvégzése céljából a szolgáltató a bejelentett szervezetek bármelyikét választhatja. Ha azonban a rendszert bűnüldöző, bevándorlási vagy menekültügyi hatóságok, valamint uniós intézmények, szervek vagy ügynökségek kívánják üzembe helyezni, a 63. cikk (5) vagy (6) bekezdésében említett piacfelügyeleti hatóság jár el bejelentett szervezetként.
(4) A nagy kockázatú MI-rendszereket új megfelelőségértékelési eljárásnak kell alávetni akkor, amikor lényeges módosításon mennek keresztül, függetlenül attól, hogy a módosított rendszert további forgalmazásra szánják-e vagy a jelenlegi felhasználó fogja azt továbbra is használni.
(4) A megfelelőségértékelési eljárásnak korábban már alávetett nagy kockázatú MI-rendszereket új megfelelőségértékelési eljárásnak kell alávetni akkor, amikor lényeges módosításon mennek keresztül, függetlenül attól, hogy a módosított rendszert további forgalmazásra szánják-e vagy a jelenlegi alkalmazó fogja azt továbbra is használni;
(4a) Az e cikk szerinti, harmadik fél által végzett megfelelőségértékelés díjainak megállapításakor figyelembe kell venni a kkv-k sajátos érdekeit és igényeit, e díjakat méretükkel és piaci részesedésükkel arányosan csökkentve.
(5) A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy naprakésszé tegye a VI. és a VII. mellékletet a megfelelőségértékelési eljárások azon elemeinek bevezetése érdekében, amelyek a műszaki fejlődéstől függően válnak szükségessé.
(5) A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy naprakésszé tegye a VI. és a VII. mellékletet a megfelelőségértékelési eljárások azon elemeinek bevezetése érdekében, amelyek a műszaki fejlődéstől függően válnak szükségessé. Az ilyen felhatalmazáson alapuló jogi aktusok előkészítése során a Bizottság konzultál az MI-hivatallal és az érintett érdekelt felekkel;
(6) A Bizottság felhatalmazást kap arra, hogy felhatalmazáson alapuló jogi aktusokat fogadjon el az (1) és (2) bekezdés módosítása céljából annak érdekében, hogy a III. melléklet 2–8. pontjában említett nagy kockázatú MI-rendszereket a VII. mellékletben említett megfelelőségértékelési eljárás vagy az eljárás egyes részeinek hatálya alá vonja. A Bizottság ilyen felhatalmazáson alapuló jogi aktusokat oly módon fogad el, hogy figyelembe veszi a VI. mellékletben említett belső ellenőrzésen alapuló megfelelőségértékelési eljárás hatékonyságát az ilyen rendszerek által az egészséget és a biztonságot érintő kockázatok megelőzése vagy minimálisra csökkentése, valamint az alapvető jogok védelme tekintetében, továbbá a megfelelő kapacitások és erőforrások bejelentett szervezetek körében történő rendelkezésre állását.
(6) A Bizottság felhatalmazást kap arra, hogy felhatalmazáson alapuló jogi aktusokat fogadjon el az (1) és (2) bekezdés módosítása céljából annak érdekében, hogy a III. melléklet 2–8. pontjában említett nagy kockázatú MI-rendszereket a VII. mellékletben említett megfelelőségértékelési eljárás vagy az eljárás egyes részeinek hatálya alá vonja. A Bizottság ilyen felhatalmazáson alapuló jogi aktusokat oly módon fogad el, hogy figyelembe veszi a VI. mellékletben említett belső ellenőrzésen alapuló megfelelőségértékelési eljárás hatékonyságát az ilyen rendszerek által az egészséget és a biztonságot érintő kockázatok megelőzése vagy minimálisra csökkentése, valamint az alapvető jogok védelme tekintetében, továbbá a megfelelő kapacitások és erőforrások bejelentett szervezetek körében történő rendelkezésre állását. Az ilyen felhatalmazáson alapuló jogi aktusok előkészítése során a Bizottság konzultál az MI-hivatallal és az érintett érdekelt felekkel;
(1) A bejelentett szervezetek által a VII. melléklet szerint kiadott tanúsítványokat az Unió azon hivatalos nyelvén kell kiadni, amelyet a bejelentett szervezet letelepedési helye szerinti tagállam meghatároz, vagy az Uniónak a bejelentett szervezet számára egyébként elfogadható hivatalos nyelvén.
(1) A bejelentett szervezetek által a VII. melléklet szerint kiadott tanúsítványokat az Unió azon egy vagy több hivatalos nyelvén kell kiadni, amelyet a bejelentett szervezet letelepedési helye szerinti tagállam meghatároz, vagy az Uniónak a bejelentett szervezet számára egyébként elfogadható egy vagy több hivatalos nyelvén;
(2) A tanúsítványok érvényessége a bennük feltüntetett időtartamra szól, amely nem haladhatja meg az öt évet. A szolgáltató kérelmére a tanúsítvány érvényessége további, egyenként öt évet meg nem haladó időszakokra meghosszabbítható, az alkalmazandó megfelelőségértékelési eljárásokkal összhangban elvégzett felülvizsgálat alapján.
(2) A tanúsítványok érvényessége a bennük feltüntetett időtartamra szól, amely nem haladhatja meg a négy évet. A szolgáltató kérelmére a tanúsítvány érvényessége további, egyenként négy évet meg nem haladó időszakokra meghosszabbítható, az alkalmazandó megfelelőségértékelési eljárásokkal összhangban elvégzett felülvizsgálat alapján;
(3) Amennyiben egy bejelentett szervezet megállapítja, hogy az MI-rendszer már nem tesz eleget az e cím 2. fejezetében foglalt követelményeknek, az arányosság elvét figyelembe véve felfüggeszti vagy visszavonja a kiadott tanúsítványt, vagy korlátozásokat vezet be a tanúsítványra vonatkozóan, kivéve, ha a rendszer szolgáltatója a bejelentett szervezet által meghatározott megfelelő határidőn belül megfelelő korrekciós intézkedéssel biztosítja az említett követelményeknek való megfelelést. A bejelentett szervezet megindokolja döntését.
(3) Amennyiben egy bejelentett szervezet megállapítja, hogy az MI-rendszer már nem tesz eleget az e cím 2. fejezetében foglalt követelményeknek, felfüggeszti vagy visszavonja a kiadott tanúsítványt, vagy korlátozásokat vezet be a tanúsítványra vonatkozóan, kivéve, ha a rendszer szolgáltatója a bejelentett szervezet által meghatározott megfelelő határidőn belül megfelelő korrekciós intézkedéssel biztosítja az említett követelményeknek való megfelelést. A bejelentett szervezet megindokolja döntését.
A tagállamok biztosítják, hogy a bejelentett szervezetek határozataival szembeni fellebbezési eljárás álljon azon felek rendelkezésére, amelyeknek a szóban forgó határozathoz jogos érdeke fűződik.
A tagállamok biztosítják, hogy a bejelentett szervezetek határozataival – többek között a kiadott megfelelőségi tanúsítványokkal – szembeni fellebbezési eljárás álljon azon felek rendelkezésére, amelyeknek a szóban forgó határozathoz jogos érdeke fűződik.
(3) Minden egyes bejelentett szervezet megfelelően tájékoztatja az ugyanazokra a mesterségesintelligencia-technológiákra vonatkozó, hasonló megfelelőségértékelési tevékenységeket végző más bejelentett szervezeteket a negatív és – kérésre – a pozitív megfelelőségértékelési eredményekről.
(3) Minden egyes bejelentett szervezet megfelelően tájékoztatja a hasonló megfelelőségértékelési tevékenységeket végző más bejelentett szervezeteket a negatív és – kérésre – a pozitív megfelelőségértékelési eredményekről.
(1) A 43. cikktől eltérve bármely piacfelügyeleti hatóság engedélyezheti egyes nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését az érintett tagállam területén, a közbiztonság vagy a személyek életének és egészségének védelmét, a környezetvédelmet, valamint a kulcsfontosságú ipari és infrastrukturális eszközök védelmét szolgáló kivételes okokból. Az engedély korlátozott időtartamra szól, amíg a szükséges megfelelőségértékelési eljárásokat végrehajtják, és az említett eljárások befejezését követően megszűnik. Ezen eljárások lefolytatását indokolatlan késedelem nélkül meg kell kezdeni.
(1) A 43. cikktől eltérve bármely nemzeti felügyeleti hatóság felkérhet egy bírósági hatóságot, hogy engedélyezze egyes nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését az érintett tagállam területén, a személyek életének és egészségének védelmét, a környezetvédelmet, valamint a kritikus infrastruktúra védelmét szolgáló kivételes okokból. Az engedély korlátozott időtartamra szól, amíg a szükséges megfelelőségértékelési eljárásokat végrehajtják, és az említett eljárások befejezését követően megszűnik. Ezen eljárások lefolytatását indokolatlan késedelem nélkül meg kell kezdeni;
(2) Az (1) bekezdésben említett engedély csak akkor adható ki, ha a piacfelügyeleti hatóság arra a következtetésre jut, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében foglalt követelményeknek. A piacfelügyeleti hatóság tájékoztatja a Bizottságot és a többi tagállamot az (1) bekezdés alapján kiadott bármely engedélyről.
(2) Az (1) bekezdésben említett engedély csak akkor adható ki, ha a nemzeti felügyeleti hatóság és a igazságügyi hatóság arra a következtetésre jut, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében foglalt követelményeknek. A nemzeti felügyeleti hatóság tájékoztatja a Bizottságot, az MI-hivatalt és a többi tagállamot bármely benyújtott kérelemről és az (1) bekezdés alapján ezt követően kiadott bármely engedélyről.
(3) Amennyiben a (2) bekezdésben említett tájékoztatás kézhezvételétől számított 15 naptári napon belül egyik tagállam és a Bizottság sem emel kifogást a valamely tagállam piacfelügyeleti hatósága által az (1) bekezdéssel összhangban kiadott engedéllyel szemben, az engedély indokoltnak tekintendő.
(3) Amennyiben a (2) bekezdésben említett tájékoztatás kézhezvételétől számított 15 naptári napon belül egyik tagállam és a Bizottság sem emel kifogást a valamely tagállam nemzeti felügyeleti hatósága által az (1) bekezdéssel összhangban kiadott engedély iránt a nemzeti felügyeleti hatóság által benyújtott kérelemmel szemben, az engedély indokoltnak tekintendő;
(4) Amennyiben a (2) bekezdésben említett értesítés kézhezvételétől számított 15 naptári napon belül valamely tagállam kifogást emel egy másik tagállam piacfelügyeleti hatósága által kiadott engedély ellen, vagy ha a Bizottság úgy ítéli meg, hogy az engedély ellentétes az uniós joggal, vagy hogy a tagállamoknak a (2) bekezdésben említett, a rendszer megfelelőségére vonatkozó következtetése megalapozatlan, a Bizottság haladéktalanul egyeztetést kezdeményez az érintett tagállammal; az érintett üzemeltetővel/üzemeltetőkkel egyeztetni kell, és lehetőséget kell biztosítani számukra, hogy kifejtsék álláspontjukat. Mindezek birtokában a Bizottság dönt arról, hogy az engedély indokolt vagy sem. A Bizottság döntését az érintett tagállamnak, valamint az érintett üzemeltetőnek vagy üzemeltetőknek címezi.
(4) Amennyiben a (2) bekezdésben említett értesítés kézhezvételétől számított 15 naptári napon belül valamely tagállam kifogást emel egy másik tagállam nemzeti felügyeleti hatósága által kiadott kérelem ellen, vagy ha a Bizottság úgy ítéli meg, hogy az engedély ellentétes az uniós joggal, vagy hogy a tagállamoknak a (2) bekezdésben említett, a rendszer megfelelőségére vonatkozó következtetése megalapozatlan, a Bizottság haladéktalanul egyeztetést kezdeményez az érintett tagállammal és az MI-hivatallal; az érintett üzemeltetővel/üzemeltetőkkel egyeztetni kell, és lehetőséget kell biztosítani számukra, hogy kifejtsék álláspontjukat. Mindezek birtokában a Bizottság dönt arról, hogy az engedély indokolt vagy sem. A Bizottság döntését az érintett tagállamnak, valamint az érintett üzemeltető(k)nek címezi;
(1) A szolgáltató minden egyes MI-rendszerre vonatkozóan írásos EU-megfelelőségi nyilatkozatot készít, és azt az MI-rendszer forgalomba hozatala vagy üzembe helyezése után 10 évig a nemzeti illetékes hatóság számára elérhetővé teszi. Az EU-megfelelőségi nyilatkozat megnevezi azt az MI-rendszert, amelyre vonatkozóan a nyilatkozatot kiállították.Az EU-megfelelőségi nyilatkozat egy példányát kérésre az érintett nemzeti illetékes hatóságok rendelkezésére kell bocsátani.
(1) A szolgáltató minden egyes nagy kockázatú MI-rendszerre vonatkozóan írásos, géppel olvasható, fizikai vagy elektronikus EU-megfelelőségi nyilatkozatot készít, és azt a nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése után 10 évig a nemzeti felügyeleti hatóság és a nemzeti illetékes hatóságok számára elérhetővé teszi. Az EU-megfelelőségi nyilatkozat egy példányát kérésre a nemzeti felügyeleti hatóság és az érintett nemzeti illetékes hatóságok rendelkezésére kell bocsátani;
(2) Az EU-megfelelőségi nyilatkozatban fel kell tüntetni, hogy a szóban forgó nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek. Az EU-megfelelőségi nyilatkozat tartalmazza az V. mellékletben szereplő információkat. A nyilatkozatot le kell fordítani az Unió azon hivatalos nyelvére vagy nyelveire, amelye(ke)t a nagy kockázatú MI-rendszer forgalmazásának helye szerinti tagállam(ok) előír(nak).
(2) Az EU-megfelelőségi nyilatkozatban fel kell tüntetni, hogy a szóban forgó nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek. Az EU-megfelelőségi nyilatkozat tartalmazza az V. mellékletben szereplő információkat. A nyilatkozatot le kell fordítani az Unió azon hivatalos nyelvére vagy nyelveire, amelye(ke)t a nagy kockázatú MI-rendszer forgalomba hozatalának vagy forgalmazásának helye szerinti tagállam(ok) előír(nak);
(3) Amennyiben a nagy kockázatú MI-rendszerek más uniós harmonizációs jogszabályok hatálya alá tartoznak, amelyek szintén EU-megfelelőségi nyilatkozatot írnak elő, a nagy kockázatú MI-rendszerre alkalmazandó valamennyi uniós jogszabály tekintetében egyetlen EU-megfelelőségi nyilatkozatot kell kiállítani. A nyilatkozat tartalmaz minden olyan információt, amelyre szükség van annak az uniós harmonizációs jogszabálynak az azonosításához, amelynek tekintetében a nyilatkozatot tették.
(3) Amennyiben a nagy kockázatú MI-rendszerek más uniós harmonizációs jogszabályok hatálya alá tartoznak, amelyek szintén EU-megfelelőségi nyilatkozatot írnak elő, a nagy kockázatú MI-rendszerre alkalmazandó valamennyi uniós jogszabály tekintetében egyetlen EU-megfelelőségi nyilatkozatot lehet kiállítani. A nyilatkozat tartalmaz minden olyan információt, amelyre szükség van annak az uniós harmonizációs jogszabálynak az azonosításához, amelynek tekintetében a nyilatkozatot tették.
(5) A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el az V. mellékletben meghatározott EU-megfelelőségi nyilatkozat tartalmának naprakésszé tétele céljából, hogy a műszaki fejlődés fényében szükségessé váló elemeket be tudja illeszteni.
(5) Az MI-hivatallal folytatott egyeztetést követően a Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el az V. mellékletben meghatározott EU-megfelelőségi nyilatkozat tartalmának naprakésszé tétele céljából, hogy a műszaki fejlődés fényében szükségessé váló elemeket be tudja illeszteni;
(1) A CE-jelölést a nagy kockázatú MI-rendszerek esetében jól láthatóan, olvashatóan és eltávolíthatatlan módon kell elhelyezni. Amennyiben a nagy kockázatú MI-rendszer jellege miatt ez nem lehetséges vagy nem indokolt, a jelölést a csomagoláson vagy adott esetben a kísérő dokumentáción kell feltüntetni.
(1) A fizikai CE-jelölést a nagy kockázatú MI-rendszerek esetében a nagy kockázatú MI-rendszer forgalomba hozatala előtt jól láthatóan, olvashatóan és eltávolíthatatlan módon kell elhelyezni. Amennyiben a nagy kockázatú MI-rendszer jellege miatt ez nem lehetséges vagy nem indokolt, a jelölést a csomagoláson vagy adott esetben a kísérő dokumentáción kell feltüntetni. A jelölést követheti piktogram vagy bármely más, a felhasználás különleges kockázatát jelző jelölés;
(1a) Kizárólag digitális nagy kockázatú MI-rendszerek esetében digitális CE-jelölés csak akkor használható, ha az könnyen hozzáférhető azon interfészen keresztül, ahonnan az MI-rendszer elérhető, vagy könnyen hozzáférhető, géppel olvasható kód vagy más elektronikus eszköz révén.
(3) A CE-jelölés mellett adott esetben fel kell tüntetni az 43. cikkben előírt megfelelőségértékelési eljárásokért felelős bejelentett szervezet azonosító számát. Az azonosító számot fel kell tüntetni minden olyan promóciós anyagon is, amely megemlíti, hogy a nagy kockázatú MI-rendszer eleget tesz a CE-jelölésre vonatkozó követelményeknek.
(3) A CE-jelölés mellett adott esetben fel kell tüntetni az 43. cikkben előírt megfelelőségértékelési eljárásokért felelős bejelentett szervezet azonosító számát. A bejelentett szervezet azonosító számát maga a szervezet vagy – annak utasításai alapján – a szolgáltató meghatalmazott képviselője tünteti fel. Az azonosító számot fel kell tüntetni minden olyan promóciós anyagon is, amely megemlíti, hogy a nagy kockázatú MI-rendszer eleget tesz a CE-jelölésre vonatkozó követelményeknek;
(3a) Ha a nagy kockázatú MI-rendszerek olyan más uniós jogszabály hatálya alá is tartoznak, amely szintén előírja a CE-jelölés feltüntetését, a CE-jelölésben jelezni kell, hogy a nagy kockázatú MI-rendszerek ezen más jogszabály követelményeinek is megfelelnek.
A szolgáltató az MI-rendszer forgalomba hozatala vagy üzembe helyezése után 10 évig a nemzeti illetékes hatóságok számára elérhetővé teszi a következőket:
A szolgáltató az MI-rendszer forgalomba hozatala vagy üzembe helyezése után 10 évig a nemzeti felügyeleti hatóság és a nemzeti illetékes hatóságok számára elérhetővé teszi a következőket:
A 6. cikk (2) bekezdésében említett, nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt a szolgáltató vagy adott esetben a meghatalmazott képviselő a szóban forgó rendszert regisztrálja a 60. cikkben említett uniós adatbázisban.
A 6. cikk (2) bekezdésében említett, nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt a szolgáltató vagy adott esetben a meghatalmazott képviselő a szóban forgó rendszert regisztrálja a 60. cikkben említett uniós adatbázisban, összhangban a 60. cikk (2) bekezdésével;
A nagy kockázatú MI-rendszernek a 6. cikk (2) bekezdése szerinti üzembe helyezése vagy használata előtt a alkalmazók következő kategóriái regisztrálják az adott MI-rendszer használatát a 60. cikkben említett uniós adatbázisban:
a) azok az alkalmazók, akik hatóságok vagy uniós intézmények, szervek, hivatalok vagy ügynökségek, vagy a nevükben eljáró alkalmazók;
b) olyan alkalmazók, akik az (EU) 2022/1925 rendelet értelmében kapuőrnek minősített vállalkozások.
Az (1a) albekezdés hatálya alá nem tartozó alkalmazók jogosultak önkéntesen regisztrálni a 6. cikk (2) bekezdésében említett nagy kockázatú MI-rendszer használatát a 60. cikkben említett uniós adatbázisban.
(1) A szolgáltatók biztosítják, hogy a természetes személyekkel való interakcióra szánt MI-rendszereket úgy tervezzék meg és fejlesszék ki, hogy a természetes személyek tájékoztatást kapjanak arról, hogy valamely MI-rendszerrel állnak kapcsolatban, kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló.Ez a kötelezettség nem vonatkozik a törvény által a bűncselekmények felderítésére, megelőzésére, kivizsgálására és eljárás indítására engedélyezett MI-rendszerekre, kivéve, ha ezek a rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára is elérhetők.
(1) A szolgáltatók biztosítják, hogy a természetes személyekkel való közvetlen interakcióra szánt MI-rendszereket úgy tervezzék meg és fejlesszék ki, hogy az MI-rendszer, maga a szolgáltató vagy a felhasználó kellő időben, egyértelmű és érthető módon tájékoztassa az MI-rendszernek kitett természetes személyt arról, hogy MI-rendszerrel áll kapcsolatban, kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló.
Adott esetben e tájékoztatásnak ki kell terjednie arra is, hogy mely funkciók működnek MI-vel, hogy van-e, emberi felügyelet, és hogy ki felelős a döntéshozatali folyamatban, valamint azokra a meglévő jogokra és eljárásokra, amelyek az uniós és a nemzeti jog szerint lehetővé teszik természetes személyek vagy képviselőik számára, hogy tiltakozzanak az ilyen rendszerek rájuk vonatkozó alkalmazása ellen, és bírósági jogorvoslatot kérjenek az MI-rendszerek által hozott döntések vagy az általuk okozott károk ellen, beleértve a magyarázatkéréshez való jogukat is. Ez a kötelezettség nem vonatkozik a törvény által a bűncselekmények felderítésére, megelőzésére, kivizsgálására és eljárás indítására engedélyezett MI-rendszerekre, kivéve, ha ezek a rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára is elérhetők.
(2) Az érzelemfelismerő rendszer vagy a biometrikus kategorizálási rendszer felhasználói tájékoztatják a rendszer működéséről azokat a természetes személyeket, akik a rendszerrel kapcsolatba kerülnek. Ez a kötelezettség nem vonatkozik a biometrikus kategorizálásra használt olyan MI-rendszerekre, amelyek a jogszabályok értelmében bűncselekmények felderítése, megelőzése és kivizsgálása céljából kerültek engedélyezésre.
(2) Az érzelemfelismerő rendszer vagy az 5. cikk értelmében nem tiltott biometrikus kategorizálási rendszer felhasználói kellő időben, egyértelműen és érthetően tájékoztatják a rendszer működéséről azokat a természetes személyeket, akik a rendszerrel kapcsolatba kerülnek, és a biometrikus és egyéb személyes adataiknak az (EU) 2016/679 rendelettel, az (EU) 2016/1725 rendelettel és az (EU) 2016/280 irányelvvel összhangban történő kezelését megelőzően megszerzik a hozzájárulásukat. Ez a kötelezettség nem vonatkozik a biometrikus kategorizálásra használt olyan MI-rendszerekre, amelyek a jogszabályok értelmében bűncselekmények felderítése, megelőzése és kivizsgálása céljából kerültek engedélyezésre.
(3) Azon MI-rendszerek felhasználói, amelyek olyan, meglévő személyekre, tárgyakra, helyekre vagy más szervezetekre vagy eseményekre érzékelhetően hasonlító képet, audio- vagy videotartalmat generálnak vagy manipulálnak, amely egy személy számára megtévesztő módon eredetinek vagy valóságosnak tűnhet („deepfake”), közlik, hogy a tartalmat mesterségesen hozták létre vagy manipulálták.
(3) Azon MI-rendszerek felhasználói, amelyek olyan szöveges, audio- vagy vizuális tartalmat generálnak vagy manipulálnak, amely megtévesztő módon eredetinek vagy valóságosnak tűnhet, és amely olyan személyeket ábrázol a beleegyezésük nélkül, akik látszólag olyan dolgokat mondanak vagy tesznek, amelyeket nem mondtak vagy tettek („deepfake”), kellő időben, megfelelő, egyértelmű és látható módon közlik, hogy a tartalmat mesterségesen hozták létre vagy manipulálták, valamint – amikor csak lehetséges – közlik a tartalmat generáló vagy manipuláló személy nevét is.A közlés a tartalom olyan, a tartalom címzettje számára jól látható címkézése formájában valósul meg, amely jelzi, hogy a tartalom nem eredeti. A tartalom címkézésekor a felhasználók figyelembe veszik a technika általánosan elismert állását, valamint a vonatkozó harmonizált szabványokat és előírásokat.
Az első albekezdés azonban nem alkalmazandó abban az esetben, ha a felhasználást törvény engedélyezi bűncselekmények felderítése, megelőzése, kivizsgálása és eljárás indításának céljából, vagy ha az az Európai Unió Alapjogi Chartájában biztosított, a véleménynyilvánítás szabadságához, továbbá a művészet és tudomány szabadságához való jog gyakorlásához szükséges, és a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok hatálya alá tartozik.
(3a) A (3) bekezdés nem alkalmazandó abban az esetben, ha a szöveges, audio- vagy vizuális tartalmat létrehozó vagy manipuláló MI-rendszer felhasználását törvény engedélyezi, vagy ha az az Európai Unió Alapjogi Chartájában biztosított, a véleménynyilvánítás szabadságához, továbbá a művészet és tudomány szabadságához való jog gyakorlásához szükséges, és a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok hatálya alá tartozik. Amennyiben a tartalom nyilvánvalóan kreatív, szatirikus, művészi vagy fikciós filmművészeti alkotás, videójáték vizuális anyaga, vagy hasonló mű vagy program részét képezi, a (3) bekezdésben meghatározott átláthatósági kötelezettségek az ilyen létrehozott vagy manipulált tartalom meglétének megfelelő, egyértelmű és látható módon történő, a mű megjelenítését nem akadályozó közlésére, valamint adott esetben az alkalmazandó szerzői jogok közlésére korlátozódnak. Nem akadályozhatja meg továbbá a bűnüldöző hatóságokat abban, hogy olyan MI-rendszereket használjanak, amelyek célja a deepfake felderítése, valamint a használatukhoz kapcsolódó bűncselekmények megelőzése, kivizsgálása és büntetőeljárás alá vonása.
(3b) Az (1)–(3) bekezdésben említett tájékoztatást legkésőbb az első interakció vagy kapcsolatba kerülés időpontjában kell a természetes személyek rendelkezésére bocsátani. Hozzáférhetőnek kell lennie kiszolgáltatott személyek, például fogyatékossággal élő személyek vagy gyermekek számára, és adott esetben ki kell egészíteni a kapcsolatba kerülő természetes személy által használható, beavatkozásra vagy megjelölésre vonatkozó eljárásokkal, figyelembe véve a technika általánosan elismert állását, valamint a vonatkozó harmonizált szabványokat és egységes előírásokat.
(1) Az egy vagy több tagállam illetékes hatósága vagy az európai adatvédelmi biztos által létrehozott, mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezet olyan ellenőrzött környezetet biztosít, amely korlátozott ideig megkönnyíti az innovatív MI-rendszerek fejlesztését, tesztelését és validálását azok egy konkrét terv alapján történő forgalomba hozatala vagy üzembe helyezése előtt. Erre az illetékes hatóságok közvetlen felügyelete és irányítása mellett kerül sor annak érdekében, hogy biztosítsák az e rendeletben és adott esetben a tesztkörnyezetben felügyelt egyéb uniós és tagállami jogszabályokban foglalt követelményeknek való megfelelést.
(1) A tagállamok legalább egy MI-szabályozási tesztkörnyezetet hoznak létre nemzeti szinten, amelynek legkésőbb e rendelet alkalmazásának kezdőnapján működőképesnek kell lennie. Ez a tesztkörnyezet egy vagy több másik tagállammal közösen is létrehozható;
(1b) A Bizottság és az európai adatvédelmi biztos önállóan, egy vagy több tagállammal közösen vagy együttműködésben szintén létrehozhat mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezeteket uniós szinten;
(1d) A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezeteknek az 53a. cikkben meghatározott kritériumokkal összhangban olyan ellenőrzött környezetet kell biztosítaniuk, amely előmozdítja az innovációt, és elősegíti az innovatív MI-rendszerek korlátozott ideig történő fejlesztését, tesztelését és validálását azok forgalomba hozatala vagy üzembe helyezése előtt, a leendő szolgáltatók és a létrehozó hatóság közötti megállapodás szerinti egyedi terv alapján;
(1e) A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek létrehozásának célja, hogy hozzájáruljon a következő célkitűzésekhez:
a) az illetékes hatóságok nyújtsanak iránymutatást az MI-rendszerek leendő szolgáltatói számára az e rendeletnek vagy adott esetben más alkalmazandó uniós és tagállami jogszabályoknak való megfelelés érdekében;
b) a leendő szolgáltatók tegyék lehetővé és könnyítsék meg az MI-rendszerekhez kapcsolódó innovatív megoldások tesztelését és fejlesztését;
c) a szabályozó hatóságok általi tanulás ellenőrzött környezetben.
(1f) A létrehozó hatóságok a tesztkörnyezeten belül iránymutatást és felügyeletet nyújtanak a különösen az alapvető jogokkal, a demokráciával és a jogállamisággal, az egészséggel és biztonsággal, valamint a környezettel kapcsolatos kockázatok azonosítása, az azonosított kockázatokra és hatékonyságukra vonatkozó kockázatcsökkentő intézkedések tesztelése és demonstrálása, valamint az e rendeletben és adott esetben más uniós és tagállami jogszabályokban foglalt követelményeknek való megfelelés biztosítása érdekében;
(1g) A létrehozó hatóságok iránymutatást és felügyeletet biztosítanak a nagy kockázatú MI-rendszereket fejlesztő leendő szolgáltatók számára az e rendeletben meghatározott követelmények teljesítésének módjáról annak érdekében, hogy az MI-rendszerek úgy léphessenek ki a tesztkörnyezetből, hogy vélelmezhetően megfelelnek e rendelet azon konkrét követelményeinek, amelyeket a tesztkörnyezetben értékeltek. Amennyiben az MI-rendszer a tesztkörnyezetből való kilépéskor megfelel a követelményeknek, vélelmezni kell, hogy megfelel e rendeletnek. E tekintetben a létrehozó hatóság által készített kilépési jelentést a piacfelügyeleti hatóságok vagy a bejelentett szervezetek adott esetben figyelembe veszik a megfelelőségértékelési eljárások vagy a piacfelügyeleti ellenőrzések során;
(2) A tagállamok biztosítják, hogy amennyiben az innovatív MI-rendszerek személyes adatok kezelésével járnak, vagy egyébként az adatokhoz való hozzáférést biztosító vagy támogató más nemzeti hatóságok vagy illetékes hatóságok felügyeleti hatáskörébe tartoznak, a nemzeti adatvédelmi hatóságok és más nemzeti hatóságok részt vegyenek a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezet működtetésében.
(2) A létrehozó hatóságok biztosítják, hogy amennyiben az innovatív MI-rendszerek személyes adatok kezelésével járnak, vagy egyébként a személyes adatokhoz való hozzáférést biztosító vagy támogató más nemzeti hatóságok vagy illetékes hatóságok felügyeleti hatáskörébe tartoznak, a nemzeti adatvédelmi hatóságok, vagy az (1b) bekezdésben említett esetekben az európai adatvédelmi biztos és más nemzeti hatóságok részt vegyenek a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezet működtetésében, valamint megfelelő feladataikat és határköreiket teljes mértékben gyakorolva részt vegyenek e szempontok felügyeletében;
(3) A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek nem érintik az illetékes hatóságok felügyeleti és korrekciós hatásköreit. Amennyiben az ilyen rendszerek fejlesztése és tesztelése során az egészséget és a biztonságot, valamint az alapvető jogokat érintő jelentős kockázatok merülnek fel, azokat azonnal csökkenteni kell, illetve ennek hiányában a fejlesztési és tesztelési folyamatot mindaddig fel kell felfüggeszteni, amíg az említett kockázatcsökkentésre sor nem kerül.
(3) A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek nem érintik az illetékes hatóságok felügyeleti és korrekciós hatásköreit, ideértve a regionális és helyi szintű hatásköröket is. Amennyiben az ilyen, mesterséges intelligenciával kapcsolatos rendszerek fejlesztése és tesztelése során az alapvető jogokat, a demokráciát, a jogállamiságot, az egészséget és a biztonságot vagy a környezetet érintő jelentős kockázatok merülnek fel, azokat azonnal és megfelelően csökkenteni kell. Az illetékes hatóságoknak hatáskörrel kell rendelkezniük arra, hogy ideiglenesen vagy véglegesen felfüggesszék a tesztelési folyamatot vagy a tesztkörnyezetben való részvételt, ha nincs lehetőség hatékony kockázatcsökkentésre, és erről a döntésről tájékoztassák az MI-hivatalt;
(4) A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetben részt vevők a felelősségvállalásra alkalmazandó uniós és tagállami jogszabályok értelmében továbbra is felelősséggel tartoznak a tesztkörnyezetben végzett kísérlet következtében harmadik feleknek okozott károkért.
(4) A leendő szolgáltatók a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetben a felelősségvállalásra alkalmazandó uniós és tagállami jogszabályok értelmében továbbra is felelősséggel tartoznak a tesztkörnyezetben végzett kísérlet eredményeként harmadik feleknek okozott károkért. Feltéve azonban, hogy a leendő szolgáltató(k) tiszteletben tartják az (1c) bekezdésben említett egyedi tervet és részvételük feltételeit, és jóhiszeműen követik a létrehozó hatóságok által adott iránymutatást, a hatóságok nem szabhatnak ki közigazgatási bírságot e rendelet megsértése miatt;
(5) A tagállamok azon illetékes hatóságai, amelyek mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezeteket hoztak létre, összehangolják tevékenységeiket, és együttműködnek a Mesterséges Intelligenciával Foglalkozó Európai Testület keretében. A hatóságok éves jelentéseket nyújtanak be a Testületnek és a Bizottságnak a rendszer végrehajtásának eredményeiről, ezen belül a bevált gyakorlatokról, a levont tanulságokról és a létrehozásukra vonatkozó ajánlásokról, valamint adott esetben az e rendelet és a tesztkörnyezetben felügyelt egyéb uniós jogszabályok alkalmazásáról.
(5) A létrehozó hatóságok összehangolják tevékenységeiket és együttműködnek az MI-hivatal keretében;
(5a) A létrehozó hatóságok tájékoztatják az MI-hivatalt a tesztkörnyezet létrehozásáról, és támogatást és iránymutatást kérhetnek. Az MI-hivatalnak nyilvánosan hozzáférhetővé kell tennie és naprakészen kell tartania a tervezett és meglévő tesztkörnyezetek jegyzékét annak érdekében, hogy ösztönözze a szabályozói tesztkörnyezetekben való nagyobb számú interakciót és a transznacionális együttműködést;
(5b) A létrehozó hatóságok éves jelentéseket nyújtanak be az MI-hivatalnak és – kivéve, ha a Bizottság az egyetlen létrehozó hatóság – a Bizottságnak, a tesztkörnyezet létrehozását követő egy év elteltével, majd azt követően a lezárásig minden évben, valamint egy zárójelentést. Ezeknek a jelentéseknek tájékoztatást kell nyújtaniuk az említett tesztkörnyezetek végrehajtásának előrehaladásáról és eredményeiről, beleértve a bevált gyakorlatokat, a súlyos váratlan eseményeket, a levont tanulságokat és a kialakításukra vonatkozó ajánlásokat, valamint adott esetben e rendelet és a tesztkörnyezetben felügyelt egyéb uniós jogszabályok alkalmazását és esetleges felülvizsgálatát. Ezeket az éves jelentéseket vagy azok kivonatait online elérhetővé kell tenni a nyilvánosság számára;
(6) A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek működésének módozatait és feltételeit, beleértve a kiválasztási kritériumokat és az alkalmazás, a kiválasztás, a részvétel és a tesztkörnyezetből való kilépés eljárását, valamint a résztvevők jogait és kötelezettségeit végrehajtási jogi aktusokban kell meghatározni. Ezeket a végrehajtási jogi aktusokat a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.
(6) A Bizottság létrehoz egy egységes és célzott interfészt, amely tartalmazza a tesztkörnyezetekkel kapcsolatos valamennyi releváns információt, valamint egy uniós szintű egyedüli kapcsolattartó pontot, amely kapcsolatot tart a szabályozói tesztkörnyezetekkel, és lehetővé teszi az érdekelt felek számára, hogy kérdéseket tegyenek fel az illetékes hatóságoknak, és nem kötelező erejű iránymutatást kérjenek az MI-technológiákat magukban foglaló innovatív termékek, szolgáltatások és üzleti modellek megfelelőségéről;
a Bizottság proaktív módon egyeztet a nemzeti, regionális és adott esetben a helyi hatóságokkal is;
(6a) Az (1) és az (1a) bekezdés alkalmazásában a Bizottság kiegészítő szerepet tölt be, amely lehetővé teszi a tagállamok számára, hogy szakértelmükre építsenek, másrészt pedig segítséget nyújt, és műszaki információkat és erőforrásokat biztosít azoknak a tagállamoknak, amelyek útmutatást kérnek e szabályozói tesztkörnyezetek létrehozásához és működtetéséhez;
A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek módozatai és működése
(1) Az Unión belüli széttagoltság elkerülése érdekében a Bizottság – az MI-hivatallal konzultálva – felhatalmazáson alapuló jogi aktust fogad el, amelyben részletezi a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek létrehozásának, fejlesztésének, végrehajtásának, működésének és felügyeletének módozatait, beleértve a jogosultsági kritériumokat és a jelentkezésre, a kiválasztásra, a részvételre és a tesztkörnyezetből való kilépésre vonatkozó eljárást, valamint a résztvevőknek az e cikkben meghatározott rendelkezéseken alapuló jogait és kötelezettségeit;
(2) A Bizottság felhatalmazást kap arra, hogy a 73. cikkben említett eljárásnak megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el legkésőbb az e rendelet hatálybalépését követő 12 hónapon belül, és biztosítja az alábbiakat:
a) a szabályozói tesztkörnyezetek nyitva állnak minden olyan jelentkező, mesterséges intelligenciát biztosító leendő szolgáltató előtt, aki megfelel a jogosultsági és kiválasztási kritériumoknak. A szabályozói tesztkörnyezethez való hozzáférés kritériumai átláthatóak és méltányosak, és a létrehozó hatóságok a kérelem benyújtásától számított 3 hónapon belül tájékoztatják a kérelmezőket döntésükről;
b) a szabályozói tesztkörnyezetek széles körű és egyenlő hozzáférést tesznek lehetővé, és lépést tartanak a részvételre irányuló kereslettel;
c) a mesterséges intelligenciával kaspcsolatos szabályozói tesztkörnyezetekhez való hozzáférés ingyenes a kkv-k és az induló vállalkozások számára, azon rendkívüli költségek sérelme nélkül, amelyeket a létrehozó hatóságok méltányos és arányos módon behajthatnak;
d) a szabályozói tesztkörnyezetek megkönnyítik más érintett szereplők, például a bejelentett szervezetek és a szabványügyi szervezetek (kkv-k, induló vállalkozások, vállalkozások, innovátorok, tesztelési és kísérleti létesítmények, kutatási és kísérleti laboratóriumok és digitális innovációs központok, kiválósági központok, egyéni kutatók) bevonását az MI-ökoszisztémán belül a köz- és magánszektorral való együttműködés lehetővé tétele és megkönnyítése érdekében;
e) lehetővé teszik a leendő szolgáltatók számára, hogy ellenőrzött környezetben teljesítsék az e rendeletben foglalt megfelelőségértékelési kötelezettségeket vagy a 69. cikkben említett magatartási kódexek önkéntes alkalmazását;
f) a kérelmezésre, kiválasztásra, részvételre és a tesztkörnyezetből való kilépésre vonatkozó eljárások, folyamatok és adminisztratív követelmények egyszerűek, könnyen érthetők, egyértelműen kommunikáltak a korlátozott jogi és adminisztratív kapacitásokkal rendelkező kkv-k és induló vállalkozások részvételének megkönnyítése érdekében, és az egész Unióban észszerűsítettek, hogy elkerülhető legyen a széttagoltság, és hogy a valamely tagállam, a Bizottság vagy az európai adatvédelmi biztos által létrehozott szabályozói tesztkörnyezetben való részvétel kölcsönösen és egységesen elismert legyen, és Unió-szerte azonos joghatással járjon;
g) az MI szabályozói tesztkörnyezetben való részvétel a projekt összetettségének és nagyságrendjének megfelelő időtartamra korlátozódik.
h) A tesztkörnyezetek megkönnyítik az MI-rendszerek tesztkörnyezetek szempontjából releváns dimenzióinak – például a pontosság, a megbízhatóság és a kiberbiztonság – tesztelésére, teljesítményértékelésére, értékelésére és magyarázatára szolgáló eszközök és infrastruktúra fejlesztését, valamint az alapvető jogokat, a környezetet és a társadalom egészét érintő kockázatok minimalizálását.
(3) A tesztkörnyezetben részt vevő leendő szolgáltatók, különösen a kkv-k és az induló vállalkozások számára meg kell könnyíteni a telepítést megelőző szolgáltatásokhoz, például az e rendelet végrehajtására vonatkozó iránymutatáshoz, az egyéb értéknövelő szolgáltatásokhoz, például a szabványosítási dokumentumokhoz, a tanúsításhoz és a konzultációhoz nyújtott segítséghez, valamint a digitális egységes piacra vonatkozó egyéb kezdeményezésekhez, például a tesztelési és kísérleti létesítményekhez, a digitális központokhoz, a kiválósági központokhoz és az uniós teljesítményértékelési képességekhez való hozzáférést;
Módosítás 506 Rendeletre irányuló javaslat 54 cikk – cím
Személyes adatok további kezelése bizonyos közérdekű MI-rendszerek fejlesztése céljából a mesterséges intelligenciára vonatkozó szabályozói tesztkörnyezetben
Adatok további kezelése bizonyos közérdekű MI-rendszerek fejlesztése céljából a mesterséges intelligenciára vonatkozó szabályozói tesztkörnyezetben
(1) A mesterséges intelligenciára vonatkozó szabályozói tesztkörnyezetben a más célból jogszerűen gyűjtött személyes adatokat bizonyos innovatív MI-rendszerek kifejlesztése és tesztelése céljából a következő feltételek mellett lehet kezelni:
(1) A mesterséges intelligenciára vonatkozó szabályozói tesztkörnyezetben a más célból jogszerűen gyűjtött személyes adatokat kizárólag akkor lehet bizonyos MI-rendszerek kifejlesztése és tesztelése céljából kezelni, ha a következő feltételek mindegyike teljesül:
Módosítás 508 Rendeletre irányuló javaslat 54 cikk – 1 bekezdés – a pont – bevezető rész
a) az innovatív MI-rendszereket a jelentős közérdek védelme céljából kell fejleszteni az alábbi egy vagy több területen:
a) az MI-rendszereket a jelentős közérdek védelme céljából kell fejleszteni az alábbi egy vagy több területen:
ii. közbiztonság és közegészségügy, beleértve a betegség kimutatását, diagnózisát, megelőzését, felügyeletét és kezelését;
iii. a környezet minőségének magas szintű védelme és javítása, a biológiai sokféleség védelme, valamint a környezetszennyezés és az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás;
iiia. a közlekedési rendszerek, kritikus infrastruktúrák és hálózatok biztonsága és rezilienciája.
Módosítás 509 Rendeletre irányuló javaslat 54 cikk – 1 bekezdés – a pont – i pont
i) bűncselekmények megelőzése, nyomozása, felderítése vagy eljárás lefolytatása, illetve büntetőjogi szankciók végrehajtása, beleértve a közbiztonságot fenyegető veszélyekkel szembeni védelmet és e veszélyek megelőzését, az illetékes hatóságok ellenőrzése és felelőssége körében. Az adatkezelés tagállami vagy uniós jog alapján történik;
törölve
Módosítás 510 Rendeletre irányuló javaslat 54 cikk – 1 bekezdés – c pont
c) hatékony nyomonkövetési mechanizmusok állnak rendelkezésre annak megállapítására, hogy a tesztkörnyezettel kapcsolatos kísérletek során felmerülhetnek-e az érintettek alapvető jogait fenyegető jelentős kockázatok, valamint egy olyan reagálási mechanizmus, amely e kockázatok azonnali csökkentésére és szükség esetén az adatkezelés leállítására szolgál;
c) hatékony nyomonkövetési mechanizmusok állnak rendelkezésre annak megállapítására, hogy a tesztkörnyezettel kapcsolatos kísérletek során felmerülhetnek-e az (EU) 2016/679 rendelet 35. cikkében és az (EU) 2018/1725 rendelet 35. cikkében említett, az érintettek jogait és szabadságait fenyegető jelentős kockázatok, valamint egy olyan reagálási mechanizmus, amely e kockázatok azonnali csökkentésére és szükség esetén az adatkezelés leállítására szolgál;
Módosítás 511 Rendeletre irányuló javaslat 54 cikk – 1 bekezdés – d pont
d) a tesztkörnyezettel összefüggésben kezelendő személyes adatok funkcionálisan különálló, elszigetelt és védett, a résztvevők ellenőrzése alatt álló adatkezelő környezetben vannak, és csak az arra jogosult személyek férnek hozzá ezekhez az adatokhoz;
d) a tesztkörnyezettel összefüggésben kezelendő személyes adatok funkcionálisan különálló, elszigetelt és védett, a leendő szolgáltató ellenőrzése alatt álló adatkezelő környezetben vannak, és csak az arra jogosult személyek férnek hozzá az említett adatokhoz;
Módosítás 512 Rendeletre irányuló javaslat 54 cikk – 1 bekezdés – f pont
f) a személyes adatoknak a tesztkörnyezettel összefüggésben végzett kezelése nem vezethet az érintettekre vonatkozó intézkedésekhez vagy határozatokhoz;
f) a személyes adatoknak a tesztkörnyezettel összefüggésben végzett kezelése nem vezethet az érintettekre vonatkozó intézkedésekhez vagy határozatokhoz, és nem érinti a személyes adatok védelméről szóló uniós jogban meghatározott jogaik alkalmazását sem;
Módosítás 513 Rendeletre irányuló javaslat 54 cikk – 1 bekezdés – g pont
g) a tesztkörnyezettel összefüggésben kezelt valamennyi személyes adatot törölni kell, miután a tesztkörnyezetben való részvétel véget ért, vagy a személyes adatok megőrzési időszaka lejárt;
g) a tesztkörnyezettel összefüggésben kezelt valamennyi személyes adatot megfelelő technikai és szervezési intézkedések védenek, és azokat törölni kell, miután a tesztkörnyezetben való részvétel véget ért, vagy a személyes adatok megőrzési időszaka lejárt;
Módosítás 514 Rendeletre irányuló javaslat 54 cikk – 1 bekezdés – h pont
h) a tesztkörnyezettel összefüggésben végzett személyesadat-kezelés naplóit a tesztkörnyezetben való részvétel időtartama alatt és annak megszűnését követő 1 évig kell megőrizni, kizárólag az e cikk vagy más alkalmazandó uniós vagy tagállami jogszabályok szerinti elszámoltathatósági és dokumentációs kötelezettségek teljesítése céljából és csak a szükséges időtartamig;
h) a tesztkörnyezettel összefüggésben végzett személyesadat-kezelés naplóit a tesztkörnyezetben való részvétel időtartama alatt meg kell őrizni;
j) a tesztkörnyezetben fejlesztett MI-projekt rövid összefoglalása, célkitűzéseinek és várt eredményeinek közzététele az illetékes hatóságok honlapján.
j) a tesztkörnyezetben fejlesztett MI-rendszer rövid összefoglalása, célkitűzéseinek, hipotéziseinek és várt eredményeinek közzététele az illetékes hatóságok honlapján.
Módosítás 516 Rendeletre irányuló javaslat 54 a cikk (új)
54a. cikk
A mesterséges intelligenciával kapcsolatos kutatás és fejlesztés előmozdítása a társadalmi és környezeti szempontból előnyös eredmények támogatása érdekében
(1) A tagállamok előmozdítják a társadalmilag és környezetvédelmi szempontból előnyös eredményeket támogató mesterséges intelligencia-megoldások kutatását és fejlesztését, beleértve, de nem kizárólagosan, a fogyatékkal élők hozzáférhetőségének javítását, a társadalmi-gazdasági egyenlőtlenségek kezelését, valamint a fenntarthatósági és környezetvédelmi célok elérését célzó mesterséges intelligencia-alapú megoldások fejlesztését, az alábbiak révén:
a) az érintett projektek számára elsőbbségi hozzáférést biztosítanak a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetekhez, amennyiben azok teljesítik a kiválasztási feltételeket;
b) közfinanszírozást különítenek el - többek között a vonatkozó uniós alapokból - a társadalmilag és környezetvédelmi szempontból előnyös eredményeket támogató mesterséges intelligencia kutatásra és fejlesztésre;
c) az e rendelet alkalmazásával, valamint a célzott finanszírozás elérhetőségével és a pályázati eljárásokkal kapcsolatos, az adott projektek igényeihez igazított konkrét figyelemfelkeltő tevékenységek szervezése;
d) adott esetben – többek között a tesztkörnyezeteken belül is – hozzáférhető, célzott csatornák létrehozása a projektekkel való kommunikációra, hogy iránymutatást nyújtsanak részükre, és megválaszolják az e rendelet végrehajtásával kapcsolatos kérdéseket.
A tagállamok támogatják a civil társadalmat és a szociális érdekelt feleket abban, hogy az ilyen projekteket vezessék vagy azokban részt vegyenek;
Módosítás 517 Rendeletre irányuló javaslat 55 cikk – cím
Kis méretű szolgáltatókra és felhasználókra vonatkozó intézkedések
Kkv-kra, induló innovatív vállalkozásokra és felhasználókra vonatkozó intézkedések
Módosítás 518 Rendeletre irányuló javaslat 55 cikk – 1 bekezdés – a pont
a) a kis méretű szolgáltatók és induló vállalkozások számára elsőbbségi hozzáférést biztosítanak a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetekhez, amennyiben azok teljesítik a kiválasztási feltételeket;
a) az Unióban székhellyel rendelkező kkv-k és induló innovatív vállalkozások számára elsőbbségi hozzáférést biztosítanak a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetekhez, amennyiben azok teljesítik a kiválasztási feltételeket;
Módosítás 519 Rendeletre irányuló javaslat 55 cikk – 1 bekezdés – b pont
b) e rendelet alkalmazásával kapcsolatos, a kis méretű szolgáltatók és felhasználók igényeihez igazított külön figyelemfelkeltő tevékenységeket szerveznek;
b) e rendelet alkalmazásával kapcsolatos, a kkv-k, induló innovatív vállalkozások és felhasználók igényeihez igazított külön figyelemfelkeltő és magas szintű digitális készségfejlesztési tevékenységeket szerveznek;
Módosítás 520 Rendeletre irányuló javaslat 55 cikk – 1 bekezdés – c pont
c) adott esetben külön kommunikációs csatornát hoznak létre a kis méretű szolgáltatókkal, a felhasználókkal és más innovátorokkal folytatandó kommunikációra, hogy iránymutatást nyújtsanak részükre, és megválaszolják az e rendelet végrehajtásával kapcsolatos kérdéseket.
c) kihasználják a meglévő csatornákat és adott esetben új kommunikációs csatornákat hoznak létre a kkv-kkal, az induló innovatív vállalkozásokkal, a felhasználókkal és más innovátorokkal folytatandó kommunikációra, hogy iránymutatást nyújtsanak részükre, és megválaszolják az e rendelet végrehajtásával kapcsolatos kérdéseket.
Módosítás 521 Rendeletre irányuló javaslat 55 cikk – 1 bekezdés – c a pont (új)
ca) előmozdítják a kkv-k és egyéb érintett érdekelt felek részvételét a szabványalkotási folyamatban;
(2) A 43. cikk szerinti megfelelőségértékelési díjak megállapításakor figyelembe kell venni a kis méretű szolgáltatók sajátos érdekeit és igényeit, e díjakat méretükkel és piacuk méretével arányosan kell csökkenteni.
(2) A 43. cikk szerinti megfelelőségértékelési díjak megállapításakor figyelembe kell venni a kkv-k, az induló innovatív vállalkozások és a felhasználók sajátos érdekeit és igényeit, és e díjakat fejlettségi fokozatukkal, méretükkel, piacuk méretével és a piaci kereslettel arányosan kell csökkenteni. A Bizottság rendszeresen értékeli a kkv-k és az induló innovatív vállalkozások tanúsítási és megfelelési költségeit, többek között a kkv-kkal, az induló innovatív vállalkozásokkal és a felhasználókkal folytatott átlátható konzultációk révén, és együttműködik a tagállamokkal e költségek csökkentése érdekében. A Bizottság e megállapításokról az e rendelet értékeléséről és felülvizsgálatáról szóló, a 84. cikk (2) bekezdésében előírt jelentés részeként jelentést tesz az Európai Parlamentnek és a Tanácsnak.
(1) Létrejön a „Mesterséges Intelligenciával Foglalkozó Európai Testület” (a továbbiakban: a Testület).
(1) Létrejön a „Mesterséges Intelligenciával Foglalkozó Európai Hivatal” (a továbbiakban: az MI-hivatal). Az MI-hivatal az Unió független szerve. Jogi személyiséggel rendelkezik.
(2) A Testület tanácsot és segítséget nyújt a Bizottságnak a következők céljából:
(2) Az MI-hivatal titkársággal rendelkezik, és megfelelő finanszírozással és személyzettel kell rendelkeznie az e rendelet szerinti feladatainak ellátásához.
Módosítás 528 Rendeletre irányuló javaslat 56 a cikk (új)
56a. cikk
Felépítés
Az MI-hivatal igazgatási és irányítási struktúrája a következőkből áll:
a) igazgatótanács, ideértve az elnököt
b) az ügyvezető igazgató által vezetett titkárság
c) tanácsadó fórum.
Módosítás 529 Rendeletre irányuló javaslat 56 b cikk (új)
56b. cikk
Az MI-hivatal feladatai
Az MI-hivatal a következő feladatokat látja el:
a) támogatást és tanácsadást nyújt, együttműködik a tagállamokkal, a nemzeti felügyeleti hatóságokkal, a Bizottsággal és más uniós intézményekkel, szervekkel, hivatalokkal és ügynökségekkel e rendelet végrehajtása tekintetében;
b) ellenőrzi és biztosítja e rendelet hatékony és következetes alkalmazását, a nemzeti felügyeleti hatóságok feladatainak sérelme nélkül;
c) hozzájárul az e rendelet alkalmazásáért felelős nemzeti felügyeleti hatóságok közötti koordinációhoz,
d) közvetítőként jár el az illetékes hatóságok között a rendelet alkalmazásával kapcsolatban esetlegesen felmerülő súlyos nézeteltérésekről folytatott megbeszélések során,
e) a 66a. cikk alapján koordinálja a közös vizsgálatokat;
f) hozzájárul a harmadik országok illetékes hatóságaival és a nemzetközi szervezetekkel való hatékony együttműködéshez,
g) összegyűjti és megosztja a tagállamok szakértelmét és bevált gyakorlatait, valamint segíti a tagállamok nemzeti felügyeleti hatóságait és a Bizottságot az e rendelet végrehajtásához szükséges szervezeti és technikai szakértelem fejlesztésében, többek között egy uniós szakértői bázis létrehozásának és fenntartásának elősegítése révén,
h) saját kezdeményezésére, vagy igazgatótanácsa vagy a Bizottság kérésére megvizsgálja az e rendelet végrehajtásával kapcsolatos kérdéseket, és véleményeket, ajánlásokat vagy írásbeli észrevételeket ad ki, többek között az alábbiak tekintetében:
i. műszaki előírások vagy meglévő szabványok; ii. a Bizottság iránymutatásai;
iii. magatartási kódexek és azok alkalmazása, szorosan együttműködve az iparral és más érintettekkel;
iv. a rendelet esetleges felülvizsgálata, a felhatalmazáson alapuló jogi aktusok előkészítése és e rendeletnek a II. mellékletben felsorolt jogi aktusokkal való esetleges összehangolása;
v. tendenciák, mint például az európai globális versenyképesség a mesterséges intelligencia terén, a mesterséges intelligencia elterjedése az Unióban, a digitális készségek fejlesztése, valamint a mesterséges intelligenciával kapcsolatos, újonnan megjelenő rendszerszintű fenyegetések;
vi. iránymutatás arra vonatkozóan, hogy e rendelet hogyan alkalmazandó a mesterségesintelligencia-értékláncok folyamatosan változó tipológiájára, különös tekintettel az ebből eredő, az összes érintett szervezet elszámoltathatósága tekintetében jelentkező következményekre;
i) az alábbiak kiadása:
i) éves jelentés, amely tartalmazza e rendelet végrehajtásának értékelését, a 62. cikkben említett súlyos váratlan eseményekről szóló jelentések áttekintését és a 60. cikkben említett adatbázis működését, valamint
ii. ajánlások a Bizottságnak a tiltott gyakorlatok kategorizálásáról, a III. mellékletben említett nagy kockázatú MI-rendszerekről és a 69. cikkben említett magatartási kódexekről, valamint a 4a. cikkben vázolt általános elvek alkalmazásáról;
j) segítségnyújtás a hatóságok számára a szabályozói tesztkörnyezetek létrehozásában és fejlesztésében, valamint a szabályozói tesztkörnyezetek közötti együttműködés elősegítése;
k) találkozók szervezése azokkal az uniós ügynökségekkel és irányító szervekkel, amelyek feladatai a mesterséges intelligenciával és e rendelet végrehajtásával kapcsolatosak;
l) negyedéves konzultációk szervezése a tanácsadó fórummal, adott esetben nyilvános konzultációk más érdekelt felekkel, és e konzultációk eredményeinek a honlapján való közzététele;
m) a nyilvánosság figyelmének felhívása és az ismeretek terjesztése az MI-rendszerek használatával kapcsolatos előnyök, kockázatok, biztosítékok, jogok és kötelezettségek vonatkozásában;
n) a közös kritériumok kidolgozásának, valamint az e rendeletben meghatározott vonatkozó fogalmaknak a piaci szereplők és az illetékes hatóságok körében való közös értelmezésének elősegítése;
o) az alapmodellek nyomon követésének biztosítása, rendszeres párbeszédek szervezése az alapmodellek fejlesztőivel azok megfelelőségéről, valamint az ilyen MI-modelleket használó MI-rendszerekről;
p) értelmező iránymutatás nyújtása arra vonatkozóan, hogy a mesterséges intelligenciáról szóló jogszabály hogyan alkalmazandó az MI-értékláncok folyamatosan változó tipológiájára, és hogy ennek milyen következményei lesznek az összes érintett szervezet elszámoltathatósága tekintetében a technika általánosan elismert jelenlegi állásán alapuló különböző forgatókönyvek szerint, többek között a vonatkozó harmonizált szabványok tükrében;
q) különleges felügyelet és nyomon követés biztosítása, valamint rendszeres párbeszéd intézményesítése az alapmodellek szolgáltatóival az alapmodellek, valamint az ilyen MI-modelleket használó MI-rendszerek e rendelet 28b. cikkének való megfeleléséről, valamint az önkormányzás bevált ágazati gyakorlatairól. Az ilyen üléseken a nemzeti felügyeleti hatóságok, a bejelentett szervezetek és a piacfelügyeleti hatóságok részt vehetnek és azokon közreműködhetnek
r) iránymutatások kiadása és rendszeres frissítése azokra a küszöbértékekre vonatkozóan, amelyek alapján egy alapmodell nagy tanítási sorozatnak minősül, a nagy tanítási sorozatok ismert eseteinek rögzítése és nyomon követése, valamint éves jelentés kiadása az alapmodellek fejlesztésének, elterjedésének és használatának jelenlegi állásáról, valamint az alapmodellekre jellemző kockázatok és lehetőségek kezelésére irányuló szakpolitikai alternatívákról.
s) a mesterséges intelligencia terén szerzett jártasság előmozdítása a 4b. cikknek megfelelően
Módosítás 530 Rendeletre irányuló javaslat 56 c cikk (új)
56c. cikk
Elszámoltathatóság, függetlenség és átláthatóság
(1) Az MI-hivatal:
a) e rendeletnek megfelelően az Európai Parlament és a Tanács felé elszámolási kötelezettséggel tartozik;
b) feladatainak ellátása vagy hatásköre gyakorlása során függetlenül jár el; valamint
c) magas szintű átláthatóságot biztosít tevékenységei tekintetében, és e tekintetben helyes igazgatási gyakorlatokat dolgoz ki.
Az 1049/2001/EK rendelet alkalmazandó a Mesterséges Intelligenciával Foglalkozó Hivatal birtokában lévő dokumentumokra.
Módosítás 532 Rendeletre irányuló javaslat 57 a cikk (új)
57a. cikk
Az igazgatótanács összetétele
(1) Az igazgatótanács a következő tagokból áll:
a) a tagállamok nemzeti felügyeleti hatóságainak egy-egy képviselője;
b) a Bizottság egy képviselője;
c) az európai adatvédelmi biztos egy képviselője;
d) az Európai Uniós Kiberbiztonsági Ügynökség (ENISA) egy képviselője;
e) az Európai Unió Alapjogi Ügynökségének (FRA) egy képviselője.
A nemzeti felügyeleti hatóság minden egyes képviselője egy szavazattal rendelkezik. A Bizottság, az európai adatvédelmi biztos, az ENISA és az FRA képviselői nem rendelkeznek szavazati joggal. Valamennyi tag mellé póttagot neveznek ki. Az igazgatótanács tagjainak és póttagjainak kinevezésekor figyelembe kell venni a nemek közötti egyensúly szükségességét. Az igazgatótanács tagjainak és póttagjainak kilétét nyilvánosságra kell hozni.
(2) Az igazgatótanács tagjai és póttagjai nem képviselhetnek egymással ütköző álláspontokat és kereskedelmi érdekeket az e rendelet alkalmazásával kapcsolatos semmilyen tárgy vonatkozásában.
(3) Az igazgatótanács üléseire és szavazására, valamint az ügyvezető igazgató kinevezésére és visszahívására vonatkozó szabályokat az 57b. cikk a) pontjában említett eljárási szabályzatban kell megállapítani.
Módosítás 533 Rendeletre irányuló javaslat 57 b cikk (új)
57b. cikk
Az igazgatótanács feladatkörei
(1) Az igazgatótanács az alábbi feladatokat látja el:
a) stratégiai döntéseket hoz az MI-hivatal tevékenységeiről, és tagjainak kétharmados többségével elfogadja eljárási szabályzatát;
b) végrehajtja eljárási szabályzatát;
c) elfogadja az MI-hivatal egységes programozási dokumentumát, valamint éves nyilvános jelentését, és továbbítja azokat az Európai Parlamentnek, a Tanácsnak, a Bizottságnak és a Számvevőszéknek;
d) elfogadja az MI-hivatal költségvetését;
e) kinevezi az ügyvezető igazgatót, és adott esetben meghosszabbítja vagy lerövidíti az ügyvezető igazgató hivatali idejét, vagy felmenti hivatalából;
f) dönt az MI-hivatal belső struktúráinak létrehozásáról, és szükség esetén e belső struktúráknak az MI-hivatal feladatainak ellátásához szükséges módosításáról;
Módosítás 534 Rendeletre irányuló javaslat 57 c cikk (új)
57c. cikk
Az igazgatótanács elnöke
(1) Az igazgatótanács szavazati joggal rendelkező tagjai közül egyszerű többséggel elnököt és két elnökhelyettest választ.
(2) Az elnök és az elnökhelyettesek megbízatása négy évre szól. Az elnök és az elnökhelyettesek megbízatása egy alkalommal megújítható.
(1) A Testület tagjai a nemzeti felügyeleti hatóságok, amelyeket e hatóságok vezetője vagy annak megfelelő magas rangú tisztviselője képvisel, valamint az európai adatvédelmi biztos.Más nemzeti hatóságok is meghívhatók az ülésekre, ha a megvitatott kérdések relevánsak számukra.
(1) A titkárság tevékenységét egy ügyvezető igazgató irányítja.Az ügyvezető igazgató az igazgatótanácsnak tartozik felelősséggel. Az igazgatótanács és az uniós intézmények vonatkozó hatásköreinek sérelme nélkül, az ügyvezető igazgató nem kérhet és nem fogadhat el utasítást semmilyen kormánytól vagy egyéb szervtől.
(2) A Testület a tagok egyszerű többségével és a Bizottság hozzájárulásával elfogadja az eljárási szabályzatát. Az eljárási szabályzat tartalmazza a Testület 58. cikkben felsorolt feladatainak végrehajtásához kapcsolódó operatív szempontokat is.A Testület adott esetben, konkrét kérdések megvizsgálása céljából alcsoportokat hozhat létre.
(2) Az ügyvezető igazgató részt vesz az MI-hivatal tevékenységeivel kapcsolatos bármely kérdésben tartott meghallgatásokon, és az Európai Parlament vagy a Tanács felkérésére beszámol az ügyvezető igazgató feladatainak teljesítéséről.
(3) A Testület elnöki tisztét a Bizottság tölti be. A Bizottság hívja össze az üléseket és készíti el a napirendet a Testület e rendelet értelmében vett feladatainak és az eljárási szabályzatának megfelelően. A Bizottság igazgatási és elemzési támogatást nyújt a Testület e rendelet értelmében vett tevékenységeihez.
(3) Az ügyvezető igazgató képviseli az MI-hivatalt, többek között a mesterséges intelligenciával kapcsolatos együttműködéssel foglalkozó nemzetközi fórumokon;
(4) A Testület külső szakértőket és megfigyelőket hívhat meg az ülésein való részvételre, és a tevékenységeihez szükséges, megfelelő mértékű tájékoztatás céljából eszmecserét folytathat az érdekelt harmadik felekkel. E célból a Bizottság elősegítheti a Testület és más uniós szervek, hivatalok, ügynökségek és tanácsadó csoportok közötti információcserét.
(4) A titkárság biztosítja az igazgatótanács és a tanácsadó fórum számára az MI-hivatal feladatainak ellátásához szükséges elemzési, adminisztratív és logisztikai támogatást, többek között az alábbiak révén:
a) az igazgatótanács által elfogadott, döntések, programok és tevékenységek végrehajtása;
b) az egységes programozási dokumentum tervezetének, a költségvetési tervezetnek, az MI-hivatal éves tevékenységi jelentésének, az MI-hivatal véleménytervezeteinek és állásfoglalás-tervezeteinek minden évben történő elkészítése és benyújtása az igazgatótanácsnak;
c) koordináció a mesterséges intelligenciával kapcsolatos együttműködés nemzetközi fórumaival;
A Bizottság számára az 56. cikk (2) bekezdésével összefüggésben nyújtott tanácsadás és segítségnyújtás során a Testület különösen:
A tanácsadó fórum eljuttatja az MI-hivatalhoz az érdekelt felek észrevételeit az e rendelettel kapcsolatos ügyekben, különös tekintettel az 56b. cikk l) pontjában meghatározott feladatokra.
A tanácsadó fórum tagságában az érdekelt felek kiegyensúlyozottan képviseltetik magukat, beleértve az ipart, az induló vállalkozásokat, a kkv-kat, a civil társadalmat, a szociális partnereket és a tudományos köröket. A tanácsadó fórum tagságának kiegyensúlyozottnak kell lennie a kereskedelmi és nem kereskedelmi érdekek, valamint – a kereskedelmi érdekek kategóriáján belül – a kkv-k és más vállalkozások tekintetében.
Az igazgatótanács a tanácsadó fórum tagjait az MI-hivatal eljárási szabályzatában meghatározott kiválasztási eljárással összhangban, az átláthatóság szükségességének figyelembevételével és a (2) bekezdésben meghatározott kritériumokkal összhangban nevezi ki;
Az Európai Szabványügyi Bizottság (CEN), az Európai Elektrotechnikai Szabványügyi Bizottság (CENELEC) és az Európai Távközlési Szabványügyi Intézet (ETSI) a tanácsadó fórum állandó tagjai. A Közös Kutatóközpont szavazati joggal nem rendelkező állandó tag.
A tanácsadó bizottság megállapítja eljárási szabályzatát. Tagjai közül a (2) bekezdésben meghatározott kritériumoknak megfelelően két társelnököt választ. A társelnökök megbízatási ideje két évre szól, amely egyszer megújítható.
A tanácsadó fórum évente legalább négy ülést tart. A tanácsadó fórum szakértőket és más érdekelt feleket hívhat meg üléseire. Az ügyvezető igazgató hivatalból részt vehet a tanácsadó fórum ülésein.
A tanácsadói fórum szükség esetén állandó vagy ideiglenes alcsoportokat hozhat létre az e rendelet célkitűzéseivel kapcsolatos konkrét kérdések vizsgálatára.
A tanácsadó fórum tevékenységeiről éves jelentést készít. Ezt a jelentést nyilvánosan hozzáférhetővé kell tenni.
Módosítás 551 Rendeletre irányuló javaslat 58 a cikk – 5 fejezet – cím
Európai teljesítményértékelési hatóságok
Módosítás 552 Rendeletre irányuló javaslat 58 a cikk (új)
58a. cikk
Teljesítményértékelés
A 15. cikk (1a) bekezdésében említett teljesítményértékeléssel foglalkozó európai hatóságok és az MI-hivatal a nemzetközi partnerekkel szoros együttműködésben közösen költséghatékony iránymutatást és képességeket fejlesztenek ki az MI-rendszerek és MI-összetevők, és különösen az e rendeletnek való megfelelés és ennek a technika általánosan elismert jelenlegi állásán alapuló végrehajtása szempontjából releváns alapmodellek mérése és teljesítményértékelése céljából, többek között a vonatkozó harmonizált szabványokban foglaltak szerint.
Módosítás 553 Rendeletre irányuló javaslat 59 cikk – cím
(1) Az egyes tagállamok e rendelet alkalmazásának és végrehajtásának biztosítása céljából nemzeti illetékes hatóságokat hoznak létre vagy jelölnek ki.A nemzeti illetékes hatóságokat úgy kell megszervezni és működtetni, hogy biztosított legyen tevékenységeik objektivitása és pártatlansága.
(1) Az egyes tagállamok kijelölnek egy nemzeti felügyeleti hatóságot, amelyet úgy kell megszervezni, hogy ... [három hónappal e rendelet hatálybalépését követően]-ig biztosított legyen tevékenységeinek és feladatainak objektivitása és pártatlansága.
(2) A nemzeti illetékes hatóságok közül minden tagállam kijelöl egy nemzeti felügyeleti hatóságot.A nemzeti felügyeleti hatóság bejelentő hatóságként és piacfelügyeleti hatóságként jár el, kivéve, ha a tagállamnak szervezeti és közigazgatási okai vannak egynél több hatóság kijelölésére.
(2) A nemzeti felügyeleti hatóság biztosítja e rendelet alkalmazását és végrehajtását. A II. mellékletben felsorolt jogi aktusok hatálya alá tartozó termékekhez kapcsolódó nagy kockázatú MI-rendszerek esetében továbbra is az említett jogi aktusok alapján kijelölt illetékes hatóságok járnak el fő hatóságként a közigazgatási eljárásokban. Amennyiben azonban az ügy kizárólag e rendelet hatálya alá tartozó szempontokat érint, az említett illetékes hatóságokat kötik az e rendelet alapján kijelölt nemzeti felügyeleti hatóság által kibocsátott, említett szempontokhoz kapcsolódó intézkedések.A nemzeti felügyeleti hatóság piacfelügyeleti hatóságként jár el.
(3) A tagállamok tájékoztatják a Bizottságot az említett hatóság vagy hatóságok kijelöléséről, valamint adott esetben az egynél több hatóság kijelölésének indokairól.
(3) A tagállamok ...[három hónappal e rendelet hatálybalépését követően]-ig nyilvánosan hozzáférhetővé teszik és tájékoztatják az MI-hivatalt és a Bizottságot a nemzeti felügyeleti hatóságról és az elérhetőségével kapcsolatos információkról. E rendelet tekintetében a nemzeti felügyeleti hatóság egyedüli kapcsolattartó pontként jár el, és elektronikus kommunikációs eszközökkel elérhetőnek kell lennie.
(4) A tagállamok biztosítják, hogy a nemzeti illetékes hatóságok megfelelő pénzügyi és emberi erőforrásokkal rendelkezzenek az e rendelet szerinti feladataik ellátásához. A nemzeti illetékes hatóságoknak különösen elegendő létszámú állandó személyzettel kell rendelkezniük, amelynek kompetenciája és szakértelme a mesterségesintelligencia-technológiákra, az adatokra és az adatfeldolgozásra, az alapvető jogokra, az egészségügyi és biztonsági kockázatokra, valamint a meglévő szabványok és jogi követelmények alapos ismeretére is kiterjed.
(4) A tagállamok biztosítják, hogy a nemzeti felügyeleti hatóság rendelkezzen az e rendelet szerinti feladatai hatékony ellátásához szükséges megfelelő technikai, pénzügyi és emberi erőforrásokkal, és infrastruktúrával. A nemzeti felügyeleti hatóságnak különösen elegendő létszámú állandó személyzettel kell rendelkeznie, amelynek kompetenciája és szakértelme a mesterségesintelligencia-technológiákra, az adatokra és az adatfeldolgozásra, a személyes adatok védelmére, a kiberbiztonságra, a versenyjogra, az alapvető jogokra, az egészségügyi és biztonsági kockázatokra, valamint a meglévő szabványok és jogi követelmények alapos ismeretére is kiterjed. A tagállamok évente értékelik és szükség esetén frissítik az e bekezdésben említett kompetencia- és erőforrás-követelményeket.
(4a) Minden nemzet felügyeleti hatóság függetlenül, pártatlanul és elfogulatlanul gyakorolja a hatásköreiket és végzi feladatait. Az egyes nemzeti felügyeleti hatóságok tagjai az e rendelet szerinti feladataik ellátása és hatásköreik gyakorlása során nem kérhetnek és nem fogadhatnak el utasításokat egyetlen szervtől sem, és tartózkodnak a feladataikkal összeegyeztethetetlen intézkedésektől.
(4b) A nemzeti felügyeleti hatóságoknak teljesíteniük kell az (EU) 2022/2555 irányelv értelmében alapvető szolgáltatásokat nyújtó szereplőként azonosított közigazgatási szervek vonatkozásában meghatározott kiberbiztonsági minimumkövetelményeket.
(5) A tagállamok évente jelentést tesznek a Bizottságnak a nemzeti illetékes hatóságok pénzügyi és emberi erőforrásainak helyzetéről, és értékelik azok megfelelőségét. A Bizottság ezeket az információkat megvitatás és esetleges ajánlások céljából továbbítja a Testületnek.
(5) A tagállamok évente jelentést tesznek a Bizottságnak a nemzeti felügyeleti hatóság pénzügyi és emberi erőforrásainak helyzetéről, és értékelik azok megfelelőségét. A Bizottság ezeket az információkat megvitatás és esetleges ajánlások céljából továbbítja az MI-hivatalnak.
(7) A nemzeti illetékes hatóságok – többek között a kis méretű szolgáltatók részére – iránymutatást és tanácsot adhatnak e rendelet végrehajtásához. Amennyiben a nemzeti illetékes hatóságok más uniós jogszabályok hatálya alá tartozó területeken kívánnak iránymutatást és tanácsot adni valamely MI-rendszerrel kapcsolatban, adott esetben konzultálniuk kell az említett uniós jogszabályok szerinti illetékes nemzeti hatóságokkal.A tagállamok az üzemeltetőkkel való kommunikáció céljából egy központi kapcsolattartó pontot is létrehozhatnak.
(7) A nemzeti felügyeleti hatóságok – többek között a kkv-k és az induló vállalkozások részére – iránymutatást és tanácsot adhatnak e rendelet végrehajtásához, figyelembe véve az MI-hivatal vagy a Bizottság iránymutatását és tanácsát. Amennyiben a nemzeti felügyeleti hatóság más uniós jogszabály hatálya alá tartozó területeken kívánnak iránymutatást és tanácsot adni valamely MI-rendszerrel kapcsolatban, az iránymutatást adott esetben az említett uniós jogszabály szerinti illetékes nemzeti hatóságokkal konzultálva kell kidolgozni.
(8) Amennyiben az uniós intézmények, ügynökségek és szervek e rendelet hatálya alá tartoznak, a felügyeletük tekintetében az európai adatvédelmi biztos jár el illetékes hatóságként.
(8) Amennyiben az uniós intézmények, ügynökségek és szervek e rendelet hatálya alá tartoznak, a felügyeletük és koordinációjuk tekintetében az európai adatvédelmi biztos jár el illetékes hatóságként.
Módosítás 565 Rendeletre irányuló javaslat 59 a cikk (új)
59a. cikk
A nemzeti felügyeleti hatóságok közötti együttműködési mechanizmus két vagy több tagállamot érintő ügyekben
(1) Minden nemzeti felügyeleti hatóság a saját tagállama területén ellátja az e rendelet alapján ráruházott feladatokat és gyakorolja az e rendelet alapján ráruházott hatásköröket.
(2) Két vagy több nemzeti felügyeleti hatóságot érintő ügy esetén annak a tagállamnak a nemzeti felügyeleti hatósága tekintendő fő felügyeleti hatóságnak, amelyben a jogsértés történt.
(3) A (2) bekezdésben említett ügyekben az érintett felügyeleti hatóságok együttműködnek és kellő időben kicserélnek minden vonatkozó információt. A nemzeti felügyeleti hatóságok együttműködnek a konszenzus elérése érdekében.
Módosítás 566 Rendeletre irányuló javaslat VII cím
VII AZ ÖNÁLLÓ, NAGY KOCKÁZATÚ MI-RENDSZEREK UNIÓS ADATBÁZISA
A NAGY KOCKÁZATÚ MI-RENDSZEREK UNIÓS ADATBÁZISA
Módosítás 567 Rendeletre irányuló javaslat 60 cikk – cím
Az önálló, nagy kockázatú MI-rendszerek uniós adatbázisa
(1) A Bizottság a tagállamokkal együttműködve uniós adatbázist hoz létre és tart fenn, amely a (2) bekezdésben említett információkat tartalmazza az 51. cikknek megfelelően regisztrált, a 6. cikk (2) bekezdésében említett nagy kockázatú MI-rendszerekre vonatkozóan.
(1) A Bizottság a tagállamokkal együttműködve nyilvános uniós adatbázist hoz létre és tart fenn, amely a (2) és (2a) bekezdésben említett információkat tartalmazza az 51. cikknek megfelelően regisztrált, a 6. cikk (2) bekezdésében említett nagy kockázatú MI-rendszerekre vonatkozóan.
(2) A VIII. mellékletben felsorolt adatokat a szolgáltatók viszik be az uniós adatbázisba. A Bizottság technikai és logisztikai támogatást nyújt számukra.
(2) A VIII. melléklet A. szakaszában felsorolt adatokat a szolgáltatók viszik be az uniós adatbázisba.
(2a) A VIII. melléklet B. szakaszában felsorolt adatokat a hatóságok vagy uniós intézmények, szervek, hivatalok vagy ügynökségek nevében eljáró alkalmazók, valamint azok az alkalmazók viszik be az uniós adatbázisba, akik az 51. cikk (1a) és (1b) bekezdésében említett vállalkozók.
(3) Az uniós adatbázisban szereplő információkat a nyilvánosság számára hozzáférhetővé kell tenni.
(3) Az uniós adatbázisban szereplő információknak a nyilvánosság számára szabadon hozzáférhetőnek, felhasználóbarátnak és elérhetőnek, könnyen navigálhatónak és géppel olvashatónak kell lenniük, és azok szabványosított protokoll alapján strukturált digitális adatokat tartalmaznak.
(4) Az uniós adatbázis csak annyiban tartalmaz személyes adatokat, amennyiben az az e rendelettel összhangban történő információgyűjtéshez és -kezeléshez szükséges. Ezeknek az információknak tartalmazniuk kell a rendszer regisztrálásáért felelős és a szolgáltató képviseletére jogosult természetes személyek nevét és elérhetőségét.
(4) Az uniós adatbázis csak annyiban tartalmaz személyes adatokat, amennyiben az az e rendelettel összhangban történő információgyűjtéshez és -kezeléshez szükséges. Ezeknek az információknak tartalmazniuk kell a rendszer regisztrálásáért felelős és a szolgáltató vagy az alkalmazó képviseletére jogosult természetes személyek nevét és elérhetőségét, amely hatóság vagy uniós intézmény, szerv, hivatal vagy ügynökség, vagy a nevükben eljáró alkalmazó, vagy olyan alkalmazó, amely az 51. cikk (1a) bekezdésének b) és (1b) bekezdésében említett vállalkozás.
(5) Az uniós adatbázist a Bizottság felügyeli. A Bizottság biztosítja továbbá a szolgáltatók számára a megfelelő technikai és adminisztratív támogatást.
(5) Az uniós adatbázist a Bizottság felügyeli. A Bizottság biztosítja továbbá a szolgáltatók és alkalmazók számára a megfelelő technikai és adminisztratív támogatást.
Az adatbázisnak meg kell felelnie az (EU) 2019/882 irányelv I. mellékletében foglalt akadálymentesítési követelményeknek.
(2) A forgalomba hozatal utáni nyomonkövetési rendszer aktívan és módszeresen gyűjti, dokumentálja és elemzi a felhasználók által szolgáltatott vagy más forrásokból gyűjtött, a nagy kockázatú MI-rendszerek teljes élettartama során a teljesítményükre vonatkozó releváns adatokat, és lehetővé teszi a szolgáltató számára annak értékelését, hogy az MI-rendszerek folyamatosan megfelelnek-e a III. cím 2. fejezetében meghatározott követelményeknek.
(2) A forgalomba hozatal utáni nyomonkövetési rendszer aktívan és módszeresen gyűjti, dokumentálja és elemzi az alkalmazók által szolgáltatott vagy más forrásokból gyűjtött, a nagy kockázatú MI-rendszerek teljes élettartama során a teljesítményükre vonatkozó releváns adatokat, és lehetővé teszi a szolgáltató számára annak értékelését, hogy az MI-rendszerek folyamatosan megfelelnek-e a III. cím 2. fejezetében meghatározott követelményeknek. Adott esetben a forgalomba hozatal utáni nyomon követés magában foglalja az egyéb MI-rendszerek környezetével, többek között más eszközökkel és szoftverekkel való kölcsönhatás elemzését, figyelembe véve az olyan területeken alkalmazandó szabályokat, mint az adatvédelem, a szellemitulajdon-jogok és a versenyjog.
(3) A forgalomba hozatal utáni nyomonkövetési rendszer egy forgalomba hozatal utáni nyomon követési terven alapul. A forgalomba hozatal utáni nyomonkövetési terv a IV. mellékletben említett műszaki dokumentáció részét képezi. A Bizottság végrehajtási jogi aktust fogad el, amelyben meghatározza a forgalomba hozatal utáni nyomon követési terv mintáját és a tervben feltüntetendő elemek jegyzékét meghatározó részletes rendelkezéseket.
(3) A forgalomba hozatal utáni nyomonkövetési rendszer egy forgalomba hozatal utáni nyomon követési terven alapul. A forgalomba hozatal utáni nyomonkövetési terv a IV. mellékletben említett műszaki dokumentáció részét képezi. A Bizottság ...[tizenkét hónappal e rendelet hatálybalépését követően]-ig végrehajtási jogi aktust fogad el, amelyben meghatározza a forgalomba hozatal utáni nyomon követési terv mintáját és a tervben feltüntetendő elemek jegyzékét meghatározó részletes rendelkezéseket.
Módosítás 576 Rendeletre irányuló javaslat 62 cikk – cím
A súlyos váratlan események és működési hibák bejelentése
(1) Az uniós piacon forgalomba hozott nagy kockázatú MI-rendszerek szolgáltatói az említett rendszerek minden olyan súlyos váratlan eseményét vagy működési hibáját jelentik, amely az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésével járnak, azon tagállamok piacfelügyeleti hatóságainak, amelyekben a váratlan esemény vagy jogsértés megtörtént.
(1) Az uniós piacon forgalomba hozott nagy kockázatú MI-rendszerek szolgáltatói és – amennyiben az alkalmazók súlyos váratlan eseményt azonosítottak – alkalmazói az említett rendszerek minden olyan súlyos váratlan eseményét vagy működési hibáját jelentik, amely az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésével járnak, azon tagállamok nemzeti felügyeleti hatóságainak, amelyekben a váratlan esemény vagy jogsértés megtörtént.
Ezt az értesítést haladéktalanul meg kell tenni azt követően, hogy a szolgáltató megállapította az MI-rendszer és a váratlan esemény vagy működési hiba közötti ok-okozati összefüggést vagy az ilyen összefüggés észszerű valószínűségét, de legkésőbb 15 nappal azt követően, hogy a szolgáltató tudomást szerzett a súlyos váratlan eseményről vagy működési hibáról.
Ezt az értesítést indokolatlan késedelem nélkül meg kell tenni azt követően, hogy a szolgáltató vagy adott esetben az alkalmazó megállapította az MI-rendszer és a váratlan esemény vagy működési hiba közötti ok-okozati összefüggést vagy az ilyen összefüggés észszerű valószínűségét, de legkésőbb 72 órával azt követően, hogy a szolgáltató vagy adott esetben az alkalmazó tudomást szerzett a súlyos váratlan eseményről vagy működési hibáról.
(1a) Az MI-rendszer és a súlyos váratlan esemény közötti ok-okozati összefüggésnek vagy az ilyen összefüggés észszerű valószínűségének megállapítását követően a szolgáltatók a 21. cikk szerinti megfelelő korrekciós intézkedéseket hoznak.
(2) Az alapvető jogok védelmét célzó uniós jogi kötelezettségek megsértésével kapcsolatos értesítés kézhezvételét követően a piacfelügyeleti hatóság tájékoztatja a 64. cikk (3) bekezdésében említett nemzeti hatóságokat vagy szerveket. A Bizottság célzott iránymutatást dolgoz ki az (1) bekezdésben meghatározott kötelezettségeknek való megfelelés megkönnyítése érdekében. Ezt az iránymutatást legkésőbb 12 hónappal e rendelet hatálybalépését követően kell kiadni.
(2) Az alapvető jogok védelmét célzó uniós jogi kötelezettségek megsértésével kapcsolatos értesítés kézhezvételét követően a nemzeti felügyeleti hatóság tájékoztatja a 64. cikk (3) bekezdésében említett nemzeti hatóságokat vagy szerveket. A Bizottság célzott iránymutatást dolgoz ki az (1) bekezdésben meghatározott kötelezettségeknek való megfelelés megkönnyítése érdekében. Ezt az iránymutatást ... [e rendelet hatálybalépése]-ig kell kiadni és rendszeresen értékelni kell.
(2a) A nemzeti felügyeleti hatóság az (1) bekezdésben említett értesítés kézhezvételétől számított 7 napon belül megteszi a megfelelő intézkedéseket. Amennyiben a jogsértés más tagállamokban történik vagy valószínűleg más tagállamokban fog megtörténni, a nemzeti felügyeleti hatóság értesíti az MI-hivatalt és e tagállamok érintett nemzeti felügyeleti hatóságait.
(3) A III. melléklet 5. b) pontjában említett, a 2013/36/EU irányelv által szabályozott hitelintézetek által forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszerek esetében, valamint az (EU) 2017/745 rendelet és az (EU) 2017/746 rendelet hatálya alá tartozó eszközök biztonsági alkatrészének vagy önmagukban eszköznek minősülő nagy kockázatú MI-rendszerek esetében a súlyos váratlan események vagy működési hiba bejelentése azokra a váratlan eseményekre vagy működési hibákra korlátozódik, amelyek az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésének minősülnek.
(3) A III. mellékletben említett azon nagy kockázatú MI-rendszerek esetében, amelyeket olyan szolgáltatók hoznak forgalomba vagy helyeznek üzembe, amelyek az e rendeletben meghatározottakkal egyenértékű jelentéstételi kötelezettségeket megállapító uniós jogalkotási eszközök hatálya alá tartoznak, az uniós jog szerinti alapvető jogokat sértő súlyos váratlan események bejelentését át kell adni a nemzeti felügyeleti hatóságnak.
(1) Az (EU) 2019/1020 rendelet az e rendelet hatálya alá tartozó MI-rendszerekre is alkalmazandó. E rendelet hatékony végrehajtása érdekében azonban:
(1) Az (EU) 2019/1020 rendelet az e rendelet hatálya alá tartozó MI-rendszerekre és alapmodellekre is alkalmazandó. E rendelet hatékony végrehajtása érdekében azonban:
Módosítás 585 Rendeletre irányuló javaslat 63 cikk – 1 bekezdés – b a pont (új)
ba) a nemzeti felügyeleti hatóságok e rendelet értelmében piacfelügyeleti hatóságként járnak el, és ugyanazokkal a hatáskörökkel és kötelezettségekkel rendelkeznek, mint az (EU) 2019/1020 rendelet szerinti piacfelügyeleti hatóságok.
(2) A nemzeti felügyeleti hatóság rendszeresen jelentést tesz a Bizottságnak a vonatkozó piacfelügyeleti tevékenységek eredményeiről. A nemzeti felügyeleti hatóság haladéktalanul jelentést tesz a Bizottságnak és az érintett nemzeti versenyhatóságoknak a piacfelügyeleti tevékenységek során azonosított minden olyan információról, amely a versenyszabályokra vonatkozó uniós jog alkalmazása szempontjából potenciálisan érdekes lehet.
(2) A nemzeti felügyeleti hatóság évente jelentést tesz a Bizottságnak és az MI-hivatalnak a vonatkozó piacfelügyeleti tevékenységek eredményeiről. A nemzeti felügyeleti hatóság haladéktalanul jelentést tesz a Bizottságnak és az érintett nemzeti versenyhatóságoknak a piacfelügyeleti tevékenységek során azonosított minden olyan információról, amely a versenyszabályokra vonatkozó uniós jog alkalmazása szempontjából potenciálisan érdekes lehet.
(3a) E rendelet hatékony végrehajtásának biztosítása érdekében a nemzeti felügyeleti hatóságok az alábbiakhoz folyamodhatnak:
a) előre be nem jelentett helyszíni és távoli ellenőrzések végzése a nagy kockázatú MI-rendszerek esetében;
b) a nagy kockázatú MI-rendszerekhez kapcsolódó minták beszerzése, többek között a távoli ellenőrzések révén, az MI-rendszerek visszafejtése és a meg nem felelés azonosításához szükséges bizonyítékok beszerzése céljából.
(5) Az 1. pont a) alpontjában felsorolt MI-rendszerek esetében – amennyiben e rendszereket bűnüldözési célokra használják (a III. melléklet 6. és 7. pontja) – a tagállamok e rendelet alkalmazásában piacfelügyeleti hatóságként kijelölik vagy az (EU) 2016/680 irányelv vagy az (EU) 2016/679 rendelet szerinti illetékes adatvédelmi felügyeleti hatóságokat, vagy az e rendszereket üzembe helyező vagy használó bűnüldöző, bevándorlási vagy menekültügyi hatóságok tevékenységét felügyelő nemzeti illetékes hatóságokat.
(5) A bűnüldözési célokra használt MI-rendszerek esetében a tagállamok e rendelet alkalmazásában piacfelügyeleti hatóságként kijelölik az (EU) 2016/680 rendelet szerinti illetékes adatvédelmi felügyeleti hatóságokat.
(7) A tagállamok elősegítik az e rendelet alapján kijelölt piacfelügyeleti hatóságok, valamint a II. mellékletben felsorolt uniós harmonizációs jogszabályok vagy a III. mellékletben említett nagy kockázatú MI-rendszerek szempontjából releváns egyéb uniós jogszabályok alkalmazását felügyelő egyéb releváns nemzeti hatóságok vagy szervek közötti koordinációt.
(7) Az e rendelet alapján kijelölt nemzeti felügyeleti hatóságok egyeztetnek a II. mellékletben felsorolt uniós harmonizációs jogszabály vagy a III. mellékletben említett nagy kockázatú MI-rendszerek szempontjából releváns egyéb uniós jogszabály alkalmazását felügyelő egyéb releváns nemzeti hatóságokkal vagy szervekkel.
(1) A tevékenységeik során az adatokhoz és dokumentumokhoz való hozzáférést illetően a piacfelügyeleti hatóságok teljes körű hozzáférést kapnak a szolgáltató által használt betanítási, validálási és tesztelési adatkészletekhez, többek között felhasználói program interfészeken (API) vagy a távoli hozzáférést lehetővé tevő egyéb megfelelő technikai megoldásokon és eszközökön keresztül.
(1) A tevékenységei során és indokolással ellátott kérésére a nemzeti felügyeleti hatóság teljes körű hozzáférést kap a szolgáltató vagy adott esetben az alkalmazó általáltal használt, a kérelme szempontjából releváns és feltétlenül szükséges betanítási, validálási és tesztelési adatkészletekhez, megfelelő technikai megoldásokon és eszközökön keresztül.
(2) Amennyiben a nagy kockázatú MI-rendszer esetében a III. cím 2. fejezetében meghatározott követelményeknek való megfelelés értékeléséhez szükséges, továbbá indokolással ellátott kérésre a piacfelügyeleti hatóságok számára hozzáférést kell biztosítani az MI-rendszer forráskódjához.
(2) Amennyiben szükséges annak értékeléséhez, hogy a nagy kockázatú MI-rendszer megfelel-e a III. cím 2. fejezetében meghatározott követelményeknek, azt követően, hogy a megfelelőség ellenőrzésére szolgáló minden egyéb ésszerű módszert kimerítettek, beleértve az (1) bekezdést is, és azok elégtelennek bizonyultak, továbbá indokolással ellátott kérésre a nemzeti felügyeleti hatóság számára hozzáférést kell biztosítani az MI-rendszer tanító és betanított modelljeihez, beleértve annak vonatkozó modellparamétereit is. A 70. cikkel összhangban megszerzett valamennyi információt bizalmas információként kell kezelni, és annak a szellemi tulajdon és az üzleti titkok védelmére vonatkozó hatályos uniós jogszabályok hatálya alá kell tartoznia, és azt törölni kell azon vizsgálat befejezését követően, amelyre vonatkozóan az információt kérték.
(3) Azok a nemzeti hatóságok vagy szervek, amelyek felügyelik vagy érvényesítik a III. mellékletben említett, nagy kockázatú MI-rendszerek használatával kapcsolatos, az alapvető jogok védelmét célzó uniós jogi kötelezettségek betartását, jogosultak kérelmezni az e rendelet alapján létrehozott vagy vezetett dokumentumokat és hozzáférni azokhoz, amennyiben az adott dokumentációhoz való hozzáférés a megbízatásuk szerinti hatáskörök gyakorlásához szükséges a joghatóságuk keretein belül. Az érintett hatóság vagy szerv minden ilyen kérelemről tájékoztatja az érintett tagállam piacfelügyeleti hatóságát.
(3) Azok a nemzeti hatóságok vagy szervek, amelyek felügyelik vagy érvényesítik a III. mellékletben említett, nagy kockázatú MI-rendszerek használatával kapcsolatos, az alapvető jogok védelmét célzó uniós jogi kötelezettségek betartását, jogosultak kérelmezni az e rendelet alapján létrehozott vagy vezetett dokumentumokat és hozzáférni azokhoz, amennyiben az adott dokumentációhoz való hozzáférés a megbízatásuk szerinti hatáskörök gyakorlásához szükséges a joghatóságuk keretein belül. Az érintett hatóság vagy szerv minden ilyen kérelemről tájékoztatja az érintett tagállam nemzeti felügyeleti hatóságát.
(4) Az e rendelet hatálybalépését követő 3 hónapon belül minden tagállam azonosítja a (3) bekezdésben említett hatóságokat vagy szerveket, és a nemzeti felügyeleti hatóság honlapján nyilvánosan hozzáférhetővé teszi a jegyzéket. A tagállamok értesítik a Bizottságot és az összes többi tagállamot a jegyzékről, és a jegyzéket naprakészen tartják.
(4) Az e rendelet hatálybalépését követő 3 hónapon belül minden tagállam azonosítja a (3) bekezdésben említett hatóságokat vagy szerveket, és a nemzeti felügyeleti hatóság honlapján nyilvánosan hozzáférhetővé teszi a jegyzéket. A nemzeti felügyeleti hatóságok értesítik a Bizottságot, az MI-hivatalt és az összes többi nemzeti felügyeleti hatóságot a jegyzékről, és naprakészen tartják a jegyzéket. A Bizottság egy erre a célra létrehozott weboldalon közzéteszi a tagállamok által e cikkel összhangban kijelölt összes illetékes hatóságot tartalmazó listát.
(5) Amennyiben a (3) bekezdésben említett dokumentáció nem elegendő annak megállapításához, hogy sor került-e az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésére, a (3) bekezdésben említett hatóság vagy szerv indokolással ellátott kérelmet intézhet a piacfelügyeleti hatósághoz a nagy kockázatú MI-rendszer műszaki eszközökkel történő tesztelésének megszervezésére. A piacfelügyeleti hatóság a kérelmet követően észszerű időn belül megszervezi a tesztelést a kérelmező hatóság vagy szerv szoros bevonásával.
(5) Amennyiben a (3) bekezdésben említett dokumentáció nem elegendő annak megállapításához, hogy sor került-e az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésére, a (3) bekezdésben említett hatóság vagy szerv indokolással ellátott kérelmet intézhet a nemzeti felügyeleti hatósághoz a nagy kockázatú MI-rendszer műszaki eszközökkel történő tesztelésének megszervezésére. A nemzeti felügyeleti hatóság a kérelmet követően észszerű időn belül megszervezi a tesztelést a kérelmező hatóság vagy szerv szoros bevonásával.
(1) A kockázatot jelentő MI-rendszerek az (EU) 2019/1020 rendelet 3. cikkének 19. pontjában meghatározott kockázatot jelentő terméknek minősülnek, amennyiben a személyek egészségét vagy biztonságát vagy alapvető jogainak védelmét érintő kockázatokról van szó.
(1) A kockázatot jelentő MI-rendszerek olyan MI-rendszernek minősülnek, amely potenciálisan olyan mértékben érintheti hátrányosan az egészséget és a biztonságot, általában a személyek alapvető jogait, többek között a munkahelyen, illetve a fogyasztóvédelmet, a környezetet, a közbiztonságot, a demokráciát vagy a jogállamiságot és más közérdekeket – amelyeket az alkalmazandó uniós harmonizációs jog véd – , amely meghaladja a rendeltetéséhez képest, illetve a rendszer szokásos vagy ésszerűen előrelátható használati feltételei mellett ésszerűnek és elfogadhatónak tekintett mértéket, beleértve a használat időtartamát és adott esetben az üzembe helyezési, telepítési és karbantartási követelményeket.
(2) Amennyiben egy tagállam piacfelügyeleti hatóságának elegendő oka van úgy tekinteni, hogy egy MI-rendszer az (1) bekezdésben említettek alapján kockázatot jelent, elvégzi az érintett MI-rendszer értékelését az e rendeletben meghatározott valamennyi követelménynek és kötelezettségnek való megfelelése tekintetében. Amennyiben az alapvető jogok védelmét veszélyeztető kockázatok állnak fenn, a piacfelügyeleti hatóság a 64. cikk (3) bekezdésében említett érintett nemzeti hatóságokat vagy szerveket is tájékoztatja. Az érintett üzemeltetők szükség szerint együttműködnek a piacfelügyeleti hatóságokkal és a 64. cikk (3) bekezdésében említett egyéb nemzeti hatóságokkal vagy szervekkel.
(2) Amennyiben egy tagállam nemzeti felügyeleti hatóságának elegendő oka van úgy tekinteni, hogy egy MI-rendszer az (1) bekezdésben említettek alapján kockázatot jelent, elvégzi az érintett MI-rendszer értékelését az e rendeletben meghatározott valamennyi követelménynek és kötelezettségnek való megfelelése tekintetében. Amennyiben az alapvető jogokat veszélyeztető kockázatok állnak fenn, a nemzeti felügyeleti hatóság a 64. cikk (3) bekezdésében említett érintett nemzeti hatóságokat vagy szerveket is haladéktalanul tájékoztatja és teljes mértékben együttműködik velük.Amennyiben alapos okkal feltételezhető, hogy egy MI-rendszer kihasználja a kiszolgáltatott csoportok sebezhetőségét, illetve szándékosan vagy akaratlanul megsérti a jogaikat, a nemzeti felügyeleti hatóság köteles megvizsgálni az MI-rendszerrel kapcsolatos tervezési célokat, adatbevitelt, modellválasztást, valamint az MI-rendszer végrehajtását és kimeneteit. Az érintett üzemeltetők szükség szerint együttműködnek a nemzeti felügyeleti hatóságokkal és a 64. cikk (3) bekezdésében említett egyéb nemzeti hatóságokkal vagy szervekkel.
Amennyiben az értékelés során a piacfelügyeleti hatóság megállapítja, hogy az MI-rendszer nem felel meg az ebben a rendeletben megállapított követelményeknek és kötelezettségeknek, akkor haladéktalanul felszólítja az érintett üzemeltetőt, hogy – az előírásoktól függően és a kockázat jellegével arányos észszerű időn belül – vagy tegye meg az ahhoz szükséges valamennyi megfelelő korrekciós intézkedést, hogy az MI-rendszer megfeleljen az említett követelményeknek, vagy vonja ki az MI-rendszert a forgalomból vagy hívja vissza az MI-rendszert.
Amennyiben az értékelés során a nemzeti felügyeleti hatóság vagy adott esetben a 64. cikk (3) bekezdésében említett nemzeti hatóság megállapítja, hogy az MI-rendszer nem felel meg az ebben a rendeletben megállapított követelményeknek és kötelezettségeknek, akkor haladéktalanul felszólítja az érintett üzemeltetőt, hogy – az előírásoktól függően és a kockázat jellegével arányos észszerű időn, de legkésőbb tizenöt munkanapon belül vagy adott esetben a vonatkozó uniós harmonizációs jogszabályokban előírtak szerint – vagy tegye meg az ahhoz szükséges valamennyi megfelelő korrekciós intézkedést, hogy az MI-rendszer megfeleljen az említett követelményeknek, vagy vonja ki az MI-rendszert a forgalomból vagy hívja vissza az MI-rendszert.
A piacfelügyeleti hatóság ennek megfelelően tájékoztatja az érintett bejelentett szervezetet. A második albekezdésben említett intézkedésekre az (EU) 2019/1020 rendelet 18. cikke alkalmazandó.
A nemzeti felügyeleti hatóság ennek megfelelően tájékoztatja az érintett bejelentett szervezetet. A második albekezdésben említett intézkedésekre az (EU) 2019/1020 rendelet 18. cikke alkalmazandó.
(3) Amennyiben a piacfelügyeleti hatóság úgy ítéli meg, hogy a meg nem felelés nem korlátozódik az ország területére, tájékoztatja a Bizottságot és a többi tagállamot az értékelés eredményeiről és azokról az intézkedésekről, amelyek meghozatalára az üzemeltetőt felszólította.
(3) Amennyiben a nemzeti felügyeleti hatóság úgy ítéli meg, hogy a meg nem felelés nem korlátozódik az ország területére, haladéktalanul tájékoztatja a Bizottságot, az MI-hivatalt és a többi tagállam nemzeti felügyeleti hatóságát az értékelés eredményeiről és azokról az intézkedésekről, amelyek meghozatalára az üzemeltetőt felszólította.
(5) Amennyiben az MI-rendszer üzemeltetője nem teszi meg a megfelelő korrekciós intézkedéseket a (2) bekezdésben említett időszakon belül, a piacfelügyeleti hatóság meghozza az összes megfelelő átmeneti intézkedést az MI-rendszer nemzeti piacon történő forgalmazásának megtiltása vagy korlátozása, illetve forgalomból való kivonása vagy visszahívása érdekében. Ezekről az intézkedésekről a hatóság haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot.
(5) Amennyiben az MI-rendszer üzemeltetője nem teszi meg a megfelelő korrekciós intézkedéseket a (2) bekezdésben említett időszakon belül, a nemzeti felügyeleti hatóság meghozza az összes megfelelő átmeneti intézkedést az MI-rendszer nemzeti piacon történő forgalmazásának vagy üzembe helyezésének megtiltása vagy korlátozása, illetve forgalomból való kivonása vagy visszahívása érdekében. Ezekről az intézkedésekről a hatóság haladéktalanul tájékoztatja a Bizottságot, az Mi-hivatalt és a többi tagállam nemzeti felügyeleti hivatalát.
(6) Az (5) bekezdésben meghatározott tájékoztatás tartalmazza az összes rendelkezésre álló adatot, különösen a nem megfelelő MI-rendszer azonosításához szükséges adatokat, az MI-rendszer származási helyét, a megfelelés feltételezett hiányának és a felmerülő kockázatnak a jellegét, a meghozott nemzeti intézkedések jellegét és időtartamát, valamint az érintett üzemeltető által felhozott érveket. A piacfelügyeleti hatóságok külön jelzik, hogy a meg nem felelés az alábbi okok közül egy vagy több miatt következett-e be:
(6) Az (5) bekezdésben meghatározott tájékoztatás tartalmazza az összes rendelkezésre álló adatot, különösen a nem megfelelő MI-rendszer azonosításához szükséges adatokat, az MI-rendszer származási helyét és az ellátási láncot, a megfelelés feltételezett hiányának és a felmerülő kockázatnak a jellegét, a meghozott nemzeti intézkedések jellegét és időtartamát, valamint az érintett üzemeltető által felhozott érveket. A nemzeti felügyeleti hatóságok külön jelzik, hogy a meg nem felelés az alábbi okok közül egy vagy több miatt következett-e be:
Módosítás 603 Rendeletre irányuló javaslat 65 cikk – 6 bekezdés – a pont
a) az MI-rendszer nem felel meg a III. cím 2. fejezetében meghatározott követelményeknek;
a) a nagy kockázatú MI-rendszer nem felel meg az e rendeletben meghatározott követelményeknek;
Módosítás 604 Rendeletre irányuló javaslat 65 cikk – 6 bekezdés – b a pont (új)
ba) az 5. cikkben említett mesterségesintelligencia-gyakorlatok tilalmának be nem tartása;
Módosítás 605 Rendeletre irányuló javaslat 65 cikk – 6 bekezdés – b b pont (új)
bb) az 52. cikkben meghatározott rendelkezések be nem tartása;
(7) Az eljárást kezdeményező tagállam piacfelügyeleti hatóságától eltérő tagállamok piacfelügyeleti hatóságai haladéktalanul tájékoztatják a Bizottságot és a többi tagállamot az elfogadott intézkedésekről és azokról a birtokukban lévő további információkról, amelyek az érintett MI-rendszer megfelelésének hiányáról tanúskodnak, valamint – amennyiben nem értenek egyet a bejelentett tagállami intézkedéssel – a kifogásaikról.
(7) Az eljárást kezdeményező tagállam nemzeti felügyeleti hatóságától eltérő tagállamok nemzeti felügyeleti hatóságai haladéktalanul tájékoztatják a Bizottságot, az MI-hivatalt és a többi tagállamot az elfogadott intézkedésekről és azokról a birtokukban lévő további információkról, amelyek az érintett MI-rendszer megfelelésének hiányáról tanúskodnak, valamint – amennyiben nem értenek egyet a bejelentett tagállami intézkedéssel – a kifogásaikról.
(8) Amennyiben az (5) bekezdésben említett tájékoztatás kézhezvételétől számított három hónapon belül egyik tagállam és a Bizottság sem emel kifogást a valamely tagállam által hozott ideiglenes intézkedéssel szemben, az intézkedést indokoltnak kell tekinteni. Ez nem érinti az érintett üzemeltetőnek az (EU) 2019/1020 rendelet 18. cikke szerinti eljárási jogait.
(8) Amennyiben az (5) bekezdésben említett tájékoztatás kézhezvételétől számított három hónapon belül valamely tagállam nemzeti felügyeleti hatósága és a Bizottság sem emel kifogást valamely másik tagállam nemzeti felügyeleti hatósága által hozott ideiglenes intézkedéssel szemben, az intézkedést indokoltnak kell tekinteni. Ez nem érinti az érintett üzemeltetőnek az (EU) 2019/1020 rendelet 18. cikke szerinti eljárási jogait. Az e bekezdés első mondatában említett időszak harminc napra csökken az 5. cikkben említett mesterségesintelligencia-gyakorlatok tilalmának be nem tartása esetén.
(9) Minden tagállam piacfelügyeleti hatóságai biztosítják, hogy az érintett termékkel kapcsolatban haladéktalanul megfelelő korlátozó intézkedésekre kerüljön sor, ideértve a termék forgalomból való kivonását is.
(9) Minden tagállam nemzeti felügyeleti hatóságai biztosítják, hogy az érintett MI-rendszerrel kapcsolatban haladéktalanul megfelelő korlátozó intézkedésekre kerüljön sor, ideértve az MI-rendszer forgalomból való kivonását is.
(9a) A nemzeti felügyeleti hatóságok évente jelentést tesznek az MI-hivatalnak a tiltott gyakorlatok adott évben történt alkalmazásáról, valamint az e cikkel összhangban a kockázatok kiküszöbölésére vagy csökkentésére hozott intézkedésekről.
(1) Amennyiben valamely tagállam a 65. cikk (5) bekezdésében említett értesítés kézhezvételét követő három hónapon belül kifogást emel valamely más tagállam által elfogadott intézkedéssel szemben, illetve ha a Bizottság úgy ítéli meg, hogy az intézkedés ellentétes az uniós joggal, a Bizottság haladéktalanul egyeztetést kezdeményez az érintett tagállammal és az üzemeltetővel vagy üzemeltetőkkel, és értékeli a nemzeti intézkedést. Az értékelés eredményei alapján a Bizottság a 65. cikk (5) bekezdésében említett értesítéstől számított 9 hónapon belül határoz arról, hogy a nemzeti intézkedés indokolt-e, és erről értesíti az érintett tagállamot.
(1) Amennyiben valamely tagállam nemzeti felügyeleti hatósága a 65. cikk (5) bekezdésében említett értesítés kézhezvételét követő három hónapon – illetve az 5. cikkben említett mesterségesintelligencia-gyakorlatok tilalmának be nem tartása esetén 30 napon – belül kifogást emel valamely más tagállam nemzeti felügyeleti hatósága által elfogadott intézkedéssel szemben, illetve ha a Bizottság úgy ítéli meg, hogy az intézkedés ellentétes az uniós joggal, a Bizottság indokolatlan késedelem nélkül egyeztetést kezdeményez az érintett tagállam nemzeti felügyeleti hatóságával és az üzemeltetővel vagy üzemeltetőkkel, és értékeli a nemzeti intézkedést. Az értékelés eredményei alapján a Bizottság a 65. cikk (5) bekezdésében említett értesítés kézhezvételétől számított három hónapon – illetve az 5. cikkben említett mesterségesintelligencia-gyakorlatok tilalmának be nem tartása esetén 60 napon – belül határoz arról, hogy a nemzeti intézkedés indokolt-e, és erről a határozatról értesíti az érintett tagállam nemzeti felügyeleti hatóságát.A Bizottság e döntéséről tájékoztatja a többi tagállam nemzeti felügyeleti hatóságát is.
(2) Amennyiben a nemzeti intézkedést indokoltnak ítélik meg, valamennyi tagállam megteszi a szükséges intézkedéseket annak biztosítása érdekében, hogy a nem megfelelő MI-rendszert kivonják a piacáról, és erről tájékoztatja a Bizottságot. Ha a nemzeti intézkedést indokolatlannak ítélik, az érintett tagállam visszavonja az intézkedést.
(2) Amennyiben a nemzeti intézkedést indokoltnak ítélik meg, az e rendelet alapján kijelölt valamennyi nemzeti felügyeleti hatóság megteszi a szükséges intézkedéseket annak biztosítása érdekében, hogy a nem megfelelő MI-rendszert haladéktalanul kivonják a piacáról, és erről tájékoztatja a Bizottságot és az MI-hivatalt. Ha a nemzeti intézkedést indokolatlannak ítélik, az érintett tagállam nemzeti felügyeleti hatósága visszavonja azt.
Módosítás 612 Rendeletre irányuló javaslat 66 a cikk (új)
66a. cikk
Közös vizsgálatok
Amennyiben egy nemzeti felügyeleti hatóság okkal feltételezi, hogy e rendeletnek egy nagy kockázatú MI-rendszer vagy alapmodell szolgáltatója vagy alkalmazója általi megsértése uniós dimenzióval rendelkező kiterjedt jogsértésnek minősül, vagy egynél több tagállamban legalább 45 millió személyt érint vagy valószínűsíthetően érint, az említett nemzeti felügyeleti hatóság tájékoztatja az MI-hivatalt, és felkérheti azon tagállamok nemzeti felügyeleti hatóságait, ahol a jogsértés történt, hogy indítsanak közös vizsgálatot. Az MI-hivatal biztosítja a közös vizsgálat központi koordinációját. A vizsgálati hatáskörök a nemzeti felügyeleti hatóságoknál maradnak.
(1) Amennyiben egy tagállam piacfelügyeleti hatósága a 65. cikk szerinti értékelés elvégzését követően megállapítja, hogy bár az adott MI-rendszer megfelel ennek a rendeletnek, mégis kockázatot jelent a személyek egészségére vagy biztonságára, az alapvető jogok védelmét célzó uniós vagy nemzeti jog szerinti kötelezettségeknek való megfelelésre vagy a közérdek védelmének egyéb szempontjaira, akkor – a kockázat jellegétől függően – felszólítja az érintett üzemeltetőt, hogy vagy tegyen meg minden megfelelő intézkedést annak biztosítására, hogy az érintett MI-rendszer a forgalomba hozatalkor vagy üzembe helyezéskor már ne jelentsen kockázatot, vagy vonja ki a forgalomból az MI-rendszert vagy észszerű időn belüli vonja vissza azt, az előírásoknak megfelelően.
(1) Amennyiben egy tagállam nemzeti felügyeleti hatósága a 65. cikk szerinti értékelésnek a 64. cikk (3) bekezdésében említett nemzeti illetékes hatósággal teljes együttműködésben történő elvégzését követően megállapítja, hogy bár az adott MI-rendszer megfelel ennek a rendeletnek, mégis komoly kockázatot jelent a személyek egészségére vagy biztonságára, az alapvető jogok vagy a környezet vagy a demokrácia és a jogállamiság védelmét célzó uniós vagy nemzeti jog szerinti kötelezettségeknek való megfelelésre vagy a közérdek védelmének egyéb szempontjaira, akkor – a kockázat jellegétől függően – felszólítja az érintett üzemeltetőt, hogy vagy tegyen meg minden megfelelő intézkedést annak biztosítására, hogy az érintett MI-rendszer a forgalomba hozatalkor vagy üzembe helyezéskor már ne jelentsen kockázatot.
(2) A szolgáltató vagy más érintett üzemeltetők gondoskodnak arról, hogy az (1) bekezdésben említett tagállam piacfelügyeleti hatósága által előírt határidőn belül korrekciós intézkedéseket hozzanak valamennyi érintett, az Unió egész területén forgalmazott MI-rendszer tekintetében.
(2) A szolgáltató vagy más érintett üzemeltetők gondoskodnak arról, hogy az (1) bekezdésben említett tagállam nemzeti felügyeleti hatósága által előírt határidőn belül korrekciós intézkedéseket hozzanak valamennyi érintett, az Unió egész területén forgalmazott MI-rendszer tekintetében.
(2a) Amennyiben a szolgáltató vagy más érintett üzemeltetők nem hozzák meg a (2) bekezdésben említett korrekciós intézkedéseket, és az MI-rendszer továbbra is kockázatot jelent az (1) bekezdésben említettek szerint, a nemzeti felügyeleti hatóság előírhatja az érintett üzemeltető számára, hogy a kockázat jellegével arányos, észszerű határidőn belül vonja ki az MI-rendszert a piacról, vagy hívja vissza azt.
(3) A tagállam haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot. A tájékoztatás tartalmazza az összes rendelkezésre álló adatot, különösen az érintett MI-rendszer azonosításához szükséges adatokat, az MI-rendszer származását és ellátási láncát, a felmerülő kockázat jellegét, valamint a meghozott nemzeti intézkedések jellegét és időtartamát.
(3) A nemzeti felügyeleti hatóság haladéktalanul tájékoztatja a Bizottságot, az MI-hivatalt és a többi nemzeti felügyeleti hatóságot. A tájékoztatás tartalmazza az összes rendelkezésre álló adatot, különösen az érintett MI-rendszer azonosításához szükséges adatokat, az MI-rendszer származását és ellátási láncát, a felmerülő kockázat jellegét, valamint a meghozott nemzeti intézkedések jellegét és időtartamát.
(4) A Bizottság haladéktalanul konzultációt kezd a tagállamokkal és az érintett üzemeltetővel, és értékeli a meghozott nemzeti intézkedéseket. Az értékelés eredményei alapján a Bizottság határozatot hoz arról, hogy az intézkedés indokolt-e, és szükség esetén megfelelő intézkedésekre tesz javaslatot.
(4) A Bizottság, az MI-hivatallal konzultálva, haladéktalanul konzultációt kezd az érintett nemzeti felügyeleti hatóságokkal és az érintett üzemeltetővel, és értékeli a meghozott nemzeti intézkedéseket. Az értékelés eredményei alapján az MI-hivatal határozatot hoz arról, hogy az intézkedés indokolt-e, és szükség esetén megfelelő intézkedésekre tesz javaslatot.
(5) A Bizottság határozatának címzettjei a tagállamok.
(5) A Bizottság az MI-hivatallal konzultálva haladéktalanul közli határozatát az érintett tagállamok nemzeti felügyeleti hatóságaival és az érintett üzemeltetőkkel. Határozatáról tájékoztatja az összes többi nemzeti felügyeleti hatóságot is.
(5a) A Bizottság iránymutatásokat fogad el annak érdekében, hogy segítse az illetékes nemzeti hatóságokat a más MI-rendszerekben felmerülő hasonló problémák azonosításában és szükség esetén orvoslásában.
(1) Amennyiben egy tagállam piacfelügyeleti hatósága a következő megállapítások egyikére jut, felszólítja az érintett szolgáltatót, hogy vessen véget az adott meg nem felelésnek:
(1) Amennyiben egy tagállam nemzeti felügyeleti hatósága a következő megállapítások egyikére jut, felszólítja az érintett szolgáltatót, hogy vessen véget az adott meg nem felelésnek:
Módosítás 621 Rendeletre irányuló javaslat 68 cikk – 1 bekezdés – a pont
a) a megfelelőségi jelölést a 49. cikket megsértő módon helyezték el;
a) a CE-jelölést a 49. cikket megsértő módon helyezték el;
Módosítás 622 Rendeletre irányuló javaslat 68 cikk – 1 bekezdés – b pont
b) a megfelelőségi jelölést nem helyezték el;
b) a CE-jelölést nem helyezték el;
Módosítás 623 Rendeletre irányuló javaslat 68 cikk – 1 bekezdés – e a pont (új)
ea) a műszaki dokumentáció nem áll rendelkezésre;
Módosítás 624 Rendeletre irányuló javaslat 68 cikk – 1 bekezdés – e b pont (új)
eb) az uniós adatbázisba történő regisztrációt nem végezték el;
Módosítás 625 Rendeletre irányuló javaslat 1 cikk – 1 bekezdés – e c pont (új)
ec) adott esetben a meghatalmazott képviselőt nem nevezték ki.
(2) Amennyiben az (1) bekezdésben említett meg nem felelés továbbra is fennáll, az érintett tagállam minden megfelelő intézkedést megtesz a nagy kockázatú MI-rendszer forgalmazásának korlátozása vagy betiltása céljából, vagy gondoskodik annak visszahívásáról vagy piaci forgalomból történő kivonásáról.
(2) Amennyiben az (1) bekezdésben említett meg nem felelés továbbra is fennáll, az érintett tagállam nemzeti felügyeleti hatósága minden megfelelő és arányos intézkedést megtesz a nagy kockázatú MI-rendszer forgalmazásának korlátozása vagy betiltása céljából, vagy haladéktalanul gondoskodik annak visszahívásáról vagy piaci forgalomból történő kivonásáról. Az érintett tagállam nemzeti felügyelő hatósága haladéktalanul tájékoztatja az Mi-hivatalt a meg nem felelésről és a meghozott intézkedésekről.
Módosítás 628 Rendeletre irányuló javaslat 68 a cikk (új)
68a. cikk
Jog a nemzeti felügyeleti hatóságnál történő panasztételhez
(1) Az egyéb közigazgatási vagy bírósági jogorvoslatok sérelme nélkül, minden természetes személy vagy természetes személyek minden csoportja jogosult arra, hogy panaszt tegyen egy nemzeti felügyeleti hatóságnál – különösen a szokásos tartózkodási helye, a munkahelye vagy a feltételezett jogsértés helye szerinti tagállamban –, ha megítélése szerint a rá vonatkozó MI-rendszer megsérti e rendeletet.
(2) Az a nemzeti felügyeleti hatóság, amelyhez a panaszt benyújtották, köteles tájékoztatni a panaszost a panasszal kapcsolatos eljárási fejleményekről és annak eredményéről, ideértve azt is, hogy a 78. cikk alapján a panaszos jogosult bírósági jogorvoslattal élni.
Módosítás 629 Rendeletre irányuló javaslat 68 b cikk (új)
68b. cikk
Jog a nemzeti felügyeleti hatósággal szembeni hatékony bírósági jogorvoslathoz
(1) Az egyéb közigazgatási vagy nem bírósági útra tartozó jogorvoslatok sérelme nélkül, minden természetes vagy jogi személy hatékony bírósági jogorvoslatra jogosult a nemzeti felügyeleti hatóság rá vonatkozó, jogilag kötelező erejű döntésével szemben.
(2) Az egyéb közigazgatási vagy nem bírósági útra tartozó jogorvoslatok sérelme nélkül minden természetes vagy jogi személy hatékony bírósági jogorvoslatra jogosult, ha a 59. cikk alapján illetékes nemzeti felügyeleti hatóság nem foglalkozik a panasszal, vagy három hónapon belül nem tájékoztatja az érintettet a 68a. cikknek megfelelően benyújtott panasszal kapcsolatos eljárási fejleményekről vagy annak eredményéről.
(3) A nemzeti felügyeleti hatósággal szembeni eljárást a nemzeti felügyeleti hatóság székhelye szerinti tagállam bírósága előtt kell megindítani.
(4) Ha a nemzeti felügyeleti hatóság olyan döntése ellen indítanak eljárást, amellyel kapcsolatban az uniós védintézkedési eljárás keretében a Bizottság előzőleg véleményt bocsátott ki vagy határozatot hozott, a felügyeleti hatóság köteles ezt a véleményt vagy határozatot a bíróságnak megküldeni.
Módosítás 630 Rendeletre irányuló javaslat 68 c cikk (új)
68c. cikk
Az egyéni döntéshozatal magyarázatához való jog
(1) Az alkalmazó által nagy kockázatú MI-rendszer kimenete alapján hozott döntés által érintett személy, amely döntés olyan joghatásokat vagy őt hasonlóan jelentősen érintő hatásokat vált ki, amelyek megítélése szerint hátrányosan befolyásolják egészségét, biztonságát, alapvető jogait, társadalmi-gazdasági jólétét vagy az e rendeletben meghatározott kötelezettségekből eredő bármely más jogát, a 13. cikk (1) bekezdése szerinti egyértelmű és érdemi magyarázatot kérhet az alkalmazótól az MI-rendszer döntéshozatali eljárásban betöltött szerepéről, a meghozott döntés fő paramétereiről és a kapcsolódó bemeneti adatokról.
(2) Az (1) bekezdés nem alkalmazandó az olyan MI-rendszerek használatára, amelyek esetében az (1) bekezdés szerinti kötelezettség alóli kivételek vagy az erre vonatkozó korlátozások az uniós vagy a nemzeti jogból következnek, amennyiben az ilyen kivétel vagy korlátozás tiszteletben tartja az alapvető jogok és szabadságok lényegét, és egy demokratikus társadalomban szükséges és arányos intézkedésnek minősül.
(3) Ezt a cikket az (EU) 2016/679 rendelet 13., 14., 15. és 22. cikkének sérelme nélkül kell alkalmazni.
Módosítás 631 Rendeletre irányuló javaslat 68 d cikk (új)
68d. cikk
Az (EU) 2020/1828 irányelv módosítása
Az (EU) 2020/1828 európai parlamenti és tanácsi irányelv1a I. melléklete a következő ponttal egészül ki:
„67a. Az Európai Parlament és a Tanács xxxx/xxxx rendelete [a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról (a mesterséges intelligenciáról szóló jogszabály) és egyes uniós jogalkotási aktusok módosításáról (HL L ...)]”.
_________________
1a Az Európai Parlament és a Tanács (EU) 2020/1828 irányelve (2020. november 25.) a fogyasztók kollektív érdekeinek védelmére irányuló képviseleti keresetekről és a 2009/22/EK irányelv hatályon kívül helyezéséről (HL L 409., 2020.12.4., 1. o.).
Módosítás 632 Rendeletre irányuló javaslat 68 e cikk (új)
68e. cikk
A jogsértések bejelentése és a bejelentő személyek védelme
E rendelet megsértéseinek bejelentésére és az ilyen jogsértéseket bejelentő személyek védelmére az (EU) 2019/1937 európai parlamenti és tanácsi irányelv alkalmazandó.
(1) A Bizottság és a tagállamok ösztönzik és elősegítik olyan magatartási kódexek kidolgozását, amelyek célja, hogy előmozdítsák a III. cím 2. fejezetében meghatározott követelményeknek a nagy kockázatú MI-rendszerektől eltérő MI-rendszerekre történő önkéntes alkalmazását olyan műszaki előírások és megoldások alapján, amelyek a rendszerek rendeltetése ismeretében megfelelő eszközt jelentenek az e követelményeknek való megfelelés biztosítására.
(1) A Bizottság, az MI-hivatal és a tagállamok ösztönzik és elősegítik magatartási kódexek kidolgozását – ideértve azokat, amelyek célja annak bemutatása, hogy az MI-rendszer megfelel a 4a. cikkben rögzített elveknek, ezért megbízhatónak tekinthető –, hogy előmozdítsák a III. cím 2. fejezetében meghatározott követelményeknek a nagy kockázatú MI-rendszerektől eltérő MI-rendszerekre történő önkéntes alkalmazását olyan műszaki előírások és megoldások alapján, amelyek a rendszerek rendeltetése ismeretében megfelelő eszközt jelentenek az e követelményeknek való megfelelés biztosítására.
(2) A Bizottság és a Testület ösztönzi és elősegíti olyan magatartási kódexek kidolgozását, amelyek célja például a környezeti fenntarthatósággal, a fogyatékossággal élő személyek hozzáférésével, az érdekelt feleknek az MI-rendszerek tervezésében és fejlesztésében való részvételével, valamint a fejlesztői csapatok sokszínűségével kapcsolatos követelmények MI-rendszerekre való önkéntes alkalmazásának előmozdítása, egyértelmű célkitűzések és az említett célkitűzések elérésének mérésére szolgáló fő teljesítménymutatók alapján.
(2) A megbízható MI-rendszerek alapelveinek való önkéntes megfelelést elősegítő magatartási kódexek különösen a következőkkel foglalkoznak:
a) arra törekszenek, hogy személyzetük és az MI-rendszerek üzemeltetésével és használatával foglalkozó egyéb személyek rendelkeznek-e kellő jártassággal a mesterséges intelligencia terén az említett alapelvek betartásához;
b) felmérik, hogy az MI-rendszerek milyen mértékben érinthetik a kiszolgáltatott személyeket vagy személyek csoportjait, köztük a gyermekeket, az időseket, a migránsokat és a fogyatékossággal élő személyeket, illetve bevezethetők-e intézkedések a hozzáférhetőség növelésére, vagy az ilyen személyek vagy személyek csoportjainak egyéb támogatása érdekében;
c) figyelembe veszik, hogy az MI-rendszereik használata milyen hatással lehet a sokszínűségre, a nemek közötti egyensúlyra és az egyenlőségre, és hogyan növelheti ezeket;
d) figyelmet fordítanak arra, hogy az MI-rendszereik használhatók-e olyan módon, amely közvetlenül vagy közvetve maradandóan vagy jelentősen megerősítheti a meglévő előítéleteket vagy egyenlőtlenségeket;
e) mérlegelik a sokszínű fejlesztői csapatok létrehozásának szükségességét és relevanciáját a rendszereik inkluzív tervezésének biztosítása tekintetében;
f) körültekintően mérlegelik, hogy rendszereiknek lehetnek-e kedvezőtlen társadalmi hatásai, különösen a politikai intézmények és a demokratikus folyamatok tekintetében;
g) értékelik, hogy az Mi-rendszerek hogyan járulhatnak hozzá a környezeti fenntarthatósághoz, és különösen az európai zöld megállapodás és a digitális jogokról és elvekről szóló európai nyilatkozat keretében tett uniós kötelezettségvállalásokhoz;
(3) Magatartási kódexeket készíthetnek az MI-rendszerek egyes szolgáltatói vagy az azokat képviselő szervezetek vagy mindkettő, többek között a felhasználók és az érdekelt felek, valamint képviseleti szervezeteik bevonásával. A magatartási kódexek vonatkozhatnak egy vagy töb