Az Európai Parlament,

–  tekintettel az Európai Unió működéséről szóló szerződés 225. cikkére,

–  tekintettel az Európai Unió működéséről szóló szerződés 114. és 169. cikkére,

–  tekintettel a hibás termékekért való felelősségre vonatkozó tagállami törvényi, rendeleti és közigazgatási rendelkezések közelítéséről szóló, 1985. július 25-i 85/374/EGK tanácsi irányelvre(1) (termékfelelősségről szóló irányelv),

–  tekintettel a belső piacon az üzleti vállalkozások fogyasztókkal szemben folytatott tisztességtelen kereskedelmi gyakorlatairól szóló 2005. május 11-i 2005/29/EK európai parlamenti és tanácsi irányelvre(2) („Irányelv a tisztességtelen kereskedelmi gyakorlatokról”) és a fogyasztók jogairól szóló, 2011. október 25-i 2011/83/EU európai parlamenti és tanácsi irányelvre(3), valamint más fogyasztóvédelmi szabályokra,

–  tekintettel az orvostechnikai eszközökről szóló, 2017. április 5-i (EU) 2017/745 európai parlamenti és tanácsi rendeletre(4),

–  tekintettel az európai nagy teljesítményű számítástechnika közös vállalkozás létrehozásáról szóló, 2018. szeptember 28-i (EU) 2018/1488 tanácsi rendeletre(5),

–  tekintettel a digitális tartalom szolgáltatására és digitális szolgáltatások nyújtására irányuló szerződések egyes vonatkozásairól szóló, 2019. május 20-i (EU) 2019/770 európai parlamenti és tanácsi irányelvre(6),

–  tekintettel a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásra és a minőségi jogalkotással kapcsolatos iránymutatásokra(7),

–  tekintettel a Digitális Európa program 2021–2027 közötti időszakra történő létrehozásáról szóló európai parlamenti és tanácsi rendeletre irányuló, 2018. június 6-i javaslatra (COM(2018)0434),

–  tekintettel a „Mesterséges intelligencia Európa számára” című, 2018. április 25-i bizottsági közleményre (COM(2018)0237),

–  tekintettel a mesterséges intelligenciáról szóló összehangolt tervről szóló, 2018. december 7-i bizottsági közleményre (COM(2018)0795),

–  tekintettel az emberközpontú mesterséges intelligencia iránti bizalom növeléséről szóló, 2019. április 8-i bizottsági közleményre (COM(2019)0168),

–  tekintettel a Bizottságnak az Európai Parlamenthez, a Tanácshoz és az Európai Gazdasági és Szociális Bizottsághoz címzett, a mesterséges intelligencia, a dolgok internete és a robotika biztonsági és felelősségi vonatkozásairól szóló, 2020. február 19-i jelentésére (COM(2020)0064),

–  tekintettel „A mesterséges intelligencia – a kiválóság és a bizalom európai megközelítése” című, 2020. február 19-i bizottsági fehér könyvre (COM(2020)0065),

–  tekintettel a robotikára vonatkozó polgári jogi szabályokról szóló, 2017. február 16-i állásfoglalására a Bizottságnak szóló ajánlásokkal(8),

–  tekintettel az európai ipar digitalizációjáról szóló, 2017. június 1-jei állásfoglalására(9),

–  tekintettel az autonóm fegyverrendszerekről szóló, 2018. szeptember 12-i állásfoglalására(10),

–  tekintettel a mesterséges intelligenciára és a robotikára vonatkozó átfogó európai iparpolitikáról szóló, 2019. február 12-i állásfoglalására(11),

–  tekintettel az automatizált döntéshozatali folyamatokról és a fogyasztók védelmének és az áruk és szolgáltatások szabad mozgásának biztosításáról szóló, 2020. február 12-i állásfoglalására(12),

–  tekintettel a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport „Etikai iránymutatás a megbízható mesterséges intelligenciára vonatkozóan” című, 2019. április 8-i jelentésére,

–  tekintettel a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport „A mesterséges intelligencia meghatározása: Fő képességek és lehetőségek” című, 2019. április 8-i jelentésére,

–  tekintettel a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport „Szakpolitikai és beruházási ajánlások a megbízható mesterséges intelligenciához” című, 2019. június 26-i jelentésére,

–  tekintettel a felelősséggel és az új technológiákkal foglalkozó szakértői csoport új technológiákkal foglalkozó formációjának „A mesterséges intelligencia és más fejlődő technológiákkal kapcsolatos felelősség” című, 2019. november 21-i jelentésére,

–  tekintettel az Európai Parlament Kutatószolgálata által készített, „A mesterséges intelligencia polgári jogi felelősségi rendszere: az európai hozzáadott érték értékelése” című, az európai hozzáadott értéket elemző tanulmányra(13),

–  tekintettel az Európai Parlament Kutatószolgálatának 2016. júniusi STOA szakpolitikai tájékoztatójára a robotika jogi és etikai vonatkozásairól(14),

–  tekintettel az Európai Parlament Uniós Belső Politikák Főigazgatóságának a Jogi Bizottsághoz címzett, „A robotikát illető európai polgári jogi szabályok” című, 2016. októberi tanulmányára(15),

–  tekintettel eljárási szabályzata 47. és 54. cikkére,

–  tekintettel a Belső Piaci és Fogyasztóvédelmi Bizottság, valamint a Közlekedési és Idegenforgalmi Bizottság véleményeire,

–  tekintettel a Jogi Bizottság jelentésére (A9-0178/2020),

A.  mivel a „felelősség” fogalma fontos kettős szerepet játszik mindennapjainkban: egyrészt biztosítja, hogy a személy, akit sérelem vagy kár ért, kártérítést igényelhessen és kaphasson a sérelemért vagy kárért bizonyítottan felelős féltől, másrészt pedig gazdasági ösztönzőket nyújt a természetes és jogi személyek számára, hogy eleve elkerüljék a sérelem- vagy károkozást, vagy számolniuk kelljen azzal, hogy magatartásuk miatt kompenzációt kell fizetniük;

B.  mivel minden jövőorientált polgári felelősségi jogi keretnek bizalmat kell ébresztenie a termékek és a szolgáltatások, köztük a digitális technológia biztonságát, megbízhatóságát és következetességét illetően, hogy egyensúlyt teremthessen a sérelem vagy kár potenciális áldozatainak hatékony és tisztességes védelme, illetve aközött, hogy a vállalkozások, és különösen a kis- és középvállalkozások elegendő mozgástérrel rendelkezzenek új technológiák, termékek vagy szolgáltatások kifejlesztéséhez; mivel ez elősegíti a bizalomépítést és stabilitást teremt a beruházások számára; mivel végeredményben minden felelősségi keretnek célul kell kitűznie, hogy jogbiztonságot nyújtson valamennyi fél számára, legyen szó a gyártóról, az üzemeltetőről, az érintett személyről vagy bármely más harmadik félről;

C.  mivel egy tagállam jogrendszere bizonyos szereplők vonatkozásában kiigazíthatja felelősségi szabályait, illetve bizonyos tevékenységek vonatkozásában szigoríthatja azokat; mivel az objektív felelősség értelmében egy fél felróhatóság hiányában is felelősnek tartható; mivel számos nemzeti deliktuális felelősségi jog értelmében az alperest objektív felelősség terheli, ha olyan, a társadalmat érintő kockázat merül fel, amelyet ezen alperes okozott (például gépjárművek, illetve veszélyes tevékenységek formájában) vagy amelyek fölött nem képes ellenőrzést gyakorolni (mint például állatok), és az sérelem- vagy károkozást eredményez;

D.  mivel a mesterségesintelligencia-rendszerekkel (a továbbiakban: MI-rendszer) kapcsolatos felelősségi körök kifejezett kijelölését célként kitűző valamennyi jövőbeli uniós jogalkotási tevékenységet elemzésnek és a tagállamokkal folytatott konzultációnak kell megelőznie arról, hogy a javasolt jogszabályok megfelelnek-e a gazdasági, jogi és szociális feltételeknek;

E.  mivel a mesterséges intelligenciára vonatkozó polgári jogi felelősségi rendszer kérdéséről széles körű társadalmi vitát kell folytatni, figyelembe véve valamennyi szóban forgó érdeket, különösen az etikai, jogi, gazdasági és szociális szempontokat, azon félreértések és indokolatlan félelmek elkerülése érdekében, amelyeket ez a technológia okozhat a polgárok körében; mivel az új szabályozási keret valamennyi szereplőre gyakorolt hatásainak hatásvizsgálat keretében történő alapos vizsgálatát a további jogalkotási lépések előfeltételének kell tekinteni;

F.  mivel az MI-rendszerek fogalma különböző technológiák széles körét foglalja magában, beleértve az egyszerű statisztikákat, a gépi tanulást és a mélytanulást;

G.  mivel az „automatizált döntéshozatal” kifejezés használatával elkerülhető lenne a mesterséges intelligencia kifejezés esetleges kétértelműsége; mivel az „automatizált döntéshozatal” azt jelenti, hogy a felhasználó a döntést először részben vagy egészben egy szoftver vagy szolgáltatás használata révén egy szervezetre ruházza át; mivel ezt követően ez a szervezet automatikusan végrehajtott döntéshozatali modelleket használ egy művelet felhasználó nevében történő elvégzéséhez, vagy a felhasználó döntéseiről való tájékoztatáshoz a művelet végrehajtása során;

H.  mivel az MI-rendszerek jelentős jogi kihívások elé állítják a létező felelősségi keretet, és olyan helyzeteket eredményezhetnek, amelyekben átláthatatlanságuk rendkívül költségessé teheti vagy akár el is lehetetlenítheti annak megállapítását, hogy ki kontrollálta az MI-rendszerrel kapcsolatos kockázatot, illetve hogy végeredményben mely kód, bevitel vagy adat okozta a kárt okozó üzemeltetést; mivel ez a tényező megnehezítheti a sérelem vagy a kár és az azt okozó magatartás közötti kapcsolat azonosítását, aminek következtében előfordulhat, hogy az áldozatok nem részesülnek megfelelő kártérítésben;

I.  mivel jogi kihívások az MI-rendszerek, valamint más MI-rendszerek és nem MI-rendszerek közötti konnektivitásból, a külső adatoktól való függésükből, a kiberbiztonság megsértéseivel szembeni sebezhetőségükből, valamint abból erednek, hogy többek között a gépi tanulást és a mélytanulási technikákat alkalmazó, egyre önállóbb MI-rendszereket terveznek;

J.  mivel az MI-rendszerekre vonatkozó, stabil és méltányos kártérítési eljárásokkal kiegészített, megbízható etikai normák segíthetnek e jogi kihívások kezelésében és annak elkerülésében, hogy a felhasználók kevésbé legyenek nyitottak a kialakulóban lévő technológiák elfogadása iránt; mivel a méltányos kártérítési eljárások azt jelentik, hogy minden olyan személynek, aki MI-rendszerek által okozott kárt szenved el, vagy akinek tulajdonában MI-rendszerek által okozott kár keletkezik, azonos mértékű védelemben kell részesülnie, mint más, MI-rendszerek részvétele nélkül bekövetkező esetek károsultjainak; mivel a felhasználónak meg kell bizonyosodnia arról, hogy a mesterséges intelligenciát használó rendszerek által okozott esetleges károkat megfelelő biztosítás fedezi, és hogy van meghatározott jogorvoslati lehetőség;

K.  mivel a jogbiztonság is alapvető feltétele a mesterséges intelligencián alapuló technológia dinamikus fejlődésének és innovációjának, különösen az induló vállalkozások, a mikro-, kis- és középvállalkozások számára, és a mindennapi életben való gyakorlati alkalmazásának; mivel az induló vállalkozások, a mikro-, kis- és középvállalkozások kulcsfontosságú szerepe – különösen az európai gazdaságban – indokolja a szigorúan arányos megközelítést, amely lehetővé teszi számukra a fejlődést és az innovációt;

L.  mivel az MI-rendszerek sokfélesége és a technológia által jelentett kockázatok sokfélesége megnehezíti az arra irányuló erőfeszítéseket, hogy a kockázatok teljes spektrumának megfelelő egységes megoldást találjanak; mivel e tekintetben olyan megközelítést kell elfogadni, amelyben kísérleteket, kísérleti projekteket és szabályozási tesztkörnyezeteket alkalmaznak olyan arányos és tényeken alapuló megoldások kidolgozására, amelyek szükség esetén konkrét helyzetekre és ágazatokra irányulnak;

Bevezetés

1.  úgy véli, hogy az MI-rendszerek társadalomba, munkahelyekre és gazdaságba történő bevezetéséhez fűződő kihívás egyike a jelenlegi politikai napirend legfontosabb kérdéseinek; mivel az MI-alapú technológiák szinte minden ágazatban javíthatnák az életminőségünket, illetve törekedniük kell arra, hogy javítsák az életminőségünket a személyes szférától kezdve (pl. közlekedési ágazat, személyre szabott oktatás, kiszolgáltatott helyzetben lévő személyeknek nyújtott támogatás, fitnesz-programok, hitelnyújtás) a munkahelyi környezeten (pl. megterhelő és repetitív feladatok megkönnyítése) át egészen a globális kihívásokig (pl. éghajlatváltozás, egészségügyi ellátás, táplálkozás és logisztika);

2.  határozottan úgy véli, hogy az MI-rendszerek nyújtotta előnyök hatékony kiaknázása, a velük való potenciális visszaélések megelőzése és az Unión belüli egységes szabályozás hiányának elkerülése érdekében Unió-szerte valamennyi MI-rendszer vonatkozásában elengedhetetlen az elveken alapuló és jövőbiztos jogalkotás; úgy véli, hogy míg a potenciális alkalmazások széles körének vonatkozásában ágazatspecifikus szabályozás kívánatos, a jogi egyértelműség biztosítása, az Unió-szerte egyenlő normák rögzítése, valamint az európai értékek és az állampolgári jogok hatékony védelme érdekében a közös elveken alapuló horizontális és összehangolt jogi keret tűnik szükségesnek;

3.  megállapítja, hogy a digitális egységes piacot teljesen harmonizálni kell, mivel a digitális szférát gyors, határokon átnyúló dinamika és nemzetközi adatáramlás jellemzi; úgy véli, hogy az Unió csak következetes és közös szabályok révén érheti el az Unió digitális szuverenitására és az európai digitális innováció élénkítésére irányuló célkitűzéseket, összhangban az innovációs kultúrával;

4.  megjegyzi, hogy a mesterséges intelligenciával kapcsolatos globális verseny már folyamatban van, és hogy az Uniónak tudományos és technológiai potenciáljának kiaknázása révén vezető szerepet kell játszania ebben; határozottan hangsúlyozza, hogy a technológiai fejlődés nem áshatja alá a felhasználóknak a mesterséges intelligenciát használó eszközök és rendszerek által potenciálisan okozott károktól való védelmét; ösztönzi a polgári jogi felelősségre vonatkozó uniós normák nemzetközi szintű előmozdítását;

5.  határozottan úgy véli, hogy az MI-rendszerekre vonatkozó új, közös szabályok csak rendelet formáját ölthetik; úgy véli, hogy az MI-rendszerek által okozott sérelem vagy kár esetében felmerülő felelősség kérdése egyike az e kereten belül kezelendő legfontosabb szempontoknak;

Felelősség és mesterséges intelligencia

6.  úgy véli, hogy nincs szükség a jól működő felelősségi rendszerek teljes felülvizsgálatára, ugyanakkor az MI-rendszerek összetettsége, konnektivitása, átláthatatlansága, sebezhetősége, azon képessége, hogy frissítések révén módosítható, önálló tanulási képessége és potenciális autonómiája, valamint az érintett szereplők nagy száma jelentős kihívást jelent az uniós és nemzeti felelősségi keret rendelkezéseinek hatékonysága számára; úgy véli, hogy bizonyos koordinált változtatásokra van szükség a felelősségi rendszerek terén azon helyzetek elkerülése érdekében, ahol a sérelmet elszenvedő vagy tulajdonukban kárt szenvedő személyek kártérítés nélkül maradnak;

7.  megjegyzi, hogy bár az MI-rendszerek által vezérelt valamennyi fizikai vagy virtuális tevékenység, eszköz vagy folyamat technikai értelemben lehet a sérelem vagy kár közvetlen vagy közvetett oka, azokat majdnem mindig olyasvalaki hozza létre, aki a rendszereket kiépíti, alkalmazza vagy azokba beavatkozik; e tekintetben megjegyzi, hogy nem szükséges jogi személyiséggel felruházni az MI-rendszereket; úgy véli, hogy az MI-rendszerek átláthatatlansága, konnektivitása és autonómiája a gyakorlatban nagyon nehézzé teszi vagy akár el is lehetetlenítheti, hogy az MI-rendszerek bizonyos káros cselekedetei konkrét emberi behatásra vagy tervezési döntésre visszavezethetők legyenek; emlékeztet arra, hogy a széles körben elfogadott felelősségkoncepcióknak megfelelően ugyanakkor elejét lehet venni e buktatónak, ha a teljes értékláncban jelen levő, az MI-rendszert alkotó, karbantartó vagy az azzal kapcsolatos kockázat ellenőrzés alatt tartó különböző személyeket teszik felelőssé;

8.  úgy véli, hogy a termékfelelősségről szóló irányelv 30 éve hatékony eszköznek bizonyul a hibás termékek okozta károkért járó kártérítések kifizettetésére, azonban felül kell vizsgálni a digitális világhoz való hozzáigazítása és a kialakulóban lévő digitális technológiák által jelentett kihívások kezelése érdekében, ezáltal biztosítva a fogyasztók hatékony védelmének magas szintjét, valamint a jogbiztonságot a fogyasztók és a vállalkozások számára, elkerülve ugyanakkor a magas költségeket és kockázatokat a kkv-k és induló vállalkozások számára; sürgeti a Bizottságot, hogy értékelje, nem kellene-e a termékfelelősségről szóló irányelvet rendeletté alakítani, hogy egyértelműsítse a „termék” fogalommeghatározását annak meghatározása révén, hogy a digitális tartalom és a digitális szolgáltatás annak hatálya alá tartozik-e, továbbá, hogy fontolja meg az olyan fogalmak, mint a „kár”, a „hiba” és a „gyártó” kiigazítását; úgy véli, hogy az Unió-szerte fenntartandó jogbiztonság érdekében a termékfelelősségről szóló irányelv felülvizsgálatát követően a „gyártó” fogalmának magában kell foglalnia az előállítókat, a fejlesztőket, a programozókat, a szolgáltatókat és a backend-üzemeltetőket; felhívja a Bizottságot, hogy mérlegelje a kialakulóban lévő digitális technológiák által okozott károk tekintetében fennálló bizonyítási teherre vonatkozó szabályok megfordítását egyértelműen meghatározott esetekben és megfelelő értékelést követően; hangsúlyozza azonban annak fontosságát, hogy a naprakésszé tett uniós jogszabály továbbra is olyan világosan meghatározott problémákra korlátozódjon, amelyekre már léteznek megvalósítható megoldások, és ugyanakkor tegye lehetővé a jövőbeli technológiai fejlesztések lefedését, ideértve az ingyenes és nyílt forráskódú szoftvereken alapuló fejlesztéseket is; megjegyzi, hogy a termékfelelősségről szóló irányelvet a hibás MI-rendszerek gyártóival szembeni polgári jogi felelősségi követelések tekintetében továbbra is alkalmazni kellene, amennyiben az MI-rendszer az irányelv értelmében terméknek minősül; kiemeli, hogy a termékfelelősségi keret bármilyen aktualizálásának együtt kell járnia az általános termékbiztonságról szóló, 2001. december 3-i 2001/95/EK európai parlamenti és tanácsi irányelv(16) aktualizálásával annak biztosítása érdekében, hogy az MI-rendszerek magukban foglalják a beépített biztonságosság és biztonság elvét;

9.  úgy véli, hogy a tagállamok felróhatóságon alapuló létező deliktuális felelősségi joga a legtöbb esetben megfelelő szintű védelmet biztosít azon személyek számára, akiknek beavatkozó harmadik felek, például hekkerek okoznak kárt, vagy akiknek a tulajdonában ilyen harmadik felek tesznek kárt, mivel a beavatkozás rendszeresen felróhatóságon alapuló cselekménynek minősül; megjegyzi, hogy kizárólag csak konkrét esetekben – ideértve azokat az eseteket is, amikor a harmadik fél felderíthetetlen vagy pénzeszközökkel nem rendelkezik – tűnnek szükségesnek további felelősség szabályok a létező nemzeti deliktuális felelősségi jog kiegészítéseként;

10.  úgy véli ezért, hogy helyénvaló, ha ez a jelentés az MI-rendszerek üzemeltetőjével szembeni, polgári jogi felelősségen alapuló követelésekre összpontosít; kijelenti, hogy az üzemeltető felelősségét az a tény indokolja, hogy ő kontrollálja az MI-rendszerrel kapcsolatos kockázatot, hasonlóan egy gépkocsi tulajdonosához; úgy véli, hogy az MI-rendszerek összetettsége és konnektivitása miatt sok esetben az üzemeltető lesz az érintett személy számára látható első kapcsolattartó;

Az üzemeltető felelőssége

11.  úgy véli, hogy az üzemeltetőt is magukban foglaló felelősségi szabályoknak ki kell terjedniük az MI-rendszerek mindenfajta üzemeltetésére, függetlenül attól, hogy hol, illetve hogy fizikálisan vagy virtuálisan üzemelnek-e; megjegyzi ugyanakkor, hogy a nyilvános helyeken történő üzemelés, amelyek számos személy számára kockázatot jelentenek, olyan eseteknek tekintendők, amelyek további megfontolást igényelnek; úgy véli, hogy a potenciális sérültek vagy károsultak sokszor nem tudnak az üzemelésről, és élnek szerződéses felelősségen alapuló igénnyel az üzemeltetővel szemben; megjegyzi, hogy sérelem vagy kár felmerültekor az ilyen személyek csak felróhatóságon alapuló felelősségi igénnyel élhetnek, és esetleg nehezen bizonyítják az MI-rendszer üzemeltetőjének felróhatóságát, ezért az ilyen kártérítési igények sikertelennek bizonyulhatnak;

12.  úgy véli, hogy helyénvaló úgy tekinteni, hogy az üzemeltető fogalma lefedi mind a frontend-, mind a backend-üzemeltetőt, amennyiben ez utóbbi nem tartozik a termékfelelősségről szóló irányelv hatálya alá; megjegyzi, hogy a frontend-üzemeltetőt olyan természetes vagy jogi személyként kell meghatározni, aki vagy amely bizonyos mértékben kontrollálja az MI-rendszer üzemeltetésével és működésével kapcsolatos kockázatot, és élvezi az MI-rendszer üzemeltetéséből előnyöket; kijelenti, hogy a backend-üzemeltetőt olyan természetes vagy jogi személyként kell meghatározni, aki folyamatosan meghatározza a technológia jellemzőit, biztosítja az adatokat és az alapvető backend-támogató szolgáltatásokat, és ezért bizonyos fokú ellenőrzést gyakorol az MI-rendszer üzemeltetésével és működésével kapcsolatos kockázat felett; úgy véli, hogy az ellenőrzés gyakorlása az üzemeltető minden olyan intézkedését jelenti, amely befolyásolja az MI-rendszer üzemelését, és ezáltal azt, hogy az milyen mértékben teszi ki a harmadik feleket az esetleges kockázatoknak; úgy véli, hogy ezek a tevékenységek hatással lehetnek egy MI-rendszer üzemelési módjára annak kezdetétől a végéig, azáltal, hogy meghatározzák a bevitelt, a hozadékot vagy az eredményeket, vagy megváltoztatnak bizonyos funkciókat vagy folyamatokat az MI-rendszerben;

13.  megjegyzi, hogy bizonyos helyzetekben egynél több üzemeltető is lehet, például egy frontend-üzemeltető és egy backend-üzemeltető; úgy véli, hogy ilyen esetben minden üzemeltető egyetemleges felelősséggel tartozik, ugyanakkor jogukban áll egymás ellen arányosan eljárást kezdeményezni; úgy véli, hogy a felelősség arányát az alapján kell meghatározni, hogy az üzemeltetők milyen fokú ellenőrzést gyakorolnak az MI-rendszer üzemeltetésével és működésével kapcsolatos kockázat felett; úgy véli, hogy javítani kell a termékek nyomon követhetőségét a különböző szakaszokban részt vevők jobb azonosítása érdekében;

Különböző kockázatokra különböző felelősségi szabályok

14.  elismeri, hogy a felelősség tekintetében meghatározó tényező azon MI-rendszer típusa, amely fölött az üzemeltető ellenőrzést gyakorol; megjegyzi, hogy egy eredendően magas kockázatú és autonóm módon cselekvő MI-rendszer potenciálisan sokkal nagyobb mértékben jelent veszélyt a társadalomra; úgy véli, hogy az MI-rendszerek által a létező polgári jogi felelősségi rendszerek számára támasztott jogi kihívások alapján észszerűnek tűnik egy közös, objektív felelősségi rendszer létrehozása e magas kockázatú, autonóm MI-rendszerek számára; hangsúlyozza, hogy egy ilyen, akár több kockázati szintet is magában foglaló kockázatalapú megközelítésnek egyértelmű kritériumokon és a magas kockázat megfelelő meghatározásán kell alapulnia, és biztosítania kell a jogbiztonságot;

15.  úgy véli, hogy egy MI-rendszer magas kockázatot jelent, ha annak autonóm üzemelése során jelentős kockázat áll fenn, hogy egy vagy több személy számára véletlenszerűen, és észszerűen nem feltételezhető módon kárt okoz; úgy véli, hogy annak meghatározásakor, hogy egy MI-rendszer magas kockázattal jár-e, azt is figyelembe kell venni, hogy mely ágazatban várhatók jelentős kockázatok, valamint az elvégzett tevékenységek jellegét is; úgy véli, hogy e kockázat jelentősége a lehetségesen okozott kár súlyossága, annak valószínűsége, hogy a kockázat sérelmet vagy kárt okoz, és az MI-rendszer használatának módja közötti kölcsönhatástól függ;

16.  javasolja, hogy valamennyi magas kockázatú MI-rendszer tételes felsorolása szerepeljen a javasolt rendelet mellékletében; elismeri, hogy a gyors technológiai fejlődésre és a szükséges technikai szakértelemre tekintettel a Bizottságnak késedelem nélkül, de legalább hathavonta felül kell vizsgálnia az említett mellékletet, és szükséges esetben felhatalmazáson alapuló jogi aktus révén módosítania kell azt; úgy véli, hogy a Bizottságnak szorosan együtt kell működnie egy újonnan létrehozandó, a meglévő prekurzorokkal foglalkozó állandó bizottsághoz vagy a gépjárművekkel foglalkozó Műszaki Bizottsághoz hasonló állandó bizottsággal, amely a tagállamok nemzeti szakértőiből és érdekelt felekből áll; úgy véli, hogy a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport kiegyensúlyozott tagsági aránya példát mutathat az érdekelt felek csoportjának kialakításához, etikai szakértők, antropológusok, szociológusok és mentális egészségügyi szakemberek bevonása révén; úgy véli továbbá, hogy az Európai Parlamentnek tanácsadó szakértőket kellene kijelölnie az újonnan létrehozott állandó bizottságba;

17.  megjegyzi, hogy a mesterséges intelligencián alapuló technológiák fejlesztése rendkívül dinamikus és folyamatosan gyorsul; hangsúlyozza, hogy a felhasználók megfelelő védelmének biztosítása érdekében gyorsított megközelítésre van szükség az európai piacon forgalomba hozott MI-rendszereket használó új eszközök és rendszerek elemzéséhez a lehetséges kockázatok tekintetében; javasolja, hogy e tekintetben minden eljárást a lehető legnagyobb mértékben egyszerűsítsenek; javasolja továbbá, hogy a Bizottság arra irányuló értékelése, hogy egy MI-rendszer magas kockázatot jelent-e, a termékbiztonsági értékeléssel egy időben kezdődjön el az olyan helyzet elkerülése érdekében, hogy egy magas kockázatú MI-rendszer már piaci jóváhagyásra került, de még nem minősítették magas kockázatúnak, és így kötelező biztosítási fedezet nélkül üzemel;

18.  megjegyzi, hogy a Bizottságnak értékelnie kell, hogy a vizsgálatot végző hatóság bizonyítékok gyűjtése céljából hogyan férhet hozzá a magas kockázatú MI-rendszerekről gyűjtött, rögzített vagy tárolt adatokhoz és használhatja fel azokat az adott MI-rendszer által okozott sérelem vagy kár esetén, valamint hogyan javítható az ilyen adatok nyomon követhetősége és ellenőrizhetősége, figyelembe véve az alapvető jogokat és a magánélethez való jogot;

19.  kijelenti, hogy a tagállamok objektív felelősségi rendszereivel összhangban a javasolt rendeletnek a fontos, jogszabály által védett jogok – például az élethez, az egészséghez, a testi épséghez és a tulajdonhoz való jog – megsértésére kell kiterjednie, és meg kell határoznia a kártérítés összegét és mértékét, valamint az elévülési időt; úgy véli, hogy a javasolt rendeletnek az uniós felelősségi jogban harmonizált küszöbértéket meghaladó, ellenőrizhető gazdasági veszteséget eredményező jelentős nem vagyoni kárra is ki kell terjednie, ami egyensúlyt teremt az érintett személyek igazságszolgáltatáshoz való hozzáférése és más érintett személyek érdekei között; sürgeti a Bizottságot, hogy értékelje újra és igazítsa ki az uniós jogban szereplő kártérítési küszöbértékeket; úgy véli, hogy a Bizottságnak alaposan elemeznie kell az összes tagállam jogi hagyományait és a nem vagyoni kár megtérítését biztosító hatályos nemzeti jogszabályait annak értékelése érdekében, hogy szükséges-e a nem vagyoni kár belefoglalása a mesterséges intelligenciára vonatkozó jogalkotási aktusokba, és hogy ez ellentétes-e a meglévő uniós jogi kerettel vagy aláássa-e a tagállamok nemzeti jogát;

20.  megállapítja, hogy valamennyi olyan, MI-rendszer által vezérelt tevékenységnek, eszköznek vagy folyamatnak, amely sérelmet vagy kárt okoz, de a javasolt rendelet mellékletében nem szerepel, továbbra is felróhatóságon alapuló felelősség hatálya alá kell tartoznia; úgy véli, hogy az érintett személyt ugyanakkor megilleti az üzemeltető felróhatóságának vélelme, aki ugyanakkor mentesülhet a felelősség alól annak bizonyítása révén, hogy betartotta gondossági kötelezettségét;

21.  úgy véli, hogy egy olyan MI-rendszer, amelyet a Bizottság és az újonnan létrehozott állandó bizottság még nem értékelt, és ezért még nem minősül magas kockázatúnak és nem szerepel a javasolt rendelet mellékletében foglalt jegyzékben, a 20. bekezdésben előírt rendszer alóli kivételként objektív felelősséggel kell, hogy bírjon, amennyiben súlyos sérelmet vagy kárt okozó, ismétlődő eseményeket okoz; megjegyzi, hogy amennyiben ez a helyzet, a Bizottságnak indokolatlan késedelem nélkül értékelnie kell az említett melléklet felülvizsgálatának szükségességét is annak érdekében, hogy a szóban forgó MI-rendszert felvegyék a jegyzékbe; úgy véli, hogy amennyiben ezen értékelést követően a Bizottság úgy dönt, hogy felveszi ezt az MI-rendszert a jegyzékbe, e felvételnek visszaható hatállyal kell bírnia az adott MI-rendszer által súlyos sérelmet vagy kárt okozó első bizonyított esemény időpontjától kezdődően;

22.  kéri a Bizottságot annak értékelésére, hogy szükség van-e uniós szintű jogi rendelkezésekre a szerződésekkel kapcsolatban a felelősség alóli mentességre vonatkozó záradékok elkerülése érdekében, többek között a vállalkozások közötti, illetve a vállalkozások és az igazgatás közötti kapcsolatokban;

Biztosítások és MI-rendszerek

23.  úgy véli, hogy a felelősségi körök meghatározása egyike a legfontosabb tényezőknek, amelyek meghatározzák az új technológiák, termékek és szolgáltatások sikerét; megjegyzi, hogy a felelősségi körök megfelelő meghatározása ahhoz is elengedhetetlen, hogy a nyilvánosságot biztosítsák afelől, hogy az új technológia a sérelem- vagy károkozás, illetve az érintett személyek jogi követeléseinek lehetősége ellenére is megbízható; megjegyzi ugyanakkor, hogy ez a szabályozási rendszer az MI-rendszerek előnyeinek kiaknázására és bővítésére összpontosít, szilárd biztosítékok bevezetése mellett;

24.  az a véleménye, hogy a sérelem- vagy károkozás jelentős kockázata alapján és a gépjármű-felelősségbiztosításról és a biztosítási kötelezettség ellenőrzéséről szóló, 2009. szeptember 16-i 2009/103/EK európai parlamenti és tanácsi irányelv(17) figyelembevételével a javasolt rendelet mellékletében felsorolt magas kockázatú MI-rendszerek valamennyi üzemeltetőjének rendelkeznie kell felelősségbiztosítással; úgy véli, hogy az ilyen, magas kockázatú MI-rendszerekre vonatkozó kötelező biztosítási rendszernek fedeznie kell a kártérítés összegét és mértékét, amelyeket a javasolt rendelet határoz meg; tudatában van annak, hogy az ilyen típusú technológia jelenleg nagyon ritka, mivel magas fokú önálló döntéshozatalt feltételez, és ezért a jelenlegi megbeszélések többnyire jövőorientáltak; ugyanakkor úgy véli, hogy a kockázatokkal kapcsolatos bizonytalanság miatt a biztosítási díjak nem lehetnek mértéktelenül magasak, mivel ekkor akadályoznák a kutatást és az innovációt;

25.  úgy véli, hogy egy közpénzekből finanszírozott európai szintű kártérítési mechanizmus nem megfelelő módja az esetleges biztosítási hézagok kitöltésének; úgy véli, hogy az MI-rendszerekhez kapcsolódó kockázatokra vonatkozó adatok hiánya és a jövőbeli fejleményekkel kapcsolatos bizonytalanság megnehezíti a biztosítási ágazat számára, hogy módosított vagy új biztosítási termékeket dolgozzon ki; úgy véli, hogy a kötelező biztosítás kialakításának teljes egészében a piacra bízása valószínűleg egyenmegoldáson alapuló megközelítést eredményez, aránytalanul magas díjakkal és rossz ösztönzőkkel, ami arra ösztönzi az üzemeltetőket, hogy a legjobb fedezet helyett a legolcsóbb biztosítást válasszák, és ami akadályozná a kutatást és az innovációt; úgy véli, hogy a Bizottságnak szorosan együtt kell működnie a biztosítási ágazattal annak megállapítása érdekében, hogy az adatok és az innovatív modellek hogyan használhatók fel a megfizethető áron megfelelő fedezetet nyújtó biztosítások létrehozására;

Záró megfontolások

26.  arra kéri a Bizottságot, hogy az Európai Unió működéséről szóló szerződés 225. cikke alapján – az ezen állásfoglalás mellékletében közölt részletes ajánlások nyomán – terjesszen elő egy, az MI-rendszerek üzemeltetésére vonatkozó felelősségről szóló rendeletre irányuló javaslatot;

27.  úgy véli, hogy a kért javaslatnak nem lesznek pénzügyi vonatkozásai;

o
o   o

28.  utasítja elnökét, hogy továbbítsa ezt az állásfoglalást és a mellékelt ajánlásokat a Bizottságnak és a Tanácsnak.

(1) HL L 210., 1985.8.7., 29. o. (2) HL L 149., 2005.6.11., 22. o. (3) HL L 304., 2011.11.22., 64. o. (4) HL L 117., 2017.5.5., 1. o. (5) HL L 252., 2018.10.8., 1. o. (6) HL L 136., 2019.5.22., 1. o. (7) HL L 123., 2016.5.12., 1. o. (8) HL C 252., 2018.7.18., 239. o. (9) HL C 307., 2018.8.30., 163. o. (10) HL C 433., 2019.12.23., 86. o. (11) Elfogadott szövegek, P8_TA(2019)0081. (12) Elfogadott szövegek, P9_TA(2020)0032. (13) https://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2020)654178 (14) https://www.europarl.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU(2016)563501(ANN)_EN.pdf (15) https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf (16) HL L 11., 2002.1.15., 4. o. (17) HL L 263., 2009.10.7., 11. o.

RÉSZLETES AJÁNLÁSOK EGY, A MESTERSÉGESINTELLIGENCIA-RENDSZEREK ÜZEMELTETÉSÉRE VONATKOZÓ FELELŐSSÉGRŐL SZÓLÓ EURÓPAI PARLAMENTI ÉS TANÁCSI RENDELET KIDOLGOZÁSÁHOZ

A.  A JAVASLAT ALAPELVEI ÉS CÉLKITŰZÉSEI

Ez a jelentés a digitalizáció egy fontos vonatkozására irányul, amelyet határokon átnyúló tevékenységek, a globális verseny és alapvető társadalmi megfontolások formálnak. A következő alapelveknek kell iránymutatásul szolgálniuk:

1.  A valódi digitális egységes piac teljes, rendelet által szabályozott harmonizációt kíván.

2.  A mesterségesintelligencia-rendszerek (MI-rendszerek) fejlesztése által támasztott új jogi kihívásokat kezelni kell azáltal, hogy maximális jogbiztonságot hoznak létre a felelősségi lánc mentén, beleértve a gyártót, az üzemeltetőt, az érintett személyt és minden más harmadik felet.

3.  Tartózkodni kell a túlszabályozástól és a bürokratikus terhektől, mivel az akadályozhatja a mesterséges intelligenciával kapcsolatos európai innovációt, különösen abban az esetben, ha a technológiát, terméket vagy szolgáltatást kkv-k vagy induló innovatív vállalkozások fejlesztik.

4.  A mesterséges intelligenciára vonatkozó polgári jogi felelősségi szabályoknak egyensúlyt kell teremteniük egyrészt a társadalom védelme, másrészt az innovációba, különösen az MI-rendszerekbe történő beruházásra irányuló üzleti ösztönzők között.

5.  A jól működő létező felelősségi rendszerek helyettesítése helyett inkább néhány szükséges változtatást kellene eszközölni új és jövőorientált elképzelések bevezetésével.

6.  A jövőbeli rendeletjavaslat és a termékfelelősségről szóló irányelv az MI-rendszerekre vonatkozó közös felelősségi keret két pillére, amelyek valamennyi politikai szereplő szoros együttműködését és összehangolását igénylik uniós és nemzeti szinten.

7.  A polgárok számára azonos szintű védelmet és jogokat kell biztosítani, függetlenül attól, hogy a kárt egy MI-rendszer okozta-e, vagy hogy a károkozás fizikálisan vagy virtuálisan történt-e, hogy nőjön az új technológiába vetett bizalmuk.

8.  A jövőbeli rendeletjavaslatban mind a vagyoni, mind a nem vagyoni károkat figyelembe kell venni. Többek között a mesterséges intelligencia és a robotika biztonsági és felelősségi vonatkozásairól szóló, 2020. február 19-i közleménye alapján az Európai Bizottság felkérést kap arra, hogy alaposan elemezze valamennyi tagállam jogi hagyományait, valamint a nem vagyoni kár megtérítését biztosító hatályos jogszabályi rendelkezéseket annak értékelése érdekében, hogy a nem vagyoni kár belefoglalása a jövőbeli rendeletjavaslatba jogilag megalapozott-e és az érintett személy szempontjából szükséges-e. A jelenleg rendelkezésre álló információk alapján a Parlament szerint a jelentős nem vagyoni kárt figyelembe kell venni, ha az érintett személy jelentős, azaz ellenőrizhető gazdasági veszteséget szenved el.

B.  A KÉRT JAVASLAT SZÖVEGE

Javaslat –

AZ EURÓPAI PARLAMENT ÉS A TANÁCS RENDELETE

a mesterségesintelligencia-rendszerek üzemeltetésére vonatkozó felelősségről

AZ EURÓPAI PARLAMENT ÉS AZ EURÓPAI UNIÓ TANÁCSA,

tekintettel az Európai Unió működéséről szóló szerződésre és különösen annak 114. cikkére,

tekintettel az Európai Bizottság javaslatára,

a jogalkotási aktus tervezete nemzeti parlamenteknek való megküldését követően,

tekintettel az Európai Gazdasági és Szociális Bizottság véleményére(1),

rendes jogalkotási eljárás keretében(2),

mivel:

(1)  A „felelősség” fogalma fontos kettős szerepet játszik mindennapjainkban: egyrészt biztosítja, hogy a személy, akit sérelem vagy kár ért, kártérítést igényelhessen a sérelemért vagy kárért bizonyítottan felelős féltől, másrészt pedig gazdasági ösztönzőket nyújt a személyek számára, hogy eleve elkerüljék a sérelem- vagy károkozást. Minden jövőorientált felelősségi keretnek bizalmat kell ébresztenie a termékek és a szolgáltatások, köztük a kialakulóban lévő digitális technológia – mint a mesterséges intelligencia, a dolgok internete és a robotika – biztonságát, megbízhatóságát és következetességét illetően, hogy egyensúlyt teremthessen a sérelem vagy kár potenciális áldozatainak hatékony védelme, és ezzel egy időben a lehetséges új technológiák, termékek és szolgáltatások fejlesztéséhez szükséges elegendő mozgástér biztosítása között.

(2)  Különösen az új termékek és szolgáltatások életciklusának kezdetén – az előzetes teszteléseket követően – a felhasználó és a harmadik felek bizonyos fokig ki vannak téve annak a kockázatnak, hogy valami nem működik megfelelően. Ez a kísérletalapú folyamat ugyanakkor kulcsszerepet tölt be a technikai fejlődés elősegítésében, amely nélkül legtöbb technológiánk nem létezne. Ezidáig az új termékekkel és szolgáltatásokkal járó kockázatokat erős termékbiztonsági jogszabályokkal és felelősségi szabályokkal megfelelően mérsékelték.

(3)  A mesterséges intelligencia elterjedése ugyanakkor jelentős kihívás elé állítja a létező felelősségi kereteket. Az MI-rendszerek mindennapi életünkben való használata olyan helyzeteket eredményez majd, amelyekben az átláthatatlanság (a „fekete doboz” jelleg), valamint az életciklusukba beavatkozó számos szereplő rendkívül költségessé teszi, vagy akár el is lehetetlenítheti annak megállapítását, hogy ki kontrollálta a szóban forgó MI-rendszerrel kapcsolatos kockázatot, illetve hogy mely kód vagy bevitel okozta a sérelmet okozó üzemelést. E nehézséget tovább súlyosbítja az MI-rendszerek, valamint más MI-rendszerek és nem MI-rendszerek közötti konnektivitás, a külső adatoktól való függés, a kiberbiztonság megsértéseivel szembeni sebezhetőség, valamint az MI-rendszerek gépi tanulási és mélytanulási képességeknek köszönhető növekvő autonómiája. Ezen összetett jellemzőkön és potenciális sebezhetőségeken túl az MI-rendszerek használatával súlyos kárt is lehet okozni, például az emberi méltóság és az európai értékek és szabadságok megsértését azáltal, hogy egyéneket akaratuk ellenére nyomon követnek, társadalmi kreditrendszereket vezetnek be, részrehajló döntéseket hoznak az egészségbiztosítás, a hitelnyújtás, a bírósági végzések, a munkaerő-felvétel vagy a munkaügy terén, vagy halált okozó autonóm fegyverrendszereket hoznak létre.

(4)  Fontos hangsúlyozni, hogy az MI-rendszerek alkalmazásának előnyei messze felülmúlják majd azok hátrányait. E rendszerek segíteni fognak az éghajlatváltozás elleni küzdelem hatékonyabbá tételében, az orvosi vizsgálatok és a munkafeltételek javításában, a fogyatékossággal élő személyek és az időskorúak társadalmi beilleszkedésében, valamint mindenfajta tanuló személyre szabott oktatásának biztosításában. A különféle technológiai lehetőségek kihasználása és az emberek MI-rendszerek használatába vetett bizalmának növelése érdekében – és a sérelmes helyzetek megelőzésével egy időben – a legmegfelelőbb utat a stabil és méltányos kártérítési eljárásokkal kiegészített, megbízható etikai normák jelentik.

(5)  A biztonsági szabályok megsértésének ellensúlyozásához megfelelő felelősségi rendszerre is szükség van. Az ebben a rendeletben meghatározott felelősségi rendszernek azonban valamennyi szóban forgó érdeket figyelembe kell vennie. Bármilyen új szabályozási keret által a kkv-kra és az induló vállalkozásokra gyakorolt hatások hatásvizsgálat keretében történő alapos vizsgálatát a további jogalkotási lépések előfeltételének kell tekinteni. Ezen vállalkozások kulcsfontosságú szerepe az európai gazdaságban indokolttá teszi a szigorúan arányos megközelítést, amely lehetővé teszi számukra a fejlődést és az innovációt. Másrészről az MI-rendszerek által okozott sérelmek és károk károsultjai számára biztosítani kell a jogorvoslathoz, valamint az általuk elszenvedett sérelmekkel és károkkal összefüggő teljes kártérítéshez való jogot.

(6)  A létező jogi keretben szükséges bármely változtatásnak annak tisztázásával kell kezdődnie, hogy az MI-rendszerek sem jogi személyiséggel, sem emberi lelkiismerettel nem rendelkeznek, és kizárólagos feladatuk az emberiség szolgálata. Sok MI-rendszer nem különbözik jelentősen más technológiáktól, amelyek néha még összetettebb szoftvereken alapulnak. Végeredményben az MI-rendszerek nagy többségét arra használják, hogy triviális feladatokat lássanak el úgy, hogy a társadalom számára semmilyen, vagy csak minimális kockázatot jelentenek. Az „automatizált döntéshozatal” kifejezés használatával elkerülhető lenne a mesterséges intelligencia kifejezés esetleges kétértelműsége. A kifejezés olyan helyzetet ír le, amelyben a felhasználó a döntést először részben vagy egészben egy szoftver vagy szolgáltatás használata révén egy szervezetre ruházza át. Ez a szervezet aztán a felhasználó nevében automatikusan végrehajtott döntéshozatali modelleket használ egy művelet elvégzéséhez, vagy a felhasználó döntéséről való tájékoztatáshoz a művelet végrehajtása során.

(7)  Mindazonáltal léteznek olyan technológiákon, például neurális hálókon és mélytanulási folyamatokon alapuló MI-rendszerek, amelyeket kritikus feladatokra fejlesztenek ki és alkalmaznak. Átláthatatlanságuk és autonómiájuk rendkívül megnehezítheti bizonyos cselekedetek konkrét, tervezésük vagy üzemeltetésük során hozott emberi döntésekre való visszavezetését. Egy ilyen MI-rendszer üzemeltetője például érvelhet úgy, hogy a sérelmet vagy kárt okozó fizikális vagy virtuális tevékenység, eszköz vagy folyamat az ő ellenőrzési körén kívül esett, mivel azt MI-rendszerének autonóm üzemelése okozta. Továbbá az autonóm MI-rendszer puszta üzemelése nem szolgáltathat alapot a kártérítési követelés elfogadására. Ezért előfordulhatnak olyan felelősségi esetek, amikor a felelősség megosztása méltánytalan vagy nem hatékony, vagy amikor az MI-rendszer okozta sérelmet vagy kárt elszenvedő személy nem tudja bizonyítani a gyártó, egy beavatkozó harmadik fél vagy az üzemeltető felróhatóságát, és nem jut kártérítéshez.

(8)  Mindazonáltal mindig egyértelműnek kell lennie, hogy aki az MI-rendszert létrehozza, karbantartja, kontrollálja, vagy abba beavatkozik, felelőssé tehető a tevékenység, eszköz vagy folyamat által okozott sérelemért vagy kárért. Ez az igazságosság általános és széles körben elfogadott felelősségfogalmain alapul, amelyek értelmében a társadalomra nézve kockázatot létrehozó vagy fenntartó személy felelősséggel tartozik, ha e kockázat sérelmet vagy kárt okoz, ezért előzetesen minimalizálnia kell a kockázatot vagy utólag kártérítést kell nyújtania a felmerült kockázatért. Ennélfogva az MI-rendszerek elterjedése nem teszi szükségessé a felelősségi szabályok teljes felülvizsgálatát Unió-szerte. A létező jogszabályok bizonyos kiigazításai, valamint jól súlyozott és célzott új rendelkezések bevezetése elegendő lenne az MI-vel kapcsolatos kihívások kezelésére, a szabályozás széttöredezettségének megelőzése és a mesterséges intelligenciával kapcsolatos polgári jogi felelősségre vonatkozó jogszabályok uniós szintű harmonizációjának biztosítása érdekében.

(9)  A Tanács 85/374/EGK irányelve(3) (a termékfelelősségről szóló irányelv) 30 éve hatékony eszköznek bizonyul a hibás termékek okozta károkért járó kártérítések kifizettetésére. Ezért azt a sérelmet vagy kárt elszenvedő felek által a hibás MI-rendszerek gyártói elleni polgári jogi felelősségi követelések vonatkozásában is alkalmazni kell. Az Unió minőségi jogalkotásra vonatkozó alapelveivel összhangban minden szükséges jogalkotási módosítást az irányelv szükséges felülvizsgálata során kell megvitatni. A tagállamok létező felelősségi jogai legtöbb esetben megfelelő szintű védelmet biztosítanak azon személyek számára, akiknek beavatkozó harmadik személyek okoznak sérelmet vagy kárt, mivel a beavatkozás rendszeresen felróhatóságon alapuló cselekménynek minősül, amennyiben olyan helyzetekről van szó, amikor a harmadik fél arra használja fel az MI-rendszert, hogy kárt okozzon vele. Ennélfogva e rendeletnek az MI-rendszerek üzemeltetőivel szembeni követelésekre kell összpontosítania.

(10)  E rendelet értelmében az üzemeltető felelőssége azon a tényen alapul, hogy bizonyos mértékig ő kontrollálja egy adott MI-rendszer üzemeltetésével és működésével összefüggő kockázatot, hasonlóan egy gépkocsi tulajdonosához. Minél kifinomultabb és önállóbb egy rendszer, annál nagyobb hatással jár az algoritmusok meghatározása és befolyásolása, például a folyamatos frissítések révén. Mivel gyakran egynél több olyan személy van, aki érdemi módon az MI-rendszer üzemeltetőjének tekinthető, e rendelet szerint az „üzemeltetőt” úgy kell értelmezni, hogy az magában foglalja mind a frontend-üzemeltető, mind a backend-üzemeltetőt. Bár általában véve a frontend-üzemeltető az a személy, aki „elsődlegesen” dönt az MI-rendszer használatáról, a backend-szolgáltató magasabb fokú ellenőrzést gyakorolhat az üzemeltetési kockázatok felett. Amennyiben a backend-üzemeltető egyben a termékfelelősségről szóló irányelv 3. cikkében meghatározott gyártónak minősül, úgy azt az irányelvet kell rá alkalmazni. Ha csak egy üzemeltető van, aki egyúttal az MI-rendszer gyártója is, úgy e rendelet irányadó a termékfelelősségről szóló irányelvvel szemben.

(11)  Ha egy felhasználó, azaz az MI-rendszert használó személy kárt okozó esemény részesévé válik, csak abban az esetben tekintendő felelősnek e rendelet értelmében, amennyiben ő üzemeltető is. Ha nem, a felhasználó súlyos gondatlanságon alapuló vagy szándékos hozzájárulása a kockázathoz a felhasználó felróhatóságon alapuló felelősségét eredményezheti a felperes felé. A felhasználó alkalmazandó fogyasztói jogai nem sérülhetnek.

(12)  E rendeletnek lehetővé kell tennie, hogy az érintett személy a felelősségi lánc egészében és az MI-rendszer teljes életciklusa során érvényesíthesse felelősségi követeléseit. E rendeletnek elvben minden MI-rendszerre ki kell terjednie, függetlenül attól, hogy hol, illetve hogy fizikálisan vagy virtuálisan üzemelnek-e. Az e rendelet hatálya alá eső felelősségi követelések nagy részének azonban olyan harmadik személyek felelősségére vonatkozó esetekre kell irányulnia, ahol egy MI-rendszer nyilvános helyen üzemel és számos személy számára kockázatot jelent. Ilyen helyzetben az érintett személyek gyakran nem tudnak az MI-rendszer üzemeléséről, és nem állnak szerződéses vagy jogi kapcsolatban az üzemeltetővel. Következésképpen az MI-rendszer üzemelése miatt olyan helyzetbe kerülnek, hogy sérelem- vagy károkozás esetén csak felróhatóságon alapuló felelősségi követelést érvényesíthetnek az MI-rendszer üzemeltetőjével szemben, és komoly nehézségekkel szembesülnek az üzemeltető felróhatóságának bizonyítása során.

(13)  Meghatározó tényező azon MI-rendszer típusa, amely fölött az üzemeltető ellenőrzést gyakorol. Egy magas kockázatú MI-rendszer potenciálisan nagyobb mértékben, valamint véletlenszerűen és az észszerűen elvárható mértéken felül jelenthet veszélyt a felhasználóra vagy a népességre nézve. Ez azt jelenti, hogy az MI-rendszer autonóm üzemelésének kezdetekor a potenciálisan érintett személyek többsége ismeretlen és nem azonosítható, például köztereken vagy a szomszédos házakban tartózkodó személyek, ellentétben egy olyan MI-rendszerrel, amelynek üzemelése olyan konkrét személyeket érint, akik korábban is rendszeresen hozzájárultak annak alkalmazásához, például kórházi műtétek vagy kis boltok termékbemutatói kapcsán. Annak meghatározása, hogy egy magas kockázatú MI-rendszer milyen mértékben okozhat sérelmet vagy kárt az MI-rendszer forgalomba hozatalát indokoló használati cél, az MI-rendszer használatának módja, a potenciális sérelem vagy kár súlyossága, az esetlegesen kárt okozó döntéshozatal önállóságának mértéke és a kockázati esemény bekövetkezésének valószínűsége közötti kölcsönhatástól függ. A súlyosság mértékét olyan releváns tényezők alapján kell meghatározni, mint az üzemeltetésből származó potenciális kár mértéke az érintett személyekre – beleértve különösen az alapvető jogokra gyakorolt hatásokat –, az érintett személyek száma, a potenciális kár teljes értéke, valamint a társadalom egészét ért kár. A sérelem vagy kár előfordulásának valószínűségét olyan releváns tényezők alapján kell meghatározni, mint a döntéshozatali folyamatban használt algoritmusos számítások szerepe, a döntés összetettsége és a hatások visszafordíthatósága. Végezetül a használat módjának olyan releváns tényezőktől kell függenie, mint a körülmények és az ágazat, amelyben az MI-rendszer üzemel, attól, hogy lehet-e jogi vagy tényleges hatása az érintett személyek fontos, jogszabály által védett jogaira, és hogy e hatások észszerűen elkerülhetők-e.

(14)  E rendelet egy mellékletében minden magas kockázatú MI-rendszert kimerítően fel kell sorolni. Tekintettel a világszerte gyors műszaki és piaci fejlődésre, valamint az MI-rendszerek megfelelő felülvizsgálatához szükséges műszaki szakértelemre, a Bizottságot fel kell hatalmazni felhatalmazáson alapuló jogi aktusoknak az Európai Unió működéséről szóló szerződés 290. cikkével összhangban történő elfogadására, hogy a magas kockázatú MI-rendszerek és az azokat használó kritikus ágazatok vonatkozásában módosíthassa e rendeletet. Az e rendeletben foglalt fogalommeghatározások és rendelkezések alapján a Bizottságnak indokolatlan késedelem nélkül, de legalább hathavonta felül kell vizsgálnia, és szükséges esetben felhatalmazáson alapuló jogi aktus révén módosítania kell e mellékletet. A Bizottság arra irányuló értékelését, hogy egy MI-rendszer magas kockázatot jelent-e, a termékbiztonsági értékeléssel egy időben kell elkezdeni az olyan helyzet elkerülése érdekében, hogy egy magas kockázatú MI-rendszer már piaci jóváhagyásra került, de még nem minősítették magas kockázatúnak, és így kötelező biztosítási fedezet nélkül üzemel. A kritikus ágazatokban csak tizenkét havonta kellene változtatásokat végrehajtani, hogy a vállalkozások és kutatószervezetek elegendő tervezési és beruházási biztonsággal rendelkezzenek. Az üzemeltetőket fel kell kérni, hogy értesítsék a Bizottságot, ha olyan új technológián, terméken vagy szolgáltatáson dolgoznak, amely a mellékletben foglalt meglévő kritikus ágazatok valamelyike alá tartozik, és amely később magas kockázatú MI-rendszernek minősülhet.

(15)  Különösen fontos, hogy a Bizottság előkészítő munkája során megfelelő konzultációkat folytasson, szakértői szinten is, minden érintett érdekelt féllel, valamint hogy e konzultációk megfeleljenek a minőségi jogalkotásról szóló, 2016. április 13-i intézményközi megállapodásban(4) foglalt alapelveknek. E rendelet rendszeres felülvizsgálata során a Bizottság munkáját egy „Műszaki Bizottság – Magas kockázatú MI-rendszerek” (TCRAI) elnevezésű állandó bizottságnak kell támogatnia. Az állandó bizottságnak a tagállamok képviselőiből, valamint az érdekeltek kiegyensúlyozott arányú képviseletéből kell állnia, beleértve a fogyasztói szervezeteket, az érintett személyeket képviselő egyesületeket, a különféle ágazatokbeli és különböző méretű vállalkozások képviselőit, valamint kutatókat és tudományos munkatársakat. Az Európai Parlament és a Tanács – az egyenlő részvételnek a felhatalmazáson alapuló jogi aktusok előkészítése során történő biztosítása érdekében – a tagállami szakértőkkel egy időben megkap minden dokumentumot, és a felhatalmazáson alapuló jogi aktusok előkészítése során szakértőik szisztematikusan hozzáférnek a Bizottság szakértői csoportjainak, valamint a TCRAI állandó bizottság üléseihez.

(16)  E rendeletnek az életet, egészséget, testi épséget és tulajdont ért sérelemre vagy kárra és az uniós felelősségi jogban harmonizált küszöbértéket meghaladó, ellenőrizhető gazdasági veszteséget eredményező jelentős nem vagyoni kárra is ki kell terjednie, ami egyensúlyt teremt az érintett személyek igazságszolgáltatáshoz való hozzáférése és más érintett személyek érdekei között. A Bizottságnak újra kell értékelni és ki kell igazítani az uniós jogban szereplő kártérítési küszöbértékeket. Jelentős nem vagyoni kár alatt olyan kárt kell érteni, amelynek következtében az érintett személy jelentős kárt, személyes érdekeinek objektív és bizonyítható sérelmét, valamint gazdasági veszteséget szenved el, amelyet például a múltbeli bevételek éves átlagadataira és más releváns körülményekre tekintettel számítottak ki. E rendeletnek meg kell határoznia a kártérítés összegét és mértékét is, valamint a felelősségre vonatkozó követelések érvényesítésének elévülési idejét. E rendeletnek jelentősen alacsonyabb kártérítési plafont kell meghatároznia, mint amit a termékfelelősségről szóló irányelv állapít meg, mivel ez a rendelet csupán az MI-rendszerek egyszeri üzemeltetésével egyetlen személynek okozott sérelemre vagy kárra, míg az utóbbi számos termékre, vagy akár ugyanolyan hibával rendelkező egész terméksorra vonatkozik.

(17)  Valamennyi olyan, MI-rendszer által vezérelt fizikális vagy virtuális tevékenységnek, eszköznek vagy folyamatnak, amely nem szerepel magas kockázatú MI-rendszerként e rendelet mellékletében, továbbra is vétkességen alapuló felelősség hatálya alá kell tartoznia, kivéve ha szigorúbb nemzeti jogszabályok és fogyasztóvédelmi jogszabályok vannak hatályban. A kártérítés összegére és mértékére, valamint az elévülési időre továbbra is alkalmazni kell a tagállamok nemzeti jogszabályait, beleértve a releváns ítélkezési gyakorlatot. Egy nem magas kockázatúnak besorolt MI-rendszer által okozott sérelmet vagy kárt elszenvedő személynek élveznie kell az üzemeltető felróhatósága vélelmének előnyét.

(18)  Az üzemeltetőtől elvárható kellő gondosságnak i. az MI-rendszer jellegéhez; ii. a jogi védelmet élvező, potenciálisan sérült joghoz; iii. az MI-rendszer által potenciálisan okozható sérelemhez vagy kárhoz; valamint iv. az ilyen kár valószínűségéhez kell igazodnia. Ezért figyelembe kell venni, hogy az üzemeltetőnek korlátozott tudása lehet az MI-rendszerben használt algoritmusokról és adatokról. Vélelmezni kell, hogy az üzemeltető a tőle észszerűen elvárható kellő gondossággal járt el a megfelelő MI-rendszer kiválasztása során, ha az üzemeltető a Bizottság által előirányzott önkéntes tanúsítási rendszerhez(5) hasonló rendszernek megfelelően tanúsított MI-rendszert választott. Vélelmezni kell, hogy az üzemeltető a tőle észszerűen elvárható kellő gondossággal járt el az MI-rendszer üzemeltetése során, ha az üzemeltető bizonyítani tudja, hogy az MI-rendszert üzemelése során ténylegesen és rendszeresen nyomon követte, és a gyártót az üzemelés közben felmerülő esetleges szabálytalanságokról tájékoztatta. Vélelmezni kell, hogy az üzemeltető a tőle észszerűen elvárható kellő gondossággal járt el az üzemelési megbízhatóság fenntartása kapcsán, ha az üzemeltető az MI-rendszer valamennyi elérhető, annak gyártója által biztosított frissítését telepítette. Mivel az üzemeltetők hozzáértésének szintje attól függően változhat, hogy pusztán fogyasztókról vagy szakemberekről van-e szó, a gondossági kötelezettségeket ennek megfelelően kell kiigazítani.

(19)  Annak érdekében, hogy az üzemeltető bizonyítani tudja, hogy nem vétkes, vagy hogy az érintett személy bizonyítani tudja a vétkesség fennállását, a gyártóknak kötelességük együttműködni mindkét érintett féllel, többek között azáltal, hogy jól dokumentált tájékoztatást nyújtanak. Az Unióban és az Unión kívül letelepedett gyártók egyaránt kötelesek továbbá kijelölni egy Unión belüli MI-vel kapcsolatos felelősséggel foglalkozó képviselőt, aki kapcsolattartóként az üzemeltetők valamennyi kérését megválaszolja, hasonlóképpen az (EU) 2016/679 európai parlamenti és tanácsi rendelet(6) 37. cikkében meghatározott adatvédelmi tisztviselőhöz, az (EU) 2018/858 európai parlamenti és tanácsi rendelet(7) 3. cikkének 41. pontjában és 13. cikkének (4) bekezdésében meghatározott gyártói képviselőhöz, valamint az (EU) 2019/1020 európai parlamenti és tanácsi rendelet(8) 4. cikkének (2) bekezdésében és 5. cikkében meghatározott meghatalmazott képviselőhöz.

(20)  A jogalkotónak figyelembe kell vennie az MI-rendszerekkel kapcsolatos felelősségi kockázatokat azok teljes életciklusa során, fejlesztésüktől kezdve használatukon át életciklusuk végéig, ideértve a hulladékkezelést és az újrafeldolgozást is. Az MI-rendszerek termékekbe vagy szolgáltatásokba való belefoglalása pénzügyi kockázatot jelent a vállalkozások számára, ebből következően pedig komoly hatása lesz a kkv-knak, valamint az induló innovatív vállalkozásoknak új technológiákon alapuló kutatási és fejlesztési projektjeik biztosításával és finanszírozásával kapcsolatos képességére és lehetőségére. A felelősség ezért nem csak az egyének fontos, jogszabály által védett jogainak védelmét szolgálja, hanem célja annak meghatározása is, hogy a vállalkozások – különösen a kkv-k és az induló vállalkozások – képesek-e a tőkebevonásra, az innovációra, a kutatásra, végül pedig új termékek és szolgáltatások nyújtására, valamint hogy az ügyfelek a lehetséges kockázatok és az ilyen termékek vagy szolgáltatások vonatkozásában benyújtható jogi követelések ellenére megbíznak-e e termékekben és szolgáltatásokban, illetve hajlandók-e őket használni.

(21)  A biztosítás segíthet garantálni az áldozatok hatékony kártérítését és valamennyi biztosított személy kockázatainak összevonását. A biztosítók biztosításitermék- és -szolgáltatáskínálatának alapjául szolgáló egyik tényező a kockázatértékelés, amely elegendő számú korábbi követeléssel kapcsolatos adathoz való hozzáférésen alapul. A nem hozzáférhető, illetve elégtelen mennyiségű minőségi adat lehet az oka annak, hogy olyan nehéz kezdetben biztosítási termékeket létrehozni új és kialakulóban lévő technológiák vonatkozásában. Az új technológiák által generált adatokhoz való jobb hozzáférés és azok használatának optimalizálása, a jól dokumentált tájékoztatásnyújtás kötelezettségével együtt azonban fokozná a biztosítók felmerülő kockázatok modellezésére és innovatívabb fedezetek kidolgozására való képességét.

(22)  Tekintettel arra, hogy a korábbi követelésekkel kapcsolatos adatok hiányoznak, meg kell vizsgálni, hogy a felelősség hogyan és milyen feltételek mellett biztosítható annak érdekében, hogy a biztosítást a termékhez, ne pedig a felelős személyhez kössék. Már léteznek olyan biztosítási termékek, amelyeket a technológia fejlődésével párhuzamosan területenként és fedezettípusonként dolgoznak ki. Számos biztosító bizonyos piaci szegmensekre (pl. kkv-k), illetve a bizonyos terméktípusokhoz (pl. elektronikai termékek) való fedezet nyújtására szakosodott, azaz többnyire rendelkezik a biztosított számára megfelelő biztosítási termékkel. Egy univerzális megoldás azonban nehezen képzelhető el, és a biztosítási piacnak időre lesz szüksége az alkalmazkodáshoz. A Bizottságnak szorosan együtt kell működnie a biztosítási piaccal olyan innovatív biztosítási termékek kifejlesztése érdekében, amelyek megszüntethetik a biztosítási rést. Kivételes esetekben, mint például a kollektív károkkal járó események, ahol a kártérítés mértéke magasan meghaladja az e rendeletben megszabott maximális összeget, a tagállamokat arra kell ösztönözni, hogy korlátozott időre hozzanak létre egy különleges kártérítési alapot, amely fedezi ezen esetek különleges szükségleteit. Különleges kártérítési alapokat lehetne létrehozni azon kivételes esetek fedezésére is, amikor egy olyan MI-rendszer, amely még nem minősül magas kockázatú MI-rendszernek, és így még nem biztosított, sérelmet vagy kárt okoz. A jogbiztonság biztosítása és az összes potenciálisan érintett személy tájékoztatására vonatkozó kötelezettség teljesítése érdekében a különleges kártérítési alap meglétét, valamint az abból való részesülés feltételeit egyértelműen és átfogóan kell közzétenni.

(23)  Rendkívül fontos, hogy e rendelet minden jövőbeni változtatására a termékfelelősségről szóló irányelv szükséges felülvizsgálatával együtt kerüljön sor annak érdekében, hogy átfogóan és következetesen felül lehessen vizsgálni és garantálni lehessen valamennyi érintett fél jogait és kötelezettségeit a felelősségi lánc egészében. Az MI-rendszerek üzemeltetőire vonatkozó új felelősségi rendszer bevezetéséhez e rendelet rendelkezéseit és a termékfelelősségről szóló irányelv felülvizsgálatát mind tartalmi, mind megközelítésbeli szempontból szorosan össze kell hangolni, hogy együttesen az MI-rendszerekre vonatkozó következetes felelősségi keretet alkossanak, amely a felelősségi kockázat és a releváns kártérítési rendelkezések vonatkozásában kiegyensúlyozza a gyártó, az üzemeltető, a fogyasztó és az érintett személy érdekeit. Szükség van tehát az MI-rendszer, a frontend- és backend-üzemeltető, a gyártó, a hiba, a termék és a szolgáltatás fogalommeghatározásainak valamennyi jogszabályra kiterjedő összehangolására és észszerűsítésére, amit párhuzamosan kell előirányozni.

(24)  Mivel e rendelet céljai – nevezetesen egy jövőorientált és egységes, az európai polgárok és vállalkozások számára közös európai normákat meghatározó uniós szintű megközelítés kialakítása, valamint a jogok és a jogbiztonság következetességének biztosítása Unió-szerte a digitális egységes piac széttagoltságának elkerülése érdekében, amely akadályozná a digitális szuverenitás fenntartására, az európai digitális innováció elősegítésére és a polgárok és fogyasztói jogok magas szintű védelmének biztosítására irányuló cél elérését – megkövetelik az MI-rendszerekre vonatkozó felelősségi rendszerek teljes körű összehangolását. Mivel a gyors technológiai változások, az MI-rendszerek határokon átnyúló fejlesztése és használata, végül pedig az Unió-szerte alkalmazott, egymásnak ellentmondó jogalkotási megközelítések miatt ezt a tagállamok nem képesek kielégítően megvalósítani, és a cselekvés léptéke, illetve hatásai okán ez uniós szinten jobban megvalósítható. Az Unió ezért intézkedéseket hozhat az Európai Unióról szóló szerződés 5. cikkében foglalt szubszidiaritás elvének megfelelően. Az említett cikkben foglalt arányosság elvének megfelelően e rendelet nem lépi túl a célok eléréséhez szükséges mértéket,

ELFOGADTA EZT A RENDELETET:

I. fejezet

Általános rendelkezések

1. cikk

Tárgy

E rendelet meghatározza a természetes és jogi személyek MI-rendszerek üzemeltetőivel szembeni polgári jogi felelősségi követeléseire vonatkozó szabályokat.

2. cikk

Hatály

1.  E rendelet az Unió területén alkalmazandó olyan esetekben, amikor egy MI-rendszer által vezérelt fizikális vagy virtuális tevékenység, eszköz vagy folyamat sérelmet vagy kárt okozott természetes személyek életében, egészségében, testi épségében, természetes vagy jogi személyek tulajdonában, vagy ellenőrizhető gazdasági veszteséget eredményező, jelentős nem vagyoni kárt okozott.

2.  Az e rendeletben meghatározott jogok és kötelezettségek tekintetében semmisnek tekintendő az MI-rendszer üzemeltetője és az MI-rendszer miatt sérelmet vagy kárt szenvedő természetes vagy jogi személy közötti minden olyan, a sérelem- vagy károkozás bekövetkezését megelőzően, illetve azt követően kötött megállapodás, amely megkerüli vagy korlátozza az e rendeletben foglalt jogokat és kötelezettségeket.

3.  E rendelet nem érinti az üzemeltető és az MI-rendszer miatt sérelmet vagy kárt szenvedő természetes vagy jogi személy közötti szerződéses viszonyból vagy termékfelelősségre, fogyasztóvédelemre, megkülönböztetésmentességre, vagy munka- vagy környezetvédelemre vonatkozó szabályozásból eredő és az üzemeltetővel szemben az uniós vagy nemzeti jog alapján érvényesíthető esetleges további felelősségre vonatkozó követeléseket.

3. cikk

Fogalommeghatározások

E rendelet alkalmazásában:

a)  „mesterségesintelligencia-rendszer” (MI-rendszer): szoftveralapú vagy hardvereszközökbe beágyazott rendszer, amely intelligenciát szimuláló magatartást mutat többek között adatok gyűjtése és feldolgozása, környezetének elemzése és értelmezése, valamint azáltal, hogy konkrét célok elérése érdekében – bizonyos mértékben autonóm módon – cselekszik;

b)  „autonóm”: az a mesterségesintelligencia-rendszer, amely bizonyos bevitelek értelmezésével és előre meghatározott utasítások alkalmazásával üzemel, anélkül, hogy ezekre az utasításokra korlátozódna, annak ellenére, hogy a rendszer magatartását korlátozza az és hogy a rendszer magatartása arra irányul, hogy teljesítse a számára kitűzött célt és a fejlesztő által hozott egyéb releváns tervezési döntéseket;

c)  „magas kockázat”: az egy vagy több személy számára véletlenszerű módon történő, az észszerűen előrelátható mértéket meghaladó sérelem- vagy károkozás jelentős kockázata egy autonóm módon üzemelő MI-rendszer esetében; a kockázat jelentősége a lehetségesen okozott sérelem vagy kár súlyossága, a döntéshozatal önállóságának mértéke, a kockázat felmerülésének valószínűsége és az MI-rendszer használatának módja és körülményei közötti kölcsönhatástól függ;

d)  „üzemeltető”: mind a frontend-, mind a backend-üzemeltető, amennyiben ez utóbbi felelősségére a 85/374/EGK irányelv hatálya még nem terjed ki;

e)  „frontend-üzemeltető”: olyan természetes vagy jogi személy, aki vagy amely bizonyos fokú ellenőrzést gyakorol az MI-rendszer üzemeltetésével és működésével kapcsolatos kockázat felett, és élvezi az annak üzemeltetéséből származó előnyöket;

f)  „backend-üzemeltető”: olyan természetes vagy jogi személy, aki vagy amely folyamatosan meghatározza a technológia jellemzőit, illetve biztosítja az adatokat és az alapvető backend-támogató szolgáltatásokat, és ezért bizonyos fokú ellenőrzést gyakorol az MI-rendszer üzemeltetésével és működésével kapcsolatos kockázat felett;

g)  „ellenőrzés”: az üzemeltető minden olyan intézkedése, amely befolyásolja az MI-rendszer üzemelését, és ezáltal azt, hogy az üzemeltető milyen mértékben teszi ki a harmadik feleket az MI-rendszer üzemeltetésével és működésével kapcsolatos potenciális kockázatoknak; ezen intézkedések bármikor hatással lehetnek az üzemelés módjára, azáltal, hogy meghatározzák a bevitelt, a hozadékot vagy az eredményeket, vagy megváltoztathatnak bizonyos funkciókat vagy folyamatokat az MI-rendszerben; az, hogy az intézkedés milyen mértékben határozza meg az MI-rendszer üzemelésének e szempontjait, attól függ, hogy az üzemeltető milyen mértékben tudja befolyásolni az MI-rendszer üzemeltetésével és működésével kapcsolatos kockázatokat;

h)  „érintett személy”: bármely olyan személy, aki egy MI-rendszer által vezérelt fizikális vagy virtuális tevékenység, eszköz vagy folyamat okozta sérelmet vagy kárt szenved el, és aki nem azonos a rendszer üzemeltetőjével;

i)  „sérelem vagy kár”: a természetes személy életét, egészségét, testi épségét, természetes vagy jogi személy tulajdonát érintő vagy ellenőrizhető gazdasági veszteséget eredményező, jelentős nem vagyoni kárt okozó negatív hatás;

j)  „gyártó”: a 85/374/EGK irányelv 3. cikkében meghatározott gyártó.

II. fejezet

Magas kockázatú MI-rendszerek

4. cikk

A magas kockázatú MI-rendszerekre vonatkozó objektív felelősség

(1)  Egy magas kockázatú MI-rendszer üzemeltetője objektív felelősséggel tartozik minden olyan sérelemért vagy kárért, amelyet a szóban forgó MI-rendszer által vezérelt fizikális vagy virtuális tevékenység, eszköz vagy folyamat okozott.

(2)  E rendelet mellékletében fel kell sorolni valamennyi magas kockázatú MI-rendszert és az azokat használó valamennyi kritikus ágazatot. A Bizottság felhatalmazást kap arra, hogy a 13. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el az említett, kimerítő jellegű lista módosítására a következők révén:

a)  magas kockázatú MI-rendszerek új típusainak, valamint az azokat alkalmazó kritikus ágazatok belefoglalása;

b)  olyan típusú MI-rendszerek törlése, amelyek már nem tekintendők magas kockázatúnak; és/vagy

c)  a létező magas kockázatú MI-rendszerekhez kapcsolódó kritikus ágazatok megváltoztatása.

A mellékletet módosító valamennyi felhatalmazáson alapuló jogi aktus az elfogadásától számított hat hónap elteltével lép hatályba. A mellékletbe felhatalmazáson alapuló jogi aktus révén beillesztendő új magas kockázatú MI-rendszerek és/vagy kritikus ágazatok meghatározása során a Bizottságnak teljeskörűen figyelembe kell vennie az e rendeletben foglalt feltételeket, különösen a 3. cikk c) pontjában felsoroltakat.

(3)  A magas kockázatú MI-rendszer üzemeltetője nem mentesülhet a felelősség alól azon érv alapján, hogy megfelelő gondossággal járt el, vagy hogy a sérelmet vagy kárt az MI-rendszere által vezérelt autonóm tevékenység, eszköz vagy folyamat okozta. Az üzemeltető nem tehető felelőssé, ha a sérelmet vagy kárt vis maior okozta.

(4)  A magas kockázatú MI-rendszer frontend-üzemeltetőjének gondoskodnia kell arról, hogy az MI-rendszer üzemeltetésére rendelkezzen az e rendelet 5. és 6. cikkében foglalt kártérítés összegét és mértékét tekintve elegendő fedezetet biztosító felelősségbiztosítással. A backend-üzemeltetőnek gondoskodnia kell arról, hogy szolgáltatásaira rendelkezzen az e rendelet 5. és 6. cikkében foglalt kártérítés összegét és mértékét tekintve elegendő fedezetet biztosító vállalati- vagy termékfelelősségi biztosítással. Amennyiben a frontend- vagy backend-üzemeltető más uniós vagy nemzeti jogszabályok vagy meglévő önkéntes vállalati biztosítási alapok értelmében már hatályos kötelező biztosítási rendszerei úgy tekinthető, hogy kiterjednek az MI-rendszer üzemeltetésére vagy a nyújtott szolgáltatásra, az MI-rendszerre vagy a nyújtott szolgáltatásra vonatkozó, e rendelet szerinti biztosítási kötelezettség teljesítettnek tekintendő, amennyiben a vonatkozó meglévő kötelező biztosítás vagy az önkéntes vállalati biztosítási alapok fedezik az e rendelet 5. és 6. cikkében foglalt kártérítés összegét és mértékét.

(5)  Az MI-rendszerek ellentmondó objektív felelősségi besorolása esetén e rendelet irányadó a nemzeti felelősségi rendszerekkel szemben.

5. cikk

A kártérítés összege

(1)  A magas kockázatú MI-rendszer üzemeltetője, akit e rendelet értelmében sérelem- vagy károkozásért felelősnek találtak, köteles kártérítést fizetni:

a)  legfeljebb maximum kétmillió EUR összegben egy személy halála, illetve egészségében vagy testi épségében a magas kockázatú MI-rendszer üzemelésének eredményeképpen okozott sérelem esetén;

b)  legfeljebb maximum egymillió EUR összegben ellenőrizhető gazdasági veszteséget eredményező, jelentős nem vagyoni kár vagy tulajdonban okozott kár esetén, többek között, ha egyetlen magas kockázatú MI-rendszer egyetlen üzemelésének eredményeképpen egy érintett személy több vagyontárgyában esik kár; amennyiben az érintett személyek szerződéses felelősségre vonatkozó követelést is benyújtanak az üzemeltetővel szemben, úgy e rendelet értelmében nem áll fenn kártérítési kötelezettség, ha a tulajdonban okozott kár vagy a nem vagyoni kár értéke nem éri el az [500 EUR-t](9).

(2)  Amennyiben a több, ugyanazon magas kockázatú MI-rendszer ugyanazon üzemelésének eredményeképpen sérelmet vagy kárt szenvedő személynek fizetendő kártérítések együttes összege meghaladja az (1) bekezdésben foglalt maximális teljes összegeket, az egyes személyeknek fizetendő kártérítés arányosan csökkentendő olyan mértékben, hogy a kártérítések együttes összege ne haladja meg az (1) bekezdésben foglalt maximális összegeket.

6. cikk

A kártérítés mértéke

(1)  Az 5. cikk (1) bekezdésének a) pontjában foglalt összegen belül az érintett személy halálához vezető fizikai sérelem okozását tekintve felelősnek talált üzemeltető által fizetendő kártérítés kiszámításának alapja azon gyógykezelések költsége, amelyben az érintett személy halála előtt részesült, valamint a halálát megelőzően elszenvedett vagyoni hátrány, amelyet a keresőképesség megszűnése vagy csökkenése, illetve a halálát megelőző sérelem időtartama alatti fokozott szükségletei okoztak. A felelősnek talált üzemeltetőnek továbbá meg kell térítenie az elhunyt érintett személy temetkezési költségeit azon fél számára, aki annak költségeit viselte.

Amennyiben az érintett személy a halálához vezető sérelmet okozó esemény idején harmadik féllel kapcsolatban volt, és e harmadik fél támogatására törvény kötelezte, a felelősnek talált üzemeltetőnek kártalanítania kell az ilyen harmadik felet az érintett személy számára előírttal megegyező mértékű tartásdíjnak a harmadik személy korának és általános állapotának megfelelő átlagos várható élettartam idejére történő megfizetése révén. Az üzemeltetőnek továbbá kártalanítania kell a harmadik felet, ha a halált okozó esemény idején a harmadik fél már megfogant, de még nem született meg.

(2)  Az 5. cikk (1) bekezdésének b) pontjában foglalt összegen belül az érintett személy egészségében vagy testi épségében okozott sérelemért felelősnek talált üzemeltető által fizetendő kártérítésnek magában kell foglalnia a kapcsolódó gyógykezelések költségének, valamint az érintett személy által elszenvedett vagyoni hátrány megtérítését, amelyet a keresőképesség ideiglenes elvesztése, csökkenése vagy végleges megszűnése, illetve a sérelemből következő, orvosilag igazoltan fokozott szükségletei okoztak.

7. cikk

Elévülési idő

(1)  A 4. cikk (1) bekezdésével összhangban benyújtott, életet, egészséget vagy testi épséget érintő sérelmekre vonatkozó polgári jogi felelősséggel kapcsolatos igényekre a sérelem bekövetkeztének napjától számított 30 éves különös elévülési idő vonatkozik.

(2)  A 4. cikk (1) bekezdésével összhangban benyújtott, tulajdonban okozott kárra vagy ellenőrizhető gazdasági veszteséget eredményező, jelentős nem vagyoni kárra vonatkozó polgári jogi felelősséggel kapcsolatos igényekre a következő különös elévülési idő vonatkozik:

a)  10 év a vagyoni kár bekövetkezésének, illetve a jelentős nem vagyoni kárból eredő ellenőrizhető gazdasági veszteség bekövetkezésének időpontjától számítva, vagy

b)  30 év a magas kockázatú MI-rendszer vagyoni vagy jelentős nem vagyoni kárt okozó üzemelésének időpontjától számítva.

Az első albekezdésben említett elévülési idők közül a hamarabb lejáró alkalmazandó.

(3)  E cikk nem érinti az elévülési idők nyugvását vagy megszakadását szabályozó nemzeti jogszabályokat.

III. fejezet

Egyéb MI-rendszerek

8. cikk

Egyéb MI-rendszerekre vonatkozó vétkességen alapuló felelősség

(1)  Egy, a 3. cikk c) pontjának és a 4. cikk (2) bekezdésének értelmében nem magas kockázatú MI-rendszernek minősülő, és ezért e rendelet mellékletében fel nem sorolt MI-rendszer üzemeltetője felróhatóságon alapuló felelősséggel tartozik minden olyan sérelemért vagy kárért, amelyet az MI-rendszer által vezérelt fizikális vagy virtuális tevékenység, eszköz vagy folyamat okozott.

(2)  Az üzemeltető nem tehető felelőssé, ha a következő okok valamelyike alapján bizonyítani tudja, hogy a sérelem vagy kár okozása önhibáján kívül történt:

a)  az MI-rendszert tudta nélkül aktiválták, és az ilyen, az üzemeltető ellenőrzésén kívül eső aktiválás megelőzésére minden észszerű és szükséges intézkedést megtettek, illetve

b)  kellő gondossággal járt el a következő tevékenységek végzése során: a megfelelő feladatra és képességekhez alkalmas MI-rendszer kiválasztása, az MI-rendszer megfelelő üzembe helyezése, a tevékenységek nyomon követése és – valamennyi elérhető frissítés rendszeres telepítése révén – az üzemelési stabilitás fenntartása.

Az üzemeltetőt nem mentesítheti a felelősség alól azon állítása, hogy a sérelmet vagy kárt az MI-rendszere által vezérelt autonóm tevékenység, eszköz vagy folyamat okozta. Az üzemeltető nem tartozik felelősséggel, ha a sérelmet vagy kárt vis maior okozta.

(3)  Amennyiben a sérelmet vagy kárt olyan harmadik fél okozta, aki az MI-rendszer üzemelését vagy hatásait módosítva beavatkozott abba, az üzemeltető mindazonáltal kártérítés fizetésére köteles, ha az ilyen harmadik fél felderíthetetlen vagy pénzeszközökkel nem rendelkezik.

(4)  Az üzemeltető vagy az érintett személy kérésére az MI-rendszer gyártója a követelés jelentősége által indokolt mértékben köteles együttműködni velük és tájékoztatni őket annak érdekében, hogy lehetővé tegye a felelősség megállapítását.

9. cikk

A kártérítésre és az elévülési időre vonatkozó nemzeti rendelkezések

A 8. cikk (1) bekezdésével összhangban benyújtott polgári jogi felelősségi követelésekre az elévülési idő, valamint a kártérítés összegének és mértékének vonatkozásában azon tagállam jogszabályai irányadók, amelyben a sérelem- vagy károkozás történt.

IV. fejezet

A felelősség megosztása

10. cikk

A károsult gondatlan közrehatása

(1)  Ha a sérelmet vagy kárt egy MI-rendszer által vezérelt fizikális vagy virtuális tevékenység, eszköz vagy folyamat, valamint egy érintett személy, illetve az érintett személy felelőssége alá tartozó bármely személy tevékenységei együttesen okozták, úgy az üzemeltető e rendelet értelmében fennálló felelősségének mértéke ennek megfelelően csökkentendő. Az üzemeltető nem tehető felelőssé, ha az okozott sérelemért vagy kárért kizárólag az érintett személy, illetve a felelőssége alá tartozó személy hibáztatható.

(2)  Az az üzemeltető, akinek a felelősségét megállapították, az (EU) 2016/679 rendelettel és az egyéb vonatkozó adatvédelmi jogszabályokkal összhangban felhasználhatja az MI-rendszer által generált adatokat az érintett személy gondatlanságának bizonyítására. Ezeket az adatokat az érintett személy is felhasználhatja a felelősség megállapítása iránti követeléssel kapcsolatban bizonyítékként vagy pontosítás céljából.

11. cikk

Egyetemleges felelősség

Ha egy MI-rendszernek egynél több üzemeltetője van, úgy mindannyian egyetemleges felelősséggel tartoznak. Ha a frontend-üzemeltető egyúttal az MI-rendszer gyártója is, úgy e rendelet a irányadó a termékfelelősségről szóló irányelvvel szemben. Amennyiben a backend-üzemeltető azonos a termékfelelősségről szóló irányelv 3. cikkében meghatározott gyártóval, úgy rá azt az irányelvet kell alkalmazni. Ha csak egy üzemeltető van, aki egyúttal az MI-rendszer gyártója is, úgy e rendelet a irányadó a termékfelelősségről szóló irányelvvel szemben.

12. cikk

Regresszigény

(1)  Az üzemeltető nem jogosult regresszigény érvényesítésére, kivéve, ha az e rendelet értelmében kártérítésre jogosult érintett személy követelését teljes egészében kiegyenlítette.

(2)  Amennyiben az üzemeltető más üzemeltetőkkel együtt egyetemleges felelősséggel tartozik egy érintett személy vonatkozásában, és az érintett személyt a 4. cikk (1) bekezdésének vagy a 8. cikk (1) bekezdésének megfelelően teljes egészében kártalanította, úgy az üzemeltető a többi üzemeltetőtől igényelheti a kártérítés összegének megfizetését felelősségével arányosan.

A felelősség arányát az alapján kell meghatározni, hogy az üzemeltetők milyen fokú ellenőrzést gyakorolnak az MI-rendszer üzemeltetésével és működésével kapcsolatos kockázat felett. Ha egy egyetemleges felelősséggel tartozó üzemeltető hozzájárulása nem hajtható be, úgy az így kieső összegért a többi üzemeltetőnek kell helytállnia. Amennyiben egy egyetemleges felelősséggel tartozó üzemeltető kártalanítja az érintett személyt, és a többi felelősséggel tartozó üzemeltetőtől az előlegek kiigazítását kéri, úgy az érintett személy többi üzemeltetővel szembeni követelésével kapcsolatos jogok és kötelezettségek átszállnak rá. A követelésekkel kapcsolatos jogok és kötelezettségek átszállása nem érvényesíthető az eredeti követelés hátrányára.

(3)  Amennyiben egy hibás MI-rendszer üzemeltetője az érintett személyt e rendelet 4. cikke (1) bekezdésének vagy 8. cikke (1) bekezdésének megfelelően teljes egészében kártalanítja a sérelmekért vagy károkért, úgy a 85/374/EGK irányelvnek és a hibás termékekre vonatkozó felelősséggel kapcsolatos nemzeti rendelkezéseknek megfelelően visszkereseti igénnyel élhet a hibás MI-rendszer gyártójával szemben.

(4)  Amennyiben az üzemeltető biztosítója az érintett személyt a 4. cikk (1) bekezdésének vagy a 8. cikk (1) bekezdésének megfelelően teljes egészében kártalanítja a sérelmekért vagy károkért, úgy az érintett személy által egy másik személlyel szemben ugyanazon kár vonatkozásában benyújtott minden polgári jogi felelősség megállapítására vonatkozó igénnyel kapcsolatos jogok és kötelezettségek az üzemeltető biztosítója által az érintett személy részére kifizetett összeg mértékében átszállnak az üzemeltető biztosítójára.

V. fejezet

Záró rendelkezések

13. cikk

A felhatalmazás gyakorlása

(1)  A felhatalmazáson alapuló jogi aktusok elfogadására vonatkozóan a Bizottság részére adott felhatalmazás feltételeit ez a cikk határozza meg.

(2)  A Bizottságnak a 4. cikk (2) bekezdésében említett, felhatalmazáson alapuló jogi aktusok elfogadására vonatkozó felhatalmazása öt évre szól [e rendelet alkalmazásának kezdőnapja]-tól/-től kezdődő hatállyal.

(3)  Az Európai Parlament vagy a Tanács bármikor visszavonhatja a 4. cikk (2) bekezdésében említett felhatalmazást. A visszavonásról szóló határozat megszünteti az abban meghatározott felhatalmazást. A határozat az Európai Unió Hivatalos Lapjában való kihirdetését követő napon, vagy a benne megjelölt későbbi időpontban lép hatályba. A határozat nem érinti a már hatályban lévő, felhatalmazáson alapuló jogi aktusok érvényességét.

(4)  A felhatalmazáson alapuló jogi aktus elfogadása előtt a Bizottság a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásban foglalt elvekkel összhangban konzultál a „Műszaki Bizottság – Magas kockázatú MI-rendszerek” állandó bizottsággal (TCRAI bizottság).

(5)  A Bizottság a felhatalmazáson alapuló jogi aktus elfogadását követően haladéktalanul és egyidejűleg értesíti arról az Európai Parlamentet és a Tanácsot.

(6)  A 4. cikk (2) bekezdése alapján elfogadott, felhatalmazáson alapuló jogi aktus csak akkor lép hatályba, ha az értesítést követő két hónapos időtartam leteltéig sem az Európai Parlament, sem a Tanács nem emelt ellene kifogást, illetve ha az említett időtartam lejártát megelőzően mind az Európai Parlament, mind a Tanács arról tájékoztatta a Bizottságot, hogy nem fog kifogást emelni. Az Európai Parlament vagy a Tanács kezdeményezésére ez az időtartam két hónappal meghosszabbodik.

14. cikk

Felülvizsgálat

202x. január 1-ig [e rendelet alkalmazásának kezdőnapját követő 3. év elteltével] és azt követően háromévente a Bizottság részletes jelentést nyújt be az Európai Parlamentnek, a Tanácsnak és az Európai Gazdasági és Szociális Bizottságnak e rendelet felülvizsgálatáról a mesterséges intelligencia további fejlesztéseinek fényében.

Az első albekezdésben említett jelentés elkészítése során a Bizottság releváns információkat kér a tagállamoktól az ítélkezési gyakorlattal, a perbeli egyezségekkel, valamint a baleseti statisztikákkal, például a balesetek számával, az okozott károkkal, az érintett MI-alkalmazásokkal, a biztosítók által kifizetett kártérítésekkel kapcsolatban, valamint az érintett személyek által akár egyénileg, akár kollektíven előterjesztett keresetek számának, és az e keresetek bírósági elbírálásával kapcsolatos időkeretek értékeléséről.

A Bizottság a jelentését adott esetben a jelentésben azonosított hiányosságok kezelését célzó jogalkotási javaslatok kíséretében nyújtja be.

15. cikk

Hatálybalépés

Ez a rendelet az Európai Unió Hivatalos Lapjában való kihirdetését követő huszadik napon lép hatályba.

Ezt a rendeletet 202x. január 1-től kell alkalmazni.

Ez a rendelet teljes egészében kötelező és közvetlenül alkalmazandó valamennyi tagállamban.

Kelt ....

az Európai Parlament részéről a Tanács részéről

az elnök az elnök

(1) HL ... (2) HL ... (3) A Tanács 85/374/EGK irányelve (1985. július 25.) a hibás termékekért való felelősségre vonatkozó tagállami törvényi, rendeleti és közigazgatási rendelkezések közelítéséről (HL L 210., 1985.8.7., 29. o.). (4) HL L 123., 2016.5.12., 1. o. (5) Lásd „A mesterséges intelligencia – a kiválóság és a bizalom európai megközelítése” című, 2020. február 19-i bizottsági fehér könyv 24. oldalát (COM(2020)0065). (6) Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet) (HL L 119., 2016.5.4., 1. o.). (7) Az Európai Parlament és a Tanács (EU) 2018/858 rendelete (2018. május 30.) a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek jóváhagyásáról és piacfelügyeletéről, a 715/2007/EK és az 595/2009/EK rendelet módosításáról, valamint a 2007/46/EK irányelv hatályon kívül helyezéséről (HL L 151., 2018.6.14., 1. o.). (8) Az Európai Parlament és a Tanács (EU) 2019/1020 rendelete (2019. június 20.) a piacfelügyeletről és a termékek megfelelőségéről, valamint a 2004/42/EK irányelv, továbbá a 765/2008/EK és a 305/2011/EU rendelet módosításáról (HL L 169., 2019.6.25., 1. o.). (9) Az Európai Bizottság által felülvzsgálandó az állásfoglalásra irányuló indítvány 19. bekezdésében foglaltak szerint.

[...]