Index 
 Înapoi 
 Înainte 
 Text integral 
Procedură : 2020/2014(INL)
Stadiile documentului în şedinţă
Stadii ale documentului : A9-0178/2020

Texte depuse :

A9-0178/2020

Dezbateri :

PV 19/10/2020 - 15
PV 19/10/2020 - 18
CRE 19/10/2020 - 15
CRE 19/10/2020 - 18

Voturi :

PV 20/10/2020 - 21

Texte adoptate :

P9_TA(2020)0276

Texte adoptate
PDF 273kWORD 92k
Marţi, 20 octombrie 2020 - Bruxelles
Regimul de răspundere civilă pentru inteligența artificială
P9_TA(2020)0276A9-0178/2020
Rezoluţie
 Anexă
 Anexă

Rezoluția Parlamentului European din 20 octombrie 2020 conținând recomandări adresate Comisiei privind regimul de răspundere civilă pentru inteligența artificială (2020/2014(INL))

Parlamentul European,

–  având în vedere articolul 225 din Tratatul privind funcționarea Uniunii Europene,

–  având în vedere articolele 114 și 169 din Tratatul privind funcționarea Uniunii Europene,

–  având în vedere Directiva 85/374/CEE a Consiliului din 25 iulie 1985 de apropiere a actelor cu putere de lege și a actelor administrative ale statelor membre cu privire la răspunderea pentru produsele cu defect(1) („Directiva privind răspunderea pentru produse”),

–  având în vedere Directiva 2005/29/CE a Parlamentului European și a Consiliului din 11 mai 2005 privind practicile comerciale neloiale între companii și consumatori pe piața internă („Directiva privind practicile comerciale neloiale”)(2) și Directiva 2011/83/UE a Parlamentului European și a Consiliului din 25 octombrie 2011 privind drepturile consumatorilor(3), precum și alte norme de protecție a consumatorilor,

–  având în vedere Regulamentul (UE) 2017/745 al Parlamentului European și al Consiliului din 5 aprilie 2017 privind dispozitivele medicale(4),

–  având în vedere Regulamentul (UE) 2018/1488 al Consiliului din 28 septembrie 2018 privind instituirea întreprinderii comune pentru calculul european de înaltă performanță(5),

–  având în vedere Directiva (UE) 2019/770 a Parlamentului European și a Consiliului din 20 mai 2019 privind anumite aspecte referitoare la contractele de furnizare de conținut digital și de servicii digitale(6),

–  având în vedere Acordul interinstituțional din 13 aprilie 2016 privind o mai bună legiferare și Orientările privind o mai bună legiferare(7),

–  având în vedere propunerea de regulament al Parlamentului European și al Consiliului din 6 iunie 2018 de instituire a programului Europa digitală pentru perioada 2021-2027 (COM(2018)0434),

–  având în vedere Comunicarea Comisiei din 25 aprilie 2018 intitulată „Inteligența artificială pentru Europa” (COM(2018)0237),

–  având în vedere Comunicarea Comisiei din 7 decembrie 2018 privind Planul coordonat privind inteligența artificială (COM(2018)0795),

–  având în vedere Comunicarea Comisiei din 8 aprilie 2019 intitulată „Cum construim încrederea cetățenilor într-o inteligență artificială centrată pe factorul uman” (COM(2019)0168),

–  având în vedere Raportul Comisiei din 19 februarie 2020 către Parlamentul European, Consiliu și Comitetul Economic și Social European privind implicațiile în materie de siguranță și răspundere ale inteligenței artificiale, ale internetului obiectelor și ale roboticii (COM(2020)0064),

–  având în vedere Cartea albă a Comisiei din 19 februarie 2020 intitulată „Inteligența artificială - O abordare europeană axată pe excelență și încredere” (COM(2020)0065),

–  având în vedere Rezoluția sa din 16 februarie 2017 conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica(8),

–  având în vedere Rezoluția sa din 1 iunie 2017 referitoare la digitalizarea industriei europene(9),

–  având în vedere Rezoluția sa din 12 septembrie 2018 referitoare la sistemele de arme autonome(10),

–  având în vedere Rezoluția sa din 12 februarie 2019 referitoare la o politică industrială europeană cuprinzătoare în domeniul inteligenței artificiale și al roboticii(11),

–  având în vedere Rezoluția sa din 12 februarie 2020 referitoare la procesele decizionale automatizate: asigurarea protecției consumatorilor și libera circulație a bunurilor și a serviciilor(12),

–  având în vedere raportul din 8 aprilie 2019 al Grupului de experți la nivel înalt privind inteligența artificială, intitulat „Ethics Guidelines for Trustworthy AI” („Îndrumar etic pentru o inteligență artificială fiabilă”),

–  având în vedere raportul din 8 aprilie 2019 al Grupului de experți la nivel înalt privind inteligența artificială, intitulat „A definition of AI : Main Capabilities and Disciplines („O definiție a IA: principalele capacități și discipline”),

–  având în vedere raportul din 26 iunie 2019 al Grupului de experți la nivel înalt privind inteligența artificială, intitulat „Policy and investment recommendations for trustworthy AI” („Recomandări de politici și în materie de investiții pentru o inteligență artificială fiabilă”),

–  având în vedere raportul din 21 noiembrie 2019 al Grupului de experți privind răspunderea legală și noile tehnologii - Înființarea noilor tehnologii, intitulat „Răspunderea legală pentru inteligența artificială și alte tehnologii digitale emergente”,

–  având în vedere studiul de evaluare a valorii adăugate europene realizat de Serviciul de Cercetare al Parlamentului European, intitulat 'Civil liability regime for artificial intelligence: European added value assessment' („Regimul de răspundere civilă pentru inteligența artificială: evaluarea valorii adăugate europene”)(13),

–  având în vedere documentul de informare tematică întocmit de Comitetul STOA al Serviciului de Cercetare al Parlamentului European din iunie 2016 referitor la considerațiile juridice și etice cu privire la robotică(14),

–  având în vedere studiul Direcției Generale Politici Interne a Parlamentului European din octombrie 2016 pentru Comisia pentru afaceri juridice, intitulat „Normele de drept civil european în domeniul roboticii”(15),

–  având în vedere articolele 47 și 54 din Regulamentul său de procedură,

–  având în vedere avizul Comisiei pentru piața internă și protecția consumatorilor și al Comisiei pentru transport și turism,

–  având în vedere raportul Comisiei pentru afaceri juridice (A9-0178/2020),

A.  întrucât conceptul de „răspundere” joacă un dublu rol în viața noastră de zi cu zi: pe de o parte, asigură că o persoană care a suferit un prejudiciu sau o daună are dreptul de a solicita și de a primi despăgubiri de la partea care s-a dovedit a fi răspunzătoare pentru prejudiciul sau dauna respective și, pe de altă parte, oferă stimulente economice persoanelor fizice și juridice pentru a evita în primul rând cauzarea de prejudicii sau daune sau pentru ca acestea să țină cont, în comportamentul lor, de riscul de a trebui să plătească despăgubiri;

B.  întrucât orice cadru juridic privind răspunderea civilă orientat spre viitor trebuie să inspire încredere în siguranța, fiabilitatea și consecvența produselor și a serviciilor, inclusiv în tehnologia digitală, ca să asigure un echilibru între protecția eficientă și corectă a potențialelor victime ale prejudiciilor sau daunelor și, în același timp, un spațiu suficient de manevră pentru a permite întreprinderilor, în special întreprinderilor mici și mijlocii, să dezvolte noi tehnologii, produse sau servicii; întrucât aceasta va contribui la consolidarea încrederii și va crea stabilitate pentru investiții; întrucât, în cele din urmă, scopul oricărui cadru privind răspunderea ar trebui să fie acela de a oferi securitate juridică pentru toate părțile, indiferent dacă este vorba de producător, de operator, de persoana afectată sau de orice altă parte terță;

C.  întrucât sistemul juridic al unui stat membru își poate adapta normele în materie de răspundere pentru anumiți actori sau le poate face mai stricte pentru anumite activități; întrucât răspunderea obiectivă înseamnă că o parte poate fi considerată răspunzătoare în pofida absenței vinovăției; întrucât, în numeroase legislații naționale în materie de răspundere civilă, pârâtul este considerat răspunzător în mod strict dacă un risc pe care pârâtul l-a creat pentru public, cum ar sub forma unor automobile sau al unor activități periculoase, sau un risc pe care nu îl poate controla, cum ar fi animalele, are ca urmare producerea de prejudicii sau daune;

D.  întrucât orice viitoare legislație a Uniuni având ca scop atribuirea explicită a răspunderii în ceea ce privește sistemele de inteligență artificială (IA), ar trebui să fie precedate de o analiză și de consultarea cu statele membre privind conformitatea actului legislativ propus cu condițiile economice, legale și sociale;

E.  întrucât problema unui regim de răspundere civilă pentru IA ar trebui să facă obiectul unei dezbateri publice ample, luând în considerare toate interesele aflate în joc, în special aspectele etice, juridice, economice și sociale, pentru a evita neînțelegerile și temerile nejustificate pe care tehnologia respectivă le poate provoca în rândul cetățenilor; întrucât o examinare atentă a consecințelor oricărui nou cadru de reglementare asupra tuturor actorilor în cadrul unei evaluări a impactului ar trebui să fie o condiție prealabilă obligatorie pentru etapele legislative ulterioare;

F.  întrucât noțiunea de sisteme de IA include un grup mare de tehnologii diferite, inclusiv statistici simple, învățarea automată și învățarea profundă;

G.  întrucât folosind termenul „luare automată de decizii”, ar putea fi evitată ambiguitatea posibilă a termenului IA; întrucât termenul „luare automată de decizii” descrie o situație în care un utilizator deleagă inițial o decizie, parțial sau complet, unei entități, prin intermediul unui software sau al unui serviciu; întrucât entitatea respectivă folosește la rândul ei modele de luare a deciziilor automat pentru a efectua o acțiune în numele unui utilizator sau pentru a informa deciziile utilizatorului când efectuează o acțiune.

H.  întrucât anumite sisteme de IA prezintă provocări juridice semnificative pentru cadrul de răspundere existent și ar putea duce la situații în care opacitatea lor ar putea face extrem de costisitoare sau chiar imposibilă identificarea persoanei care controla riscul asociat cu sistemul de IA, sau a codului, intrării sau datelor care, în cele din urmă, au provocat operațiunea prejudiciabilă; întrucât acest factor ar putea complica identificarea legăturii dintre prejudiciu sau daună și comportamentul cauzator și, prin urmare, s-ar crea riscul ca victimele să nu primească despăgubiri adecvate;

I.  întrucât dificultățile juridice sunt cauzate și de conectivitatea dintre un sistem de IA și alte sisteme de IA și non-IA, de dependența lor de datele externe, de vulnerabilitatea lor la încălcările securității cibernetice, precum și de proiectarea unor sisteme de IA tot mai autonome, care folosesc, printre altele, învățarea automată și capacitățile de învățare profundă;

J.  întrucât standardele etice solide pentru sistemele de IA, combinate cu proceduri de despăgubire solide și echitabile pot contribui la abordarea acestor provocări juridice și la eliminarea riscului ca tehnologiile emergente să fie mai puțin acceptate de utilizatori; întrucât proceduri echitabile de despăgubire înseamnă că fiecare persoană care suferă un prejudiciu cauzat de sistemele de IA sau ale cărei daune materiale sunt cauzate de sisteme de IA ar trebui să aibă același nivel de protecție în comparație cu cazurile în care nu sunt implicate sisteme de IA; întrucât utilizatorul trebuie să fie sigur că potențialele daune cauzate de sistemele care utilizează IA sunt acoperite de o asigurare adecvată și că există o cale legală de atac în vederea despăgubirii;

K.  întrucât certitudinea juridică este, de asemenea, o condiție esențială pentru dezvoltarea dinamică și inovarea în domeniul tehnologiei bazate pe IA, în special pentru start-up-uri, microîntreprinderi, întreprinderi mici și mijlocii, precum și pentru aplicarea sa în practică în viața de zi cu zi; întrucât rolul esențial al start-up-urilor, microîntreprinderilor, întreprinderilor mici și mijlocii, în special în economia europeană, justifică o abordare strict proporțională pentru a le permite să se dezvolte și să inoveze;

L.  întrucât diversitatea sistemelor de IA și gama variată de riscuri pe care o prezintă tehnologia complică eforturile de găsire a unei soluții unice adecvate pentru întregul spectru de riscuri; întrucât, în acest sens, ar trebui să se adopte o abordare în care experimentele, proiectele-pilot și spațiile de testare în materie de reglementare să fie utilizate pentru a oferi soluții proporționale și bazate pe dovezi care să abordeze situații și sectoare specifice atunci când este necesar;

Introducere

1.  consideră că provocarea legată de introducerea sistemelor de IA în societate, la locul de muncă și în economie este una dintre cele mai importante chestiuni privind agenda politică actuală; întrucât tehnologiile bazate pe IA ar putea și ar trebui să depună eforturi pentru a ne îmbunătăți viața în aproape toate domeniile, de la sfera personală, de exemplu, sectorul transporturilor, educația personalizată, asistența pentru persoanele vulnerabile, programele de fitness și acordarea de credite, la mediul de lucru, de exemplu, reducerea sarcinilor obositoare și repetitive și la provocările globale, cum ar fi schimbările climatice, asistența medicală, nutriția și logistica;

2.  este ferm convins că, pentru a valorifica în mod eficient avantajele și a împiedica eventualele utilizări abuzive ale sistemelor de IA și a evita fragmentarea normativă la nivelul Uniunii, este crucială existența unei legislații uniforme, bazate pe principii și adaptate la condițiile viitorului în întreaga Uniune, pentru toate sistemele de IA; este de părere că, deși sunt de preferat reglementări specifice sectorului pentru o gamă largă de aplicații posibile, pentru a asigura claritate juridică, a stabili standarde egale în întreaga Uniune și a ne proteja în mod eficace valorile europene și drepturile cetățenilor pare a fi necesar un cadru juridic orizontal și armonizat bazat pe principii comune;

3.  afirmă că piața unică digitală trebuie să fie pe deplin armonizată, întrucât sfera digitală este caracterizată de o dinamică transfrontalieră rapidă și de fluxuri internaționale de date; consideră că Uniunea va îndeplini obiectivele de a păstra suveranitatea digitală a Uniunii și a impulsiona inovația digitală în Europa numai cu norme consecvente și comune, adaptate la contextul inovator;

4.  constată că cursa mondială privind IA a început deja și că Uniunea ar trebui să joace un rol de lider în această cursă prin exploatarea potențialului său științific și tehnologic; subliniază cu fermitate că dezvoltarea tehnologiei nu trebuie să fie în detrimentul protecției utilizatorilor împotriva daunelor care pot fi cauzate de dispozitivele și sistemele care utilizează IA; încurajează promovarea standardelor Uniunii privind răspunderea civilă la nivel internațional;

5.  este ferm convins că noile norme comune pentru sistemele de IA ar trebui să fie elaborate numai sub forma unui regulament; consideră că problema răspunderii în cazul prejudiciilor sau al daunelor cauzate de un sistem de IA este unul dintre aspectele-cheie care trebuie abordate în acest cadru;

Răspunderea și inteligența artificială

6.  consideră că nu este necesară o revizuire completă a regimurilor de răspundere care funcționează bine, dar că complexitatea, conectivitatea, opacitatea, vulnerabilitatea, capacitatea de a fi modificate prin actualizări, capacitatea de învățare autonomă și autonomia potențială a sistemelor de IA, precum și numărul mare de actori implicați, reprezintă, totuși, o provocare semnificativă în fața eficacității cadrelor normative ale Uniunii și naționale existente în materie de răspundere; consideră că sunt necesare ajustări specifice și coordonate ale regimurilor de răspundere pentru a evita situația în care persoanele care suferă prejudicii sau a căror proprietate este afectată nu sunt despăgubite;

7.  ia act de faptul că toate activitățile, dispozitivele sau procesele fizice sau virtuale care sunt dirijate de sistemele de IA pot fi, din punct de vedere tehnic, cauza directă sau indirectă a prejudiciului sau a daunei, dar, cu toate acestea, sunt aproape întotdeauna rezultatul acțiunii cuiva care a construit, implementat sau perturbat sistemele; constată în acest sens că nu este necesar să se confere personalitate juridică sistemelor de IA; este de părere că opacitatea, conectivitatea și autonomia sistemelor de IA ar putea, în practică, să facă foarte dificilă sau chiar imposibilă restabilirea legăturii dintre acțiuni dăunătoare specifice ale sistemelor de IA și contribuții umane specifice sau decizii de concepție; reamintește că, în conformitate cu conceptele de răspundere general acceptate, este totuși posibil să se ocolească acest obstacol prin acțiuni care trag la răspundere diferite persoane din întregul lanț valoric care creează, mențin sau controlează riscurile asociate sistemului de IA;

8.  consideră că Directiva privind răspunderea pentru produse s-a dovedit, de peste 30 de ani, un mijloc eficace de compensare a prejudiciilor provocate de un produs cu defect, dar că ar trebui, cu toate acestea, revizuită pentru a fi adaptată la lumea digitală și pentru a aborda provocările generate de tehnologiile digitale emergente, asigurând astfel un nivel ridicat de protecție eficace a consumatorilor, precum și certitudinea juridică pentru consumatori și întreprinderi, evitând, în același timp, costurile și riscurile ridicate pentru IMM-uri și start-up-uri; îndeamnă Comisia să evalueze dacă Directiva privind răspunderea pentru produse ar trebui transformată într-un regulament, pentru a clarifica definiția „produselor”, stabilind dacă serviciile digitale și conținutul digital intră în domeniul său de aplicare și să ia în considerare adaptarea unor concepte precum „daună”, „defect” și „producător”; este de părere că, în scopul asigurării certitudinii juridice în întreaga Uniune, după revizuirea Directivei privind răspunderea pentru produse, conceptul de „producător” ar trebui să includă fabricanții, dezvoltatorii, programatorii, furnizorii de servicii, precum și operatorii inițiali; invită Comisia să aibă în vedere inversarea normelor care reglementează sarcina probei pentru prejudiciile provocate de tehnologiile digitale emergente, în cazuri clar definite, și în urma unei evaluări adecvate; evidențiază că este important să se garanteze că actul legislativ actualizat al Uniunii rămâne limitat la problemele identificate în mod clar, pentru care există deja soluții realiste și în același timp permite să fie acoperite viitoare evoluții tehnologice, inclusiv evoluțiile bazate pe software-uri libere și cu sursă deschisă; observă că Directiva privind răspunderea pentru produse ar trebui în continuare utilizată în ceea ce privește acțiunile în răspundere civilă împotriva producătorului unui sistem de IA defectuos, atunci când sistemul de IA se califică drept produs în temeiul directivei respective; subliniază că orice actualizare a cadrului privind răspunderea pentru produse ar trebui să meargă mână în mână cu actualizarea Directivei 2001/95/CE a Parlamentului European și a Consiliului din 3 decembrie 2001 privind siguranța generală a produselor(16), pentru a garanta că sistemele bazate pe IA integrează principiile siguranței și securității de la stadiul conceperii;

9.  consideră că dreptul existent al statelor membre privind răspunderea civilă cu vinovăție (răspundere subiectivă) oferă, în cele mai multe cazuri, un nivel suficient de protecție pentru persoanele care suferă prejudicii cauzate de intervenția unui erț, cum ar fi un hacker, sau pentru persoanele a căror proprietate este deteriorată de un astfel de terț, întrucât intervenția constituie în mod regulat o acțiune cu vinovăție; ia act de faptul că adăugarea de norme privind răspunderea pentru a completa dreptul intern existent în materie de răspundere civilă pare necesară doar în cazuri specifice, inclusiv cele în care terțul nu poate fi identificat sau nu dispune de resurse financiare;

10.  prin urmare, consideră că se cuvine ca acest raport să se concentreze pe acțiunile în răspundere civilă împotriva operatorului unui sistem de IA; afirmă că răspunderea operatorului este justificată de faptul că acesta controlează un risc asociat sistemului de IA, comparabil cu un proprietar al unui automobil; consideră că, din cauza complexității și a conectivității sistemului de IA, operatorul va fi, în multe cazuri, primul punct de contact vizibil pentru persoana afectată;

Răspunderea operatorului

11.  este de părere că normele privind răspunderea care implică operatorul ar trebui să cuprindă toate operațiunile sistemelor de IA, indiferent unde are loc operațiunea și dacă se întâmplă în mod real sau virtual; remarcă faptul că operațiunile în spații publice care expun multe persoane unui risc constituie, cu toate acestea, cazuri care necesită o examinare mai aprofundată; consideră că, adesea, potențialele victime ale prejudiciilor sau daunelor nu sunt conștiente de operațiune și nu intentează, de obicei, acțiuni în răspundere contractuală împotriva operatorului; ia act de faptul că aceste persoane ar putea intenta o acțiune în răspundere cu vinovăție numai atunci când prejudiciul sau daunele se materializează, însă ar putea întâmpina dificultăți în a dovedi vinovăția operatorului sistemului de IA, acțiunile corespunzătoare în răspundere neatingându-și astfel scopul;

12.  consideră că prin „operator” ar trebui să se înțeleagă atât operatorul final, cât și operatorul inițial, atât timp cât acesta nu intră sub incidența Directivei privind răspunderea pentru produse; constată că operatorul final ar trebui definit ca persoana fizică sau juridică care exercită un grad de control asupra unui risc legat de operarea și funcționarea sistemului de IA și care beneficiază de operarea acestuia; afirmă că operatorul inițial ar trebui definit ca persoana fizică sau juridică care definește în mod continuu caracteristicile tehnologiei, furnizează date și servicii esențiale de sprijin și, prin urmare, exercită și un grad ridicat de control asupra riscurilor legate de operarea și funcționarea sistemului de IA; consideră că exercitarea controlului înseamnă orice acțiune a operatorului care influențează funcționarea sistemului de IA și, prin urmare, măsura în care acesta expune părțile terțe la riscurile sale potențiale; consideră că astfel de acțiuni ar putea afecta operarea unui sistem de IA de la început până la sfârșit prin determinarea intervenției sau a rezultatelor ori ar putea modifica funcții sau procese specifice din cadrul sistemului de IA;

13.  ia act de faptul că ar putea exista situații în care există mai mult de un operator, de exemplu un operator inițial și un operator final; consideră că, în acest caz, toți operatorii ar trebui să răspundă în solidar, având, în același timp, dreptul la o cale de atac, în mod proporțional, unii împotriva altora; este de părere că proporția răspunderii ar trebui să fie determinată în funcție de gradele respective de control pe care le au operatorii asupra riscului legat de operarea și funcționarea sistemului de IA; consideră că trasabilitatea produsului ar trebui îmbunătățită, pentru o mai bună identificare a persoanelor implicate în diferitele etape;

Norme diferite în materie de răspundere pentru riscuri diferite

14.  recunoaște că tipul de sistem de IA asupra căruia operatorul își exercită controlul este un factor determinant în materia răspunderii; ia act de faptul că un sistem de IA care implică un risc ridicat inerent și care acționează în mod autonom pune în pericol în mod potențial publicul larg într-o măsură mult mai mare; consideră că, având în vedere provocările de ordin juridic pe care sistemele de IA le reprezintă pentru regimurile de răspundere civilă existente, pare rezonabil să se instituie un regim comun de răspundere obiectivă pentru sistemele de IA autonome cu grad ridicat de risc; subliniază că o astfel de abordare bazată pe riscuri, care ar putea cuprinde mai multe niveluri de risc, ar trebui să se bazeze pe criterii clare și pe o definiție adecvată a riscului ridicat și să garanteze securitatea juridică;

15.  consideră că un sistem de IA prezintă un risc ridicat atunci când funcționarea sa autonomă implică un potențial semnificativ de a cauza prejudicii uneia sau mai multor persoane, într-un mod aleatoriu și care depășește așteptările rezonabile; consideră că, atunci când se stabilește dacă un sistem de IA prezintă un grad ridicat de risc, sectorul în care se așteaptă să apară riscuri semnificative și natura activităților întreprinse trebuie, de asemenea, să fie luate în considerare; consideră că importanța potențialului depinde de interacțiunea dintre gravitatea unui prejudiciu posibil, posibilitatea ca riscul să producă prejudicii sau daune și modul în care este utilizat sistemul de IA;

16.  recomandă ca toate sistemele de IA cu grad ridicat de risc să fie incluse în mod exhaustiv într-o anexă la propunerea de regulament; recunoaște că, având în vedere evoluțiile tehnologice rapide și expertiza tehnică necesară, Comisia ar trebui să revizuiască anexa respectivă fără întârzieri nejustificate, dar cel puțin o dată la șase luni și, dacă este necesar, să o modifice printr-un act delegat; consideră că Comisia ar trebui să coopereze îndeaproape cu un comitet permanent nou constituit, similar Comitetului permanent pentru precursori sau Comitetului tehnic pentru autovehicule, care include experți naționali din statele membre și părți interesate; consideră că componența echilibrată a „Grupului de experți la nivel înalt pentru inteligența artificială” ar putea servi drept exemplu pentru formarea grupului de părți interesate, incluzând experți în domeniul eticii, precum și antropologi, sociologi și specialiști în sănătate mintală; este de părere, de asemenea, că Parlamentul European ar trebui să desemneze experți care să se implice, la nivel consultativ, în cadrul comitetului permanent nou constituit.

17.  remarcă faptul că dezvoltarea de tehnologii bazate pe IA este extrem de dinamică și din ce în ce mai accelerată; subliniază că, pentru a asigura o protecție adecvată pentru utilizatori, este necesară o abordare rapidă privind riscurile potențiale, pentru a analiza noile dispozitive și sisteme care utilizează sisteme de IA care apar pe piața europeană; recomandă ca toate procedurile în acest sens să fie pe cât posibil simplificate; mai sugerează ca evaluarea de către Comisie a gradului de risc al unui sistem de IA ar trebui să înceapă în același timp cu evaluarea siguranței produsului, pentru a preveni o situație în care un sistem de IA cu risc ridicat este deja aprobat pentru piață, dar nu este încă clasificat ca fiind cu risc ridicat și, prin urmare, funcționează fără acoperire obligatorie de asigurare.

18.  ia act de faptul că Comisia ar trebui să evalueze modul în care datele privind sistemele IA cu grad ridicat de risc colectate, înregistrate sau stocate în scopul colectării de probe în caz de prejudicii sau daune cauzate de acest sistem de IA ar putea fi accesate și utilizate de către autoritatea responsabilă cu ancheta, precum și modul în care ar putea fi îmbunătățită trasabilitatea și posibilitatea auditării acestor date, ținând seama, în același timp, de drepturile fundamentale și cele privind confidențialitatea;

19.  afirmă că, în conformitate cu sistemele de răspundere obiectivă ale statelor membre, propunerea de regulament ar trebui să cuprindă încălcările drepturilor importante și protejate din punct de vedere juridic, cum ar fi dreptul la viață, sănătate, integritate fizică și la proprietate, și ar trebui să stabilească sumele și amploarea despăgubirilor, precum și termenul de prescripție; consideră că regulamentul propus ar trebui să includă și daunele morale semnificative care provoacă pierderi economice verificabile ce depășesc un prag armonizat în dreptul Uniunii privind răspunderea, care să asigure un echilibru între accesul la justiție al persoanelor afectate și interesele altor persoane implicate; îndeamnă Comisia să reevalueze și să alinieze pragurile de daune în dreptul Uniunii; este de părere că Comisia ar trebui să analizeze în detaliu tradițiile juridice din toate statele membre și legislațiile naționale existente care acordă compensații pentru daunele morale, pentru a evalua dacă este necesară includerea daunelor morale în actele legislative specifice IA și dacă aceasta contravine cadrului juridic existent al Uniunii sau contravine legislației naționale a statelor membre;

20.  stabilește că toate activitățile, dispozitivele sau procesele dirijate de sistemele de IA care cauzează prejudicii sau daune, dar care nu sunt enumerate în anexa la propunerea de regulament, ar trebui să facă în continuare obiectul răspunderii cu vinovăție; consideră că persoana afectată ar trebui, cu toate acestea, să beneficieze de pe urma unei prezumții de vinovăție din partea operatorului, care ar trebui să își poată demonstra nevinovăția dovedind că și-a respectat obligația de diligență;

21.  consideră că un sistem de IA, care nu a fost încă evaluat de Comisie și de comitetul permanent nou constituit și, prin urmare, nu este încă clasificat ca având un grad ridicat de risc și care nu este inclus în lista din anexa la propunerea de regulament, ar trebui, cu toate acestea, ca excepție de la sistemul prevăzut la paragraful 20, să facă obiectul unei răspunderi obiective dacă ar determina incidente repetate care au provocat vătămări sau daune grave; ia act de faptul că, în acest caz, Comisia ar trebui, de asemenea, să evalueze, fără întârzieri nejustificate, necesitatea de a revizui anexa respectivă pentru a adăuga pe listă sistemul de IA respectiv; consideră că, în cazul în care, în urma evaluării respective, Comisia decide să includă acest sistem de IA în listă, includerea respectivă ar trebui să aibă efect retroactiv de la momentul primului incident dovedit cauzat de sistemul de IA respectiv, care a provocat vătămări sau daune grave;

22.  solicită Comisiei să evalueze necesitatea unor dispoziții legale la nivelul Uniunii cu privire la contracte pentru a preveni clauzele contractuale de lipsă a răspunderii, inclusiv în raporturile dintre întreprinderi și cele între întreprinderi și administrație;

Asigurările și sistemele de IA

23.  consideră că asigurarea răspunderii este unul dintre factorii-cheie care definesc succesul noilor tehnologii, produse și servicii; observă că asigurarea adecvată a răspunderii este, de asemenea, esențială pentru a asigura publicul că poate avea încredere în noile tehnologii, în pofida potențialului de a suferi prejudicii sau de a se confrunta cu acțiuni juridice intentate de către persoanele afectate; este de părere totodată, că acest sistem normativ pune accentul pe exploatarea efectelor pozitive ale sistemelor de IA și dezvoltarea acestora, instituind, în același timp, un set de garanții solide;

24.  este de opinie că, pe baza potențialului semnificativ de a cauza prejudicii sau daune și prin luare în considerare a Directivei 2009/103/CE a Parlamentului European și a Consiliului din 16 septembrie 2009 privind asigurarea de răspundere civilă auto și controlul obligației de asigurare a acestei răspunderi(17), toți operatorii de sisteme de IA cu grad ridicat de risc enumerate în anexa la regulamentul propus ar trebui să dețină o asigurare de răspundere civilă; consideră că un astfel de regim de asigurare obligatorie pentru sistemele de IA cu grad ridicat de risc ar trebui să acopere cuantumul și amploarea despăgubirilor prevăzute în propunerea de regulament; este conștient de faptul că, în prezent, o astfel de tehnologie este încă foarte rară, deoarece presupune un grad ridicat de luare a deciziilor în mod autonom și că, prin urmare, discuțiile actuale sunt în mare parte orientate spre viitor; consideră totuși că incertitudinea privind riscurile nu ar trebui să conducă la prime de asigurare exagerat de mari și, prin urmare, să constituie un obstacol în calea cercetării și inovării;

25.  consideră că un mecanism de compensare la nivelul Uniunii finanțat din fonduri publice nu este modul potrivit pentru a acoperi eventualele lacune în materie de asigurări; consideră că lipsa datelor despre riscurile asociate cu sistemele de IA, combinată cu incertitudinea legată de evoluțiile viitoare, face dificilă furnizarea de produse de asigurare adaptate sau noi de către sectorul asigurărilor; consideră că, în cazul în care elaborarea unei asigurări obligatorii este lăsată complet în sarcina pieței, acest lucru ar putea conduce la o abordare bazată pe un model nediferențiat, cu prime disproporționat de ridicate și cu stimulente greșite, stimulând operatorii să opteze pentru cea mai ieftină asigurare, mai degrabă decât pentru cea mai bună acoperire și ar putea deveni un obstacol pentru cercetare și inovare; consideră că Comisia ar trebui să colaboreze îndeaproape cu sectorul asigurărilor pentru a vedea modul în care datele și modelele inovatoare pot fi utilizate pentru a crea politici de asigurări care să ofere o acoperire adecvată la un preț accesibil;

Aspecte finale

26.  solicită Comisiei să prezinte, în temeiul articolului 225 din Tratatul privind funcționarea Uniunii Europene, o propunere de regulament privind răspunderea pentru funcționarea sistemelor de inteligență artificială, în urma recomandărilor detaliate din anexă;

27.  consideră că propunerea solicitată nu va avea implicații financiare;

o
o   o

28.  îi încredințează Președintelui sarcina de a le transmite Consiliului și Comisiei prezenta rezoluție, precum și recomandările din anexă.

(1) JO L 210, 7.8.1985, p. 29.
(2) JO L 149, 11.6.2005, p. 22.
(3) JO L 304, 22.11.2011, p. 64.
(4) JO L 117, 5.5.2017, p. 1.
(5) JO L 252, 8.10.2018, p. 1.
(6) JO L 136, 22.5.2019, p. 1.
(7) JO L 123, 12.5.2016, p. 1.
(8) JO C 252, 18.7.2018, p. 239.
(9) JO C 307, 30.8.2018, p. 163.
(10) JO C 433, 23.12.2019, p. 86.
(11) Texte adoptate, P8_TA(2019)0081.
(12) Texte adoptate, P9_TA(2020)0032.
(13)https://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2020)654178'
(14) https://www.europarl.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU(2016)563501(ANN)_EN.pdf
(15)https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf
(16) JO L 11, 15.1.2002, p. 4.
(17) JO L 263, 7.10.2009, p. 11.


ANEXĂ LA REZOLUȚIE

RECOMANDĂRI DETALIATE PENTRU ELABORAREA UNUI REGULAMENT AL PARLAMENTULUI EUROPEAN ȘI AL CONSILIULUI PRIVIND RĂSPUNDEREA PENTRU FUNCȚIONAREA SISTEMELOR DE INTELIGENȚĂ ARTIFICIALĂ

A.  PRINCIPIILE ȘI OBIECTIVELE PROPUNERII

Prezentul raport abordează un aspect important al digitalizării, care este, la rândul său, modelat de activitățile transfrontaliere, de concurența mondială și de principalele considerente de ordin societal. Următoarele principii ar trebui să servească drept îndrumări:

1.  O piață unică digitală veritabilă necesită o armonizare deplină prin intermediul unui regulament.

2.   Noile provocări juridice generate de dezvoltarea sistemelor de inteligență artificială (IA) trebuie abordate prin stabilirea unei securități juridice maxime de-a lungul întregului lanț de răspundere, inclusiv pentru producător, operator, persoana afectată și orice altă parte terță.

3.  Nu ar trebui să existe o reglementare excesivă, iar birocrația trebuie evitată, deoarece ar împiedica inovarea europeană în IA, în special dacă tehnologia, produsele sau serviciile sunt dezvoltate de IMM-uri sau de start-up-uri.

4.  Normele de răspundere civilă pentru IA ar trebui să urmărească asigurarea echilibrului între protecția cetățenilor, pe de o parte și încurajarea întreprinderilor de a investi în inovație, în special în sistemele de IA, pe de altă parte.

5.   În loc de a înlocui regimurile de răspundere existente, care funcționează bine, ar trebui să se efectueze câteva ajustări specifice prin introducerea unor idei noi, orientate spre viitor.

6.  Viitoarea propunere de regulament și Directiva privind răspunderea pentru produsele cu defect sunt doi piloni ai unui cadru comun privind răspunderea pentru sistemele de IA și necesită o strânsă coordonare și aliniere între toți actorii politici la nivelul Uniunii și la nivel național.

7.  Cetățenii ar trebui să aibă dreptul la același nivel de protecție și de drepturi, indiferent dacă prejudiciul este cauzat de un sistem de IA sau nu, sau dacă are loc fizic sau virtual, pentru a se întări încrederea în noua tehnologie.

8.  Ar trebui luate în considerare atât daunele materiale, cât și cele morale în viitoarea propunere de regulament. Pe baza, printre alte documente, a comunicării sale din 19 februarie 2020 privind implicațiile în materie de siguranță și responsabilitate ale IA și ale roboticii, Comisia este invitată să analizeze temeinic tradițiile juridice din toate statele membre, precum și dispozițiile legislative existente care acordă o compensație pentru daunele morale pentru a evalua dacă includerea daunelor morale în viitoarea propunere de regulament este solidă din punct de vedere juridic și necesară din perspectiva persoanei afectate. Pe baza informațiilor disponibile în prezent, Parlamentul consideră că ar trebui să se includă daunele morale dacă persoana afectată a suferit o pierdere economică vizibilă, care poate fi verificată.

B.  TEXTUL PROPUNERII SOLICITATE

Propunere de

REGULAMENT AL PARLAMENTULUI EUROPEAN ȘI AL CONSILIULUI

privind răspunderea pentru funcționarea sistemelor de inteligență artificială

PARLAMENTUL EUROPEAN ȘI CONSILIUL UNIUNII EUROPENE,

având în vedere Tratatul privind funcționarea Uniunii Europene, în special articolul 114,

având în vedere propunerea Comisiei Europene,

după transmiterea proiectului de act legislativ către parlamentele naționale,

având în vedere avizul Comitetului Economic și Social European(1),

hotărând în conformitate cu procedura legislativă ordinară(2),

întrucât:

(1)  Conceptul de „răspundere” joacă un dublu rol important în viața noastră de zi cu zi: pe de o parte, asigură că o persoană care a suferit un prejudiciu sau o daună are dreptul de a cere despăgubiri de la partea considerată răspunzătoare pentru prejudiciul sau dauna respective și, pe de altă parte, oferă stimulente economice persoanelor pentru a evita în primul rând cauzarea de prejudicii sau daune. Orice cadru privind răspunderea ar trebui să urmărească, pe lângă încrederea în funcționarea în condiții de siguranță, în mod fiabil și consecvent a produselor și serviciilor care includ tehnologii digitale emergente, cum ar fi inteligența artificial (IA), internetul lucrurilor sau robotica, realizarea unui echilibru între protejarea eficientă a potențialelor victime ale daunelor sau prejudiciilor și, în același timp, asigurarea unei marje de manevră suficiente pentru a permite dezvoltarea de noi tehnologii, produse sau servicii.

(2)  Îndeosebi la începutul ciclului de viață al noilor produse și servicii, după ce au fost testate în prealabil, există un anumit grad de risc pentru utilizator, precum și pentru persoanele terțe, ca ceva să nu funcționeze corespunzător. Acest proces de „testare și eroare” este, în același timp, un factor esențial pentru progresul tehnic, fără de care nu ar exista majoritatea tehnologiilor noastre. Până acum, riscurile asociate cu noile produse și servicii au fost atenuate în mod corespunzător printr-o legislație solidă în materie de siguranță a produselor și prin norme privind răspunderea.

(3)  Progresul IA reprezintă, totuși, o provocare semnificativă pentru cadrele existente privind răspunderea. Utilizarea sistemelor de IA în viața noastră de zi cu zi va duce la situații în care opacitatea lor (elementul „cutie neagră”) și multitudinea de actori care intervin în ciclul lor de viață fac extrem de costisitoare sau chiar imposibilă identificarea persoanei care controla riscul de utilizare a sistemului de IA în cauză, sau a codului ori intervenției care a cauzat operațiunea prejudiciabilă. Această dificultate este agravată de conectivitatea dintre un sistem de IA și alte sisteme de IA și non-IA, prin dependența sa de date externe, de vulnerabilitatea sa față de încălcările securității cibernetice, precum și de autonomia tot mai mare a sistemelor de IA, declanșată de capacitățile de învățare automată și de învățare profundă. Pe lângă aceste caracteristici complexe și vulnerabilități potențiale, sistemele de IA ar putea fi folosite și pentru a cauza prejudicii grave, cum ar fi compromiterea demnității umane, a valorilor și libertăților europene, prin urmărirea persoanelor împotriva voinței lor, prin introducerea unor sisteme de credit social, prin luarea unor decizii părtinitoare legate de asigurările de sănătate, alocarea creditelor, ordinele judecătorești sau deciziile legate de recrutare sau de angajare, sau prin construirea unor sisteme de arme autonome letale.

(4)  Este important să se reliefeze că avantajele implementării sistemelor de IA vor depăși cu mult dezavantajele. Ele vor contribui la combaterea mai eficientă a schimbărilor climatice, la îmbunătățirea examinărilor medicale și a condițiilor de muncă, la o mai bună integrare în societate a persoanelor cu dizabilități și a persoanelor în vârstă și la furnizarea de cursuri de educație adaptate pentru toate tipurile de studenți. Pentru a valorifica diversele oportunități tehnologice și a spori încrederea cetățenilor în utilizarea sistemelor de IA, împiedicând, în același timp, scenariile prejudiciabile, cea mai bună cale de urmat este cea a unor standarde etice solide, combinate cu proceduri de despăgubire solide și echitabile.

(5)  Un regim de răspundere adecvat este, de asemenea, necesar pentru a contrabalansa încălcarea normelor de siguranță. Dar regimul de răspundere prevăzut în prezentul regulament trebuie să țină seama de toate interesele în cauză. O examinare atentă a consecințelor oricărui nou cadru de reglementare asupra întreprinderilor mici și mijlocii (IMM-uri) și a întreprinderilor nou-înființate reprezintă o condiție prealabilă pentru acțiunile legislative ulterioare. Rolul esențial jucat de astfel de demersuri în economia europeană justifică o abordare strict proporțională pentru a le permite să se dezvolte și să inoveze. Pe de altă parte, victimele daunelor sau prejudiciilor cauzate de sistemele de IA trebuie să aibă dreptul la compensații și la despăgubirea integrală pentru daunele sau prejudiciile pe care le-au suferit.

(6)  Orice modificare necesară a cadrului juridic existent ar trebui să înceapă cu precizarea că sistemele de IA nu au nici personalitate juridică, nici conștiință umană și că singura lor sarcină este de a servi umanitatea. De asemenea, numeroase sisteme de IA nu sunt atât de diferite de alte tehnologii, care se bazează uneori pe un software și mai complex. În cele din urmă, marea majoritate a sistemelor de IA sunt utilizate pentru a gestiona sarcini banale care nu implică deloc riscuri sau cu riscuri minime pentru societate. Folosind termenul „luare automată de decizii”, ar putea fi evitată ambiguitatea posibilă a termenului IA. Acest termen descrie o situație în care un utilizator delegă inițial o decizie, parțial sau complet, unei entități, prin intermediul unui software sau al unui serviciu. La rândul său, entitatea respectivă folosește modele de luare a deciziilor automat pentru a efectua o acțiune în numele unui utilizator sau pentru a informa decizia utilizatorului când efectuează o acțiune.

(7)  Cu toate acestea, există și sisteme de IA care sunt dezvoltate și implementate în mod critic și care se bazează pe tehnologii precum rețele neuronale și pe procese de învățare profundă. Opacitatea și autonomia lor ar putea face foarte dificilă regăsirea unor acțiuni specifice în decizii umane specifice privind conceperea sau funcționarea acestora. Un operator al unui astfel de sistem de IA ar putea, de exemplu, să susțină că activitatea fizică sau virtuală, dispozitivul sau procesul care cauzează prejudiciul sau dauna s-a aflat în afara controlului său, deoarece a fost cauzat(ă) de o funcționare autonomă a sistemului său de IA. Dar simpla funcționare a unui sistem autonom de IA nu ar trebui să fie un motiv suficient pentru admiterea unei acțiuni intentate în răspundere civilă. Ca urmare, pot exista cazuri de răspundere în care alocarea răspunderii ar putea fi incorectă sau ineficientă sau în care o persoană care suferă un prejudiciu sau daune cauzate de un sistem de IA nu poate dovedi vina producătorului, a unui terț care intervine sau a operatorului, și se încheie fără despăgubire.

(8)  Cu toate acestea, ar trebui să fie întotdeauna clar că oricine creează, întreține, controlează sau intervine în sistemul de IA ar trebui să fie răspunzător pentru prejudiciul sau daunele pe care le provoacă activitatea, dispozitivul sau procesul. Acest lucru rezultă din concepte juridice generale și larg acceptate în materie de răspundere, potrivit cărora persoana care creează sau prezintă un risc pentru public este răspunzătoare dacă acest risc creează o pagubă sau un prejudiciu și, prin urmare, ar trebui să reducă la minimum ex ante sau să compenseze ex post riscul respectiv. Prin urmare, dezvoltarea sistemelor de IA nu necesită o revizuire completă a normelor privind răspunderea în întreaga Uniune. Pentru a răspunde provocărilor legate de IA, ar fi suficiente ajustări specifice ale legislației existente și introducerea de prevederi noi, specifice, astfel încât să se evite fragmentarea normativă și să se asigure armonizarea legislației privind inteligența artificială la nivelul Uniunii în materia răspunderii civile.

(9)  Directiva 85/374/CEE(3) a Consiliului (Directiva privind răspunderea legală pentru produsele cu defect) s-a dovedit de peste 30 de ani a fi un mijloc eficient de despăgubire pentru daunele provocate de un produs defectuos. Prin urmare, aceasta ar trebui să fie utilizată, de asemenea, pentru acțiunile în răspundere civilă ale unei părți care suferă prejudicii sau daune împotriva producătorului unui sistem de IA defectuos. În concordanță cu principiile Uniunii pentru o mai bună legiferare, orice ajustări legislative necesare ar trebui să fie discutate în cadrul unei reexaminări necesare a directivei respective. Legislația existentă a statelor membre privind răspunderea cu vinovăție oferă, de asemenea, în majoritatea cazurilor, un nivel suficient de protecție pentru persoanele care suferă prejudicii sau daune cauzate de un terț care a intervenit, întrucât această intervenție constituie în mod regulat o acțiune cu vinovăție, în care terțul utilizează sistemul de IA pentru a provoca daune. În consecință, prezentul regulament ar trebui să se concentreze asupra cererilor de despăgubire formulate împotriva operatorului sistemului de IA.

(10)  Răspunderea operatorului în temeiul prezentului regulament se bazează pe faptul că acesta exercită un grad de control asupra unui risc legat de funcționarea unui sistem de IA, care este comparabil cu cel al proprietarului unui autoturism. Cu cât un sistem este mai sofisticat și mai autonom, definirea și influențarea algoritmilor, de exemplu prin actualizări continue, ar putea avea un impact mai mare. Deoarece adesea există mai multe persoane despre care s-ar putea considera în mod semnificativ că „operează” cu sistemele de IA, în acest regulament prin „operator” ar trebui să se înțeleagă atât operatorul final, cât și operatorul inițial. Deși, în general, operatorul final apare ca fiind persoana care decide „în primul rând” cu privire la utilizarea sistemului IA, operatorul inițial ar putea, de fapt, să aibă un grad mai mare de control asupra riscurilor operaționale. Dacă operatorul inițial se califică, de asemenea, ca producător, astfel cum este definit la articolul 3 din Directiva privind răspunderea pentru produse, directiva respectivă ar trebui să i se aplice. Dacă există un singur operator și respectivul operator este în același timp și producătorul sistemului de IA, acest regulament ar trebui să prevaleze asupra Directivei privind răspunderea pentru produse.

(11)  Dacă utilizatorul, adică persoana care folosește sistemul de IA, este implicat în fapta prejudiciabilă, acesta ar trebui să fie răspunzător în temeiul prezentului regulament numai dacă este, de asemenea, și operator. În caz contrar, măsura contribuției utilizatorului la risc prin neglijență gravă sau în mod intenționat va conduce la răspunderea cu vinovăție a utilizatorului față de reclamant. Drepturile aplicabile consumatorilor de care beneficiază utilizatorul ar trebui să nu fie afectate.

(12)  Prezentul regulament ar trebui să permită persoanei afectate să introducă acțiuni în răspundere civilă pe parcursul întregului lanț de răspundere și pe tot parcursul ciclului de viață al unui sistem de IA. Ar trebui, totodată, să cuprindă în principiu toate sistemele de IA, indiferent unde funcționează și indiferent dacă operațiunile au loc în mod fizic sau virtual. Majoritatea acțiunilor în răspundere civilă formulate în temeiul prezentului regulament ar trebui, cu toate acestea, să abordeze cazurile de răspundere civilă a terților, în cazul în care un sistem de IA funcționează într-un spațiu public și expune multe persoane la risc. În această situație, adesea persoanele afectate nu vor avea cunoștință de sistemul de IA în exploatare și nu vor avea nicio relație contractuală sau juridică față de operator. Prin urmare, funcționarea sistemului de IA le plasează într-o situație în care, în cazul în care au fost cauzate prejudicii sau daune, acestea pot doar intenta acțiuni în răspundere cu vinovăție împotriva operatorului sistemului de IA, confruntându-se, în același timp, cu dificultăți grave în a dovedi că operatorul a fost vinovat.

(13)  Tipul de sistem de IA pe care îl controlează operatorul este un factor determinant. Un sistem de IA care implică un risc ridicat poate pune în pericol publicul într-o măsură mult mai mare și într-un mod aleatoriu, care depășește așteptările rezonabile. Aceasta înseamnă că, la începutul funcționării autonome a sistemului de IA, majoritatea persoanelor posibil afectate sunt necunoscute și neidentificabile, de exemplu, persoanele aflate într-o piață publică sau într-o casă vecină, în comparație cu funcționarea unui sistem de IA care implică anumite persoane, care și-au exprimat în mod regulat consimțământul pentru funcționarea acestuia înainte, de exemplu, o intervenție chirurgicală într-un spital sau o demonstrație de vânzări într-un mic magazin. Pentru a stabili cât de mare e potențialul unui sistem de IA cu grad ridicat de risc de a cauza prejudicii sau daune trebuie analizată interacțiunea dintre scopul utilizării pentru care este introdus pe piață sistemul de IA, modul în care este folosit sistemul de IA, gravitatea prejudiciului sau a daunelor potențiale și gradul de autonomie în luarea deciziilor care pot conduce la prejudicii, precum și probabilitatea apariției riscului. Gradul de gravitate ar trebui stabilit pe baza unor factori relevanți cum ar fi amploarea prejudiciului potențial care rezultă din funcționare asupra persoanelor afectate, inclusiv efectele particulare asupra drepturilor omului, numărul de persoane afectate, valoarea totală a daunelor potențiale, precum și prejudiciul adus societății în ansamblu. Probabilitatea existenței prejudiciilor sau a daunelor ar trebui stabilită pe baza factorilor relevanți cum ar fi rolul calculelor algoritmice în procesul decizional, complexitatea deciziei și reversibilitatea efectelor. În cele din urmă, modul de utilizare ar trebui să depindă de factori relevanți cum ar fi contextul și sectorul în care funcționează sistemul de IA, dacă ar putea avea efecte juridice sau faptice asupra drepturilor importante și protejate din punct de vedere juridic ale persoanei afectate și dacă efectele pot fi evitate în mod rezonabil.

(14)  Toate sistemele de IA care prezintă un risc ridicat ar trebui enumerate exhaustiv într-o anexă la prezentul regulament. Având în vedere evoluțiile tehnice și de piață rapide la nivel mondial, precum și cunoștințele tehnice specializate necesare pentru o reexaminare adecvată a sistemelor de IA, competența de a adopta acte delegate în conformitate cu articolul 290 din Tratatul privind funcționarea Uniunii Europene ar trebui delegată Comisiei pentru a modifica prezentul regulament în ce privește tipurile de sisteme de IA care prezintă un risc ridicat și sectoarele esențiale în care acestea sunt utilizate. Pe baza definițiilor și a dispozițiilor prevăzute în prezentul regulament, Comisia ar trebui să reexamineze fără întârziere anexa, cel puțin o dată la șase luni și, dacă este necesar, să o modifice prin intermediul unor acte delegate. Evaluarea de către Comisie a gradului de risc al unui sistem de IA ar trebui să înceapă în același timp cu evaluarea siguranței produsului, pentru a preveni o situație în care un sistem IA cu risc ridicat este deja aprobat pentru piață, dar nu este încă clasificat ca fiind cu risc ridicat și, prin urmare, funcționează fără acoperire obligatorie de asigurare. Pentru a oferi întreprinderilor și centrelor de cercetare un nivel suficient de securitate a planificării și a investițiilor, modificările aduse sectoarelor critice ar trebui să fie efectuate doar o dată la 12 luni. Operatorii ar trebui invitați să înștiințeze Comisia dacă lucrează la o nouă tehnologie, la noi produse sau servicii care se încadrează într-unul din sectoarele critice existente prevăzute în anexă și care, ulterior, s-ar putea clasifica ca sistem de IA cu grad ridicat de risc.

(15)  Este deosebit de important ca, în cursul lucrărilor sale pregătitoare, Comisia să organizeze consultări adecvate cu părțile interesate relevante, inclusiv la nivel de experți, și ca respectivele consultări să se desfășoare în conformitate cu principiile stabilite în Acordul interinstituțional din 13 aprilie 2016 privind o mai bună legiferare(4). Un comitet permanent numit „Comitetul tehnic - sisteme de IA cu risc ridicat” (TCRAI) ar trebui să sprijine Comisia în reexaminarea regulată pe care o va efectua în temeiul prezentului regulament. Acest comitet permanent ar trebui să fie compus din reprezentanți ai statelor membre, precum și dintr-o selecție echilibrată de părți interesate, inclusiv organizații de consumatori, asociații care reprezintă persoanele afectate, reprezentanți ai întreprinderilor din diferite sectoare și de diferite mărimi, precum și cercetători și oameni de știință. În special, pentru a asigura participarea egală la pregătirea actelor delegate, Parlamentul European și Consiliul primesc toate documentele în același timp cu experții din statele membre, iar experții acestor instituții au acces sistematic la reuniunile grupurilor de experți ai Comisiei, precum și la reuniunile Comitetului TCRAI, când se ocupă de activități legate de pregătirea actelor delegate.

(16)  Prezentul regulament ar trebui să acopere prejudiciile sau daunele aduse vieții, sănătății, integrității fizice, proprietății și daunele morale semnificative care provoacă pierderi economice verificabile care depășesc un prag armonizat în dreptul Uniunii privind răspunderea, care să asigure un echilibru între accesul la justiție al persoanelor afectate și interesele altor persoane implicate. Comisia ar trebui să reevalueze și să alinieze pragurile de daune în dreptul Uniunii. Prejudiciul moral semnificativ ar trebui înțeles ca un prejudiciu în urma căruia persoana afectată suferă o pagubă considerabilă, o lezare obiectivă și demonstrabilă a intereselor sale și o pierdere economică calculată ținând seama, de exemplu, de cifrele medii anuale ale veniturilor din trecut și de alte circumstanțe relevante. Prezentul regulament ar trebui să stabilească, de asemenea, cuantumul și amploarea despăgubirii, precum și termenul de prescripție pentru intentarea acțiunilor în răspundere. Prezentul regulament ar trebui să stabilească un plafon de despăgubire semnificativ mai redus față de cel prevăzut de Directiva privind răspunderea pentru produse, deoarece prezentul regulament se referă la prejudiciile sau daunele aduse unei singure persoane, care rezultă dintr-o singură operațiune a unui sistem de IA, în timp ce directiva se referă la un număr de produse sau chiar la o linie de produse care prezintă același defect.

(17)  Toate activitățile, dispozitivele sau procesele reale sau virtuale dirijate de sisteme de IA care nu sunt enumerate ca fiind sisteme de IA cu grad ridicat de risc în anexa la prezentul regulament ar trebui să facă în continuare obiectul răspunderii cu vinovăție, cu excepția cazului în care sunt în vigoare legi naționale și o legislație privind protecția consumatorilor mai stricte. Ar trebui să se aplice în continuare legislația națională a statelor membre, inclusiv orice jurisprudență pertinentă, în ce privește cuantumul și amploarea despăgubirii, precum și termenul de prescripție. O persoană care suferă un prejudiciu sau daune cauzate de un sistem de IA care nu este enumerat ca fiind un sistem de IA cu grad ridicat de risc ar trebui să beneficieze de prezumția de vinovăție a operatorului.

(18)  Gradul de diligență care poate fi așteptată de la un operator ar trebui să fie proporțional cu (i) natura sistemului de IA, (ii) dreptul protejat din punct de vedere juridic potențial afectat, (iii) posibilele prejudicii sau daune aduse sistemului de IA și (iv) probabilitatea unor astfel de daune. Prin urmare, ar trebui să se țină seama de faptul că operatorul ar putea avea cunoștințe limitate în ceea ce privește algoritmii și datele utilizate în sistemul de IA. Ar trebui să existe prezumția că operatorul a respectat obligația de diligență, care poate fi așteptată de la el în mod rezonabil, în privința selectării unui sistem de IA adecvat, dacă operatorul a selectat un sistem de IA certificat în temeiul unui sistem similar sistemului voluntar de certificare preconizat de Comisie(5). Ar trebui să existe prezumția că operatorul a respectat obligația de diligență care poate fi așteptată de la el în mod rezonabil în timpul funcționării sistemului de IA în cazul în care operatorul poate demonstra că a monitorizat în mod real și periodic sistemul de IA în timpul funcționării acestuia și că a înștiințat fabricantul despre potențialele nereguli din timpul funcționării. Ar trebui să existe prezumția că operatorul a respectat obligația de diligență, care poate fi așteptată de la el în mod rezonabil, în privința menținerii fiabilității operaționale dacă operatorul a instalat toate actualizările disponibile furnizate de producătorul sistemului de IA. Deoarece nivelul de sofisticare al operatorilor poate varia în funcție de calitatea lor de simpli consumatori sau profesioniști, obligațiile de diligență ar trebui adaptate în consecință.

(19)  Pentru a permite operatorului să dovedească faptul că nu a fost vinovat sau pentru a permite persoanei afectate să demonstreze existența vinovăției, producătorii ar trebui să aibă datoria de a coopera cu ambele părți în cauză, inclusiv prin furnizarea de informații bine documentate. În plus, atât producătorii stabiliți în Uniune, cât și cei din afara ei ar trebui să aibă obligația de a desemna un reprezentant în cadrul Uniunii pentru răspunderea legată de IA, ca punct de contact pentru a răspunde la toate cererile din partea operatorilor, în mod similar cu responsabilul cu protecția datelor, astfel cum este prevăzut la articolul 37 din Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului(6), cu reprezentantul producătorului, astfel cum este prevăzut la articolul 3 alineatul (41) și articolul 13 alineatul (4) din Regulamentul (UE) 2018/858 al Parlamentului European și al Consiliului(7), sau cu reprezentantul autorizat, astfel cum este prevăzut la articolul 4 alineatul (2) și la articolul 5 din Regulamentul (UE) 2019/1020 al Parlamentului European și al Consiliului(8).

(20)  Legislatorul trebuie să ia în considerare riscurile de răspundere legate de sistemele de IA pe parcursul întregului lor ciclu de viață, de la dezvoltare la utilizare până la sfârșitul ciclului de viață, inclusiv gestionarea deșeurilor și reciclarea. Includerea sistemelor de IA într-un produs sau serviciu reprezintă un risc financiar pentru întreprinderi și, prin urmare, va avea un impact puternic asupra capacității și opțiunilor IMM-urilor, precum și a start-up-urilor, de asigurare și finanțare a proiectelor lor de cercetare și dezvoltare bazate pe tehnologii noi. Prin urmare, scopul răspunderii este nu numai să protejeze drepturile importante și protejate din punct de vedere juridic ale persoanelor, ci și să determine dacă întreprinderile, în special IMM-urile și start-up-urile, au capacitatea de a mobiliza capital, de a inova, de a cerceta și, în cele din urmă, de a oferi noi produse și servicii, precum și dacă consumatorii au încredere în astfel de produse și servicii și sunt dispuși să le utilizeze, în ciuda riscurilor potențiale și a acțiunilor în justiție introduse în legătură cu astfel de produse sau servicii.

(21)  Asigurarea poate contribui la garantarea faptului că victimele primesc despăgubiri efective și la punerea în comun a riscurilor tuturor persoanelor asigurate. Unul dintre factorii pe care societățile de asigurare își bazează oferta de produse și servicii de asigurare este evaluarea riscului pe baza accesului la suficiente date istorice privind cererile de despăgubire. Lipsa accesului, sau o cantitate insuficientă de date de înaltă calitate ar putea constitui un motiv pentru care crearea de produse de asigurare pentru tehnologiile noi și emergente este dificilă la început. Cu toate acestea, un acces mai larg la datele generate de noile tehnologii și optimizarea utilizării acestora, însoțit de obligația de a furniza informații bine documentate, ar putea mări capacitatea asigurătorilor de a modela riscurile emergente și de a încuraja dezvoltarea unei acoperiri mai inovatoare.

(22)  Întrucât nu există date istorice privind cererile de despăgubire, ar trebui să se examineze cum și în ce condiții ar trebui să fie asigurată răspunderea, în vederea asocierii asigurării cu produsul și nu cu persoana responsabilă. Există deja produse de asigurare care sunt dezvoltate domeniu cu domeniu și acoperire cu acoperire, pe măsură ce se dezvoltă tehnologia. Mulți asigurători se specializează în anumite segmente de piață (de exemplu IMM-uri) sau în furnizarea de acoperire pentru anumite tipuri de produse (de exemplu produse electrice), ceea ce înseamnă că de obicei există un produs de asigurare disponibil pentru asigurat. Cu toate acestea, este dificil să se prevadă o soluție bazată pe un model nediferențiat, iar piața asigurărilor va avea nevoie de timp pentru a se adapta. Comisia ar trebui să colaboreze îndeaproape cu piața asigurărilor pentru a dezvolta produse de asigurare inovatoare care ar putea să acopere lacunele de asigurare. În cazuri excepționale, cum ar fi producerea unui eveniment cu prejudiciu colectiv, în care despăgubirea depășește semnificativ sumele maxime stabilite în prezentul regulament, statele membre ar trebui încurajate să creeze un fond special de compensare, pentru o perioadă limitată de timp, care să răspundă nevoilor specifice ale acestor cazuri. De asemenea, ar putea fi înființate fonduri de compensare speciale pentru a acoperi acele cazuri excepționale în care un sistem de IA care nu este încă clasificat ca sistem de IA cu grad ridicat de risc și, prin urmare, nu este încă asigurat, cauzează prejudicii sau daune. Pentru a asigura certitudinea juridică și pentru a îndeplini obligația de a informa toate persoanele potențial afectate, existența fondului special de compensare, precum și condițiile pentru a beneficia de acesta ar trebui făcute publice în mod clar și cuprinzător.

(23)  Este extrem de important ca orice modificări viitoare ale prezentului regulament să fie însoțite de o revizuire necesară a Directivei privind răspunderea pentru produse, pentru ca aceasta să se revizuiască în mod cuprinzător și consecvent și a se garanta drepturile și obligațiile tuturor părților interesate de-a lungul întregului lanț de răspundere. Introducerea unui nou regim de răspundere pentru operatorul sistemelor de IA impune ca dispozițiile prezentului regulament și revizuirea Directivei privind răspunderea pentru produse să fie coordonate îndeaproape atât în ceea ce privește fondul, cât și abordarea, pentru a constitui împreună un cadru de răspundere coerent pentru sistemele de IA, realizând un echilibru între interesele producătorului, ale operatorului, ale consumatorului și ale persoanei afectate, în ceea ce privește riscul de răspundere și acordurile relevante de compensare. Prin urmare, sunt necesare și ar trebui urmările în paralel adaptarea și raționalizarea definițiilor termenilor de sistem de IA, operator final sau inițial, producător, defect, produs și serviciu în toate actele legislative. .

(24)  Deoarece obiectivele prezentului regulament, și anume crearea unei abordări unitare și orientate spre viitor la nivelul Uniunii, care să stabilească standarde europene comune pentru cetățenii și întreprinderile din Europa pentru a garanta coerența drepturilor și securitatea juridică în întreaga Uniune și pentru a evita fragmentarea pieței unice digitale, care ar afecta obiectivul de menținere a suveranității digitale, de încurajare a inovării digitale în Europa și de asigurare a unui nivel ridicat de protecție a cetățenilor și a consumatorilor, necesită armonizarea deplină a regimurilor de răspundere pentru sistemele de IA. Acest lucru nu poate fi realizat în mod satisfăcător de către statele membre din cauza evoluției rapide a tehnologiei, a dezvoltării transfrontaliere, precum și a utilizării sistemelor de IA și, în cele din urmă, a abordărilor legislative contradictorii în întreaga Uniune, ci poate fi realizat mai degrabă la nivelul Uniunii, date fiind amploarea sau efectele acțiunii acesteia. Uniunea poate să adopte măsuri în conformitate cu principiul subsidiarității definit la articolul 5 din Tratatul privind Uniunea Europeană. În conformitate cu principiul proporționalității, prevăzut la același articol, dispozițiile prezentului regulament nu depășesc ceea ce este necesar pentru atingerea acestor obiective,

ADOPTĂ PREZENTUL REGULAMENT:

Capitolul I

Dispoziții generale

Articolul 1

Obiect

Prezentul regulament stabilește norme privind acțiunile în răspundere civilă ale persoanelor fizice și juridice împotriva operatorilor sistemelor de IA.

Articolul 2

Domeniul de aplicare

(1)  Prezentul regulament se aplică pe teritoriul Uniunii în cazul în care o activitate fizică sau virtuală, un dispozitiv sau un proces condus de un sistem de IA a cauzat prejudicii sau daune vieții, sănătății, integrității fizice ale unei persoane fizice, bunurilor unei persoane fizice sau juridice sau a cauzat prejudicii morale semnificative care au provocat o pierdere economică verificabilă.

(2)  Orice acord între un operator al unui sistem de IA și o persoană fizică sau juridică care suferă un prejudiciu sau o daună din cauza sistemului de IA, care eludează sau limitează drepturile și obligațiile prevăzute în prezentul regulament, încheiat înainte sau după ce s-a produs prejudiciul sau dauna, se consideră nul și neavenit în ceea ce privește drepturile și obligațiile stipulate în prezentul regulament.

(3)  Prezentul regulament nu aduce atingere niciunei cereri suplimentare privind răspunderea care rezultă din raporturile contractuale, precum și din regulamentele privind răspunderea pentru produse, protecția consumatorilor, combaterea discriminării, protecția muncii și protecția mediului existente între operator și persoana fizică sau juridică care a suferit un prejudiciu sau o daună din cauza sistemului de IA și care poate fi introdusă împotriva operatorului în temeiul dreptului Uniunii sau al dreptului național.

Articolul 3

Definiții

În sensul prezentului regulament, se aplică următoarele definiții:

(a)  „sistem de IA” înseamnă un sistem fie bazat pe software, fie integrat în dispozitive hardware, al cărui comportament simulează inteligența, printre altele prin colectarea și prelucrarea datelor, analiza și interpretarea mediului său și efectuarea unor acțiuni, cu un anumit grad de autonomie, pentru a atinge obiective specifice;

(b)  „autonom” înseamnă un sistem de IA care funcționează prin interpretarea anumitor inputuri și utilizarea unui set de instrucțiuni predeterminate, fără a se limita la acestea, deși comportamentul sistemului este limitat și direcționat de îndeplinirea obiectivului care i s-a stabilit și de alte opțiuni relevante de proiectare ale dezvoltatorului;

(c)  „grad ridicat de risc” înseamnă un potențial semnificativ al unui sistem de IA care funcționează în mod autonom de a provoca daune sau prejudicii uneia sau mai multor persoane într-un mod aleatoriu și care depășește ceea ce se poate aștepta în mod rezonabil; importanța potențialului depinde de interacțiunea dintre gravitatea eventualelor prejudicii sau daune, gradul de autonomie decizională, probabilitatea materializării riscului și contextul în care este utilizat sistemul de IA;

(d)  „operator” înseamnă atât operatorul final, cât și operatorul inițial, atât timp cât răspunderea acestuia din urmă nu intră deja în domeniul de aplicare al Directivei 85/374/CEE;

(e)  „operator final” înseamnă persoana fizică sau juridică care exercită un grad de control asupra unui risc legat de operarea și funcționarea sistemului de IA și care beneficiază de operarea acestuia;

(f)  „operator inițial” înseamnă persoana fizică sau juridică care definește în mod continuu caracteristicile tehnologiei și furnizează date și servicii esențiale de sprijin și, prin urmare, exercită și un grad ridicat de control asupra riscurilor legate de operarea și funcționarea sistemului de IA;

(g)  „control” înseamnă orice acțiune a unui operator care influențează operarea unui sistem de IA și, prin urmare, măsura în care operatorul expune părțile terțe la riscurile potențiale asociate operării și funcționării sistemului de IA; astfel de acțiuni pot afecta operarea în orice stadiu prin determinarea intrărilor, a ieșirilor sau a rezultatelor, ori pot modifica funcții sau procese specifice din cadrul sistemului de IA; măsura în care acele aspecte ale operării sistemului de IA sunt determinate de acțiune depinde de nivelul de influență pe care îl are operatorul asupra riscului legat de operarea și funcționarea sistemului de IA;

(h)  „persoană afectată” înseamnă orice persoană care suferă daune sau prejudicii cauzate de o activitate fizică sau virtuală, de un dispozitiv sau de un proces condus de un sistem de IA și care nu este operatorul său;

(i)  „daună sau prejudiciu” înseamnă un impact negativ care afectează viața, sănătatea, integritatea fizică ale unei persoane fizice, proprietatea unei persoane fizice sau juridice, sau care cauzează un prejudiciu moral semnificativ care provoacă o pierdere economică verificabilă;

(j)  „producător” înseamnă producătorul, astfel cum este definit la articolul 3 din Directiva 85/374/CEE.

Capitolul II

Sisteme de IA cu grad ridicat de risc

Articolul 4

Răspunderea obiectivă pentru sistemele de IA cu grad ridicat de risc

(1)  Operatorul unui sistem de IA cu grad ridicat de risc este răspunzător obiectiv pentru orice daune sau prejudicii care au fost cauzate de o activitate fizică sau virtuală, de un dispozitiv sau un proces condus de acest sistem de IA.

(2)  Toate sistemele de IA cu grad ridicat de risc și toate sectoarele critice în care sunt utilizate acestea sunt enumerate în anexa la prezentul regulament. Comisia este împuternicită să adopte acte delegate, în conformitate cu articolul 13, pentru a modifica respectiva listă exhaustivă din anexă, prin:

(a)  includerea noilor tipuri de sisteme de IA cu grad ridicat de risc și a sectoarelor critice în care sunt implementate;

(b)  eliminarea tipurilor de sisteme de IA care nu mai pot fi considerate ca prezentând un grad ridicat de risc; și/sau

(c)  modificarea sectoarelor critice pentru sistemele de IA cu grad ridicat de risc existente.

Orice act delegat de modificare a anexei intră în vigoare la șase luni de la adoptarea sa. Atunci când determină noi sisteme de IA cu grad ridicat de risc și/sau sectoare critice care urmează să fie introduse în anexă prin intermediul unor acte delegate, Comisia ține seama pe deplin de criteriile stabilite în prezentul regulament, în special de cele menționate la articolul 3 litera (c).

(3)  Operatorii unor sisteme de IA cu grad ridicat de risc nu se pot exonera de răspundere susținând că au acționat cu diligența necesară sau că dauna sau prejudiciul a fost cauzat de o activitate autonomă, de un dispozitiv sau de un proces determinat de sistemul lor de IA. Operatorii nu sunt considerați răspunzători dacă dauna sau prejudiciul a fost cauzat de un caz de forță majoră.

(4)  Operatorii finali ai unui sistem de IA cu grad ridicat de risc se asigură că operațiunile respectivului sistem de IA sunt acoperite de o asigurare de răspundere civilă adecvată în raport cu sumele și amploarea despăgubirii prevăzute la articolele 5 și 6 din prezentul regulament. Operatorii inițiali se asigură că serviciile sale sunt acoperite de o asigurare de răspundere civilă pentru întreprinderi sau pentru produse adecvată în raport cu sumele și amploarea despăgubirii prevăzute la articolele 5 și 6 din prezentul regulament. În cazul în care se consideră că regimurile de asigurare obligatorie pentru operatorii finali sau inițiali , care sunt deja în vigoare în temeiul altor dispoziții legislative ale Uniunii sau în temeiul dreptului național, sau fondurile de asigurări voluntare pentru întreprinderi acoperă operarea sistemului de IA sau serviciul furnizat, obligația de a încheia o asigurare pentru sistemul de IA sau serviciul furnizat în temeiul prezentului regulament se consideră îndeplinită, atât timp cât asigurarea existentă obligatorie relevantă sau fondurile de asigurări voluntare pentru întreprinderi acoperă sumele și amploarea despăgubirii prevăzute la articolele 5 și 6 din prezentul regulament.

(5)  Prezentul regulament prevalează asupra regimurilor naționale în materie de răspundere în cazul unei clasificări contradictorii a răspunderii obiective a sistemelor de IA.

Articolul 5

Cuantumul despăgubirii

(1)   Operatorul unui sistem de IA cu grad ridicat de risc considerat răspunzător pentru un prejudiciu sau o daună în temeiul prezentului regulament oferă despăgubiri:

(a)  până la o valoare maximă de două milioane EUR în caz de deces, sau în caz de vătămare a sănătății sau a integrității fizice a persoanei afectate, ca rezultat al unei operațiuni a unui sistem unic de IA cu grad ridicat de risc;

(b)  până la o valoare maximă de un milion EUR în caz de prejudiciu moral semnificativ care provoacă o pierdere economică verificabilă sau daune materiale, inclusiv în cazul în care mai multe bunuri ale unei persoane afectate au fost deteriorate ca rezultat al unei operațiuni unice a unui singur sistem de IA cu grad ridicat de risc; în cazul în care persoana afectată formulează, de asemenea, o cerere de despăgubire invocând răspunderea contractuală împotriva operatorului, nu se plătește nicio despăgubire în temeiul prezentului regulament dacă valoarea totală a daunelor materiale sau a prejudiciului moral semnificativ este mai mică de [500 EUR](9).

(2)  În cazul în care despăgubirea combinată care trebuie plătită mai multor persoane care suferă prejudicii sau daune cauzate de aceeași operațiune a aceluiași sistem de IA cu grad ridicat de risc depășește cuantumurile maxime prevăzute la alineatul (1), sumele care trebuie plătite fiecărei persoane sunt reduse proporțional, astfel încât despăgubirea combinată să nu depășească cuantumurile maxime stabilite la alineatul (1).

Articolul 6

Amploarea despăgubirii

(1)  În limita sumei prevăzute la articolul 5 alineatul (1) litera (a), despăgubirea care trebuie plătită de operatorul considerat răspunzător în cazul unui prejudiciu fizic urmat de decesul persoanei afectate se calculează pe baza costurilor tratamentului medical pe care persoana afectată l-a suferit anterior decesului și a prejudiciului pecuniar suferit înainte de deces, provocat de încetarea sau reducerea capacității de a realiza un venit sau de creșterea nevoilor sale pe durata prejudiciului, înainte de deces. Mai mult, operatorul considerat răspunzător rambursează cheltuielile de înmormântare pentru persoana afectată decedată părții responsabile de acoperirea acestor cheltuieli.

În cazul în care, în momentul incidentului care a cauzat prejudiciul care a condus la decesul său, persoana afectată se afla într-o relație cu un terț și avea obligația legală de a sprijini terțul respectiv, operatorul considerat răspunzător despăgubește terțul prin plata unei obligații de întreținere în măsura în care persoana afectată ar fi fost obligată să plătească, pentru perioada corespunzătoare speranței medii de viață pentru o persoană de vârsta și condiția sa generală. Operatorul despăgubește, de asemenea, terțul dacă, la data incidentului care a cauzat decesul, terțul fusese conceput dar nu se născuse încă.

(2)  În limita sumei prevăzute la articolul 5 alineatul (1) litera (b), despăgubirea care trebuie plătită de operatorul considerat răspunzător în cazul unei vătămări a sănătății sau a integrității fizice a persoanei afectate include costurile tratamentului medical aferent, precum și plata oricărui prejudiciu pecuniar suferit de persoana afectată, ca rezultat al suspendării temporare, a reducerii sau încetării definitive a capacității sale de a realiza un venit, sau de creșterea nevoilor sale, dovedită medical, ca o consecință a incidentului.

Articolul 7

Termenul de prescripție

(1)  Acțiunile în răspundere civilă, formulate în conformitate cu articolul 4 alineatul (1), care privesc prejudiciile aduse vieții, sănătății sau integrității fizice, sunt supuse unui termen de prescripție special de 30 ani de la data la care s-a produs prejudiciul.

(2)  Acțiunile în răspundere civilă, formulate în conformitate cu articolul 4 alineatul (1), care privesc daune materiale sau daune morale semnificative care provoacă o pierdere economică verificabilă sunt supuse unui termen de prescripție special de:

(a)  10 ani de la data la care s-a produs dauna materială sau, respectiv, pierderea economică verificabilă care a fost provocată de dauna morală semnificativă, sau

(b)  30 de ani de la data la care a avut loc operațiunea sistemului de IA cu grad ridicat de risc care a provocat ulterior dauna materială sau dauna morală.

Dintre perioadele menționate la primul paragraf, se aplică perioada care se încheie prima.

(3)  Prezentul articol nu aduce atingere dreptului național care reglementează suspendarea sau întreruperea termenelor de prescripție.

Capitolul III

Alte sisteme de IA

Articolul 8

Răspunderea cu vinovăție pentru alte sisteme de IA

(1)  Operatorul unui sistem de IA care nu este un sistem de IA cu grad ridicat de risc, astfel cum se prevede la articolul 3 litera (c) și articolul (4) alineatul (2), și, în consecință, nu este inclus în anexa la prezentul regulament, face obiectul unei răspunderi cu vinovăție pentru orice daune sau prejudicii care au fost cauzate de o activitate fizică sau virtuală, un dispozitiv sau un proces determinat de sistemul de IA.

(2)  Operatorul nu este răspunzător în cazul în care poate dovedi că dauna sau prejudiciul a fost cauzat fără ca el să fie de vină, invocând unul dintre următoarele motive:

(a)  sistemul de IA a fost activat fără știrea sa, în timp ce au fost luate toate măsurile rezonabile și necesare pentru evitarea unei astfel de activări, care a avut loc dincolo de controlul operatorului, sau

(b)  obligația de diligență necesară a fost respectată prin realizarea tuturor acțiunilor următoare: selectarea unui sistem de IA potrivit pentru sarcinile și competențele adecvate, punerea în funcțiune a sistemului de IA în mod corespunzător, monitorizarea activităților și menținerea fiabilității operaționale prin instalarea periodică a tuturor actualizărilor disponibile.

Operatorul nu poate evita antrenarea răspunderii susținând că dauna sau prejudiciul a fost cauzat de o activitate autonomă, de un dispozitiv sau de un proces determinat de sistemul său de IA. Operatorul nu este răspunzător dacă dauna sau prejudiciul a fost cauzat de un caz de forță majoră.

(3)  În cazul în care dauna sau prejudiciul a fost cauzat de un terț care a intervenit în sistemul de IA prin modificarea funcționării sau a efectelor acestuia, operatorul este totuși răspunzător pentru plata despăgubirii în cazul în care terțul respectiv nu poate fi identificat sau nu dispune de resurse financiare.

(4)  La cererea operatorului sau a persoanei afectate, producătorul unui sistem de IA are obligația de a coopera cu aceștia și de a le furniza informații, în măsura în care acest lucru este justificat de importanța cererii, pentru a permite stabilirea responsabililor.

Articolul 9

Dispozițiile naționale privind despăgubirile și termenul de prescripție

Acțiunile în răspundere civilă, formulate în conformitate cu articolul 8 alineatul (1), sunt supuse legislației statului membru în care s-a produs dauna sau prejudiciul, în ceea ce privește termenele de prescripție și cuantumul și amploarea despăgubirii.

Capitolul IV

Repartizarea răspunderii

Articolul 10

Neglijență concurentă

(1)  Dacă dauna sau prejudiciul este cauzat atât de o activitate fizică sau virtuală, de un dispozitiv sau de un proces condus de un sistem de IA, cât și de acțiunile unei persoane afectate sau ale oricărei persoane de care persoana afectată este responsabilă, gradul de răspundere al operatorului, în temeiul prezentului regulament, se reduce în mod corespunzător. Operatorul nu este răspunzător în cazul în care persoana afectată sau persoana de care aceasta este responsabilă este răspunzătoare în totalitate de dauna sau prejudiciul cauzat.

(2)  Un operator considerat răspunzător poate utiliza datele generate de sistemul de IA pentru a demonstra neglijența concurentă din partea persoanei afectate, în conformitate cu Regulamentul (UE) 2016/679 și cu alte acte legislative relevante în materie de protecție a datelor. Persoana afectată poate utiliza astfel de date și ca mijloc de probă sau clarificare în cererea de despăgubire.

Articolul 11

Răspunderea solidară

În cazul în care există mai mult de un operator al unui sistem de IA, respectivii operatori sunt răspunzători solidar și indivizibil. Dacă un operator final este în același timp și producătorul sistemului de IA, acest regulament prevalează asupra Directivei privind răspunderea pentru produse. Dacă operatorul inițial se califică, de asemenea, ca producător, astfel cum este definit la articolul 3 din Directiva privind răspunderea pentru produse, directiva respectivă ar trebui să i se aplice. Dacă există un singur operator și respectivul operator este în același timp și producătorul sistemului de IA, acest regulament ar trebui să prevaleze asupra Directivei privind răspunderea pentru produse.

Articolul 12

Acțiune în regres pentru despăgubiri

(1)  Operatorul nu are dreptul să introducă o acțiune în regres, decât în cazul în care persoana afectată a primit integral plata tuturor despăgubirilor care i se cuvin în temeiul prezentului regulament.

(2)  În cazul în care operatorul este considerat răspunzător în solidar cu alți operatori față de o persoană afectată și a despăgubit pe deplin persoana afectată în cauză, în conformitate cu articolul 4 alineatul (1) sau cu articolul 8 alineatul (1), operatorul respectiv poate recupera o parte din despăgubire de la ceilalți operatori, proporțional cu răspunderea sa.

Proporția răspunderii se bazează pe respective grade de control pe care le au operatorii asupra riscului legat de operarea și funcționarea sistemului de IA. În cazul în care contribuția imputabilă unui operator solidar nu poate fi obținută de la el, deficitul este suportat de către ceilalți operatori. În măsura în care un operator răspunzător solidar despăgubește persoana afectată și solicită recuperarea plăților deja plătite de la ceilalți operatori răspunzători, acest operator se subrogă în cererea persoanei afectate împotriva celorlalți operatori . Cererile de subrogare nu se invocă în dezavantajul cererii inițiale.

(3)  În cazul în care operatorul unui sistem de IA cu defect despăgubește în totalitate persoana afectată pentru daune sau prejudicii în conformitate cu articolul 4 alineatul (1) sau 8 alineatul (1) din prezentul Regulament, acesta se poate întoarce împotriva producătorului sistemului de IA defect în conformitate cu Directiva 85/374/CEE și cu dispozițiile naționale privind răspunderea pentru produsele cu defect.

(4)  În cazul în care asigurătorul operatorului indemnizează persoana afectată pentru un prejudiciu sau o daună în conformitate cu articolul 4 alineatul (1) sau cu articolul 8 alineatul (1), asigurătorul operatorului poate subroga orice acțiune în răspundere civilă a persoanei afectate împotriva unei alte persoane pentru aceeași daună până la limita sumei cu care asigurătorul operatorului a despăgubit persoana afectată.

Capitolul V

Dispoziții finale

Articolul 13

Exercitarea delegării de competențe

(1)  Competența de a adopta acte delegate este conferită Comisiei în condițiile prevăzute la prezentul articol.

(2)  Competența de a adopta actele delegate menționate la articolul 4 alineatul (2) este conferită Comisiei pentru o perioadă de timp de cinci ani începând cu [data de aplicare a prezentului regulament].

(3)  Delegarea de competențe menționată la articolul 4 alineatul (2) poate fi revocată oricând de Parlamentul European sau de Consiliu. O decizie de revocare pune capăt delegării de competențe specificate în decizia respectivă. Decizia produce efecte din ziua care urmează datei publicării acesteia în Jurnalul Oficial al Uniunii Europene sau de la o dată ulterioară menționată în decizie. Decizia nu aduce atingere actelor delegate care sunt deja în vigoare.

(4)  Înainte de adoptarea unui act delegat, Comisia consultă comitetul tehnic permanent pentru sistemele de IA cu grad ridicat de risc (comitetul TCRAI) în conformitate cu principiile prevăzute în Acordul interinstituțional din 13 aprilie 2016 privind o mai bună legiferare.

(5)  De îndată ce adoptă un act delegat, Comisia îl notifică simultan Parlamentului European și Consiliului.

(6)  Un act delegat adoptat în temeiul articolului 4 alineatul (2) intră în vigoare numai dacă nu a fost formulată nicio obiecție de către Parlamentul European sau de către Consiliu în termen de două luni de la notificare sau dacă, înainte de expirarea acestui termen, Parlamentul European și Consiliul informează Comisia că nu vor formula obiecții. Respectivul termen se prelungește cu două luni la inițiativa Parlamentului European sau a Consiliului.

Articolul 14

Reexaminare

Până la data de 1 ianuarie 202X [3 ani de la data aplicării prezentului regulament] și, ulterior, la fiecare trei ani, Comisia prezintă Parlamentului European, Consiliului și Comitetului Economic și Social European un raport detaliat privind revizuirea prezentului regulament, având în vedere dezvoltarea ulterioară a inteligenței artificiale.

La elaborarea raportului menționat la primul paragraf, Comisia solicită informații relevante din partea statelor membre privind jurisprudența, tranzacțiile judiciare, precum și statisticile privind accidentele, cum ar fi numărul de accidente, daunele suferite, aplicațiile de IA implicate, compensațiile plătite de societățile de asigurare, precum și o evaluare a numărului de cereri depuse de persoane afectate, fie individual, fie colectiv, precum și a termenelor în care aceste cereri sunt examinate în instanță.

Raportul Comisiei este însoțit, dacă este cazul, de propuneri legislative menite să abordeze toate lacunele identificate în raport.

Articolul 15

Intrarea în vigoare

Prezentul regulament intră în vigoare în a douăzecea zi de la data publicării în Jurnalul Oficial al Uniunii Europene.

Acesta se aplică de la 1 ianuarie 202X.

Prezentul regulament este obligatoriu în toate elementele sale și se aplică direct în toate statele membre.

Adoptat la...,

Pentru Parlamentul European Pentru Consiliu

Președintele Președintele

(1) JO ...
(2) JO ...
(3) Directiva 85/374/CEE a Consiliului din 25 iulie 1985 de apropiere a actelor cu putere de lege și a actelor administrative ale statelor membre cu privire la răspunderea pentru produsele cu defect (JO L 210, 7.8.1985, p. 29).
(4) JO L 123, 12.5.2016, p. 1.
(5) A se consulta pagina 24 din Cartea albă a Comisiei Europene din 19 februarie 2020 intitulată „Inteligența artificială - O abordare europeană axată pe excelență și încredere” (COM(2020)0065).
(6) Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului din 27 aprilie 2016 privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal și privind libera circulație a acestor date și de abrogare a Directivei 95/46/CE (Regulamentul general privind protecția datelor) (JO L 119, 4.5.2016, p. 1).
(7) Regulamentul (UE) 2018/858 al Parlamentului European și al Consiliului din 30 mai 2018 privind omologarea și supravegherea pieței autovehiculelor și remorcilor acestora, precum și ale sistemelor, componentelor și unităților tehnice separate destinate vehiculelor respective, de modificare a Regulamentelor (CE) nr. 715/2007 și (CE) nr. 595/2009 și de abrogare a Directivei 2007/46/CE (JO L 151, 14.6.2018, p. 1).
(8) Regulamentul (UE) 2019/1020 al Parlamentului European și al Consiliului din 20 iunie 2019 privind supravegherea pieței și conformitatea produselor și de modificare a Directivei 2004/42/CE și a Regulamentelor (CE) nr. 765/2008 și (UE) nr. 305/2011 (JO L 169, 25.6.2019, p. 1).
(9) A se revizui de către Comisie, astfel cum este prevăzut la paragraful 19 din rezoluție.


ANEXĂ

[...]

Ultima actualizare: 22 ianuarie 2021Aviz juridic - Politica de confidențialitate