Indice 
 Precedente 
 Seguente 
 Testo integrale 
Procedura : 2020/2014(INL)
Ciclo di vita in Aula
Ciclo del documento : A9-0178/2020

Testi presentati :

A9-0178/2020

Discussioni :

PV 19/10/2020 - 18
CRE 19/10/2020 - 15
CRE 19/10/2020 - 18

Votazioni :

Testi approvati :

P9_TA(2020)0276

Testi approvati
PDF 239kWORD 86k
Martedì 20 ottobre 2020 - Bruxelles Edizione definitiva
Regime di responsabilità civile per l'intelligenza artificiale
P9_TA(2020)0276A9-0178/2020
Risoluzione
 Allegato
 Allegato

Risoluzione del Parlamento europeo del 20 ottobre 2020 recante raccomandazioni alla Commissione su un regime di responsabilità civile per l'intelligenza artificiale (2020/2014(INL))

Il Parlamento europeo,

–  visto l'articolo 225 del trattato sul funzionamento dell'Unione europea,

–  visti gli articoli 114 e 169 del trattato sul funzionamento dell'Unione europea,

–  vista la direttiva 85/374/CEE del Consiglio del 25 luglio 1985 relativa al ravvicinamento delle disposizioni legislative, regolamentari ed amministrative degli Stati membri in materia di responsabilità per danno da prodotti difettosi(1) (direttiva sulla responsabilità da prodotti difettosi),

–  viste la direttiva 2005/29/CE del Parlamento europeo e del Consiglio, dell'11 maggio 2005, relativa alle pratiche commerciali sleali tra imprese e consumatori nel mercato interno(2) ("direttiva sulle pratiche commerciali sleali") e la direttiva 2011/83/UE del Parlamento europeo e del Consiglio, del 25 ottobre 2011, sui diritti dei consumatori(3), come pure altre norme relative alla protezione dei consumatori,

–  visto il regolamento (UE) 2017/745 del Parlamento europeo e del Consiglio, del 5 aprile 2017, relativo ai dispositivi medici(4),

–  visto il regolamento (UE) 2018/1488 del Consiglio, del 28 settembre 2018, che istituisce l'impresa comune per il calcolo ad alte prestazioni europeo(5),

–  vista la direttiva (UE) 2019/770 del Parlamento europeo e del Consiglio, del 20 maggio 2019, relativa a determinati aspetti dei contratti di fornitura di contenuto digitale e di servizi digitali(6),

–  visti l'accordo interistituzionale, del 13 aprile 2016, "Legiferare meglio" e gli orientamenti in materia(7),

–  vista la proposta di regolamento del Parlamento europeo e del Consiglio, del 6 giugno 2018, che istituisce il programma Europa digitale per il periodo 2021-2027 (COM(2018)0434),

–  vista la comunicazione della Commissione, del 25 aprile 2018, dal titolo "L'intelligenza artificiale per l'Europa" (COM(2018)0237),

–  vista la comunicazione della Commissione, del 7 dicembre 2018, dal titolo "Piano coordinato sull'intelligenza artificiale" (COM(2018)0795),

–  vista la comunicazione della Commissione, dell'8 aprile 2019, dal titolo "Creare fiducia nell'intelligenza artificiale antropocentrica" (COM(2019)0168),

–  vista la relazione della Commissione al Parlamento europeo, al Consiglio e al Comitato economico e sociale europeo, del 19 febbraio 2020, sulle implicazioni dell'intelligenza artificiale, dell'Internet delle cose e della robotica in materia di sicurezza e di responsabilità (COM(2020)0064),

–  visto il Libro bianco della Commissione, del 19 febbraio 2020, dal titolo "Intelligenza artificiale - Un approccio europeo all'eccellenza e alla fiducia" (COM(2020)0065),

–  vista la sua risoluzione del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica(8),

–  vista la sua risoluzione del 1° giugno 2017 sulla digitalizzazione dell'industria europea(9),

–  vista la sua risoluzione del 12 settembre 2018 sui sistemi d'arma autonomi(10),

–  vista la sua risoluzione del 12 febbraio 2019 su una politica industriale europea globale in materia di robotica e intelligenza artificiale(11),

–  vista la sua risoluzione del 12 febbraio 2020 sui processi decisionali automatizzati: garantire la tutela dei consumatori e la libera circolazione di beni e servizi(12),

–  vista la relazione dal titolo "Ethics Guidelines for trustworthy AI" (Orientamenti etici per un'IA affidabile), pubblicata l'8 aprile 2019 dal gruppo di esperti ad alto livello sull'IA,

–  vista la relazione dal titolo "A definition of AI: Main Capabilities and Disciplines" (Una definizione di IA: principali capacità e discipline), pubblicata l'8 aprile 2019 dal gruppo di esperti ad alto livello sull'IA,

–  vista la relazione dal titolo "Policy and investment recommendations for trustworthy AI" (Raccomandazioni sulle politiche e gli investimenti per un'IA affidabile), pubblicata il 26 giugno 2019 dal gruppo di esperti ad alto livello sull'IA,

–  vista la relazione dal titolo "Liability for Artificial Intelligence and other emerging digital technologies" (Responsabilità per l'intelligenza artificiale e altre tecnologie digitali emergenti), pubblicata il 21 novembre 2019 dalla formazione sulle nuove tecnologie del gruppo di esperti sulla responsabilità e sulle nuove tecnologie,

–  visto lo studio sulla valutazione del valore aggiunto europeo realizzato dal Servizio europeo di ricerca parlamentare, dal titolo "Civil liability regime for artificial intelligence: European added value assessment" (Regime della responsabilità civile per l'intelligenza artificiale: valutazione del valore aggiunto europeo)(13),

–  vista la nota informativa del Comitato per il futuro della scienza e della tecnologia (STOA) del Servizio Ricerca del Parlamento europeo, del giugno 2016, dal titolo "Legal and ethical reflections concerning robotics" (Riflessioni giuridiche ed etiche concernenti la robotica)(14),

–  visto lo studio della Direzione generale delle Politiche interne del Parlamento europeo, dell'ottobre 2016, destinato alla commissione giuridica dal titolo "European Civil Law Rules in Robotics" (Norme di diritto civile europeo nella robotica),(15)

–  visti gli articoli 47 e 54 del suo regolamento,

–  visti i pareri della commissione per il mercato interno e la protezione dei consumatori e della commissione per i trasporti e il turismo,

–  vista la relazione della commissione giuridica (A9-0178/2020),

A.  considerando che il concetto di "responsabilità" svolge un duplice ruolo importante nella nostra vita quotidiana: da un lato, garantisce che una persona vittima di un danno o pregiudizio abbia il diritto di chiedere un risarcimento alla parte di cui sia stata dimostrata la responsabilità di tale danno o pregiudizio e di ricevere il risarcimento dalla stessa e, dall'altro lato, fornisce incentivi economici alle persone fisiche e giuridiche affinché evitino sin dall'inizio di causare danni o pregiudizi, nonché quantifica l'esposizione all'obbligo di risarcimento dei loro comportamenti;

B.  considerando che qualsiasi quadro giuridico in materia di responsabilità civile orientato al futuro deve infondere fiducia nella sicurezza, nell'affidabilità e nella coerenza di prodotti e servizi, compresa la tecnologia digitale, al fine di trovare un equilibrio tra l'efficace ed equa tutela delle potenziali vittime di danni o pregiudizi e, allo stesso tempo, la disponibilità di una sufficiente libertà d'azione per consentire alle imprese, in particolare alle piccole e medie imprese, di sviluppare nuove tecnologie e nuovi prodotti o servizi; che ciò contribuirà a rafforzare la fiducia e a creare stabilità per gli investimenti; che l'obiettivo ultimo di qualsiasi quadro in materia di responsabilità dovrebbe essere quello di garantire la certezza del diritto per tutte le parti, che si tratti del produttore, dell'operatore, della persona interessata o di terzi;

C.  considerando che l'ordinamento giuridico di uno Stato membro può adeguare le proprie norme in materia di responsabilità per alcuni soggetti o rendere più oggettive per alcune attività; che la responsabilità oggettiva significa che una parte può essere ritenuta responsabile pur in assenza di colpa; che numerose norme nazionali in materia di responsabilità civile ritengono il convenuto oggettivamente responsabile se un rischio che egli stesso ha creato per il pubblico, come ad esempio nel caso di automobili o attività pericolose, o un rischio che non è in grado di controllare, come nel caso di animali, causa danni o pregiudizi;

D.  considerando che qualsiasi futura legislazione dell'Unione avente come obiettivo l'esplicita attribuzione della responsabilità in relazione ai sistemi di intelligenza artificiale (IA) dovrebbe essere preceduta da un'analisi e dalla consultazione con gli Stati membri riguardo alla conformità dell'atto legislativo proposto alle condizioni economiche, giuridiche e sociali;

E.  considerando che la questione di un regime di responsabilità civile per l'IA dovrebbe essere oggetto di un ampio dibattito pubblico, che tenga conto di tutti gli interessi in gioco, in particolare degli aspetti etici, giuridici, economici e sociali, per evitare i malintesi e i timori ingiustificati che questa tecnologia può far sorgere tra i cittadini; che un attento esame, all'interno di una valutazione d'impatto, delle conseguenze di un nuovo quadro normativo su tutti gli attori dovrebbe costituire un presupposto indispensabile di ulteriori misure legislative;

F.  considerando che il concetto di sistemi di IA comprende una vasta gamma di tecnologie diverse, tra cui semplici statistiche, l'apprendimento automatico e l'apprendimento profondo;

G.  considerando che l'utilizzo del termine "processo decisionale automatizzato" potrebbe evitare la possibile ambiguità del termine IA; che il "processo decisionale automatizzato" implica che un utente deleghi inizialmente una decisione, in parte o interamente, a un'entità utilizzando un software o un servizio; che tale entità a sua volta utilizza modelli decisionali automatizzati per lo svolgimento di un'azione per conto di un utente, o per informare le decisioni dell'utente nello svolgimento di un'azione;

H.  considerando che taluni sistemi di IA pongono il quadro attuale in materia di responsabilità dinanzi a sfide giuridiche significative e potrebbero portare a situazioni in cui la loro opacità potrebbe rendere estremamente oneroso o addirittura impossibile identificare chi avesse il controllo del rischio associato al sistema di IA o quale codice, input o dati abbiano causato, in definitiva, l'attività pregiudizievole; che tale fattore potrebbe rendere più difficile individuare il legame tra il danno o il pregiudizio e il comportamento che lo ha causato, con il risultato che le vittime potrebbero non ricevere un adeguato risarcimento;

I.  considerando che le sfide giuridiche derivano anche dalla connettività tra un sistema di IA e altri sistemi, di IA e non di IA, dalla dipendenza dai dati esterni, dalla vulnerabilità a violazioni della cibersicurezza e dalla progettazione di sistemi di IA sempre più autonomi, che si avvalgono, tra l'altro, di tecniche di apprendimento automatico e di apprendimento profondo;

J.  considerando che norme etiche adeguate per i sistemi di IA unite a procedure di risarcimento solide ed eque possono contribuire ad affrontare tali sfide giuridiche e a evitare il rischio che gli utenti siano meno propensi ad accettare le tecnologie emergenti; che procedure eque in materia di risarcimento implicano che ogni persona che subisca un danno cagionato da sistemi di IA o il cui patrimonio sia danneggiato da sistemi di IA benefici dello stesso livello di protezione previsto per i casi in cui non sia coinvolto un sistema di IA; che l'utente deve avere la certezza che per il potenziale danno arrecato dai sistemi che utilizzano l'IA esistano un'adeguata copertura assicurativa e una via legale definita per il risarcimento;

K.  considerando che la certezza giuridica è anche una condizione essenziale per lo sviluppo e l'innovazione dinamici di una tecnologia basata sull'IA, in particolare per le start-up, le microimprese e le piccole e medie imprese, e per la sua applicazione pratica nella vita quotidiana; che il ruolo fondamentale delle start-up, delle microimprese e delle piccole e medie imprese, soprattutto nell'ambito dell'economia europea, giustifica un approccio strettamente proporzionato per consentire loro di svilupparsi e di innovare;

L.  considerando che la molteplicità dei sistemi di IA e la gamma diversificata di rischi che questa tecnologia comporta complicano gli sforzi intesi a trovare un'unica soluzione per l'intero spettro dei rischi; che, a tale proposito, sarebbe opportuno adottare un approccio in cui si ricorra a sperimentazioni, progetti pilota e spazi di sperimentazione normativa per trovare soluzioni proporzionate e basate su dati concreti che affrontino, ove necessario, situazioni e settori specifici;

Introduzione

1.  ritiene che la sfida relativa all'introduzione di sistemi di IA nella società, nei luoghi di lavoro e nell'economia sia una delle questioni più importanti dell'attuale agenda politica; è del parere che le tecnologie basate sull'IA potrebbero e dovrebbero cercare di migliorare la nostra vita in quasi ogni settore, dalla sfera personale (ad esempio il settore dei trasporti, l'istruzione personalizzata, l'assistenza alle persone vulnerabili, i programmi di fitness e la concessione di credito), all'ambiente di lavoro (ad esempio, l'alleggerimento di attività noiose e ripetitive) fino alle sfide globali (ad esempio i cambiamenti climatici, l'assistenza sanitaria, la nutrizione e la logistica);

2.  è fermamente convinto che per sfruttare in modo efficiente i vantaggi e prevenire possibili usi impropri dei sistemi di IA, nonché evitare la frammentazione normativa nell'Unione, sia essenziale disporre in tutta l'Unione, per tutti i sistemi di IA, di una legislazione uniforme, basata su principi e adeguata alle esigenze future; è del parere che, benché siano preferibili regolamentazioni settoriali per l'ampia gamma delle possibili applicazioni, appare necessario un quadro giuridico orizzontale e armonizzato, basato su principi comuni, per garantire la certezza giuridica, fissare norme uniformi in tutta l'Unione e tutelare efficacemente i valori europei e i diritti dei cittadini;

3.  afferma che il mercato unico digitale deve essere pienamente armonizzato, dato che la sfera digitale è caratterizzata da rapide dinamiche transfrontaliere e da flussi di dati internazionali; ritiene che l'Unione conseguirà gli obiettivi di mantenere la sovranità digitale dell'Unione e di stimolare l'innovazione digitale in Europa solo ricorrendo a norme coerenti e comuni, in linea con una cultura dell'innovazione;

4.  prende atto del fatto che la corsa mondiale all'IA è già in atto e che in tale ambito l'Unione dovrebbe svolgere un ruolo di primo piano, sfruttando il proprio potenziale scientifico e tecnologico; sottolinea con forza che lo sviluppo tecnologico non deve pregiudicare la tutela degli utenti dai danni che possono essere cagionati da dispositivi e sistemi che utilizzano l'IA; incoraggia la promozione a livello internazionale delle norme dell'Unione in materia di responsabilità civile;

5.  è fermamente convinto che le nuove norme comuni per i sistemi di IA dovrebbero assumere unicamente la forma di un regolamento; ritiene che la questione della responsabilità nei casi di danni o pregiudizi provocati da un sistema di IA sia uno degli aspetti essenziali da affrontare nell'ambito di tale quadro;

Responsabilità e intelligenza artificiale

6.  è convinto che non sia necessaria una revisione completa dei regimi di responsabilità correttamente funzionanti, ma che la complessità, la connettività, l'opacità, la vulnerabilità, la capacità di modifica mediante aggiornamenti, l'autoapprendimento e la potenziale autonomia dei sistemi di IA, come pure la molteplicità degli attori coinvolti nel settore rappresentino comunque una sfida significativa per l'efficacia dei quadri normativi dell'Unione e nazionali in materia di responsabilità; ritiene che occorrano adeguamenti specifici e coordinati dei regimi di responsabilità per evitare una situazione in cui le persone che subiscono pregiudizi o danni al patrimonio non ottengano un risarcimento;

7.  osserva che tutte le attività, i dispositivi o i processi fisici o virtuali che sono guidati da sistemi di IA possono essere tecnicamente la causa diretta o indiretta di danni o pregiudizi, ma sono quasi sempre il risultato della creazione, della diffusione o dell'interferenza con i sistemi da parte di qualcuno; rileva a tale proposito che non è necessario conferire personalità giuridica ai sistemi di IA; è del parere che l'opacità, la connettività e l'autonomia dei sistemi di IA potrebbero rendere, nella pratica, molto difficile o addirittura impossibile ricondurre specifiche azioni dannose dei sistemi di IA a uno specifico input umano o a decisioni adottate in fase di progettazione; ricorda che, conformemente a concetti di responsabilità ampiamente accettati, è tuttavia possibile aggirare tale ostacolo considerando responsabili le varie persone nella catena del valore che creano il sistema di IA, ne eseguono la manutenzione o ne controllano i rischi associati;

8.  ritiene che la direttiva sulla responsabilità per danno da prodotti difettosi abbia dimostrato, per oltre trent'anni, di essere un mezzo efficace per ottenere un risarcimento per i danni cagionati da un prodotto difettoso, ma che dovrebbe ciononostante essere rivista per adattarla al mondo digitale e per affrontare le sfide poste dalle tecnologie digitali emergenti, garantendo in tal modo un livello elevato di efficace protezione dei consumatori, come pure la certezza giuridica per i consumatori e le imprese, evitando nel contempo costi e rischi elevati per le PMI e le start-up; esorta la Commissione a valutare se la direttiva sulla responsabilità per danno da prodotti difettosi debba essere trasformata in un regolamento, a chiarire la definizione di "prodotti" determinando se i contenuti e i servizi digitali rientrino nel suo ambito di applicazione, nonché a esaminare l'adeguamento di concetti quali "pregiudizio", "difetto" e "produttore"; è del parere che, ai fini della certezza giuridica nell'intera Unione, in seguito alla revisione della direttiva sulla responsabilità per danno da prodotti difettosi, il concetto di "produttore" dovrebbe includere i produttori, gli sviluppatori, i programmatori, i prestatori di servizi e gli operatori di back-end; invita la Commissione a valutare l'inversione delle norme che disciplinano l'onere della prova per i danni causati dalle tecnologie digitali emergenti in casi chiaramente definiti e previa un'adeguata valutazione; sottolinea l'importanza di garantire che l'atto dell'Unione aggiornato resti limitato a problemi chiaramente individuati per i quali esistono già soluzioni praticabili e al tempo stesso consenta di coprire i futuri sviluppi tecnologici, tra cui gli sviluppi basati su software liberi e aperti; osserva che la direttiva sulla responsabilità per danno da prodotti difettosi dovrebbe continuare ad applicarsi anche nel caso di azioni per responsabilità civile nei confronti del produttore di un sistema di IA difettoso, laddove tale sistema possa essere considerato come prodotto ai sensi della suddetta direttiva; sottolinea che qualsiasi aggiornamento del quadro della responsabilità per danno da prodotti difettosi dovrebbe andare di pari passo con l'aggiornamento della direttiva 2001/95/CE del Parlamento europeo e del Consiglio, del 3 dicembre 2001, relativa alla sicurezza generale dei prodotti(16), al fine di garantire che i sistemi di IA integrino la sicurezza e la protezione fin dalla progettazione;

9.  ritiene che il vigente diritto degli Stati membri in materia di responsabilità civile per colpa offra, il più delle volte, un livello sufficiente di tutela alle persone che subiscono danni a seguito dell'interferenza di un terzo, quale un hacker, o danni patrimoniali da parte di tale terzo, in quanto l'interferenza costituisce sistematicamente un'azione basata sulla colpa; osserva che solo per casi specifici, inclusi quelli in cui il terzo sia irrintracciabile o insolvibile, appaiono necessarie ulteriori norme in materia di responsabilità per integrare il diritto nazionale in materia di responsabilità civile;

10.  ritiene pertanto opportuno che la presente relazione si concentri sulle azioni per responsabilità civile nei confronti dell'operatore di un sistema di IA; afferma che la responsabilità dell'operatore è giustificata dal fatto che tale persona sta controllando un rischio associato al sistema di IA, in modo analogo al proprietario di un'automobile; ritiene che, vista la complessità e la connettività di un sistema di IA, l'operatore sarà, in molti casi, il primo punto di contatto visibile per la persona interessata;

Responsabilità dell'operatore

11.  reputa che le norme in materia di responsabilità che riguardano l'operatore dovrebbero contemplare tutte le attività dei sistemi di IA, a prescindere da dove esse si svolgono e dal fatto che avvengano fisicamente o virtualmente; sottolinea che le attività in spazi pubblici che espongono a un rischio molte persone costituiscono, tuttavia, casi che richiedono ulteriori riflessioni; ritiene che le potenziali vittime di danni o pregiudizi spesso non siano consapevoli del funzionamento del sistema di IA e normalmente non potrebbero far valere una responsabilità contrattuale nei confronti dell'operatore; osserva che quando si concretizza il danno o il pregiudizio, tali persone potrebbero far valere unicamente la responsabilità per colpa e potrebbero avere difficoltà a dimostrare la colpa dell'operatore del sistema di IA e che pertanto le corrispondenti azioni per responsabilità civile potrebbero avere esito negativo;

12.  considera appropriato ritenere che l'”operatore” copra sia l'operatore di front-end che l'operatore di back-end, a meno che quest'ultimo non sia coperto dalla direttiva sulla responsabilità per danno da prodotti difettosi; osserva che l'operatore di front-end dovrebbe essere definito come la persona fisica o giuridica che esercita un certo grado di controllo su un rischio connesso all'operatività e al funzionamento del sistema di IA e che beneficia del suo funzionamento; afferma che l'operatore di back-end dovrebbe essere definito come la persona fisica o giuridica che, su base continuativa, definisce le caratteristiche della tecnologia, fornisce i dati e il servizio di supporto di back-end essenziale e pertanto esercita anche un elevato grado di controllo su un rischio connesso all'operatività e al funzionamento del sistema di IA; ritiene che per "esercitare il controllo" si intenda qualsiasi azione dell'operatore che influenzi il funzionamento del sistema di IA e quindi il grado di esposizione di terzi ai suoi potenziali rischi; è del parere che tali azioni potrebbero avere un impatto sul funzionamento di un sistema di IA dall'inizio alla fine, determinando gli input, gli output o i risultati, o potrebbe modificare funzioni o processi specifici all'interno del sistema di IA;

13.  osserva che in alcune situazioni potrebbe esserci più di un operatore, ad esempio, un operatore di back-end e un operatore di front-end; ritiene che in tal caso tutti gli operatori dovrebbero essere responsabili in solido, pur avendo il diritto di rivalersi reciprocamente su base proporzionale; è del parere che le proporzioni della responsabilità dovrebbero essere determinate dai rispettivi gradi di controllo che gli operatori hanno esercitato sul rischio connesso all'operatività e al funzionamento del sistema di IA; ritiene che la tracciabilità dei prodotti dovrebbe essere migliorata al fine di individuare meglio i soggetti coinvolti nelle diverse fasi;

Norme in materia di responsabilità diverse per i diversi tipi di rischi

14.  riconosce che il tipo di sistema di IA su cui l'operatore esercita il controllo è un fattore determinante con riferimento alla responsabilità; osserva che un sistema di IA che comporta un rischio intrinseco elevato e che agisce in modo autonomo è potenzialmente molto più pericoloso per il pubblico; ritiene che, sulla base delle sfide giuridiche che i sistemi di IA pongono per i regimi di responsabilità civile esistenti, appare ragionevole istituire un regime comune di responsabilità oggettiva per tali sistemi di IA autonomi ad alto rischio; sottolinea che tale approccio basato sul rischio, che potrebbe comprendere diversi livelli di rischio, dovrebbe basarsi su criteri chiari e su una definizione adeguata di alto rischio e garantire la certezza giuridica;

15.  è convinto che un sistema di IA presenti un alto rischio quando il suo funzionamento autonomo ha un elevato potenziale di causare danni a una o più persone, in un modo che è casuale e che va ben oltre quanto ci si può ragionevolmente aspettare; è del parere che al momento di stabilire se un sistema di IA sia ad alto rischio, si debba anche tenere conto del settore in cui è possibile prevedere l'insorgere di rischi significativi e della natura delle attività svolte; ritiene che l'importanza del potenziale dipenda dall'interazione tra la gravità dei possibili danni, la probabilità che il rischio causi un danno o un pregiudizio e la modalità di utilizzo del sistema di IA;

16.  raccomanda di elencare in modo esauriente tutti i sistemi di IA ad alto rischio in un allegato al regolamento proposto; riconosce che, dati i rapidi sviluppi tecnologici e le competenze tecniche richieste, la Commissione dovrebbe riesaminare tale allegato senza indebito ritardo e almeno a cadenza semestrale e, se necessario, modificarlo attraverso un atto delegato; è convinto che la Commissione dovrebbe cooperare strettamente con un comitato permanente di nuova costituzione simile all'attuale comitato permanente in materia di precursori o al Comitato tecnico - Veicoli a motore, i quali riuniscono esperti nazionali degli Stati membri e portatori di interessi; ritiene che la composizione equilibrata del gruppo di esperti ad alto livello sull'IA potrebbe fungere da esempio per la formazione del gruppo di portatori di interessi con l'aggiunta di esperti di etica, nonché di antropologi, sociologi e specialisti di salute mentale; è inoltre del parere che il Parlamento europeo dovrebbe designare esperti che offrano consulenza al comitato permanente di recente istituzione.

17.  osserva che lo sviluppo di tecnologie basate sull'IA è estremamente dinamico e sempre più rapido; sottolinea che per garantire un'adeguata protezione degli utenti, occorre una procedura accelerata che consenta di analizzare, sotto il profilo dei potenziali rischi, i nuovi dispositivi e sistemi che fanno uso di sistemi di IA che emergono sul mercato europeo; raccomanda che tutte le procedure in materia siano quanto più possibile semplificate; propone inoltre che la valutazione da parte della Commissione se un sistema di IA presenti un alto rischio dovrebbe avere inizio contemporaneamente alla valutazione della sicurezza del prodotto, al fine di evitare una situazione in cui un sistema di IA ad alto rischio è già approvato per il mercato ma non è ancora stato classificato come ad alto rischio e di conseguenza funziona senza la copertura assicurativa necessaria;

18.  osserva che la Commissione dovrebbe valutare in che modo i dati raccolti, registrati o salvati riguardanti sistemi di IA ad alto rischio al fine di raccogliere prove in caso di danno o pregiudizio causato da un sistema di IA potrebbero essere consultati e utilizzati dall'autorità inquirente e in che modo la tracciabilità e la verificabilità di tali dai potrebbero essere migliorate, tenendo conto di diritti fondamentali e del diritto alla tutela della vita privata;

19.  afferma che, in linea con i regimi di responsabilità oggettiva degli Stati membri, il regolamento proposto dovrebbe contemplare le violazioni di diritti importanti giuridicamente tutelati come il diritto alla vita, alla salute, all'integrità fisica e al patrimonio, e dovrebbe fissare gli importi e l'entità del risarcimento nonché i termini di prescrizione; è del parere che il regolamento proposto dovrebbe includere anche il danno non patrimoniale significativo che causi una perdita economica verificabile che oltrepassi una soglia armonizzata nel diritto dell'Unione in materia di responsabilità civile, che mette in equilibrio l'accesso alla giustizia da parte delle persone interessate con gli interessi delle altre persone coinvolte; esorta la Commissione a rivalutare e ad allineare le soglie dei danni nel diritto dell'Unione in materia di responsabilità civile; è del parere che la Commissione dovrebbe analizzare in modo approfondito le tradizioni giuridiche in tutti gli Stati membri e le loro leggi nazionali vigenti che prevedono un risarcimento per i danni non patrimoniali, al fine di valutare se l'inclusione dei danni non patrimoniali in atti legislativi specifici relativi all'IA sia necessaria e se sia in contrasto con il quadro giuridico dell'Unione in vigore o pregiudichi il diritto nazionale degli Stati membri;

20.  precisa che tutte le attività, i dispositivi o i processi guidati da sistemi di IA che possono provocare danni o pregiudizi, ma che non sono indicati nell'elenco contenuto nell'allegato al regolamento proposto, dovrebbero continuare a essere soggetti a un regime di responsabilità per colpa; è convinto che la persona interessata dovrebbe comunque poter far valere una presunzione di colpa dell'operatore, che dovrebbe potersi discolpare dimostrando di aver rispettato l'obbligo di diligenza;

21.  ritiene che un sistema di IA che non sia ancora stato valutato dalla Commissione e dal comitato permanente di nuova costituzione e che di conseguenza non sia ancora stato classificato come ad alto rischio e non sia stato incluso nell'allegato al regolamento proposto, dovrebbe tuttavia, in deroga al sistema di cui al paragrafo 20, essere soggetto alla responsabilità oggettiva qualora abbia causato incidenti ripetuti che producono gravi danni o pregiudizi; osserva che in tal caso la Commissione dovrebbe altresì valutare, senza indebito ritardo, la necessità di rivedere tale allegato per aggiungere all'elenco il sistema di IA in questione; è del parere che qualora, a seguito di tale valutazione, la Commissione decida di includere tale sistema di IA nell'elenco, l'inclusione dovrebbe avere un effetto retroattivo a partire dal momento in cui si è verificato il primo incidente provocato dal sistema di IA in questione, che ha causato un danno o un pregiudizio grave;

22.  chiede alla Commissione di valutare la necessità di disposizioni giuridiche in materia di contratti a livello di Unione, al fine di evitare clausole contrattuali di esclusione della responsabilità, incluse le relazioni tra diverse imprese e tra imprese e amministrazioni;

Assicurazioni e sistemi di IA

23.  considera la copertura della responsabilità civile uno dei fattori principali che definiscono il successo delle nuove tecnologie e dei nuovi prodotti e servizi; osserva che un'idonea copertura della responsabilità è essenziale anche per garantire al pubblico di potersi fidare della nuova tecnologia nonostante la possibilità di subire danni o di affrontare azioni legali intentate dalle persone interessate; prende atto al contempo del fatto che tale sistema di regolamentazione è incentrato sulla necessità di sfruttare e valorizzare i vantaggi dei sistemi di IA, ponendo in essere al tempo stesso solide misure di sicurezza;

24.  è del parere che, visto l'elevato potenziale di causare danni o pregiudizi e tenuto conto della direttiva 2009/103/CE del Parlamento europeo e del Consiglio, del 16 settembre 2009, concernente l'assicurazione per la responsabilità civile risultante dalla circolazione di autoveicoli e il controllo dell'obbligo di assicurare tale responsabilità(17), tutti gli operatori di sistemi di IA ad alto rischio elencati nell'allegato al regolamento proposto dovrebbero essere in possesso di un'assicurazione per responsabilità civile; ritiene che tale regime assicurativo obbligatorio per i sistemi di IA ad alto rischio debba coprire gli importi e l'entità del risarcimento previsti dal regolamento proposto; è consapevole del fatto che tale tecnologia è attualmente ancora una rarità, poiché presuppone un elevato grado di autonomia decisionale e che, pertanto, le discussioni in corso sono prevalentemente orientate al futuro; ritiene tuttavia che l'incertezza sui rischi non dovrebbe rendere proibitivi i premi assicurativi e costituire pertanto un ostacolo alla ricerca e all'innovazione;

25.  è convinto che un meccanismo di risarcimento a livello di Unione, finanziato con denaro pubblico, non sia il modo corretto per colmare i possibili vuoti assicurativi; ritiene che la mancanza di dati sui rischi associati ai sistemi di IA, assieme all'incertezza riguardo agli sviluppi futuri, renda difficile per il settore assicurativo proporre prodotti assicurativi riadattati o nuovi; è del parere che l'ipotesi di affidare interamente al mercato lo sviluppo di un regime assicurativo obbligatorio possa verosimilmente tradursi in un approccio indifferenziato, con premi eccessivamente elevati e incentivi errati, stimolando gli operatori a optare per l'assicurazione più economica piuttosto che per la copertura migliore, e potrebbe diventare un ostacolo alla ricerca e all'innovazione; ritiene che la Commissione dovrebbe collaborare strettamente con il settore assicurativo per verificare in che modo sia possibile utilizzare dati e modelli innovativi per creare polizze assicurative che offrano coperture adeguate a prezzi accessibili;

Aspetti finali

26.  chiede alla Commissione di presentare, sulla base dell'articolo 225 del trattato sul funzionamento dell'Unione europea, una proposta di regolamento sulla responsabilità per il funzionamento dei sistemi di intelligenza artificiale, seguendo le raccomandazioni figuranti nell'allegato alla presente risoluzione;

27.  ritiene che la proposta richiesta non presenti incidenze finanziarie;

o
o   o

28.  incarica il suo Presidente di trasmettere la presente risoluzione e le raccomandazioni figuranti in allegato alla Commissione e al Consiglio.

(1) GU L 210 del 7.8.1985, pag. 29.
(2) GU L 149 dell'11.6.2005, pag. 22.
(3) GU L 304 del 22.11.2011, pag. 64.
(4) GU L 117 del 5.5.2017, pag. 1.
(5) GU L 252 dell'8.10.2018, pag. 1.
(6) GU L 136 del 22.5.2019, pag. 1.
(7) GU L 123 del 12.5.2016, pag. 1.
(8) GU C 252 del 18.7.2018, pag. 239.
(9) GU C 307 del 30.8.2018, pag. 163.
(10) GU C 433 del 23.12.2019, pag. 86.
(11) Testi approvati, P8_TA(2019)0081.
(12) Testi approvati, P9_TA(2020)0032.
(13) https://www.europarl.europa.eu/thinktank/it/document.html?reference=EPRS_STU(2020)654178
(14) https://www.europarl.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU(2016)563501(ANN)_EN.pdf
(15) https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf
(16) GU L 11 del 15.1.2002, pag. 25.
(17) GU L 263 del 7.10.2009, pag. 11.


ALLEGATO ALLA RISOLUZIONE:

RACCOMANDAZIONI DETTAGLIATE PER L'ELABORAZIONE DI UN REGOLAMENTO DEL PARLAMENTO EUROPEO E DEL CONSIGLIO SULLA RESPONSABILITÀ PER IL FUNZIONAMENTO DEI SISTEMI DI INTELLIGENZA ARTIFICIALE

A.  PRINCIPI E OBIETTIVI DELLA PROPOSTA

La presente relazione affronta un aspetto importante della digitalizzazione, che è essa stessa plasmata dalle attività transfrontaliere, dalla concorrenza a livello mondiale e da considerazioni sociali fondamentali. I principi elencati di seguito dovrebbero fungere da indicazione.

1.  Un vero e proprio mercato unico digitale richiede una piena armonizzazione mediante un regolamento.

2.  Occorre affrontare le nuove sfide giuridiche poste dallo sviluppo dei sistemi di intelligenza artificiale (IA), garantendo la massima certezza giuridica lungo tutta la catena della responsabilità, che include il produttore, l'operatore, la persona interessata e qualsiasi altro soggetto terzo.

3.  Non dovrebbe esservi alcuna regolamentazione eccessiva e occorre evitare oneri burocratici, in quanto ciò ostacolerebbe l'innovazione europea nell'ambito dell'IA, in particolare nel caso di tecnologie, prodotti o servizi sviluppati da PMI o start-up.

4.  Le norme in materia di responsabilità civile per l'IA dovrebbero cercare di trovare un equilibrio tra la protezione dei cittadini, da un lato, e gli incentivi alle imprese, affinché investano nell'innovazione, in particolare nei sistemi di IA, dall'altro.

5.  Invece di sostituire i regimi esistenti di responsabilità correttamente funzionanti, è opportuno apportare alcuni adeguamenti necessari introducendo idee nuove e orientate al futuro.

6.  La futura proposta di regolamento e la direttiva sulla responsabilità per danno da prodotti difettosi sono i due pilastri di un quadro comune in materia di responsabilità per i sistemi di IA e richiedono uno stretto coordinamento e allineamento tra tutti i soggetti politici, al livello dell'Unione e a livello nazionale.

7.  I cittadini dovrebbero poter beneficiare dello stesso livello di protezione e degli stessi diritti, a prescindere dal fatto che il danno sia causato o meno da un sistema di IA, o che si manifesti fisicamente o virtualmente, onde rafforzare la loro fiducia in questa nuova tecnologia.

8.  La futura proposta di regolamento dovrebbe contemplare sia il danno materiale che il danno non patrimoniale. Sulla base, oltre ad altri documenti, della sua comunicazione del 19 febbraio 2020 sulle implicazioni dell'intelligenza artificiale, dell'Internet delle cose e della robotica in materia di sicurezza e di responsabilità, la Commissione europea è invitata ad analizzare in modo approfondito le tradizioni giuridiche in tutti gli Stati membri, come pure le disposizioni legislative in vigore che prevedono un risarcimento per i danni non patrimoniali, al fine di valutare se l'inclusione dei danni non patrimoniali nella futura proposta di regolamento sia giuridicamente fondata e sia necessaria dalla prospettiva della persona interessata. Sulla base delle informazioni attualmente disponibili, il Parlamento ritiene che il danno non patrimoniale significativo debba essere incluso se la persona interessata abbia subito una perdita economica significativa e quindi verificabile.

B.  TESTO DELLA PROPOSTA RICHIESTA

Proposta di

REGOLAMENTO DEL PARLAMENTO EUROPEO E DEL CONSIGLIO

sulla responsabilità per il funzionamento dei sistemi di intelligenza artificiale

IL PARLAMENTO EUROPEO E IL CONSIGLIO DELL'UNIONE EUROPEA,

visto il trattato sul funzionamento dell'Unione europea, in particolare l'articolo 114,

vista la proposta della Commissione europea,

previa trasmissione del progetto di atto legislativo ai parlamenti nazionali,

visto il parere del Comitato economico e sociale europeo(1),

deliberando secondo la procedura legislativa ordinaria(2),

considerando quanto segue:

(1)  Il concetto di "responsabilità" svolge un duplice ruolo importante nella nostra vita quotidiana: da un lato, garantisce che una persona vittima di un danno o pregiudizio abbia il diritto di chiedere un risarcimento alla parte ritenuta responsabile di tale danno o pregiudizio e di ricevere un risarcimento dalla stessa e, dall'altro lato, fornisce incentivi economici alle persone affinché evitino sin dall'inizio di causare danni o pregiudizi. Qualsiasi quadro in materia di responsabilità dovrebbe cercare di infondere fiducia nella sicurezza, nell'affidabilità e nella coerenza di prodotti e servizi, compresa la tecnologia digitale, come l'intelligenza artificiale (IA), l'Internet delle cose e la robotica, al fine di trovare un equilibrio tra l'efficace tutela delle potenziali vittime di danni o pregiudizi e, allo stesso tempo, la disponibilità di una sufficiente libertà d'azione per rendere possibile lo sviluppo di nuove tecnologie e di nuovi prodotti o servizi.

(2)  Specialmente all'inizio del ciclo di vita di nuovi prodotti e servizi, dopo che questi hanno superato i test preliminari, per l'utente e per i terzi è presente un certo grado di rischio che qualcosa non funzioni correttamente. Questo processo per tentativi ed errori è, allo stesso tempo, un fattore chiave per il progresso tecnico senza il quale la maggior parte delle tecnologie non esisterebbe. Finora i rischi che accompagnano i nuovi prodotti e servizi sono stati idoneamente attenuati da norme solide in materia di sicurezza dei prodotti e di responsabilità.

(3)  Lo sviluppo dell'IA, tuttavia, rappresenta una sfida significativa per i quadri in materia di responsabilità esistenti. L'uso di sistemi di IA nella vita quotidiana porterà a situazioni in cui la loro opacità (elemento "scatola nera") e la pluralità di soggetti che intervengono nel loro ciclo di vita renderanno estremamente oneroso o addirittura impossibile identificare chi avesse il controllo del rischio associato all'uso del sistema di IA in questione o quale codice o input abbia causato l'attività pregiudizievole. Tale difficoltà è aggravata dalla connettività tra un sistema di IA e altri sistemi, di IA e non di IA, dalla sua dipendenza dai dati esterni, dalla sua vulnerabilità a violazioni della cibersicurezza e dalla crescente autonomia di sistemi di IA attivati dall'apprendimento automatico e dalle capacità di apprendimento profondo. Oltre a queste caratteristiche complesse e potenziali vulnerabilità, i sistemi di IA potrebbero essere utilizzati anche per causare danni gravi, come compromettere la dignità umana e i valori e le libertà europei, tracciando gli spostamenti delle persone contro la loro volontà, introducendo sistemi di credito sociale, prendendo decisioni di parte riguardanti assicurazioni sanitarie, concessioni di crediti, ordinanze giudiziarie o decisioni in materia di assunzione o di impiego, o ancora costruendo sistemi d'arma autonomi letali.

(4)  È importante sottolineare che i vantaggi della diffusione dei sistemi di IA saranno di gran lunga superiori agli svantaggi. Essi aiuteranno a contrastare più efficacemente i cambiamenti climatici, a migliorare le visite mediche e le condizioni di lavoro, a migliorare l'integrazione delle persone con disabilità e degli anziani nella società e a fornire corsi di istruzione su misura a tutte le tipologie di studenti. Il modo migliore di procedere per sfruttare le varie opportunità tecnologiche e rafforzare la fiducia delle persone nell'uso dei sistemi di IA, prevenendo allo stesso tempo scenari dannosi, è l'adozione di norme etiche adeguate unite a procedure di risarcimento solide ed eque.

(5)  Un adeguato regime di responsabilità è inoltre necessario per controbilanciare la violazione delle norme di sicurezza. Tuttavia, il regime di responsabilità di cui al presente regolamento deve tenere conto di tutti gli interessi in gioco. Un attento esame dell'impatto di un nuovo quadro normativo su piccole e medie imprese (PMI) e start-up è il presupposto indispensabile di ulteriori misure legislative. Il ruolo fondamentale che tali imprese svolgono nell'ambito dell'economia europea giustifica un approccio strettamente proporzionato, onde consentire loro di svilupparsi e di innovare. Dall'altro lato, le vittime dei danni o dei pregiudizi causati dai sistemi di IA devono avere il diritto di ricorso e al totale risarcimento dei danni o dei pregiudizi subiti.

(6)  Qualsiasi cambiamento richiesto riguardante il quadro giuridico esistente dovrebbe iniziare con il chiarimento che i sistemi di IA non possiedono né una personalità giuridica né una coscienza umana e che il loro unico compito consiste nel servire l'umanità. Inoltre, molti sistemi di IA non sono così diversi da altre tecnologie, che talvolta sono basate su software addirittura più complessi. In definitiva, la stragrande maggioranza dei sistemi di IA è utilizzata per gestire compiti banali, privi di rischi o con rischi minimi per la società. Utilizzando il termine "processo decisionale automatizzato" si potrebbe evitare la possibile ambiguità del termine IA. Tale termine descrive una situazione in cui un utente delega inizialmente una decisione, in parte o interamente, a un'entità utilizzando un software o un servizio. Tale entità, a sua volta, utilizza modelli decisionali automatizzati per lo svolgimento di un'azione per conto di un utente, o per informare le decisioni dell'utente nello svolgimento di un'azione.

(7)  Esistono, tuttavia, anche sistemi di IA che sono sviluppati e utilizzati per compiti essenziali e che si basano su tecnologie come le reti neurali e i processi di apprendimento profondo. La loro opacità e autonomia potrebbe rendere molto difficile ricondurre determinate azioni a specifiche decisioni umane prese durante la loro progettazione o il loro funzionamento. L'operatore di un siffatto sistema di IA potrebbe sostenere, ad esempio, che l'attività, il dispositivo o il processo fisico o virtuale che ha causato il danno o il pregiudizio fosse al di fuori del proprio controllo in quanto attivato da un'operazione autonoma del proprio sistema di IA. Inoltre, il semplice funzionamento di un sistema di IA autonomo non dovrebbe essere motivo sufficiente per ammettere l'azione di responsabilità. Di conseguenza, vi potrebbero essere casi di responsabilità in cui l'attribuzione della responsabilità potrebbe essere iniqua o inefficiente o in cui la persona che ha subito un danno o un pregiudizio cagionato da un sistema di IA non possa dimostrare la colpa del produttore, di una terza parte che abbia interferito o dell'operatore, e non ottenga un risarcimento.

(8)  Ciononostante, dovrebbe essere sempre chiaro che chiunque crei un sistema di IA, ne esegua la manutenzione, lo controlli o interferisca con esso dovrebbe essere chiamato a rispondere del danno o pregiudizio che l'attività, il dispositivo o il processo provoca. Ciò discende da concetti di giustizia generali e ampiamente accettati in materia di responsabilità, secondo i quali la persona che crea o mantiene un rischio per il pubblico è responsabile se il rischio causa un danno o un pregiudizio e pertanto dovrebbe minimizzarlo ex ante o risarcirlo ex post. Di conseguenza, lo sviluppo dei sistemi di IA non rende necessaria una revisione completa delle norme in materia di responsabilità in tutta l'Unione. Per rispondere alle sfide legate all'IA, al fine di evitare la frammentazione normativa e garantire l'armonizzazione della legislazione dell'Unione in materia di responsabilità civile in relazione all'intelligenza artificiale, sarebbero sufficienti adeguamenti specifici della normativa esistente e l'introduzione di nuove disposizioni ponderate e mirate.

(9)  La direttiva 85/374/CEE del Consiglio(3) (direttiva sulla responsabilità per danno da prodotti difettosi) ha dimostrato da oltre 30 anni di essere un mezzo efficace per ottenere un risarcimento per i danni cagionati da un prodotto difettoso. Pertanto dovrebbe essere utilizzata anche riguardo alle azioni per responsabilità civile intentate nei confronti del produttore di un sistema di IA difettoso da una parte che abbia subito danni o pregiudizi. In linea con i principi dell'Unione per legiferare meglio, qualsiasi adeguamento legislativo necessario dovrebbe essere discusso in sede di riesame necessario di tale direttiva. L'attuale diritto degli Stati membri in materia di responsabilità civile per colpa offre anche, il più delle volte, un livello sufficiente di tutela alle persone che subiscano un danno o pregiudizio cagionato dell'interferenza di un terzo, in quanto l'interferenza costituisce sistematicamente un'azione basata sulla colpa, dove il terzo utilizza il sistema di IA per causare danni. Di conseguenza, il presente regolamento dovrebbe concentrare l'attenzione sulle azioni intentate nei confronti dell'operatore di un sistema di IA.

(10)  La responsabilità dell'operatore ai sensi del presente regolamento si basa sul fatto che egli esercita un certo grado di controllo su un rischio connesso all'operatività e al funzionamento di un sistema di IA, che è assimilabile a quello del proprietario di un'automobile. Maggiore è il grado di sofisticazione e di autonomia di un sistema, maggiore sarà l'impatto dato dal fatto di definire e influenzare gli algoritmi, ad esempio attraverso continui aggiornamenti. Dal momento che spesso esiste più di una persona che potrebbe, in modo significativo, essere considerata "operatore" del sistema di IA, ai sensi del presente regolamento il termine "operatore" dovrebbe essere inteso in modo da comprendere sia l'operatore di front-end sia l'operatore di back-end. Sebbene, in linea generale, l'operatore di front-end figuri come la persona che "in primis" decide in merito all'utilizzo del sistema di IA, l'operatore di back-end potrebbe di fatto avere un grado più elevato di controllo sui rischi operativi. Se l'operatore di back-end è anche il "produttore", ai sensi dell'articolo 3 della direttiva sulla responsabilità per danno da prodotti difettosi, è opportuno che detta direttiva si applichi a tale soggetto. Se vi è un solo operatore e tale operatore è anche il produttore del sistema di IA, le disposizioni del presente regolamento dovrebbero prevalere su quelle della direttiva sulla responsabilità per danno da prodotti difettosi.

(11)  Se un utente, in particolare la persona che utilizza il sistema di IA, è coinvolto nell'evento dannoso, dovrebbe essere chiamato a rispondere a norma del presente regolamento solo laddove si qualifichi anche come operatore. In caso contrario, l'entità del contributo al rischio da parte dell'utente, per negligenza grave o intenzionale, potrebbe comportare la responsabilità per colpa dell'utente nei confronti del ricorrente. È opportuno che i diritti dei consumatori applicabili riferiti all'utente rimangano impregiudicati.

(12)  Il presente regolamento dovrebbe consentire alla persona interessata di intentare azioni per responsabilità civile lungo tutta la catena di responsabilità e durante l'intero ciclo di vita di un sistema di IA. Esso dovrebbe anche riguardare, in linea di principio, tutti i sistemi di IA, a prescindere da dove operino e dal fatto che ciò avvenga fisicamente o virtualmente. La maggior parte delle azioni per responsabilità civile intentate a norma del presente regolamento dovrebbe riguardare, tuttavia, casi di responsabilità civile verso terzi, in cui un sistema di IA operi in uno spazio pubblico ed esponga a un rischio numerose persone. In tale situazione, spesso le persone interessate non saranno consapevoli del sistema di IA in funzione e non avranno vincoli contrattuali o giuridici con l'operatore. Di conseguenza, il funzionamento di un sistema di IA le mette in una situazione in cui, laddove sia cagionato loro un danno o un pregiudizio, esse possono far valere unicamente la responsabilità per colpa nei confronti dell'operatore del sistema di IA, oltre a dover affrontare gravi difficoltà per dimostrare la colpa dell'operatore.

(13)  Il tipo di sistema di IA sul quale l'operatore esercita il controllo è un fattore determinante. Un sistema di IA che comporta un alto rischio mette in pericolo l'utente o il pubblico in misura molto maggiore, in modo casuale e che va al di là di quanto ci si può ragionevolmente aspettare. Ciò significa che all'avvio del funzionamento autonomo del sistema di IA, la maggior parte delle persone potenzialmente interessate è ignota e non identificabile, per esempio le persone che si trovano in una piazza pubblica o in una casa vicina, diversamente dal funzionamento di un sistema di IA che coinvolge persone specifiche, che spesso hanno acconsentito al suo utilizzo in precedenza, per esempio un intervento chirurgico in ospedale o una dimostrazione di vendita in un piccolo negozio. Il fatto di determinare quanto sia alto il potenziale di un sistema di IA ad alto rischio di causare danni o pregiudizi dipende dall'interazione tra la finalità d'uso per la quale il sistema di IA è immesso sul mercato, la modalità di utilizzo di tale sistema, la gravità dei possibili danni o pregiudizi, il grado di autonomia decisionale che può provocare il danno e la probabilità che il rischio si materializzi. Il livello di gravità dovrebbe essere accertato sulla base di fattori rilevanti quali l'entità del danno potenziale derivante dal funzionamento sulle persone interessate, inclusi in particolare gli effetti sui diritti fondamentali, il numero di persone interessate, il valore totale del danno potenziale e il pregiudizio inflitto alla società nel suo insieme. La probabilità che il danno o il pregiudizio si verifichi dovrebbe essere stabilita sulla base di fattori rilevanti quali il ruolo dei calcoli algoritmici nel processo decisionale, la complessità della decisione e la reversibilità degli effetti. In definitiva, la modalità di utilizzo dovrebbe dipendere da fattori rilevanti quali il contesto e il settore in cui opera il sistema di IA, eventuali effetti giuridici o reali su diritti importanti della persona interessata tutelati dalla legge e l'eventuale e ragionevole possibilità di evitare gli effetti.

(14)  Tutti i sistemi di IA ad alto rischio dovrebbero essere elencati in modo esaustivo in un allegato al presente regolamento. Tenuto conto della rapida evoluzione tecnica e di mercato a livello mondiale nonché delle competenze tecniche richieste per un riesame adeguato dei sistemi di IA, è opportuno conferire alla Commissione il potere di adottare atti delegati a norma dell'articolo 290 del trattato sul funzionamento dell'Unione europea, affinché modifichi il presente regolamento relativamente ai tipi di sistemi di IA che presentano un alto rischio e ai settori fondamentali in cui sono utilizzati. In base alle definizioni e disposizioni contenute nel presente regolamento, la Commissione dovrebbe riesaminare l'allegato senza indugio, ma almeno a cadenza semestrale e, ove necessario, modificarlo mediante atti delegati. La valutazione da parte della Commissione se un sistema di IA presenti un alto rischio dovrebbe avere inizio contemporaneamente alla valutazione della sicurezza del prodotto, al fine di evitare una situazione in cui un sistema di IA ad alto rischio è già approvato per il mercato ma non è ancora stato classificato come ad alto rischio e di conseguenza funziona senza la copertura assicurativa necessaria. Per conferire alle imprese e agli organismi di ricerca sufficiente sicurezza in termini di programmazione e investimenti, le modifiche ai settori fondamentali dovrebbero essere apportate soltanto ogni dodici mesi. Gli operatori dovrebbero essere invitati a notificare alla Commissione se stiano lavorando a una nuova tecnologia o a nuovi prodotti o servizi che rientrino in uno dei settori fondamentali esistenti previsti dall'allegato e che successivamente potrebbero essere considerati sistemi di IA ad alto rischio.

(15)  È di particolare importanza che durante i lavori preparatori la Commissione svolga consultazioni adeguate di tutte le parti interessate, anche a livello di esperti, e che tali consultazioni siano condotte nel rispetto dei principi stabiliti nell'accordo interistituzionale "Legiferare meglio" del 13 aprile 2016(4). Un comitato permanente denominato "Comitato tecnico – Sistemi di IA ad alto rischio" (TCRAI) dovrebbe coadiuvare la Commissione nel riesame regolare previsto dal presente regolamento. Il comitato permanente dovrebbe essere composto da rappresentanti degli Stati membri e da una selezione equilibrata di portatori di interessi, tra cui organizzazioni dei consumatori, associazioni che rappresentano le persone interessate, rappresentanti delle imprese di diversi settori e dimensioni, nonché ricercatori e scienziati. In particolare, al fine di garantire una partecipazione paritaria alla preparazione degli atti delegati, il Parlamento europeo e il Consiglio ricevono tutti i documenti contemporaneamente agli esperti degli Stati membri, e i loro esperti hanno sistematicamente accesso alle riunioni dei gruppi di esperti della Commissione e del comitato TCRAI, quando esse riguardano la preparazione degli atti delegati.

(16)  Il presente regolamento dovrebbe incorporare il danno o il pregiudizio alla vita, alla salute, all'integrità fisica e al patrimonio e il danno non patrimoniale significativo che causa una perdita economica verificabile al di sopra di una soglia armonizzata nel diritto dell'Unione in materia di responsabilità civile, che metta in equilibrio l'accesso alla giustizia da parte delle persone interessate e gli interessi delle altre persone coinvolte. La Commissione dovrebbe rivalutare e allineare le soglie dei danni nel diritto dell'Unione. Per danno non patrimoniale significativo si dovrebbe intendere un danno in conseguenza del quale la persona colpita subisce un danno considerevole, una lesione obiettiva e dimostrabile dei suoi interessi personali e una perdita economica calcolata tenendo conto, ad esempio, delle cifre medie annuali delle entrate passate e di altre circostanze pertinenti. Il presente regolamento dovrebbe inoltre stabilire l'importo e l'entità del risarcimento, nonché i termini di prescrizione per intentare un'azione legale per responsabilità civile. Il presente regolamento dovrebbe stabilire un massimale notevolmente inferiore per il risarcimento rispetto a quello previsto dalla direttiva sulla responsabilità per danno da prodotti difettosi, in quanto il presente regolamento si riferisce soltanto al danno o pregiudizio subito da un'unica persona derivante da una singola messa in funzione di un sistema di IA, mentre la direttiva fa riferimento a numerosi prodotti o addirittura a una linea di produzione con il medesimo difetto.

(17)  Tutte le attività, i dispositivi o i processi fisici o virtuali guidati da sistemi di IA che non siano inseriti tra quelli ad alto rischio indicati nell'allegato al presente regolamento dovrebbero continuare a essere soggetti a un regime di responsabilità per colpa, a meno che non siano in vigore normative nazionali e una legislazione in materia di protezione dei consumatori più rigorose. Le leggi nazionali degli Stati membri, comprese le pronunce giurisprudenziali pertinenti, relative all'importo e all'entità del risarcimento nonché ai termini di prescrizione dovrebbero continuare a trovare applicazione. Una persona che subisca un danno o un pregiudizio cagionato da un sistema di IA non inserito nell'elenco dei sistemi di IA ad alto rischio dovrebbe poter far valere la presunzione di colpa dell'operatore.

(18)  La diligenza che ci si può attendere da un operatore dovrebbe essere commisurata i) alla natura del sistema di IA, ii) al diritto giuridicamente tutelato potenzialmente interessato, iii) al danno o pregiudizio potenziale che il sistema di IA potrebbe causare e iv) alla probabilità di tale danno. È pertanto opportuno tenere conto del fatto che l'operatore potrebbe avere una conoscenza limitata degli algoritmi e dei dati utilizzati nel sistema di IA. Si dovrebbe presumere che l'operatore abbia osservato la dovuta diligenza che ci si può ragionevolmente attendere da questi nel selezionare un sistema di IA idoneo, laddove l'operatore abbia scelto un sistema di IA certificato ai sensi di un sistema simile al sistema di certificazione volontaria previsto dalla Commissione(5). Si dovrebbe presumere che l'operatore abbia osservato la dovuta diligenza che ci si può ragionevolmente attendere da questi durante il funzionamento del sistema di IA, laddove l'operatore possa dimostrare di avere effettivamente e regolarmente monitorato il sistema di IA durante il funzionamento e di avere notificato al costruttore le possibili irregolarità riscontrate nel corso del funzionamento. Si dovrebbe presumere che l'operatore abbia osservato la dovuta diligenza che ci si può ragionevolmente attendere da questi riguardo al mantenimento dell'affidabilità operativa laddove abbia installato tutti gli aggiornamenti disponibili forniti dal produttore del sistema di IA. Poiché il livello di sofisticazione degli operatori può variare a seconda che si tratti di semplici consumatori o professionisti, è opportuno adeguare di conseguenza gli obblighi di diligenza.

(19)  Per consentire all'operatore di dimostrare l'assenza di colpa o per consentire alla persona interessata di dimostrarne l'esistenza, i produttori dovrebbero essere tenuti a cooperare con entrambe le parti interessate, anche fornendo informazioni ben documentate. I produttori con sede sia all'interno sia all'esterno dell'Unione dovrebbero inoltre avere l'obbligo di designare, all'interno dell'Unione, un rappresentante per la responsabilità in materia di IA quale punto di contatto per rispondere a tutte le richieste degli operatori, in modo analogo a quello dei responsabili della protezione dei dati, come stabilito all'articolo 37 del regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio(6), del rappresentante del costruttore, come stabilito all'articolo 3, paragrafo 41, e all'articolo 13, paragrafo 4, del regolamento (UE) 2018/858 del Parlamento europeo e del Consiglio(7) e del rappresentante autorizzato, come stabilito all'articolo 4, paragrafo 2, e all'articolo 5 del regolamento (UE) 2019/1020 del Parlamento europeo e del Consiglio(8).

(20)  Il legislatore deve tenere in considerazione i rischi di responsabilità civile connessi ai sistemi di IA durante il loro intero ciclo di vita, dallo sviluppo all'uso fino al termine del ciclo di vita, compresa la gestione dei rifiuti e del riciclaggio. L'inserimento di sistemi di IA in un prodotto o servizio rappresenta un rischio finanziario per le imprese e avrà pertanto pesanti ripercussioni sulla capacità e le opzioni delle PMI nonché delle start-up relativamente all'assicurazione e al finanziamento dei loro progetti di ricerca e sviluppo basati su nuove tecnologie. La responsabilità civile, pertanto, non ha soltanto lo scopo di proteggere diritti importanti degli individui tutelati dalla legge, ma anche di determinare se le imprese, in particolare PMI e start-up, sono in grado di reperire capitale, innovare, fare ricerca e, in definitiva, offrire nuovi prodotti e servizi, e se i consumatori hanno fiducia in tali prodotti e servizi e sono disposti a utilizzarli, nonostante la possibilità di rischi e di azioni legali intentate nei confronti di tali prodotti e servizi.

(21)  Le assicurazioni possono contribuire a garantire che le vittime ricevano un risarcimento congruo e che i rischi di tutti gli assicurati siano condivisi. Uno dei fattori su cui le compagnie di assicurazioni basano l'offerta di prodotti e servizi assicurativi è la valutazione del rischio, che è possibile effettuare attraverso l'accesso a dati storici sufficienti sulle richieste di risarcimento. L'impossibilità di accedere a dati di alta qualità oppure una quantità insufficiente di tali dati potrebbe essere uno dei motivi per cui, all'inizio, la creazione di prodotti assicurativi per le tecnologie nuove ed emergenti risulta difficoltosa. Tuttavia, l'ottimizzazione dei dati generati dalle nuove tecnologie e un migliore accesso ad essi, insieme all'obbligo di fornire informazioni ben documentate, rafforzerebbero la capacità degli assicuratori di modellare il rischio emergente e di promuovere lo sviluppo di coperture assicurative più innovative.

(22)  Data la mancanza di dati storici sulle richieste di risarcimento, sarebbe opportuno esaminare come e a quali condizioni la responsabilità civile sia assicurabile, al fine di collegare l'assicurazione al prodotto e non alla persona responsabile. Esistono già prodotti assicurativi sviluppati settore per settore, copertura per copertura, che procedono di pari passo con lo sviluppo della tecnologia. Molti assicuratori si specializzano in determinati segmenti di mercato (ad es. PMI) o nel fornire coperture assicurative per determinati tipi di prodotti (ad es. apparecchi elettrici), cosicché di solito l'assicurato troverà un prodotto assicurativo disponibile. Tuttavia, è difficile prevedere una soluzione indifferenziata per tutti e il mercato delle assicurazioni avrà bisogno di tempo per adattarsi. La Commissione dovrebbe lavorare in stretta collaborazione con il mercato assicurativo per mettere a punto prodotti assicurativi innovativi in grado di colmare il vuoto assicurativo. In casi eccezionali, come un evento che comporti danni collettivi, in cui il risarcimento superi in modo significativo i massimali previsti dal presente regolamento, gli Stati membri dovrebbero essere incoraggiati a istituire, per un periodo limitato, uno speciale fondo di risarcimento che faccia fronte alle specifiche esigenze di tali casi. Si potrebbero istituire fondi speciali di risarcimento per coprire casi eccezionali in cui un sistema di IA, che non è ancora stato classificato come sistema di IA ad alto rischio e quindi non è ancora assicurato, causi danni o pregiudizi. Al fine di garantire la certezza giuridica e adempiere all'obbligo di informare tutte le persone potenzialmente interessate, l'esistenza del fondo speciale di risarcimento nonché le condizioni per beneficiarne dovrebbero essere rese pubbliche in modo chiaro e completo.

(23)  È estremamente importante che qualsiasi modifica futura del presente regolamento proceda di pari passo con un necessario riesame della direttiva sulla responsabilità per danno da prodotti difettosi, al fine di rivederla in modo completo e coerente e garantire i diritti e gli obblighi di tutte le parti interessate lungo l'intera catena delle responsabilità. L'introduzione di un nuovo regime di responsabilità civile per l'operatore di sistemi di IA richiede lo stretto coordinamento tra le disposizioni del presente regolamento e il riesame della direttiva sulla responsabilità per danno da prodotti difettosi per quanto riguarda sia il contenuto sia l'approccio, affinché insieme essi formino un quadro coerente in materia di responsabilità per i sistemi di IA, contemperando gli interessi del produttore, dell'operatore, del consumatore e della persona interessata relativamente al rischio di responsabilità civile e alle modalità di compensazione pertinenti. È quindi necessario adeguare e semplificare le definizioni di sistema di IA, operatore di front-end e di back-end, produttore, difetto, prodotto e servizio in tutti gli atti legislativi, e tale adeguamento dovrebbe avvenire in parallelo.

(24)  Gli obiettivi del presente regolamento, ossia creare un approccio orientato al futuro e unificato a livello di Unione che stabilisca norme europee comuni per i cittadini e le imprese europei e garantire la coerenza dei diritti e la certezza giuridica in tutta l'UE, ed evitare la frammentazione del mercato unico digitale, che ostacolerebbe l'obiettivo di mantenere la sovranità digitale, di promuovere l'innovazione digitale in Europa e di garantire un elevato livello di tutela dei diritti del cittadino e del consumatore, richiedono che i regimi di responsabilità per i sistemi IA siano pienamente armonizzati. Tale obiettivo non può essere conseguito in modo sufficiente dagli Stati membri a causa della rapidità dell'evoluzione tecnologica, dello sviluppo transfrontaliero e dell'utilizzo di sistemi di IA e, in definitiva, degli approcci legislativi contrastanti nell'Unione, ma può invece essere realizzato a livello di Unione, in ragione delle dimensioni o degli effetti dell'azione. L'Unione può pertanto intervenire in base al principio di sussidiarietà sancito dall'articolo 5 del trattato sull'Unione europea. Il presente regolamento si limita a quanto è necessario per conseguire tali obiettivi in ottemperanza al principio di proporzionalità enunciato nello stesso articolo,

HANNO ADOTTATO IL PRESENTE REGOLAMENTO:

Capo I

Disposizioni generali

Articolo 1

Oggetto

Il presente regolamento stabilisce norme per le azioni per responsabilità civile intentate da persone fisiche e giuridiche nei confronti degli operatori di sistemi di IA.

Articolo 2

Ambito di applicazione

1.  Il presente regolamento si applica nel territorio dell'Unione dove un'attività, dispositivo o processo virtuale o fisico guidato da un sistema di IA abbia arrecato un danno o un pregiudizio alla vita, alla salute, all'integrità fisica di una persona fisica, al patrimonio di una persona fisica o giuridica o abbia arrecato un danno non patrimoniale rilevante risultante in una perdita economica verificabile.

2.  Qualsiasi contratto tra l'operatore di un sistema di IA e una persona fisica o giuridica vittima di un danno o pregiudizio a causa di un sistema di IA che eluda o limiti i diritti e gli obblighi sanciti dal presente regolamento, stipulato prima o dopo che il danno o il pregiudizio si sia verificato, è considerato nullo per quanto riguarda i diritti e gli obblighi sanciti dal presente regolamento.

3.  Il presente regolamento fa salve le eventuali ulteriori azioni per responsabilità derivanti da rapporti contrattuali nonché da normative in materia di responsabilità per danno da prodotti difettosi, protezione del consumatore, anti-discriminazione, lavoro e tutela ambientale tra l'operatore e la persona fisica o giuridica vittima di un danno o pregiudizio a causa del sistema di IA, e per il quale può essere presentato ricorso contro l'operatore a norma del diritto dell'Unione o nazionale.

Articolo 3

Definizioni

Ai fini del presente regolamento si intende per:

a)  "sistema di intelligenza artificiale (IA)": un sistema basato su software o integrato in dispositivi hardware che mostra un comportamento che simula l'intelligenza, tra l'altro raccogliendo e trattando dati, analizzando e interpretando il proprio ambiente e intraprendendo azioni, con un certo grado di autonomia, per raggiungere obiettivi specifici;

b)  "autonomo": sistema basato sull'intelligenza artificiale che opera interpretando determinati dati forniti e utilizzando una serie di istruzioni predeterminate, senza essere limitato a tali istruzioni, nonostante il comportamento del sistema sia legato e volto al conseguimento dell'obiettivo impartito e ad altre scelte operate dallo sviluppatore in sede di progettazione;

c)  "alto rischio": un potenziale significativo in un sistema di IA che opera in modo autonomo di causare danni o pregiudizi a una o più persone in modo casuale e che va oltre quanto ci si possa ragionevolmente aspettare; l'importanza del potenziale dipende dall'interazione tra la gravità dei possibili danni o pregiudizi, dal grado di autonomia decisionale, dalla probabilità che il rischio si concretizzi e dalla modalità e dal contesto di utilizzo del sistema di IA;

d)  "operatore": operatore sia di front-end sia di back-end, a condizione che la responsabilità di quest'ultimo non sia già coperta dalla direttiva 85/374/CEE;

e)  "operatore di front-end": la persona fisica o giuridica che esercita un certo grado di controllo su un rischio connesso all'operatività e al funzionamento del sistema di IA e che beneficia del suo funzionamento;

f)  "operatore di back-end": la persona fisica o giuridica che, su base continuativa, definisce le caratteristiche della tecnologia e fornisce i dati e il servizio di supporto di back-end essenziale e pertanto esercita anche un elevato grado di controllo su un rischio connesso all'operatività e al funzionamento del sistema di IA;

g)  "controllo": qualsiasi azione di un operatore che influenza il funzionamento di un sistema di IA e quindi il grado in cui l'operatore espone terzi ai potenziali rischi associati all'operatività e al funzionamento del sistema di IA; tali azioni possono avere un impatto sul funzionamento in qualsiasi fase determinando gli input, gli output o i risultati, o possono modificare funzioni o processi specifici all'interno del sistema di IA; il grado in cui tali aspetti del funzionamento del sistema di IA sono determinati dall'azione dipende dalla misura in cui l'operatore più influenzare il rischio connesso all'operatività e al funzionamento del sistema di IA;

h)  "persona interessata": qualsiasi persona che subisca i danni o pregiudizi causati da un'attività, dispositivo o processo fisico o virtuale guidato da un sistema di IA e che non sia l'operatore di tale sistema;

i)  "danno o pregiudizio": un effetto negativo che influisce sulla vita, la salute, l'integrità fisica di una persona fisica, il patrimonio di una persona fisica o giuridica o che causa un rilevante danno non patrimoniale che si traduce in una perdita economica verificabile;

j)  "produttore": il produttore quale definito all'articolo 3 della direttiva 85/374/CEE.

CAPO II

Sistemi di IA ad alto rischio

Articolo 4

Responsabilità oggettiva per i sistemi di IA ad alto rischio

1.  L'operatore di un sistema di IA ad alto rischio è oggettivamente responsabile di qualsiasi danno o pregiudizio causato da un'attività, dispositivo o processo fisico o virtuale guidato da tale sistema di IA.

2.  Tutti i sistemi di IA ad alto rischio e tutti i settori fondamentali in cui sono utilizzati sono elencati nell'allegato al presente regolamento. Alla Commissione è conferito il potere di adottare atti delegati conformemente all'articolo 13 per modificare l'elenco esaustivo:

a)  inserendo nuovi tipi di sistemi di IA ad alto rischio e settori fondamentali in cui sono utilizzati;

b)  eliminando tipi di sistemi di IA che non possono più essere considerati ad alto rischio; e/o

c)  modificando i settori fondamentali per i sistemi di IA ad alto rischio esistenti.

Qualsiasi atto delegato che modifichi l'allegato entra in vigore sei mesi dopo la sua adozione. Nel determinare nuovi sistemi di IA ad alto rischio e/o settori fondamentali da inserire nell'allegato mediante atti delegati, la Commissione tiene pienamente conto dei criteri stabiliti dal presente regolamento, in particolare di quelli di cui all'articolo 3, lettera c).

3.  Gli operatori di sistemi di IA ad alto rischio non possono eludere la propria responsabilità sostenendo di avere agito con la dovuta diligenza o che il danno o il pregiudizio sia stato cagionato da un'attività, dispositivo o processo autonomo guidato dal loro sistema di IA. Gli operatori non sono considerati responsabili se il danno o il pregiudizio è dovuto a cause di forza maggiore.

4.  L'operatore di front-end di un sistema di IA ad alto rischio si assicura che le operazioni di tale sistema di IA siano coperte da un'assicurazione a copertura della responsabilità civile adeguata agli importi e all'entità del risarcimento di cui agli articoli 5 e 6 del presente regolamento. L'operatore di back-end si assicura che i suoi servizi siano coperti da un'assicurazione della responsabilità civile prodotti o imprese che sia adeguata agli importi e all'entità del risarcimento di cui agli articoli 5 e 6 del presente regolamento. Se si ritiene che i regimi assicurativi obbligatori dell'operatore di front-end o di back-end già in vigore ai sensi di un'altra legge dell'Unione o nazionale o fondi assicurativi aziendali volontari esistenti coprano il funzionamento del sistema di IA o il servizio fornito, l'obbligo di stipulare una copertura assicurativa per il sistema di IA o il servizio fornito ai sensi del presente regolamento è ritenuto adempiuto, purché la pertinente assicurazione obbligatoria esistente o i fondi assicurativi aziendali volontari coprano gli importi e l'entità del risarcimento di cui agli articoli 5 e 6 del presente regolamento.

5.  Il presente regolamento prevale sui regimi nazionali di responsabilità civile in caso di discrepanze nella classificazione dei sistemi di IA ai fini della responsabilità oggettiva.

Articolo 5

Importo del risarcimento

1.  Un operatore di un sistema di IA ad alto rischio che sia stato ritenuto responsabile per danni o pregiudizi ai sensi del presente regolamento risarcisce:

a)  fino a un importo massimo di due milioni di EUR in caso di morte o in caso di danni alla salute o all'integrità fisica di una persona interessata in conseguenza della messa in funzione di un sistema di IA ad alto rischio;

b)  fino a un importo massimo di un milione di EUR in caso di danni non patrimoniali rilevanti che risultino in una perdita economica verificabile o di danni al patrimonio, anche quando vari beni di proprietà di una persona siano stati danneggiati in conseguenza di un'unica messa in funzione di un unico sistema di IA ad alto rischio; qualora la persona interessata possa far valere anche la responsabilità contrattuale nei confronti dell'operatore, non viene corrisposto alcun risarcimento ai sensi del presente regolamento se l'importo complessivo dei danni al patrimonio o il danno non patrimoniale rilevante ha un valore inferiore a [500 EUR](9).

2.  Laddove il risarcimento combinato da corrispondere a più persone che hanno subito danni o pregiudizi causati da una stessa messa in funzione del medesimo sistema di IA ad alto rischio superi gli importi massimi complessivi previsti dal paragrafo 1, gli importi da versare a ciascuna persona sono ridotti proporzionalmente di modo che il risarcimento combinato non sia superiore agli importi massimi specificati al paragrafo 1.

Articolo 6

Entità del risarcimento

1.  Nei limiti dell'importo di cui all'articolo 5, paragrafo 1, lettera a), l'operatore ritenuto responsabile in caso di danni fisici seguiti da morte della persona interessata corrisponde un risarcimento calcolato sulla base dei costi delle cure mediche a cui è stata sottoposta la persona interessata prima della morte, e del pregiudizio pecuniario subito prima della morte a causa della cessazione o riduzione della capacità di guadagno o delle maggiori esigenze di tale persona per la durata del danno prima della morte. L'operatore ritenuto responsabile rimborsa, inoltre, i costi del funerale della persona interessata deceduta alla parte responsabile di farsi carico di tali spese.

Se, all'epoca dell'incidente che ha cagionato il danno che ha portato alla sua morte, la persona interessata aveva una relazione con una terza parte e aveva l'obbligo giuridico di fornirle assistenza, l'operatore ritenuto responsabile corrisponde un indennizzo a tale terza parte, pagando il mantenimento nella misura che la persona interessata sarebbe stata obbligata a pagare, per il periodo corrispondente all'aspettativa di vita media di una persona della sua età e con le sue caratteristiche generali. L'operatore, inoltre, corrisponde un indennizzo alla terza parte se, all'epoca dell'incidente che ha provocato la morte, detta terza parte era stata concepita, ma non era ancora nata.

2.  Nei limiti dell'importo di cui all'articolo 5, paragrafo 1, lettera b), il risarcimento che deve essere versato dall'operatore ritenuto responsabile in caso di danni alla salute o all'integrità fisica della persona interessata include il rimborso dei costi delle relative cure mediche, nonché il pagamento di qualsiasi pregiudizio pecuniario subito dalla persona interessata per effetto della temporanea sospensione, della riduzione o della cessazione permanente della sua capacità di guadagno o del conseguente aumento delle sue esigenze, come attestato da un medico.

Articolo 7

Prescrizione

1.  Le azioni per responsabilità civile intentate conformemente all'articolo 4, paragrafo 1, per danni alla vita, alla salute o all'integrità fisica sono soggette a un termine di prescrizione speciale di 30 anni a decorrere dalla data in cui si è verificato il danno.

2.  Le azioni per responsabilità civile intentate conformemente all'articolo 4, paragrafo 1, per danni al patrimonio o rilevanti danni non patrimoniali che risultino in una perdita economica verificabile sono soggette a un termine di prescrizione speciale di:

a)  10 anni a decorrere dalla data in cui si è verificato, rispettivamente, il danno al patrimonio o la perdita economica verificabile derivante dal danno non patrimoniale rilevante o

b)  30 anni a decorrere dalla data in cui ha avuto luogo l'attività del sistema di IA ad alto rischio che ha provocato il danno al patrimonio o il danno non patrimoniale.

Dei periodi indicati al primo comma, si applica quello che termina per primo.

3.  Il presente articolo non pregiudica l'applicazione del diritto nazionale che disciplina la sospensione o l'interruzione della prescrizione.

Capo III

Altri sistemi di IA

Articolo 8

Regime di responsabilità per colpa per gli altri sistemi di IA

1.  L'operatore di un sistema di IA che non si configura come un sistema di IA ad alto rischio ai sensi dell'articolo 3, lettera c), e dell'articolo 4, paragrafo 2, e che di conseguenza non sia stato inserito nell'elenco contenuto nell'allegato al presente regolamento, è soggetto a un regime di responsabilità per colpa in caso di eventuali danni o pregiudizi causati da un'attività, dispositivo o processo fisico o virtuale guidato dal sistema di IA.

2.  L'operatore non è responsabile se riesce a dimostrare che il danno o il pregiudizio arrecato non è imputabile a sua colpa per uno dei seguenti motivi:

a)  il sistema di IA si è attivato senza che l'operatore ne fosse a conoscenza e sono state adottate tutte le misure ragionevoli e necessarie per evitare tale attivazione al di fuori del controllo dell'operatore, o

b)  è stata rispettata la dovuta diligenza con lo svolgimento delle seguenti operazioni: selezionando un sistema di IA idoneo al compito e alle competenze, mettendo debitamente in funzione il sistema di IA, monitorando le attività e mantenendo l'affidabilità operativa mediante la periodica installazione di tutti gli aggiornamenti disponibili.

L'operatore non può sottrarsi alla responsabilità sostenendo che il danno o il pregiudizio sia stato cagionato da un'attività, dispositivo o processo autonomo guidato dal suo sistema di IA. L'operatore non è responsabile se il danno o il pregiudizio è dovuto a cause di forza maggiore.

3.  Laddove il danno o il pregiudizio sia stato causato da un terzo che abbia interferito con il sistema di IA attraverso la modifica del suo funzionamento o dei suoi effetti, l'operatore è comunque tenuto a corrispondere un risarcimento se tale terzo è irrintracciabile o insolvibile.

4.  Il produttore di un sistema di IA è tenuto a cooperare con l'operatore o con la persona interessata, su loro richiesta, e a fornire loro informazioni, nella misura giustificata dall'importanza della pretesa, al fine di consentire l'individuazione delle responsabilità.

Articolo 9

Disposizioni nazionali relative al risarcimento e al termine di prescrizione

Le azioni per responsabilità civile intentate a norma dell'articolo 8, paragrafo 1, sono soggette, relativamente ai termini di prescrizione e agli importi ed entità del risarcimento, alle leggi dello Stato membro in cui si è verificato il danno o il pregiudizio.

Capo IV

Ripartizione della responsabilità

Articolo 10

Concorso di colpa

1.  Se il danno o il pregiudizio è causato sia da un'attività, dispositivo o processo fisico o virtuale guidato da un sistema di IA sia dalle azioni di una persona interessata o di un'altra persona di cui la persona interessata sia responsabile, il grado di responsabilità dell'operatore ai sensi del presente regolamento è ridotto di conseguenza. L'operatore non è responsabile se la responsabilità del danno o del pregiudizio causato è esclusivamente imputabile alla persona interessata o alla persona di cui questa è responsabile.

2.  Un operatore ritenuto responsabile può utilizzare i dati generati dal sistema di IA per provare il concorso di colpa della persona interessata, in conformità del regolamento (UE) 2016/679 e di altre leggi pertinenti in materia di protezione dei dati. La persona interessata può utilizzare tali dati anche come prova o ai fini di un chiarimento nell'ambito dell'azione per responsabilità.

Articolo 11

Responsabilità in solido

In presenza di più operatori di un sistema di IA, tali soggetti sono responsabili in solido. Se un operatore di front-end è anche il produttore del sistema di IA, le disposizioni del presente regolamento prevalgono su quelle della direttiva sulla responsabilità per danno da prodotti difettosi. Se l'operatore di back-end è anche il produttore, ai sensi dell'articolo 3 della direttiva sulla responsabilità per danno da prodotti difettosi, è opportuno che detta direttiva si applichi a tale soggetto. Se vi è un solo operatore e tale operatore è anche il produttore del sistema di IA, le disposizioni del presente regolamento dovrebbero prevalere su quelle della direttiva sulla responsabilità per danno da prodotti difettosi.

Articolo 12

Azione di regresso per il risarcimento

1.  L'operatore non ha il diritto di proporre un'azione di regresso, a meno che la persona interessata non abbia interamente ricevuto il risarcimento che le spetta ai sensi del presente regolamento.

2.  Nel caso in cui l'operatore sia solidalmente responsabile con altri operatori nei confronti di una persona interessata e abbia interamente risarcito detta persona a norma dell'articolo 4, paragrafo 1, o dell'articolo 8, paragrafo 1, l'operatore in questione può recuperare parte del risarcimento da altri operatori, proporzionalmente alla loro responsabilità.

Le proporzioni della responsabilità sono basate sui rispettivi gradi di controllo che gli operatori hanno esercitato sul rischio connesso all'operatività e al funzionamento del sistema di IA. Se non è possibile ottenere da un operatore responsabile in solido il contributo che gli è attribuibile, tale importo mancante è a carico degli altri operatori. Nella misura in cui un operatore solidalmente responsabile risarcisca la persona interessata e chieda la liquidazione dei pagamenti anticipati agli altri operatori responsabili, tale operatore si surroga nella pretesa della persona interessata nei confronti degli altri operatori. La surrogazione nelle pretese non è fatta valere a scapito della pretesa originale.

3.  Nel caso in cui l'operatore di un sistema di IA difettoso indennizzi interamente la persona interessata per danni o pregiudizi a norma dell'articolo 4, paragrafo 1, o dell'articolo 8, paragrafo 1, del presente regolamento, detto operatore può esercitare un'azione di regresso nei confronti del produttore del sistema di IA difettoso conformemente alla direttiva 85/374/CEE e alle disposizioni nazionali che disciplinano la responsabilità per danno da prodotti difettosi.

4.  Nel caso in cui l'assicuratore dell'operatore indennizzi la persona interessata per danni o pregiudizi a norma dell'articolo 4, paragrafo 1, o dell'articolo 8, paragrafo 1, detto assicuratore si surroga in qualsiasi azione per responsabilità civile della persona interessata nei confronti di un'altra persona per i medesimi danni, per l'importo che l'assicuratore dell'operatore ha risarcito alla persona interessata.

Capo V

Disposizioni finali

Articolo 13

Esercizio della delega

1.  Il potere di adottare atti delegati è conferito alla Commissione alle condizioni stabilite nel presente articolo.

2.  Il potere di adottare gli atti delegati di cui all'articolo 4, paragrafo 2, è conferito alla Commissione per un periodo di cinque anni a decorrere dal [data di applicazione del presente regolamento].

3.  La delega di potere di cui all'articolo 4, paragrafo 2, può essere revocata in qualsiasi momento dal Parlamento europeo o dal Consiglio. La decisione di revoca pone fine alla delega di potere ivi specificata. Gli effetti della decisione decorrono dal giorno successivo alla pubblicazione della decisione nella Gazzetta ufficiale dell'Unione europea o da una data successiva ivi specificata. Essa non pregiudica la validità degli atti delegati già in vigore.

4.  Prima di adottare un atto delegato, la Commissione consulta il Comitato tecnico permanente per i sistemi di IA ad alto rischio (comitato TCRAI) conformemente ai principi stabiliti nell'accordo interistituzionale "Legiferare meglio" del 13 aprile 2016.

5.  Non appena adotta un atto delegato, la Commissione ne dà contestualmente notifica al Parlamento europeo e al Consiglio.

6.  Un atto delegato adottato ai sensi dell'articolo 4, paragrafo 2, entra in vigore solo se non ha sollevato obiezioni da parte del Parlamento europeo o del Consiglio entro due mesi dalla sua notifica a queste due istituzioni, oppure se, prima della scadenza di tale termine, il Parlamento europeo e il Consiglio hanno entrambi comunicato alla Commissione che non intendono formulare obiezioni. Tale termine è prorogato di due mesi su iniziativa del Parlamento europeo o del Consiglio.

Articolo 14

Riesame

Entro il 1° gennaio 202X [3 anni dalla data di applicazione del presente regolamento], e successivamente ogni tre anni, la Commissione presenta una relazione dettagliata al Parlamento europeo, al Consiglio e al Comitato economico e sociale europeo in cui riesamina il presente regolamento alla luce dell'ulteriore sviluppo dell'intelligenza artificiale.

Nel preparare la relazione di cui al primo comma, la Commissione chiede agli Stati membri informazioni pertinenti riguardo alla giurisprudenza, alle transazioni giudiziarie e alle statistiche sugli incidenti, come ad esempio il numero di incidenti, i danni subiti, le applicazioni di IA interessate e i risarcimenti versati dalle compagnie di assicurazioni, ma anche una valutazione del numero di azioni intentate dalle persone interessate, in forma individuale o collettiva, e dei tempi nei quali tali azioni sono trattate in tribunale.

La relazione della Commissione è corredata, se del caso, di proposte legislative volte a colmare le lacune individuate nella relazione.

Articolo 15

Entrata in vigore

Il presente regolamento entra in vigore il ventesimo giorno successivo alla pubblicazione nella Gazzetta ufficiale dell'Unione europea.

Esso si applica a decorrere dal 1° gennaio 202X.

Il presente regolamento è obbligatorio in tutti i suoi elementi e direttamente applicabile in ciascuno degli Stati membri.

Fatto a , il

Per il Parlamento europeo Per il Consiglio

Il presidente Il presidente

(1) GU ...
(2) GU ...
(3) Direttiva 85/374/CEE del Consiglio, del 25 luglio 1985, relativa al ravvicinamento delle disposizioni legislative, regolamentari e amministrative degli Stati membri in materia di responsabilità per danno da prodotti difettosi (GU L 210 del 7.8.1985, pag. 29).
(4) GU L 123 del 12.5.2016, pag. 1.
(5) Cfr. pag. 24 del Libro bianco della Commissione del 19 febbraio 2020 dal titolo "Intelligenza artificiale - Un approccio europeo all'eccellenza e alla fiducia" (COM(2020)0065).
(6) Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale sulla protezione dei dati) (GU L 119 del 4.5.2016, pag. 1).
(7) Regolamento (UE) 2018/858 del Parlamento europeo e del Consiglio, del 30 maggio 2018, relativo all'omologazione e alla vigilanza del mercato dei veicoli a motore e dei loro rimorchi, nonché dei sistemi, dei componenti e delle entità tecniche indipendenti destinati a tali veicoli, che modifica i regolamenti (CE) n. 715/2007 e (CE) n. 595/2009 e abroga la direttiva 2007/46/CE (GU L 151 del 14.6.2018, pag. 1).
(8) Regolamento (UE) 2019/1020 del Parlamento europeo e del Consiglio, del 20 giugno 2019, sulla vigilanza del mercato e sulla conformità dei prodotti e che modifica la direttiva 2004/42/CE e i regolamenti (CE) n. 765/2008 e (UE) n. 305/2011 (GU L 169 del 25.6.2019, pag. 1).
(9) Da rivedere da parte della Commissione europea come indicato al paragrafo 19 della risoluzione.


ALLEGATO

[...]

Ultimo aggiornamento: 22 gennaio 2021Note legali - Informativa sulla privacy