Indice 
 Precedente 
 Seguente 
 Testo integrale 
Procedura : 2019/2915(RSP)
Ciclo di vita in Aula
Ciclo del documento : B9-0094/2020

Testi presentati :

B9-0094/2020

Discussioni :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Votazioni :

PV 12/02/2020 - 11.8
Dichiarazioni di voto

Testi approvati :

P9_TA(2020)0032

Testi approvati
PDF 157kWORD 48k
Mercoledì 12 febbraio 2020 - Strasburgo Edizione provvisoria
Processi decisionali automatizzati: garantire la tutela dei consumatori e la libera circolazione di beni e servizi
P9_TA-PROV(2020)0032B9-0094/2020

Risoluzione del Parlamento europeo del 12 febbraio 2020 sui processi decisionali automatizzati: garantire la tutela dei consumatori e la libera circolazione di beni e servizi (2019/2915(RSP))

Il Parlamento europeo,

–  vista la sua risoluzione del 12 febbraio 2019 su una politica industriale europea globale in materia di robotica e intelligenza artificiale(1),

–  vista la sua risoluzione del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica(2),

–  vista la relazione dal titolo "Liability for artificial intelligence and other emerging digital technologies" (Responsabilità per l'intelligenza artificiale e altre tecnologie digitali emergenti), pubblicata il 21 novembre 2019 dal gruppo di esperti della Commissione sul tema Responsabilità e nuove tecnologie,

–  vista la relazione dal titolo "Policy and investment recommendations for trustworthy artificial intelligence" (Raccomandazioni strategiche e di investimento per un'intelligenza artificiale affidabile), pubblicata il 26 giugno 2019 dal gruppo di esperti ad alto livello della Commissione sull'intelligenza artificiale,

–  visti il documento intitolato "Ethics Guidelines for Trustworthy AI" (Orientamenti etici per un'IA affidabile), pubblicato l'8 aprile 2019 dal gruppo di esperti ad alto livello della Commissione sull'intelligenza artificiale, nonché l'elenco di valutazione per un'IA affidabile,

–  vista la comunicazione della Commissione dell'8 aprile 2019 dal titolo "Creare fiducia nell'intelligenza artificiale antropocentrica" (COM(2019)0168),

–  vista la comunicazione della Commissione del 7 dicembre 2018 dal titolo "Piano coordinato sull'intelligenza artificiale" (COM(2018)0795),

–  vista la comunicazione della Commissione del 25 aprile 2018 dal titolo "L'intelligenza artificiale per l'Europa" (COM(2018)0237),

–  vista la proposta di risoluzione della commissione per il mercato interno e la protezione dei consumatori,

–  vista l'interrogazione alla Commissione sui processi decisionali automatizzati: garantire la tutela dei consumatori e la libera circolazione di beni e servizi (O-000008/2020 – B9-0007/2020),

–  visti l'articolo 136, paragrafo 5, e l'articolo 132, paragrafo 2, del suo regolamento,

A.  considerando che i progressi tecnologici nel campo dell'intelligenza artificiale (IA), dell'apprendimento automatico, dei sistemi complessi basati su algoritmi e dei processi decisionali automatizzati hanno un ritmo sostenuto e che le applicazioni, le opportunità e le sfide derivanti da tali tecnologie sono numerose e riguardano praticamente tutti i settori del mercato interno;

B.  considerando che, secondo le previsioni, lo sviluppo di processi decisionali automatizzati apporterà un contributo significativo all'economia della conoscenza e offrirà benefici per la società, grazie anche a migliori servizi pubblici, per i consumatori, grazie a prodotti e servizi innovativi, e per le imprese, grazie a prestazioni ottimizzate;

C.  considerando che lo sviluppo e l'utilizzo dell'IA e dei processi decisionali automatizzati comportano anche sfide per la fiducia e il benessere dei consumatori, soprattutto quando si tratta di porre questi ultimi nelle condizioni di individuare tali processi, comprendere come funzionano, prendere decisioni informate circa il loro impiego o rinunciarvi;

D.  considerando che gli orientamenti etici, come ad esempio i principi adottati dal gruppo di esperti ad alto livello della Commissione sull'intelligenza artificiale, rappresentano un punto di partenza; che, tuttavia, occorre esaminare l'attuale quadro giuridico dell'UE, compresi l'acquis in materia di diritto dei consumatori e la normativa sulla sicurezza dei prodotti e la vigilanza del mercato, nell'ottica di verificare se è in grado di rispondere all'emergere dell'IA e dei processi decisionali automatizzati e di fornire un elevato livello di protezione dei consumatori, come richiesto dall'articolo 38 della Carta dei diritti fondamentali dell'Unione europea;

E.  considerando che un approccio comune dell'UE allo sviluppo di processi decisionali automatizzati contribuirà a ottenere benefici da tali processi e a mitigare i rischi in tutta l'Unione, eviterà la frammentazione del mercato interno e consentirà all'Unione europea di promuovere meglio il suo approccio e i suoi valori in tutto il mondo;

Scelta, fiducia e benessere dei consumatori

1.  valuta positivamente le potenzialità dei processi decisionali automatizzati nel fornire ai consumatori servizi innovativi e migliori, compresi nuovi servizi digitali quali assistenti virtuali e chatbot; ritiene tuttavia che, quando i consumatori interagiscono con un sistema che automatizza il processo decisionale, essi dovrebbero essere adeguatamente informati sul modo in cui detto sistema funziona, su come contattare un essere umano dotato di potere decisionale e su come sia possibile controllare e correggere le decisioni del sistema;

2.  esorta la Commissione a monitorare attentamente l'applicazione delle nuove norme ai sensi della direttiva concernente una migliore attuazione(3), che impongono ai professionisti di informare i consumatori quando i prezzi dei beni o dei servizi sono stati personalizzati sulla base di processi decisionali automatizzati e di profilazione del comportamento dei consumatori che permettono ai professionisti di valutare il potere d'acquisto dei singoli consumatori;

3.  esorta la Commissione a monitorare attentamente l'attuazione del regolamento sui blocchi geografici(4), al fine di garantire che i processi decisionali automatici non siano utilizzati per discriminare i consumatori in base alla nazionalità, al luogo di residenza o all'ubicazione temporanea;

4.  incoraggia la Commissione a verificare se gli obblighi in capo ai professionisti consentano ai consumatori di operare una scelta effettiva e offrano una sufficiente protezione degli stessi; invita la Commissione a verificare l'esistenza di eventuali lacune normative e a valutare se sono necessarie ulteriori misure volte a garantire una solida serie di diritti a tutela dei consumatori nel contesto dell'IA e dei processi decisionali automatizzati;

5.  rileva che i sistemi decisionali automatizzati vengono utilizzati in meccanismi alternativi di risoluzione delle controversie su varie piattaforme digitali per risolvere le controversie tra consumatori e professionisti; invita la Commissione a garantire che un'eventuale prossima revisione della direttiva 2013/11/UE sulla risoluzione alternativa delle controversie dei consumatori(5) e del regolamento (UE) n. 524/2013 relativo alla risoluzione delle controversie online dei consumatori(6) tenga conto dell'impiego dei processi decisionali automatizzati e assicuri che gli esseri umani mantengano il controllo;

Quadro di sicurezza e responsabilità per i prodotti

6.  sottolinea che il quadro dell'UE per la sicurezza dei prodotti obbliga le imprese a garantire l'immissione sul mercato unicamente di prodotti sicuri e conformi; riconosce che l'emergere di prodotti con capacità decisionali automatizzate pone nuove sfide, dal momento che tali prodotti possono evolvere e agire in un modo non previsto al momento della loro prima immissione sul mercato; esorta la Commissione a presentare proposte per adeguare le norme di sicurezza dell'UE per i prodotti disciplinati da una legislazione specifica dell'Unione che stabilisce requisiti armonizzati, tra cui la direttiva macchine(7), la direttiva sulla sicurezza dei giocattoli(8), la direttiva sulle apparecchiature radio(9) e la direttiva sulla bassa tensione(10), come pure per i "prodotti non armonizzati" contemplati dalla direttiva relativa alla sicurezza generale dei prodotti(11), in modo da garantire che le nuove norme siano adatte allo scopo, gli utenti e i consumatori siano protetti da eventuali danni, ai fabbricanti sia chiaro quali sono i loro obblighi e gli utenti conoscano con precisione le modalità di utilizzo dei prodotti dotati di capacità decisionali automatizzate;

7.  pone l'accento sulla necessità di un approccio alla regolamentazione basato sul rischio, alla luce dell'eterogeneità e della complessità delle sfide poste dalle diverse tipologie e applicazioni dell'IA e dei sistemi decisionali automatizzati; invita la Commissione a elaborare un modello di valutazione dei rischi per l'IA e i processi decisionali automatizzati al fine di garantire un approccio coerente all'applicazione della normativa sulla sicurezza dei prodotti nel mercato interno; evidenzia che gli Stati membri devono elaborare strategie armonizzate di gestione del rischio per l'IA nel contesto delle loro strategie nazionali di vigilanza del mercato;

8.  osserva che la direttiva sulla responsabilità per danno da prodotti difettosi(12) fornisce, da oltre 30 anni, una valida rete di sicurezza che tutela i consumatori dai danni causati da prodotti difettosi; riconosce la sfida rappresentata dal determinare la responsabilità nel caso in cui il danno arrecato ai consumatori derivi da processi decisionali autonomi; invita la Commissione a rivedere la predetta direttiva e a valutare la possibilità di adattare concetti come "prodotto", "danno" e "difetto", nonché di adeguare le norme che disciplinano l'onere della prova; esorta la Commissione a presentare proposte per aggiornare tali concetti e norme, ove necessario;

Quadro normativo in materia di servizi

9.  ricorda che il quadro normativo esistente in materia di servizi, costituito dalla direttiva sui servizi(13), dalla direttiva sulle qualifiche professionali(14), dalla direttiva relativa a un test della proporzionalità(15), dalla direttiva sul commercio elettronico(16) e dal regolamento generale sulla protezione dei dati (GDPR)(17), comprende già molti aspetti strategici pertinenti per i servizi che integrano i processi decisionali automatizzati, tra cui norme in materia di protezione dei consumatori, etica e responsabilità; osserva che tali norme dovrebbero applicarsi sia ai servizi tradizionali che a quelli che integrano processi decisionali automatizzati;

10.  sottolinea che, sebbene i processi decisionali automatizzati possano migliorare l'efficienza e la precisione dei servizi, gli esseri umani devono sempre essere responsabili, in ultima istanza, delle decisioni prese nell'ambito di servizi professionali quali le professioni mediche, forensi e contabili, e nel settore bancario, nonché essere in grado di revocare tali decisioni; ricorda l'importanza del controllo o della vigilanza indipendente da parte di professionisti qualificati nel caso di processi decisionali automatizzati dove sono in gioco legittimi interessi pubblici;

11.  sottolinea l'importanza, in linea con la direttiva relativa a un test della proporzionalità, di valutare correttamente i rischi prima di automatizzare i servizi professionali; esorta le autorità competenti degli Stati membri a garantire che la formazione professionale tenga conto dei progressi scientifici nel campo dei processi decisionali automatizzati;

Qualità e trasparenza nella governance dei dati

12.  osserva che i sistemi decisionali automatizzati si basano sulla raccolta di grandi quantità di dati e ritiene che il regolamento sulla libera circolazione dei dati non personali(18) contribuirà a rendere disponibili più dati in tutta l'Unione europea, consentendo così la creazione di servizi innovativi basati sui dati; riconosce, a tale riguardo, il potenziale della condivisione dei dati da fonti non solo pubbliche ma anche private, pur sottolineando la fondamentale necessità di proteggere i dati personali ai sensi del GDPR; pone l'accento sull'importanza di utilizzare unicamente serie di dati imparziali e di elevata qualità al fine di migliorare i risultati dei sistemi algoritmici e di accrescere la fiducia e l'accettazione da parte dei consumatori;

13.  evidenzia che, alla luce del notevole impatto che i sistemi decisionali automatizzati possono avere sui consumatori, in particolare su coloro che si trovano in situazioni vulnerabili, è importante che tali sistemi non solo utilizzino serie di dati imparziali e di elevata qualità, ma si avvalgano anche di algoritmi spiegabili e imparziali; ritiene che siano necessarie strutture di revisione nell'ambito dei processi aziendali per correggere eventuali errori nelle decisioni automatizzate e che i consumatori debbano avere la possibilità di chiedere una verifica umana, e la correzione, delle decisioni automatizzate definitive e permanenti;

14.  sottolinea che, al fine di valutare se i prodotti dotati di capacità decisionali automatizzate siano conformi alle pertinenti norme di sicurezza, è essenziale che gli algoritmi alla base di tali capacità siano sufficientemente trasparenti e possano essere illustrati in modo comprensibile alle autorità di vigilanza del mercato; invita la Commissione a valutare l'opportunità di conferire prerogative aggiuntive in tal senso alle autorità di vigilanza del mercato;

15.  invita la Commissione a monitorare attentamente l'attuazione del regolamento sulle relazioni piattaforme/imprese(19), in particolare le norme sulla trasparenza dei posizionamenti, che implicano l'utilizzo di processi decisionali automatizzati;

o
o   o

16.  incarica il suo Presidente di trasmettere la presente risoluzione al Consiglio e alla Commissione.

(1) Testi approvati, P8_TA(2019)0081.
(2) GU C 252 del 18.7.2018, pag. 239.
(3) Direttiva (UE) 2019/2161 del Parlamento europeo e del Consiglio del 27 novembre 2019 che modifica la direttiva 93/13/CEE del Consiglio e le direttive 98/6/CE, 2005/29/CE e 2011/83/UE del Parlamento europeo e del Consiglio per una migliore applicazione e una modernizzazione delle norme dell'Unione relative alla protezione dei consumatori (GU L 328 del 18.12.2019, pag. 7).
(4) Regolamento (UE) 2018/302 del Parlamento europeo e del Consiglio, del 28 febbraio 2018, recante misure volte a impedire i blocchi geografici ingiustificati e altre forme di discriminazione basate sulla nazionalità, sul luogo di residenza o sul luogo di stabilimento dei clienti nell'ambito del mercato interno e che modifica i regolamenti (CE) n. 2006/2004 e (UE) 2017/2394 e la direttiva 2009/22/CE (GU L 60 I del 2.3.2018, pag. 1).
(5) GU C 165 del 18.6.2013, pag. 63.
(6) GU C 165 del 18.6.2013, pag. 1.
(7) Direttiva 2006/42/CE del Parlamento europeo e del Consiglio, del 17 maggio 2006, relativa alle macchine e che modifica la direttiva 95/16/CE (rifusione) (GU L 157 del 9.6.2006, pag. 24).
(8) Direttiva 2009/48/CE del Parlamento europeo e del Consiglio, del 18 giugno 2009, sulla sicurezza dei giocattoli (GU L 170 del 30.6.2009, pag. 1).
(9) Direttiva 2014/53/UE del Parlamento europeo e del Consiglio, del 16 aprile 2014, concernente l'armonizzazione delle legislazioni degli Stati membri relative alla messa a disposizione sul mercato di apparecchiature radio e che abroga la direttiva 1999/5/CE (GU L 153 del 22.5.2014, pag. 62).
(10) Direttiva 2014/35/UE del Parlamento europeo e del Consiglio, del 26 febbraio 2014, concernente l'armonizzazione delle legislazioni degli Stati membri relative alla messa a disposizione sul mercato del materiale elettrico destinato a essere adoperato entro taluni limiti di tensione (GU L 96 del 29.3.2014, pag. 357).
(11) Direttiva 2001/95/UE del Parlamento europeo e del Consiglio, del 3 dicembre 2001, relativa alla sicurezza generale dei prodotti (GU L 11 del 15.1.2002, pag. 4).
(12) Direttiva 85/374/CEE del Consiglio, del 25 luglio 1985, relativa al ravvicinamento delle disposizioni legislative, regolamentari e amministrative degli Stati membri in materia di responsabilità per danno da prodotti difettosi (GU L 210 del 7.8.1985, pag. 29).
(13) Direttiva 2006/123/CE del Parlamento europeo e del Consiglio, del 12 dicembre 2006, relativa ai servizi nel mercato interno (GU L 376 del 27.12.2006, pag. 36).
(14) Direttiva 2013/55/UE del Parlamento europeo e del Consiglio, del 20 novembre 2013, recante modifica della direttiva 2005/36/CE relativa al riconoscimento delle qualifiche professionali e del regolamento (UE) n. 1024/2012 relativo alla cooperazione amministrativa attraverso il sistema di informazione del mercato interno ("regolamento IMI"), GU L 354 del 28.12.2013, pag. 132.
(15) Direttiva (UE) 2018/958 del Parlamento europeo e del Consiglio, del 28 giugno 2018, relativa a un test della proporzionalità prima dell'adozione di una nuova regolamentazione delle professioni (GU L 173 del 9.7.2018, pag. 25).
(16) Direttiva 2000/31/CE del Parlamento europeo e del Consiglio, dell'8 giugno 2000, relativa a taluni aspetti giuridici dei servizi della società dell'informazione, in particolare il commercio elettronico, nel mercato interno (direttiva sul commercio elettronico) (GU L 178 del 17.7.2000, pag. 1).
(17) Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale sulla protezione dei dati) (GU L 119 del 4.5.2016, pag. 1).
(18) Regolamento (UE) 2018/1807 del Parlamento europeo e del Consiglio, del 14 novembre 2018, relativo a un quadro applicabile alla libera circolazione dei dati non personali nell'Unione europea (GU L 303 del 28.11.2018, pag. 59).
(19) Regolamento (UE) 2019/1150 del Parlamento europeo e del Consiglio, del 20 giugno 2019, che promuove equità e trasparenza per gli utenti commerciali dei servizi di intermediazione online (GU L 186 dell'11.7.2019, pag. 57).

Ultimo aggiornamento: 19 febbraio 2020Avvertenza legale - Informativa sulla privacy