PROPOSTA DE RESOLUÇÃO sobre processos automatizados de tomada de decisões: assegurar a proteção dos consumidores e a livre circulação de bens e serviços
6.2.2020 - (2019/2915(RSP))
apresentada nos termos do artigo 136.º, n.º 5, do Regimento
Petra De Sutter
em nome da Comissão do Mercado Interno e da Proteção dos Consumidores
B9‑0094/2020
Resolução do Parlamento Europeu sobre processos automatizados de tomada de decisões: assegurar a proteção dos consumidores e a livre circulação de bens e serviços
O Parlamento Europeu,
– Tendo em conta a sua resolução, de 12 de fevereiro de 2019, sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica[1],
– Tendo em conta a sua resolução, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de direito civil sobre robótica[2],
– Tendo em conta o relatório intitulado «Liability for artificial intelligence and other emerging digital technologies» (Responsabilidade em matéria de inteligência artificial e outras tecnologias digitais emergentes), elaborado pelo Grupo de peritos sobre responsabilidade civil e novas tecnologias da Comissão, publicado em 21 de novembro de 2019,
– Tendo em conta o relatório intitulado «Policy and investment recommendations for trustworthy artificial intelligence» (Recomendações políticas e de investimento para uma inteligência artificial fiável), elaborado pelo Grupo de peritos de alto nível sobre inteligência artificial da Comissão, publicado em 26 de junho de 2019,
– Tendo em conta o documento intitulado «Ethics Guidelines for Trustworthy AI» (Orientações éticas para uma IA de confiança), elaborado pelo Grupo de peritos de alto nível sobre inteligência artificial da Comissão, publicado em 8 de abril de 2019, bem como a lista de avaliação para uma IA fiável,
– Tendo em conta a comunicação da Comissão, de 8 de abril de 2019, intitulada «Aumentar a confiança numa inteligência artificial centrada no ser humano» (COM(2019)0168),
– Tendo em conta a comunicação da Comissão, de 7 de dezembro de 2018, intitulada « Plano Coordenado para a Inteligência Artificial» (COM(2018)0795),
– Tendo em conta a comunicação da Comissão, de 25 de abril de 2018, intitulada «Inteligência artificial para a Europa» (COM(2018)0237),
– Tendo em conta a proposta de resolução da Comissão do Mercado Interno e da Proteção dos Consumidores,
– Tendo em conta a pergunta à Comissão sobre processos automatizados de tomada de decisões: assegurar a proteção dos consumidores e a livre circulação de bens e serviços (O-000008/2020 – B9‑XXXX/2020),
– Tendo em conta o artigo 136.º, n.º 5, e o artigo 132.º, n.º 2, do seu Regimento,
A. Considerando que os avanços tecnológicos nos domínios da inteligência artificial (IA), da aprendizagem automática, dos sistemas informáticos complexos baseados em algoritmos e dos processos automatizados de tomada de decisões estão a ser rápidos e que as aplicações, as oportunidades e os desafios proporcionados por estas tecnologias são numerosos e afetam, praticamente, todos os setores do mercado interno;
B. Considerando que o desenvolvimento de processos de tomada de decisão automatizados deverá contribuir de forma significativa para a economia do conhecimento e que proporciona benefícios para a sociedade através, nomeadamente, da melhoria dos serviços públicos, para os consumidores, através de produtos e serviços inovadores e, ainda, para as empresas, através de um desempenho otimizado;
C. Considerando que a utilização e o desenvolvimento da IA e dos processos de tomada de decisão automatizados também constituem desafios para a confiança e o bem-estar dos consumidores, especialmente em termos de capacitação dos consumidores para identificarem esses processos, compreenderem como funcionam, tomarem decisões informadas sobre a sua utilização e poderem recusá-los;
D. Considerando que as orientações éticas, como os princípios adotados pelo Grupo de peritos de alto nível em matéria de inteligência artificial da Comissão, constituem um ponto de partida; considerando, no entanto, que é necessária uma análise do atual quadro jurídico da UE (incluindo o acervo em matéria de direito do consumo e a legislação em matéria de proteção de dados, de segurança dos produtos e em matéria de fiscalização do mercado), a fim de verificar se está apto a responder à emergência da IA e da tomada decisões automatizada e proporcionar um elevado nível de proteção aos consumidores, tal como previsto no artigo 38.º da Carta dos Direitos Fundamentais da UE;
E. Considerando que uma abordagem comum da UE no que respeita ao desenvolvimento de processos automatizados de tomada de decisões contribuirá para assegurar os benefícios desses processos e atenuar os riscos em toda a UE, evitar a fragmentação do mercado interno e permitir à UE promover melhor a sua abordagem e os seus valores em todo o mundo;
Escolha, confiança e bem-estar dos consumidores
1. Congratula-se com o potencial do processo automatizado de tomada de decisões para oferecer serviços inovadores e de melhor qualidade aos consumidores, incluindo novos serviços digitais, como os assistentes virtuais e os «chatbots» (ou programas de simulação de conversa); considera, no entanto, que quando interagem com um sistema que automatiza a tomada de decisões, os consumidores devem estar bem informados acerca do seu funcionamento, saber como contactar a pessoa responsável e entender como é que as decisões automatizadas do sistema podem ser verificadas e corrigidas;
2. Exorta a Comissão a acompanhar de perto a aplicação das novas regras no âmbito da Diretiva «Melhor Aplicação»[3], que requer que os comerciantes informem os consumidores quando os preços dos bens ou serviços tenham sido personalizados com base em tomadas de decisões automatizadas e na definição de perfis de comportamento dos consumidores, que permitem que os comerciantes avaliem o poder de compra do consumidor;
3. Insta a Comissão a acompanhar de perto a aplicação do Regulamento relativo ao bloqueio geográfico[4], a fim de assegurar que os processos de tomada de decisões automatizados não sejam utilizados para discriminar os consumidores com base na sua nacionalidade, local de residência ou localização temporária;
4. Incentiva a Comissão a verificar se as obrigações impostas aos comerciantes permitem aos consumidores efetuar uma verdadeira escolha e proporcionam proteção suficiente; insta a Comissão a confirmar se existem lacunas regulamentares e a examinar se são necessárias medidas adicionais para garantir um conjunto sólido de direitos relativos à proteção dos consumidores no contexto da IA e da tomada automatizada de decisões;
5. Assinala que os sistemas automatizados de tomada de decisões estão a ser utilizados nos mecanismos alternativos de resolução de litígios de várias plataformas digitais para resolver litígios entre consumidores e comerciantes; insta a Comissão a assegurar que qualquer futura revisão da Diretiva 2013/11/UE sobre a resolução alternativa de litígios de consumo[5] e do Regulamento (UE) n.º 524/2013 sobre a resolução de litígios de consumo em linha[6] tenha em conta o recurso a processos automatizados de tomada de decisões e garanta que os seres humanos mantenham o controlo;
Quadro relativo à segurança e à responsabilidade pelos produtos
6. Sublinha que o quadro relativo à segurança dos produtos da UE obriga as empresas a garantir que apenas sejam colocados no mercado produtos seguros e conformes; reconhece que a emergência de produtos com capacidade de decisão automatizada coloca novos desafios, uma vez que esses produtos podem evoluir e agir de forma imprevista aquando da sua primeira colocação no mercado; exorta a Comissão a apresentar propostas de adaptação das regras de segurança da UE para os produtos abrangidos por legislação específica da UE que estabelece requisitos harmonizados, incluindo a Diretiva «Máquinas»[7], a Diretiva relativa à segurança dos brinquedos[8], a Diretiva «Equipamentos de Rádio»[9] e a Diretiva «Baixa Tensão»[10], bem como para os «produtos não harmonizados» abrangidos pela Diretiva relativa à segurança geral dos produtos[11], a fim de garantir que as novas regras sejam adequadas à sua finalidade, que os utilizadores e os consumidores sejam protegidos dos danos, que os fabricantes gozem de clareza no que respeita às suas obrigações e que os utilizadores beneficiem clareza sobre a utilização de produtos dotados de capacidades de tomada automatizada de decisões;
7. Realça a necessidade de uma abordagem baseada no risco no que se refere à regulamentação, tendo em conta a variedade e a complexidade dos desafios criados pelos diferentes tipos e aplicações de IA e sistemas automatizados de tomada de decisões; insta a Comissão a desenvolver um sistema de avaliação dos riscos para a IA e a tomada automatizada de decisões, a fim de garantir uma abordagem coerente da aplicação da legislação em matéria de segurança dos produtos no mercado interno; frisa que os Estados-Membros devem desenvolver estratégias harmonizadas de gestão dos riscos para a IA no contexto das suas estratégias nacionais de fiscalização do mercado;
8. Observa que a Diretiva relativa à responsabilidade decorrente dos produtos defeituosos[12] proporciona, há mais de 30 anos, uma valiosa rede de segurança para proteger os consumidores dos danos causados por produtos defeituosos; reconhece que a determinação da responsabilidade em caso de danos aos consumidores resultantes de processos autónomos de tomada de decisões é um desafio ; insta a Comissão a rever esta diretiva e a ponderar a adaptação de conceitos como «produto», «dano» e «defeito», bem como a adaptar as regras que regem o ónus da prova; exorta a Comissão a apresentar propostas para atualizar estes conceitos e regras, se necessário;
Quadro regulamentar em matéria de serviços
9. Recorda que o quadro regulamentar existente em matéria de serviços – que consiste na Diretiva «Serviços»[13], na Diretiva «Qualificações Profissionais»[14], na Diretiva relativa ao teste de proporcionalidade[15], na Diretiva «Comércio Eletrónico»[16] e no Regulamento Geral sobre a Proteção de Dados (RGPD)[17]–, já abrange muitos aspetos políticos relevantes para os serviços que incluem processos de tomada de decisão automatizados, incluindo regras em matéria de proteção dos consumidores, ética e responsabilidade; assinala que estas regras se devem aplicar tanto aos serviços tradicionais como aos serviços que incorporam processos de tomada de decisão automatizados;
10. Sublinha que, embora os processos de tomada de decisões automatizados possam melhorar a eficiência e a exatidão dos serviços, os seres humanos devem ser sempre responsáveis, em última instância, pelas decisões tomadas no quadro de serviços profissionais, nomeadamente nos setores médicos, jurídicos e contabilísticos, assim como no setor bancário, devendo também poder alterar estas decisões; recorda a importância da supervisão ou do controlo independente por profissionais qualificados em caso de tomada de decisão automatizada, sempre que estejam em causa interesses públicos legítimos;
11. Realça a importância de, em conformidade com a diretiva relativa aos testes de proporcionalidade, avaliar corretamente os riscos antes da automatização dos serviços profissionais; exorta as autoridades competentes dos Estados-Membros a assegurarem que a formação profissional tenha em conta os progressos científicos no domínio da tomada de decisões automatizada;
Qualidade e transparência no domínio da governação dos dados
12. Observa que os sistemas automatizados de tomada de decisões dependem da recolha de grandes quantidades de dados e considera que o regulamento relativo ao livre fluxo de dados não pessoais[18] ajudará a disponibilizar mais dados em toda a UE, permitindo assim a criação de serviços inovadores baseados em dados; reconhece, a este respeito, o potencial da partilha de dados, não só de fontes públicas mas também privadas, salientando simultaneamente o imperativo de proteger os dados pessoais ao abrigo do RGPD; salienta a importância de utilizar apenas conjuntos de dados de elevada qualidade e imparciais, a fim de melhorar os resultados dos sistemas algorítmicos e aumentar a confiança e a aceitação dos consumidores;
13. Frisa que, tendo em conta o impacto significativo que os sistemas de decisão automatizados podem ter nos consumidores, especialmente os que se encontram em situações vulneráveis, é importante que estes sistemas utilizem não só conjuntos de dados de alta qualidade e imparciais mas, também, algoritmos explicáveis e imparciais; considera que são necessárias estruturas de revisão no âmbito dos processos das empresas para corrigir eventuais erros nas decisões automatizadas e defende que os consumidores devem poder solicitar a revisão e correção, por um ser humano, das decisões automatizadas que sejam definitivas e permanentes;
14. Realça que, para avaliar se os produtos com capacidades de tomada de decisão automatizada estão em conformidade com as regras de segurança pertinentes, é essencial que os algoritmos subjacentes a essas capacidades sejam suficientemente transparentes e que sejam explicáveis às autoridades de fiscalização do mercado; convida a Comissão a avaliar se devem ser atribuídas às autoridades de fiscalização do mercado prerrogativas adicionais a este respeito;
15. Insta a Comissão a acompanhar de perto a aplicação do Regulamento relativo às relações entre as plataformas e as empresas[19], especialmente das regras sobre a transparência das classificações, que implicam a utilização de processos de decisão automatizados;
16. Encarrega o seu Presidente de transmitir a presente resolução ao Conselho, à Comissão e aos parceiros sociais envolvidos.
- [1] Textos aprovados, P8_TA(2019)0081.
- [2] JO C 252 de 18.7.2018, p. 239.
- [3] Diretiva (UE) 2019/2161 do Parlamento Europeu e do Conselho de 27 de novembro de 2019 que altera a Diretiva 93/13/CEE do Conselho e as Diretivas 98/6/CE, 2005/29/CE e 2011/83/UE do Parlamento Europeu e do Conselho a fim de assegurar uma melhor aplicação e a modernização das regras da União em matéria de defesa dos consumidores (JO L 328 de 18.12.2019, p. 7).
- [4] Regulamento (UE) 2018/302 do Parlamento Europeu e do Conselho, de 28 de fevereiro de 2018, que visa prevenir o bloqueio geográfico injustificado e outras formas de discriminação baseadas na nacionalidade, no local de residência ou no local de estabelecimento dos clientes no mercado interno, e que altera os Regulamentos (CE) n.o 2006/2004 e (UE) 2017/2394 e a Diretiva 2009/22/CE (JO L 60 I de 2.3.2018, p. 1).
- [5] JO L 165 de 18.6.2013, p. 63.
- [6] JO L 165 de 18.6.2013, p. 1.
- [7] Diretiva 2006/42/CE do Parlamento Europeu e do Conselho, de 17 de maio de 2006, relativa às máquinas e que altera a Diretiva 95/16/CE (reformulação) (JO L 157 de 9.6.2006, p. 24).
- [8] Diretiva 2009/48/CE do Parlamento Europeu e do Conselho, de 18 de junho de 2009, relativa à segurança dos brinquedos (JO L 170 de 30.6.2009, p. 1).
- [9] Diretiva 2014/53/UE do Parlamento Europeu e do Conselho, de 16 de abril de 2014, relativa à harmonização da legislação dos Estados-Membros respeitante à disponibilização de equipamentos de rádio no mercado e que revoga a Diretiva 1999/5/CE (JO L 153 de 22.5.2014, p. 62).
- [10] Diretiva 2014/35/UE do Parlamento Europeu e do Conselho, de 26 de fevereiro de 2014, relativa à harmonização da legislação dos Estados-Membros respeitante à disponibilização no mercado de material elétrico destinado a ser utilizado dentro de certos limites de tensão (JO L 96 de 29.3.2014, p. 357).
- [11] Diretiva 2001/95/CE do Parlamento Europeu e do Conselho, de 3 de dezembro de 2001, relativa à segurança geral dos produtos (JO L 11 de 15.1.2002, p. 4).
- [12] Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos (JO L 210 de 7.8.1985, p. 29).
- [13] Diretiva 2006/123/CE do Parlamento Europeu e do Conselho, de 12 de dezembro de 2006, relativa aos serviços no mercado interno (JO L 376 de 27.12.2006, p. 36).
- [14] Diretiva 2013/55/UE do Parlamento Europeu e do Conselho, de 20 de novembro de 2013, que altera a Diretiva 2005/36/CE relativa ao reconhecimento das qualificações profissionais e o Regulamento (UE) n.º 1024/2012 relativo à cooperação administrativa através do Sistema de Informação do Mercado Interno («Regulamento IMI») (JO L 354 de 28.12.2013, p. 132).
- [15] Diretiva (UE) 2018/958 do Parlamento Europeu e do Conselho, de 28 de junho de 2018, relativa a um teste de proporcionalidade a realizar antes da aprovação de nova regulamentação das profissões (JO L 173 de 9.7.2018, p. 25).
- [16] Diretiva 2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000, relativa a certos aspetos legais dos serviços da sociedade de informação, em especial do comércio eletrónico, no mercado interno («Diretiva sobre o comércio eletrónico») (JO L 178 de 17.7.2000, p. 1).
- [17] Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE («Regulamento Geral sobre a Proteção de Dados») (JO L 119 de 4.5.2016, p. 1).
- [18] Regulamento (UE) 2018/1807 do Parlamento Europeu e do Conselho, de 14 de novembro de 2018, relativo a um quadro para o livre fluxo de dados não pessoais na União Europeia (JO L 303 de 28.11.2018, p. 59).
- [19] Regulamento (UE) 2019/1150 do Parlamento Europeu e do Conselho, de 20 de junho de 2019, relativo à promoção da equidade e da transparência para os utilizadores profissionais de serviços de intermediação em linha (JO L 186 de 11.7.2019, p. 57).