Index 
 Anterior 
 Seguinte 
 Texto integral 
Processo : 2019/2915(RSP)
Ciclo de vida em sessão
Ciclo relativo ao documento : B9-0094/2020

Textos apresentados :

B9-0094/2020

Debates :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Votação :

PV 12/02/2020 - 11.8
Declarações de voto

Textos aprovados :

P9_TA(2020)0032

Textos aprovados
PDF 156kWORD 48k
Quarta-feira, 12 de Fevereiro de 2020 - Estrasburgo Edição definitiva
Processos automatizados de decisão: Garantir a defesa do consumidor e a livre circulação de mercadorias e serviços
P9_TA(2020)0032B9-0094/2020

Resolução do Parlamento Europeu, de 12 de fevereiro de 2020, sobre processos automatizados de tomada de decisões: assegurar a proteção dos consumidores e a livre circulação de bens e serviços (2019/2915(RSP))

O Parlamento Europeu,

–  Tendo em conta a sua resolução, de 12 de fevereiro de 2019, sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica(1),

–  Tendo em conta a sua resolução, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de direito civil sobre robótica(2),

–  Tendo em conta o relatório intitulado «Liability for artificial intelligence and other emerging digital technologies» (Responsabilidade em matéria de inteligência artificial e outras tecnologias digitais emergentes), elaborado pelo Grupo de peritos sobre responsabilidade civil e novas tecnologias da Comissão, publicado em 21 de novembro de 2019,

–  Tendo em conta o relatório intitulado «Policy and investment recommendations for trustworthy artificial intelligence» (Recomendações políticas e de investimento para uma inteligência artificial fiável), elaborado pelo Grupo de peritos de alto nível sobre inteligência artificial da Comissão, publicado em 26 de junho de 2019,

–  Tendo em conta o documento intitulado «Ethics Guidelines for Trustworthy AI» (Orientações éticas para uma IA de confiança), elaborado pelo Grupo de peritos de alto nível sobre inteligência artificial da Comissão, publicado em 8 de abril de 2019, bem como a lista de avaliação para uma IA fiável,

–  Tendo em conta a comunicação da Comissão, de 8 de abril de 2019, intitulada «Aumentar a confiança numa inteligência artificial centrada no ser humano» (COM(2019)0168),

–  Tendo em conta a comunicação da Comissão, de 7 de dezembro de 2018, intitulada «Plano Coordenado para a Inteligência Artificial» (COM(2018)0795),

–  Tendo em conta a comunicação da Comissão, de 25 de abril de 2018, intitulada «Inteligência artificial para a Europa» (COM(2018)0237),

–  Tendo em conta a proposta de resolução da Comissão do Mercado Interno e da Proteção dos Consumidores,

–  Tendo em conta a pergunta à Comissão sobre processos automatizados de tomada de decisões: assegurar a proteção dos consumidores e a livre circulação de bens e serviços (O-000008/2020 – B9‑0007/2020),

–  Tendo em conta o artigo 136.º, n.º 5, e o artigo 132.º, n.º 2, do seu Regimento,

A.  Considerando que os avanços tecnológicos nos domínios da inteligência artificial (IA), da aprendizagem automática, dos sistemas informáticos complexos baseados em algoritmos e dos processos automatizados de tomada de decisões estão a ser rápidos e que as aplicações, as oportunidades e os desafios proporcionados por estas tecnologias são numerosos e afetam, praticamente, todos os setores do mercado interno;

B.  Considerando que o desenvolvimento de processos de tomada de decisão automatizados deverá contribuir de forma significativa para a economia do conhecimento e que proporciona benefícios para a sociedade através, nomeadamente, da melhoria dos serviços públicos, para os consumidores, através de produtos e serviços inovadores e, ainda, para as empresas, através de um desempenho otimizado;

C.  Considerando que a utilização e o desenvolvimento da IA e dos processos de tomada de decisão automatizados também constituem desafios para a confiança e o bem-estar dos consumidores, especialmente em termos de capacitação dos consumidores para identificarem esses processos, compreenderem como funcionam, tomarem decisões informadas sobre a sua utilização e poderem recusá-los;

D.  Considerando que as orientações éticas, como os princípios adotados pelo Grupo de peritos de alto nível em matéria de inteligência artificial da Comissão, constituem um ponto de partida; considerando, no entanto, que é necessária uma análise do atual quadro jurídico da UE (incluindo o acervo em matéria de direito do consumo, de segurança dos produtos e em matéria de fiscalização do mercado), a fim de verificar se está apto a responder à emergência da IA e da tomada decisões automatizada e proporcionar um elevado nível de proteção aos consumidores, tal como previsto no artigo 38.º da Carta dos Direitos Fundamentais da UE;

E.  Considerando que uma abordagem comum da UE no que respeita ao desenvolvimento de processos automatizados de tomada de decisões contribuirá para assegurar os benefícios desses processos e atenuar os riscos em toda a UE, evitar a fragmentação do mercado interno e permitir à UE promover melhor a sua abordagem e os seus valores em todo o mundo;

Escolha, confiança e bem-estar dos consumidores

1.  Congratula-se com o potencial do processo automatizado de tomada de decisões para oferecer serviços inovadores e de melhor qualidade aos consumidores, incluindo novos serviços digitais, como os assistentes virtuais e os «chatbots» (ou programas de simulação de conversa); considera, no entanto, que quando interagem com um sistema que automatiza a tomada de decisões, os consumidores devem estar bem informados acerca do seu funcionamento, saber como contactar a pessoa responsável e entender como é que as decisões automatizadas do sistema podem ser verificadas e corrigidas;

2.  Exorta a Comissão a acompanhar de perto a aplicação das novas regras no âmbito da Diretiva «Melhor Aplicação»(3), que requer que os comerciantes informem os consumidores quando os preços dos bens ou serviços tenham sido personalizados com base em tomadas de decisões automatizadas e na definição de perfis de comportamento dos consumidores, que permitem que os comerciantes avaliem o poder de compra do consumidor;

3.  Insta a Comissão a acompanhar de perto a aplicação do Regulamento relativo ao bloqueio geográfico(4), a fim de assegurar que os processos de tomada de decisões automatizados não sejam utilizados para discriminar os consumidores com base na sua nacionalidade, local de residência ou localização temporária;

4.  Incentiva a Comissão a verificar se as obrigações impostas aos comerciantes permitem aos consumidores efetuar uma verdadeira escolha e proporcionam proteção suficiente; insta a Comissão a confirmar se existem lacunas regulamentares e a examinar se são necessárias medidas adicionais para garantir um conjunto sólido de direitos relativos à proteção dos consumidores no contexto da IA e da tomada automatizada de decisões;

5.  Assinala que os sistemas automatizados de tomada de decisões estão a ser utilizados nos mecanismos alternativos de resolução de litígios de várias plataformas digitais para resolver litígios entre consumidores e comerciantes; insta a Comissão a assegurar que qualquer futura revisão da Diretiva 2013/11/UE sobre a resolução alternativa de litígios de consumo(5) e do Regulamento (UE) n.º 524/2013 sobre a resolução de litígios de consumo em linha(6) tenha em conta o recurso a processos automatizados de tomada de decisões e garanta que os seres humanos mantenham o controlo;

Quadro relativo à segurança e à responsabilidade pelos produtos

6.  Sublinha que o quadro relativo à segurança dos produtos da UE obriga as empresas a garantir que apenas sejam colocados no mercado produtos seguros e conformes; reconhece que a emergência de produtos com capacidade de decisão automatizada coloca novos desafios, uma vez que esses produtos podem evoluir e agir de forma imprevista aquando da sua primeira colocação no mercado; exorta a Comissão a apresentar propostas de adaptação das regras de segurança da UE para os produtos abrangidos por legislação específica da UE que estabelece requisitos harmonizados, incluindo a Diretiva «Máquinas»(7), a Diretiva relativa à segurança dos brinquedos(8), a Diretiva «Equipamentos de Rádio»(9) e a Diretiva «Baixa Tensão»(10), bem como para os «produtos não harmonizados» abrangidos pela Diretiva relativa à segurança geral dos produtos(11), a fim de garantir que as novas regras sejam adequadas à sua finalidade, que os utilizadores e os consumidores sejam protegidos dos danos, que os fabricantes gozem de clareza no que respeita às suas obrigações e que os utilizadores beneficiem clareza sobre a utilização de produtos dotados de capacidades de tomada automatizada de decisões;

7.  Realça a necessidade de uma abordagem baseada no risco no que se refere à regulamentação, tendo em conta a variedade e a complexidade dos desafios criados pelos diferentes tipos e aplicações de IA e sistemas automatizados de tomada de decisões; insta a Comissão a desenvolver um sistema de avaliação dos riscos para a IA e a tomada automatizada de decisões, a fim de garantir uma abordagem coerente da aplicação da legislação em matéria de segurança dos produtos no mercado interno; frisa que os Estados-Membros devem desenvolver estratégias harmonizadas de gestão dos riscos para a IA no contexto das suas estratégias nacionais de fiscalização do mercado;

8.  Observa que a Diretiva relativa à responsabilidade decorrente dos produtos defeituosos(12) proporciona, há mais de 30 anos, uma valiosa rede de segurança para proteger os consumidores dos danos causados por produtos defeituosos; reconhece que a determinação da responsabilidade em caso de danos aos consumidores resultantes de processos autónomos de tomada de decisões é um desafio; insta a Comissão a rever esta diretiva e a ponderar a adaptação de conceitos como «produto», «dano» e «defeito», bem como a adaptar as regras que regem o ónus da prova; exorta a Comissão a apresentar propostas para atualizar estes conceitos e regras, se necessário;

Quadro regulamentar em matéria de serviços

9.  Recorda que o quadro regulamentar existente em matéria de serviços – que consiste na Diretiva «Serviços»(13), na Diretiva «Qualificações Profissionais»(14), na Diretiva relativa ao teste de proporcionalidade(15), na Diretiva «Comércio Eletrónico»(16) e no Regulamento Geral sobre a Proteção de Dados (RGPD)(17) –, já abrange muitos aspetos políticos relevantes para os serviços que incluem processos de tomada de decisão automatizados, incluindo regras em matéria de proteção dos consumidores, ética e responsabilidade; assinala que estas regras se devem aplicar tanto aos serviços tradicionais como aos serviços que incorporam processos de tomada de decisão automatizados;

10.  Sublinha que, embora os processos de tomada de decisões automatizados possam melhorar a eficiência e a exatidão dos serviços, os seres humanos devem ser sempre responsáveis, em última instância, pelas decisões tomadas no quadro de serviços profissionais, nomeadamente nos setores médicos, jurídicos e contabilísticos, assim como no setor bancário, devendo também poder alterar estas decisões; recorda a importância da supervisão ou do controlo independente por profissionais qualificados em caso de tomada de decisão automatizada, sempre que estejam em causa interesses públicos legítimos;

11.  Realça a importância de, em conformidade com a diretiva relativa aos testes de proporcionalidade, avaliar corretamente os riscos antes da automatização dos serviços profissionais; exorta as autoridades competentes dos Estados-Membros a assegurarem que a formação profissional tenha em conta os progressos científicos no domínio da tomada de decisões automatizada;

Qualidade e transparência no domínio da governação dos dados

12.  Observa que os sistemas automatizados de tomada de decisões dependem da recolha de grandes quantidades de dados e considera que o regulamento relativo ao livre fluxo de dados não pessoais(18) ajudará a disponibilizar mais dados em toda a UE, permitindo assim a criação de serviços inovadores baseados em dados; reconhece, a este respeito, o potencial da partilha de dados, não só de fontes públicas mas também privadas, salientando simultaneamente o imperativo de proteger os dados pessoais ao abrigo do RGPD; salienta a importância de utilizar apenas conjuntos de dados de elevada qualidade e imparciais, a fim de melhorar os resultados dos sistemas algorítmicos e aumentar a confiança e a aceitação dos consumidores;

13.  Frisa que, tendo em conta o impacto significativo que os sistemas de decisão automatizados podem ter nos consumidores, especialmente os que se encontram em situações vulneráveis, é importante que estes sistemas utilizem não só conjuntos de dados de alta qualidade e imparciais mas, também, algoritmos explicáveis e imparciais; considera que são necessárias estruturas de revisão no âmbito dos processos das empresas para corrigir eventuais erros nas decisões automatizadas e defende que os consumidores devem poder solicitar a revisão e correção, por um ser humano, das decisões automatizadas que sejam definitivas e permanentes;

14.  Realça que, para avaliar se os produtos com capacidades de tomada de decisão automatizada estão em conformidade com as regras de segurança pertinentes, é essencial que os algoritmos subjacentes a essas capacidades sejam suficientemente transparentes e que sejam explicáveis às autoridades de fiscalização do mercado; convida a Comissão a avaliar se devem ser atribuídas às autoridades de fiscalização do mercado prerrogativas adicionais a este respeito;

15.  Insta a Comissão a acompanhar de perto a aplicação do Regulamento relativo às relações entre as plataformas e as empresas(19), especialmente das regras sobre a transparência das classificações, que implicam a utilização de processos de decisão automatizados;

o
o   o

16.  Encarrega o seu Presidente de transmitir a presente resolução ao Conselho e à Comissão.

(1) Textos Aprovados, P8_TA(2019)0081.
(2) JO C 252 de 18.7.2018, p. 239.
(3) Diretiva (UE) 2019/2161 do Parlamento Europeu e do Conselho, de 27 de novembro de 2019, que altera a Diretiva 93/13/CEE do Conselho e as Diretivas 98/6/CE, 2005/29/CE e 2011/83/UE do Parlamento Europeu e do Conselho a fim de assegurar uma melhor aplicação e a modernização das regras da União em matéria de defesa dos consumidores (JO L 328 de 18.12.2019, p. 7).
(4) Regulamento (UE) 2018/302 do Parlamento Europeu e do Conselho, de 28 de fevereiro de 2018, que visa prevenir o bloqueio geográfico injustificado e outras formas de discriminação baseadas na nacionalidade, no local de residência ou no local de estabelecimento dos clientes no mercado interno, e que altera os Regulamentos (CE) n.º 2006/2004 e (UE) 2017/2394 e a Diretiva 2009/22/CE (JO L 60 I de 2.3.2018, p. 1).
(5) JO L 165 de 18.6.2013, p. 63.
(6) JO L 165 de 18.6.2013, p. 1.
(7) Diretiva 2006/42/CE do Parlamento Europeu e do Conselho, de 17 de maio de 2006, relativa às máquinas e que altera a Diretiva 95/16/CE (reformulação) (JO L 157 de 9.6.2006, p. 24).
(8) Diretiva 2009/48/CE do Parlamento Europeu e do Conselho, de 18 de junho de 2009, relativa à segurança dos brinquedos (JO L 170 de 30.6.2009, p. 1).
(9) Diretiva 2014/53/UE do Parlamento Europeu e do Conselho, de 16 de abril de 2014, relativa à harmonização da legislação dos Estados-Membros respeitante à disponibilização de equipamentos de rádio no mercado e que revoga a Diretiva 1999/5/CE (JO L 153 de 22.5.2014, p. 62).
(10) Diretiva 2014/35/UE do Parlamento Europeu e do Conselho, de 26 de fevereiro de 2014, relativa à harmonização da legislação dos Estados-Membros respeitante à disponibilização no mercado de material elétrico destinado a ser utilizado dentro de certos limites de tensão (JO L 96 de 29.3.2014, p. 357).
(11) Diretiva 2001/95/CE do Parlamento Europeu e do Conselho, de 3 de dezembro de 2001, relativa à segurança geral dos produtos (JO L 11 de 15.1.2002, p. 4).
(12) Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos (JO L 210 de 7.8.1985, p. 29).
(13) Diretiva 2006/123/CE do Parlamento Europeu e do Conselho, de 12 de dezembro de 2006, relativa aos serviços no mercado interno (JO L 376 de 27.12.2006, p. 36).
(14) Diretiva 2013/55/UE do Parlamento Europeu e do Conselho, de 20 de novembro de 2013, que altera a Diretiva 2005/36/CE relativa ao reconhecimento das qualificações profissionais e o Regulamento (UE) n.º 1024/2012 relativo à cooperação administrativa através do Sistema de Informação do Mercado Interno («Regulamento IMI») (JO L 354 de 28.12.2013, p. 132).
(15) Diretiva (UE) 2018/958 do Parlamento Europeu e do Conselho, de 28 de junho de 2018, relativa a um teste de proporcionalidade a realizar antes da aprovação de nova regulamentação das profissões (JO L 173 de 9.7.2018, p. 25).
(16) Diretiva 2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000, relativa a certos aspetos legais dos serviços da sociedade de informação, em especial do comércio eletrónico, no mercado interno («Diretiva sobre o comércio eletrónico») (JO L 178 de 17.7.2000, p. 1).
(17) Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE («Regulamento Geral sobre a Proteção de Dados») (JO L 119 de 4.5.2016, p. 1).
(18) Regulamento (UE) 2018/1807 do Parlamento Europeu e do Conselho, de 14 de novembro de 2018, relativo a um quadro para o livre fluxo de dados não pessoais na União Europeia (JO L 303 de 28.11.2018, p. 59).
(19) Regulamento (UE) 2019/1150 do Parlamento Europeu e do Conselho, de 20 de junho de 2019, relativo à promoção da equidade e da transparência para os utilizadores profissionais de serviços de intermediação em linha (JO L 186 de 11.7.2019, p. 57).

Última actualização: 14 de Setembro de 2020Aviso legal - Política de privacidade