Parlamento negoceia primeiras regras para inteligência artificial mais segura
- Proibição total da inteligência artificial (IA) para efeitos de vigilância biométrica, reconhecimento de emoções e policiamento preditivo
- Sistemas de IA generativa, como o ChatGPT, devem explicitar que os conteúdos foram gerados por inteligência artificial
- Sistemas de IA utilizados para influenciar os eleitores nas eleições são considerados de alto risco
As regras visam promover a adoção de uma IA centrada no ser humano e fiável, bem como proteger a saúde, a segurança, os direitos fundamentais e a democracia dos seus efeitos nocivos.
O Parlamento Europeu adotou a sua posição de negociação sobre o Regulamento Inteligência Artificial (IA), esta quarta-feira, por 499 votos a favor, 28 contra e 93 abstenções, em antecipação às conversações com os Estados-Membros da UE sobre a forma final da lei. As regras assegurarão que a IA desenvolvida e utilizada na Europa respeita plenamente os direitos e valores da UE, incluindo a supervisão humana, a segurança, a privacidade, a transparência, a não discriminação e o bem-estar social e ambiental.
Práticas de IA proibidas
As regras seguem uma abordagem baseada no risco e estabelecem obrigações tanto para os fornecedores e como para aqueles que utilizam sistemas de IA, em função do nível de risco que esta pode colocar. Por consequência, os sistemas de IA com um nível de risco inaceitável para a segurança das pessoas serão proibidos, como os utilizados para classificação das pessoas com base no seu comportamento social ou nas suas características pessoais.
Os eurodeputados alargaram a lista de modo a incluir proibições de utilizações intrusivas e discriminatórias da IA, tais como:
- sistemas de identificação biométrica à distância em tempo real em espaços acessíveis ao público;
- sistemas de identificação biométrica à distância em diferido, com a única exceção para a repressão de crimes graves por autoridades responsáveis pela aplicação da lei e apenas após autorização judicial;
- sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, género, raça, etnia, estatuto de cidadania, religião, orientação política);
- sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado);
- sistemas de reconhecimento de emoções na aplicação da lei, na gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino; e
- remoção não direcionada de imagens faciais da Internet ou de filmagens de videovigilância (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade).
IA de risco elevado
Os eurodeputados garantiram que a classificação das aplicações de risco elevado passará a incluir sistemas de IA que prejudicam significativamente a saúde, a segurança e os direitos fundamentais das pessoas ou o ambiente. Os sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições e os sistemas de recomendação utilizados pelas plataformas de redes sociais (com mais de 45 milhões de utilizadores) foram adicionados à lista de risco elevado.
Obrigações para a IA de uso geral
Os fornecedores de modelos de base (um desenvolvimento novo e em rápida evolução no domínio da IA) terão de avaliar e atenuar eventuais riscos (para a saúde, ambiente, segurança. direitos fundamentais, democracia e Estado de direito) e registar os seus modelos na base de dados da União antes da sua introdução no mercado da UE. Os sistemas de IA generativa que têm por base tais modelos, como o ChatGPT, terão de cumprir os requisitos de transparência (revelando que os conteúdos foram gerados por IA, o que ajudará a distinguir as técnicas de manipulação de imagens - também conhecidas como deepfake - das imagens reais) e assegurar salvaguardas contra a produção de conteúdos ilegais. Terão igualmente de ser disponibilizados ao público resumos pormenorizados dos dados protegidos por direitos de autor utilizados para a sua aprendizagem.
Apoiar a inovação e proteger os direitos dos cidadãos
Para impulsionar a inovação no domínio da inteligência artificial e apoiar as PME, os eurodeputados acrescentaram isenções para atividades de investigação e componentes de IA fornecidos ao abrigo de licenças de fonte aberta. A nova lei promove os chamados ambientes de testagem de regulamentação, ou ambientes reais, criados pelas autoridades públicas para testar a inteligência artificial antes da sua utilização.
Por último, os eurodeputados pretendem reforçar o direito dos cidadãos de apresentarem queixas sobre sistemas de IA e receberem explicações sobre decisões baseadas em sistemas de IA de risco elevado que tenham um impacto significativo nos seus direitos fundamentais. Os deputados também reformaram o papel do Serviço Europeu para a Inteligência Artificial, que será incumbido de acompanhar a aplicação do conjunto de regras em matéria de inteligência artificial.
Citações
Após a votação, o correlator Brando Benifei (S&D, Itália) referiu: «Hoje, todos os olhos estão em nós. Enquanto as grandes empresas de tecnologia estão a soar o alarme sobre as suas próprias criações, a Europa avançou e propôs uma resposta concreta aos riscos que a IA está a começar a colocar. Queremos que o potencial positivo da IA para a criatividade e a produtividade seja aproveitado, mas também lutaremos para proteger a nossa posição e combater os perigos para as nossas democracias e liberdades durante as negociações com o Conselho».
O correlator Dragos Tudorache (Renew, Roménia) afirmou: «O Regulamento Inteligência Artificial definirá o tom a nível mundial no desenvolvimento e governação da inteligência artificial, assegurando que esta tecnologia, destinada a transformar radicalmente as nossas sociedades através dos enormes benefícios que pode oferecer, evolui e é utilizada em conformidade com os valores europeus da democracia, dos direitos fundamentais e do Estado de direito.»
Próximos passos
As negociações com o Conselho sobre a forma final da lei vão começar já esta quarta-feira à noite.
Conferência de imprensa
Os correlatores realizarão uma conferência de imprensa, esta quarta-feira, 14 de junho, às 13h30, com a participação da presidente do Parlamento Roberta Metsola, para explicar os resultados da votação e as próximas etapas.
Ao avançar com esta legislação, os eurodeputados estão a responder às propostas dos cidadãos feitas durante a Conferência sobre o Futuro da Europa, no sentido de assegurar a supervisão humana de todos os processos relacionados com a IA (proposta 35.3); sobre a plena utilização do potencial de uma IA fiável (35.8) e sobre a utilização de tecnologias de IA e de tradução para ultrapassar as barreiras linguísticas (37.3).
Contactos:
-
Raquel Ramalho LOPES
Assessora de imprensa portuguesa