O Parlamento Europeu,

–  Tendo em conta o artigo 225.º do Tratado sobre o Funcionamento da União Europeia,

–  Tendo em conta a Diretiva 85/374/CEE do Conselho(1),

–  Tendo em conta o estudo intitulado «Ethical Aspects of Cyber‑Physical Systems» (aspetos éticos dos sistemas ciberfísicos), levado a efeito em nome do Grupo de Avaliação das Opções Científicas e Tecnológicas (STOA) e gerido pela Unidade da Prospetiva Científica (STOA), DG EPRS,

–  Tendo em conta os artigos 46.º e 52.º do seu Regimento,

–  Tendo em conta o relatório da Comissão dos Assuntos Jurídicos e os pareceres da Comissão dos Transportes e do Turismo, da Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos, da Comissão do Emprego e dos Assuntos Sociais, da Comissão do Ambiente, da Saúde Pública e da Segurança Alimentar, da Comissão da Indústria, da Investigação e da Energia e da Comissão do Mercado Interno e da Proteção dos Consumidores (A8-0005/2017),

Introdução

A.  Considerando que desde o Frankenstein de Mary Shelley ao mito clássico do Pigmaleão, passando pela história do Golem de Praga pelo robô de Karel Čapek, que cunhou o termo, as pessoas têm fantasiado acerca da possibilidade de construir máquinas inteligentes, frequentemente androides com características humanas;

B.  Considerando que, agora que a humanidade se encontra no limiar de uma era em que robôs, «bots», androides e outras manifestações de inteligência artificial (IA), cada vez mais sofisticadas, parecem estar preparados para desencadear uma nova revolução industrial, que provavelmente não deixará nenhuma camada da sociedade intacta, é extremamente importante que o legislador pondere as suas implicações e os seus efeitos a nível jurídico e ético, sem pôr entraves à inovação;

C.  Considerando que é necessário criar uma definição geralmente aceite de robô e de IA que seja flexível e não crie obstáculos à inovação;

D.  Considerando que, entre 2010 e 2014, o aumento médio nas vendas de robôs se situou em 17 % ao ano e que as vendas de 2014 registaram uma subida de 29 %, o maior aumento anual de sempre, com os fornecedores de componentes automóveis e a indústria elétrica/eletrónica a serem os principais motores do crescimento; considerando que os processos de registo de patentes em tecnologia robótica triplicaram na última década;

E.  Considerando que, nos últimos 200 anos, os níveis de emprego aumentaram de forma constante devido ao desenvolvimento tecnológico; considerando que o desenvolvimento da robótica e da IA pode ter potencial para transformar vidas e práticas de trabalho, para aumentar os níveis de eficiência, de poupanças e de segurança, e para oferecer um melhor nível de serviços; considerando que, a curto e médio prazo, a robótica e a IA prometem trazer vantagens em termos de eficiência e de poupança, não só na produção e no comércio, mas também em sectores como os transportes, os cuidados médicos, os trabalhos de salvamento, a educação e a agricultura, ao mesmo tempo que permitem evitar a exposição dos humanos a condições perigosas, como as que caracterizam as operações de limpeza de locais tóxicos poluídos;

F.  Considerando que o envelhecimento da população se deve a um aumento da esperança de vida em consequência da melhoria das condições de vida e do progresso na medicina moderna, constituindo um dos principais desafios políticos, sociais e económicos do século XXI com que as sociedades europeias se deparam; considerando que, em 2025, mais de 20 % dos europeus terão uma idade igual ou superior a 65 anos, assistindo-se a um aumento particularmente rápido do número de pessoas de 80 anos ou mais, pelo que o equilíbrio entre gerações nas nossas sociedades será fundamentalmente diferente, e que é do interesse da sociedade que os idosos gozem de boa saúde e permaneçam ativos o mais tempo possível;

G.  Considerando que, numa perspetiva de longo prazo, a tendência atual para o desenvolvimento de máquinas inteligentes e autónomas, com a capacidade de pensar e de tomar decisões de forma independente, não implica apenas vantagens económicas, mas também um conjunto de preocupações relacionadas com os efeitos diretos e indiretos para a sociedade no seu conjunto;

H.  Considerando que a aprendizagem automática oferece enormes benefícios económicos e inovadores à sociedade ao melhorar significativamente a capacidade de análise de dados, suscitando simultaneamente desafios no que respeita à garantia da não discriminação, ao processo equitativo, à transparência e à inteligibilidade dos processos decisórios;

I.  Considerando que é igualmente necessário ter em conta as avaliações sobre as mudanças económicas e o impacto para o emprego associados à robótica e à aprendizagem automática; considerando que, embora a robótica ofereça vantagens inegáveis, a sua aplicação pode implicar uma transformação do mercado de trabalho e a necessidade de refletir, consequentemente, sobre o futuro das políticas sociais, de ensino e de emprego;

J.  Considerando que o uso generalizado de robôs pode não conduzir automaticamente à substituição de postos de trabalho, mas que os empregos menos qualificados nos setores de mão de obra intensiva provavelmente serão mais vulneráveis à automatização; considerando que esta tendência poderia fazer regressar os processos de produção à União; considerando que a investigação demonstrou que o emprego cresce de forma significativamente mais rápida nas profissões que utilizam mais os computadores; considerando que a automatização dos postos de trabalho tem potencial para libertar as pessoas do trabalho manual monótono, permitindo-lhes uma reorientação para tarefas mais criativas e significativas; considerando que a automatização exige que os governos invistam no ensino e noutras reformas a fim de melhorar as requalificações assentes nos tipos de competências de que os trabalhadores do futuro precisarão;

K.  Considerando que, face às crescentes divisões na sociedade e à redução da classe média, é necessário ter em conta o facto de que o aumento da importância da robótica pode dar origem a uma concentração considerável da riqueza e da influência nas mãos de uma minoria;

L.  Considerando que o desenvolvimento da robótica e da IA vai decididamente influenciar a configuração dos locais de trabalho, o que pode criar novas preocupações em matéria de responsabilidade e eliminar outras; considerando que a responsabilidade jurídica deve ser esclarecida no que se refere ao modelo empresarial e ao padrão de trabalho dos trabalhadores, em casos de emergência ou de problemas;

M.  Considerando que a tendência para a automatização exige que todos os envolvidos no desenvolvimento e na comercialização de aplicações de IA integrem a segurança e a ética desde o início do processo, reconhecendo assim que têm de estar preparados para assumir a responsabilidade jurídica pela qualidade da tecnologia que produzem;

N.  Considerando que o Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho(2) (Regulamento Geral sobre a Proteção de Dados) estabelece um quadro jurídico para a proteção dos dados pessoais; considerando que outros aspetos associados ao acesso a dados e à proteção de dados pessoais e da privacidade podem ainda ter de ser resolvidos, uma vez que ainda podem surgir preocupações relativas à privacidade das aplicações e dos dispositivos que comunicam entre si e com bases de dados sem a intervenção dos humanos;

O.  Considerando que os desenvolvimentos na robótica e IA podem e devem ser concebidos de tal forma que preservem a dignidade, a autonomia e a autodeterminação do indivíduo, especialmente nos domínios dos cuidados e da companhia dos humanos, e no contexto dos dispositivos médicos, da «reparação» ou melhoria dos seres humanos;

P.  Considerando que, em última instância, existe uma possibilidade de que, numa perspetiva alongo prazo, a IA possa ultrapassar a capacidade intelectual humana;

Q.  Considerando que o desenvolvimento e uma maior utilização de processos decisórios automatizados e algorítmicos têm um impacto inegável nas escolhas que os privados (como, por exemplo, uma empresa ou um utilizador da Internet) e as autoridades administrativas, judiciárias ou outras autoridades públicas fazem ao tomarem uma decisão final enquanto consumidores, empresas ou autoridades; considerando que as garantias e a possibilidade de controlo e verificação humanos devem ser integradas nos processos decisórios automatizados e algorítmicos;

R.  Considerando que diversas jurisdições estrangeiras, tais como os EUA, o Japão, a China e a Coreia do Sul, estão a ponderar tomar medidas regulamentares, e que em certa medida já o fizeram, em matéria de robótica e de IA, e que alguns Estados-Membros já começaram também a refletir sobre a possibilidade de elaborar normas jurídicas ou de fazer alterações legislativas para ter em conta as aplicações emergentes dessas tecnologias;

S.  Considerando que a indústria europeia poderia beneficiar de uma abordagem eficaz, coerente e transparente em matéria de regulamentação ao nível da União, providenciando condições previsíveis e suficientemente claras, em que as empresas podem desenvolver aplicações e planear os respetivos modelos empresariais a uma escala europeia, garantindo, ao mesmo tempo, que a União e os seus Estados-Membros mantenham o controlo das normas de regulamentação a definir, de modo a que não sejam forçados a aprovar e a viver mediante padrões definidos por outros, ou seja, por países terceiros que se encontram igualmente na vanguarda do desenvolvimento da robótica e da IA;

Princípios gerais

T.  Considerando que as Leis de Asimov(3) têm de ser encaradas como dirigindo-se aos criadores, aos produtores e aos operadores de robôs, incluindo robôs com autonomia integrada e autoaprendizagem, uma vez que não podem ser convertidas em código de máquina;

U.  Considerando que é necessário um conjunto de normas que rejam, em especial, a responsabilidade, a transparência e a prestação de contas e que traduzam os valores universais intrinsecamente europeus e humanísticos que caracterizam o contributo da Europa para a sociedade; considerando que essas normas não devem afetar o processo de investigação, de inovação e de desenvolvimento da robótica;

V.  Considerando que a União pode desempenhar um papel essencial no estabelecimento de princípios éticos básicos a respeitar na conceção, na programação e na utilização de robôs e de IA, bem como na integração desses princípios nos regulamentos e nos códigos de conduta da União, a fim de moldar a revolução tecnológica de modo que esta sirva a humanidade e que as vantagens da robótica avançada e da IA sejam amplamente partilhadas, evitando tanto quanto possível os perigos potenciais;

W.  Considerando que, no anexo da presente resolução figura uma Carta da Robótica elaborada com a assistência da Unidade da Prospetiva Científica (STOA), DG EPRS, que propõe um código de conduta para engenheiros em robótica, um código para as Comissões de Ética em Robótica e licenças para criadores e utilizadores;

X.  Considerando que a União deverá adotar uma abordagem gradual, pragmática e cautelosa, como a defendida por Jean Monnet(4), no que diz respeito às iniciativas futuras em matéria de robótica e IA, de modo a assegurar que não asfixiemos a inovação;

Y.  Considerando que, tendo em conta a fase alcançada no desenvolvimento da robótica e da IA, é apropriado começar por problemas de responsabilidade civil;

Responsabilidade

Z.  Considerando que, graças aos impressionantes avanços tecnológicos da última década, não só os robôs de hoje conseguem efetuar atividades que, regra geral, costumavam ser exclusivamente realizadas por humanos, como também o desenvolvimento de certas características autónomas e cognitivas – por exemplo, a capacidade de aprender com a experiência e de tomar decisões quase independentes – os tornaram cada vez mais similares a agentes que interagem com o seu ambiente e conseguem alterá-lo de forma significativa; considerando que, nesse contexto, a responsabilidade jurídica decorrente de uma ação lesiva de um robô constitui uma questão crucial;

AA.  Considerando que a autonomia de um robô pode ser definida como a capacidade de tomar decisões e de as aplicar no mundo exterior, independentemente do controlo ou da influência externa; considerando que esta autonomia é de natureza puramente tecnológica e que o seu grau depende do modo como o nível de sofisticação da interação do robô com o seu ambiente foi concebido;

AB.  Considerando que, quanto mais autónomos forem os robôs, menos poderão ser encarados como simples instrumentos nas mãos de outros intervenientes (como o fabricante, o operador, o proprietário, o utilizador, etc.); considerando que, por sua vez, isto coloca a questão de saber se as normas ordinárias em matéria de responsabilidade são suficientes ou se serão necessários novos princípios e normas para clarificar a responsabilidade jurídica de vários intervenientes no que respeita à responsabilidade por atos e omissões dos robôs, quando a causa não puder ser atribuída a um interveniente humano específico e os atos ou as omissões dos robôs que causaram os danos pudessem ter sido evitados;

AC.  Considerando que, em última instância, a autonomia dos robôs suscita a questão da sua natureza à luz das categorias jurídicas existentes, ou se deve ser criada uma nova categoria, com características e implicações próprias;

AD.  Considerando que, ao abrigo do atual quadro jurídico, os robôs não podem ser responsabilizados por si só pelas ações ou omissões que causam danos a terceiros; considerando que as normas existentes em matéria de responsabilidade abrangem casos em que a causa subjacente à ação ou à omissão do robô pode ser atribuída a um agente humano específico, tal como o fabricante, o operador, o proprietário ou o utilizador, e em que o agente podia ter previsto e evitado o comportamento lesivo do robô; considerando que, além disso, os fabricantes, os operadores, os proprietários ou os utilizadores poderiam ser considerados estritamente responsáveis pelas ações ou omissões de um robô;

AE.  Considerando que, nos termos do atual quadro jurídico, a responsabilidade pelo produto – segundo a qual o fabricante de um produto é responsável por uma anomalia – e as normas que regem a responsabilidade por ações prejudiciais – segundo as quais o utilizador de um produto é responsável por um comportamento que provoque prejuízos – são aplicáveis aos danos causados pelos robôs ou pela IA;

AF.  Considerando que, perante o cenário em que um robô pode tomar decisões autónomas, as normas tradicionais não serão suficientes para suscitar problemas de responsabilidade jurídica pelos danos causados por um robô, uma vez que não seria possível identificar a parte responsável para prestar a indemnização e para lhe exigir que reparasse os danos causados;

AG.  Considerando que as insuficiências do atual quadro jurídico são evidentes também no domínio da responsabilidade contratual, na medida em que as máquinas concebidas para escolher as suas contrapartes, para negociar as condições contratuais, para celebrar contratos e para decidir se e como os aplicam, invalidam a aplicação das normas tradicionais; considerando que isto sublinha a necessidade de novas normas, eficientes e mais atualizadas, que correspondam ao desenvolvimento tecnológico e às inovações recém-surgidas e utilizadas no mercado;

AH.  Considerando que, no que respeita à responsabilidade extracontratual, a Diretiva 85/374/CEE apenas pode abranger os danos provocados por defeitos de fabrico de um robô, e sob reserva de a pessoa lesada poder comprovar os danos efetivos, o defeito do produto e a relação de causalidade entre o dano e o defeito, pelo que o quadro de responsabilidade objetiva ou de responsabilidade sem culpa pode não ser suficiente;

AI.  Considerando que, não obstante o âmbito de aplicação da Diretiva 85/374/CEE, o atual quadro jurídico não seria suficiente para abranger os danos provocados pela nova geração de robôs, na medida em que os robôs podem ser dotados de capacidades adaptativas e de aprendizagem que integram um certo grau de imprevisibilidade no seu comportamento, uma vez que aprendem de forma autónoma com a sua experiência própria variável e interagem com o seu ambiente de um modo único e imprevisível;

Princípios gerais relativos ao desenvolvimento da robótica e da inteligência artificial para utilização civil

1.  Insta a Comissão a propor definições comuns à escala da União de sistemas ciberfísicos, de sistemas autónomos, de robôs autónomos inteligentes e das suas subcategorias, tendo em consideração as seguintes características de um robô inteligente:

2.  Considera que deveria ser introduzido um sistema abrangente de registo de robôs avançados no mercado interno da União, sempre que tal seja pertinente e necessário para certas categorias específicas de robôs, e insta a Comissão a definir critérios para a classificação dos robôs que deveriam ser registados; neste contexto, insta a Comissão a ponderar se seria desejável que o sistema de registo e o registo fossem geridos por uma Agência da UE para a Robótica e a Inteligência Artificial;

3.  Salienta que o desenvolvimento das tecnologias da robótica deve ser orientado para complementar as capacidades humanas, e não para as substituir; considera fundamental garantir que, no desenvolvimento da robótica e da inteligência artificial, os humanos tenham sempre o controlo sobre as máquinas inteligentes; considera que deve ser prestada particular atenção ao possível desenvolvimento de uma ligação emocional entre os seres humanos e os robôs, especialmente em grupos vulneráveis (crianças, idosos e pessoas com deficiência), e sublinha as questões suscitadas pelo grave impacto físico ou emocional que essa ligação emocional pode ter nos seres humanos;

4.  Salienta que uma abordagem a nível da UE pode facilitar o desenvolvimento ao evitar a fragmentação do mercado interno e, ao mesmo tempo, sublinha a importância do princípio do reconhecimento mútuo na utilização transfronteiriça de robôs e de sistemas robóticos; recorda que os ensaios, a certificação e a autorização de introdução no mercado só deverão ser exigidos num único Estado-Membro; salienta que esta abordagem deve ser acompanhada de uma supervisão eficaz do mercado;

5.  Sublinha a importância de medidas de apoio às pequenas e médias empresas e às empresas em fase de arranque na área da robótica que criem novos segmentos de mercado neste setor ou que utilizem a robótica nas suas atividades;

Investigação e inovação

6.  Sublinha que muitas aplicações de robótica se encontram ainda em fase experimental; saúda o facto de cada vez mais projetos de investigação estarem a ser financiados pelos Estados-Membros e pela União; considera essencial que a União, em conjunto com os Estados-Membros e através de financiamento público, se mantenha na liderança da investigação em matéria de robótica e inteligência artificial; insta a Comissão e os Estados-Membros a reforçarem os instrumentos financeiros em projetos de investigação no domínio da robótica e das TIC, incluindo parcerias público-privadas, e a aplicarem nas suas políticas de investigação os princípios de ciência aberta e inovação ética responsável; salienta que é necessário consagrar recursos suficientes à procura de soluções para os problemas sociais, éticos, jurídicos e económicos suscitados pelo desenvolvimento tecnológico e pelas suas aplicações;

7.  Insta a Comissão e os Estados-Membros a promoverem programas de investigação, a incentivarem a investigação sobre os possíveis riscos e oportunidades a longo prazo das tecnologias no domínio da robótica e da IA e a promoverem um diálogo público estruturado sobre as implicações do desenvolvimento dessas tecnologias o mais rapidamente possível; insta a Comissão a aumentar o seu apoio, na revisão intercalar do quadro financeiro plurianual, ao programa SPARC financiado pelo Horizonte 2020; insta a Comissão e os Estados-Membros a conjugarem os seus esforços a fim de acompanhar atentamente e de garantir uma transição sem problemas para estas tecnologias, desde a investigação à comercialização e à utilização no mercado, após a realização das avaliações adequadas em matéria de segurança, em conformidade com o princípio da precaução;

8.  Salienta que a inovação nos domínios da robótica e da IA e a integração das tecnologias da robótica e da IA na economia e na sociedade requerem uma infraestrutura digital que proporcione uma conetividade generalizada; solicita à Comissão que crie um quadro que satisfaça os requisitos de conetividade necessários para o futuro digital da União e que garanta que o acesso às redes de banda larga e à 5G respeite plenamente o princípio da neutralidade da rede;

9.  Acredita firmemente que a interoperabilidade entre os sistemas, os dispositivos e os serviços de computação em nuvem, baseada nos princípios da segurança e da privacidade desde a conceção, é um fator indispensável para os fluxos de dados em tempo real que permitem uma maior flexibilidade e autonomia dos robôs e da IA; solicita à Comissão que promova um ambiente aberto, nomeadamente normas abertas e modelos de licenciamento inovadores, plataformas abertas, garantindo ao mesmo tempo a transparência, para evitar o bloqueio dos sistemas exclusivos que limitam a interoperabilidade;

Princípios éticos

10.  Observa que o reforço potencial de poderes através da utilização da robótica contrasta com um conjunto de tensões ou riscos e deve ser avaliado seriamente do ponto de vista da segurança, da saúde e da proteção humanas; da liberdade, da privacidade, da integridade e da dignidade; da autodeterminação e da não discriminação, e da proteção dos dados pessoais;

11.  Considera que o quadro jurídico em vigor da União deve ser atualizado e complementado, se for caso disso, através de princípios éticos que se coadunem com a complexidade da robótica e com as suas inúmeras implicações sociais, médicas e bioéticas; considera que um quadro ético orientador, claro, rigoroso e eficiente para a criação, a conceção, a produção, a utilização e a modificação de robôs é necessário para complementar as recomendações jurídicas do relatório e o acervo nacional e da União existente; propõe, em anexo à resolução, um quadro sob a forma de carta consistente num código de conduta para os engenheiros de robótica, num código para os comités de ética da investigação quando analisam protocolos de robótica e de licenças de modelos para criadores e utilizadores;

12.  Realça o princípio da transparência, nomeadamente o facto de que deve ser sempre possível fundamentar qualquer decisão tomada com recurso a inteligência artificial que possa ter um impacto substancial sobre a vida de uma ou mais pessoas; considera que deve ser sempre possível reduzir a computação realizada por sistemas de IA a uma forma compreensível para os seres humanos; considera que os robôs avançados deveriam ser dotados de uma «caixa negra» com dados sobre todas as operações realizadas pela máquina, incluindo os passos da lógica que conduziu à formulação das suas decisões;

13.  Destaca que o quadro ético orientador deve basear-se nos princípios de beneficência, não-maleficência, autonomia e justiça, nos princípios e valores consagrados no artigo 2.º do Tratado da União Europeia e na Carta dos Direitos Fundamentais, tais como a dignidade do ser humano, a igualdade, a justiça e a equidade, a não discriminação, o consentimento esclarecido, o respeito pela vida privada e familiar e a proteção de dados, bem como em outros princípios e valores subjacentes do direito da União, como a não estigmatização, a transparência, a autonomia, a responsabilidade individual e a responsabilidade social, e em códigos e práticas éticas existentes;

14.  Considera que deve ser dada particular atenção aos robôs que constituem uma ameaça importante à privacidade devido ao seu posicionamento em espaços tradicionalmente protegidos e íntimos e à sua capacidade de extrair informações relativas a dados pessoais sensíveis e de os transmitir;

Uma Agência Europeia

15.  Considera que é necessário reforçar a cooperação entre os Estados-Membros e a Comissão a fim de garantir a aplicação de regras transnacionais coerentes na União, que incentivem a cooperação entre as indústrias europeias e que possibilitem a implantação, em toda a União, de robôs consentâneos com os níveis de proteção e de segurança exigidos, e com os princípios éticos consagrados no direito da União;

16.  Solicita à Comissão que pondere a criação de uma Agência Europeia da Robótica e da Inteligência Artificial a fim de prestar o aconselhamento técnico, ético e regulamentar especializado necessário para apoiar os esforços dos intervenientes públicos relevantes, tanto a nível da União como a nível nacional, para dar uma resposta tempestiva, ética e fundada às novas oportunidades e aos novos desafios, principalmente de natureza transfronteiriça, derivados da evolução tecnológica na robótica, como acontece no setor dos transportes;

17.  Considera que o potencial e os problemas decorrentes da utilização da robótica e o atual investimento na dinâmica justificam que a Agência Europeia seja dotada do orçamento adequado e conte no seu pessoal com reguladores e especialistas técnicos e éticos externos para o controlo transetorial e multidisciplinar das aplicações baseadas na robótica, a identificação de padrões de melhores práticas e, se for caso disso, a recomendação de medidas de regulação, a definição de novos princípios e a resolução de potenciais questões de proteção ao consumidor e de problemas sistemáticos; solicita à Comissão (e à Agência Europeia, caso esta seja criada) que apresente um relatórios anuais ao Parlamento Europeu sobre a evolução mais recente no domínio da robótica e sobre as medidas que consideradas necessárias;

Direitos de propriedade intelectual e circulação de dados

18.  Observa que não existem disposições legais especificamente aplicáveis à robótica, mas que os regimes e as doutrinas jurídicas existentes podem ser rapidamente aplicados à robótica, embora alguns aspetos pareçam requerer uma ponderação específica; insta a Comissão a apoiar uma abordagem horizontal e neutra do ponto de vista tecnológico da propriedade intelectual aplicável aos diversos setores onde a robótica poderá ser aplicada;

19.  Insta a Comissão e os Estados-Membros a assegurarem que as disposições de direito civil sobre robótica estejam em consonância com o Regulamento Geral sobre a Proteção de Dados e em conformidade com os princípios da necessidade e da proporcionalidade; insta a Comissão e os Estados-Membros a terem em conta a rápida evolução tecnológica no domínio da robótica, incluindo o desenvolvimento de sistemas ciberfísicos, e a assegurarem que o direito da União não fique atrás da curva de desenvolvimento e de implantação das tecnologias;

20.  Salienta que o direito ao respeito pela vida privada e à proteção dos dados pessoais – consagrados nos artigos 7.º e 8.º da Carta e no artigo 16.º do Tratado sobre o Funcionamento da União Europeia (TFUE) – se aplicam a todas as áreas da robótica e que o quadro jurídico da União em matéria de proteção de dados deve ser plenamente respeitado; solicita, a este respeito, a clarificação, no contexto do quadro de aplicação do RGPD, das normas e dos critérios relativos à utilização de câmaras e de sensores em robôs; insta a Comissão a garantir o respeito dos princípios da proteção dos dados, tais como os princípios da privacidade desde a conceção e por defeito, os princípios da minimização dos dados e da limitação da finalidade, bem como dos mecanismos de controlo da transparência para os titulares de dados e de soluções adequadas conformes com o direito da União em matéria de proteção de dados, e ainda a promoção e a integração de recomendações e normas adequadas nas políticas da União;

21.  Salienta que a livre circulação dos dados é fundamental para a economia digital e o desenvolvimento no domínio da robótica e da IA; salienta que um elevado nível de segurança dos sistemas de robótica – incluindo os sistemas de dados internos e a circulação dos dados – é essencial para a utilização adequada de robôs e da IA; salienta que tem de ser assegurada a proteção das redes de robôs e inteligência artificial interligados, a fim de evitar potenciais violações da segurança; salienta que é fundamental um elevado nível de segurança e de proteção de dados pessoais, prestando a devida atenção à privacidade na comunicação entre as pessoas, os robôs e a IA; salienta que os criadores do setor da robótica e da IA têm a responsabilidade de desenvolver produtos seguros e adequados à sua finalidade; insta a Comissão e os Estados-Membros a apoiarem e incentivarem o desenvolvimento da tecnologia necessária, incluindo a segurança desde a fase de conceção;

Normalização, segurança e proteção

22.  Salienta que a questão da definição de normas e a concessão de interoperabilidade são fundamentais para o futuro da concorrência no domínio da IA e das tecnologias robóticas; insta a Comissão a continuar a trabalhar na harmonização internacional de normas técnicas, em especial em colaboração com as organizações europeias de normalização e com a Organização nIternacional de Normalização, a fim de promover a inovação, de evitar a fragmentação do mercado interno e de garantir um elevado nível de segurança dos produtos e de proteção dos consumidores incluindo, sempre que necessário, normas mínimas de segurança no ambiente de trabalho; destaca a importância da engenharia inversa lícita e de normas abertas, a fim de maximizar o valor da inovação e de assegurar que os robôs possam comunicar entre si; saúda, a este respeito, a criação de comités técnicos especiais, como o ISO/TC 299 Robotics, dedicados exclusivamente à criação de normas de robótica;

23.  Realça que o teste de robôs em cenários da vida real é essencial para identificar e avaliar os riscos que podem implicar, bem como o respetivo desenvolvimento tecnológico para lá de uma fase de laboratório puramente experimental; sublinha, a este respeito, que o teste de robôs em cenários da vida real, em especial em cidades e em estradas, põe uma série de questões, incluindo obstáculos que desaceleram a evolução dessas fases de testes, e exige uma estratégia e um mecanismo de supervisão eficazes; insta a Comissão a elaborar critérios uniformes em todos os Estados-Membros, que estes deverão utilizar para identificar os domínios em que as experiências com robôs são permitidas, em conformidade com o princípio da precaução;

Meios de transporte autónomos

a)Veículos autónomos

24.  Salienta que os transportes autónomos cobrem todos os sistemas telepilotados, automatizados, conetados e autónomos de transporte rodoviário, ferroviário, marítimo, fluvial e aéreo, incluindo veículos automóveis, comboios, embarcações, aeronaves, aeronaves não tripuladas e todas as formas futuras de evolução e inovação neste setor;

25.  Considera que o setor automóvel se encontra em carência urgente de normas eficazes a nível da União e a nível mundial para garantir o desenvolvimento transfronteiriço de veículos automatizados e autónomos, de modo a explorar na plenitude o seu potencial económico e beneficiar dos efeitos positivos de tendências tecnológicas; salienta que as abordagens regulamentares fragmentadas impediriam a aplicação de sistemas de transporte autónomos e poriam em perigo a competitividade europeia;

26.  Chama a atenção para o facto de o tempo de reação do condutor ter uma importância fundamental em caso de ativação imprevista da autopilotagem do veículo e exorta, por conseguinte, as partes interessadas a estabelecerem valores realistas para a determinação das questões de segurança e responsabilidade;

27.  Considera que a transição para veículos autónomos terá impacto nos seguintes aspetos: responsabilidade civil (imputabilidade e seguros), segurança rodoviária, todos os temas ligados ao ambiente (por exemplo, eficiência energética, utilização de tecnologias e fontes de energias renováveis), questões relacionadas com a informação (acesso aos dados, proteção dos dados e da privacidade e partilha dos dados), questões relacionadas com as infraestruturas de TIC (por exemplo, a densidade elevada de comunicações eficientes e fiáveis) e com o emprego (por exemplo, a criação e a perda de postos de trabalho, a formação dos condutores de veículos pesados de mercadorias com vista à utilização de veículos automatizados); salienta que serão necessários investimentos substanciais nas infraestruturas rodoviárias, energéticas e das TIC; insta a Comissão a ter em consideração os aspetos acima referidos nos seus trabalhos sobre veículos autónomos;

28.  Salienta a importância decisiva de os programas europeus de navegação por satélite Galileo e EGNOS disponibilizarem informações de posicionamento e cronometria fiáveis e precisas para a implantação de veículos autónomos e exorta, neste contexto, à ultimação e ao lançamento dos satélites necessários para completar o sistema de posicionamento europeu Galileo;

29.  Chama a atenção para o elevado valor acrescentado que os veículos autónomos representam para as pessoas com mobilidade reduzida, ao permitir que participem melhor no transporte rodoviário individual e, dessa forma, facilitar a sua vida quotidiana;

b) Drones (RPAS)

30.  Reconhece os avanços positivos nas tecnologias relativas aos drones, nomeadamente no domínio das operações de busca e salvamento; salienta a importância de um quadro da União para os drones, a fim de defender a segurança, a proteção e a privacidade dos cidadãos da União, e insta a Comissão a acompanhar as recomendações da resolução do Parlamento, de 29 de outubro de 2015, sobre a utilização segura de sistemas de aeronaves telepilotadas (RPAS), vulgarmente conhecidos como veículos aéreos não tripulados (UAV), no campo da aviação civil(5); exorta a Comissão a disponibilizar avaliações sobre as questões de segurança relacionadas com a utilização generalizada de veículos aéreos não tripulados; insta a Comissão a estudar a necessidade de introduzir um sistema de rastreabilidade e identificação destinado aos RPAS que permita determinar a posição da aeronave em tempo real durante a sua utilização; recorda que a homogeneidade e a segurança das aeronaves não tripuladas devem ser asseguradas através das medidas previstas no Regulamento (CE) n.º 216/2008 do Parlamento Europeu e do Conselho(6);

Robôs de assistência

31.  Sublinha que a investigação e o desenvolvimento dos robôs destinados à prestação de cuidados a idosos se tornou mais comum e barato, levando ao fabrico de produtos com maior funcionalidade e a uma mais ampla aceitação dos consumidores; constata a existência de uma vasta gama de aplicações destas tecnologias nos domínios da prevenção, da assistência, da supervisão, do estímulo e do acompanhamento dos idosos e das pessoas com deficiência, bem como das pessoas que sofrem de demência, de perda de memória ou de distúrbios cognitivos;

32.  Destaca que o contacto humano é um dos aspetos fundamentais do cuidado humano; considera que substituir o fator humano por robôs pode desumanizar as práticas de assistência mas, por outro lado, reconhece que os robôs poderiam realizar tarefas automatizadas de prestação de cuidados e assim facilitar o trabalho dos assistentes, aumentando consideravelmente os cuidados de saúde prestados por humanos e tornando o processo de reabilitação mais focalizado, permitindo ao pessoal médico e aos prestadores de cuidados dedicar mais tempo ao diagnóstico e à procura de melhores opções de tratamento; salienta que embora a robótica tenha potencial para aumentar a mobilidade e a integração das pessoas com deficiência e dos idosos, as pessoas que prestam cuidados de saúde continuarão a ser necessárias e a constituir uma importante fonte de interação social que não é totalmente substituível;

Robôs médicos

33.  Sublinha a importância da educação, da formação e da preparação adequadas para profissionais da saúde, como médicos e prestadores de cuidados, a fim de assegurar o mais elevado nível possível de competência profissional, bem como salvaguardar e proteger a saúde dos doentes; realça a necessidade de definir os requisitos profissionais mínimos que um cirurgião tem de cumprir para poder operar e recorrer a robôs cirúrgicos; considera que é essencial respeitar o princípio da autonomia supervisionada dos robôs, segundo o qual caberá sempre a um cirurgião humano estabelecer o plano inicial de tratamento e tomar a decisão final relativa à sua execução; destaca a relevância especial da formação para os utilizadores para se familiarizarem com os requisitos técnicos neste âmbito; chama a atenção para a tendência crescente no sentido de um autodiagnóstico recorrendo a robôs móveis e, por conseguinte, alerta para a necessidade de os médicos receberem formação para fazerem face a casos de autodiagnóstico; considera que a utilização de uma tal tecnologia não deve afetar nem prejudicar a relação entre um médico e o paciente, devendo, pelo contrário, assistir os médicos na realização do diagnóstico e/ou tratamento dos doentes, a fim de reduzir o risco de erros humanos e de aumentar a qualidade e a esperança de vida;

34.  Considera que os robôs médicos continuam a abrir caminho na execução de cirurgias de alta precisão e de procedimentos repetitivos e têm potencial para melhorar os resultados da reabilitação e prestar apoio logístico altamente eficaz nos hospitais; observa que os robôs médicos têm igualmente potencial para reduzir os custos relacionados com os cuidados de saúde, permitindo que os profissionais centrem a sua atenção na prevenção e não no tratamento e disponibilizando mais recursos orçamentais para uma melhor adaptação à diversidade das necessidades dos doentes, para a formação contínua dos profissionais de saúde e para a investigação;

35.  Insta a Comissão a assegurar, antes da data de entrada em vigor do Regulamento (UE) 2017/745, que os procedimentos relativos aos ensaios de novos dispositivos robóticos no domínio médico sejam seguros, especialmente quando se trata de dispositivos para implantação no corpo humano;

Reparação e aperfeiçoamento humano

36.  Dá conta dos enormes progressos e do potencial da robótica no domínio da reparação e da compensação de órgãos debilitados e de funções humanas, mas também das questões complexas colocadas em especial pelas possibilidades de aperfeiçoamento humano, dado que os robôs médicos e, em particular, os sistemas ciberfísicos podem alterar os nossos conceitos sobre um corpo humano saudável, uma vez que podem ser usados diretamente no corpo humano ou implantados no mesmo; sublinha a importância da criação urgente de comissões de ética de robôs em hospitais e em outras instituições de cuidados de saúde dotadas de pessoal competente e incumbidas de analisar e prestar assistência na resolução de problemas éticos complicados e pouco habituais que envolvam questões que afetam o cuidado e o tratamento de doentes; insta a Comissão e os Estados-Membros a elaborarem diretrizes de apoio à criação e ao funcionamento dessas comissões;

37.  Refere que no domínio das aplicações médicas vitais, como as próteses robóticas, é necessário assegurar um acesso contínuo e sustentável à manutenção, a melhorias e, sobretudo, a atualizações de software que resolvam anomalias e vulnerabilidades;

38.  Recomenda a criação de entidades independentes de confiança, com vista a deter os meios necessários para prestar serviços aos portadores de aparelhos médicos vitais e avançados, como serviços de manutenção, reparações e aperfeiçoamentos, incluindo atualizações de software, especialmente no caso de tais serviços já não serem prestados pelo fornecedor inicial; sugere que se preveja a obrigação de os fabricantes fornecerem as instruções detalhadas de conceção, incluindo o código-fonte, a estas entidades independentes de confiança, à semelhança do depósito legal de publicações numa biblioteca nacional;

39.  Chama a atenção para os riscos associados à possibilidade de pirataria, de desativação dos sistemas ciberfísicos integrados no corpo humano ou de limpeza das suas memórias, uma vez que tal poderia representar um risco para a saúde humana e, em casos extremos, até mesmo para a vida humana, e salienta, por conseguinte, que a proteção dos referidos sistemas deve constituir uma prioridade;

40.  Sublinha a importância de garantir o acesso equitativo de todas as pessoas a essas inovações, instrumentos e intervenções tecnológicas; insta a Comissão e os Estados-Membros a promoverem o desenvolvimento de tecnologias de assistência, a fim de facilitar o desenvolvimento e a adoção destas tecnologias por aqueles que delas necessitam, em conformidade com o artigo 4.º da Convenção das Nações Unidas sobre os Direitos das Pessoas com Deficiência, de que a União é parte;

Educação e emprego

41.  Chama a atenção para a previsão da Comissão segundo a qual, até 2020, a Europa poderá enfrentar uma falta de 825 000 profissionais de TIC e 90 % dos empregos exigirão, no mínimo, competências digitais mínimas; saúda a iniciativa da Comissão de propor um roteiro para a possível utilização e revisão de um quadro de competências digitais e descritores de competências digitais para todos os níveis de aprendizes e insta a Comissão a prestar um apoio substancial ao desenvolvimento de capacidades digitais em todos os grupos etários, independentemente do seu regime de trabalho, como um primeiro passo para um maior alinhamento das lacunas do mercado de trabalho com a procura de emprego; salienta que o crescimento no domínio da robótica exige que os Estados-Membros desenvolvam sistemas mais flexíveis de formação e ensino de forma a garantir que as estratégias de aprendizagem correspondam às necessidades da economia robótica;

42.  Considera que a maior captação do interesse das jovens para uma carreira digital e a atribuição de mais postos de trabalho no setor digital às mulheres seria benéfico para a indústria digital, para as próprias mulheres e para a economia da Europa; insta a Comissão e os Estados-Membros a lançarem iniciativas para apoiar as mulheres nas TIC e fomentar as suas cibercompetências;

43.  Insta a Comissão a começar a analisar e a controlar mais de perto as tendências laborais a médio e longo prazo, dando particular destaque à criação, à deslocação e à perda de empregos nos diferentes domínios/áreas de qualificação, a fim de saber em que domínios estão a ser criados empregos e quais são os que estão a perder empregos em consequência de uma maior utilização de robôs;

44.  Salienta a importância de prever as alterações da sociedade, tendo em conta os efeitos que o desenvolvimento e a aplicação da robótica e da IA podem ter no emprego; insta a Comissão a analisar diferentes cenários possíveis e as suas consequências para a viabilidade dos sistemas de segurança social dos Estados-Membros;

45.  Salienta a importância da flexibilidade das competências e das competências sociais, criativas e digitais na educação; está convicto de que, para além do ensino académico nas escolas, a aprendizagem ao longo da vida deve ser alcançada através de uma ação ao longo da vida;

46.  Regista o enorme potencial da robótica em termos de melhoria da segurança no trabalho, através da transferência de várias tarefas perigosas e prejudicais dos humanos para os robôs, assinalando, contudo, o seu potencial para a criação de um conjunto de novos riscos devido ao número crescente de interações entre os seres humanos e os robôs no local de trabalho; sublinha, a este respeito, a importância de aplicar regras estritas e viradas para o futuro às interações entre os seres humanos e os robôs, a fim de garantir a saúde, a segurança e o respeito dos direitos fundamentais no local de trabalho;

Impacto ambiental

47.  Observa que o desenvolvimento da robótica e da IA deve procurar limitar o seu impacto ambiental com base num consumo de energia eficaz, na eficiência energética através da promoção da utilização de energias renováveis e de materiais escassos, na minimização dos resíduos, tais como os resíduos elétricos e eletrónicos, e na reparabilidade; incentiva, por conseguinte, a Comissão a incorporar os princípios da economia circular em todas as políticas da União sobre robótica; observa que a utilização da robótica também terá um impacto positivo no ambiente, em especial nos domínios da agricultura e do abastecimento e transporte alimentar, nomeadamente através da menor dimensão das máquinas e de uma utilização reduzida de fertilizantes, energia e água, bem como através da agricultura de precisão e da otimização de rotas;

48.  Salienta que os sistemas ciberfísicos levarão à criação de sistemas de energia e infraestruturas capazes de controlar o fluxo de eletricidade entre o produtor e o consumidor, tendo ainda como consequência a criação de «produtores-consumidores» de energia, que produzem e consomem energia, proporcionando assim grandes benefícios para o ambiente;

Responsabilidade

49.  Considera que a responsabilidade civil pelos danos causados por robôs constitui uma questão crucial que tem de ser igualmente resolvida ao nível da União, a fim de garantir o mesmo nível de eficácia, de transparência e de coerência na execução da segurança jurídica em toda a União para benefício dos cidadãos, dos consumidores e das empresas;

50.  Observa que o desenvolvimento da tecnologia robótica exigirá uma melhor compreensão dos pontos comuns necessários para a atividade comum dos humanos e dos robôs, que deverá basear-se em duas relações de interdependência fundamentais, a saber, a previsibilidade e a direcionalidade; assinala que estas duas relações de interdependência são fundamentais para determinar as informações que devem ser partilhadas entre os humanos e os robôs e como pode ser alcançada uma base comum entre ambos para permitir uma ação conjunta sem problemas;

51.  Apela à Comissão que apresente, com base no artigo 114.º do TFUE, uma proposta para um instrumento legislativo sobre questões jurídicas relacionadas com o desenvolvimento e a utilização da robótica e da IA previsível para os próximos 10 a 15 anos, conjugado com instrumentos não legislativos, como as diretrizes e os códigos de conduta referidos nas recomendações descritas no Anexo;

52.  Considera que, seja qual for a solução jurídica aplicável à responsabilidade civil pelos danos causados por robôs em caso de danos não patrimoniais, o futuro instrumento legislativo não deverá nunca limitar o tipo ou a extensão dos danos a indemnizar nem as formas de compensação à parte lesada, pelo simples facto de os danos terem sido provocados por um agente não humano;

53.  Considera que o futuro instrumento legislativo deverá basear-se numa avaliação aprofundada da Comissão que determine se a abordagem a aplicar deve ser a da responsabilidade objetiva ou a da gestão de riscos;

54.  Observa, ao mesmo tempo, que a responsabilidade objetiva exige apenas a prova de que o dano ocorreu e o estabelecimento de um nexo de causalidade entre o funcionamento prejudicial do robô e os danos sofridos pela parte lesada;

55.  Observa que a abordagem da gestão de riscos não se concentra na pessoa «que atuou de forma negligente» como individualmente responsável, mas na pessoa que é capaz, em determinadas circunstâncias, de minimizar os riscos e de lidar com os impactos negativos;

56.  Considera que, em princípio, uma vez identificadas as partes às quais cabe, em última instância, a responsabilidade, esta deve ser proporcionada em relação ao nível efetivo de instruções dadas ao robô e ao nível da sua autonomia, de modo a que quanto maior for a capacidade de aprendizagem ou de autonomia de um robô, e quanto mais longa for a «educação» do robô, maior deve ser a responsabilidade do «professor»; observa, em especial, que as competências resultantes da «formação» dada a um robô não devem ser confundidas com as competências estritamente dependentes das suas capacidades de autoaprendizagem, quando se procura identificar a pessoa à qual se atribui efetivamente o comportamento danoso do robô; observa que, pelo menos na fase atual, a responsabilidade deve ser imputada a um ser humano, e não a um robô;

57.  Destaca que uma possível solução para a complexidade de atribuir responsabilidade pelos danos causados pelos robôs cada vez mais autónomos pode ser um regime de seguros obrigatórios, conforme acontece já, por exemplo, com os carros; observa, no entanto que, ao contrário do que acontece com o regime de seguros para a circulação rodoviária, em que os seguros cobrem os atos e as falhas humanas, um regime de seguros para a robótica deveria ter em conta todos os elementos potenciais da cadeia de responsabilidade;

58.  Considera que, à semelhança do que acontece com os veículos motorizados, esse regime de seguros poderia ser complementado por um fundo de garantia da reparação de danos nos casos não abrangidos por qualquer seguro; insta o setor dos seguros a criar novos produtos e novos tipos de ofertas que estejam em linha com os avanços na robótica;

59.  Insta a Comissão a explorar, analisar e ponderar, na avaliação de impacto que fizer do seu futuro instrumento legislativo, as implicações de todas as soluções jurídicas possíveis, tais como:

Aspetos internacionais

60.  Observa que, apesar de as atuais normas de direito internacional privado geral em matéria de acidentes de viação, aplicáveis na União, não carecerem urgentemente de alteração significativa para viabilizar a criação de veículos autónomos, a simplificação do atual sistema dual para a definição da lei aplicável (com base no Regulamento (CE) n.º 864/2007 do Parlamento Europeu e do Conselho(7) e na Convenção de Haia, de 4 de maio de 1971, em matéria de direito aplicável a acidentes de viação) melhoraria a segurança jurídica e limitaria as possibilidades de busca do foro mais vantajoso («forum shopping»);

61.  Regista a necessidade de ponderar a necessidade de alterar os acordos internacionais, como a Convenção de Viena sobre a Circulação Rodoviária, de 8 de novembro de 1968, e a Convenção de Haia sobre a lei aplicável aos acidentes de circulação rodoviária;

62.  Espera que a Comissão assegure que os Estados-Membros cumpram o direito internacional de modo uniforme, nomeadamente a Convenção de Viena sobre a Circulação Rodoviária, que tem de ser alterada, a fim de tornar possível a condução sem condutor, e exorta a Comissão, os Estados-Membros e a indústria a cumprirem os objetivos da Declaração de Amesterdão o mais rapidamente possível;

63.  Exorta à cooperação internacional no exame das questões sociais, éticas e jurídicas e, seguidamente, à criação de normas regulamentares sob a égide das Nações Unidas;

64.  Destaca que as restrições e as condições estabelecidas no Regulamento (CE) n.º 428/2009 do Parlamento Europeu e do Conselho(8) sobre o comércio de artigos de dupla utilização – bens, programas informáticos e tecnologia que podem ser usados em aplicações quer civis quer militares e/ou que podem contribuir para a proliferação de armas de destruição maciça – devem aplicar-se igualmente às aplicações de robótica;

Aspetos finais

65.  Requer, com base no artigo 225.º do TFUE, que a Comissão apresente, com base no artigo 114.º do TFUE, uma proposta de diretiva sobre disposições de direito civil sobre robótica, seguindo as recomendações constantes do anexo;

66.  Confirma que essas recomendações respeitam os direitos fundamentais e o princípio da subsidiariedade;

67.  Considera que a proposta requerida terá incidências financeiras, caso seja criada uma nova agência europeia;

o
o   o

68.  Encarrega o seu Presidente de transmitir a presente resolução e as recomendações que figuram em anexo à Comissão e ao Conselho.

(1) Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos (JO L 210 de 7.8.1985, p. 29). (2) Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados) (JO L 119 de 4.5.2016, p. 1). (3) (1) Um robô não pode magoar um ser humano ou, por inação, permitir que tal aconteça. (2) Um robô tem de obedecer às ordens dos seres humanos, exceto se essas ordens entrarem em conflito com a primeira lei. (3) Um robô tem de proteger a sua própria existência desde que essa proteção não entre em conflito com a primeira ou com a segunda lei (Ver: I. Asimov, Runaround, 1943); e (0) Um robô não pode magoar a humanidade ou, por inação, permitir que a humanidade se magoe. (4) Ver Declaração Schuman (1950): «A Europa não se fará de uma só vez, nem de acordo com um plano único. Far-se-á através de realizações concretas que criarão, antes de mais, uma solidariedade de facto.» (5) Textos Aprovados, P8_TA(2015)0390. (6) Regulamento (CE) n.º 216/2008 do Parlamento Europeu e do Conselho, de 20 de fevereiro de 2008, relativo a regras comuns no domínio da aviação civil e que cria a Agência Europeia para a Segurança da Aviação, e que revoga a Diretiva 91/670/CEE do Conselho, o Regulamento (CE) n.º 1592/2002 e a Diretiva 2004/36/CE (JO L 79 de 19.3.2008, p. 1). (7) Regulamento (CE) n.º 864/2007 do Parlamento Europeu e do Conselho, de 11 de julho de 2007, relativo à lei aplicável às obrigações extracontratuais (Roma II) (JO L 199 de 31.7.2007, p. 40). (8) Regulamento (CE) n.º 428/2009 do Conselho, de 5 de maio de 2009, que cria um regime comunitário de controlo das exportações, transferências, corretagem e trânsito de produtos de dupla utilização (JO L 134 de 29.5.2009, p. 1).

RECOMENDAÇÕES QUANTO AO CONTEÚDO DA PROPOSTA REQUERIDA

Definição e classificação de «robôs inteligentes»

Deverá ser criada uma definição comum europeia para os robôs autónomos inteligentes, incluindo, se for caso disso, definições das suas subcategorias, tendo em consideração as seguintes características:

–  a capacidade de adquirir autonomia através de sensores e/ou da troca de dados com o seu ambiente (interconetividade) e a análise destes dados;

–  a capacidade de aprender com a experiência e com a interação;

–  a forma do suporte físico do robô;

–  a capacidade de adaptar o seu comportamento e as suas ações ao ambiente.

Registo de «robôs inteligentes»

Para efeitos de rastreabilidade, e a fim de facilitar a aplicação de outras recomendações, deverá ser introduzido um sistema de registo de robôs avançados, assente nos critérios estabelecidos para a classificação de robôs. O sistema de registo e o registo deverão abranger toda a União, cobrindo o mercado interno, e poderiam ser geridos por uma Agência Europeia de Robótica e Inteligência Artificial, caso essa agência seja criada.

Responsabilidade civil

Qualquer solução jurídica aplicada à responsabilidade dos robôs e da inteligência artificial em caso de danos não patrimoniais não deverá, em caso algum, limitar o tipo ou a extensão dos danos a indemnizar nem as formas de compensação que podem ser disponibilizadas à parte lesada, pelo simples facto de os danos terem sido provocados por um agente não humano.

O futuro instrumento legislativo deverá basear-se numa avaliação aprofundada da Comissão que determine se a abordagem a aplicar deve ser a da responsabilidade objetiva ou a da gestão de riscos.

Deverá ser criado um regime de seguros obrigatório, que poderá ter basear-se na obrigação do produtor de subscrever um seguro para os robôs autónomos que produz.

O regime de seguros deverá ser complementado por um fundo a fim de garantir que os danos possam ser indemnizados caso não exista qualquer cobertura de seguro.

As decisões políticas sobre as regras de responsabilidade civil aplicáveis aos robôs e à inteligência artificial deverão ser tomadas com base em informações adequadas de um projeto de investigação e desenvolvimento à escala europeia dedicado à robótica e à neurociência, com cientistas e especialistas capazes de avaliar todos os riscos e consequências possíveis.

Interoperabilidade, acesso aos códigos e direitos de propriedade intelectual

Deve ser garantida a interoperabilidade dos robôs autónomos ligados em rede que interagem entre si. Deve ser disponibilizado, sempre que necessário, acesso aos códigos-fonte, aos dados de entrada e aos pormenores de construção, a fim de investigar os acidentes e os danos provocados pelos robôs inteligentes e de assegurar a sua operacionalidade, disponibilidade, fiabilidade, segurança e proteção permanentes.

Carta da Robótica

Ao propor atos jurídicos em matéria de robótica, a Comissão deverá ter em conta os princípios consagrados na seguinte Carta da Robótica.

CARTA DA ROBÓTICA

O código de conduta ética proposto no domínio da robótica estabelece as bases para a identificação, a supervisão e o cumprimento dos princípios éticos fundamentais, desde a fase de conceção e desenvolvimento.

O quadro, elaborado com base em informações de um projeto de investigação e desenvolvimento à escala europeia dedicado à robótica e à neurociência, deve ser concebido de modo ponderado a fim de possibilitar ajustamentos específicos numa base casuística para avaliar se um dado comportamento é correto ou errado numa dada situação e para tomar decisões de acordo com uma hierarquia de valores predefinida.

O código não deverá substituir a necessidade de resolver todos os grandes problemas jurídicos neste domínio; deverá, antes, ter uma função de complementaridade. Limitar-se-á, portanto, a facilitar a classificação ética da robótica, a reforçar os esforços de inovação responsável neste domínio e a ter em conta as preocupações do público.

Deverá ser dada particular atenção às fases de investigação e desenvolvimento da trajetória tecnológica pertinente (processo de conceção, exame ético, controlos de auditoria, etc.). O código deverá procurar dar resposta à necessidade de cumprimento das normas éticas pelos investigadores, pelos profissionais, pelos utilizadores e pelos criadores, e introduzir um procedimento para encontrar uma forma de resolver os dilemas éticos pertinentes e para permitir que estes sistemas funcionem de um modo eticamente responsável.

CÓDIGO DE CONDUTA ÉTICA PARA OS ENGENHEIROS DE ROBÓTICA

PREÂMBULO

O Código de Conduta convida todos os investigadores e criadores a agir de forma responsável e com consideração absoluta pela necessidade de respeitar a dignidade, a privacidade e a segurança dos seres humanos.

O Código de Conduta apela a uma estreita cooperação entre todas as disciplinas a fim de garantir que a investigação de robótica na União Europeia seja realizada de um modo seguro, ético e eficaz.

O Código de Conduta abrange todas as atividades de investigação e desenvolvimento no domínio da robótica.

O Código de Conduta é voluntário e proporciona um conjunto de princípios e orientações gerais para medidas a tomar por todas as partes interessadas.

Os organismos que financiam a investigação em robótica, as organizações de investigação, as comissões de ética e os investigadores são incentivados a ponderar, desde as fases iniciais, as implicações futuras das tecnologias ou dos objetos a investigar e a desenvolver uma cultura de responsabilidade tendo em conta os problemas e as oportunidades que podem surgir no futuro.

Os organismos públicos e privados que financiam a investigação em robótica deverão exigir que todas as propostas de financiamento de investigação em robótica sejam acompanhadas por um dossiê de avaliação de risco. O código deve considerar os seres humanos, e não os robôs, como agentes responsáveis.

Os investigadores no domínio da robótica devem pautar-se pelos mais elevados padrões de conduta ética e profissional, e respeitar os seguintes princípios:

Beneficência – os robôs devem atuar no interesse dos seres humanos;

Não-maleficência – a doutrina de «acima de tudo, não prejudicar», segundo a qual os robôs não devem causar danos aos humanos;

Autonomia – a capacidade de tomar decisões informadas e livres de coação sobre as condições de interação com os robôs;

Justiça – uma distribuição equitativa dos benefícios associados à robótica e, em particular, a acessibilidade a robôs de cuidados domésticos e de cuidados de saúde.

Direitos fundamentais

As atividades de investigação em robótica - desde a sua conceção e aplicação até à sua difusão e utilização - devem respeitar os direitos fundamentais e ser realizadas no interesse do bem-estar e da autodeterminação dos indivíduos e da sociedade em geral,. A dignidade e a autonomia – tanto física como psicológica – dos seres humanos devem ser sempre respeitadas.

Precaução

As atividades de investigação em robótica devem ser realizadas de acordo com o princípio da precaução, prevendo os impactos potenciais dos resultados na segurança e tomando as devidas precauções, proporcionadas em relação ao nível de proteção, e fomentando ao mesmo tempo o progresso em benefício da sociedade e do ambiente.

Abertura à participação dos interessados

Os engenheiros de robótica garantem a transparência e o respeito pelo legítimo direito de acesso de todas as partes interessadas às informações. A abertura à participação dos interessados permite a participação de todas as partes interessadas nas atividades de investigação em robótica, ou por elas abrangidas, nos processos decisórios.

Responsabilização

Os engenheiros de robótica são responsáveis pelos impactos sociais, ambientais e para a saúde humana que a robótica possa ter nas gerações presentes ou futuras.

Segurança

Os criadores de robótica devem ter em conta e respeitar o bem-estar físico, a segurança, a saúde e os direitos das pessoas. Os engenheiros de robótica devem preservar o bem-estar humano, respeitando simultaneamente os direitos humanos, e revelar prontamente os fatores suscetíveis de pôr em perigo as pessoas ou o ambiente.

Reversibilidade

A reversibilidade, enquanto condição necessária da capacidade de controlo, é um conceito fundamental na programação dos robôs de forma a comportarem-se de modo seguro e fiável. Um modelo de reversibilidade indica ao robô as ações que são reversíveis e como revertê-las, caso seja possível. A capacidade de anular a última ação ou uma sequência de ações permite aos utilizadores anularem as ações indesejadas e regressarem à «boa» fase do seu trabalho.

Privacidade

O direito à privacidade deve ser sempre respeitado. Os engenheiros de robótica devem assegurar que as informações privadas sejam mantidas em segurança e só sejam utilizadas de forma adequada. Além disso, os engenheiros de robótica devem garantir que os indivíduos não sejam identificáveis pessoalmente, salvo em circunstâncias excecionais e, se for esse o caso, que só o sejam com um consentimento esclarecido, inequívoco e informado. O consentimento humano informado deve ser solicitado e obtido antes de qualquer interação homem-máquina. Enquanto tais, os criadores de robótica são responsáveis por conceber e adotar procedimentos para o consentimento válido, a confidencialidade, o anonimato, o tratamento justo e um processo equitativo. Os criadores devem satisfazer todos os pedidos de destruição de dados conexos e da sua eliminação de conjuntos de dados.

Maximização do benefício e minimização do dano

Os investigadores devem procurar maximizar os benefícios do seu trabalho em todas as fases, desde a conceção até à divulgação. Devem ser evitados todos os danos causados aos participantes na investigação, aos sujeitos humanos e aos participantes em experiências, testes ou estudos ou a eles sujeitos. Sempre que ocorram riscos que constituam um elemento inevitável e integrante da investigação, devem ser criados e respeitados sólidos protocolos de avaliação e gestão dos riscos. Normalmente, o risco de danos não deve ser superior ao que existe na vida do dia-a-dia, ou seja, as pessoas não devem ser expostas a riscos superiores ou a mais riscos do que aqueles a que são expostas na sua vida normal. O funcionamento dos sistemas de robótica devem basear-se sempre num processo exaustivo de avaliação do risco, o qual deve ser enformado pelos princípios cautelares e de proporcionalidade.

CÓDIGO PARA AS COMISSÕES DE ÉTICA DA INVESTIGAÇÃO (CEI)

Princípios

Independência

O processo de exame ético deve ser independente da própria investigação. Este princípio destaca a necessidade de evitar conflitos de interesses entre os investigadores e as pessoas que examinam o protocolo de ética, e entre os examinadores e as estruturas organizativas de governo.

Competência

O processo de exame ético deve ser realizado por examinadores com conhecimentos especializados adequados, tendo em conta a necessidade de ponderar cuidadosamente o alcance da adesão e a formação específica das CEI em ética.

Transparência e responsabilização

O processo de exame deve ser responsável e aberto a escrutínio. As CEI têm de reconhecer as suas responsabilidades e devem estar devidamente situadas no âmbito das estruturas organizativas que conferem transparência ao funcionamento e aos procedimentos das CEI para manter e analisar as normas.

A função de uma CEI

Uma CEI é normalmente responsável por analisar toda a investigação que envolve participantes humanos realizada por indivíduos empregados na ou pela instituição em causa; por garantir que o exame de ética seja independente, competente e oportuno; por proteger a dignidade, os direitos e o bem-estar dos participantes em atividades de investigação; por ter em consideração a segurança do(s) investigador(es); por ter em consideração os interesses legítimos de outras partes interessadas; por tomar decisões informadas sobre o mérito científico das propostas; e por fazer recomendações informadas aos investigadores se as propostas forem consideradas insuficientes em algum aspeto.

A constituição de uma CEI

Por norma, as CEI devem ser multidisciplinares, incluir homens e mulheres e ser constituídas por elementos com ampla experiência e conhecimentos especializados no domínio da investigação em robótica. O processo de nomeação deve garantir que os elementos da comissão forneçam um equilíbrio adequado de conhecimentos científicos, antecedentes filosóficos, jurídicos ou éticos, contribuam com opiniões e incluam pelo menos um elemento com conhecimentos especializados em ética e utilizadores de serviços especializados de saúde, educação ou sociais, sempre que estes constituam o cerne das atividades de investigação, e indivíduos com conhecimentos metodológicos específicos relevantes para a investigação que analisam. As CEI devem ser constituídas de modo a evitar conflitos de interesse.

Acompanhamento

As organizações de investigação devem estabelecer procedimentos adequados de acompanhamento dos projetos de investigação que receberam aprovação ética até à sua conclusão e garantir o seu exame contínuo, caso a conceção da investigação deixe antever possíveis alterações ao longo do tempo que precisem de ser abordadas. O acompanhamento deve ser proporcionado em relação à natureza e ao grau do risco associado à investigação. Se uma CEI considerar que um relatório de acompanhamento suscita preocupações importantes quanto à conduta ética do estudo, deve solicitar uma descrição completa e detalhada da investigação para exame ético completo. Se se considerar que um estudo não está a ser realizado de forma ética, deve ponderar-se a possibilidade de retirar a sua aprovação, e a investigação deve ser suspensa ou interrompida.

LICENÇA PARA OS CRIADORES

Os criadores devem:

–  ter em conta os valores europeus de dignidade, autonomia e autodeterminação, liberdade e justiça antes, durante e após o processo de conceção, desenvolvimento e fornecimento dessas tecnologias, incluindo a necessidade de não prejudicar, lesar, enganar ou explorar os utilizadores (vulneráveis).

–  introduzir princípios fidedignos de conceção do sistema em todos os aspetos do funcionamento do robô, tanto em termos de conceção de hardware como de software, e para o processamento de quaisquer dados, na plataforma ou fora desta, para efeitos de segurança.

–  introduzir elementos de privacidade desde a conceção, de modo a assegurar que as informações privadas sejam mantidas em segurança e utilizadas apenas de forma adequada.

–  integrar mecanismos óbvios de autoexclusão («kill switches») que devem ser compatíveis com objetivos de conceção razoáveis.

–  garantir que um robô funcione em conformidade com os princípios éticos e jurídicos locais, nacionais e internacionais.

–  garantir que as etapas do processo decisório do robô sejam suscetíveis de reconstrução e rastreabilidade.

–  garantir que seja exigida a máxima transparência na programação de sistemas de robótica, bem como a previsibilidade do comportamento robótico.

–  analisar a previsibilidade de um sistema entre seres humanos e robôs, atendendo à incerteza na interpretação e na ação e a possíveis falhas robóticas ou humanas.

–  desenvolver ferramentas de rastreabilidade na fase de conceção do robô. Estas ferramentas irão facilitar a responsabilização e a explicação do comportamento robótico, mesmo que limitado, nos vários níveis pretendidos por peritos, operadores e utilizadores.

–  elaborar protocolos de conceção e de avaliação e reunir com potenciais utilizadores e partes interessadas quando avalia os benefícios e os riscos da robótica, incluindo os de natureza cognitiva, psicológica ou ambiental.

–  garantir que os robôs possam ser identificados como robôs ao interagirem com humanos.

–  salvaguardar a segurança e a saúde dos que interagem e entram em contacto com robótica, uma vez que os robôs, enquanto produtos, devem ser concebidos com processos que garantem a sua segurança e proteção. Um engenheiro de robótica tem de preservar o bem-estar da humanidade e, simultaneamente, respeitar os direitos humanos e não pode disponibilizar um robô sem salvaguardar a segurança, a eficácia e a reversibilidade do funcionamento do sistema.

–  obter um parecer favorável de uma CEI antes de testar um robô em ambiente real ou de envolver humanos nos seus procedimentos de conceção e desenvolvimento.

LICENÇA PARA OS UTILIZADORES

Os utilizadores devem:

–  ter autorização para utilizar um robô sem risco ou medo de danos físicos ou psicológicos.

–  ter o direito de esperar que um robô efetue qualquer tarefa para a qual foi explicitamente concebido.

–  estar conscientes de que qualquer robô pode ter limitações percetivas, cognitivas e de atuação.

–  respeitar a fragilidade humana, tanto física como psicológica, bem como as necessidades emocionais dos humanos.

–  ter em conta os direitos de privacidade das pessoas, incluindo a desativação de controlos de vídeo durante procedimentos íntimos.

–  estar proibidos de recolher, utilizar ou divulgar informações pessoais sem o consentimento expresso dos titulares dos dados.

–  estar proibidos de utilizar um robô de um modo que infrinja princípios e normas éticas ou jurídicas.

–  estar proibidos de modificar um robô para que o mesmo possa funcionar como arma.