Inteligência Artificial: como resolver os riscos para os consumidores
A Inteligência Artificial e os processos de decisão automatizados podem apresentar ameaças para os consumidores. Descubra como o Parlamento Europeu pretende protegê-los.
O que é a Inteligência Artificial e porque pode tornar-se perigosa?
Uma vez que os algoritmos inteligentes podem processar dados com precisão e velocidade superiores às capacidades humanas, as aplicações da Inteligência Artificial (IA) têm-se tornado comuns nos negócios, na saúde, educação, sistema legal, entre outros campos. Mas a confiança na IA também apresenta riscos, especialmente nas áreas em que as decisões são tomadas sem a supervisão humana. A aprendizagem das máquinas depende de padrões de reconhecimento alocados em arquivos de dados. Os principais problemas surgem quando estes dados refletem preconceitos societais ou são tendenciosos.
A Inteligência Artificial no processo de tomada de decisões
A IA é cada vez mais utilizada nos sistemas de decisão algorítmica Sistemas de Supervisão e Aquisição de Dados (mais conhecidos por ADS). Em várias situações, o impacto da decisão das pessoas pode ser significativo, como o acesso a crédito, emprego, tratamento médico ou a sentenças judiciais. Os processos de tomada de decisão automáticos podem perpetuar as divisões da sociedade. Alguns algoritmos utilizados atualmente mostraram-se tendenciosos no que diz respeito ao sexo feminino, por exemplo.
Como proteger os consumidores na Era da IA
O desenvolvimento da IA e dos processos de decisão automatizados também apresenta desafios para a confiança e o bem-estar dos consumidores. Quando os consumidores estão a interagir com este tipo de sistemas, devem estar convenientemente informados sobre como operam.
A posição do Parlamento Europeu
A resolução adotada no dia 23 de janeiro solicita à Comissão Europeia que examine a necessidade de medidas adicionais para garantir um conjunto forte de direitos que protejam os consumidores no contexto da IA e dos processos de decisão automatizados.
A Comissão Europeia precisa de clarificar como tenciona
- assegurar e proteger as pessoas de práticas comerciais injustas e discriminatórias ou dos riscos que acarretam os serviços profissionais dirigidos através de IA;
- garantir uma maior transparência dos processos;
- assegurar que apenas são usados conjuntos de dados de grande qualidade, que não revelem preconceitos, nos sistemas ADS.
Temos de garantir que a proteção dos consumidores e a confiança são assegurados, que as regras da UE sobre a segurança e a fiabilidade dos produtos e serviços estão ajustadas à Era digital
Uma resolução sobre esta matéria foi adotada no dia 12 de fevereiro. Depois da votação, será transmitido ao Conselho da UE (Estados-membros) e à Comissão. Por sua vez, a Comissão deve apresentar os seus planos sobre a abordagem europeia à IA no dia 19 de fevereiro de 2020.
