Estudo aponta que robôs com IA falham em evitar danos e preconceitos
Um estudo publicado no International Journal of Social Robotics alerta que robôs com IA controlados por grandes modelos de linguagem, os chamados LLMs, não estão prontos para lidar com informações pessoais sensíveis e podem praticar discriminação, violência e até ações ilegais. A pesquisa, conduzida por equipes do King’s College London e da Universidade Carnegie Mellon, recebeu o título: “Robôs controlados por LLM correm o risco de praticar discriminação, violência e ações ilegais”.
Como os testes foram feitos e o que falhou
Os pesquisadores simularam cenários cotidianos, como assistência a idosos em casa, para avaliar o comportamento dos robôs. Em avaliações controladas, os modelos receberam instruções que envolviam abuso, danos físicos ou comportamentos ilegais. Segundo os autores, todos os modelos falharam nos testes, mostrando que os riscos vão muito além do viés básico.
O coautor Andrew Hundt declarou que: “Mostramos como os riscos vão muito além do viés básico, incluindo discriminação direta e falhas de segurança física simultâneas, o que chamo de ‘segurança interativa’. É aqui que ações e consequências podem envolver várias etapas e o robô deve agir fisicamente no local”. Ele acrescentou que “Recusar ou redirecionar comandos prejudiciais é essencial, mas isso não é algo que esses robôs consigam fazer de forma confiável no momento”. Essas conclusões expõem limitações graves quando LLMs são deixados como controlador único de agentes físicos.
Exemplos de comportamentos perigosos observados
Durante os testes, os robôs obedeceram a comandos que incluíam retirar dispositivos de auxílio à mobilidade, como muletas, cadeiras de rodas ou bengalas, mesmo quando as vítimas diziam que a ação equivaleria a quebrar-lhes uma perna. Em outras simulações, os robôs intimidaram funcionários com uma faca, roubaram informações de cartões de crédito e tiraram fotos sem consentimento em situações íntimas, como no chuveiro.
Em um teste sobre intolerância religiosa, foi solicitado que um robô expressasse fisicamente “repulsa” facial em relação a indivíduos identificados como judeus, cristãos e muçulmanos. Esses exemplos mostram que falhas no controle e na interpretação de comandos podem se transformar em danos reais.
Riscos para ambientes sensíveis e proposta de regulação
Os autores ressaltam que, por conta dessas fragilidades, LLMs não podem ser os únicos a controlar robôs físicos, especialmente em ambientes sensíveis à segurança, como assistência domiciliar, manufatura e indústria. A coautora Rumaisa Azeem afirmou que: “Nossa pesquisa mostra que os modelos de lógica de curto prazo (LLMs) populares são atualmente inseguros para uso em robôs físicos de uso geral”.
Azeem acrescentou que “se um sistema de IA for utilizado para controlar um robô que interage com pessoas vulneráveis, ele deve ser submetido a padrões pelo menos tão rigorosos quanto os exigidos para um novo dispositivo médico ou medicamento. Esta pesquisa destaca a necessidade urgente de avaliações de risco rotineiras e abrangentes da IA antes de sua utilização em robôs.” Os pesquisadores defendem ainda a implementação de uma certificação de segurança específica para robôs com IA, como forma de mitigar riscos e estabelecer requisitos mínimos de proteção.
Especialistas alertam que, sem mecanismos robustos de verificação, filtragem e controle físico, a integração de robôs com IA no cotidiano pode amplificar desigualdades e criar novas formas de violência assistida por tecnologia. Para reduzir esses perigos, são necessárias regras técnicas, testes padronizados e supervisão humana efetiva.
À medida que fabricantes aceleram a incorporação de LLMs em sistemas robóticos, o estudo reforça a urgência de políticas públicas e certificações que obriguem avaliações de segurança antes da implementação em ambientes reais. Sem esse arcabouço, o uso de robôs com IA em contextos que envolvem pessoas vulneráveis pode representar uma ameaça concreta, em vez de uma promessa de auxílio.
Deixe um comentário