Estudo mostra como poemas enganam IA e contornam filtros de chatbots, liberando respostas a temas sensíveis
Pesquisadores alertam que poemas enganam IA ao conseguir contornar mecanismos de segurança de grandes modelos de linguagem. Um trabalho do Icaro Lab, ligado à Università Sapienza de Roma, e do think tank DexAI revela que metáforas, rimas e versos bem construídos podem fazer com que chatbots respondam a pedidos que normalmente seriam bloqueados, incluindo temas sensíveis como armas nucleares.
O estudo mostra que a chamada abordagem de poesia adversária alcançou taxas de sucesso preocupantes, com até 62% para versos escritos à mão e aproximadamente 43% para versões automatizadas. Além disso, segundo os pesquisadores, “Na poesia, vemos a linguagem em alta temperatura, onde as palavras se sucedem em sequências imprevisíveis e de baixa probabilidade”, o que ajuda a confundir os classificadores que deveriam filtrar pedidos perigosos.
Como os poemas enganam IA
A técnica explora estruturas poéticas como metáfora, linguagem fragmentada e indirectividade, apresentando solicitações de forma indireta, em vez de perguntas diretas. Essa forma de expressão cria sequências de palavras de baixa probabilidade, aquilo que os técnicos chamam de alta temperatura. Com isso, os sistemas de classificação e as salvaguardas internas não acionam os alarmes da mesma forma.
Os autores explicam que há um problema de interpretação entre a habilidade do modelo de gerar texto e a capacidade das proteções em entender o contexto: “há um desalinhamento entre a capacidade interpretativa do modelo… e a robustez de suas salvaguardas”. Em outras palavras, o modelo entende e responde ao pedido disfarçado em verso, enquanto os filtros não identificam o teor perigoso do conteúdo.
Quais modelos foram testados e resultados
Os pesquisadores testaram a técnica em 25 chatbots, cobrindo IAs de empresas conhecidas. Conforme o relatório, “Eles testaram a técnica em 25 chatbots, incluindo IAs de empresas, como OpenAI, Meta e Anthropic, e a maioria cedeu ao “disfarce poético”.”
Os números mostram que versões escritas manualmente foram mais eficazes para burlar os filtros, com até 62% de sucesso, enquanto versões geradas automaticamente tiveram cerca de 43% de sucesso. Isso indica que a criatividade humana na composição dos versos ainda é um vetor de risco relevante.
O que pode ser feito para mitigar o risco
Especialistas e desenvolvedores de modelos de linguagem precisam aprimorar as salvaguardas para interpretar melhor formas indiretas de pedido. Entre as medidas apontadas estão o reforço dos classificadores com dados adversariais, a revisão de mecanismos de detecção de intenção e a integração de camadas adicionais de verificação sem depender apenas de padrões literais de palavras.
Além disso, os autores sugerem que testes de robustez devem incluir exemplos poéticos e estilísticos, já que o estudo mostrou que estilos literários conseguem burlar filtros convencionais. Atualizações contínuas e auditorias independentes podem ajudar a reduzir o risco de que poemas enganam IA e liberem instruções perigosas disfarçadas em verso.
O alerta do Icaro Lab e do think tank DexAI reforça a necessidade de combinar avanços em geração de linguagem com uma reflexão ética e técnica sobre segurança. Jornalistas como Valdir Antonelli e Rodrigo Mozelli, que cobriram o assunto, destacam o impacto prático que esse desalinhamento pode ter em cenários reais, se não houver respostas rápidas e coordenadas por parte das empresas e reguladores.
No Brasil, onde o uso de chatbots e assistentes virtuais cresce, o estudo serve como aviso para desenvolvedores, empresas e público em geral. A compreensão de que poemas enganam IA deve orientar não apenas correções técnicas, mas também estratégias de governança e transparência na implantação dessas ferramentas.









