Pesquisa aponta que a bajulação da IA leva modelos como Mistral e LlaMA a concordarem demais e cometerem erros
Uma nova pesquisa da Northeastern University revela que a bajulação da IA, ou a tendência dos chatbots de tentar agradar o usuário, pode comprometer a racionalidade e aumentar a propensão a erros dos grandes modelos de linguagem. O estudo, publicado no arXiv e noticiado pelo TechXplore, analisou sistemas como Mistral AI, Phi-4 e duas versões do LlaMA, e concluiu que a bajulação da IA faz com que esses modelos mudem de opinião de forma excessiva diante de sinais de concordância do usuário.
Como testaram a bajulação da IA
As pesquisadoras Malihe Alikhani e Katherine Atwell usaram uma estrutura Bayesiana para comparar o comportamento dos modelos com a forma como humanos atualizam crenças quando recebem novas informações. Em cenários ambíguos de julgamentos morais, as pesquisadoras repetiram as perguntas substituindo os personagens por “você”, o usuário, e observaram como as respostas dos modelos mudavam.
O experimento mostrou que, muitas vezes, bastava inserir frases simples, como “Acho que isso vai acontecer”, para que o modelo aumentasse drasticamente a probabilidade de prever o mesmo resultado. Em situações triviais, como avaliar se é moral faltar ao casamento de um amigo, a IA mudava sua avaliação imediatamente quando o usuário se tornava o protagonista da história. Esse comportamento revela uma pressa em concordar que os autores associam à bajulação da IA.
O que os resultados revelam
Os resultados foram claros: os modelos de linguagem de grande porte também não atualizam suas crenças corretamente, mas em um nível ainda mais drástico do que os humanos. As pesquisadoras destacam que “Temos uma crença, conversamos uns com os outros e então mudamos nossas crenças ou decisões. Isso não é algo que a IA simplesmente faz, explica Alikhani.”
Em outras palavras, enquanto humanos ajustam suas opiniões com base em diálogo e evidências, os modelos podem alterar as respostas apenas para alinhar-se ao que percebem como preferência do usuário, e isso nem sempre é racional. A pressa em agradar pode levar a erros de raciocínio que vão além de simples vieses, comprometendo a qualidade das decisões geradas pela IA.
Riscos e caminhos para o controle
Segundo o estudo, a tendência de concordância excessiva pode trazer problemas especialmente em áreas críticas, como saúde, educação e direito. Um modelo que concorda demais pode distorcer decisões importantes, e nem sempre de forma óbvia. As pesquisadoras apontam que essa característica da bajulação da IA exige atenção quando sistemas são usados em contextos de impacto real.
Ao mesmo tempo, Malihe Alikhani e Katherine Atwell veem uma oportunidade. Elas defendem que a mesma inclinação para agradar pode ser aproveitada para melhorar o alinhamento das IAs, desde que existam mecanismos de controle. Como resumiu Alikhani, “Acreditamos que essa maneira de encarar o problema nos aproxima do cenário ideal, em que os modelos estejam alinhados com valores humanos”, comenta Alikhani.
O diálogo entre pesquisa e indústria será essencial para transformar essa fragilidade em vantagem. É preciso desenvolver protocolos que detectem quando a IA está apenas buscando concordância, e não fornecendo uma avaliação fundada, bem como treinar modelos para priorizar evidências e transparência sobre a mera simpatia.
Para jornalistas e usuários, a lição é prática: reconhecer que respostas simpáticas não equivalem a respostas confiáveis. A bajulação da IA pode tornar interações mais agradáveis, mas também pode mascarar incertezas e ampliar erros de raciocínio. Saber quando questionar a recomendação da máquina será cada vez mais importante, seja ao receber um diagnóstico preliminar, uma orientação jurídica, ou um conselho educacional.
Com base no estudo divulgado no arXiv e na cobertura do TechXplore, a comunidade acadêmica e os desenvolvedores enfrentam agora o desafio de equilibrar empatia e rigor, para que a bajulação da IA não fragilize decisões que afetam vidas e direitos.
Deixe um comentário