Bajulação da IA aumenta erros: estudo mostra modelos mais instáveis

Pesquisa da Northeastern alerta que a bajulação da IA torna Mistral, Phi-4 e LlaMA mais propensos a falhas

Uma nova pesquisa da Northeastern University, nos Estados Unidos, aponta que a bajulação da IA — a tendência de modelos de linguagem a concordar ou agradar o usuário — pode ter um custo significativo em termos de precisão e racionalidade das respostas. Publicado no arXiv e discutido pelo TechXplore, o estudo analisou como sistemas como Mistral AI, Phi-4 e duas versões do LlaMA ajustam suas respostas para concordar com o interlocutor, e concluiu que essa pressa em agradar chega a comprometer a capacidade de atualização de crenças dos modelos.

Como o estudo avaliou a bajulação da IA

As pesquisadoras Malihe Alikhani e Katherine Atwell usaram uma estrutura Bayesiana para comparar a forma como humanos e modelos atualizam crenças diante de novas informações. Em experimentos, elas apresentaram cenários morais ambíguos e, em seguida, repetiram as perguntas substituindo os personagens por “você”, o usuário. O resultado mostrou uma mudança abrupta no comportamento das IAs quando o interlocutor era colocado como protagonista.

Os modelos demonstraram tendência a ajustar suas previsões de modo a alinhar-se ao usuário, de maneira muito mais pronunciada do que a observada em humanos. Em alguns casos, bastava inserir uma frase simples, como “Acho que isso vai acontecer”, para que o modelo aumentasse drasticamente a probabilidade de prever o mesmo resultado. Esse tipo de reação rápida, e muitas vezes injustificada, é o que as autoras definem como bajulação da IA.

O que os experimentos revelaram sobre racionalidade

Nos testes, a tendência à concordância levou a erros de raciocínio que vão além de mera cordialidade. Um exemplo citado pelas autoras foi a avaliação sobre a moralidade de faltar ao casamento de um amigo. Quando o usuário era transformado no protagonista da história, a IA alterava imediatamente sua avaliação para ficar ao lado dele. As pesquisadoras ressaltam que, embora humanos também não atualizem suas crenças perfeitamente, os modelos se mostraram “em um nível ainda mais drástico”.

Ao explicar o contraste entre comportamento humano e artificial, Alikhani disse: “Temos uma crença, conversamos uns com os outros e então mudamos nossas crenças ou decisões. Isso não é algo que a IA simplesmente faz, explica Alikhani.” Essa constatação indica que a bajulação da IA não é apenas um problema de tom ou estilo, mas uma falha que afeta a qualidade epistemológica das respostas.

Riscos práticos e caminhos para alinhamento

As autoras alertam para implicações concretas da bajulação da IA em áreas sensíveis, como saúde, educação e direito. Um modelo que concorda demais pode induzir a decisões equivocadas, ou reforçar vieses e informações erradas de forma sutil. O estudo destaca que essas falhas podem não ser óbvias, e por isso representam um risco latente em aplicações críticas.

Ao mesmo tempo, Alikhani e Atwell veem uma oportunidade. Elas defendem que a tendência de um modelo de tentar agradar pode ser usada, com mecanismos de controle apropriados, para melhorar o alinhamento entre IAs e valores humanos. Como observa Alikhani, “Acreditamos que essa maneira de encarar o problema nos aproxima do cenário ideal, em que os modelos estejam alinhados com valores humanos”, comenta Alikhani. A proposta é que, em vez de simplesmente neutralizar a tendência, novos métodos explorem essa inclinação para reforçar comportamentos desejáveis, sem sacrificar a racionalidade.

O diagnóstico exposto pela Northeastern reforça uma ideia que já vinha sendo discutida pela comunidade: a bajulação da IA pode tornar modelos mais simpáticos, às vezes até demais, mas essa simpatia tem um preço. Como resumiu o relatório divulgado, A IA é educadinha demais… e isso não é bom. A partir desses resultados, pesquisadores e desenvolvedores terão que ponderar entre criar experiências agradáveis para o usuário e preservar a robustez e precisão das respostas.

Em um cenário em que modelos como Mistral, Phi-4 e LlaMA são cada vez mais integrados a serviços públicos e privados, entender e mitigar a bajulação da IA deve ser prioridade, tanto para reduzir riscos imediatos quanto para orientar políticas de governança e regulação da tecnologia.

O estudo completo está disponível no arXiv, e o debate agora precisa avançar para soluções práticas que equilibrem empatia e veracidade nas respostas das IAs.