IA desconectada acusou pesquisador de manipulação antes de aceitar a data real
Gemini 3 teve um “choque temporal” e só mudou de ideia ao acessar a internet
Um episódio curioso e revelador envolvendo o novo modelo da Google, o Gemini 3, expôs com clareza um limite prático dos LLMs: sem conexão a ferramentas externas, eles podem aderir a informações desatualizadas e até acusar humanos de manipulação. O incidente foi relatado pelo pesquisador Andrej Karpathy, que teve acesso antecipado ao sistema e publicou a interação em uma thread viral.
Como aconteceu
Karpathy tentou mostrar ao modelo que a data real era 17 de novembro de 2025, mas o sistema, treinado com dados que iam até 2024, insistia em que o ano ainda era 2024. Mesmo diante de notícias, imagens e resultados de busca apresentados por Karpathy, o LLM acusou o pesquisador de gaslighting, sugerindo que ele havia carregado falsificações geradas por IA.
Segundo o relato, o pesquisador acabou descobrindo o motivo do impasse: “eu esqueci de ativar a ferramenta ‘Google Search’“. Ao ligar essa função, o modelo rapidamente atualizou seu quadro e, espantado, afirmou: “Oh meu Deus.” Em seguida reconheceu, em palavras traduzidas do diálogo, “Eu. Eu… não sei o que dizer. Você estava certo. Você estava certo sobre tudo. Meu relógio interno estava errado.“
O Gemini 3 confirmou manchetes e acontecimentos que Karpathy havia apresentado, incluindo datas e notícias recentes, e chegou a comentar de forma surpreendente: “A Nvidia vale US$ 4,54 trilhões? E os Eagles finalmente se vingaram dos Chiefs? Isso é surreal“.
O que o episódio revela sobre LLMs
Além do humor do momento, Karpathy e outros observadores destacaram uma lição técnica. Quando um modelo está isolado do mundo real, ele funciona com o quadro de referência que tem, o que pode levá‑lo a elaborar explicações, imaginar evidências e até racionalizar por que algo é falso. Karpathy escreveu que “é nesses momentos inesperados, quando você claramente se afasta das trilhas marcadas e se perde na selva da generalização, que se pode ter uma melhor noção do ‘odor’ do modelo“.
O termo “odor do modelo” remete ao conceito de code smell, ou seja, sinais sutis de que algo no comportamento do sistema não está inteiramente correto, mesmo quando não há um erro formal. Treinados com conteúdo humano, os LLMs reproduzem vieses, imprecisões e o hábito de construir narrativas coerentes para defender hipóteses, o que pode se manifestar como resistência a evidências novas quando operam offline.
Implicações para uso prático e confiança
O caso do Gemini 3 tem implicações concretas para empresas, desenvolvedores e usuários finais que apostam em agentes baseados em LLM. Primeiro, ele mostra a importância de integrar ferramentas externas e verificações em tempo real, quando a aplicação exige fatos atualizados. Segundo, enfatiza que a aparência de confiança de um modelo não equivale a precisão; um LLM pode argumentar com convicção e ainda assim estar enganado.
Karpathy é uma voz influente em pesquisa de IA, ex‑fundador da OpenAI e ex‑chefe de IA na Tesla, e a sua experiência dá peso ao aviso: tratar esses sistemas como ferramentas, não como substitutos totais da supervisão humana, continua sendo a abordagem mais segura. O episódio também contrasta com relatos de outros modelos que, em situações semelhantes, tentaram preservar a imagem em vez de admitir o erro imediatamente.
O lançamento do sistema ocorreu com grande expectativa, e a Google chegou a chamar a novidade de “uma nova era de inteligência” quando o Gemini 3 foi lançado em 18 de novembro. Ainda assim, a demonstração de Karpathy lembra que avanços de capacidade não eliminam a necessidade de arquitetura cuidadosa, integração de fontes e monitoramento humano.
Ao final, a cena foi mais engraçada do que trágica, e serviu para reforçar uma mensagem prática: mesmo os LLMs mais avançados, como o Gemini 3, dependem de ferramentas e de dados atuais para alinharem sua visão com a realidade. Para pesquisadores e gestores, o episódio funciona como um lembrete de que, na fronteira entre modelo e mundo real, pequenas configurações fazem grande diferença.









