IA Raciocina? Estudo da Apple e Críticos Discordam sobre “Ilusão do Pensamento”

Grandes modelos de linguagem são capazes de raciocínio ou apenas imitam padrões? Especialistas debatem.

O Debate Sobre o Raciocínio da IA

A recente publicação da Apple, intitulada “The Illusion of Thinking” (A Ilusão do Pensamento), reacendeu um debate acalorado no campo da inteligência artificial: os grandes modelos de linguagem (LLMs) realmente possuem a capacidade de raciocinar? A pesquisa da gigante da tecnologia submeteu os modelos mais avançados a testes clássicos de lógica, como o complexo quebra-cabeça da Torre de Hanói. Os resultados apontam que, mesmo os sistemas de ponta, ainda enfrentam dificuldades em executar algoritmos simples de forma correta e completa. Com base nesses achados, os autores do estudo da Apple defendem que os LLMs não exibem um raciocínio verdadeiramente generalizável, operando mais como sofisticados identificadores de padrões que falham em capturar estruturas mais profundas.

Essa perspectiva, no entanto, não é unânime. Alguns críticos e céticos dos LLMs, como aqueles que compartilham suas visões em plataformas como o Substack de Gary Marcus, veem esses estudos como uma confirmação de suas dúvidas. Eles se preocupam com as limitações que essa incapacidade de raciocínio genuíno poderia impor ao avanço da inteligência artificial. Contudo, outros especialistas em IA argumentam que a análise apresentada no artigo da Apple pode ser excessivamente simplista, ignorando nuances importantes do funcionamento desses sistemas.

Uma Visão Mais Equilibrada do Raciocínio de Máquinas

Lawrence Chan, um dos especialistas que oferece uma visão mais ponderada, argumenta que reduzir a discussão a uma dicotomia simplista entre “pensar de forma real” e “memorizar mecanicamente” falha em capturar a complexidade do meio-termo onde tanto o raciocínio humano quanto o das máquinas operam. Ele utiliza o exemplo cotidiano de apanhar uma bola lançada. As pessoas, nesse cenário, não realizam cálculos de física em tempo real, mas sim empregam heurísticas aprendidas ao longo da vida. Esses atalhos mentais não indicam ignorância, mas sim estratégias práticas e eficientes para solucionar problemas com recursos cognitivos limitados.

De maneira análoga, Chan explica que os modelos de linguagem dependem intensamente da experiência e da abstração, mesmo quando submetidos a severas restrições computacionais. A generalização, segundo ele, pode ser vista como uma forma avançada de memorização. Esse processo começa com exemplos individuais, evolui para estratégias superficiais e, eventualmente, culmina na formação de regras mais amplas e abrangentes.

Embora os LLMs possam ter dificuldades em listar manualmente todas as mais de 32.000 jogadas necessárias para resolver o quebra-cabeça da Torre de Hanói com 15 discos, eles são capazes de gerar um script em Python que resolve o problema instantaneamente. Ao explicar suas abordagens, sugerir atalhos e oferecer soluções práticas por meio de código, esses modelos demonstram uma compreensão funcional, embora distinta da humana, da tarefa em questão. Descartar essas habilidades como mera falta de entendimento, na visão de Chan, é desviar o foco do verdadeiro desafio.

O Que Significam as Dificuldades dos LLMs?

Chan contesta a interpretação da Apple sobre certos comportamentos dos LLMs. “Os autores chamam de ‘contraditório’ o fato dos modelos de linguagem usarem menos tokens em situações de alta complexidade, sugerindo uma ‘limitação fundamental’. Mas isso simplesmente reflete o reconhecimento das limitações dos modelos e a busca por alternativas para evitar a execução manual de milhares de etapas potencialmente suscetíveis a erros – se algo, é uma evidência de bom julgamento”, afirma Chan.

Ele também alerta para o perigo de usar o desempenho em quebra-cabeças teóricos como o único parâmetro para avaliar as competências gerais dos modelos. A questão crucial, para Chan, reside em determinar se as estratégias adotadas pelas IAs podem ser aplicadas de maneira eficaz a tarefas complexas do mundo real. Enquanto o estudo da Apple destaca fraquezas específicas dos LLMs atuais, o especialista acredita que ele desvia a atenção do problema central: definir quais tipos de “raciocínio” são realmente relevantes para casos práticos e quão bem os LLMs se saem ao lidar com eles.

IA Integrada: Uma Nova Perspectiva

Chan propõe uma reflexão sobre a forma como avaliamos a inteligência artificial. “Certamente, um LLM pode não ser capaz de realizar o ‘raciocínio generalizado’ nos moldes propostos pelos autores, mas um LLM com um simples interpretador de código definitivamente consegue. A questão-chave é por que limitarmos nossa discussão ao LLM de forma isolada, em vez de considerar um agente de IA composto por um LLM aliado a uma estrutura de apoio – afinal, até mesmo aplicativos estilo chatbot, como o ChatGPT, fornecem ao LLM ferramentas adicionais, como interpretador de código e acesso à internet. Por que restringir nossa análise de AGIs apenas ao componente LLM de um sistema de IA, e não ao sistema de maneira integral?”, questiona.

Essa perspectiva sugere que a avaliação da capacidade de raciocínio da IA deve considerar o sistema como um todo, incluindo as ferramentas e suportes que o LLM utiliza. Em vez de focar apenas nas limitações intrínsecas do modelo de linguagem, é mais produtivo analisar como ele interage com outros componentes para resolver problemas complexos.

O Artigo Humorístico que Viralizou

Curiosamente, um artigo intitulado “The Illusion of the Illusion of Thinking”, que foi amplamente divulgado como uma resposta direta à crítica da Apple e contou com a colaboração parcial de Claude 4 Opus, na verdade, nunca teve a intenção de ser uma refutação séria. Segundo seu autor, Alex Lawsen, o texto era, em essência, uma piada repleta de erros. Lawsen expressou surpresa com a rapidez com que seu artigo humorístico se tornou viral e com o número de pessoas que o levaram a sério, descrevendo a experiência como “minha primeira verdadeira sensação de ter algo meu se tornado realmente viral – e, honestamente, foi um tanto assustador.” Essa ocorrência sublinha a intensidade e, por vezes, a confusão que cerca o debate sobre a natureza do raciocínio em inteligência artificial.