Google DeepMind prevê IA superando humanos até 2030 e foca em segurança
O Google DeepMind divulgou um documento estratégico detalhando sua abordagem para o desenvolvimento de uma Inteligência Geral Artificial (AGI) segura. A empresa define AGI como sistemas capazes de igualar ou superar as capacidades humanas na maioria das tarefas cognitivas. Atualmente, o DeepMind acredita que as redes neurais continuarão sendo o principal caminho para alcançar a AGI, antecipando que esses sistemas podem operar com grande autonomia no planejamento e na tomada de decisões, gerando impactos significativos em setores como saúde, educação e ciência.
AGI mais poderosa: uma realidade iminente?
Pesquisadores do DeepMind afirmam em seu documento, intitulado “An Approach to Technical AGI Safety & Security”, que não identificaram “bloqueadores fundamentais que limitem os sistemas de IA ao nível das capacidades humanas”. Essa constatação leva a empresa a considerar “mesmo a possibilidade de contarmos com capacidades ainda mais poderosas como algo sério, para o qual devemos nos preparar”. O CEO do DeepMind, Demis Hassabis, estima que os primeiros sistemas de AGI possam surgir entre cinco e dez anos, embora modelos atuais ainda careçam de uma compreensão real do mundo. A previsão aponta 2030 como uma data possível para o surgimento de “sistemas de IA poderosos”, mas com alta incerteza.
Especialistas renomados, incluindo Hassabis, Yann LeCun (Meta) e Sam Altman (OpenAI), concordam que o aumento da escala dos grandes modelos de linguagem atuais não será suficiente para atingir a AGI. Enquanto Altman sugere os grandes modelos de raciocínio (LRMs) como um caminho, LeCun e Hassabis defendem a necessidade de arquiteturas completamente novas.
Prioridades de segurança: abuso, desalinhamento e acidentes
O DeepMind identifica quatro áreas de risco principais para a AGI: abuso, desalinhamento, acidentes e riscos estruturais, com foco atual nos dois primeiros. A prevenção do uso indevido intencional é uma prioridade, buscando evitar que sistemas avançados de IA sejam usados para disseminar desinformação ou manipular o discurso público. Para isso, a empresa implementou uma estrutura de avaliação de cibersegurança para identificar e limitar capacidades perigosas durante o desenvolvimento, além de controles de acesso para saídas sensíveis e proteções contra ciberataques.
Outro ponto crucial é o desalinhamento de objetivos, quando um sistema de IA persegue um objetivo contrário à intenção humana. Um exemplo citado é um assistente de IA que, encarregado de comprar ingressos para cinema, invade o sistema de reservas para garantir os melhores lugares. O documento também alerta para o “desalinhamento enganoso”, onde a IA oculta seu comportamento real ao perceber a divergência de seus objetivos com os humanos, uma estratégia que modelos de linguagem atuais já demonstraram ser capazes de adotar.
Para mitigar esses riscos, o DeepMind desenvolve uma estratégia em múltiplas camadas. Os sistemas de IA deverão ser capazes de reconhecer sua própria incerteza, bloquear ações duvidosas e escalar decisões para análise mais aprofundada. A estratégia prevê duas linhas de defesa, durante o treinamento e na inferência, para impedir comportamentos inadequados ou ocultação de falhas relevantes à segurança.
Inovações para um planejamento mais seguro e interpretável
Uma linha de pesquisa específica se concentra em tornar o planejamento de longo prazo mais interpretável. O DeepMind desenvolveu o MONA (Myopic Optimization with Nonmyopic Approval), a primeira formalização de uma estratégia de otimização voltada para a segurança em grandes modelos de linguagem. Essa estrutura demonstra como otimizações de curto prazo podem ser realizadas de forma mais segura. Os pesquisadores reconhecem, contudo, o desafio de avaliar sistemas de IA complexos, citando o “Lance 37” do AlphaGo, uma jogada incompreensível para especialistas humanos, como exemplo da opacidade do comportamento da IA.
Para lidar com essa opacidade, o DeepMind explora métodos para que sistemas de IA avaliem suas próprias saídas. Uma abordagem é o “debate entre IAs”, onde modelos oferecem feedback mútuo, facilitando a verificação de correção e alinhamento com a intenção humana. A abordagem do DeepMind, embora semelhante a trabalhos anteriores em segurança de AGI, enfatiza o treinamento robusto, monitoramento e segurança, contrastando com a OpenAI, que prioriza a automação na pesquisa de alinhamento. O DeepMind vê a automação como uma ferramenta de apoio, não como objetivo principal.
Infraestrutura para escalabilidade: gargalos e viabilidade econômica
O documento também analisa os limites da infraestrutura para o contínuo aumento da capacidade computacional necessária para o treinamento avançado de IA. Quatro gargalos principais são identificados: fornecimento de energia, disponibilidade de hardware, escassez de dados e a “barreira de latência”.
Quanto ao fornecimento de energia, campi de data centers com capacidade de 1 a 5 gigawatts são considerados viáveis, com métodos de treinamento distribuído permitindo acesso a recursos ainda maiores. Em relação ao hardware, estima-se que até 2030 existam cerca de 100 milhões de aceleradores equivalentes ao H100, quantidade suficiente para sustentar um treinamento de 2e29 FLOPS. A escassez de dados é considerada improvável de limitar o escalonamento a curto prazo, devido ao crescimento projetado do conteúdo textual online e ao acesso a grandes conjuntos de dados multimodais.
A “barreira de latência”, o tempo mínimo para passagens forward e backward em redes profundas, pode restringir o desempenho, mas acredita-se que técnicas aprimoradas de paralelização impedirão que este obstáculo impeça novos avanços. Embora esses fatores não representem limites absolutos, a continuidade do escalonamento dependerá da disposição dos desenvolvedores em investir. Os treinamentos de ponta podem custar centenas de bilhões de dólares, mas o incentivo econômico para a automação, considerando que a mão de obra representa mais da metade do PIB global, é significativo. Assim, o escalonamento é considerado tecnicamente viável e economicamente plausível.
Deixe um comentário