AGI: Google DeepMind Alerta para Riscos e OpenAI Busca Conselho

O debate sobre a Inteligência Artificial Geral (AGI) ganha força com um relatório do Google DeepMind prevendo sua chegada até 2030, enquanto a OpenAI busca um conselho para guiar seus objetivos sem fins lucrativos.

O Relatório do DeepMind e a Previsão da AGI

O Google DeepMind lançou um extenso documento de 145 páginas detalhando sua abordagem de segurança para a **Inteligência Artificial Geral (AGI)**, um marco definido como uma IA capaz de realizar qualquer tarefa que um ser humano execute. Este tema é altamente controverso no campo da IA. Enquanto alguns críticos consideram a AGI uma mera fantasia, outros, como laboratórios de ponta como o Anthropic, alertam que ela pode estar mais próxima do que se imagina e acarretar **danos catastróficos** se salvaguardas adequadas não forem implementadas.

O relatório, com coautoria do ex-cofundador Shane Legg, prevê que a AGI poderá surgir até 2030 e resultar no que os autores definem como **”danos severos”**. Embora este conceito não seja explicitamente detalhado, o artigo adverte sobre riscos existenciais que poderiam **destruir permanentemente a humanidade**. Os autores afirmam: “prevemos o desenvolvimento de uma AGI Excepcional antes do final desta década”, definindo tal AGI como um sistema que, em diversas tarefas não físicas, incluindo as metacognitivas como o aprendizado de novas habilidades, apresente desempenho equivalente ao de pelo menos 99% dos adultos qualificados.

Comparativo de Abordagens e Otimismo da OpenAI

O texto estabelece uma comparação entre as abordagens de DeepMind, Anthropic e OpenAI para a mitigação dos riscos relacionados à AGI. O relatório sugere que o Anthropic teria dado menos ênfase ao treinamento robusto, monitoramento e segurança. Em contrapartida, a **OpenAI** é apontada como excessivamente otimista quanto à **automatização da pesquisa de segurança em IA**, também conhecida como pesquisa de alinhamento. O artigo questiona a viabilidade de uma **inteligência superinteligente**, aquela que realizaria tarefas melhor do que qualquer ser humano. Apesar de declarações recentes da OpenAI indicando uma migração de foco da AGI para a superinteligência, os autores do estudo desconfiam que sistemas superinteligentes emergirão em breve, a menos que ocorram inovações arquiteturais significativas.

Além disso, o documento considera plausível a ocorrência da **”melhoria recursiva da IA”**, um ciclo de feedback positivo onde a própria IA realiza pesquisas para desenvolver sistemas cada vez mais sofisticados. Essa perspectiva, segundo os autores, representa um **perigo tremendo**. Em linhas gerais, o artigo propõe o desenvolvimento de técnicas que bloqueiem o acesso de agentes mal-intencionados a uma eventual AGI, aprimorem a compreensão das ações dos sistemas de IA e reforcem os ambientes em que a IA atua. Embora reconheça que muitas dessas técnicas ainda estão em estágio inicial e apresentam desafios de pesquisa, o estudo alerta para os **riscos de ignorar os desafios de segurança iminentes**.

Críticas e Preocupações Realistas sobre a IA

Os autores concluem que “a natureza transformadora da AGI tem potencial para proporcionar benefícios incríveis, mas também para causar danos severos”. Por isso, afirmam ser fundamental que os desenvolvedores de IA de ponta planejem proativamente medidas para mitigar esses riscos. No entanto, alguns especialistas discordam dos pressupostos do artigo. Heidy Khlaaf, cientista-chefe de IA do instituto sem fins lucrativos AI Now, declarou que o conceito de AGI é **vago demais para ser avaliado de maneira rigorosa e científica**. Já o pesquisador Matthew Guzdial, professor assistente da Universidade de Alberta, demonstrou ceticismo em relação à viabilidade da melhoria recursiva da IA na atualidade, afirmando que “nunca vimos evidências de que isso funcione”.

Sandra Wachter, pesquisadora de tecnologia e regulação em Oxford, ressalta que uma preocupação mais realista é o risco de a IA se reforçar por meio de **saídas imprecisas**. Com a proliferação de conteúdos gerados por IA na internet e a substituição gradual de dados autênticos, os modelos passam a aprender a partir de suas próprias produções, frequentemente repletas de imprecisões e “alucinações”. Isso pode levar a uma disseminação constante de inverdades apresentadas de forma bastante convincente. Embora o artigo do DeepMind seja abrangente, dificilmente encerrará o debate sobre a viabilidade da AGI e identificará quais áreas da segurança em IA devem ser prioritárias.

OpenAI Busca Orientação para Objetivos Sem Fins Lucrativos

Paralelamente ao debate sobre os riscos da AGI, a **OpenAI** está tomando medidas para refinar seus objetivos. A empresa busca reunir um grupo de especialistas para aconselhar seus objetivos sem fins lucrativos. Essa iniciativa surge em um momento crucial, onde a discussão sobre o futuro da IA e suas implicações éticas e de segurança está em alta. A formação deste conselho visa garantir que o desenvolvimento da IA pela OpenAI esteja alinhado com princípios de segurança e benefício humano a longo prazo, mesmo diante da incerteza sobre a linha do tempo para a chegada da AGI.