O artigo de 145 páginas da DeepMind sobre a segurança da AGI pode não convencer os céticos | TechCrunch

“`json
{
"title": "DeepMind Alerta: AGI em 2030 pode trazer danos severos à humanidade",
"subtitle": "Estudo de 145 páginas da DeepMind levanta debates sobre a segurança da Inteligência Artificial Geral (AGI) e suas implicações futuras.",
"content_html": "<h2>DeepMind Alerta: AGI em 2030 pode trazer danos severos à humanidade</h2>nn<p>O Google DeepMind publicou um documento de <b>145 páginas</b> que detalha sua abordagem de segurança em relação à Inteligência Artificial Geral (AGI), um marco que promete revolucionar o mundo ao realizar qualquer tarefa humana. A previsão é de que a AGI possa se tornar realidade até <b>2030</b>, mas o estudo não hesita em alertar para os **riscos existenciais** que essa tecnologia pode acarretar, incluindo a possibilidade de **danos severos** e a destruição permanente da humanidade.</p>nn<h3>A Abordagem da DeepMind e as Críticas de Especialistas</h3>nn<p>O extenso estudo contrasta a metodologia de mitigação de riscos da DeepMind com a de outras gigantes da IA. Enquanto empresas como a Anthropic parecem dar menos importância a práticas como treinamento robusto e monitoramento, e a OpenAI foca excessivamente na automação de pesquisas de segurança (o chamado **alinhamento de IA**), a DeepMind propõe um caminho mais cauteloso. O documento também questiona a viabilidade da **superinteligência** – uma IA que superaria o ser humano em todas as tarefas –, sugerindo que sem inovações arquiteturais significativas, tal cenário pode nunca se concretizar.</p>nn<p>Ainda assim, os autores do estudo reconhecem a plausibilidade da **melhoria recursiva da IA**. Este é um conceito onde a própria inteligência artificial impulsiona sua evolução, criando sistemas cada vez mais sofisticados em um ciclo de feedback positivo. Essa perspectiva, embora promissora em termos de avanço tecnológico, é vista como um fator de **risco extremamente elevado**.</p>nn<h3>Riscos Reais e a Definição Controvertida da AGI</h3>nn<p>Em termos gerais, o estudo da DeepMind propõe o desenvolvimento de técnicas cruciais para **impedir o acesso mal-intencionado** a uma hipotética AGI, além de aprimorar a **compreensão das ações** dos sistemas de IA e **reforçar os ambientes operacionais** dessas inteligências. Os autores admitem que muitas dessas técnicas ainda estão em estágio inicial e enfrentam desafios de pesquisa em aberto. No entanto, a advertência é clara: os problemas de segurança iminentes **não devem ser ignorados**.</p>nn<p>O potencial transformador da AGI é inegável, com a promessa de benefícios incríveis. Contudo, os riscos associados são igualmente significativos. Por isso, é fundamental que os desenvolvedores mais avançados de IA planejem **proativamente estratégias para mitigar esses riscos**. Apesar da robustez do documento, alguns especialistas divergem dos pressupostos apresentados, levantando novas questões sobre a viabilidade e os perigos da AGI.</p>nn<p>Heidy Khlaaf, cientista-chefe de IA em uma organização sem fins lucrativos, expressou ceticismo, afirmando que o próprio conceito de AGI é **"demasiado indefinido para ser avaliado de forma científica"**. Essa indefinição representa um obstáculo para a análise e o desenvolvimento de medidas de segurança eficazes.</p>nn<h3>A Preocupação com a "Alucinação" da IA e o Futuro Incerto</h3>nn<p>Matthew Guzdial, outro pesquisador, questiona a viabilidade da **melhoria recursiva da IA**, ressaltando a ausência de evidências concretas de que esse processo realmente funcione na prática. A falta de comprovação empírica levanta dúvidas sobre a base teórica para as projeções mais alarmantes.</p>nn<p>Sandra Wachter, especialista em tecnologia e regulação, aponta uma preocupação ainda mais imediata e tangível: o risco de que a IA se **alimente de saídas imprecisas**, um fenômeno conhecido como "alucinação" da IA. Segundo ela, com a proliferação de conteúdos gerados por IA e a substituição gradual de dados autênticos, os modelos acabam aprendendo com suas próprias saídas, que frequentemente contêm inverdades. Isso compromete a confiabilidade dos resultados, especialmente quando chatbots são utilizados para buscas e verificação de fatos, criando um ciclo vicioso de desinformação.</p>nn<p>Apesar da profundidade e abrangência do estudo, é improvável que o documento da DeepMind encerre o debate sobre a **real viabilidade da AGI**. As discussões sobre quais aspectos da segurança em IA devem receber atenção imediata certamente continuarão, impulsionadas por diferentes perspectivas e preocupações sobre o futuro dessa tecnologia transformadora.</p>"
}
“`