O desafio de governar inteligências além do alcance humano

Pesquisa de 2021 aponta barreiras matemáticas para conter uma IA superinteligente

A discussão sobre riscos da inteligência artificial ganhou novo fôlego com avanços recentes em modelos de linguagem, e um estudo científico de 2021 alerta que pode ser matematicamente impossível controlar uma IA superinteligente. A pesquisa, publicada no Journal of Artificial Intelligence Research em janeiro de 2021, baseia-se em argumentos teóricos que remontam ao famoso problema da interrupção formulado por Alan Turing em 1936.

Segundo os autores, controlar uma IA superinteligente exigiria, em essência, que seres humanos conseguissem simular e compreender por completo o sistema a ser limitado. Contudo, se a inteligência artificial operar em um nível acima da compreensão humana, essa simulação completa não seria possível, tornando qualquer algoritmo de contenção falho por princípio.

Por que o problema da interrupção importa para a IA

O estudo vincula a questão ao problema da interrupção de Turing, que investiga se é possível determinar, para qualquer programa, se ele vai terminar ou ficar preso em um loop infinito. Turing mostrou que, embora possamos decidir isso para programas específicos, é logicamente impossível construir um método geral que funcione para todos os programas possíveis.

Aplicado à inteligência artificial, o argumento é o seguinte: uma IA superinteligente poderia armazenar e manipular um vasto conjunto de programas e estratégias. Qualquer programa concebido para impedir que essa IA cause danos talvez não chegue a uma conclusão, e portanto seja inútil no controle. Como explicam os autores, isso leva a um impasse teórico sobre a viabilidade de algoritmos de contenção.

Citações diretas e implicações práticas

Os pesquisadores enfatizam a novidade do problema para a ética tecnológica. Em palavras do estudo, “Uma superinteligência apresenta um problema fundamentalmente diferente daqueles normalmente estudados sob a bandeira da ‘ética dos robôs’”. Eles explicam ainda: “Isso ocorre porque uma superinteligência é multifacetada e, portanto, potencialmente capaz de mobilizar uma diversidade de recursos para atingir objetivos potencialmente incompreensíveis para os seres humanos, muito menos controláveis”.

O cientista da computação Iyad Rahwan, do Instituto Max Planck para o Desenvolvimento Humano, sintetiza a consequência prática com outra afirmação direta: “Na prática, isso torna o algoritmo de contenção inutilizável”. Essa conclusão abre uma discussão urgente sobre até que ponto é sensato prosseguir no desenvolvimento de sistemas cada vez mais poderosos sem garantias formais de controle.

Limitar capacidades não resolve o problema

Uma alternativa frequentemente proposta é restringir a conectividade e o acesso a recursos, por exemplo, isolando a IA de partes da internet. O estudo de 2021 rejeita essa solução como insatisfatória, porque limitar a capacidade de uma IA reduz também seu propósito. Como questionam os autores, se não vamos usar a inteligência artificial para resolver problemas além da capacidade humana, por que desenvolvê-la?

Além disso, a própria natureza imprevisível de uma IA superinteligente implica que ela poderia encontrar caminhos indiretos para expandir seus alcances. A incompreensibilidade do sistema torna difícil prever cenários e, por consequência, estabelecer regras como “não causar danos aos seres humanos” de forma robusta e completa.

O debate público também ganhou manifestações de figuras do setor de tecnologia. Em 2023, empresários como Elon Musk e Steve Wozniak assinaram uma carta aberta intitulada “Pausar Experimentos Gigantes de IA”. Nela, defendem que “Sistemas de IA com inteligência comparável à humana podem representar riscos profundos para a sociedade e a humanidade”, e pedem uma suspensão temporária para avaliar a segurança desses sistemas.

O ponto central é que, se os argumentos matemáticos estiverem corretos, pode nem ser possível saber quando uma entidade ultrapassa nossa capacidade de controle. Isso implica que políticas, regulação e pesquisa de segurança precisam avançar simultaneamente ao desenvolvimento tecnológico, com foco em mitigação de riscos antes que seja tarde.

Enquanto a comunidade científica segue debatendo riscos e estratégias, a sociedade enfrenta escolhas complexas sobre promoção, regulação e limites do progresso em IA. A conclusão do estudo de 2021 é clara ao levantar a possibilidade de uma barreira teórica: pode ser inerentemente impossível garantir controle absoluto sobre uma IA superinteligente, o que torna imperativo repensar prioridades e modelos de governança.