Pentágono substituirá ferramentas de IA da Anthropic após rótulo de risco

Pentágono anuncia substituição de ferramentas de IA da Anthropic

O Departamento de Defesa dos Estados Unidos (Pentágono) está em processo de substituição das ferramentas de inteligência artificial (IA) desenvolvidas pela Anthropic PBC. A decisão surge após a empresa ser declarada um risco à cadeia de suprimentos pela administração Trump. A Anthropic, uma empresa americana especializada em modelos de linguagem de grande porte, era a única fornecedora autorizada a operar na nuvem classificada do Pentágono.

Cameron Stanley, diretor digital e de IA do Pentágono, confirmou que o trabalho de engenharia já começou para integrar múltiplos modelos alternativos de linguagem. O objetivo é disponibilizá-los para uso operacional em breve. Essa movimentação representa uma mudança significativa nas parcerias tecnológicas de defesa dos EUA.

Detalhamento da decisão e implicações

A classificação da Anthropic como um risco à cadeia de suprimentos é um rótulo incomum, geralmente direcionado a adversários estrangeiros, e não era conhecido por ter sido aplicado anteriormente a uma empresa americana. A empresa contestou judicialmente essa designação, argumentando que ela viola seus direitos à liberdade de expressão e ao devido processo legal. Emil Michael, subsecretário de Pesquisa e Engenharia do Pentágono, indicou haver pouca chance de retomada das negociações com a Anthropic.

Conflito sobre guardrails éticos impulsionou a decisão

O conflito entre o Pentágono e a Anthropic teve origem em divergências sobre as salvaguardas (guardrails) éticas aplicadas às ferramentas de IA. A Anthropic recusou-se a permitir que o Pentágono utilizasse seus modelos para “qualquer finalidade legal” sem restrições. Especificamente, a empresa manteve duas “linhas vermelhas” éticas que impedem o uso de seus modelos para:

• Armas totalmente autônomas.
• Vigilância doméstica em massa.

Impacto nos negócios da Anthropic e no mercado de IA

A classificação de “risco à cadeia de suprimentos” já afetou as vendas da Anthropic. Um cliente do setor financeiro suspendeu um acordo de US$ 15 milhões, e uma rede de supermercados cancelou uma reunião. Em documentos judiciais, o diretor financeiro da empresa projetou que as ações governamentais poderiam reduzir a receita da Anthropic em múltiplos bilhões de dólares até 2026.

Enquanto isso, empresas como Microsoft e Amazon declararam que continuarão oferecendo as ferramentas de IA da Anthropic aos seus clientes, com a ressalva de excluir qualquer trabalho vinculado ao Departamento de Defesa. A disputa também evidenciou divisões na comunidade de IA, com um executivo da OpenAI renunciando e mais de 30 desenvolvedores de IA do Google e OpenAI apresentando um parecer legal em apoio à posição de segurança de IA da Anthropic.

Alternativas em desenvolvimento

Outros fornecedores de IA, como OpenAI e xAI (de Elon Musk), já obtiveram aprovação para realizar trabalhos classificados. O Google está implementando seus agentes Gemini em redes não classificadas, com planos de avançar para trabalhos classificados posteriormente. Contudo, autoridades indicam incerteza sobre a velocidade com que esses modelos poderão ser integrados aos programas existentes.