Blog de IA

Tag: Pentágono

  • Anthropic refuta alegações de sabotagem em ferramentas de IA durante conflitos

    Anthropic refuta alegações de sabotagem em ferramentas de IA durante conflitos

    A empresa de inteligência artificial Anthropic veio a público, através de um documento judicial, refutar veementemente a possibilidade de manipular seu modelo de linguagem avançado, Claude, caso este seja operado pelas forças armadas dos Estados Unidos.

    A declaração surge em resposta às alegações levantadas pela administração Trump, que suspeitava que a empresa pudesse interferir em suas ferramentas de IA durante cenários de guerra. Um executivo da Anthropic assegurou que a empresa jamais teve a capacidade de interromper o funcionamento do Claude, alterar sua funcionalidade ou influenciar operações militares.

    Entenda o conflito entre Anthropic e o Pentágono

    O Departamento de Defesa dos EUA tem mantido um embate com a Anthropic há meses, debatendo os limites de uso de sua tecnologia para a segurança nacional. Recentemente, o Secretário de Defesa, Pete Hegseth, classificou a Anthropic como um risco na cadeia de suprimentos. Essa designação impede o Departamento de Defesa de utilizar softwares da empresa, mesmo através de contratados, nos próximos meses.

    Diante dessa situação, a Anthropic protocolou duas ações judiciais contestando a constitucionalidade da proibição, buscando uma ordem de emergência para reverter a decisão. A controvérsia também já gerou cancelamentos de negócios por parte de clientes.

    Alegações e refutação da Anthropic

    O cerne da argumentação governamental reside no temor de que a Anthropic possa desestabilizar operações militares ativas, seja desativando o acesso ao Claude ou implementando atualizações prejudiciais. No entanto, Thiyagu Ramasamy, chefe de setor público da Anthropic, declarou em um documento judicial que a empresa não possui controle sobre o Claude após sua implementação.

    Ramasamy detalhou que a Anthropic não dispõe de acesso para desativar a tecnologia ou modificar o comportamento do modelo durante operações em andamento. Ele afirmou categoricamente que a empresa não mantém nenhuma porta dos fundos ou um “kill switch” remoto. “O pessoal da Anthropic não pode, por exemplo, fazer login em um sistema do DoW para modificar ou desativar os modelos durante uma operação; a tecnologia simplesmente não funciona dessa maneira”, explicou.

    Atualizações e acesso a dados sob escrutínio

    A empresa também ressaltou que quaisquer atualizações futuras ao modelo Claude só seriam realizadas com a aprovação do governo e de seu provedor de nuvem. Adicionalmente, Ramasamy garantiu que a Anthropic não tem acesso aos prompts ou a quaisquer outros dados que os militares insiram no Claude, protegendo a confidencialidade das informações sensíveis.

    Sarah Heck, chefe de política da Anthropic, reiterou em outro documento judicial que a empresa não tem interesse em exercer poder de veto sobre decisões táticas militares. A Anthropic chegou a propor um contrato garantindo essa posição, mas as negociações acabaram por não avançar.

    Para evitar dúvidas, a licença [da Anthropic] não concede ou confere qualquer direito de controlar ou vetar a tomada de decisões operacionais legais do Departamento de Guerra.

    Apesar dos impasses, o Departamento de Defesa informou, em documentos judiciais, que está adotando medidas adicionais para mitigar os riscos da cadeia de suprimentos, trabalhando com provedores de nuvem terceirizados para assegurar que a liderança da Anthropic não possa efetuar alterações unilaterais nos sistemas Claude existentes.

  • The pentagon’s AI-first doctrine and its implications for modern warfare: lessons from the conflict with Iran

    The pentagon’s AI-first doctrine and its implications for modern warfare: lessons from the conflict with Iran

    A adoção da doutrina AI-First pelo Pentágono marca uma transformação profunda na maneira como as guerras são concebidas e travadas. Longe de ser apenas uma ferramenta de apoio, a inteligência artificial (IA) está se tornando uma infraestrutura estratégica fundamental, permeando a cadeia de comando, a coleta de inteligência e o planejamento de operações em múltiplos teatros.

    Esta mudança conceitual redefine a vantagem estratégica na era algorítmica. Um exemplo prático e contundente dessa implementação pode ser observado na recente confrontação entre os Estados Unidos e o Irã, onde sistemas de IA foram empregados para acelerar análises e decisões cruciais no campo de batalha.

    A doutrina AI-first: uma mudança estratégica

    A doutrina AI-First do Pentágono baseia-se na premissa de que a vantagem estratégica em futuras guerras dependerá, em grande parte, da capacidade dos estados de integrar algoritmos avançados ao cerne dos sistemas de tomada de decisões militares. Dentro dessa estrutura, os Estados Unidos buscam preservar e expandir o que o documento define como Dominância Militar de IA – uma superioridade ancorada na inovação tecnológica, dados operacionais e uma indústria civil de IA avançada.

    A estratégia instrui os ramos de defesa dos EUA a se tornarem uma “força de combate baseada em IA”, acelerando a experimentação com modelos avançados, removendo barreiras burocráticas e priorizando a vantagem assimétrica em dados e poder computacional. Os EUA possuem vantagens estruturais únicas, incluindo um ecossistema de inovação líder e repositórios de dados operacionais acumulados ao longo de décadas de atividade militar e de inteligência. A integração dessas vantagens visa superar os rivais na corrida armamentista algorítmica.

    Um componente central desse conceito é a integração da IA ao processo de decisão operacional, desde o processamento de inteligência até o planejamento de sistemas de combate complexos. Projetos como sistemas de gerenciamento de batalha baseados em IA, desenvolvimento de capacidades para coordenar enxames de sistemas não tripulados e o uso extensivo de simulações operacionais com IA foram definidos para demonstrar o novo ritmo de implementação tecnológica.

    A implementação não se limita a declarações estratégicas. O Pentágono começou a implantar plataformas dedicadas, como o GenAI.mil, que permite a integração de modelos generativos e ferramentas analíticas em redes classificadas e não classificadas. Essa iniciativa visa expandir o acesso a ferramentas de IA para milhões de militares e funcionários governamentais, incorporando as capacidades de IA nos processos de trabalho diários do sistema de defesa. A doutrina reflete o entendimento de que a velocidade de processamento de informações e o encurtamento dos ciclos de decisão se tornarão fatores decisivos em futuros conflitos.

    Da análise de suporte à aceleração operacional

    A integração da IA em sistemas de defesa, que inicialmente se enraizou em campos como manutenção preditiva, análise de inteligência e suporte administrativo, está agora expandindo seu papel sob o conceito AI-First. Esses sistemas se tornam ferramentas que permitem a aceleração de processos operacionais.

    Modelos avançados são capazes de sintetizar vastas quantidades de dados de uma variedade de sensores, sistemas de inteligência e informações de código aberto, produzindo insights em tempo real. Essas capacidades permitem que comandantes priorizem alvos, examinem diferentes cenários operacionais e conduzam avaliações de situação com uma velocidade significativamente maior do que os processos analíticos humanos tradicionais. Esse desenvolvimento muda a natureza da tomada de decisões militares, transformando a IA de mero suporte analítico em um componente ativo que aprimora o planejamento e o gerenciamento de complexos sistemas de combate.

    Estudo de caso: o uso da IA no conflito com o Irã

    A confrontação entre os Estados Unidos e o Irã oferece um exemplo tangível da translação do conceito AI-First para a atividade operacional. Durante ataques a alvos iranianos, foi reportado que as forças armadas dos EUA utilizaram sistemas de IA para análise de inteligência, identificação de alvos e execução de simulações operacionais, incluindo o modelo de linguagem grande Claude da Anthropic.

    Segundo o Instituto Nacional de Estudos de Segurança Nacional (INSS), o Comando Central dos EUA (CENTCOM) integrou o modelo ao lado de sistemas de armas convencionais, como mísseis Tomahawk, aeronaves stealth e drones baseados em IA. O sistema auxiliou no processamento em tempo real de dados recebidos de diversos sistemas de sensores, encurtando o tempo necessário para a análise de inteligência e a geração de insights operacionais. A IA também foi utilizada para executar cenários “e se”, permitindo aos planejadores de operações examinar diferentes cursos de ação em um tempo relativamente curto. Essas capacidades demonstram o potencial da IA para acelerar os processos de tomada de decisão em situações de combate complexas.

    Entre o campo de batalha e o Silicon Valley: a disputa ético-legal

    A adoção acelerada de sistemas de IA no sistema de defesa dos EUA tem sido acompanhada por disputas significativas entre o governo e as empresas de tecnologia. A Anthropic, que forneceu o modelo usado em operações de combate, opôs-se a algumas das exigências do Pentágono para remover mecanismos de segurança relacionados a usos como armas autônomas e sistemas de vigilância em larga escala.

    A empresa argumentou que os sistemas de IA não são suficientemente confiáveis para a operação de armas totalmente autônomas e que o uso de IA para vigilância em massa de civis não é moral ou regulatoriamente legítimo, traçando uma “linha vermelha” nessas exigências. Em contraste, o Pentágono emitiu um ultimato para remover essas restrições e chegou a ameaçar designar a Anthropic como um “risco na cadeia de suprimentos”, um passo incomum. Essas disputas refletem tensões mais amplas entre considerações de segurança nacional e questões éticas, legais e de governança no campo da IA, com discussões internas na indústria e oposição de funcionários a certos usos militares.

    Implicações estratégicas: rumo à guerra algorítmica

    O uso de sistemas de IA em conflitos militares marca uma nova etapa no desenvolvimento da guerra moderna. Enquanto os sistemas de IA antes serviam principalmente como ferramentas de apoio, agora eles se tornam multiplicadores de força que permitem o processamento de informações em uma escala e velocidade impossíveis para sistemas humanos sozinhos. Ao mesmo tempo, essa integração também levanta questões complexas relacionadas à responsabilidade, supervisão e arcabouços legais.

    À medida que os sistemas de IA influenciam cada vez mais as decisões operacionais, incluindo aquelas relativas ao uso da força, ajustes serão necessários no direito internacional, nas regras de engajamento e nos mecanismos de prestação de contas. A evolução da relação entre instituições de defesa, formuladores de políticas e a indústria de tecnologia determinará, em grande parte, as regras do jogo na era da guerra baseada em IA.

    Implicações políticas e de segurança para Israel

    A experiência americana demonstra que a integração sistemática da inteligência artificial no núcleo da atividade militar altera as regras do jogo no campo de batalha. Para Israel, que possui uma vantagem significativa no campo da inovação em defesa, esse contexto acarreta diversas implicações estratégicas.

    Primeiramente, há a necessidade de transitar de uma abordagem centrada no desenvolvimento de tecnologias de IA discretas para uma abordagem sistêmica, similar à doutrina AI-First americana. Nela, a inteligência artificial é integrada sistematicamente à cadeia de comando, aos processos de processamento de inteligência e ao planejamento de operações em múltiplos teatros. Essa transição exige uma integração mais profunda entre a comunidade de defesa, as indústrias de defesa e o setor de alta tecnologia civil, juntamente com investimentos em infraestruturas de dados e poder computacional avançado.

    Em segundo lugar, à luz da aceleração global da corrida armamentista de IA, Israel deve fortalecer sua cooperação estratégica com os Estados Unidos neste campo. Essa colaboração pode incluir pesquisa e desenvolvimento, integração entre sistemas operacionais de IA e um aprofundamento do diálogo estratégico sobre o uso responsável da inteligência artificial em sistemas militares. Por fim, juntamente com as vantagens operacionais, a integração de sistemas de IA na guerra também levanta complexas questões legais e éticas. Israel, que está na vanguarda do enfrentamento de ameaças de segurança e tecnológicas, pode desempenhar um papel significativo na moldagem de arcabouços de governança e padrões internacionais para o uso responsável da IA em sistemas de defesa, enquanto preserva sua vantagem tecnológica e operacional.

    A doutrina AI-First do Pentágono reflete uma mudança profunda na concepção americana de guerra. A inteligência artificial não é mais percebida como uma ferramenta tecnológica suplementar, mas sim como uma infraestrutura estratégica que molda a forma como os militares planejam e conduzem campanhas. O conflito com o Irã demonstra como esse conceito está começando a ser concretizado na prática, com a IA se integrando mais profundamente à cadeia de comando, síntese de inteligência e planejamento operacional.

    Uma nova realidade se forma, na qual a fronteira entre o julgamento humano e o suporte algorítmico se torna mais dinâmica e flexível. Para nações como Israel, isso representa tanto uma oportunidade quanto um desafio: há a necessidade não apenas de desenvolver capacidades de IA discretas, mas de adotar uma abordagem sistêmica, integrar inteligência, comando e sistemas de combate, e criar uma infraestrutura avançada de dados e poder computacional. Ao mesmo tempo, é preciso fortalecer a cooperação estratégica e avançar sua influência nos padrões internacionais para o uso seguro da IA militar.

    Dessa forma, será possível preservar a vantagem tecnológica e operacional, mantendo a legitimidade e preparando-se para uma era em que a IA se torna um multiplicador de força estratégico no campo de batalha. Em qualquer caso, a forma como as relações evoluírem entre as instituições de defesa, os formuladores de políticas e a indústria de tecnologia determinará, em grande parte, as regras do jogo na era da guerra baseada em IA.

  • Inteligência Artificial: a empresa que enfrentou o Pentágono nos EUA — e por que isso afeta o mundo todo

    Inteligência Artificial: a empresa que enfrentou o Pentágono nos EUA — e por que isso afeta o mundo todo

    Um confronto inédito entre uma empresa de inteligência artificial (IA) do Vale do Silício e o Pentágono, o departamento de Defesa dos EUA, colocou em evidência um dilema que o mundo teme há anos: o avanço e o uso da IA em cenários de guerra. A recusa da empresa em eliminar limites éticos de sua tecnologia levanta questões cruciais sobre a delegação de decisões irreversíveis e letais a máquinas e quem, de fato, controla o uso dessas ferramentas.

    O episódio, que envolve a empresa Anthropic e o departamento de Defesa, vai além de uma simples disputa corporativa. Ele marca a primeira vez que uma companhia de IA confronta diretamente um aparato militar, evidenciando lacunas significativas na governança da inteligência artificial em operações de defesa. Especialistas alertam que essas falhas não são novas e tendem a persistir, independentemente da resolução desta controvérsia específica.

    A disputa e suas origens

    O embate teve início após o uso, ainda que não confirmado oficialmente por ambas as partes, da ferramenta Claude, da Anthropic, para processar dados e auxiliar na tomada de decisões durante uma operação que culminou na captura do então presidente venezuelano Nicolás Maduro em 3 de janeiro. Fontes confirmaram o uso do Claude à revista Time, que publicou um perfil detalhado da Anthropic.

    Após o evento, a Anthropic questionou o Pentágono sobre o uso de seu software. A resposta gerou alarme em Washington: Emil Michael, Subsecretário de Defesa e Diretor de Tecnologia do Pentágono, expressou preocupação com a possibilidade da Anthropic desativar seu modelo no meio de uma operação futura, colocando vidas em risco. A Anthropic, por outro lado, contesta essa interpretação, afirmando que a pergunta foi rotineira e que jamais tentou limitar o uso do Pentágono.

    Escalada de tensões e as posições divergentes

    A tensão escalou rapidamente quando o Pentágono exigiu acesso irrestrito à tecnologia da Anthropic para “todos os usos legais”. A empresa recusou. Pete Hegseth, Secretário de Defesa de Trump, classificou a Anthropic como um “risco para a cadeia de suprimentos”, um termo geralmente reservado a rivais estrangeiros.

    Em resposta, a Anthropic processou o Pentágono por exceder sua autoridade e violar salvaguardas éticas e direitos fundamentais. Especialistas jurídicos apontam que a empresa tem boas chances de vencer a disputa judicial. Paralelamente, o presidente Donald Trump ordenou que agências federais parassem de usar a tecnologia da Anthropic e declarou em sua plataforma Truth Social que os EUA “jamais permitirão que uma empresa progressista (‘woke’) e radical de esquerda dite como nossas grandes forças armadas lutam e vencem guerras”.

    As linhas vermelhas da Anthropic

    Fundada em 2021 por ex-pesquisadores da OpenAI, a Anthropic tem como premissa central que a IA representa um risco existencial para a humanidade. Por isso, a empresa defende que seu desenvolvimento deve ser feito com máxima segurança.

    Em julho de 2025, a Anthropic assinou um contrato de US$ 200 milhões com o Departamento de Defesa. O acordo estabeleceu duas “linhas vermelhas” cruciais: o Claude não poderia ser utilizado para vigilância doméstica em massa nem para armas totalmente autônomas. Essas restrições derivam de um documento da empresa que visa “prevenir catástrofes em larga escala”, incluindo o uso indevido da IA para tomada de poder.

    Dario Amodei, CEO da Anthropic, argumentou que sistemas de IA de ponta ainda não são confiáveis o suficiente para alimentar armas totalmente autônomas, que podem atingir objetivos com mínima supervisão humana em ambientes complexos.

    Especialistas em inteligência artificial alertam para o “viés de automação”: quando as regras de uso são vagas, os humanos tendem a confiar nas recomendações da máquina mais do que deveriam, corroendo o julgamento humano gradualmente.

    O dilema da regulamentação e a velocidade da tecnologia

    A recusa do departamento de Defesa em aceitar limitações impostas por uma empresa privada é vista por muitos como justificável. Contudo, o uso crescente da IA em operações militares levanta a necessidade urgente de regulamentação por meio de leis aprovadas democraticamente, algo que o Legislativo dos EUA ainda não concretizou.

    A definição de “uso lícito” no contexto da IA militar é nebulosa. O direito internacional humanitário, baseado em decisões humanas, não contempla sistemas autônomos que selecionam e eliminam alvos com pouca ou nenhuma intervenção humana direta, criando um “vácuo de responsabilidade”.

    O debate sobre armas autônomas, que começou formalmente em 2013, ainda resulta em diretrizes voluntárias. Em 2024, o Ministro das Relações Exteriores da Áustria comparou o momento ao “momento Oppenheimer”, onde a tecnologia já existe e a decisão sobre seu controle é iminente. Diferentemente das armas nucleares, os sistemas autônomos são mais difíceis de controlar por serem baratos, produzidos em massa e de rastreamento complexo.

    A Assembleia Geral da ONU adotou em 2024 uma resolução criando um fórum para discutir o uso de armas autônomas, com 166 votos a favor, evidenciando uma preocupação quase universal. No entanto, falta um tratado vinculativo e mecanismos de aplicação eficazes.

    O paradoxo do final e o impacto no mercado

    Apesar de Dario Amodei afirmar que a Anthropic “não pode, em sã consciência, atender ao pedido” do Pentágono, a empresa acabou perdendo o contrato. Logo após, a OpenAI fechou um acordo com o Departamento de Defesa.

    Em um desdobramento inesperado, o aplicativo Claude da Anthropic superou o ChatGPT da OpenAI na App Store da Apple, atraindo mais de um milhão de novos usuários diários e alcançando o primeiro lugar em mais de 20 países. As vendas da empresa dispararam.

    O caso também gerou repercussão em outras gigantes da tecnologia. Coalizões de trabalhadores da Amazon, Google, Microsoft e OpenAI pediram que suas empresas seguissem o exemplo da Anthropic. Dezenas de cientistas e pesquisadores de empresas concorrentes assinaram um parecer jurídico em apoio à Anthropic. Um general aposentado da Força Aérea, que liderou o controverso Projeto Maven, expressou simpatia pela posição da empresa.

    A Anthropic solidificou o apoio de seus próprios engenheiros, profissionais altamente requisitados no Vale do Silício, demonstrando que, mesmo sem o contrato com o Pentágono, sua postura ética pode ter um impacto duradouro no futuro da IA.

  • Pentágono substituirá ferramentas de IA da Anthropic após rótulo de risco

    Pentágono substituirá ferramentas de IA da Anthropic após rótulo de risco

    Pentágono anuncia substituição de ferramentas de IA da Anthropic

    O Departamento de Defesa dos Estados Unidos (Pentágono) está em processo de substituição das ferramentas de inteligência artificial (IA) desenvolvidas pela Anthropic PBC. A decisão surge após a empresa ser declarada um risco à cadeia de suprimentos pela administração Trump. A Anthropic, uma empresa americana especializada em modelos de linguagem de grande porte, era a única fornecedora autorizada a operar na nuvem classificada do Pentágono.

    Cameron Stanley, diretor digital e de IA do Pentágono, confirmou que o trabalho de engenharia já começou para integrar múltiplos modelos alternativos de linguagem. O objetivo é disponibilizá-los para uso operacional em breve. Essa movimentação representa uma mudança significativa nas parcerias tecnológicas de defesa dos EUA.

    Detalhamento da decisão e implicações

    A classificação da Anthropic como um risco à cadeia de suprimentos é um rótulo incomum, geralmente direcionado a adversários estrangeiros, e não era conhecido por ter sido aplicado anteriormente a uma empresa americana. A empresa contestou judicialmente essa designação, argumentando que ela viola seus direitos à liberdade de expressão e ao devido processo legal. Emil Michael, subsecretário de Pesquisa e Engenharia do Pentágono, indicou haver pouca chance de retomada das negociações com a Anthropic.

    Conflito sobre guardrails éticos impulsionou a decisão

    O conflito entre o Pentágono e a Anthropic teve origem em divergências sobre as salvaguardas (guardrails) éticas aplicadas às ferramentas de IA. A Anthropic recusou-se a permitir que o Pentágono utilizasse seus modelos para “qualquer finalidade legal” sem restrições. Especificamente, a empresa manteve duas “linhas vermelhas” éticas que impedem o uso de seus modelos para:

    Impacto nos negócios da Anthropic e no mercado de IA

    A classificação de “risco à cadeia de suprimentos” já afetou as vendas da Anthropic. Um cliente do setor financeiro suspendeu um acordo de US$ 15 milhões, e uma rede de supermercados cancelou uma reunião. Em documentos judiciais, o diretor financeiro da empresa projetou que as ações governamentais poderiam reduzir a receita da Anthropic em múltiplos bilhões de dólares até 2026.

    Enquanto isso, empresas como Microsoft e Amazon declararam que continuarão oferecendo as ferramentas de IA da Anthropic aos seus clientes, com a ressalva de excluir qualquer trabalho vinculado ao Departamento de Defesa. A disputa também evidenciou divisões na comunidade de IA, com um executivo da OpenAI renunciando e mais de 30 desenvolvedores de IA do Google e OpenAI apresentando um parecer legal em apoio à posição de segurança de IA da Anthropic.

    Alternativas em desenvolvimento

    Outros fornecedores de IA, como OpenAI e xAI (de Elon Musk), já obtiveram aprovação para realizar trabalhos classificados. O Google está implementando seus agentes Gemini em redes não classificadas, com planos de avançar para trabalhos classificados posteriormente. Contudo, autoridades indicam incerteza sobre a velocidade com que esses modelos poderão ser integrados aos programas existentes.

  • Uso da IA para vigilância e guerra leva a demissão de alto quadro da OpenAI

    Uso da IA para vigilância e guerra leva a demissão de alto quadro da OpenAI

    Uso da IA para vigilância e guerra leva a demissão de alto quadro da OpenAI

    Um caso recente expõe as tensões e interesses por trás das aplicações de Inteligência Artificial (IA), indo além das promessas de marketing. Caitlin Kalinowski, engenheira renomada e ex-líder da área de Robótica na OpenAI, tomou a decisão de se demitir da empresa em março de 2026, após quase dois anos na companhia. A sua saída surpreendeu o público e foi comunicada através do LinkedIn, levantando questões sobre a ética no desenvolvimento e aplicação de IA.

    A principal motivação para a renúncia de Kalinowski reside nas preocupações com o uso da IA para fins de vigilância de americanos sem supervisão judicial e para autonomia letal sem autorização humana. Estes são considerados por ela como “linhas vermelhas” que exigiam mais deliberação do que a recebida.

    Acordo com o Pentágono e desdobramentos

    A demissão de Kalinowski ocorreu uma semana após a OpenAI fechar um acordo com o Departamento de Defesa dos EUA, permitindo o uso de sua inteligência artificial para fins bélicos e potencial vigilância de cidadãos dentro do país. Kalinowski, que liderava uma equipe de projeto na área de robótica, expressou que sua preocupação era com a governança e princípios, e não com indivíduos. Ela destacou que o anúncio do acordo foi apressado, sem as devidas salvaguardas terem sido definidas.

    Em resposta à polêmica, a OpenAI, através de um porta-voz, tentou mitigar as preocupações, afirmando que o acordo com o Pentágono “cria um caminho viável para usos responsáveis de IA na segurança nacional, deixando claras as linhas vermelhas: sem vigilância doméstica e sem armas autónomas”. O CEO da empresa, Sam Altman, também se pronunciou no X, indicando que a empresa “modificaria o contrato” para evitar o uso de seus modelos em “vigilância doméstica de cidadãos e nacionais dos EUA”, após críticas sobre a concessão de poder a oficiais militares sem supervisão adequada.

    Contexto de polêmica e concorrência

    A renúncia de Kalinowski aconteceu em um cenário de crescente debate sobre os limites éticos do uso de modelos de IA em aplicações militares. Um caso notório de oposição a um acordo análogo com o Pentágono foi o da Anthropic, concorrente da OpenAI, que desenvolve o aplicativo Claude. A posição da Anthropic, segundo informações divulgadas, foi motivada pelos mesmos pontos de preocupação que levaram à decisão de Kalinowski.

    Embora a Anthropic também colabore com o Departamento da Guerra, sua postura em relação ao acordo específico gerou repercussão. Segundo a publicação especializada TechCrunch, a controvérsia beneficiou a Anthropic, com um aumento expressivo nas desinstalações do ChatGPT e a ascensão do Claude ao topo das tabelas da AppStore nos EUA.

    Este episódio serve como um lembrete crucial de que a inteligência artificial não é neutra e que suas aplicações envolvem considerações éticas profundas, especialmente quando ligadas à segurança nacional e a conflitos militares. A decisão de Kalinowski sublinha a importância da transparência e da deliberação cuidadosa na implementação de tecnologias de IA com potencial impacto em larga escala.

  • Disputa entre Anthropic e Pentágono mobiliza pesquisadores e empresas do Vale do Silício

    Disputa entre Anthropic e Pentágono mobiliza pesquisadores e empresas do Vale do Silício

    Disputa entre Anthropic e Pentágono mobiliza pesquisadores e empresas do Vale do Silício

    Uma crescente disputa entre a startup de inteligência artificial Anthropic e o Departamento de Defesa dos Estados Unidos está se transformando em um amplo teste sobre a capacidade do governo de fiscalizar políticas de empresas de IA e o nível de apoio que essas companhias podem angariar na comunidade de pesquisa.

    A questão central gira em torno da decisão do Pentágono de classificar a Anthropic como um “risco à cadeia de suprimentos”, uma designação geralmente reservada a nações adversárias. Essa classificação impede a empresa de realizar negócios com o governo ou seus contratados, gerando um prejuízo potencial de centenas de milhões de dólares.

    Pesquisadores de ponta apoiam a Anthropic

    Em um movimento formal, 37 pesquisadores de inteligência artificial de renome assinaram um amicus brief, um documento jurídico apresentado a um tribunal por terceiros interessados em um caso. Entre os signatários estão Jeff Dean, cientista chefe do Google, e 19 pesquisadores da OpenAI, além de 10 da Google DeepMind. Eles agiram em caráter pessoal, não como representantes de suas empresas.

    O documento busca apoiar a ação movida pela Anthropic, que alega ter sido prejudicada indevidamente. A empresa argumenta que a decisão do governo é “sem precedentes e ilegal” e uma retaliação pelo exercício de seus direitos constitucionais, incluindo a imposição de limites ao uso de sua tecnologia.

    Conflito sobre salvaguardas de segurança

    Segundo relatos, o Departamento de Defesa teria se irritado com a recusa da Anthropic em desenvolver sua IA para direcionar armas autônomas ou para sintetizar dados de vigilância em massa de cidadãos americanos. A empresa defende que estabeleceu limites por meio de políticas internas para garantir o uso ético e seguro de sua tecnologia.

    A iniciativa do Pentágono pode afetar não apenas a Anthropic, mas todo o setor de inteligência artificial, testando a independência das empresas para impor salvaguardas de segurança.

    O amicus brief destaca a preocupação com o uso dessa autoridade pelo Departamento de Defesa, classificando como “extremamente preocupante” a possibilidade de uma empresa doméstica ser designada como risco à cadeia de suprimentos por simplesmente adotar salvaguardas de segurança.

    Apoio crescente da indústria

    O apoio à Anthropic tem se expandido. A Microsoft, por exemplo, apresentou seu próprio amicus brief solicitando uma ordem de restrição temporária para suspender a classificação de “risco à cadeia de suprimentos” enquanto o caso é analisado.

    Provedores de nuvem como Microsoft, Google e Amazon Web Services declararam que continuarão a distribuir os modelos da Anthropic em suas plataformas, embora com restrições para trabalhos relacionados à defesa. Essa convergência de apoio sinaliza uma possível ruptura entre a indústria de tecnologia e o governo.

    Implicações para o futuro da IA

    O desfecho desta disputa pode definir o grau de independência que as empresas de IA terão para implementar salvaguardas de segurança, especialmente quando estas entram em conflito com prioridades governamentais de segurança nacional. A ação da Anthropic contra o governo é vista como um teste crucial para o poder governamental sobre o desenvolvimento e a aplicação da próxima geração de sistemas de inteligência artificial.

    Essa situação reflete um momento crítico onde a inovação tecnológica e as regulamentações governamentais buscam um equilíbrio, evidenciando as tensões entre o avanço da IA e as preocupações com segurança e ética.

  • Nos EUA, uso de inteligência artificial na guerra no Oriente Médio vira disputa na Justiça

    Nos EUA, uso de inteligência artificial na guerra no Oriente Médio vira disputa na Justiça

    Nos EUA, uso de inteligência artificial na guerra no Oriente Médio vira disputa na Justiça

    O uso da inteligência artificial (IA) na guerra se tornou um ponto de atrito legal nos Estados Unidos. A empresa Anthropic, especializada em IA, está processando o governo americano após uma determinação do presidente Donald Trump para que todas as agências federais suspendam o uso dos serviços da startup.

    Em um cenário raro, a Microsoft apresentou um parecer jurídico em apoio à Anthropic, evidenciando uma aliança incomum entre gigantes da tecnologia contra a Casa Branca. O Pentágono, por sua vez, classificou a Anthropic como um risco à segurança nacional, citando preocupações com a cadeia de suprimentos dos EUA.

    O contrato e o atrito com o Pentágono

    A disputa judicial teve origem em um contrato de US$ 200 milhões entre a Anthropic e o Departamento de Guerra. No acordo, a startup impôs condições para que sua tecnologia não fosse utilizada para vigilância de cidadãos ou em armas autônomas, que atacam alvos sem controle humano.

    Contudo, o Pentágono argumenta que a decisão sobre como utilizar as tecnologias de IA deve caber ao governo. Diante disso, o secretário de Guerra emitiu um ultimato na quinta-feira (5), exigindo acesso irrestrito ao modelo de IA da Anthropic, sob pena de rescisão do contrato. A Anthropic não cedeu às exigências.

    IA como ferramenta estratégica na guerra

    A inteligência artificial é vista como uma das principais apostas do governo americano em operações militares. No contexto do Oriente Médio, a tecnologia tem sido empregada no planejamento e identificação de alvos estratégicos.

    Exemplos recentes incluem o uso de IA em drones que teriam confundido a defesa iraniana durante a operação que resultou na morte do líder supremo aiatolá Ali Khamenei. A tecnologia também teria sido utilizada na captura do ditador Nicolás Maduro, na Venezuela.

    As manifestações judiciais, como a da Microsoft, sublinham a complexidade e as tensões envolvidas na aplicação da IA em conflitos, ao mesmo tempo em que big techs demonstram cautela em confrontar diretamente a administração federal.

  • Desenvolvedores de inteligência artificial das três maiores empresas dos EUA alertam para o risco de assassinatos autônomos

    Desenvolvedores de inteligência artificial das três maiores empresas dos EUA alertam para o risco de assassinatos autônomos

    Desenvolvedores de inteligência artificial alertam sobre uso militar e armas autônomas

    Um grupo de desenvolvedores de inteligência artificial (IA) das três maiores empresas do ramo nos Estados Unidos divulgou uma carta conjunta expressando profunda preocupação com o uso da tecnologia a serviço da guerra. As reivindicações centrais focam na necessidade de estabelecer limites claros para evitar que a IA seja empregada na vigilância em massa de cidadãos e, mais alarmantemente, no desenvolvimento de armas autônomas capazes de tomar decisões letais sem intervenção humana.

    A iniciativa parte de funcionários de empresas como Anthropic, OpenAI e Google DeepMind. A tensão reside na pressão exercida pelo Pentágono para que essas companhias adaptem seus modelos de IA às demandas militares. A carta aberta busca criar solidariedade entre os profissionais e alertar para a estratégia do Departamento de Guerra de tentar dividir as empresas, explorando a disputa comercial para impor seus requisitos.

    A pressão do Pentágono e as “linhas vermelhas”

    A carta detalha que o Departamento de Guerra chegou a ameaçar sancionar a Anthropic, invocando a Lei de Produção de Defesa. O objetivo seria forçar a empresa a adaptar seu modelo às necessidades militares, classificando-a como um “risco na cadeia de suprimentos”. Essa ação seria uma retaliação à postura firme da Anthropic em recusar o uso de seus modelos para vigilância doméstica em massa e para o desenvolvimento de sistemas de ataque autônomo.

    O documento revela que o Pentágono está, de fato, negociando com Google e OpenAI na tentativa de convencê-las a aceitar o que a Anthropic rejeitou. A estratégia visa criar um cenário onde uma empresa ceda às pressões, levando as outras a fazerem o mesmo. A carta aberta, portanto, serve como um ponto de união para que os desenvolvedores mantenham uma posição coesa contra essas exigências.

    O temor de um futuro sem supervisão humana

    Funcionários do Google e da OpenAI, que assinam o manifesto, apelam para que seus líderes deixem de lado as diferenças e se unam. O receio é que a colaboração com o governo resulte na permissão para que a IA seja utilizada em vigilância doméstica em massa e, principalmente, na capacidade de eliminar alvos de forma autônoma, sem qualquer supervisão humana. Este cenário levanta sérias questões éticas e de controle sobre o futuro da tecnologia e seu impacto na democracia e na soberania.

    A preocupação com a vigilância já foi mais ampla, com um trecho original da carta da Anthropic mencionando o temor pela vigilância sobre cidadãos de todo o mundo. No entanto, esse ponto foi suprimido para a versão final, temendo que o pleito se tornasse “amplo demais” e enfraquecesse a reivindicação principal, focada agora nos cidadãos dos Estados Unidos. A discussão gerada por estes manifestos aponta para a urgência de um debate público e regulatório sobre os limites da IA em contextos militares e de segurança.

  • Claude da Anthropic é central na campanha dos EUA contra o Irã em meio a profunda disputa

    Claude da Anthropic é central na campanha dos EUA contra o Irã em meio a profunda disputa

    Claude da Anthropic é central na campanha dos EUA contra o Irã em meio a profunda disputa

    A inteligência artificial mais avançada já empregada em combate pelos Estados Unidos foi crucial para a rápida identificação e priorização de alvos em uma operação militar contra o Irã. A ferramenta de IA em questão, desenvolvida pela Anthropic, desempenhou um papel central na ofensiva que atingiu cerca de 1.000 alvos nas primeiras 24 horas.

    A tecnologia permitiu que as forças americanas e israelenses executassem operações militares em larga escala de forma eficiente. No entanto, a utilização desta IA ocorre em um momento de crescente tensão entre o Pentágono e a Anthropic, empresa criadora da ferramenta, o que levanta questionamentos sobre a continuidade dessa colaboração.

    IA avançada acelera operações militares

    O emprego massivo de inteligência artificial, especificamente a ferramenta Claude da Anthropic, permitiu aos militares dos EUA identificar e priorizar mil alvos em apenas 24 horas. Essa capacidade de processamento e análise rápida é um marco no uso de IA em conflitos armados.

    Disputa entre Pentagon e Anthropic

    Apesar da eficácia demonstrada pelo Claude da Anthropic, as relações entre o Pentágono e a empresa enfrentam desafios significativos. As divergências podem dificultar a manutenção do acesso a essa tecnologia avançada, mesmo com os resultados positivos obtidos em operações recentes.

    O uso da IA Claude foi fundamental para o sucesso inicial da campanha militar, destacando a importância crescente da inteligência artificial no cenário geopolítico e de defesa. A situação reflete um dilema para o Pentágono: o benefício estratégico de uma tecnologia de ponta contra as complexidades de uma relação tensa com a desenvolvedora.