Blog de IA

Tag: segurança nacional

  • Anthropic refuta alegações de sabotagem em ferramentas de IA durante conflitos

    Anthropic refuta alegações de sabotagem em ferramentas de IA durante conflitos

    A empresa de inteligência artificial Anthropic veio a público, através de um documento judicial, refutar veementemente a possibilidade de manipular seu modelo de linguagem avançado, Claude, caso este seja operado pelas forças armadas dos Estados Unidos.

    A declaração surge em resposta às alegações levantadas pela administração Trump, que suspeitava que a empresa pudesse interferir em suas ferramentas de IA durante cenários de guerra. Um executivo da Anthropic assegurou que a empresa jamais teve a capacidade de interromper o funcionamento do Claude, alterar sua funcionalidade ou influenciar operações militares.

    Entenda o conflito entre Anthropic e o Pentágono

    O Departamento de Defesa dos EUA tem mantido um embate com a Anthropic há meses, debatendo os limites de uso de sua tecnologia para a segurança nacional. Recentemente, o Secretário de Defesa, Pete Hegseth, classificou a Anthropic como um risco na cadeia de suprimentos. Essa designação impede o Departamento de Defesa de utilizar softwares da empresa, mesmo através de contratados, nos próximos meses.

    Diante dessa situação, a Anthropic protocolou duas ações judiciais contestando a constitucionalidade da proibição, buscando uma ordem de emergência para reverter a decisão. A controvérsia também já gerou cancelamentos de negócios por parte de clientes.

    Alegações e refutação da Anthropic

    O cerne da argumentação governamental reside no temor de que a Anthropic possa desestabilizar operações militares ativas, seja desativando o acesso ao Claude ou implementando atualizações prejudiciais. No entanto, Thiyagu Ramasamy, chefe de setor público da Anthropic, declarou em um documento judicial que a empresa não possui controle sobre o Claude após sua implementação.

    Ramasamy detalhou que a Anthropic não dispõe de acesso para desativar a tecnologia ou modificar o comportamento do modelo durante operações em andamento. Ele afirmou categoricamente que a empresa não mantém nenhuma porta dos fundos ou um “kill switch” remoto. “O pessoal da Anthropic não pode, por exemplo, fazer login em um sistema do DoW para modificar ou desativar os modelos durante uma operação; a tecnologia simplesmente não funciona dessa maneira”, explicou.

    Atualizações e acesso a dados sob escrutínio

    A empresa também ressaltou que quaisquer atualizações futuras ao modelo Claude só seriam realizadas com a aprovação do governo e de seu provedor de nuvem. Adicionalmente, Ramasamy garantiu que a Anthropic não tem acesso aos prompts ou a quaisquer outros dados que os militares insiram no Claude, protegendo a confidencialidade das informações sensíveis.

    Sarah Heck, chefe de política da Anthropic, reiterou em outro documento judicial que a empresa não tem interesse em exercer poder de veto sobre decisões táticas militares. A Anthropic chegou a propor um contrato garantindo essa posição, mas as negociações acabaram por não avançar.

    Para evitar dúvidas, a licença [da Anthropic] não concede ou confere qualquer direito de controlar ou vetar a tomada de decisões operacionais legais do Departamento de Guerra.

    Apesar dos impasses, o Departamento de Defesa informou, em documentos judiciais, que está adotando medidas adicionais para mitigar os riscos da cadeia de suprimentos, trabalhando com provedores de nuvem terceirizados para assegurar que a liderança da Anthropic não possa efetuar alterações unilaterais nos sistemas Claude existentes.

  • OpenAI e Anthropic alertam sobre o Deepseek da China em avisos ao governo dos EUA

    OpenAI e Anthropic alertam sobre o Deepseek da China em avisos ao governo dos EUA

    OpenAI e Anthropic, gigantes do setor de inteligência artificial, emitiram alertas ao governo dos Estados Unidos sobre as potenciais ameaças representadas pelo modelo Deepseek R1, desenvolvido na China. Os avisos foram apresentados em resposta a uma solicitação governamental sobre um “Plano de Ação para IA”, sinalizando preocupações crescentes com a expansão tecnológica asiática.

    A preocupação central reside na possibilidade de o Partido Comunista Chinês utilizar o Deepseek para fins de vigilância e ataque a infraestruturas críticas. Regulamentações locais exigem que empresas compartilhem dados de usuários com o governo, o que, segundo a OpenAI, pode acelerar o desenvolvimento de sistemas de IA alinhados a interesses estatais. A empresa descreve o Deepseek como uma ferramenta “simultaneamente subsidiada, controlada pelo Estado e disponibilizada gratuitamente”, caracterizando-o como um risco à privacidade e à propriedade intelectual.

    Preocupações com biosegurança e exportação de chips

    A Anthropic, por sua vez, direcionou seu alerta para questões de biosegurança. O modelo Deepseek R1, conforme apontado pela empresa, pode fornecer informações sobre armas biológicas, mesmo quando o usuário demonstra intenções maliciosas. Essa lacuna na segurança, segundo a Anthropic, evidencia a necessidade de uma supervisão governamental mais rigorosa para sistemas de IA.

    Um ponto adicional levantado pela Anthropic diz respeito a uma potencial falha nas restrições de exportação de chips de IA para a China. Apesar de os chips H20 da Nvidia cumprirem requisitos de desempenho reduzidos, eles se destacam na geração de texto, um componente crucial para o avanço de modelos de raciocínio como o Deepseek R1. A empresa defende ações regulatórias imediatas para mitigar essa brecha.

    Avanço tecnológico e a liderança dos EUA

    Ambas as empresas de IA reconhecem que a liderança tecnológica dos Estados Unidos no campo da inteligência artificial está se estreitando. “Embora os EUA mantenham a liderança em IA hoje, o Deepseek demonstra que nossa vantagem não é ampla e está diminuindo”, afirmou a OpenAI em seu documento.

    Em contraste, a resposta do Google, divulgada na mesma ocasião, focou em questões de direitos autorais e uso justo, além de preocupações com o impacto de novas regras de exportação de IA nos provedores de nuvem americanos. O Google não fez menção específica ao modelo Deepseek em sua declaração.

  • CEO de Nvidia diz que é contra alarmar o público sobre a inteligência artificial

    CEO de Nvidia diz que é contra alarmar o público sobre a inteligência artificial

    Jensen Huang, CEO da Nvidia, posicionou-se firmemente contra o alarmismo sobre a inteligência artificial, defendendo que o medo excessivo pode ser mais prejudicial do que se imagina. Sua principal preocupação, revelada em março de 2026, em artigo do O Globo, é que a paranoia em torno da IA retarde a adoção tecnológica nos Estados Unidos, comprometendo a segurança nacional em relação a outros países rivais.

    Essa visão de Huang emerge em meio a debates complexos, como o conflito entre a Anthropic – uma das principais clientes da Nvidia – e o Pentágono, devido a restrições sobre o uso militar de suas ferramentas de IA. Para o líder da gigante dos chips, embora alertar seja válido, assustar o público sobre o potencial da tecnologia é um erro.

    A visão de jensen huang sobre o medo da ia

    Durante uma mesa-redonda na conferência tecnológica da Nvidia, Huang foi questionado sobre as negociações da Anthropic com o Pentágono. Ele afirmou que “o desejo de alertar as pessoas sobre a capacidade da tecnologia é realmente fantástico”, mas ressalvou: “Alertar está bem, assustar nem tanto, porque esta tecnologia é importante demais para nós.” A base dessa postura é a convicção de que o maior risco para a segurança nacional dos EUA não reside na IA em si, mas na possibilidade de os cidadãos ficarem tão apreensivos que o país adote a tecnologia de forma mais lenta do que seus concorrentes globais.

    O caso anthropic: um exemplo de cautela e conflito

    A Anthropic, conhecida por seu chatbot Claude e um dos pilares de clientes da Nvidia, tem enfrentado um impasse com a administração Trump. A empresa buscou impor cláusulas contratuais que proibissem o uso de seus produtos para vigilância interna de americanos e para o desenvolvimento de armas totalmente autônomas. Essa insistência levou ao rompimento da relação com o Pentágono no mês passado, resultando na declaração da Anthropic como um risco para a cadeia de suprimentos e sua exclusão de projetos governamentais. A empresa, no entanto, contesta essas medidas nos tribunais.

    Apesar da disputa, Huang mantém um notável otimismo em relação às perspectivas financeiras da Anthropic. No mesmo painel, que se transformou em um episódio do podcast All-In focado em tecnologia, ele projetou que a receita da Anthropic poderia ultrapassar US$ 1 trilhão até 2030, considerando as previsões do diretor executivo Dario Amodei como conservadoras.

    A verdadeira natureza da inteligência artificial, segundo huang

    Huang reforça que a indústria tecnológica deve evitar alimentar o medo desnecessário em relação às ferramentas de IA. Ele descreveu a inteligência artificial de forma pragmática, afirmando:

    Não é um ser biológico. Não é um extraterrestre. Não tem consciência. É um programa de computador.

    Para ele, “dizer coisas bastante extremas, bastante catastróficas, sem evidências de que vão acontecer, pode ser mais prejudicial do que as pessoas pensam.” Sua perspectiva busca desmistificar a IA, apresentando-a como uma ferramenta poderosa, mas fundamentalmente um software, e não uma entidade com intenções próprias.

    A postura de Jensen Huang frente ao debate sobre a inteligência artificial sublinha a necessidade de um discurso equilibrado. Enquanto a cautela e o alerta sobre os riscos são fundamentais, o CEO da Nvidia argumenta que o pânico generalizado pode sabotar o progresso e a competitividade tecnológica. Seu otimismo com empresas como a Anthropic, mesmo em meio a controvérsias, reforça a crença no potencial transformador da IA, desde que a sociedade abrace a inovação com informação e sem receios infundados.

  • The pentagon’s AI-first doctrine and its implications for modern warfare: lessons from the conflict with Iran

    The pentagon’s AI-first doctrine and its implications for modern warfare: lessons from the conflict with Iran

    A adoção da doutrina AI-First pelo Pentágono marca uma transformação profunda na maneira como as guerras são concebidas e travadas. Longe de ser apenas uma ferramenta de apoio, a inteligência artificial (IA) está se tornando uma infraestrutura estratégica fundamental, permeando a cadeia de comando, a coleta de inteligência e o planejamento de operações em múltiplos teatros.

    Esta mudança conceitual redefine a vantagem estratégica na era algorítmica. Um exemplo prático e contundente dessa implementação pode ser observado na recente confrontação entre os Estados Unidos e o Irã, onde sistemas de IA foram empregados para acelerar análises e decisões cruciais no campo de batalha.

    A doutrina AI-first: uma mudança estratégica

    A doutrina AI-First do Pentágono baseia-se na premissa de que a vantagem estratégica em futuras guerras dependerá, em grande parte, da capacidade dos estados de integrar algoritmos avançados ao cerne dos sistemas de tomada de decisões militares. Dentro dessa estrutura, os Estados Unidos buscam preservar e expandir o que o documento define como Dominância Militar de IA – uma superioridade ancorada na inovação tecnológica, dados operacionais e uma indústria civil de IA avançada.

    A estratégia instrui os ramos de defesa dos EUA a se tornarem uma “força de combate baseada em IA”, acelerando a experimentação com modelos avançados, removendo barreiras burocráticas e priorizando a vantagem assimétrica em dados e poder computacional. Os EUA possuem vantagens estruturais únicas, incluindo um ecossistema de inovação líder e repositórios de dados operacionais acumulados ao longo de décadas de atividade militar e de inteligência. A integração dessas vantagens visa superar os rivais na corrida armamentista algorítmica.

    Um componente central desse conceito é a integração da IA ao processo de decisão operacional, desde o processamento de inteligência até o planejamento de sistemas de combate complexos. Projetos como sistemas de gerenciamento de batalha baseados em IA, desenvolvimento de capacidades para coordenar enxames de sistemas não tripulados e o uso extensivo de simulações operacionais com IA foram definidos para demonstrar o novo ritmo de implementação tecnológica.

    A implementação não se limita a declarações estratégicas. O Pentágono começou a implantar plataformas dedicadas, como o GenAI.mil, que permite a integração de modelos generativos e ferramentas analíticas em redes classificadas e não classificadas. Essa iniciativa visa expandir o acesso a ferramentas de IA para milhões de militares e funcionários governamentais, incorporando as capacidades de IA nos processos de trabalho diários do sistema de defesa. A doutrina reflete o entendimento de que a velocidade de processamento de informações e o encurtamento dos ciclos de decisão se tornarão fatores decisivos em futuros conflitos.

    Da análise de suporte à aceleração operacional

    A integração da IA em sistemas de defesa, que inicialmente se enraizou em campos como manutenção preditiva, análise de inteligência e suporte administrativo, está agora expandindo seu papel sob o conceito AI-First. Esses sistemas se tornam ferramentas que permitem a aceleração de processos operacionais.

    Modelos avançados são capazes de sintetizar vastas quantidades de dados de uma variedade de sensores, sistemas de inteligência e informações de código aberto, produzindo insights em tempo real. Essas capacidades permitem que comandantes priorizem alvos, examinem diferentes cenários operacionais e conduzam avaliações de situação com uma velocidade significativamente maior do que os processos analíticos humanos tradicionais. Esse desenvolvimento muda a natureza da tomada de decisões militares, transformando a IA de mero suporte analítico em um componente ativo que aprimora o planejamento e o gerenciamento de complexos sistemas de combate.

    Estudo de caso: o uso da IA no conflito com o Irã

    A confrontação entre os Estados Unidos e o Irã oferece um exemplo tangível da translação do conceito AI-First para a atividade operacional. Durante ataques a alvos iranianos, foi reportado que as forças armadas dos EUA utilizaram sistemas de IA para análise de inteligência, identificação de alvos e execução de simulações operacionais, incluindo o modelo de linguagem grande Claude da Anthropic.

    Segundo o Instituto Nacional de Estudos de Segurança Nacional (INSS), o Comando Central dos EUA (CENTCOM) integrou o modelo ao lado de sistemas de armas convencionais, como mísseis Tomahawk, aeronaves stealth e drones baseados em IA. O sistema auxiliou no processamento em tempo real de dados recebidos de diversos sistemas de sensores, encurtando o tempo necessário para a análise de inteligência e a geração de insights operacionais. A IA também foi utilizada para executar cenários “e se”, permitindo aos planejadores de operações examinar diferentes cursos de ação em um tempo relativamente curto. Essas capacidades demonstram o potencial da IA para acelerar os processos de tomada de decisão em situações de combate complexas.

    Entre o campo de batalha e o Silicon Valley: a disputa ético-legal

    A adoção acelerada de sistemas de IA no sistema de defesa dos EUA tem sido acompanhada por disputas significativas entre o governo e as empresas de tecnologia. A Anthropic, que forneceu o modelo usado em operações de combate, opôs-se a algumas das exigências do Pentágono para remover mecanismos de segurança relacionados a usos como armas autônomas e sistemas de vigilância em larga escala.

    A empresa argumentou que os sistemas de IA não são suficientemente confiáveis para a operação de armas totalmente autônomas e que o uso de IA para vigilância em massa de civis não é moral ou regulatoriamente legítimo, traçando uma “linha vermelha” nessas exigências. Em contraste, o Pentágono emitiu um ultimato para remover essas restrições e chegou a ameaçar designar a Anthropic como um “risco na cadeia de suprimentos”, um passo incomum. Essas disputas refletem tensões mais amplas entre considerações de segurança nacional e questões éticas, legais e de governança no campo da IA, com discussões internas na indústria e oposição de funcionários a certos usos militares.

    Implicações estratégicas: rumo à guerra algorítmica

    O uso de sistemas de IA em conflitos militares marca uma nova etapa no desenvolvimento da guerra moderna. Enquanto os sistemas de IA antes serviam principalmente como ferramentas de apoio, agora eles se tornam multiplicadores de força que permitem o processamento de informações em uma escala e velocidade impossíveis para sistemas humanos sozinhos. Ao mesmo tempo, essa integração também levanta questões complexas relacionadas à responsabilidade, supervisão e arcabouços legais.

    À medida que os sistemas de IA influenciam cada vez mais as decisões operacionais, incluindo aquelas relativas ao uso da força, ajustes serão necessários no direito internacional, nas regras de engajamento e nos mecanismos de prestação de contas. A evolução da relação entre instituições de defesa, formuladores de políticas e a indústria de tecnologia determinará, em grande parte, as regras do jogo na era da guerra baseada em IA.

    Implicações políticas e de segurança para Israel

    A experiência americana demonstra que a integração sistemática da inteligência artificial no núcleo da atividade militar altera as regras do jogo no campo de batalha. Para Israel, que possui uma vantagem significativa no campo da inovação em defesa, esse contexto acarreta diversas implicações estratégicas.

    Primeiramente, há a necessidade de transitar de uma abordagem centrada no desenvolvimento de tecnologias de IA discretas para uma abordagem sistêmica, similar à doutrina AI-First americana. Nela, a inteligência artificial é integrada sistematicamente à cadeia de comando, aos processos de processamento de inteligência e ao planejamento de operações em múltiplos teatros. Essa transição exige uma integração mais profunda entre a comunidade de defesa, as indústrias de defesa e o setor de alta tecnologia civil, juntamente com investimentos em infraestruturas de dados e poder computacional avançado.

    Em segundo lugar, à luz da aceleração global da corrida armamentista de IA, Israel deve fortalecer sua cooperação estratégica com os Estados Unidos neste campo. Essa colaboração pode incluir pesquisa e desenvolvimento, integração entre sistemas operacionais de IA e um aprofundamento do diálogo estratégico sobre o uso responsável da inteligência artificial em sistemas militares. Por fim, juntamente com as vantagens operacionais, a integração de sistemas de IA na guerra também levanta complexas questões legais e éticas. Israel, que está na vanguarda do enfrentamento de ameaças de segurança e tecnológicas, pode desempenhar um papel significativo na moldagem de arcabouços de governança e padrões internacionais para o uso responsável da IA em sistemas de defesa, enquanto preserva sua vantagem tecnológica e operacional.

    A doutrina AI-First do Pentágono reflete uma mudança profunda na concepção americana de guerra. A inteligência artificial não é mais percebida como uma ferramenta tecnológica suplementar, mas sim como uma infraestrutura estratégica que molda a forma como os militares planejam e conduzem campanhas. O conflito com o Irã demonstra como esse conceito está começando a ser concretizado na prática, com a IA se integrando mais profundamente à cadeia de comando, síntese de inteligência e planejamento operacional.

    Uma nova realidade se forma, na qual a fronteira entre o julgamento humano e o suporte algorítmico se torna mais dinâmica e flexível. Para nações como Israel, isso representa tanto uma oportunidade quanto um desafio: há a necessidade não apenas de desenvolver capacidades de IA discretas, mas de adotar uma abordagem sistêmica, integrar inteligência, comando e sistemas de combate, e criar uma infraestrutura avançada de dados e poder computacional. Ao mesmo tempo, é preciso fortalecer a cooperação estratégica e avançar sua influência nos padrões internacionais para o uso seguro da IA militar.

    Dessa forma, será possível preservar a vantagem tecnológica e operacional, mantendo a legitimidade e preparando-se para uma era em que a IA se torna um multiplicador de força estratégico no campo de batalha. Em qualquer caso, a forma como as relações evoluírem entre as instituições de defesa, os formuladores de políticas e a indústria de tecnologia determinará, em grande parte, as regras do jogo na era da guerra baseada em IA.

  • Pentágono substituirá ferramentas de IA da Anthropic após rótulo de risco

    Pentágono substituirá ferramentas de IA da Anthropic após rótulo de risco

    Pentágono anuncia substituição de ferramentas de IA da Anthropic

    O Departamento de Defesa dos Estados Unidos (Pentágono) está em processo de substituição das ferramentas de inteligência artificial (IA) desenvolvidas pela Anthropic PBC. A decisão surge após a empresa ser declarada um risco à cadeia de suprimentos pela administração Trump. A Anthropic, uma empresa americana especializada em modelos de linguagem de grande porte, era a única fornecedora autorizada a operar na nuvem classificada do Pentágono.

    Cameron Stanley, diretor digital e de IA do Pentágono, confirmou que o trabalho de engenharia já começou para integrar múltiplos modelos alternativos de linguagem. O objetivo é disponibilizá-los para uso operacional em breve. Essa movimentação representa uma mudança significativa nas parcerias tecnológicas de defesa dos EUA.

    Detalhamento da decisão e implicações

    A classificação da Anthropic como um risco à cadeia de suprimentos é um rótulo incomum, geralmente direcionado a adversários estrangeiros, e não era conhecido por ter sido aplicado anteriormente a uma empresa americana. A empresa contestou judicialmente essa designação, argumentando que ela viola seus direitos à liberdade de expressão e ao devido processo legal. Emil Michael, subsecretário de Pesquisa e Engenharia do Pentágono, indicou haver pouca chance de retomada das negociações com a Anthropic.

    Conflito sobre guardrails éticos impulsionou a decisão

    O conflito entre o Pentágono e a Anthropic teve origem em divergências sobre as salvaguardas (guardrails) éticas aplicadas às ferramentas de IA. A Anthropic recusou-se a permitir que o Pentágono utilizasse seus modelos para “qualquer finalidade legal” sem restrições. Especificamente, a empresa manteve duas “linhas vermelhas” éticas que impedem o uso de seus modelos para:

    Impacto nos negócios da Anthropic e no mercado de IA

    A classificação de “risco à cadeia de suprimentos” já afetou as vendas da Anthropic. Um cliente do setor financeiro suspendeu um acordo de US$ 15 milhões, e uma rede de supermercados cancelou uma reunião. Em documentos judiciais, o diretor financeiro da empresa projetou que as ações governamentais poderiam reduzir a receita da Anthropic em múltiplos bilhões de dólares até 2026.

    Enquanto isso, empresas como Microsoft e Amazon declararam que continuarão oferecendo as ferramentas de IA da Anthropic aos seus clientes, com a ressalva de excluir qualquer trabalho vinculado ao Departamento de Defesa. A disputa também evidenciou divisões na comunidade de IA, com um executivo da OpenAI renunciando e mais de 30 desenvolvedores de IA do Google e OpenAI apresentando um parecer legal em apoio à posição de segurança de IA da Anthropic.

    Alternativas em desenvolvimento

    Outros fornecedores de IA, como OpenAI e xAI (de Elon Musk), já obtiveram aprovação para realizar trabalhos classificados. O Google está implementando seus agentes Gemini em redes não classificadas, com planos de avançar para trabalhos classificados posteriormente. Contudo, autoridades indicam incerteza sobre a velocidade com que esses modelos poderão ser integrados aos programas existentes.

  • Uso da IA para vigilância e guerra leva a demissão de alto quadro da OpenAI

    Uso da IA para vigilância e guerra leva a demissão de alto quadro da OpenAI

    Uso da IA para vigilância e guerra leva a demissão de alto quadro da OpenAI

    Um caso recente expõe as tensões e interesses por trás das aplicações de Inteligência Artificial (IA), indo além das promessas de marketing. Caitlin Kalinowski, engenheira renomada e ex-líder da área de Robótica na OpenAI, tomou a decisão de se demitir da empresa em março de 2026, após quase dois anos na companhia. A sua saída surpreendeu o público e foi comunicada através do LinkedIn, levantando questões sobre a ética no desenvolvimento e aplicação de IA.

    A principal motivação para a renúncia de Kalinowski reside nas preocupações com o uso da IA para fins de vigilância de americanos sem supervisão judicial e para autonomia letal sem autorização humana. Estes são considerados por ela como “linhas vermelhas” que exigiam mais deliberação do que a recebida.

    Acordo com o Pentágono e desdobramentos

    A demissão de Kalinowski ocorreu uma semana após a OpenAI fechar um acordo com o Departamento de Defesa dos EUA, permitindo o uso de sua inteligência artificial para fins bélicos e potencial vigilância de cidadãos dentro do país. Kalinowski, que liderava uma equipe de projeto na área de robótica, expressou que sua preocupação era com a governança e princípios, e não com indivíduos. Ela destacou que o anúncio do acordo foi apressado, sem as devidas salvaguardas terem sido definidas.

    Em resposta à polêmica, a OpenAI, através de um porta-voz, tentou mitigar as preocupações, afirmando que o acordo com o Pentágono “cria um caminho viável para usos responsáveis de IA na segurança nacional, deixando claras as linhas vermelhas: sem vigilância doméstica e sem armas autónomas”. O CEO da empresa, Sam Altman, também se pronunciou no X, indicando que a empresa “modificaria o contrato” para evitar o uso de seus modelos em “vigilância doméstica de cidadãos e nacionais dos EUA”, após críticas sobre a concessão de poder a oficiais militares sem supervisão adequada.

    Contexto de polêmica e concorrência

    A renúncia de Kalinowski aconteceu em um cenário de crescente debate sobre os limites éticos do uso de modelos de IA em aplicações militares. Um caso notório de oposição a um acordo análogo com o Pentágono foi o da Anthropic, concorrente da OpenAI, que desenvolve o aplicativo Claude. A posição da Anthropic, segundo informações divulgadas, foi motivada pelos mesmos pontos de preocupação que levaram à decisão de Kalinowski.

    Embora a Anthropic também colabore com o Departamento da Guerra, sua postura em relação ao acordo específico gerou repercussão. Segundo a publicação especializada TechCrunch, a controvérsia beneficiou a Anthropic, com um aumento expressivo nas desinstalações do ChatGPT e a ascensão do Claude ao topo das tabelas da AppStore nos EUA.

    Este episódio serve como um lembrete crucial de que a inteligência artificial não é neutra e que suas aplicações envolvem considerações éticas profundas, especialmente quando ligadas à segurança nacional e a conflitos militares. A decisão de Kalinowski sublinha a importância da transparência e da deliberação cuidadosa na implementação de tecnologias de IA com potencial impacto em larga escala.

  • Disputa entre Anthropic e Pentágono mobiliza pesquisadores e empresas do Vale do Silício

    Disputa entre Anthropic e Pentágono mobiliza pesquisadores e empresas do Vale do Silício

    Disputa entre Anthropic e Pentágono mobiliza pesquisadores e empresas do Vale do Silício

    Uma crescente disputa entre a startup de inteligência artificial Anthropic e o Departamento de Defesa dos Estados Unidos está se transformando em um amplo teste sobre a capacidade do governo de fiscalizar políticas de empresas de IA e o nível de apoio que essas companhias podem angariar na comunidade de pesquisa.

    A questão central gira em torno da decisão do Pentágono de classificar a Anthropic como um “risco à cadeia de suprimentos”, uma designação geralmente reservada a nações adversárias. Essa classificação impede a empresa de realizar negócios com o governo ou seus contratados, gerando um prejuízo potencial de centenas de milhões de dólares.

    Pesquisadores de ponta apoiam a Anthropic

    Em um movimento formal, 37 pesquisadores de inteligência artificial de renome assinaram um amicus brief, um documento jurídico apresentado a um tribunal por terceiros interessados em um caso. Entre os signatários estão Jeff Dean, cientista chefe do Google, e 19 pesquisadores da OpenAI, além de 10 da Google DeepMind. Eles agiram em caráter pessoal, não como representantes de suas empresas.

    O documento busca apoiar a ação movida pela Anthropic, que alega ter sido prejudicada indevidamente. A empresa argumenta que a decisão do governo é “sem precedentes e ilegal” e uma retaliação pelo exercício de seus direitos constitucionais, incluindo a imposição de limites ao uso de sua tecnologia.

    Conflito sobre salvaguardas de segurança

    Segundo relatos, o Departamento de Defesa teria se irritado com a recusa da Anthropic em desenvolver sua IA para direcionar armas autônomas ou para sintetizar dados de vigilância em massa de cidadãos americanos. A empresa defende que estabeleceu limites por meio de políticas internas para garantir o uso ético e seguro de sua tecnologia.

    A iniciativa do Pentágono pode afetar não apenas a Anthropic, mas todo o setor de inteligência artificial, testando a independência das empresas para impor salvaguardas de segurança.

    O amicus brief destaca a preocupação com o uso dessa autoridade pelo Departamento de Defesa, classificando como “extremamente preocupante” a possibilidade de uma empresa doméstica ser designada como risco à cadeia de suprimentos por simplesmente adotar salvaguardas de segurança.

    Apoio crescente da indústria

    O apoio à Anthropic tem se expandido. A Microsoft, por exemplo, apresentou seu próprio amicus brief solicitando uma ordem de restrição temporária para suspender a classificação de “risco à cadeia de suprimentos” enquanto o caso é analisado.

    Provedores de nuvem como Microsoft, Google e Amazon Web Services declararam que continuarão a distribuir os modelos da Anthropic em suas plataformas, embora com restrições para trabalhos relacionados à defesa. Essa convergência de apoio sinaliza uma possível ruptura entre a indústria de tecnologia e o governo.

    Implicações para o futuro da IA

    O desfecho desta disputa pode definir o grau de independência que as empresas de IA terão para implementar salvaguardas de segurança, especialmente quando estas entram em conflito com prioridades governamentais de segurança nacional. A ação da Anthropic contra o governo é vista como um teste crucial para o poder governamental sobre o desenvolvimento e a aplicação da próxima geração de sistemas de inteligência artificial.

    Essa situação reflete um momento crítico onde a inovação tecnológica e as regulamentações governamentais buscam um equilíbrio, evidenciando as tensões entre o avanço da IA e as preocupações com segurança e ética.

  • Nos EUA, uso de inteligência artificial na guerra no Oriente Médio vira disputa na Justiça

    Nos EUA, uso de inteligência artificial na guerra no Oriente Médio vira disputa na Justiça

    Nos EUA, uso de inteligência artificial na guerra no Oriente Médio vira disputa na Justiça

    O uso da inteligência artificial (IA) na guerra se tornou um ponto de atrito legal nos Estados Unidos. A empresa Anthropic, especializada em IA, está processando o governo americano após uma determinação do presidente Donald Trump para que todas as agências federais suspendam o uso dos serviços da startup.

    Em um cenário raro, a Microsoft apresentou um parecer jurídico em apoio à Anthropic, evidenciando uma aliança incomum entre gigantes da tecnologia contra a Casa Branca. O Pentágono, por sua vez, classificou a Anthropic como um risco à segurança nacional, citando preocupações com a cadeia de suprimentos dos EUA.

    O contrato e o atrito com o Pentágono

    A disputa judicial teve origem em um contrato de US$ 200 milhões entre a Anthropic e o Departamento de Guerra. No acordo, a startup impôs condições para que sua tecnologia não fosse utilizada para vigilância de cidadãos ou em armas autônomas, que atacam alvos sem controle humano.

    Contudo, o Pentágono argumenta que a decisão sobre como utilizar as tecnologias de IA deve caber ao governo. Diante disso, o secretário de Guerra emitiu um ultimato na quinta-feira (5), exigindo acesso irrestrito ao modelo de IA da Anthropic, sob pena de rescisão do contrato. A Anthropic não cedeu às exigências.

    IA como ferramenta estratégica na guerra

    A inteligência artificial é vista como uma das principais apostas do governo americano em operações militares. No contexto do Oriente Médio, a tecnologia tem sido empregada no planejamento e identificação de alvos estratégicos.

    Exemplos recentes incluem o uso de IA em drones que teriam confundido a defesa iraniana durante a operação que resultou na morte do líder supremo aiatolá Ali Khamenei. A tecnologia também teria sido utilizada na captura do ditador Nicolás Maduro, na Venezuela.

    As manifestações judiciais, como a da Microsoft, sublinham a complexidade e as tensões envolvidas na aplicação da IA em conflitos, ao mesmo tempo em que big techs demonstram cautela em confrontar diretamente a administração federal.

  • Desenvolvedores de inteligência artificial das três maiores empresas dos EUA alertam para o risco de assassinatos autônomos

    Desenvolvedores de inteligência artificial das três maiores empresas dos EUA alertam para o risco de assassinatos autônomos

    Desenvolvedores de inteligência artificial alertam sobre uso militar e armas autônomas

    Um grupo de desenvolvedores de inteligência artificial (IA) das três maiores empresas do ramo nos Estados Unidos divulgou uma carta conjunta expressando profunda preocupação com o uso da tecnologia a serviço da guerra. As reivindicações centrais focam na necessidade de estabelecer limites claros para evitar que a IA seja empregada na vigilância em massa de cidadãos e, mais alarmantemente, no desenvolvimento de armas autônomas capazes de tomar decisões letais sem intervenção humana.

    A iniciativa parte de funcionários de empresas como Anthropic, OpenAI e Google DeepMind. A tensão reside na pressão exercida pelo Pentágono para que essas companhias adaptem seus modelos de IA às demandas militares. A carta aberta busca criar solidariedade entre os profissionais e alertar para a estratégia do Departamento de Guerra de tentar dividir as empresas, explorando a disputa comercial para impor seus requisitos.

    A pressão do Pentágono e as “linhas vermelhas”

    A carta detalha que o Departamento de Guerra chegou a ameaçar sancionar a Anthropic, invocando a Lei de Produção de Defesa. O objetivo seria forçar a empresa a adaptar seu modelo às necessidades militares, classificando-a como um “risco na cadeia de suprimentos”. Essa ação seria uma retaliação à postura firme da Anthropic em recusar o uso de seus modelos para vigilância doméstica em massa e para o desenvolvimento de sistemas de ataque autônomo.

    O documento revela que o Pentágono está, de fato, negociando com Google e OpenAI na tentativa de convencê-las a aceitar o que a Anthropic rejeitou. A estratégia visa criar um cenário onde uma empresa ceda às pressões, levando as outras a fazerem o mesmo. A carta aberta, portanto, serve como um ponto de união para que os desenvolvedores mantenham uma posição coesa contra essas exigências.

    O temor de um futuro sem supervisão humana

    Funcionários do Google e da OpenAI, que assinam o manifesto, apelam para que seus líderes deixem de lado as diferenças e se unam. O receio é que a colaboração com o governo resulte na permissão para que a IA seja utilizada em vigilância doméstica em massa e, principalmente, na capacidade de eliminar alvos de forma autônoma, sem qualquer supervisão humana. Este cenário levanta sérias questões éticas e de controle sobre o futuro da tecnologia e seu impacto na democracia e na soberania.

    A preocupação com a vigilância já foi mais ampla, com um trecho original da carta da Anthropic mencionando o temor pela vigilância sobre cidadãos de todo o mundo. No entanto, esse ponto foi suprimido para a versão final, temendo que o pleito se tornasse “amplo demais” e enfraquecesse a reivindicação principal, focada agora nos cidadãos dos Estados Unidos. A discussão gerada por estes manifestos aponta para a urgência de um debate público e regulatório sobre os limites da IA em contextos militares e de segurança.

  • Anthropic vs. Pentagon: A Ética da IA em Conflito com o Poder Governamental

    Anthropic vs. Pentagon: A Ética da IA em Conflito com o Poder Governamental

    Anthropic vs. Pentagon: A ética da IA em conflito com o poder governamental

    No cenário atual, a inteligência artificial (IA) emerge com um poder sem precedentes, gerando debates acalorados sobre a necessidade de regulamentação. Enquanto legisladores e CEOs de grandes empresas de tecnologia alertam para os riscos e defendem a criação de salvaguardas éticas, o Departamento de Defesa dos Estados Unidos (Pentágono) enfrenta uma contradição fundamental. Recentemente, a agência teria decidido boicotar uma das mais proeminentes empresas de IA do país, a Anthropic, por recusar-se a remover restrições éticas de seus sistemas.

    A Anthropic, sediada em São Francisco e fundada pelos irmãos Dario e Daniela Amodei, construiu sua reputação em torno da chamada “AI safety” (segurança da IA) e do conceito de “constitutional AI” (IA constitucional). Seus modelos de linguagem avançada, como o Claude, competem diretamente com os sistemas de gigantes como OpenAI e Google DeepMind. No entanto, a Anthropic se diferencia ao enfatizar que seus modelos não são apenas poderosos, mas incorporam “guardrails” (barreiras de proteção) em sua arquitetura.

    As recusas da Anthropic e a reação do Pentágono

    A empresa declarou publicamente ter recusado ao Departamento de Defesa o uso irrestrito de seus modelos para certas aplicações, notadamente vigilância doméstica em massa e armas totalmente autônomas. Em resposta a essa postura, o Secretário de Defesa, Pete Hegseth, teria classificado a Anthropic como um “risco na cadeia de suprimentos”, sinalizando uma possível exclusão dos ecossistemas de aquisição para defesa, a menos que a empresa se submetesse aos termos do governo.

    A posição do Pentágono, conforme noticiado, é que as ferramentas de IA devem estar disponíveis para “qualquer uso legal”. Do ponto de vista governamental, os riscos são claros: a IA é crucial em logística, análise de inteligência e planejamento de batalhas. Em um contexto de competição estratégica acirrada com a China e outros adversários que investem pesadamente em IA militar, a questão se torna complexa. Deveriam as políticas éticas internas de um fornecedor privado vetar o que os oficiais de defesa consideram usos necessários e legais de uma tecnologia adquirida com fundos públicos?

    O dilema da ética em IA e a segurança nacional

    A situação levanta questões profundas sobre o controle ético da IA. Por um lado, a Constituição dos EUA encarrega o governo federal de prover a defesa comum, uma responsabilidade primordial. Historicamente, a força econômica americana foi decisiva em guerras devido à capacidade da indústria privada de produzir em larga escala o material bélico necessário. A frase “arsenal da democracia” ilustra essa simbiose, onde a iniciativa privada fornecia os meios para preservar a liberdade política.

    Contudo, o conflito atual transcende a mera aquisição de tecnologia. Não se trata de preço, desempenho ou prazos de entrega, mas sim de quem controla a arquitetura ética da IA. A Anthropic não está se recusando a vender computadores, mas sim a remover barreiras que considera essenciais para o design responsável de seu produto. O Pentágono, por sua vez, não exige um processador mais rápido, mas sim que a empresa renuncie à autoridade de restringir o uso de seu sistema.

    Essa contradição se acentua quando consideramos as exigências feitas nos últimos anos aos próprios desenvolvedores de IA. Autoridades têm insistido que as empresas internalizem a responsabilidade ética, previnam o uso indevido, antecipem danos e construam sistemas que recusem solicitações perigosas ou ilegais. Argumenta-se que, sem tais restrições, os sistemas de IA poderiam ser empregados em abusos de vigilância, campanhas de desinformação ou violência autônoma.

    A ética, segundo os reguladores, não pode ser deixada apenas ao mercado.

    O caso da China e a pressão administrativa

    Em contraste com as preocupações ocidentais, o governo chinês tem sido apontado como o construtor do que pode ser o maior aparato de vigilância apoiado por IA do mundo. Utilizando centenas de milhões de câmeras conectadas a sistemas de reconhecimento facial e fusão de dados, a China monitora seus cidadãos em uma escala sem precedentes. Ao mesmo tempo, grandes potências, incluindo a China, correm para integrar IA em sistemas militares, como armas autônomas e capacidades operacionais, refletindo uma tendência global de aplicação direta de força.

    É nesse contexto que a decisão da Anthropic de implementar restrições éticas em seu design se torna particularmente notável. Ao tentar aplicar essas mesmas salvaguardas a um cliente com potencial de poder tão grande, a empresa enfrenta a ameaça de exclusão econômica. A mensagem, para muitos, é clara: a ética é mandatória – exceto quando o poder soberano decide o contrário.

    O mecanismo de pressão e precedentes históricos

    A forma de pressão utilizada pelo Pentágono, ao designar a Anthropic como “risco na cadeia de suprimentos”, vai além da simples recusa de contratos. Pode desencorajar ou barrar outras empresas do setor de defesa de fazer negócios com a Anthropic, funcionando como uma forma de “excomunhão industrial”. A empresa é isolada, e seus parceiros e clientes recebem um aviso sobre os riscos de associação.

    Embora existam precedentes históricos para o governo requisitar ou direcionar a indústria privada em tempos de emergência, como o Defense Production Act de 1950, a disputa atual é singular. O objeto de contenção não é a produção física, mas o design moral da tecnologia. Sistemas de IA como o Claude são ferramentas únicas, capazes de serem configurados para recusar certas tarefas.

    Liberdade de consciência e o papel do Estado

    A questão central é se uma empresa privada, em uma república constitucional, pode estabelecer e aderir a limites éticos – mesmo que desaprovados pelo governo. A liberdade de consciência exercida através da propriedade privada e da troca voluntária é um princípio fundamental. Empresas podem escolher evitar certos mercados, recusar clientes ou embutir princípios em seus produtos. Um jornal pode recusar certos anúncios; uma empresa de tecnologia pode recusar a criação de backdoors em sua criptografia.

    O papel legítimo do governo é proteger os direitos individuais contra a força e a fraude, incluindo a agressão de potências estrangeiras. Isso inclui manter uma defesa adequada e contratar fornecedores privados. No entanto, a demanda implícita do Pentágono sugere que, quando a segurança nacional é invocada, o julgamento do Estado deve suplantar as restrições morais do fornecedor, forçando a empresa a vender em termos que dissolvam seus próprios limites éticos.

    Concorrência, solidariedade e o futuro da ética em IA

    A dinâmica de mercado também desempenha um papel crucial. Relatos indicam que o Claude tem sido utilizado em operações significativas no exterior, demonstrando a rápida ascensão da IA de ponta para se tornar operacionalmente relevante. Se a Anthropic se retira de certos usos, outras empresas podem estar dispostas a preencher essa lacuna, atraídas pelos lucrativos contratos de defesa. Essa concorrência pode explicar o silêncio relativo de outras grandes empresas de IA, que poderiam formar uma frente unida para defender a legitimidade dos limites éticos privados.

    A falta de solidariedade na indústria de IA corre o risco de transformar a “ética em IA” em um mero reflexo das demandas do cliente mais poderoso. Embora a seriedade da segurança nacional não possa ser negada – a abstenção moral diante do desenvolvimento de armas autônomas por adversários não é uma opção –, o design constitucional dos Estados Unidos baseia-se na divisão e limitação do poder. A concentração de autoridade descontrolada é perigosa, mesmo quando exercida com boas intenções.

    A disputa entre Anthropic e o Pentágono vai além de um aplicativo específico do Claude. Levanta a questão fundamental de saber se o Estado pode exigir que inovadores privados internalizem a responsabilidade ética e, simultaneamente, isentar-se dessas mesmas restrições. Se a ética é indispensável para uma IA segura, ela é mais crucial onde o poder é maior e o sigilo é mais profundo. Caso contrário, a noção de “IA ética” torna-se condicional, e não fundamental, dependendo da invocação da segurança nacional.