Desenvolvedores de inteligência artificial alertam sobre uso militar e armas autônomas
Um grupo de desenvolvedores de inteligência artificial (IA) das três maiores empresas do ramo nos Estados Unidos divulgou uma carta conjunta expressando profunda preocupação com o uso da tecnologia a serviço da guerra. As reivindicações centrais focam na necessidade de estabelecer limites claros para evitar que a IA seja empregada na vigilância em massa de cidadãos e, mais alarmantemente, no desenvolvimento de armas autônomas capazes de tomar decisões letais sem intervenção humana.
A iniciativa parte de funcionários de empresas como Anthropic, OpenAI e Google DeepMind. A tensão reside na pressão exercida pelo Pentágono para que essas companhias adaptem seus modelos de IA às demandas militares. A carta aberta busca criar solidariedade entre os profissionais e alertar para a estratégia do Departamento de Guerra de tentar dividir as empresas, explorando a disputa comercial para impor seus requisitos.
A pressão do Pentágono e as “linhas vermelhas”
A carta detalha que o Departamento de Guerra chegou a ameaçar sancionar a Anthropic, invocando a Lei de Produção de Defesa. O objetivo seria forçar a empresa a adaptar seu modelo às necessidades militares, classificando-a como um “risco na cadeia de suprimentos”. Essa ação seria uma retaliação à postura firme da Anthropic em recusar o uso de seus modelos para vigilância doméstica em massa e para o desenvolvimento de sistemas de ataque autônomo.
O documento revela que o Pentágono está, de fato, negociando com Google e OpenAI na tentativa de convencê-las a aceitar o que a Anthropic rejeitou. A estratégia visa criar um cenário onde uma empresa ceda às pressões, levando as outras a fazerem o mesmo. A carta aberta, portanto, serve como um ponto de união para que os desenvolvedores mantenham uma posição coesa contra essas exigências.
O temor de um futuro sem supervisão humana
Funcionários do Google e da OpenAI, que assinam o manifesto, apelam para que seus líderes deixem de lado as diferenças e se unam. O receio é que a colaboração com o governo resulte na permissão para que a IA seja utilizada em vigilância doméstica em massa e, principalmente, na capacidade de eliminar alvos de forma autônoma, sem qualquer supervisão humana. Este cenário levanta sérias questões éticas e de controle sobre o futuro da tecnologia e seu impacto na democracia e na soberania.
A preocupação com a vigilância já foi mais ampla, com um trecho original da carta da Anthropic mencionando o temor pela vigilância sobre cidadãos de todo o mundo. No entanto, esse ponto foi suprimido para a versão final, temendo que o pleito se tornasse “amplo demais” e enfraquecesse a reivindicação principal, focada agora nos cidadãos dos Estados Unidos. A discussão gerada por estes manifestos aponta para a urgência de um debate público e regulatório sobre os limites da IA em contextos militares e de segurança.