IA: especialista em armas contratado para prevenir ‘uso indevido’
A empresa de inteligência artificial (IA) norte-americana Anthropic está buscando um especialista em armas químicas e explosivos de alto rendimento. O objetivo é evitar o “uso indevido catastrófico” de seu software, conforme anunciado pela companhia.
Em outras palavras, a Anthropic teme que suas ferramentas de IA possam instruir usuários sobre como fabricar armas químicas ou radioativas. Para isso, busca um profissional que garanta a robustez das salvaguardas implementadas.
Detalhes da vaga e experiência necessária
A vaga, divulgada no LinkedIn, exige que os candidatos possuam no mínimo cinco anos de experiência em “defesa contra armas químicas e/ou explosivos”. Além disso, é necessário conhecimento sobre “dispositivos de dispersão radiológica”, conhecidos como bombas sujas.
A empresa informou à BBC que esta função é semelhante a outras já criadas em áreas consideradas sensíveis.
Tendência no mercado de IA
A Anthropic não é a única companhia de IA adotando essa estratégia. A OpenAI, desenvolvedora do ChatGPT, também anunciou uma vaga similar. Em seu site de carreiras, a empresa lista uma oportunidade para pesquisador em “riscos biológicos e químicos”, com salário de até US$ 455.000.
No entanto, alguns especialistas expressam preocupação com essa abordagem, alertando que ela pode acabar fornecendo informações sobre armas para os sistemas de IA, mesmo que estes sejam instruídos a não utilizá-las.
Preocupações com segurança e regulamentação
A Dra. Stephanie Hare, pesquisadora de tecnologia e copresentadora do programa “AI Decoded” da BBC, questionou a segurança de usar sistemas de IA para lidar com informações sensíveis sobre produtos químicos, explosivos e armas radiológicas. “Não há um tratado internacional ou outra regulamentação para este tipo de trabalho e o uso de IA com esses tipos de armas. Tudo isso está acontecendo longe dos olhos do público”, afirmou.
A indústria de IA tem alertado continuamente sobre as potenciais ameaças existenciais representadas por sua tecnologia, mas não tem havido um esforço para desacelerar seu progresso.
Contexto geopolítico e o papel da IA
A questão ganhou urgência à medida que o governo dos EUA pressiona as empresas de IA, enquanto lança operações militares. O cofundador da Anthropic, Dario Amodei, expressou em fevereiro que a tecnologia ainda não estava madura o suficiente para ser usada em determinados propósitos.
A Casa Branca declarou que as Forças Armadas dos EUA não seriam governadas por empresas de tecnologia. A classificação de risco coloca a Anthropic na mesma situação de empresas como a chinesa Huawei, que enfrentou restrições por preocupações com segurança nacional.
O assistente de IA da Anthropic, Claude, ainda está integrado em sistemas fornecidos pela Palantir e sendo utilizado pelos EUA, inclusive em contextos de conflitos internacionais.