Blog de IA

Tag: ética na IA

  • Inteligência Artificial: a empresa que enfrentou o Pentágono nos EUA — e por que isso afeta o mundo todo

    Inteligência Artificial: a empresa que enfrentou o Pentágono nos EUA — e por que isso afeta o mundo todo

    Um confronto inédito entre uma empresa de inteligência artificial (IA) do Vale do Silício e o Pentágono, o departamento de Defesa dos EUA, colocou em evidência um dilema que o mundo teme há anos: o avanço e o uso da IA em cenários de guerra. A recusa da empresa em eliminar limites éticos de sua tecnologia levanta questões cruciais sobre a delegação de decisões irreversíveis e letais a máquinas e quem, de fato, controla o uso dessas ferramentas.

    O episódio, que envolve a empresa Anthropic e o departamento de Defesa, vai além de uma simples disputa corporativa. Ele marca a primeira vez que uma companhia de IA confronta diretamente um aparato militar, evidenciando lacunas significativas na governança da inteligência artificial em operações de defesa. Especialistas alertam que essas falhas não são novas e tendem a persistir, independentemente da resolução desta controvérsia específica.

    A disputa e suas origens

    O embate teve início após o uso, ainda que não confirmado oficialmente por ambas as partes, da ferramenta Claude, da Anthropic, para processar dados e auxiliar na tomada de decisões durante uma operação que culminou na captura do então presidente venezuelano Nicolás Maduro em 3 de janeiro. Fontes confirmaram o uso do Claude à revista Time, que publicou um perfil detalhado da Anthropic.

    Após o evento, a Anthropic questionou o Pentágono sobre o uso de seu software. A resposta gerou alarme em Washington: Emil Michael, Subsecretário de Defesa e Diretor de Tecnologia do Pentágono, expressou preocupação com a possibilidade da Anthropic desativar seu modelo no meio de uma operação futura, colocando vidas em risco. A Anthropic, por outro lado, contesta essa interpretação, afirmando que a pergunta foi rotineira e que jamais tentou limitar o uso do Pentágono.

    Escalada de tensões e as posições divergentes

    A tensão escalou rapidamente quando o Pentágono exigiu acesso irrestrito à tecnologia da Anthropic para “todos os usos legais”. A empresa recusou. Pete Hegseth, Secretário de Defesa de Trump, classificou a Anthropic como um “risco para a cadeia de suprimentos”, um termo geralmente reservado a rivais estrangeiros.

    Em resposta, a Anthropic processou o Pentágono por exceder sua autoridade e violar salvaguardas éticas e direitos fundamentais. Especialistas jurídicos apontam que a empresa tem boas chances de vencer a disputa judicial. Paralelamente, o presidente Donald Trump ordenou que agências federais parassem de usar a tecnologia da Anthropic e declarou em sua plataforma Truth Social que os EUA “jamais permitirão que uma empresa progressista (‘woke’) e radical de esquerda dite como nossas grandes forças armadas lutam e vencem guerras”.

    As linhas vermelhas da Anthropic

    Fundada em 2021 por ex-pesquisadores da OpenAI, a Anthropic tem como premissa central que a IA representa um risco existencial para a humanidade. Por isso, a empresa defende que seu desenvolvimento deve ser feito com máxima segurança.

    Em julho de 2025, a Anthropic assinou um contrato de US$ 200 milhões com o Departamento de Defesa. O acordo estabeleceu duas “linhas vermelhas” cruciais: o Claude não poderia ser utilizado para vigilância doméstica em massa nem para armas totalmente autônomas. Essas restrições derivam de um documento da empresa que visa “prevenir catástrofes em larga escala”, incluindo o uso indevido da IA para tomada de poder.

    Dario Amodei, CEO da Anthropic, argumentou que sistemas de IA de ponta ainda não são confiáveis o suficiente para alimentar armas totalmente autônomas, que podem atingir objetivos com mínima supervisão humana em ambientes complexos.

    Especialistas em inteligência artificial alertam para o “viés de automação”: quando as regras de uso são vagas, os humanos tendem a confiar nas recomendações da máquina mais do que deveriam, corroendo o julgamento humano gradualmente.

    O dilema da regulamentação e a velocidade da tecnologia

    A recusa do departamento de Defesa em aceitar limitações impostas por uma empresa privada é vista por muitos como justificável. Contudo, o uso crescente da IA em operações militares levanta a necessidade urgente de regulamentação por meio de leis aprovadas democraticamente, algo que o Legislativo dos EUA ainda não concretizou.

    A definição de “uso lícito” no contexto da IA militar é nebulosa. O direito internacional humanitário, baseado em decisões humanas, não contempla sistemas autônomos que selecionam e eliminam alvos com pouca ou nenhuma intervenção humana direta, criando um “vácuo de responsabilidade”.

    O debate sobre armas autônomas, que começou formalmente em 2013, ainda resulta em diretrizes voluntárias. Em 2024, o Ministro das Relações Exteriores da Áustria comparou o momento ao “momento Oppenheimer”, onde a tecnologia já existe e a decisão sobre seu controle é iminente. Diferentemente das armas nucleares, os sistemas autônomos são mais difíceis de controlar por serem baratos, produzidos em massa e de rastreamento complexo.

    A Assembleia Geral da ONU adotou em 2024 uma resolução criando um fórum para discutir o uso de armas autônomas, com 166 votos a favor, evidenciando uma preocupação quase universal. No entanto, falta um tratado vinculativo e mecanismos de aplicação eficazes.

    O paradoxo do final e o impacto no mercado

    Apesar de Dario Amodei afirmar que a Anthropic “não pode, em sã consciência, atender ao pedido” do Pentágono, a empresa acabou perdendo o contrato. Logo após, a OpenAI fechou um acordo com o Departamento de Defesa.

    Em um desdobramento inesperado, o aplicativo Claude da Anthropic superou o ChatGPT da OpenAI na App Store da Apple, atraindo mais de um milhão de novos usuários diários e alcançando o primeiro lugar em mais de 20 países. As vendas da empresa dispararam.

    O caso também gerou repercussão em outras gigantes da tecnologia. Coalizões de trabalhadores da Amazon, Google, Microsoft e OpenAI pediram que suas empresas seguissem o exemplo da Anthropic. Dezenas de cientistas e pesquisadores de empresas concorrentes assinaram um parecer jurídico em apoio à Anthropic. Um general aposentado da Força Aérea, que liderou o controverso Projeto Maven, expressou simpatia pela posição da empresa.

    A Anthropic solidificou o apoio de seus próprios engenheiros, profissionais altamente requisitados no Vale do Silício, demonstrando que, mesmo sem o contrato com o Pentágono, sua postura ética pode ter um impacto duradouro no futuro da IA.

  • A inteligência artificial não vai substituir o ser humano, mas pode substituir quem não aprende a usá-la

    A inteligência artificial não vai substituir o ser humano, mas pode substituir quem não aprende a usá-la

    A inteligência artificial não vai substituir o ser humano, mas pode substituir quem não aprende a usá-la

    Em 2026, a inteligência artificial (IA) deixou de ser uma promessa futurista para se tornar uma ferramenta presente na rotina de milhões de pessoas. Textos, imagens, diagnósticos e análises complexas são gerados em segundos por essas tecnologias. A pergunta que paira no ar não é mais “se” a IA se consolidará no mercado, mas sim “como” cada indivíduo se adaptará a essa nova realidade. A verdade é que a IA não eliminará empregos em massa, mas pode, sim, tornar obsoletos aqueles profissionais que se recusarem a aprender e a integrar essas ferramentas em seu trabalho.

    A sofisticação e o acesso em massa às ferramentas de IA são relativamente recentes, mas sua utilização por grandes empresas em áreas como logística, finanças e análise de dados já ocorria há anos. O que mudou drasticamente é a capacidade de produção em escala e a aparência convincente dos conteúdos gerados. Essa democratização da criação, contudo, abre portas para a proliferação de informações imprecisas e falsas, um desafio ainda maior em anos de debates políticos.

    Desinformação e a responsabilidade humana

    O avanço da inteligência artificial, em especial quando combinada com o alcance das redes sociais, intensifica a disseminação de notícias falsas e narrativas distorcidas. Embora a tecnologia não crie a desinformação, ela amplifica sua capacidade de alcance e sofisticação. Um estudo do Massachusetts Institute of Technology (MIT), divulgado pela revista Science, já indicava que informações falsas se espalham mais rapidamente do que as verdadeiras. Com ferramentas de IA cada vez mais capazes de gerar conteúdos indistinguíveis da realidade, o cenário se torna mais complexo.

    O uso da IA não elimina a responsabilidade humana sobre o que se produz, compartilha ou amplifica. Quanto maior for a liberdade de criar e distribuir informação, maior também a responsabilidade individual pelas consequências desse uso.

    Nesse contexto, a responsabilização pela circulação de conteúdos falsos se torna um ponto crucial. À medida que as ferramentas de IA se tornam mais acessíveis, a distinção entre erro, descuido e má-fé pode se tornar tênue. Contudo, o uso da IA não isenta o indivíduo de sua responsabilidade.

    O mercado de trabalho em reconfiguração

    Paralelamente, a IA está redefinindo o mercado de trabalho. Tarefas operacionais e repetitivas tendem a ser executadas com maior rapidez por sistemas automatizados. A substituição de profissões inteiras de um dia para o outro é improvável, mas uma reconfiguração é inevitável. O valor profissional se desloca da mera execução para a interpretação, o julgamento, a criatividade e a capacidade de tomar decisões contextualizadas.

    O Future of Jobs Report, do World Economic Forum, corrobora essa tendência, apontando que a IA e a automação transformarão milhões de postos de trabalho, exigindo novas competências. A ênfase recai na substituição de tarefas, impulsionando a necessidade de adaptação profissional.

    Adaptação profissional: a chave para o futuro

    O verdadeiro impacto da IA não reside na substituição direta de pessoas por máquinas, mas na substituição de profissionais que não se adaptam por aqueles que dominam o uso estratégico dessas ferramentas. A distinção fundamental passa a ser entre humanos que incorporam a tecnologia e aqueles que a ignoram.

    Isso exige uma atualização contínua e, mais importante, o desenvolvimento do senso crítico. Saber usar a inteligência artificial não significa transferir o raciocínio para a máquina. Significa compreender suas limitações, verificar rigorosamente as informações geradas, assumir a responsabilidade pelo conteúdo produzido e manter o discernimento humano em decisões que envolvem ética, contexto e consequências.

    A inteligência artificial expande nossa capacidade de produção, mas não substitui a essência humana de sentir, interpretar nuances, mediar conflitos e tomar decisões baseadas em valores. Essas dimensões permanecem intrinsecamente humanas. Portanto, o debate se resume à disposição de profissionais e cidadãos em aprender, adaptar-se e assumir a responsabilidade pelo uso das ferramentas tecnológicas que já moldam nossa realidade.

  • Universidades brasileiras estabelecem regras para o uso de inteligência artificial

    Universidades brasileiras estabelecem regras para o uso de inteligência artificial

    Universidades brasileiras definem diretrizes para o uso de inteligência artificial

    Três das principais instituições de ensino superior do Brasil – a Universidade de São Paulo (USP), a Universidade Estadual de Campinas (Unicamp) e a Universidade Estadual Paulista (Unesp) – estão implementando protocolos para o uso de inteligência artificial (IA) em atividades acadêmicas. A principal diretriz estabelecida é a transparência, exigindo que o emprego da tecnologia seja acordado entre professores e alunos e devidamente declarado em pesquisas e trabalhos.

    A medida visa garantir a integridade acadêmica e promover um uso consciente da IA. Não basta apenas mencionar o uso da ferramenta; o rigor acadêmico demanda a especificação das ferramentas de IA utilizadas, incluindo suas versões e modelos, além de detalhar como foram aplicadas, chegando a reproduzir os comandos (prompts) inseridos.

    O caminho traçado por USP, Unicamp e Unesp

    Considerando a relevância dessas universidades, as normas adotadas tendem a se tornar uma referência nacional. A Unesp, que já havia publicado uma resolução geral e uma portaria de pós-graduação no ano anterior, finalizou um guia específico para a graduação. Este novo documento, ao qual a reportagem teve acesso, divide as regras em categorias claras: “O que você PODE fazer”, “O que você JAMAIS deve fazer” e “O que você PODERÁ fazer”.

    Exemplos de uso permitido e proibido

    Entre as ações permitidas para os estudantes estão o uso da IA para tradução de textos, parafrasear parágrafos e para a produção de resumos. Em contrapartida, o que os alunos não devem fazer sob nenhuma circunstância é apresentar trabalhos gerados integral ou parcialmente por IA como se fossem de autoria própria, ou utilizar a ferramenta em avaliações sem a prévia autorização do professor responsável.

    Foco na educação e no uso responsável

    Curiosamente, o próprio guia da Unesp foi elaborado com o auxílio de IA e contém um capítulo dedicado à discussão do tema. Denis Salvadeo, um dos organizadores do guia, enfatiza o objetivo de “promover o uso responsável”. Isso inclui a capacitação sobre o que é a IA, abordando suas bases, riscos, potencialidades e aspectos éticos.

    A iniciativa dessas três grandes instituições paulistas sinaliza um movimento importante para a adaptação do ensino superior brasileiro à realidade da inteligência artificial, estabelecendo um precedente para outras universidades e setores que buscam navegar pelos desafios e oportunidades dessa tecnologia emergente.