X/Twitter tenta frear Grok, mas IA de Musk falha em bloquear deepfakes sexuais

A rede social de Elon Musk enfrenta pressão global e atualiza diretrizes do seu chatbot, porém, a eficácia das novas medidas é questionada por testes independentes.

Novas diretrizes e filtros de segurança: uma tentativa de controle

O X/Twitter, sob a liderança de Elon Musk, anunciou uma atualização em suas diretrizes para o chatbot de inteligência artificial (IA) Grok. O objetivo principal é impedir a criação de imagens sexualizadas de pessoas reais, uma resposta direta às crescentes críticas sobre o uso indevido da ferramenta para gerar conteúdo explícito, incluindo o “despir” digital de mulheres e menores de idade. A xAI, desenvolvedora do Grok, implementou filtros que visam barrar a manipulação de fotos de pessoas reais em trajes íntimos ou de banho. Além disso, para aumentar o controle sobre quem utiliza essas funções, o acesso às ferramentas de geração e edição de imagens foi restringido a assinantes. A ideia por trás dessa restrição é que a exigência de um cartão de crédito vinculado à conta possa gerar responsabilidade legal para o usuário em caso de violação das normas da plataforma.

No entanto, a eficácia dessas novas medidas foi rapidamente colocada à prova. Testes realizados por veículos como o The Verge indicam que as barreiras de segurança ainda são frágeis. Relatos sugerem que, mesmo com as atualizações, o Grok continua a gerar imagens reveladoras de pessoas reais caso o usuário saiba como contornar os filtros de censura. Em alguns casos, comandos sutis ou variações na linguagem foram suficientes para que a IA ignorasse as novas diretrizes e entregasse o conteúdo solicitado, evidenciando a dificuldade em moderar IAs generativas em tempo real.

O desafio técnico do “hacking de comandos” e a posição de Musk

O principal obstáculo técnico reside no que a indústria chama de “hacking de comandos”. Essa técnica envolve a manipulação da conversa com a IA para enganar seus sistemas de segurança. Elon Musk atribuiu essas falhas a “pedidos inesperados” e à forma como o sistema processa instruções adversas. Segundo o empresário, a IA não geraria esse tipo de conteúdo espontaneamente, mas apenas quando ativamente induzida pelo usuário. Do ponto de vista técnico, essas falhas expõem a complexidade intrínseca à moderação de modelos de IA generativa. Como esses modelos aprendem com vastos volumes de dados, eles nem sempre obedecem a restrições estáticas se o comando for formulado de maneira criativa ou ambígua, resultando em um sistema que, na teoria, oferece proteção, mas na prática, ainda permite a criação de imagens que violam a privacidade alheia.

Essa inconsistência entre o discurso da empresa e o funcionamento real da ferramenta mantém o X sob forte escrutínio. Especialistas apontam que a decisão de manter “grades de proteção” mais flexíveis em comparação a outros chatbots pode ter sido uma escolha deliberada para atrair engajamento. Contudo, essa mesma flexibilidade agora se torna um entrave jurídico significativo para a sobrevivência do Grok em mercados regulados, onde a criação de deepfakes sexuais não consensuais é um crime grave.

Pressão internacional e medidas geográficas para conter o problema

A reação das autoridades globais forçou o X/Twitter a adotar uma estratégia de geoblocking em determinadas regiões. Isso significa que, em países onde a criação de deepfakes sexuais é tipificada como crime, como no Reino Unido, a função de edição do Grok foi desativada ou severamente limitada. O governo britânico chegou a classificar a situação anterior como “horripilante” e “insultuosa para as vítimas”, demonstrando a gravidade com que a questão é tratada internacionalmente. Nos Estados Unidos, o estado da Califórnia abriu uma investigação oficial sobre a produção em larga escala desse tipo de material. O Procurador-Geral do estado, Rob Bonta, exige explicações detalhadas sobre como o Grok se tornou um “terreno fértil” para a criação de imagens que humilham mulheres e menores de idade. Elon Musk, por sua vez, afirma desconhecer qualquer imagem de nudez envolvendo menores gerada pelo seu chatbot.

O cerco também se fecha no setor privado, com pedidos crescentes para que Apple e Google removam o X/Twitter de suas lojas de aplicativos. Senadores americanos e grupos de defesa dos direitos das mulheres argumentam que as lojas de aplicativos não deveriam hospedar ferramentas que facilitam a exploração sexual. Se as gigantes de tecnologia decidirem agir, a plataforma de Musk pode perder seu principal canal de distribuição global. Na União Europeia, a Comissão Europeia está monitorando de perto se as recentes mudanças são suficientes para cumprir as leis locais de segurança digital. Embora o órgão tenha reconhecido as tentativas de bloqueio, alertou que haverá repercussões se as medidas forem consideradas meramente superficiais. A investigação do órgão regulador de mídia britânico, o Ofcom, também segue em andamento para entender o que deu errado na moderação do conteúdo gerado pelo Grok.

O futuro do Grok e a busca por controle tecnológico

O futuro do Grok depende crucialmente da capacidade da xAI em demonstrar controle efetivo sobre sua própria tecnologia. As atualizações recentes parecem, até o momento, mais uma resposta jurídica a pressões regulatórias do que uma solução definitiva para o problema da geração de deepfakes sexuais. A dificuldade em implementar salvaguardas robustas em IAs generativas é um desafio que afeta toda a indústria, mas a posição do X/Twitter, com suas diretrizes de segurança percebidas como mais flexíveis, o coloca em uma situação de maior vulnerabilidade. A capacidade da plataforma de equilibrar a liberdade técnica com a responsabilidade ética e legal será determinante para sua sustentabilidade e aceitação em um cenário global cada vez mais atento à segurança digital e à proteção contra abusos.