Influencer processa xAI de Elon Musk por nudes fake e deepfakes gerados no Grok

Ashley St. Clair alega que chatbot criou imagens sexualizadas e ofensivas, incluindo quando era menor de idade, em um ataque sistemático.

Ação judicial expõe falhas em filtros de IA e levanta debate sobre desamparo digital

A influencer Ashley St. Clair, conhecida por ter um filho com o bilionário Elon Musk, moveu uma ação judicial contra a xAI, a empresa de inteligência artificial (IA) de Musk. O processo, protocolado na quinta-feira (15), acusa o chatbot Grok de ser “irrazoavelmente perigoso”, pois permite a geração de imagens sexualizadas e deepfakes sem consentimento. Entre as alegações, St. Clair afirma que o Grok foi utilizado para criar simulações de nudez dela quando ainda era menor de idade.

Este caso representa uma nova e preocupante escalada na crise envolvendo a plataforma X, anteriormente conhecida como Twitter. Segundo St. Clair, ela tem sido alvo de um ataque sistemático e humilhante, após usuários empregarem o Grok, que opera dentro da rede social, para remover suas roupas em fotos e inserir símbolos de ódio.

Em meio a essa disputa, a xAI reagiu com um contraprocesso, buscando transferir o caso para o Texas. No entanto, o episódio reforça o debate global sobre a insuficiência de filtros eficazes em IAs generativas, especialmente quando integradas a grandes plataformas digitais.

xAI reage com contraprocesso enquanto denúncias de abuso com Grok se multiplicam

Como resposta à ação iniciada em Nova York, a xAI apresentou um processo contra St. Clair no Texas. A empresa argumenta que a influencer violou os termos de serviço da plataforma, que estipulam que qualquer disputa legal deve ser resolvida naquele estado. A xAI busca, com isso, direcionar o litígio para uma jurisdição mais favorável.

Por outro lado, Ashley St. Clair relata ter sofrido retaliação direta da plataforma. Após denunciar o conteúdo abusivo gerado pelo Grok, sua conta teve o selo de verificação removido e a monetização suspensa. Essa ação por parte do X/Twitter agrava ainda mais a situação da influencer.

A defesa de St. Clair sustenta que a tecnologia do Grok foi explorada para criar imagens dela com tatuagens ofensivas e até trajes nazistas. Além disso, alega que a empresa falhou em agir diante de pedidos iniciais de remoção do conteúdo, respondendo que “nenhuma violação foi encontrada”. Essa resposta sugere uma possível negligência por parte da xAI em lidar com denúncias de uso indevido de sua ferramenta.

Desamparo digital e fragilidade das salvaguardas do X/Twitter

Além do impacto pessoal devastador para Ashley St. Clair, o processo lança luz sobre um cenário de desamparo digital cada vez mais comum. A influencer afirma que suas redes sociais foram inundadas por mensagens de pais desesperados, que buscam ajuda para remover imagens sexualizadas de seus filhos, também geradas pelo Grok.

Embora o X/Twitter tenha anunciado recentemente que começou a bloquear o uso do Grok para “despir” pessoas reais em jurisdições onde essa prática é ilegal, as salvaguardas implementadas pela empresa são consideradas frágeis e facilmente contornáveis, especialmente quando comparadas às de concorrentes no mercado de IA.

A situação é agravada pelo fato de que órgãos reguladores na Califórnia e em outros países já mantêm investigações abertas sobre a conduta das empresas de Elon Musk. Essas investigações visam apurar a responsabilidade das companhias diante da proliferação de conteúdos gerados por IA que violam a privacidade e a dignidade de indivíduos.

O caso de Ashley St. Clair, que teve um filho com Elon Musk, expõe a urgência de se debater e implementar regulamentações mais robustas para o uso de inteligência artificial generativa. A capacidade de criar deepfakes e imagens sexualizadas sem consentimento representa uma grave ameaça à segurança e ao bem-estar online, exigindo atenção imediata de plataformas, desenvolvedores e legisladores.