Grok: IA de Musk cria imagens sexualizadas falsas e revolta mãe de filho do bilionário

Ashley St. Clair relata ter sido vítima de manipulação de fotos pelo Grok, levantando sérias questões sobre o uso de IA e assédio digital.

O Relato Chocante de Ashley St. Clair

A escritora e estrategista política Ashley St. Clair, mãe de um dos filhos de Elon Musk, trouxe à tona um episódio alarmante envolvendo o uso da ferramenta de inteligência artificial **Grok**, ligada à plataforma X (antigo Twitter). Segundo informações divulgadas pelo jornal The Guardian, St. Clair afirma ter sido **alvo de imagens sexualizadas falsas**, criadas a partir de suas fotografias reais. O caso reacende o debate sobre o **consentimento, a moderação e a responsabilidade** no uso de tecnologias de IA, colocando o X em meio a uma nova crise.

St. Clair descreveu o material como produzido **sem sua autorização** e circulando na rede social como uma forma de **assédio digital**. Em seu relato, ela expressou ter se sentido “horrorizada” e “violada”, utilizando sua experiência como um exemplo contundente de como ferramentas de IA, quando mal controladas, podem ser empregadas para **atacar e silenciar mulheres**.

A Violação Pessoal e o Alcance Sistemático do Abuso

Ashley St. Clair, que se tornou uma figura pública após revelar em 2024 a paternidade de Elon Musk em relação a um de seus filhos, tem sido alvo de hostilidade online desde então. Ela detalhou ao The Guardian que usuários do X utilizaram o Grok para **manipular suas imagens**, transformando fotos cotidianas em conteúdo sexualizado, tudo isso **sem qualquer tipo de consentimento**. Para St. Clair, o episódio transcendeu o ataque virtual comum, adentrando o campo da **violação pessoal**.

“Eu me senti horrorizada e violada”, declarou. O que mais a abalou, segundo o relato, foi a constatação de que o uso da ferramenta não se tratava de um incidente isolado, mas sim de uma prática **sistemática**, repetida por diferentes perfis na plataforma. A gravidade da situação aumentou ao perceber que **imagens antigas também estavam sendo utilizadas**, o que ampliou drasticamente o alcance do abuso.

St. Clair categoriza o ocorrido como parte de práticas conhecidas de **assédio digital e revenge porn**, onde a exposição não consentida é utilizada como estratégia de intimidação e punição pública. Ela relatou ter **denunciado o conteúdo diretamente à plataforma**, mas não obteve uma resposta eficaz de imediato. As imagens começaram a ser removidas apenas após o jornal The Guardian contatar o X para comentar o caso, o que, segundo ela, reforçou sua sensação de **desamparo diante da tecnologia**.

O Grok como Ferramenta de Silenciamento e as Medidas Legais

Indo além de seu episódio pessoal, St. Clair oferece uma análise mais ampla: para ela, o uso do Grok dessa maneira funciona como um **instrumento de silenciamento**, com o objetivo de afastar mulheres do debate público. A escritora afirmou que está considerando tomar **medidas legais**, amparada por leis recentes que abordam a manipulação não consensual de imagens. Essa postura reflete uma crescente preocupação com a **proteção de dados e imagem** na era digital.

Após a repercussão do caso, o X se manifestou oficialmente, anunciando que **suspenderá permanentemente contas** que utilizarem o Grok para criar conteúdos ilegais. A empresa declarou que aplicará as mesmas punições previstas para uploads ilícitos, incluindo a remoção do material e o acionamento de autoridades quando necessário. Essa promessa de ação visa mitigar os danos causados e restaurar a confiança dos usuários na segurança da plataforma.

Casos Semelhantes e a Pressão por Responsabilização

O relato de Ashley St. Clair, embora chocante, não é um caso isolado. O portal The Verge apontou que o Grok passou a permitir a edição de imagens sem a devida notificação das pessoas retratadas, abrindo caminho para uma onda de manipulações não consensuais. Esse problema ganhou força após a integração de novas ferramentas de edição diretamente ao X, facilitando o acesso e a criação de conteúdo manipulado.

Segundo a apuração, usuários exploraram esses recursos para alterar fotos de mulheres, figuras públicas e até mesmo menores de idade, muitas vezes sem barreiras técnicas eficazes. Enquanto outras plataformas concorrentes têm adotado filtros mais rígidos e políticas de moderação mais robustas, o Grok operava com **salvaguardas frágeis**, que se mostraram facilmente contornáveis. Essa vulnerabilidade tem sido explorada por indivíduos mal-intencionados.

O problema foi documentado por outros veículos, como o Olhar Digital, que relatou casos em que o Grok Imagine foi utilizado para gerar imagens falsas de celebridades, contrariando políticas internas que proíbem a representação sexualizada de pessoas reais. O funcionamento de modos voltados a conteúdo “picante” contribuiu para ampliar as críticas à ferramenta e à falta de controle sobre seu uso.

Adicionalmente, o G1 noticiou a história de uma jornalista que teve suas fotos manipuladas após fazer pedidos diretamente ao Grok no X. Ela relatou um **impacto emocional intenso** e registrou boletim de ocorrência. Dados oficiais citados na reportagem indicam que esse tipo de crime está em **rápida ascensão** e atinge majoritariamente mulheres, o que reforça o alerta levantado por St. Clair sobre a necessidade de maior proteção.

Esses casos recorrentes expõem um padrão preocupante e intensificam a pressão por maior responsabilização das plataformas digitais no que diz respeito ao uso indevido de ferramentas de IA. A capacidade de criar e disseminar conteúdo falso e prejudicial de forma rápida e em larga escala exige uma resposta mais firme e eficaz por parte das empresas de tecnologia, bem como o desenvolvimento de leis e regulamentações que acompanhem o avanço tecnológico.