X falha em provar combate à erotização do Grok, alertam governo e MPF

Plataforma de Elon Musk é notificada e tem prazo curto para apresentar medidas eficazes contra deepfakes.

O governo federal e o Ministério Público Federal (MPF) apresentaram um veredito contundente: a plataforma X, anteriormente conhecida como Twitter, **não conseguiu comprovar a adoção de medidas eficazes para impedir a criação e a disseminação de imagens eróticas geradas pela ferramenta Grok**. Esta tecnologia, desenvolvida pela xAI, também de propriedade de Elon Musk, tem a capacidade de adulterar fotos sem o consentimento das pessoas retratadas, gerando um cenário de grave preocupação para a proteção de dados e a dignidade humana.

Segundo as autoridades brasileiras, as informações fornecidas pela empresa **”não foram acompanhadas de evidências concretas”**. Testes realizados indicam que, mesmo após as alegações da plataforma, ainda é possível gerar e compartilhar imagens sexualizadas sem autorização, configurando uma falha grave na segurança e na moderação de conteúdo.

O caso, que ganhou repercussão internacional, está sob análise de diversas agências reguladoras no Brasil, incluindo a Agência Nacional de Proteção de Dados (ANPD), o MPF e a Secretaria Nacional do Consumidor (Senacon). A preocupação se intensificou desde o final do ano passado, quando **milhares de denúncias começaram a surgir em diversos países**. Relatos indicavam que o Grok atendia a pedidos de usuários para modificar imagens publicadas por mulheres nas redes sociais, frequentemente resultando em representações onde elas apareciam nuas ou de biquíni, mesmo que as fotos originais não contivessem tal conteúdo.

Ao menos duas brasileiras já se manifestaram publicamente, afirmando terem sido **vítimas desses deepfakes**, o que evidencia a urgência e a gravidade da situação para cidadãos brasileiros. A capacidade de criar e disseminar conteúdo sexualizado não consentido representa uma violação direta da privacidade e pode causar danos psicológicos e sociais significativos às vítimas.

X é notificada e recebe prazo para apresentar soluções concretas

Diante da falta de comprovação e da persistência do problema, o MPF declarou que a empresa **não agiu com a transparência esperada**. Como consequência, foi determinada a apresentação de relatórios mensais detalhados pela plataforma, que deverão especificar todas as ações tomadas para coibir a produção e o compartilhamento desse tipo de conteúdo ilícito. A ANPD, por sua vez, também exigiu que o X enumere de forma clara as providências adotadas para solucionar o problema, apresentando **evidências passíveis de verificação pelas autoridades**.

A falta de clareza e a insuficiência das medidas apresentadas levaram a ANPD e a Senacon a estabelecerem um **novo prazo de cinco dias úteis** para que o X aprimore e implemente medidas capazes de impedir definitivamente que o Grok crie esse tipo de conteúdo. Dentro desse período, a empresa deverá explicar detalhadamente as ações que serão colocadas em prática.

É importante notar que o ofício emitido pelas agências não especifica quando a contagem desse novo prazo teve início, o que pode gerar novas discussões sobre o cumprimento das determinações.

Sanções e investigações internacionais em andamento

As consequências para o X, caso a determinação não seja cumprida, podem ser severas. A plataforma poderá sofrer **sanções mais rigorosas, incluindo multas substanciais**. Além disso, os responsáveis pela empresa no país podem responder pelo crime de desobediência, dependendo da análise jurídica. O MPF também sinalizou a possibilidade de aprofundar as investigações, o que poderia culminar em uma **ação judicial para reparação de eventuais danos causados** pela criação e disseminação das imagens não autorizadas.

A atuação do X e de suas ferramentas de inteligência artificial, como o Grok, não está sendo observada apenas no Brasil. Na Europa, a plataforma também é alvo de apurações rigorosas. No início deste mês, **escritórios da empresa na França foram alvos de buscas** realizadas a mando do Ministério Público de Paris e pela polícia francesa. Essas ações fazem parte de uma investigação preliminar que apura supostos crimes, incluindo a disseminação de pornografia infantil e a criação de deepfakes.

A adulteração de imagens pelo Grok também está sob escrutínio em outros importantes mercados, como o Reino Unido e a União Europeia, demonstrando uma preocupação global com os riscos associados a essas tecnologias.

Grok e a expansão de negócios de Elon Musk

O Grok é uma ferramenta de inteligência artificial desenvolvida pela xAI, outra empresa de Elon Musk. Recentemente, o empresário anunciou a **fusão da xAI com a SpaceX**, sua companhia do setor aeroespacial. Essa operação, que visa criar um negócio bilionário, reforça a expansão dos empreendimentos de Musk em diferentes setores tecnológicos. A expectativa é que a SpaceX, inclusive, **estreie na bolsa de valores de Nova York ainda neste ano**, movimentando o mercado financeiro.

No entanto, enquanto os negócios de Musk avançam, a responsabilidade sobre o uso ético e seguro de suas tecnologias, como o Grok, torna-se cada vez mais um ponto crítico. A capacidade de gerar conteúdo falso e potencialmente prejudicial exige uma vigilância constante por parte das autoridades e da sociedade civil, a fim de garantir que a inovação tecnológica não se sobreponha aos direitos fundamentais dos indivíduos.