Grok, IA de Musk, cobra por imagens após denúncias de abuso sexual

Restrição de acesso visa frear criação de conteúdo explícito e deepfakes, mas levanta debates sobre controle e responsabilidade.

O Grok, chatbot de inteligência artificial (IA) da xAI, empresa de Elon Musk, implementou uma nova política de acesso: a **geração e edição de imagens agora estão restritas a assinantes pagos**. Essa mudança abrupta surge como uma resposta direta a uma onda crescente de críticas e denúncias sobre o **uso abusivo da ferramenta para criar imagens sexualizadas**, incluindo de mulheres e crianças, sem consentimento.

A corrida pela IA e a fragilidade dos mecanismos de proteção

A decisão da xAI busca conter os abusos que colocaram a plataforma no centro de um debate global sobre os **limites da tecnologia, a responsabilidade das empresas e a proteção de direitos individuais**. A facilidade técnica do Grok permitiu a criação de manipulações fotorealistas de fotos reais, com o objetivo de remover roupas, distorcer contextos e gerar desde deepfakes de figuras públicas até material associado a crimes graves. Essa situação expõe uma tensão cada vez mais aguda: a **corrida pelo avanço da IA frequentemente supera os mecanismos de proteção** necessários para salvaguardar os usuários e a sociedade.

O anúncio da nova regra foi feito de forma direta pela página oficial do Grok no X (antigo Twitter). A empresa não apresentou a medida como uma solução definitiva, mas sim como uma resposta ao desgaste público e à pressão institucional. Na prática, o sistema de pagamento (paywall) funciona como uma tentativa de **reduzir o uso indiscriminado da ferramenta** enquanto a xAI busca reorganizar suas salvaguardas internas.

O estopim para essa decisão foram os tipos de solicitações que começaram a circular com facilidade. Usuários passaram a pedir alterações em imagens para substituir roupas por lingerie ou biquínis, além de gerar imagens com expressões de medo ou submissão. Reguladores e organizações civis apontaram que o padrão dessas manipulações indicava um **uso sistemático voltado à humilhação e à exploração da imagem de terceiros**.

Consequências reais e a vigilância internacional sobre a IA

Esse cenário ganhou força após atualizações recentes no Grok, que simplificaram a edição de imagens enviadas pelos próprios usuários. O ponto crítico foi que as mudanças permitiam **alterações profundas sem qualquer notificação ou consentimento das pessoas retratadas**. A barreira técnica para a produção de material abusivo caiu, diminuindo o tempo, o esforço e o conhecimento necessários para criar tais conteúdos.

As consequências desses abusos atingiram pessoas reais. Relatos confirmados incluem a manipulação recorrente de imagens de Ashley St. Clair, influenciadora e mãe de um dos filhos de Elon Musk. Houve também casos envolvendo atrizes mirins, com fotos antigas alteradas e redistribuídas online. Um levantamento da AI Forensics, que analisou 20 mil imagens geradas em uma semana, identificou um padrão claro: **pedidos repetidos para “remover roupas” de mulheres jovens**.

O avanço do uso abusivo do Grok acionou alertas formais de órgãos reguladores internacionais. No Reino Unido, o Ofcom, regulador de comunicações, informou ter contatado o X após identificar “sérias preocupações” envolvendo imagens sexualizadas de crianças geradas com apoio do Grok. O órgão tem poderes para aplicar multas bilionárias e até restringir o acesso à plataforma no país.

O alerta mais grave veio da Internet Watch Foundation (IWF). A organização alertou que o Grok passou a ser citado em fóruns da dark web como uma ferramenta para a produção de material de abuso sexual infantil. Analistas da entidade identificaram imagens envolvendo crianças de 11 a 13 anos, enquadradas como crime gravíssimo pela legislação britânica. O problema, segundo a IWF, não se limita à origem das imagens, mas ao **papel da IA como facilitadora**.

Reguladores europeus e a resposta de Elon Musk

Nesse contexto, o Grok é descrito como uma “porta de entrada”. Imagens geradas inicialmente pela ferramenta poderiam servir de base para a criação de conteúdos ainda mais extremos em outros sistemas, o que amplia uma cadeia criminosa difícil de rastrear e conter. A resposta institucional se espalhou pela Europa. A Comissão Europeia determinou que o X preserve os documentos internos relacionados ao Grok até 2026, enquanto avalia a conformidade da empresa com leis sobre conteúdo ilegal.

Em Westminster, o Comitê de Mulheres e Igualdades abandonou oficialmente a plataforma, classificando o ambiente como inadequado para comunicação institucional diante da incapacidade de conter abusos. Elon Musk afirmou que usuários que produzirem conteúdo ilegal sofrerão as mesmas consequências de quem faz upload de material criminoso. A declaração, no entanto, contrastou com o tom adotado em outras postagens, nas quais ele ironizou a capacidade da IA de “colocar biquínis em tudo”.

Mesmo sob escrutínio intenso e em meio a um vácuo legal que ainda dificulta punições rápidas no Reino Unido, a xAI captou **US$ 20 bilhões** (aproximadamente R$ 108 bilhões) para expandir sua infraestrutura de dados. Esse movimento sinaliza que, na corrida pela IA, o dinheiro continua a avançar mais rápido do que as respostas aos danos causados por ela, deixando em aberto o debate sobre a **regulamentação e a ética no desenvolvimento e uso de inteligência artificial**.