Grok, a IA controversa da xAI, sob fogo após denúncia de geração de material de abuso infantil
A Internet Watch Foundation (IWF), órgão britânico de combate à exploração sexual infantil online, emitiu um alerta grave sobre o uso da inteligência artificial Grok, desenvolvida pela xAI, empresa de Elon Musk. Segundo a IWF, a ferramenta, atrelada à rede social X (antigo Twitter), está sendo mencionada em fóruns da dark web como um meio para a criação de imagens de abuso sexual infantil. Analistas da entidade relataram ter encontrado material envolvendo crianças de 11 a 13 anos, o que representa um crime severo sob a legislação do Reino Unido.
Mudanças na IA facilitam manipulação e geram polêmica
O caso, que ganhou repercussão através do jornal The Guardian, intensifica as polêmicas em torno da IA de Musk. Recentes atualizações no Grok, especialmente em dezembro, facilitaram a manipulação de imagens, permitindo, por exemplo, a remoção digital de roupas de pessoas em fotos sem consentimento. Essa flexibilidade na edição de imagens, que antes exigia maior conhecimento técnico, agora se tornou mais acessível, abrindo portas para abusos.
As consequências dessas mudanças foram sentidas rapidamente. Órgãos oficiais começaram a abandonar a plataforma X, enquanto reguladores ameaçaram impor sanções. Especialistas em ética apontaram falhas de design que priorizam a velocidade de lançamento e o engajamento em detrimento da segurança e da responsabilidade.
A preocupação da IWF vai além da simples geração de conteúdo dentro do Grok. A entidade aponta que essas imagens, uma vez criadas, estão sendo utilizadas como matéria-prima para a produção de conteúdos ainda mais extremos, classificados como Categoria A – o nível mais severo de abuso –, em outras ferramentas de IA. Isso caracteriza a tecnologia como uma porta de entrada para uma cadeia criminosa mais ampla e perigosa.
Velocidade e realismo: um perigo para a normalização do abuso
Um dos fatores que mais preocupam os reguladores é a velocidade e o realismo com que as imagens podem ser geradas. A facilidade em criar representações fotorealistas diminui drasticamente o custo, o tempo e a barreira técnica para a prática desses crimes. Para a IWF, isso representa um risco real de que esse tipo de conteúdo se torne normalizado em ambientes digitais cada vez mais amplos, uma situação descrita como “inaceitável”.
A resposta institucional já começou a se manifestar. O Comitê de Mulheres e Igualdades da Câmara dos Comuns do Reino Unido decidiu abandonar o uso do X para comunicações oficiais, considerando a plataforma inadequada diante de sua aparente incapacidade de conter abusos. Este é o primeiro movimento oficial em Westminster diretamente ligado ao caso Grok.
No governo, o tom também se endureceu. Downing Street declarou apoio total à atuação do Ofcom, o regulador britânico de comunicações, que possui poderes para aplicar multas bilionárias e até mesmo suspender o acesso ao site no país. Apesar dessas medidas e promessas de salvaguardas, autoridades relatam que pedidos de manipulação de imagens de adolescentes continuam a circular, levantando sérias dúvidas sobre a eficácia das proteções prometidas pela plataforma.
Falhas de governança e vácuo legal expõem vulnerabilidades
A crise ganhou força após a atualização do Grok em dezembro, que simplificou a edição de imagens. A mudança tornou mais fácil remover digitalmente roupas de terceiros, sem qualquer notificação ou consentimento das pessoas retratadas. As consequências atingiram vítimas reais, como Ashley St. Clair, mãe de um dos filhos de Elon Musk, que relatou ter tido imagens antigas manipuladas sistematicamente para fins sexuais.
Casos semelhantes envolveram atrizes mirins, com fotos de infância alteradas e disseminadas online. Uma análise realizada pela organização AI Forensics ajudou a dimensionar o padrão. Ao examinar 20 mil imagens geradas pelo Grok em uma semana, pesquisadores encontraram uma predominância de pedidos envolvendo mulheres jovens, com termos recorrentes como “remover”, “roupas” e “biquíni”. Uma parcela menor, mas ainda significativa, envolvia menores de idade, confirmando as denúncias da IWF.
O problema esbarra em um vácuo legal. No Reino Unido, leis que criminalizam a criação e a solicitação de deepfakes íntimos sem consentimento já foram aprovadas, mas ainda não entraram em vigor. Essa demora na implementação limita a capacidade de punição rápida, mesmo diante de danos evidentes. Especialistas ouvidos pelo Olhar Digital enfatizam que o problema central não reside na IA em si, mas nas escolhas humanas de design. A prioridade dada ao engajamento e à rapidez de lançamento, em detrimento de uma governança robusta, limites claros e responsabilidade, permite que a tecnologia seja usada como uma arma de assédio e humilhação.
Inovação avança, mas a proteção das vítimas fica para trás
Em meio à crise ética, a xAI anunciou a captação de US$ 20 bilhões (aproximadamente R$ 107,6 bilhões), com apoio de grandes fundos e da Nvidia, para expandir seus centros de dados e poder de processamento. Esse investimento sinaliza confiança no crescimento da empresa, apesar da pressão e do escrutínio internacional.
O X, por sua vez, afirma remover conteúdos ilegais e suspender contas infratoras. No entanto, reguladores do Reino Unido e da União Europeia continuam a investigar se essas medidas são, de fato, eficazes. O caso do Grok expõe uma tensão central na corrida pela inteligência artificial: a inovação avança em velocidade acelerada, enquanto os mecanismos de proteção e regulamentação lutam para acompanhar. E, infelizmente, o custo dessa disparidade recai sobre as vítimas.
Deixe um comentário