Reino Unido criminaliza nudes gerados com IA após escândalo do Grok

Nova lei endurece regras para plataformas digitais e mira criadores de deepfakes íntimos não consensuais.

Pressão governamental força X/Twitter a restringir ferramentas de imagem

O Reino Unido tomou uma atitude drástica ao antecipar a entrada em vigor de leis que tornam crime a criação de **deepfakes íntimos não consensuais**. A medida surge como resposta direta ao uso da inteligência artificial **Grok**, desenvolvida pela xAI, que facilitou a disseminação de imagens sexualizadas sem o consentimento das pessoas retratadas. Diante do alarmante volume de conteúdo abusivo envolvendo mulheres e menores de idade, o primeiro-ministro Keir Starmer emitiu um alerta sério: a rede social **X/Twitter pode perder seu direito à autorregulação**. Essa pressão governamental levou a empresa de Elon Musk a restringir o uso de suas ferramentas de imagem, limitando-as a assinantes pagos em uma tentativa de conter a crise.

A nova legislação britânica classifica a produção de nudes gerados por IA como um **crime grave**. O governo agiu prontamente após o chatbot Grok ser explorado para inundar a rede social com montagens degradantes. Essa resposta legislativa faz parte do **Data Act**, que agora estabelece a produção desse tipo de conteúdo como uma ofensa criminal, sujeita a punições severas em todo o território britânico.

A regra recém-implementada exige que as plataformas digitais adotem uma **postura proativa** para impedir a disseminação desses materiais. A partir de agora, não será mais suficiente apenas remover o conteúdo após receber denúncias, o foco principal se volta para a prevenção e o controle das ferramentas de criação dentro dos próprios sites e aplicativos. Autoridades como a secretária de Tecnologia, Liz Kendall, enfatizaram que a inovação tecnológica não deve servir para **degradar a dignidade humana**. Por essa razão, a nova lei também se dedica a proibir o fornecimento de ferramentas online projetadas especificamente para a criação desses deepfakes abusivos.

Ofcom investiga X/Twitter e ameaça com multas bilionárias

O endurecimento do tom por parte do governo britânico se intensificou porque, apesar de a xAI ter imposto limites financeiros ao uso do Grok, **brechas ainda permitiam edições sexualizadas**, conforme relatado pelo The Verge. O governo britânico foi categórico ao afirmar que, caso a rede X não consiga controlar sua própria tecnologia de IA, o Estado assumirá esse controle. Essa mudança de postura marca o fim de um período de relativa leniência com as big techs no Reino Unido e serve como um **alerta global** sobre os limites éticos da tecnologia. A transição para este novo regime de vigilância agora depende da execução rigorosa por parte do órgão regulador local.

A **Ofcom (Office of Communications)**, órgão regulador responsável pela fiscalização dos serviços de comunicação no Reino Unido, lançou uma investigação oficial contra o X. A ação se baseia em relatórios “profundamente preocupantes” sobre o comportamento do Grok. O objetivo da Ofcom é verificar se a plataforma violou a **Lei de Segurança Online** ao falhar na proteção dos usuários contra conteúdos ilegais. As consequências financeiras para Elon Musk podem ser sem precedentes, com multas que podem chegar a **10% do faturamento global da empresa**. Em valores absolutos, essa penalidade pode atingir **18 milhões de libras esterlinas**, o que equivale a aproximadamente R$ 130 milhões.

Além do potencial prejuízo financeiro, o regulador detém o poder de buscar ordens judiciais para **bloquear o acesso ao X em todo o Reino Unido**. Essa medida drástica seria aplicada caso a empresa se recusasse a colaborar com a investigação ou falhasse sistematicamente em limpar seu ambiente digital de abusos. A gestão de Musk, por sua vez, rebateu as críticas, afirmando que o clamor público é uma desculpa para a censura, embora prometa punir usuários infratores. No entanto, para o governo britânico, essas declarações contrastam com a **incapacidade técnica demonstrada pela plataforma** em frear os danos em tempo real.

Deepfakes íntimos: o futuro da regulamentação tecnológica

O desfecho desta investigação servirá como um **marco jurídico** para a forma como as democracias lidarão com ferramentas generativas sem a devida supervisão. O mercado de tecnologia observa atentamente se a infraestrutura bilionária da xAI será capaz de se adaptar à nova lei ou se enfrentará um banimento. A criminalização de nudes gerados por IA, impulsionada pelo caso do Grok, estabelece um novo precedente na luta contra a exploração digital e a violação da privacidade.

A rápida evolução da inteligência artificial traz consigo desafios éticos e legais cada vez mais complexos. A capacidade de criar imagens e vídeos realistas levanta preocupações sérias sobre o potencial uso indevido dessas tecnologias. O caso do Grok e a resposta do governo britânico evidenciam a necessidade urgente de **regulamentações robustas** que acompanhem o ritmo do avanço tecnológico, protegendo os cidadãos contra crimes como a criação e disseminação de deepfakes íntimos não consensuais.

As plataformas digitais agora enfrentam a responsabilidade de implementar medidas eficazes para prevenir a geração e o compartilhamento desse tipo de conteúdo. A expectativa é que outras nações sigam o exemplo do Reino Unido, endurecendo suas leis e exigindo maior controle sobre as ferramentas de IA. A luta contra a exploração sexual online e a proteção da dignidade humana em ambientes digitais se tornam, assim, prioridades globais inadiáveis.