UNICEF Urge Criminalização de Criação de Abuso Infantil por IA

Reino Unido Lidera Iniciativa Global contra Deepfakes e Nudificação de Menores

A UNICEF, agência das Nações Unidas dedicada à infância, fez um apelo contundente para que países ao redor do mundo implementem legislações que tornem ilegal a criação de conteúdo de abuso sexual infantil gerado por inteligência artificial (IA). Este chamado urgente surge em resposta a um alarmante aumento no uso de ferramentas de IA para produzir imagens que sexualizam crianças, uma prática que, segundo a entidade, já está causando danos reais e imediatos às vítimas.

Em sintonia com o apelo da UNICEF, o Reino Unido anunciou sua intenção de tornar ilegal o uso de ferramentas de IA para a produção desse tipo de material. Caso seja aprovada, a medida colocará o país na vanguarda global, sendo o primeiro a criminalizar especificamente essa conduta. A proposta britânica reflete uma preocupação crescente com o potencial de sistemas generativos de IA para criar imagens, vídeos e áudios falsos envolvendo menores de idade, exacerbando os riscos de exploração e abuso.

Alerta da UNICEF: O Crescimento Alarmante dos Deepfakes Infantis

Em um comunicado oficial, a UNICEF expressou profunda preocupação com o crescimento exponencial de imagens sexualizadas de crianças produzidas por IA. Essas criações, conhecidas como deepfakes, são conteúdos artificiais de alta fidelidade, capazes de imitar pessoas reais de forma convincente, tornando a identificação de sua origem fraudulenta um desafio cada vez maior. Para a agência, o impacto desse tipo de abuso é “real e urgente”, e a resposta legal e social não pode mais ser adiada.

Os dados divulgados pela própria organização pintam um quadro sombrio da situação. Ao longo do último ano, pelo menos **1,2 milhão de crianças em 11 países** relataram ter suas imagens manipuladas para a criação de deepfakes de natureza sexualmente explícita. A UNICEF também destacou sua apreensão com a prática conhecida como “nudificação”, onde ferramentas de IA são empregadas para remover ou alterar roupas em fotografias, resultando na geração de imagens falsas de nudez ou com teor sexual explícito. Esta técnica representa uma violação grave da privacidade e dignidade das crianças.

Ações Necessárias: Governos, Desenvolvedores e Plataformas Digitais

Diante deste cenário preocupante, a UNICEF não se limita a apelar aos governos. A agência também direciona suas demandas aos desenvolvedores de IA, instando-os a adotar abordagens de segurança desde a concepção dos sistemas. Isso implica a implementação de mecanismos robustos que dificultem ativamente o uso indevido dos modelos de IA para fins ilícitos. Paralelamente, a entidade cobra das empresas de tecnologia digital um reforço significativo na moderação de conteúdo, com investimentos substanciais em tecnologias de detecção para impedir a circulação e disseminação dessas imagens prejudiciais.

A necessidade de regulamentação e controle se torna ainda mais premente quando consideramos a facilidade com que essas ferramentas podem ser acessadas e utilizadas. A proliferação de plataformas e aplicativos que oferecem capacidades de geração de imagem por IA exige uma resposta coordenada e eficaz para mitigar os riscos associados.

Plataformas de IA Sob Escrutínio: O Caso do Grok

O debate sobre o uso indevido de IA ganhou força recentemente com investigações sobre a capacidade de chatbots de gerar material de abuso infantil. Um exemplo notório é o chatbot Grok, desenvolvido pela xAI, empresa de Elon Musk. Investigações apontaram que o Grok produziu imagens sexualizadas de mulheres e menores, levantando sérias questões sobre os protocolos de segurança da plataforma.

Uma reportagem da Reuters revelou que o chatbot continuou a gerar imagens dessa natureza mesmo após usuários alertarem que as pessoas retratadas não haviam dado consentimento. Em resposta a essas denúncias, a xAI informou em 14 de janeiro que implementou restrições na edição de imagens no Grok. Além disso, a empresa passou a bloquear, com base na localização geográfica, a geração de imagens de pessoas com roupas reveladoras em jurisdições onde tal conduta é ilegal. Contudo, a empresa não detalhou quais países estão incluídos nessa lista de restrições. Anteriormente, a xAI já havia limitado os recursos de geração e edição de imagens apenas a assinantes pagantes, uma medida que, embora vise controlar o acesso, não aborda diretamente a natureza do conteúdo gerado.

A resposta da xAI, embora um passo na direção certa, evidencia a complexidade do problema. A capacidade de gerar conteúdo prejudicial por meio de IA exige um compromisso contínuo com a segurança e a ética por parte de todas as empresas envolvidas no desenvolvimento e na disponibilização dessas tecnologias. A colaboração entre governos, indústria e sociedade civil é fundamental para criar um ambiente digital mais seguro para crianças e adolescentes, protegendo-os dos perigos emergentes da inteligência artificial.