Deepfakes com IA: a nova fronteira da exploração digital
A inteligência artificial (IA) está revolucionando diversas áreas, mas infelizmente, também abre portas para novas formas de crime. Uma das mais preocupantes é o uso de deepfakes para explorar pessoas com deficiência, transformando suas imagens em ferramentas de ganho financeiro ilícito. Esse método combina roubo de identidade com discriminação, criando um cenário de dupla exploração.
O processo envolve a apropriação não autorizada de imagens de indivíduos, frequentemente extraídas de redes sociais. Filtros de IA são então usados para alterar características faciais, simulando deficiências. Essas imagens manipuladas são aplicadas em corpos de outras pessoas, gerando personagens fictícios que exploram a condição para fins lucrativos, muitas vezes direcionando o tráfego para plataformas de conteúdo adulto pago. O caso de Alice, uma jovem de 17 anos cujas imagens foram usadas sem consentimento em uma conta que acumulou 25 mil seguidores no Instagram, exemplifica essa prática predatória.
Como funcionam os deepfakes que simulam deficiências
A criação de deepfakes exploratórios, especialmente aqueles que simulam a síndrome de Down, é um processo tecnicamente elaborado. Utiliza-se a tecnologia de IA para manipular imagens de mulheres reais, obtidas sem permissão de seus perfis públicos. O objetivo é aplicar filtros que alterem traços faciais, conferindo a aparência de pessoas com síndrome de Down a personagens inteiramente virtuais.
Esses personagens fictícios são a base para contas em redes sociais, como o Instagram, que postam conteúdo intencionalmente sugestivo. A intenção é clara: gerar alto engajamento, atrair comentários de natureza sexual e, subsequentemente, redirecionar os usuários para plataformas de conteúdo adulto pago. A deficiência, nesse contexto, é transformada em um nicho de mercado exploratório.
De acordo com a pesquisadora Eleanor Drage, da Universidade de Cambridge, essa prática “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”. Essa estratégia cria uma vulnerabilidade dupla, prejudicando tanto as vítimas individuais de roubo de imagem quanto a comunidade de pessoas com deficiência como um todo.
O esquema de monetização nas redes sociais
A monetização desses deepfakes maliciosos é orquestrada por um esquema sofisticado de redirecionamento entre plataformas digitais. O objetivo é capitalizar as diferentes políticas de moderação de conteúdo de cada rede social, operando como um funil de conversão. Esse modelo é frequentemente coordenado por indivíduos conhecidos como “Geradores de IA do OnlyFans”, especializados em criar influenciadores virtuais para promover conteúdo adulto.
O processo de monetização segue etapas bem definidas:
- Criação de engajamento: Contas em plataformas como o Instagram publicam conteúdo provocativo para atrair um grande número de seguidores.
- Redirecionamento: Os usuários engajados são então direcionados para perfis pagos em plataformas de conteúdo adulto, como o OnlyFans.
- Adaptação às políticas: Para contornar as regras das plataformas, rostos em deepfakes podem ser cortados ou ocultos no conteúdo adulto, dificultando a detecção de manipulação.
- Exploração de nichos: Deficiências são intencionalmente usadas como “mercados de nicho” lucrativos, capitalizando a curiosidade e, por vezes, o fetiche dos usuários.
Conforme explicado por criadores desses esquemas, a IA permite a criação instantânea de qualquer personagem ou nicho sob demanda, incluindo aqueles explorando deficiências. Essa estratégia visa dominar mercados pouco atendidos, transformando a vulnerabilidade em oportunidade de lucro.
Impactos na comunidade com deficiência
Os deepfakes que simulam síndromes, como a de Down, geram danos profundos que transcendem as vítimas individuais. Eles perpetuam estereótipos prejudiciais e objetificam condições genéticas, afetando a percepção social e a dignidade de toda a comunidade com deficiência.
Ativistas e produtores de conteúdo com síndrome de Down expressam profunda preocupação com essa exploração. A criação de perfis falsos que simulam deficiências é vista como uma distorção da realidade e uma apropriação indevida de identidades. A declaração “Acho que não está certo que eles tenham uma deficiência falsa” reflete o sentimento de desrespeito e a dor causada por essa prática.
Os impactos incluem:
- Fetichização da deficiência: Transformação de uma condição humana em objeto sexual.
- Representação distorcida: Criação e disseminação de estereótipos negativos.
- Apropriação de identidade: Uso indevido da imagem e experiência de pessoas com deficiência para lucro.
- Normalização da exploração: Tratamento da deficiência como um mero “mercado de nicho” explorável.
“Estão fazendo isso por dinheiro. Por favor, parem com isso”, clamam ativistas, evidenciando o impacto emocional e a sensação de violação de direitos e dignidade que essa exploração causa.
Resposta das plataformas digitais
A resposta das plataformas digitais ao problema dos deepfakes exploratórios tem sido inconsistente e, em muitos casos, insuficiente. Essa lentidão e ineficácia revelam lacunas significativas nas políticas de moderação de conteúdo e na capacidade de enforcement em um cenário tecnológico em constante evolução.
Em casos como o de Alice, a denúncia inicial à plataforma resultou em uma resposta automática alegando que não havia violação das normas, pois os vídeos deepfake não eram explicitamente sexuais, explorando uma brecha nas políticas existentes. Foi necessária uma intervenção jornalística para que medidas efetivas fossem tomadas.
Após investigação da BBC, algumas plataformas agiram:
- YouTube: Cancelou canais associados à promoção desses esquemas por violarem políticas de spam e práticas enganosas.
- Meta (Instagram): Removeu contas denunciadas por desrespeito às regras de personificação e promoção de serviços sexuais.
- OnlyFans: Reafirmou seus procedimentos de verificação de identidade, embora o sistema não detectasse a obtenção não autorizada de imagens de terceiros.
A remoção de contas fraudulentas frequentemente dependeu de exposição pública, evidenciando a insuficiência das ferramentas automatizadas para detectar explorações criativas e sofisticadas.
Como se proteger de deepfakes maliciosos
A proteção contra deepfakes maliciosos exige uma abordagem proativa e multifacetada. A vigilância pessoal, o uso correto das ferramentas de denúncia das plataformas e a conscientização sobre os riscos são fundamentais para mitigar a exploração.
Estratégias de proteção individual incluem:
- Monitoramento regular: Realizar buscas periódicas pelo próprio nome e imagem em diferentes plataformas online.
- Configurações de privacidade: Restringir a visibilidade de fotos e vídeos em perfis públicos para dificultar a apropriação.
- Denúncias persistentes: Não se contentar com respostas automáticas negativas; insistir nos canais formais de denúncia.
- Documentação: Manter registros detalhados de contas falsas e quaisquer tentativas de contato.
Para a comunidade em geral, a proteção envolve:
- Educação sobre deepfakes: Aprender a identificar sinais de conteúdo manipulado digitalmente.
- Apoio às vítimas: Amplificar as denúncias e dar suporte a pessoas afetadas.
- Pressão por políticas melhores: Exigir que as plataformas aprimorem seus sistemas de detecção e moderação de conteúdo.
A intervenção de veículos de comunicação e a exposição pública de práticas exploratórias continuam sendo ferramentas poderosas para combater a disseminação de deepfakes maliciosos e proteger as populações mais vulneráveis.
