Deepfakes com IA: como criminosos exploram deficiências em esquemas lucrativos
A inteligência artificial (IA) abriu novas fronteiras para a criatividade e inovação, mas também trouxe consigo ferramentas perigosas nas mãos erradas. Uma das aplicações mais alarmantes é o uso de deepfakes para explorar vulnerabilidades, com criminosos direcionando sua atenção para pessoas com deficiência em esquemas de monetização fraudulentos. Essa prática combina roubo de identidade com exploração discriminatória, criando um cenário digital sombrio.
O método envolve a apropriação não autorizada de imagens de indivíduos, frequentemente obtidas de perfis públicos em redes sociais. Utilizando filtros de IA, características faciais são alteradas para criar a aparência de pessoas com deficiências específicas, como a síndrome de Down. Essas imagens manipuladas são sobrepostas a corpos de pessoas reais, resultando em personagens fictícios que simulam ter a deficiência. A pesquisa da Universidade de Cambridge aponta que essa exploração “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”, afetando vítimas individuais e a comunidade com deficiência.
O esquema de monetização por trás dos deepfakes
A exploração de deepfakes maliciosos opera através de um sistema sofisticado de redirecionamento entre plataformas, aproveitando brechas nas políticas de moderação de conteúdo. O esquema funciona como um funil de conversão, começando em redes sociais como o Instagram e direcionando usuários para plataformas de conteúdo adulto pago, como o OnlyFans.
Esses esquemas são coordenados por indivíduos descritos como “Geradores de IA do OnlyFans”, especializados na criação de influenciadores artificiais para promover conteúdo adulto. Um exemplo é Dorian, um “gerente” francês que compartilhava tutoriais sobre como criar e monetizar esses conteúdos em plataformas como YouTube e Telegram.
A estratégia de monetização segue etapas bem definidas:
- Criação de engajamento: Contas em redes sociais postam conteúdo sugestivo para atrair seguidores.
- Redirecionamento: Usuários são direcionados para perfis pagos, como no OnlyFans.
- Adaptação às políticas: Rostos são alterados ou ocultos nas plataformas finais para evitar detecção de violação de regras sobre deepfakes.
- Exploração de nichos: Deficiências são tratadas como “mercados de nicho” lucrativos, explorando a falta de conteúdo específico ou a curiosidade predatória.
Conforme explicado por Dorian, a IA permite “criar qualquer nicho sob demanda”, incluindo a geração instantânea de personagens que exploram deficiências, visando dominar “nichos pouco atendidos”.
Impactos devastadores na comunidade com deficiência
Os deepfakes que simulam deficiências, como a síndrome de Down, causam danos profundos que transcendem as vítimas individuais. Eles afetam toda a comunidade de pessoas com deficiência, perpetuando estereótipos prejudiciais e a objetificação de condições genéticas.
Ativistas como Jeremy e Audrey, que possuem síndrome de Down, expressaram profunda preocupação com essa prática exploratória. “Acho que não está certo que eles tenham uma deficiência falsa”, declarou Audrey, enfatizando o orgulho que sentem por suas identidades únicas. Jeremy lamenta: “Estão fazendo isso por dinheiro. Por favor, parem com isso.” O sentimento de Audrey de “estar sendo usada” reflete como essa prática atinge a dignidade e a autorrepresentação da comunidade.
Os impactos incluem:
- Fetichização da deficiência: Uma condição médica transformada em objeto sexual.
- Representação distorcida: Criação e disseminação de estereótipos negativos.
- Apropriação de identidade: Uso não autorizado de imagens e identidades para obter lucro.
- Normalização da exploração: Tratamento da deficiência como um “mercado” a ser explorado.
A exploração cria uma “rede de exploração”, conforme descrito pela pesquisadora Eleanor Drage, que prejudica tanto indivíduos quanto a percepção social sobre pessoas com deficiência.
A resposta (in)suficiente das plataformas digitais
As plataformas digitais têm apresentado respostas inconsistentes e, muitas vezes, inadequadas ao problema dos deepfakes exploratórios. A dificuldade reside na rápida evolução tecnológica e nas brechas das políticas de moderação.
No caso de Alice, uma jovem de 17 anos cuja imagem foi utilizada sem consentimento, sua denúncia inicial ao Instagram resultou em uma resposta automática alegando que não havia violação das normas, pois os deepfakes não eram explicitamente sexuais. A conta, que acumulou 25 mil seguidores, só foi removida após investigação jornalística.
Após a intervenção da mídia, algumas ações foram tomadas:
- YouTube: Cancelou canais associados a práticas enganosas.
- Meta (Instagram): Removeu contas por personificação e promoção de serviços sexuais.
- OnlyFans: Reafirmou suas políticas de verificação de identidade, embora o sistema não detecte o uso não autorizado de imagens de terceiros.
A falha em remover a conta de Alice rapidamente demonstra que as ferramentas automatizadas são insuficientes para detectar formas sofisticadas de exploração que operam nas margens das políticas existentes.
Como se proteger e combater os deepfakes maliciosos
A proteção contra deepfakes maliciosos exige uma abordagem multifacetada, combinando vigilância pessoal, uso eficaz das ferramentas de denúncia e conscientização sobre os riscos inerentes à tecnologia.
Estratégias de proteção individual incluem:
- Monitoramento regular: Realizar buscas periódicas pelo próprio nome e imagem em diversas plataformas.
- Configurações de privacidade: Restringir a visibilidade de conteúdos pessoais em perfis públicos.
- Denúncias persistentes: Não desistir após respostas negativas ou automáticas das plataformas, buscando sempre os canais oficiais de denúncia.
- Documentação: Manter registros detalhados de contas falsas, conteúdo manipulado e tentativas de contato.
Para a comunidade em geral, a proteção envolve:
- Educação sobre deepfakes: Aprender a identificar sinais de conteúdo manipulado.
- Apoio às vítimas: Amplificar as denúncias e o alcance das pessoas afetadas.
- Pressão por políticas mais rigorosas: Exigir das plataformas digitais um aprimoramento constante em seus sistemas de detecção e moderação.
A intervenção de veículos de comunicação tem se mostrado uma ferramenta poderosa para expor e combater essas práticas, ressaltando a importância da transparência e da ação coordenada para mitigar os danos causados pelos deepfakes exploratórios.
