Deepfakes com IA: Como Criminosos Exploram Deficiências

Deepfakes com IA: Como Criminosos Exploram Deficiências

A inteligência artificial (IA) avança rapidamente, trazendo inovações, mas também novas formas de exploração. Criminosos têm se aproveitado da tecnologia de deepfakes para criar esquemas lucrativos, explorando de maneira particularmente cruel indivíduos com deficiência. Essa prática, que combina roubo de identidade com discriminação, tem gerado preocupações significativas.

O método consiste na apropriação não autorizada de imagens de pessoas reais, muitas vezes retiradas de perfis de redes sociais. Em seguida, filtros de IA são usados para alterar características faciais, simulando condições como a síndrome de Down, e aplicados sobre o corpo de modelos. Essas figuras fictícias são então utilizadas para direcionar usuários a plataformas de conteúdo adulto pago, explorando a deficiência como um nicho de mercado.

Como funcionam os deepfakes exploratórios

A exploração de deepfakes que simulam síndrome de Down é uma forma alarmante de abuso digital. O processo inicia com a coleta de imagens de mulheres em seus perfis públicos. A IA, então, modifica a aparência facial para criar a ilusão de que a pessoa tem síndrome de Down. Essas imagens são sobrepostas a corpos de modelos reais, resultando em personagens completamente falsas.

Um exemplo chocante é o caso de Alice, uma jovem de 17 anos, cuja imagem foi usada sem permissão em uma conta no Instagram que alcançou 25 mil seguidores. Essas contas operam em um padrão bem definido: postam conteúdo sugestivo para obter engajamento, recebem comentários explícitos e redirecionam o tráfego para sites de conteúdo adulto pago.

“Retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”, explica a pesquisadora Eleanor Drage, da Universidade de Cambridge.

Essa prática cria uma dupla camada de exploração, afetando tanto as vítimas diretas quanto a comunidade de pessoas com deficiência como um todo.

O esquema de monetização nas redes sociais

A monetização desses deepfakes maliciosos é um sistema sofisticado de redirecionamento entre plataformas. O esquema funciona como um funil de conversão, começando no Instagram e culminando em plataformas de conteúdo adulto, como o OnlyFans. Os responsáveis por isso são conhecidos como “Geradores de IA do OnlyFans”, especialistas em criar influenciadores virtuais para promover conteúdo adulto.

Um “gerente” francês, identificado pela BBC como Dorian, compartilhava tutoriais em canais no YouTube e grupos no Telegram, ensinando a estratégia. O modelo de monetização segue etapas:

• Criação de engajamento: Contas no Instagram postam conteúdo sugestivo para atrair seguidores.
• Redirecionamento: Usuários são direcionados para perfis pagos, como o OnlyFans.
• Adaptação às políticas: Rostos são ocultos ou cortados para evitar detecção de deepfakes pelas plataformas.
• Exploração de nichos: Deficiências são vistas como “mercados de nicho” lucrativos.

Dorian destacou em seus tutoriais a capacidade da IA de criar “qualquer nicho sob demanda”, incluindo pessoas com deficiências, como parte de uma estratégia comercial predatória.

Impactos na comunidade com deficiência

Os deepfakes que simulam síndrome de Down causam danos profundos, afetando não apenas as vítimas individuais, mas toda a comunidade com deficiência. O impacto é psicológico e social, perpetuando estereótipos e objetificando uma condição genética.

Ativistas como Jeremy e Audrey, que possuem síndrome de Down, expressaram sua preocupação. “Acho que não está certo que eles tenham uma deficiência falsa”, disse Audrey à BBC. “Eu e Jeremy temos síndrome de Down e adoramos isso. Ela é única e eu adoro. É meio que a melhor coisa da minha vida.”

Os impactos incluem:

• Fetichização da deficiência: Transformação de uma condição genética em objeto sexual.
• Representação distorcida: Criação de estereótipos prejudiciais.
• Apropriação de identidade: Uso não autorizado de imagens da comunidade para lucro.
• Normalização da exploração: Tratamento da deficiência como “nicho de mercado”.

“Estão fazendo isso por dinheiro”, lamenta Jeremy. “Por favor, parem com isso.” A sensação de estar “sendo usada”, expressa por Audrey, reflete como essa prática afeta a dignidade e a autorrepresentação da comunidade.

Resposta das plataformas digitais

As plataformas digitais têm apresentado respostas inconsistentes e muitas vezes inadequadas diante do problema dos deepfakes exploratórios, revelando lacunas em suas políticas de moderação.

No caso de Alice, a denúncia inicial ao Instagram resultou em uma resposta automática alegando que o usuário não violou as normas, pois os vídeos não eram explicitamente sexuais, explorando uma brecha nas políticas. Somente após a investigação jornalística da BBC, as plataformas agiram:

• YouTube: Cancelou canais de Dorian por violar políticas de spam e práticas enganosas.
• Meta (Instagram): Removeu a maioria das contas denunciadas por personificação e promoção de serviços sexuais.
• OnlyFans: Reafirmou suas verificações de identidade, mas o sistema atual não impede o uso de imagens obtidas sem autorização.

A remoção da conta que usava a imagem de Alice só ocorreu após a intervenção midiática, evidenciando a insuficiência das ferramentas automatizadas de moderação contra explorações sofisticadas.

Como se proteger de deepfakes maliciosos

A proteção contra deepfakes maliciosos exige uma abordagem multifacetada, combinando vigilância pessoal, uso de ferramentas de denúncia e conscientização.

Estratégias individuais incluem:

• Monitoramento regular: Buscar periodicamente pelo próprio nome e imagem em diversas plataformas.
• Configurações de privacidade: Limitar a visibilidade de fotos e vídeos em perfis públicos.
• Denúncias persistentes: Não desistir após respostas automáticas negativas das plataformas.
• Documentação: Manter registros de contas falsas e tentativas de contato.

Para a comunidade em geral, a proteção envolve educação sobre deepfakes, apoio às vítimas e pressão por políticas mais eficazes nas plataformas digitais. A exposição pública através da mídia, como no caso relatado pela BBC, continua sendo uma ferramenta importante para combater essas práticas exploratórias.