Tag: segurança online

Deepfakes com IA: a nova fronteira da exploração digital

A inteligência artificial (IA) avançou a ponto de criar representações digitais indistinguíveis da realidade, os chamados deepfakes. Infelizmente, essa tecnologia poderosa está sendo desvirtuada por criminosos que exploram vulnerabilidades específicas, como as deficiências, em esquemas de monetização predatórios. A tática envolve a apropriação não autorizada de imagens de pessoas reais, manipuladas por IA para simular condições como a síndrome de Down, com o objetivo de direcionar usuários a plataformas de conteúdo adulto pago.

Esses esquemas representam uma dupla camada de exploração: violam a privacidade e a imagem de indivíduos e objetificam uma comunidade inteira. A pesquisa aponta para a sofisticação do método, que utiliza redes sociais para criar engajamento inicial e, em seguida, redireciona o tráfego para serviços pagos, muitas vezes ocultando o rosto das vítimas para contornar as políticas das plataformas. A comunidade com deficiência expressa profunda preocupação com essa prática, que perpetua estereótipos e fetichiza suas condições.

Como funcionam os deepfakes exploratórios

O método mais perturbador envolve a criação de deepfakes que simulam pessoas com síndrome de Down. Criminosos roubam imagens de perfis públicos de mulheres em redes sociais e utilizam filtros de IA para alterar suas feições, criando a aparência de ter a síndrome. Essas imagens manipuladas são então sobrepostas a corpos de mulheres reais, gerando personagens fictícias.

Um exemplo alarmante é o caso de Alice, uma jovem de 17 anos, cuja imagem foi utilizada sem consentimento em uma conta do Instagram que alcançou 25 mil seguidores. O padrão observado em tais contas é:

• Postagem de conteúdo sugestivo para gerar engajamento.
• Recebimento de comentários sexualmente explícitos.
• Redirecionamento de usuários para plataformas de conteúdo adulto pago, como o OnlyFans.
• Exploração da deficiência como um nicho de mercado específico e lucrativo.

Segundo a pesquisadora Eleanor Drage, da Universidade de Cambridge, essa prática “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”.

O esquema de monetização nas redes sociais

Esses deepfakes maliciosos são monetizados através de um sistema engenhoso que explora as políticas de diferentes redes sociais. O processo funciona como um funil de conversão, iniciado no Instagram e culminando em plataformas de conteúdo adulto. Os responsáveis por essa operação são conhecidos como “Geradores de IA do OnlyFans”, indivíduos especializados em criar influenciadores artificiais para promover conteúdo adulto.

Um exemplo de operação envolve um “gerente” francês, identificado pela BBC, que compartilhava tutoriais sobre a criação desses deepfakes em canais no YouTube e Telegram. A estratégia de monetização se desdobra em etapas claras:

1. Criação de engajamento: Contas no Instagram postam conteúdo provocativo para atrair um grande número de seguidores.
2. Redirecionamento: Os usuários são subsequentemente direcionados para perfis pagos em plataformas como o OnlyFans.
3. Adaptação às políticas: Para evitar detecção e violação de regras, os rostos nos perfis pagos são frequentemente cortados ou ocultados.
4. Exploração de nichos: Deficiências são categorizadas como “mercados de nicho” com alto potencial de lucro, permitindo a criação rápida de personagens sob demanda.

O criador de conteúdo artificial, Dorian, mencionou em seus tutoriais que “uma das melhores coisas com a IA é que você pode criar qualquer nicho sob demanda”, incluindo pessoas com deficiências como um “mercado pouco atendido”.

Impactos devastadores na comunidade com deficiência

Os deepfakes que simulam síndrome de Down causam danos que transcendem as vítimas individuais, impactando toda a comunidade de pessoas com deficiência. O prejuízo é tanto psicológico quanto social, reforçando estereótipos prejudiciais e objetificando uma condição genética.

Ativistas e produtores de conteúdo com síndrome de Down, como Jeremy e Audrey, expressaram grande preocupação. “Acho que não está certo que eles tenham uma deficiência falsa”, disse Audrey. “Eu e Jeremy temos síndrome de Down e adoramos isso. Ela é única e eu adoro. É meio que a melhor coisa da minha vida.” Jeremy lamenta: “Estão fazendo isso por dinheiro. Por favor, parem com isso.”

Os principais impactos incluem:

• Fetichização da deficiência: Uma condição genética é transformada em objeto de desejo sexual.
• Representação distorcida: Criação e disseminação de estereótipos negativos sobre pessoas com síndrome de Down.
• Apropriação de identidade: Uso não consentido da imagem da comunidade para fins de lucro.
• Normalização da exploração: A deficiência é tratada como um mero “nicho de mercado”.

A sensação de “estar sendo usada”, expressa por Audrey, reflete como essa prática atenta contra a dignidade e a autorrepresentação da comunidade. Essa exploração, descrita como uma “rede de exploração” por Eleanor Drage, prejudica indivíduos e a percepção social sobre pessoas com deficiência.

Resposta das plataformas digitais: um cenário complexo

As plataformas digitais têm apresentado respostas inconsistentes e, por vezes, inadequadas diante do problema dos deepfakes exploratórios, evidenciando falhas em seus sistemas de moderação de conteúdo. A resposta inicial do Instagram ao caso de Alice foi problemática: após a denúncia, a plataforma informou que o usuário não violou as normas, pois os vídeos deepfake não eram explicitamente sexuais, explorando uma brecha nas políticas.

No entanto, após a intervenção jornalística da BBC, houve ações mais efetivas:

• YouTube: Cancelou canais de Dorian por violarem políticas de spam, fraude e práticas enganosas.
• Meta (Instagram): Removeu a maioria das contas denunciadas por personificação e promoção de serviços sexuais.
• OnlyFans: Afirmou que todos os criadores passam por verificação de identidade e que conteúdo desse tipo é proibido.

Contudo, a conta que explorava a imagem de Alice só foi removida após a exposição midiática, o que demonstra a insuficiência das ferramentas automatizadas para detectar explorações sofisticadas. O OnlyFans alega verificar a idade e o consentimento das imagens, mas o sistema não detecta o uso não autorizado de terceiros.

Como se proteger de deepfakes maliciosos

A proteção contra deepfakes maliciosos exige uma abordagem multifacetada. É fundamental que os usuários estejam vigilantes, utilizem as ferramentas de denúncia disponíveis e compreendam os riscos inerentes à exposição online.

Estratégias de proteção individual incluem:

• Monitoramento constante: Realizar buscas periódicas pelo próprio nome e imagem em diferentes plataformas.
• Configurações de privacidade: Limitar a visibilidade de fotos e vídeos em perfis públicos.
• Denúncias persistentes: Não aceitar respostas automáticas negativas das plataformas e insistir nas denúncias.
• Documentação: Manter registros de contas falsas e tentativas de contato.

Alice, por exemplo, tentou contato direto com os criadores da conta falsa sem sucesso. A denúncia formal e persistente às plataformas, juntamente com a intervenção da imprensa, provou ser mais eficaz. Para a sociedade, a proteção envolve:

1. Educação sobre deepfakes: Aprender a identificar conteúdo manipulado.
2. Apoio às vítimas: Amplificar denúncias de pessoas afetadas.
3. Pressão por políticas eficazes: Exigir que as plataformas aprimorem seus sistemas de detecção e moderação.

A exposição pública através da mídia continua sendo uma ferramenta poderosa para combater essas práticas exploratórias, evidenciando a necessidade de uma vigilância contínua e de ações conjuntas para mitigar os danos causados pelos deepfakes maliciosos.