Tag: direitos digitais

Deepfakes com IA: como criminosos exploram deficiências

A inteligência artificial (IA) abriu novas fronteiras tecnológicas, mas também se tornou uma ferramenta poderosa nas mãos de criminosos. Uma das práticas mais perturbadoras envolve o uso de deepfakes com IA para explorar indivíduos com deficiência, transformando suas imagens e identidades em esquemas lucrativos e discriminatórios. Essa exploração digital combina roubo de identidade com a perpetuação de estereótipos prejudiciais.

O modus operandi consiste na apropriação não autorizada de imagens de pessoas reais, frequentemente retiradas de perfis públicos em redes sociais. Filtros de IA são então programados para alterar características faciais, simulando a aparência de pessoas com deficiência, como a síndrome de Down. Essas imagens manipuladas são sobrepostas a corpos de outras pessoas, criando personagens fictícias para fins exploratórios, como no caso de Alice, uma jovem de 17 anos cuja imagem foi usada sem consentimento em uma conta com milhares de seguidores no Instagram.

O esquema de exploração e monetização

As contas fraudulentas seguem um padrão específico: postam conteúdo sugestivo para gerar engajamento, recebem comentários sexualmente explícitos e direcionam o tráfego para plataformas de conteúdo adulto pago. A deficiência é explorada como um nicho de mercado lucrativo. Segundo a pesquisadora Eleanor Drage, essa prática “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”, resultando em uma dupla camada de exploração. O esquema se beneficia da monetização em redes sociais, utilizando um sistema sofisticado de redirecionamento entre plataformas.

O funil de conversão para conteúdo adulto

O modelo de negócio, orquestrado por “Geradores de IA do OnlyFans”, foca na criação de influenciadores artificiais para promover conteúdo adulto. O processo inclui:

• Criação de engajamento: Contas no Instagram postam conteúdo sugestivo para atrair seguidores.
• Redirecionamento: Usuários são direcionados para perfis pagos no OnlyFans.
• Adaptação às políticas: Rostos são cortados ou ocultos no OnlyFans para evitar violações.
• Exploração de nichos: Deficiências são tratadas como “mercados de nicho” lucrativos.

Dorian, um “gerente” francês identificado pela BBC, detalhou em tutoriais como a IA permite criar “qualquer nicho sob demanda”, incluindo a exploração predatória de pessoas com deficiências. Essa estratégia visa dominar mercados pouco atendidos com personagens instantaneamente criados.

Impactos devastadores na comunidade com deficiência

Os deepfakes que simulam síndromes como a de Down causam danos profundos que transcendem as vítimas individuais, afetando toda a comunidade com deficiência. Os impactos são psicológicos e sociais, perpetuando estereótipos e objetificando condições genéticas. Ativistas como Jeremy e Audrey, que possuem síndrome de Down, expressaram profunda preocupação, afirmando: “Acho que não está certo que eles tenham uma deficiência falsa” e lamentando que “Estão fazendo isso por dinheiro. Por favor, parem com isso.”

Os principais impactos incluem:

• Fetichização da deficiência: Transformação de uma condição em objeto sexual.
• Representação distorcida: Criação de estereótipos prejudiciais.
• Apropriação de identidade: Uso não autorizado de imagens para lucro.
• Normalização da exploração: Tratamento da deficiência como “mercado de nicho”.

A pesquisadora Eleanor Drage descreve essa situação como uma “rede de exploração” que prejudica a dignidade e a autorrepresentação da comunidade.

Resposta das plataformas digitais: inconsistências e lacunas

As plataformas digitais têm demonstrado respostas inconsistentes e, por vezes, inadequadas diante do problema dos deepfakes exploratórios. O caso de Alice ilustra as dificuldades de fiscalização em um cenário tecnológico em rápida evolução. Inicialmente, o Instagram respondeu que a conta denunciada não violava as normas, pois o conteúdo deepfake não era explicitamente sexual. Após a investigação jornalística da BBC, houve maior efetividade:

• YouTube: Cancelou canais de Dorian por violar políticas de spam e práticas enganosas.
• Meta (Instagram): Removeu contas por personificação e promoção de serviços sexuais, exceto uma que só foi removida após intervenção da mídia.
• OnlyFans: Afirmou ter verificação de identidade para criadores, mas o sistema não detecta obtenção não autorizada de imagens de terceiros.

A falha das ferramentas automatizadas em detectar formas sofisticadas de exploração, que operam nas brechas das políticas, é evidente. A remoção da conta de Alice apenas após a exposição pública destaca a importância da pressão midiática.

Como se proteger de deepfakes maliciosos

A proteção contra deepfakes maliciosos exige vigilância pessoal e conscientização. As estratégias incluem:

• Monitoramento regular: Buscas periódicas pelo próprio nome e imagem online.
• Configurações de privacidade: Limitar a visibilidade de fotos e vídeos.
• Denúncias persistentes: Não desistir de reportar conteúdos abusivos às plataformas.
• Documentação: Manter registros de contas falsas e interações.

Para a comunidade, a proteção envolve educação sobre deepfakes, apoio às vítimas e pressão por políticas mais robustas nas plataformas digitais. A intervenção de veículos de comunicação continua sendo uma ferramenta poderosa para expor e combater essas práticas exploratórias.