Especialistas alertam que deepfakes podem influenciar eleições, relacionamentos e fraudes
Deepfakes — vídeos, áudios e imagens manipulados por inteligência artificial — estão cada vez mais convincentes, e a popularização dessas ferramentas coloca toda a sociedade em risco.
Com a difusão de ferramentas baseadas em aprendizado de máquina, criar uma falsificação que pareça real deixou de ser exclusividade de grupos especializados. Hoje, é possível manipular rostos, vozes e expressões com uma qualidade que engana usuários comuns, jornalistas e, em alguns casos, até sistemas automatizados de verificação.
Por que os deepfakes explodiram
O avanço dos modelos de aprendizado de máquina e a grande disponibilidade de imagens e vídeos nas redes sociais formaram o terreno ideal para a rápida evolução dos deepfakes. A técnica, que começou a ganhar notoriedade em comunidades online que trocavam rostos em vídeos, evoluiu para aplicações muito mais variadas, incluindo áudio e imagens geradas a partir de selfies.
Como explica o Dr. Richard Nock, líder do grupo de aprendizado de máquina da Data61, “é preciso um sistema de aprendizado de máquina para processar todas essas sequências de vídeo, com a máquina eventualmente aprendendo quem é a pessoa, como ela é representada, como se move e evolui no vídeo”. Essa capacidade de aprender padrões sutis de expressão e movimento torna os deepfakes notavelmente realistas.
Além da técnica, o volume de conteúdo pessoal compartilhado em redes sociais facilita o trabalho de quem fabrica falsificações. Com muitas selfies e gravações disponíveis, ferramentas que exigiam grande esforço passaram a conseguir resultados convincentes com menos dados e menos tempo.
Quem pode virar vítima
Qualquer pessoa que tenha presença digital pode ser alvo de deepfakes. Celebridades e políticos aparecem com frequência como alvos óbvios, mas usuários comuns também estão vulneráveis, tanto em golpes sentimentais quanto em fraudes financeiras.
Filtros e efeitos usados por diversão, como troca de gênero ou lentes que alteram rostos, podem servir de base para golpes. O catfishing, por exemplo, já faz uso dessas tecnologias para criar identidades falsas em aplicativos de namoro. Em um caso relatado, um universitário de 20 anos utilizou um filtro para se passar por uma adolescente, ajudando a denunciar um homem que tentou marcar um encontro com a falsa identidade.
Os riscos não se limitam a relacionamentos. A circulação de material falso pode minar investigações policiais, destruir reputações e influenciar a opinião pública. O vídeo manipulado da política Nancy Pelosi é um exemplo de como uma falsificação viral pode distorcer debates e minar a confiança na mídia tradicional.
Como detectar e se proteger
O combate aos deepfakes ocorre em duas frentes principais. Do lado tecnológico, há soluções que buscam autenticar arquivos, como marcações digitais em blockchain, e sistemas de detecção que analisam microexpressões e movimentos sutis. Universidades como UC Berkeley e USC desenvolvem ferramentas que, segundo relatórios, têm alcançado até 92% de precisão na identificação de manipulações.
Mesmo assim, essas defesas têm limitações. Marcas d’água digitais podem ser removidas, e criminosos continuam aprimorando suas ferramentas em um jogo de gato e rato. Por isso, a prevenção individual é crucial.
Entre as práticas recomendadas estão verificar a fonte original do conteúdo, checar publicações oficiais e desconfiar de vídeos que provoquem reações imediatas e extremas. Sempre que possível, buscar versões do material em veículos confiáveis e utilizar ferramentas de checagem pode reduzir o risco de ser enganado.
Além das medidas técnicas e individuais, especialistas destacam um impacto social: a perda de confiança em fontes públicas empurra pessoas para grupos fechados, onde a circulação de desinformação se intensifica. Isso amplia o poder de manipulação de quem cria e distribui deepfakes.
O avanço rápido do aprendizado de máquina significa que as técnicas de fabricação de falsificações vão continuar melhorando, e a resposta tecnológica precisa acompanhar esse ritmo. Enquanto isso, a combinação de tecnologia, educação e verificação continua sendo a melhor defesa para indivíduos e instituições.
Reportagem baseada em apurações de Valdir Antonelli e Rodrigo Mozelli, com informações de especialistas citados.
Deixe um comentário