Deepfakes e IA generativa desafiam a confiança digital e exigem novas estratégias de proteção
O avanço acelerado da inteligência artificial generativa e a sofisticação crescente dos deepfakes estão abalando a confiança digital em escala global. A criação de conteúdos falsos, como vídeos, imagens e áudios realistas, que simulam a identidade de pessoas, amplia o risco de fraudes. Especialistas do Serpro e do Banco do Brasil destacaram a necessidade de combinar tecnologia, curadoria humana e experiência do usuário para enfrentar esses desafios.
Essas tecnologias, capazes de imitar rostos, vozes e expressões com precisão impressionante, representam um novo patamar na evolução das fraudes digitais. Se antes os ataques eram rudimentares, hoje eles se tornaram mais acessíveis e diretamente ligados ao desenvolvimento da IA generativa, tornando a proteção um desafio cada vez maior.
Ataques mais sofisticados e acessíveis
A maior visibilidade de sistemas digitais atrai mais tentativas de fraude. Carlos Rodrigo Fonseca Lima, gerente do Centro de Excelência em Ciência de Dados e Inteligência Artificial do Serpro, explica que quanto maior a notoriedade, mais os sistemas são testados. Ele observou que, em 2020 e 2021, os ataques eram fáceis de identificar, mas hoje impressionam e estão atrelados à IA generativa.
A democratização dessas tecnologias alterou o perfil dos fraudadores. Se antes era necessário conhecimento técnico avançado, hoje qualquer pessoa pode acessar ferramentas que facilitam a criação de conteúdos falsos. Essa facilidade, embora traga benefícios, amplia os riscos de uso indevido. A motivação também mudou, passando de fraudes com objetivos claros para testes de limites dos sistemas, especialmente aqueles ligados ao governo.
Fraude ganha escala industrial
Luiz Maurício Zonta, gerente da Unidade de Segurança Digital do Banco do Brasil, aponta que a principal transformação está na escala das operações criminosas. O que era artesanal agora é estruturado, com um processo quase empresarial por trás das tentativas de fraude. Ele alerta para o risco de focar em uma única tecnologia como solução.
“Colocar uma única tecnologia como solução central é um risco. Quanto mais a gente foca em um mecanismo, mais os fraudadores encontram caminhos alternativos”, explicou Zonta.
AIBio e a resposta do Serpro
Diante desse cenário, o Serpro adota uma abordagem integrada, combinando diversas tecnologias e inteligência analítica. A plataforma de automação biométrica AIBio, desenvolvida pela empresa, é peça-chave nesse enfrentamento. A plataforma trabalha com um dos maiores ecossistemas biométricos do mundo, integrando múltiplas bases e formas de validação, como face, voz e digitais.
A robustez do AIBio reside na escala e diversidade de dados, com centenas de milhões de faces e bilhões de digitais, além de dezenas de milhões de validações mensais. Essa infraestrutura fortalece a confiança nos serviços e ajuda a prevenir fraudes em larga escala. A estratégia vai além de soluções isoladas, utilizando abordagens orquestradas e heurísticas para identificar padrões e desvios.
Tecnologia e curadoria humana em sintonia
A interpretação dos dados por equipes especializadas é outro ponto crucial. Carlos Rodrigo ressalta que o time de curadoria precisa ser tão qualificado quanto o time técnico, pois nenhuma máquina substitui a capacidade humana de observar comportamentos fora do padrão. O foco da atuação mudou de reativo para propositivo, antecipando movimentos para evitar fraudes.
Equilíbrio entre segurança e experiência do usuário
O debate sobre o equilíbrio entre proteção e usabilidade também foi central. Aumentar a segurança sem comprometer a experiência do usuário e os resultados das instituições é o grande desafio. Zonta destaca os riscos do excesso de barreiras:
“Eu preciso autenticar o cliente com uma experiência fluida e, ao mesmo tempo, mitigar fraudes. Se aumento demais a fricção, deixo de fazer negócio. O cliente simplesmente vai para outro app.”
O objetivo é garantir segurança sem bloquear a jornada do cliente. Para o Serpro, a proteção deve vir acompanhada da garantia de acesso, assegurando que ninguém seja excluído.
Evolução contínua como estratégia
Diante da rápida evolução das ameaças, a atualização constante dos sistemas é indispensável. Modelos são atualizados semanalmente, em um processo contínuo de teste, aprendizado e adaptação. A troca de experiências em eventos e a capacitação constante são essenciais para evoluir as soluções.
No dia 19 de maio, Carlos Rodrigo apresentou a palestra “AIBIO: Infraestrutura Biométrica Inteligente para a Nova Era da Confiança Digital” na Febraban Tech, detalhando como a plataforma do Serpro está estruturada para os desafios da confiança digital.