Blog de IA

Tag: segurança digital

  • Corrida armamentista contra a desinformação: usando IA para detectar IA

    Corrida armamentista contra a desinformação: usando IA para detectar IA

    A nova paisagem informacional: quando o real e o falso se misturam

    A luta contra a desinformação ganhou um novo capítulo com o avanço da inteligência artificial. Ferramentas capazes de criar imagens, vídeos e textos ultrarrealistas tornaram a distinção entre o que é genuíno e o que é fabricado um desafio cada vez maior. Pesquisadores europeus estão respondendo a essa ameaça com uma estratégia inovadora: usar a própria IA para detectar conteúdo falso.

    Recentemente, vídeos alarmantes inundaram as redes sociais, alegando a invasão de mercados de Natal por radicais islâmicos e tumultos em eventos públicos. As imagens, convincentes à primeira vista, eram, na verdade, compilações de manifestações pacíficas ou completamente geradas por inteligência artificial. Essa nova realidade digital exige respostas tecnológicas ágeis.

    AI4Media: a primeira linha de defesa contra a desinformação

    Em 2020, uma iniciativa financiada pela União Europeia reuniu especialistas de universidades, empresas de mídia e companhias de tecnologia. O projeto AI4Media, com duração de quatro anos, tem como objetivo desenvolver ferramentas de IA que auxiliem jornalistas e verificadores de fatos a autenticar conteúdos digitais de maneira rápida e confiável.

    “Há uma necessidade urgente de desenvolver técnicas de IA para o setor de mídia”, afirma Yiannis Kompatsiaris, diretor de pesquisa do Centro de Pesquisa e Tecnologia Hellas (CERTH) e coordenador da iniciativa. A IA democratizou a criação de conteúdos falsos convincentes, permitindo que qualquer pessoa com acesso a ferramentas generativas produza imagens, vozes ou notícias fabricadas que são amplificadas rapidamente pelas redes sociais.

    “Quando uma história falsa é apoiada por imagens realistas, torna-se muito mais fácil de acreditar – e mais tentador de compartilhar, porque o conteúdo gera mais visualizações”, acrescenta Kompatsiaris.

    As ferramentas desenvolvidas pelo AI4Media foram projetadas para se integrar diretamente aos fluxos de trabalho das redações. Organizações como a Deutsche Welle (Alemanha) e a VRT (Bélgica) já testaram essas tecnologias em cenários reais. Akis Papadopoulos, pesquisador do CERTH envolvido no projeto, descreve a tecnologia como uma “primeira linha de defesa”, que não substitui o julgamento humano, mas sinaliza rapidamente conteúdos potencialmente manipulados.

    AI4Trust: mapeando a disseminação da desinformação

    Identificar o conteúdo manipulado é apenas uma parte da batalha. Compreender como a desinformação se espalha – quem a amplifica, como as narrativas evoluem e se as campanhas são coordenadas – é igualmente crucial. O projeto AI4Trust, em paralelo ao AI4Media, foca justamente nessa análise das dinâmicas mais amplas da desinformação online.

    Financiado pela UE, o AI4Trust reúne universidades e organizações de mídia europeias, incluindo Euractiv (Bélgica), Sky Italia, e serviços de checagem como Maldita.es (Espanha), Ellenika Hoaxes (Grécia) e Demagog (Polônia). Enquanto o AI4Media se concentra na detecção de mídias manipuladas, o AI4Trust constrói um sistema híbrido (humano-máquina) para monitorar e analisar a desinformação em escala.

    A plataforma do AI4Trust rastreia múltiplas redes sociais e sites de notícias em tempo quase real. Utilizando algoritmos avançados de IA, o sistema processa conteúdos multilingues e multimodais (texto, áudio e imagens) para filtrar e sinalizar posts com alto risco de serem falsos. Verificadores de fatos profissionais, então, analisam esse material, e suas avaliações alimentam o sistema, aprimorando seu desempenho continuamente.

    “Estamos em um ciclo contínuo de tentar entender e acompanhar a tecnologia mais recente”, diz Riccardo Gallotti, chefe da Unidade de Comportamento Complexo da Fondazione Bruno Kessler (FBK).

    Uma corrida armamentista tecnológica

    Usar IA para detectar IA pode parecer irônico, mas é uma necessidade séria. “É engraçado, mas é como uma corrida armamentista”, comenta Kompatsiaris. A velocidade com que os modelos de IA generativa evoluem é impressionante. Ferramentas como o ChatGPT eram incipientes quando o AI4Media começou, mas desde então a qualidade e o realismo do conteúdo gerado por IA avançaram drasticamente.

    “Entramos em uma nova era onde a aceleração é difícil para a mente humana acompanhar”, observa Papadopoulos. “Para acompanhar a IA, você precisa usar IA.” Os sistemas de detecção precisam se adaptar constantemente à medida que os modelos generativos se tornam mais poderosos. A equipe de pesquisa enfrentou o desafio de atualizar continuamente seus modelos para detectar imagens recém-geradas.

    Além da tecnologia: regulação e conscientização

    A tecnologia sozinha, no entanto, não é suficiente. “Precisamos de ferramentas, mas também precisamos de políticas e regras”, enfatiza Kompatsiaris. A União Europeia está implementando medidas como o Digital Services Act, que exige que grandes plataformas online avaliem e mitiguem riscos sistêmicos, incluindo a desinformação. O Artificial Intelligence Act impõe obrigações de transparência para sistemas de IA generativa, como a rotulagem de conteúdo criado por IA.

    Paralelamente, um código de práticas busca incentivar padrões de divulgação mais claros e marca d’água para conteúdo gerado por IA. A proteção do jornalismo independente também é uma prioridade, com o European Media Freedom Act estabelecendo salvaguardas para garantir que o conteúdo de mídia profissional seja reconhecido e protegido nas plataformas online.

    A conscientização pública permanece vital. “Não há uma solução única”, conclui Kompatsiaris. “Precisamos de uma combinação de ferramentas de IA, transparência, regulação e conscientização se quisermos ser mais eficazes contra a desinformação.” A pesquisa mencionada neste artigo foi financiada pelo Programa Horizonte da UE.

  • Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: Como Criminosos Exploram Deficiências

    A inteligência artificial (IA) está abrindo novas fronteiras, mas também novas avenidas para atividades criminosas. Uma das mais alarmantes é o uso de deepfakes para explorar vulnerabilidades de pessoas com deficiência. Esses conteúdos manipulados, gerados por IA, são empregados em esquemas que buscam lucro fácil, muitas vezes através da apropriação indevida de imagens e da criação de narrativas falsas que exploram a condição das vítimas.

    Os deepfakes exploratórios visam comunidades específicas, como a de pessoas com síndrome de Down, utilizando técnicas que combinam roubo de identidade com discriminação. O processo envolve a captura não autorizada de imagens de perfis online e a aplicação de filtros de IA para alterar características faciais. O objetivo é criar personagens fictícios que simulam ter a deficiência, os quais são então utilizados para direcionar tráfego para plataformas de conteúdo adulto pago.

    Como funcionam os deepfakes exploratórios

    A criação de deepfakes com síndrome de Down, por exemplo, inicia-se com a apropriação de imagens de mulheres reais, frequentemente retiradas de redes sociais. A tecnologia de IA é então utilizada para modificar essas imagens, conferindo-lhes a aparência de pessoas com síndrome de Down. Essas faces manipuladas são sobrepostas a corpos de indivíduos reais, gerando personagens completamente artificiais.

    Um caso emblemático envolveu Alice, uma jovem de 17 anos, cuja imagem foi usada sem permissão em uma conta que alcançou 25 mil seguidores no Instagram. Contas que seguem esse padrão compartilham mensagens sugestivas para aumentar o engajamento, atraem comentários explícitos e, por fim, redirecionam usuários para plataformas de conteúdo adulto pagas. A deficiência é, neste contexto, transformada em um nicho de mercado exploratório.

    A pesquisadora Eleanor Drage, da Universidade de Cambridge, aponta que essa prática “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”, gerando uma dupla exploração.

    O esquema de monetização nas redes sociais

    A monetização desses deepfakes maliciosos é orquestrada através de um sistema que transita por diversas plataformas, explorando as nuances das políticas de moderação. O fluxo, que geralmente começa no Instagram, culmina em plataformas de conteúdo adulto pagas, como o OnlyFans. Esse modelo de negócio é frequentemente coordenado por indivíduos conhecidos como “Geradores de IA do OnlyFans”, especialistas na criação de influenciadores artificiais para promover material adulto.

    O processo de monetização envolve etapas específicas:

    • Criação de engajamento: Publicação de conteúdo sugestivo em plataformas como o Instagram para atrair um grande número de seguidores.
    • Redirecionamento: Encaminhamento dos usuários para perfis pagos em plataformas de conteúdo adulto.
    • Adaptação às políticas: Em plataformas como o OnlyFans, rostos são frequentemente cortados ou ocultos para contornar regras contra deepfakes.
    • Exploração de nichos: Utilização de deficiências como “mercados de nicho” para atrair públicos específicos.

    Dorian, um indivíduo identificado como “gerente” e com atuação na França, demonstrava essa estratégia em tutoriais online. Ele explicava como a IA permite criar “qualquer nicho sob demanda”, incluindo a geração instantânea de personagens para dominar mercados pouco explorados, como pessoas com deficiências.

    Impactos na comunidade com deficiência

    Os deepfakes que simulam condições como a síndrome de Down causam prejuízos significativos, afetando não apenas as vítimas diretas, mas toda a comunidade de pessoas com deficiência. Esses conteúdos perpetuam estereótipos negativos e promovem a objetificação de condições genéticas.

    Ativistas como Jeremy e Audrey, ambos com síndrome de Down, expressaram forte repúdio a essa prática. “Acho que não está certo que eles tenham uma deficiência falsa”, declarou Audrey. “Eu e Jeremy temos síndrome de Down e adoramos isso. Ela é única e eu adoro. É meio que a melhor coisa da minha vida.”

    Os impactos incluem:

    • Fetichização da deficiência: Transformação de uma condição genética em um objeto sexual.
    • Representação distorcida: Criação e disseminação de estereótipos prejudiciais.
    • Apropriação de identidade: Uso não autorizado de imagens da comunidade para fins lucrativos.
    • Normalização da exploração: Tratamento da deficiência como um mero “nicho de mercado”.

    Jeremy lamenta a motivação financeira por trás dessas ações: “Estão fazendo isso por dinheiro. Por favor, parem com isso.” A sensação de “estar sendo usada”, compartilhada por Audrey, ressalta o impacto na dignidade e na autorrepresentação da comunidade.

    Resposta das plataformas digitais

    As plataformas digitais têm apresentado respostas variáveis e, muitas vezes, insuficientes para o combate a deepfakes exploratórios, evidenciando falhas em seus mecanismos de moderação de conteúdo diante de tecnologias em rápida evolução.

    O caso de Alice ilustra essa dificuldade: sua denúncia inicial à conta que utilizava sua imagem no Instagram foi respondida automaticamente, alegando que o usuário não violava as normas da plataforma, pois o conteúdo não era explicitamente sexual. Essa brecha nas políticas permitiu a continuidade da exploração.

    Após a investigação jornalística, houve maior efetividade:

    • O YouTube cancelou canais associados a Dorian por violarem políticas de spam, fraude e práticas enganosas.
    • A Meta (Instagram) removeu as contas denunciadas, exceto uma, por infringirem regras de personificação e promoção de serviços sexuais.
    • O OnlyFans reiterou seus procedimentos de verificação de identidade, afirmando não permitir conteúdo dessa natureza.

    No entanto, a remoção definitiva da conta explorando a imagem de Alice só ocorreu após a intervenção midiática, não por meio dos canais regulares de denúncia, o que sublinha a insuficiência de ferramentas automatizadas contra explorações sofisticadas.

    Como se proteger de deepfakes maliciosos

    A proteção contra deepfakes maliciosos exige vigilância constante, uso estratégico das ferramentas de denúncia e uma ampla conscientização sobre os riscos envolvidos. A experiência de Alice destaca tanto as vulnerabilidades quanto as estratégias de resposta.

    Estratégias de proteção individual incluem:

    • Monitoramento: Realizar buscas periódicas pelo próprio nome e imagem em diversas plataformas online.
    • Configurações de privacidade: Restringir a visibilidade de fotos e vídeos em perfis públicos.
    • Denúncias persistentes: Não se contentar com respostas automáticas negativas das plataformas; insistir no processo de denúncia.
    • Documentação: Manter registros detalhados de contas falsas e qualquer tentativa de contato.

    Para a comunidade em geral, a proteção envolve educação sobre deepfakes, apoio às vítimas e pressão por políticas mais robustas por parte das plataformas. A exposição pública através da mídia continua sendo uma ferramenta poderosa para combater essas práticas predatórias.

  • China publica guia de segurança para uso do OpenClaw, agente de inteligência artificial

    China publica guia de segurança para uso do OpenClaw, agente de inteligência artificial

    China publica guia de segurança para uso do OpenClaw, agente de inteligência artificial

    O Centro Nacional de Resposta a Emergências de Redes da China (CNCERT) e a Associação Chinesa de Segurança no Ciberespaço lançaram um guia de segurança abrangente no último domingo (22) para o uso do OpenClaw. Este agente de inteligência artificial de código aberto se tornou um fenômeno tecnológico global e um ponto de atenção para especialistas em segurança digital.

    O documento visa orientar quatro perfis distintos de usuários, detalhando recomendações cruciais para mitigar os riscos associados a essa ferramenta inovadora. O OpenClaw se destaca por sua capacidade de executar tarefas diretamente em sistemas informatizados, gerenciar arquivos, redigir e-mails e navegar na internet mediante comandos de texto simples, diferenciando-se de assistentes de IA como ChatGPT ou Claude, que se limitam à geração de texto e respostas.

    O que torna o OpenClaw diferente?

    A principal distinção do OpenClaw reside em sua capacidade de agir diretamente em um sistema, diferentemente de chatbots que apenas processam e geram informações. Essa funcionalidade permite que o agente manipule arquivos, execute comandos e interaja diretamente com o dispositivo do usuário, abrindo portas para novas possibilidades, mas também exigindo cautela.

    Recomendações de segurança para usuários comuns

    Entre as orientações centrais do guia, destaca-se a recomendação para que usuários comuns instalem o OpenClaw em um ambiente isolado. As sugestões incluem o uso de um computador dedicado exclusivamente a esta função, uma partição separada no sistema operacional ou um servidor remoto. A utilização no computador principal de trabalho ou uso pessoal é fortemente desencorajada.

    Esse nível de isolamento é vital, pois o agente necessita de acesso profundo ao sistema para operar. Ele tem permissão para ler e escrever arquivos, executar scripts e rodar comandos de sistema. Uma configuração inadequada ou um ataque bem-sucedido poderia conceder a um invasor controle total sobre o dispositivo.

    Adicionalmente, o guia aconselha a não executar o programa com privilégios de administrador e a evitar o armazenamento de dados sensíveis no ambiente onde o agente opera. Existe também a vulnerabilidade a ataques de injeção de prompt, onde instruções maliciosas embutidas em documentos podem induzir o agente a executá-las como comandos legítimos.

    Riscos e a natureza do OpenClaw

    É importante ressaltar que o risco primordial associado ao OpenClaw não é o envio de dados para empresas estrangeiras. Por ser um software de código aberto executado localmente, os dados não são transmitidos a terceiros. O perigo real reside na exposição do próprio dispositivo a ataques externos devido ao amplo acesso que o agente possui.

    Medidas de segurança para empresas e provedores

    Para o ambiente corporativo, o documento estabelece diretrizes para regimes de gestão de segurança, incluindo monitoramento contínuo, manutenção de registros detalhados de atividades e proteção robusta de credenciais. Provedores de nuvem são instruídos a realizar avaliações de segurança, implementar proteção ativa e reforçar as defesas na cadeia de fornecimento de software.

    OpenClaw: mais que um chatbot, um agente ativo

    Desenvolvido pelo programador austríaco Peter Steinberger, o OpenClaw é um agente de inteligência artificial autônomo, gratuito e de código aberto. Sua capacidade de interagir e executar tarefas diretamente em um computador o diferencia dos chatbots tradicionais. Integrado a plataformas populares como WhatsApp, Telegram e WeChat, ele pode abrir páginas web, preencher formulários e extrair dados sob comandos de texto simples.

    Desde sua publicação como código aberto em novembro de 2025, o projeto alcançou uma marca impressionante de mais de 250.000 estrelas no GitHub, consolidando-se como um dos projetos mais bem avaliados da história da plataforma. Essa popularidade impulsionou sua adoção por gigantes da tecnologia.

    Integração com gigantes da tecnologia chinesa

    A Tencent, por exemplo, anunciou a integração de agentes baseados em OpenClaw ao WeChat, ampliando suas funcionalidades para resumir conversas, processar documentos e automatizar tarefas. A empresa declarou ter implementado medidas de segurança específicas, como isolamento do agente, autenticação obrigatória e restrição a complementos não aprovados.

    Outras grandes empresas chinesas, como a Baidu e a Alibaba, também anunciaram integrações. A Baidu incorporou o agente em seu aplicativo de busca e ofereceu ferramentas para desenvolvedores, além de lançar o DuMate para empresas. A Alibaba, por sua vez, integrou o OpenClaw em seus serviços de computação em nuvem. Governos locais em centros tecnológicos e industriais chineses também têm promovido a construção de um ecossistema em torno do OpenClaw, alinhado ao plano nacional de integração da IA na economia.

    O guia de segurança publicado pelo CNCERT representa, portanto, um passo fundamental para ordenar e garantir a segurança de uma tecnologia que já se estabeleceu como uma realidade em diversos setores na China e ao redor do mundo.

  • The Observers: Quatro dicas para detectar imagens geradas por IA

    The Observers: Quatro dicas para detectar imagens geradas por IA

    Como diferenciar o real do artificial: A arte de detectar imagens geradas por IA

    No cenário digital de 2026, a linha entre o que é criado por humanos e o que é gerado por inteligência artificial tornou-se tênue. As imagens sintéticas estão cada vez mais sofisticadas, apresentando um desafio crescente para a verificação da autenticidade. Diante dessa realidade, o programa The Observers apresentou quatro dicas fundamentais para auxiliar o público a discernir entre fotografias reais e criações de IA.

    Identificar a origem e os detalhes de uma imagem pode ser crucial para determinar sua veracidade. Com a proliferação de ferramentas de IA capazes de produzir visuais convincentes, desenvolver um olhar crítico e utilizar métodos de verificação tornou-se uma habilidade essencial na era digital.

    Verificando a fonte: O primeiro passo na detecção

    Uma das abordagens mais eficazes para começar a desconfiar de uma imagem é verificar a sua origem. Questione quem publicou o conteúdo: foi um veículo de comunicação confiável, uma conta verificada ou um usuário desconhecido? Ao analisar o perfil do publicador, observe se ele posta com frequência imagens que parecem claramente geradas por IA ou se o termo “IA” aparece no nome da conta ou na sua descrição.

    Atenção aos detalhes: Sinais de erro em criações de IA

    Imagens criadas por inteligência artificial frequentemente exibem erros sutis, mas reveladores. Detalhes no fundo, como mãos com um número incorreto de dedos, sombras que não correspondem à iluminação ambiente ou textos com deformações, são frequentemente indicadores. Comparar a imagem com objetos reais conhecidos pode ajudar a identificar anomalias.

    Um exemplo prático envolveu um vídeo que supostamente mostrava um soldado ucraniano em lágrimas. Ao examinar o capacete na imagem, foram encontradas discrepâncias em relação a um capacete real do exército ucraniano, como um encaixe oval que não existe no modelo autêntico.

    Identificando marcas d’água de IA

    Algumas ferramentas avançadas de geração de imagem, como Sora da OpenAI e Gemini do Google, inserem uma marca d’água invisível. Essa marcação digital indica qual ferramenta foi utilizada na criação da imagem. No entanto, é comum que usuários tentem borrar ou remover essas marcas.

    Portanto, se você notar uma área borrada em um local onde uma marca d’água normalmente seria esperada, isso pode ser um forte indício de que a imagem foi, de fato, gerada por IA.

    Utilizando ferramentas de busca reversa: Google Lens como aliado

    Uma maneira poderosa de verificar a autenticidade de uma imagem é através de ferramentas como o Google Lens. Ao submeter uma imagem suspeita à busca reversa de imagens do Google, a plataforma pode informar se a imagem foi criada ou modificada por uma das ferramentas de IA do Google.

    Este método é especialmente útil para verificar se uma imagem já circulou na internet em contextos diferentes ou se foi manipulada digitalmente.

    Este artigo foi publicado em alusão à Semana da Mídia nas Escolas da França, realizada entre 23 e 27 de março de 2026.

  • Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: a nova fronteira da exploração digital

    A inteligência artificial (IA) está revolucionando diversas áreas, mas infelizmente, também abre portas para novas formas de crime. Uma das mais preocupantes é o uso de deepfakes para explorar pessoas com deficiência, transformando suas imagens em ferramentas de ganho financeiro ilícito. Esse método combina roubo de identidade com discriminação, criando um cenário de dupla exploração.

    O processo envolve a apropriação não autorizada de imagens de indivíduos, frequentemente extraídas de redes sociais. Filtros de IA são então usados para alterar características faciais, simulando deficiências. Essas imagens manipuladas são aplicadas em corpos de outras pessoas, gerando personagens fictícios que exploram a condição para fins lucrativos, muitas vezes direcionando o tráfego para plataformas de conteúdo adulto pago. O caso de Alice, uma jovem de 17 anos cujas imagens foram usadas sem consentimento em uma conta que acumulou 25 mil seguidores no Instagram, exemplifica essa prática predatória.

    Como funcionam os deepfakes que simulam deficiências

    A criação de deepfakes exploratórios, especialmente aqueles que simulam a síndrome de Down, é um processo tecnicamente elaborado. Utiliza-se a tecnologia de IA para manipular imagens de mulheres reais, obtidas sem permissão de seus perfis públicos. O objetivo é aplicar filtros que alterem traços faciais, conferindo a aparência de pessoas com síndrome de Down a personagens inteiramente virtuais.

    Esses personagens fictícios são a base para contas em redes sociais, como o Instagram, que postam conteúdo intencionalmente sugestivo. A intenção é clara: gerar alto engajamento, atrair comentários de natureza sexual e, subsequentemente, redirecionar os usuários para plataformas de conteúdo adulto pago. A deficiência, nesse contexto, é transformada em um nicho de mercado exploratório.

    De acordo com a pesquisadora Eleanor Drage, da Universidade de Cambridge, essa prática “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”. Essa estratégia cria uma vulnerabilidade dupla, prejudicando tanto as vítimas individuais de roubo de imagem quanto a comunidade de pessoas com deficiência como um todo.

    O esquema de monetização nas redes sociais

    A monetização desses deepfakes maliciosos é orquestrada por um esquema sofisticado de redirecionamento entre plataformas digitais. O objetivo é capitalizar as diferentes políticas de moderação de conteúdo de cada rede social, operando como um funil de conversão. Esse modelo é frequentemente coordenado por indivíduos conhecidos como “Geradores de IA do OnlyFans”, especializados em criar influenciadores virtuais para promover conteúdo adulto.

    O processo de monetização segue etapas bem definidas:

    • Criação de engajamento: Contas em plataformas como o Instagram publicam conteúdo provocativo para atrair um grande número de seguidores.
    • Redirecionamento: Os usuários engajados são então direcionados para perfis pagos em plataformas de conteúdo adulto, como o OnlyFans.
    • Adaptação às políticas: Para contornar as regras das plataformas, rostos em deepfakes podem ser cortados ou ocultos no conteúdo adulto, dificultando a detecção de manipulação.
    • Exploração de nichos: Deficiências são intencionalmente usadas como “mercados de nicho” lucrativos, capitalizando a curiosidade e, por vezes, o fetiche dos usuários.

    Conforme explicado por criadores desses esquemas, a IA permite a criação instantânea de qualquer personagem ou nicho sob demanda, incluindo aqueles explorando deficiências. Essa estratégia visa dominar mercados pouco atendidos, transformando a vulnerabilidade em oportunidade de lucro.

    Impactos na comunidade com deficiência

    Os deepfakes que simulam síndromes, como a de Down, geram danos profundos que transcendem as vítimas individuais. Eles perpetuam estereótipos prejudiciais e objetificam condições genéticas, afetando a percepção social e a dignidade de toda a comunidade com deficiência.

    Ativistas e produtores de conteúdo com síndrome de Down expressam profunda preocupação com essa exploração. A criação de perfis falsos que simulam deficiências é vista como uma distorção da realidade e uma apropriação indevida de identidades. A declaração “Acho que não está certo que eles tenham uma deficiência falsa” reflete o sentimento de desrespeito e a dor causada por essa prática.

    Os impactos incluem:

    • Fetichização da deficiência: Transformação de uma condição humana em objeto sexual.
    • Representação distorcida: Criação e disseminação de estereótipos negativos.
    • Apropriação de identidade: Uso indevido da imagem e experiência de pessoas com deficiência para lucro.
    • Normalização da exploração: Tratamento da deficiência como um mero “mercado de nicho” explorável.

    “Estão fazendo isso por dinheiro. Por favor, parem com isso”, clamam ativistas, evidenciando o impacto emocional e a sensação de violação de direitos e dignidade que essa exploração causa.

    Resposta das plataformas digitais

    A resposta das plataformas digitais ao problema dos deepfakes exploratórios tem sido inconsistente e, em muitos casos, insuficiente. Essa lentidão e ineficácia revelam lacunas significativas nas políticas de moderação de conteúdo e na capacidade de enforcement em um cenário tecnológico em constante evolução.

    Em casos como o de Alice, a denúncia inicial à plataforma resultou em uma resposta automática alegando que não havia violação das normas, pois os vídeos deepfake não eram explicitamente sexuais, explorando uma brecha nas políticas existentes. Foi necessária uma intervenção jornalística para que medidas efetivas fossem tomadas.

    Após investigação da BBC, algumas plataformas agiram:

    • YouTube: Cancelou canais associados à promoção desses esquemas por violarem políticas de spam e práticas enganosas.
    • Meta (Instagram): Removeu contas denunciadas por desrespeito às regras de personificação e promoção de serviços sexuais.
    • OnlyFans: Reafirmou seus procedimentos de verificação de identidade, embora o sistema não detectasse a obtenção não autorizada de imagens de terceiros.

    A remoção de contas fraudulentas frequentemente dependeu de exposição pública, evidenciando a insuficiência das ferramentas automatizadas para detectar explorações criativas e sofisticadas.

    Como se proteger de deepfakes maliciosos

    A proteção contra deepfakes maliciosos exige uma abordagem proativa e multifacetada. A vigilância pessoal, o uso correto das ferramentas de denúncia das plataformas e a conscientização sobre os riscos são fundamentais para mitigar a exploração.

    Estratégias de proteção individual incluem:

    • Monitoramento regular: Realizar buscas periódicas pelo próprio nome e imagem em diferentes plataformas online.
    • Configurações de privacidade: Restringir a visibilidade de fotos e vídeos em perfis públicos para dificultar a apropriação.
    • Denúncias persistentes: Não se contentar com respostas automáticas negativas; insistir nos canais formais de denúncia.
    • Documentação: Manter registros detalhados de contas falsas e quaisquer tentativas de contato.

      Para a comunidade em geral, a proteção envolve:

      1. Educação sobre deepfakes: Aprender a identificar sinais de conteúdo manipulado digitalmente.
      2. Apoio às vítimas: Amplificar as denúncias e dar suporte a pessoas afetadas.
      3. Pressão por políticas melhores: Exigir que as plataformas aprimorem seus sistemas de detecção e moderação de conteúdo.

      A intervenção de veículos de comunicação e a exposição pública de práticas exploratórias continuam sendo ferramentas poderosas para combater a disseminação de deepfakes maliciosos e proteger as populações mais vulneráveis.

  • Inteligência artificial cria fraudes milionárias; entrevista exclusiva no SXSW explica

    Inteligência artificial cria fraudes milionárias; entrevista exclusiva no SXSW explica

    Inteligência artificial cria fraudes milionárias; entrevista exclusiva no SXSW explica

    As fraudes digitais impulsionadas pela Inteligência Artificial (IA) dispararam mais de 1000% em 2025, um crescimento alarmante que reflete a democratização e o avanço rápido dessas tecnologias. Em uma conversa exclusiva no SXSW 2026, em Austin (EUA), o analista de negócios Guilherme Ravache obteve insights valiosos com Davi Reis, da Unico, sobre como os deepfakes se tornaram uma ameaça direta a bancos e sistemas financeiros, e como soluções inovadoras como a prova de vida surgem como contramedidas essenciais.

    A acessibilidade e a sofisticação aprimorada das ferramentas de IA são os principais motores por trás desse aumento expressivo. O que antes exigia conhecimento técnico avançado, hoje está ao alcance de um número muito maior de pessoas, permitindo a criação de golpes cada vez mais elaborados e convincentes.

    O impacto dos deepfakes no setor financeiro

    Os deepfakes deixaram de ser uma preocupação hipotética para se tornarem uma realidade com impacto direto na segurança de usuários e na integridade de sistemas financeiros. Ferramentas antes voltadas para o entretenimento, como as oferecidas pelo Google e o ChatGPT, agora são exploradas por criminosos para aplicar fraudes sofisticadas.

    “A mesma tecnologia que é usada pra gente rir também pode ser usada por um fraudador para atacar o sistema financeiro”, afirma Davi Reis.

    A capacidade de replicar rostos e criar vídeos falsos extremamente realistas coloca em risco os métodos tradicionais de autenticação, incluindo sistemas de reconhecimento facial. A engenharia social se intensifica, permitindo que criminosos se passem por qualquer pessoa, ampliando o leque de golpes possíveis.

    A tecnologia como defesa contra si mesma

    Diante deste cenário desafiador, empresas de tecnologia estão investindo massivamente em soluções de segurança mais robustas. A prova de vida, tecnologia central da Unico, destaca-se nesse contexto. O sistema é projetado para verificar a autenticidade de uma pessoa em tempo real, garantindo que não se trata de uma imagem ou vídeo manipulado.

    A corrida armamentista entre fraudadores e defensores da segurança digital é uma constante. Davi Reis enfatiza que a solução para combater as ameaças criadas pela própria tecnologia reside em usar a tecnologia de forma inteligente.

    “Esse mundo de ficção científica chegou aqui para nós agora e a gente precisa da tecnologia exatamente para combater e controlar a tecnologia”, afirma Davi.

    Riscos além do setor financeiro

    Embora o setor financeiro seja um dos alvos mais evidentes, o uso de deepfakes transcende as fraudes bancárias. A capacidade de criar vídeos falsos convincentes pode abalar relações pessoais e sociais, enganando até mesmo familiares e amigos, o que demonstra a amplitude dos desafios impostos pela nova era digital.

  • Rússia busca amplos poderes para restringir ferramentas estrangeiras de IA

    Rússia busca amplos poderes para restringir ferramentas estrangeiras de IA

    Rússia busca amplos poderes para restringir ferramentas estrangeiras de IA

    A Rússia está propondo novas regras que podem resultar na proibição ou restrição de ferramentas de inteligência artificial (IA) estrangeiras em seu território. As propostas, divulgadas pelo Ministério para o Desenvolvimento Digital do país, concederiam ao governo amplos poderes para regular o setor, alinhando-o à estratégia de criar uma internet soberana, protegida de influências externas e alinhada aos valores russos.

    O objetivo declarado das novas regras é proteger os cidadãos de manipulações e algoritmos discriminatórios. Essa iniciativa, que surge em um momento de crescente controle estatal sobre a internet russa, também visa impulsionar o desenvolvimento de ferramentas de IA nacionais, como as desenvolvidas pelo banco estatal Sberbank e pelo grupo de tecnologia Yandex. As regulamentações devem entrar em vigor no próximo ano, após avaliações e aprovação governamental.

    Regulamentação e preocupações com dados

    As novas normas especificam que a operação de tecnologias de IA transfronteiriças pode ser proibida ou restringida. Uma das principais preocupações é a transferência de dados de cidadãos russos para o exterior. Segundo a agência de notícias estatal RIA, ferramentas estrangeiras como ChatGPT, Claude e Gemini, desenvolvidas por empresas americanas (OpenAI, Anthropic e Google, respectivamente), estariam sujeitas a essas regras por transmitirem dados de usuários, consultas e diálogos para fora da Rússia.

    Para cumprir as novas exigências, modelos de IA utilizados por mais de 500 mil pessoas diariamente precisariam armazenar informações de usuários russos em território nacional por um período de três anos. A fonte também indica que modelos de IA estrangeiros, como o Qwen ou DeepSeek da China, poderiam ser adaptados e operados em ambientes fechados e proprietários de organizações governamentais e empresas russas, garantindo que os dados processados permaneçam dentro da infraestrutura do país.

    O contexto da proposta remete à ambição russa de estabelecer uma internet soberana, um esforço que visa proteger o país de influências estrangeiras e manter a conformidade com o que o governo define como “valores espirituais e morais tradicionais russos”. A necessidade de tais medidas, conforme comunicado pelo Ministério para o Desenvolvimento Digital, é proteger a população de manipulações e algoritmos considerados discriminatórios.

    Empresas de tecnologia ocidentais já demonstraram em ocasiões anteriores relutância em acatar exigências semelhantes de armazenamento de dados local. A extensão dessas regras para o setor de IA reflete uma tendência de aprofundamento do controle estatal sobre o ambiente digital na Rússia, com implicações significativas para o acesso e uso de tecnologias de inteligência artificial no país.

  • Deepfakes com IA: como criminosos exploram deficiências em esquemas lucrativos

    Deepfakes com IA: como criminosos exploram deficiências em esquemas lucrativos

    Deepfakes com IA: como criminosos exploram deficiências em esquemas lucrativos

    A inteligência artificial (IA) abriu novas fronteiras para a criatividade e inovação, mas também trouxe consigo ferramentas perigosas nas mãos erradas. Uma das aplicações mais alarmantes é o uso de deepfakes para explorar vulnerabilidades, com criminosos direcionando sua atenção para pessoas com deficiência em esquemas de monetização fraudulentos. Essa prática combina roubo de identidade com exploração discriminatória, criando um cenário digital sombrio.

    O método envolve a apropriação não autorizada de imagens de indivíduos, frequentemente obtidas de perfis públicos em redes sociais. Utilizando filtros de IA, características faciais são alteradas para criar a aparência de pessoas com deficiências específicas, como a síndrome de Down. Essas imagens manipuladas são sobrepostas a corpos de pessoas reais, resultando em personagens fictícios que simulam ter a deficiência. A pesquisa da Universidade de Cambridge aponta que essa exploração “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”, afetando vítimas individuais e a comunidade com deficiência.

    O esquema de monetização por trás dos deepfakes

    A exploração de deepfakes maliciosos opera através de um sistema sofisticado de redirecionamento entre plataformas, aproveitando brechas nas políticas de moderação de conteúdo. O esquema funciona como um funil de conversão, começando em redes sociais como o Instagram e direcionando usuários para plataformas de conteúdo adulto pago, como o OnlyFans.

    Esses esquemas são coordenados por indivíduos descritos como “Geradores de IA do OnlyFans”, especializados na criação de influenciadores artificiais para promover conteúdo adulto. Um exemplo é Dorian, um “gerente” francês que compartilhava tutoriais sobre como criar e monetizar esses conteúdos em plataformas como YouTube e Telegram.

    A estratégia de monetização segue etapas bem definidas:

    • Criação de engajamento: Contas em redes sociais postam conteúdo sugestivo para atrair seguidores.
    • Redirecionamento: Usuários são direcionados para perfis pagos, como no OnlyFans.
    • Adaptação às políticas: Rostos são alterados ou ocultos nas plataformas finais para evitar detecção de violação de regras sobre deepfakes.
    • Exploração de nichos: Deficiências são tratadas como “mercados de nicho” lucrativos, explorando a falta de conteúdo específico ou a curiosidade predatória.

    Conforme explicado por Dorian, a IA permite “criar qualquer nicho sob demanda”, incluindo a geração instantânea de personagens que exploram deficiências, visando dominar “nichos pouco atendidos”.

    Impactos devastadores na comunidade com deficiência

    Os deepfakes que simulam deficiências, como a síndrome de Down, causam danos profundos que transcendem as vítimas individuais. Eles afetam toda a comunidade de pessoas com deficiência, perpetuando estereótipos prejudiciais e a objetificação de condições genéticas.

    Ativistas como Jeremy e Audrey, que possuem síndrome de Down, expressaram profunda preocupação com essa prática exploratória. “Acho que não está certo que eles tenham uma deficiência falsa”, declarou Audrey, enfatizando o orgulho que sentem por suas identidades únicas. Jeremy lamenta: “Estão fazendo isso por dinheiro. Por favor, parem com isso.” O sentimento de Audrey de “estar sendo usada” reflete como essa prática atinge a dignidade e a autorrepresentação da comunidade.

    Os impactos incluem:

    • Fetichização da deficiência: Uma condição médica transformada em objeto sexual.
    • Representação distorcida: Criação e disseminação de estereótipos negativos.
    • Apropriação de identidade: Uso não autorizado de imagens e identidades para obter lucro.
    • Normalização da exploração: Tratamento da deficiência como um “mercado” a ser explorado.

    A exploração cria uma “rede de exploração”, conforme descrito pela pesquisadora Eleanor Drage, que prejudica tanto indivíduos quanto a percepção social sobre pessoas com deficiência.

    A resposta (in)suficiente das plataformas digitais

    As plataformas digitais têm apresentado respostas inconsistentes e, muitas vezes, inadequadas ao problema dos deepfakes exploratórios. A dificuldade reside na rápida evolução tecnológica e nas brechas das políticas de moderação.

    No caso de Alice, uma jovem de 17 anos cuja imagem foi utilizada sem consentimento, sua denúncia inicial ao Instagram resultou em uma resposta automática alegando que não havia violação das normas, pois os deepfakes não eram explicitamente sexuais. A conta, que acumulou 25 mil seguidores, só foi removida após investigação jornalística.

    Após a intervenção da mídia, algumas ações foram tomadas:

    • YouTube: Cancelou canais associados a práticas enganosas.
    • Meta (Instagram): Removeu contas por personificação e promoção de serviços sexuais.
    • OnlyFans: Reafirmou suas políticas de verificação de identidade, embora o sistema não detecte o uso não autorizado de imagens de terceiros.

    A falha em remover a conta de Alice rapidamente demonstra que as ferramentas automatizadas são insuficientes para detectar formas sofisticadas de exploração que operam nas margens das políticas existentes.

    Como se proteger e combater os deepfakes maliciosos

    A proteção contra deepfakes maliciosos exige uma abordagem multifacetada, combinando vigilância pessoal, uso eficaz das ferramentas de denúncia e conscientização sobre os riscos inerentes à tecnologia.

    Estratégias de proteção individual incluem:

    • Monitoramento regular: Realizar buscas periódicas pelo próprio nome e imagem em diversas plataformas.
    • Configurações de privacidade: Restringir a visibilidade de conteúdos pessoais em perfis públicos.
    • Denúncias persistentes: Não desistir após respostas negativas ou automáticas das plataformas, buscando sempre os canais oficiais de denúncia.
    • Documentação: Manter registros detalhados de contas falsas, conteúdo manipulado e tentativas de contato.

    Para a comunidade em geral, a proteção envolve:

    • Educação sobre deepfakes: Aprender a identificar sinais de conteúdo manipulado.
    • Apoio às vítimas: Amplificar as denúncias e o alcance das pessoas afetadas.
    • Pressão por políticas mais rigorosas: Exigir das plataformas digitais um aprimoramento constante em seus sistemas de detecção e moderação.

    A intervenção de veículos de comunicação tem se mostrado uma ferramenta poderosa para expor e combater essas práticas, ressaltando a importância da transparência e da ação coordenada para mitigar os danos causados pelos deepfakes exploratórios.

  • Deepfakes e IA generativa desafiam a confiança digital e exigem novas estratégias de proteção

    Deepfakes e IA generativa desafiam a confiança digital e exigem novas estratégias de proteção

    Deepfakes e IA generativa desafiam a confiança digital e exigem novas estratégias de proteção

    O avanço acelerado da inteligência artificial generativa e a sofisticação crescente dos deepfakes estão abalando a confiança digital em escala global. A criação de conteúdos falsos, como vídeos, imagens e áudios realistas, que simulam a identidade de pessoas, amplia o risco de fraudes. Especialistas do Serpro e do Banco do Brasil destacaram a necessidade de combinar tecnologia, curadoria humana e experiência do usuário para enfrentar esses desafios.

    Essas tecnologias, capazes de imitar rostos, vozes e expressões com precisão impressionante, representam um novo patamar na evolução das fraudes digitais. Se antes os ataques eram rudimentares, hoje eles se tornaram mais acessíveis e diretamente ligados ao desenvolvimento da IA generativa, tornando a proteção um desafio cada vez maior.

    Ataques mais sofisticados e acessíveis

    A maior visibilidade de sistemas digitais atrai mais tentativas de fraude. Carlos Rodrigo Fonseca Lima, gerente do Centro de Excelência em Ciência de Dados e Inteligência Artificial do Serpro, explica que quanto maior a notoriedade, mais os sistemas são testados. Ele observou que, em 2020 e 2021, os ataques eram fáceis de identificar, mas hoje impressionam e estão atrelados à IA generativa.

    A democratização dessas tecnologias alterou o perfil dos fraudadores. Se antes era necessário conhecimento técnico avançado, hoje qualquer pessoa pode acessar ferramentas que facilitam a criação de conteúdos falsos. Essa facilidade, embora traga benefícios, amplia os riscos de uso indevido. A motivação também mudou, passando de fraudes com objetivos claros para testes de limites dos sistemas, especialmente aqueles ligados ao governo.

    Fraude ganha escala industrial

    Luiz Maurício Zonta, gerente da Unidade de Segurança Digital do Banco do Brasil, aponta que a principal transformação está na escala das operações criminosas. O que era artesanal agora é estruturado, com um processo quase empresarial por trás das tentativas de fraude. Ele alerta para o risco de focar em uma única tecnologia como solução.

    “Colocar uma única tecnologia como solução central é um risco. Quanto mais a gente foca em um mecanismo, mais os fraudadores encontram caminhos alternativos”, explicou Zonta.

    AIBio e a resposta do Serpro

    Diante desse cenário, o Serpro adota uma abordagem integrada, combinando diversas tecnologias e inteligência analítica. A plataforma de automação biométrica AIBio, desenvolvida pela empresa, é peça-chave nesse enfrentamento. A plataforma trabalha com um dos maiores ecossistemas biométricos do mundo, integrando múltiplas bases e formas de validação, como face, voz e digitais.

    A robustez do AIBio reside na escala e diversidade de dados, com centenas de milhões de faces e bilhões de digitais, além de dezenas de milhões de validações mensais. Essa infraestrutura fortalece a confiança nos serviços e ajuda a prevenir fraudes em larga escala. A estratégia vai além de soluções isoladas, utilizando abordagens orquestradas e heurísticas para identificar padrões e desvios.

    Tecnologia e curadoria humana em sintonia

    A interpretação dos dados por equipes especializadas é outro ponto crucial. Carlos Rodrigo ressalta que o time de curadoria precisa ser tão qualificado quanto o time técnico, pois nenhuma máquina substitui a capacidade humana de observar comportamentos fora do padrão. O foco da atuação mudou de reativo para propositivo, antecipando movimentos para evitar fraudes.

    Equilíbrio entre segurança e experiência do usuário

    O debate sobre o equilíbrio entre proteção e usabilidade também foi central. Aumentar a segurança sem comprometer a experiência do usuário e os resultados das instituições é o grande desafio. Zonta destaca os riscos do excesso de barreiras:

    “Eu preciso autenticar o cliente com uma experiência fluida e, ao mesmo tempo, mitigar fraudes. Se aumento demais a fricção, deixo de fazer negócio. O cliente simplesmente vai para outro app.”

    O objetivo é garantir segurança sem bloquear a jornada do cliente. Para o Serpro, a proteção deve vir acompanhada da garantia de acesso, assegurando que ninguém seja excluído.

    Evolução contínua como estratégia

    Diante da rápida evolução das ameaças, a atualização constante dos sistemas é indispensável. Modelos são atualizados semanalmente, em um processo contínuo de teste, aprendizado e adaptação. A troca de experiências em eventos e a capacitação constante são essenciais para evoluir as soluções.

    No dia 19 de maio, Carlos Rodrigo apresentou a palestra “AIBIO: Infraestrutura Biométrica Inteligente para a Nova Era da Confiança Digital” na Febraban Tech, detalhando como a plataforma do Serpro está estruturada para os desafios da confiança digital.

  • UE registra aumento acentuado em interferência estrangeira impulsionada por IA

    UE registra aumento acentuado em interferência estrangeira impulsionada por IA

    UE registra aumento acentuado em interferência estrangeira impulsionada por IA

    A União Europeia observou um crescimento alarmante em incidentes de interferência estrangeira impulsionados por inteligência artificial (IA) em 2025. Um relatório do Serviço Europeu de Ação Externa (SEAE), braço diplomático do bloco, apontou que atores mal-intencionados incorporaram totalmente a nova tecnologia em suas operações, levando a uma quase triplicação desses casos.

    O documento identificou 540 episódios de manipulação e interferência informacional (FIMI) no último ano. Desses, 147 envolviam o uso de IA, representando pouco mais de um quarto do total. Este número representa um aumento expressivo de 259% em relação a 2024, quando foram registrados apenas 41 casos semelhantes, demonstrando a rápida adaptação e expansão dessas táticas.

    Quem está por trás das operações?

    A Ucrânia foi o país mais visado, com 112 incidentes. Em seguida, aparecem a França (107), Moldávia (94), Alemanha (71) e os Estados Unidos (51). A Polônia, um membro importante da UE, registrou 17 incidentes, posicionando-se em oitavo lugar.

    Segundo o relatório, 29% dos incidentes documentados foram atribuídos à Rússia, enquanto 6% foram ligados à China. Os restantes 65% permaneceram sem atribuição direta, embora o documento sugira que muitos possam ter utilizado infraestruturas russas ou chinesas.

    A dificuldade na atribuição se deve à natureza enganosa das operações, que frequentemente ocultam seus operadores e financiamento. O relatório enfatiza que a maior parte das infraestruturas de FIMI é oculta ou inautêntica, tornando a exposição das conexões por trás de fontes secretas crucial para mitigar seu impacto.

    O que está sendo disseminado?

    Os temas explorados pelos atores maliciosos variaram desde o apoio à Ucrânia até as relações transatlânticas. Com a aproximação de eleições, o aparato russo de FIMI explorou questões domésticas para aprofundar divisões e polarização existentes.

    Na Alemanha, o foco foi a imigração; na Polônia, o sentimento anti-refugiados. Narrativas que retratavam a Ucrânia como instigadora de ataques na Europa foram amplamente utilizadas durante eventos de notícias de última hora, como a incursão de drones russos e o sabotagem ferroviária na Polônia.

    Tendências futuras e plataformas utilizadas

    As redes sociais e plataformas de mensagens continuam sendo os meios mais eficazes e de menor custo para alcançar grandes audiências globais. Notavelmente, 88% dos incidentes foram concentrados na plataforma X, propriedade do empresário Elon Musk.

    O relatório conclui que as atividades de FIMI russas provavelmente intensificar-se-ão ainda mais em 2026. Regiões de importância estratégica, como o Mar Báltico e o Ártico, devem se tornar alvos crescentes de operações de influência.