Blog de IA

Tag: deepfake

  • Spotify implementa ferramenta para combater deepfakes de IA e músicas mal atribuídas

    Spotify implementa ferramenta para combater deepfakes de IA e músicas mal atribuídas

    Spotify implementa ferramenta para combater deepfakes de IA e músicas mal atribuídas

    O Spotify está testando uma nova ferramenta, chamada Artist Profile Protection, que visa dar aos artistas mais controle sobre seu conteúdo e combater a crescente onda de músicas geradas por inteligência artificial (IA) e atribuídas incorretamente.

    A iniciativa surge em um momento de aumento de casos de atribuição indevida em plataformas de streaming, impulsionada pela facilidade de produção de faixas de IA. O objetivo é proteger a identidade e o trabalho dos criadores, uma prioridade para a plataforma em 2026.

    Como funciona o Artist Profile Protection

    A ferramenta, atualmente em fase beta limitada, opera como um sistema de opt-in. Artistas que optarem por participar receberão notificações sempre que um novo lançamento for entregue em seus perfis. Eles terão a oportunidade de revisar e aprovar ou rejeitar o conteúdo antes que ele se torne público.

    Caso o artista não tome nenhuma ação, a música não será exibida em seu perfil, embora ainda possa estar disponível em outras plataformas. O Spotify descreve a solução como pioneira, proporcionando aos músicos um controle inédito sobre o que é publicado em seus nomes.

    Proteção contra atores mal-intencionados e erros de metadados

    O Artist Profile Protection foi projetado para lidar com uma variedade de problemas, desde erros em metadados até tentativas deliberadas de “atores mal-intencionados” de associar músicas não autorizadas às contas de artistas. A ferramenta vai além dos recursos de denúncia já existentes, oferecendo uma revisão proativa e a possibilidade de ação antes e depois que um lançamento é conectado ao perfil do artista.

    Impacto da má atribuição no Spotify

    A má atribuição e o uso indevido de músicas geradas por IA já afetaram diversos artistas. Casos recentes incluem lançamentos falsos que imitavam projetos de Tyler, the Creator, e faixas não autorizadas carregadas nos perfis de artistas como Father John Misty e Jeff Tweedy. Esse tipo de incidente pode impactar negativamente os dados do catálogo, estatísticas de streaming e sistemas de recomendação, como as playlists Release Radar.

    Identificação única e aprovação automática

    Para agilizar o processo e apoiar lançamentos legítimos, o Spotify também implementará a atribuição de um código de identificação único para artistas. Esse código poderá ser compartilhado com distribuidores confiáveis para aprovação automática de conteúdos. O sistema é especialmente benéfico para artistas que já enfrentaram problemas de má atribuição ou que possuem nomes comuns.

    No entanto, o Spotify reconhece que a ferramenta pode não ser necessária para todos os usuários e que, em alguns casos, pode haver atrasos nos lançamentos se os artistas demorarem a responder. A evolução da ferramenta continuará durante a fase beta, com planos de expandir o acesso a mais artistas no futuro.

    Preocupações globais com IA na música

    O piloto desta ferramenta ocorre em meio a preocupações crescentes na indústria musical sobre o conteúdo gerado por IA. Recentemente, a Sony Music Entertainment solicitou a remoção de mais de 135.000 faixas que, segundo a empresa, foram criadas usando IA generativa para imitar artistas.

  • Inteligência Artificial: aliada, ferramenta, mas também perigo — tudo ao mesmo tempo

    Inteligência Artificial: aliada, ferramenta, mas também perigo — tudo ao mesmo tempo

    Inteligência Artificial: aliada, ferramenta, mas também perigo — tudo ao mesmo tempo

    A inteligência artificial (IA) deixou de ser um conceito futurista para se tornar uma realidade palpável no cotidiano. De escolas a negócios, essa tecnologia se manifesta de maneiras diversas, apresentando-se tanto como uma aliada poderosa quanto como um potencial perigo. Ferramentas como o ChatGPT já fazem parte do dia a dia, transformando a forma como aprendemos e trabalhamos.

    Essa dualidade da IA é evidente em suas aplicações práticas. Enquanto impulsiona a criatividade e a eficiência, também levanta questões sobre autenticidade e segurança. Compreender esse cenário multifacetado é fundamental para navegar no mundo cada vez mais digital em que vivemos.

    IA como aliada no aprendizado

    Em Anápolis, o professor Clóvis Teodoro, do CEPI Gomes de Souza Ramos, integrou a inteligência artificial e games educativos em suas aulas de Química e Iniciação Científica. A iniciativa buscou aproximar os alunos do conteúdo, percebendo que recursos digitais estimulam mais a curiosidade e melhoram o desempenho. Essa estratégia se alinha à realidade de um país onde a maioria dos jovens acessa a internet diariamente, tornando as aulas mais dinâmicas, interativas e compreensíveis.

    Ferramenta de empreendedorismo

    Em Goiânia, no CEPI Novo Horizonte, a IA transcendeu a sala de aula para se tornar uma ferramenta de empreendedorismo. Através da Eletiva de Empreendedorismo Juvenil, ministrada pela professora Aline Maria, os alunos aprendem a transformar ideias em projetos concretos com o apoio da inteligência artificial. O resultado são estudantes que já iniciaram seus próprios empreendimentos, descobrindo novas possibilidades ao aprenderem a tirar ideias do papel.

    Os riscos e o perigo da desinformação

    Contudo, a inteligência artificial também apresenta riscos significativos que demandam atenção. O fenômeno das deepfakes, vídeos falsos gerados por IA com impressionante precisão, exemplifica essa preocupação. Heinz Felipe, engenheiro de IA, alerta que esses conteúdos podem levar à disseminação de fake news, golpes financeiros e danos à reputação.

    Para se proteger nesse cenário, o especialista recomenda desconfiar de conteúdos sensacionalistas, verificar a fonte antes de compartilhar e utilizar ferramentas de checagem. O senso crítico emerge como o principal antídoto contra a desinformação.

    A inteligência artificial não é vilã nem heroína — é uma ferramenta poderosa que depende do uso que fazemos dela.

    As experiências nas escolas goianas demonstram que a IA está moldando jovens mais criativos, empreendedores e críticos. O SER Goiás na TV continua acompanhando essa evolução, reforçando o compromisso com a educação de qualidade e a aprendizagem inclusiva.

  • Inteligência artificial cria fraudes milionárias; entrevista exclusiva no SXSW explica

    Inteligência artificial cria fraudes milionárias; entrevista exclusiva no SXSW explica

    Inteligência artificial cria fraudes milionárias; entrevista exclusiva no SXSW explica

    As fraudes digitais impulsionadas pela Inteligência Artificial (IA) dispararam mais de 1000% em 2025, um crescimento alarmante que reflete a democratização e o avanço rápido dessas tecnologias. Em uma conversa exclusiva no SXSW 2026, em Austin (EUA), o analista de negócios Guilherme Ravache obteve insights valiosos com Davi Reis, da Unico, sobre como os deepfakes se tornaram uma ameaça direta a bancos e sistemas financeiros, e como soluções inovadoras como a prova de vida surgem como contramedidas essenciais.

    A acessibilidade e a sofisticação aprimorada das ferramentas de IA são os principais motores por trás desse aumento expressivo. O que antes exigia conhecimento técnico avançado, hoje está ao alcance de um número muito maior de pessoas, permitindo a criação de golpes cada vez mais elaborados e convincentes.

    O impacto dos deepfakes no setor financeiro

    Os deepfakes deixaram de ser uma preocupação hipotética para se tornarem uma realidade com impacto direto na segurança de usuários e na integridade de sistemas financeiros. Ferramentas antes voltadas para o entretenimento, como as oferecidas pelo Google e o ChatGPT, agora são exploradas por criminosos para aplicar fraudes sofisticadas.

    “A mesma tecnologia que é usada pra gente rir também pode ser usada por um fraudador para atacar o sistema financeiro”, afirma Davi Reis.

    A capacidade de replicar rostos e criar vídeos falsos extremamente realistas coloca em risco os métodos tradicionais de autenticação, incluindo sistemas de reconhecimento facial. A engenharia social se intensifica, permitindo que criminosos se passem por qualquer pessoa, ampliando o leque de golpes possíveis.

    A tecnologia como defesa contra si mesma

    Diante deste cenário desafiador, empresas de tecnologia estão investindo massivamente em soluções de segurança mais robustas. A prova de vida, tecnologia central da Unico, destaca-se nesse contexto. O sistema é projetado para verificar a autenticidade de uma pessoa em tempo real, garantindo que não se trata de uma imagem ou vídeo manipulado.

    A corrida armamentista entre fraudadores e defensores da segurança digital é uma constante. Davi Reis enfatiza que a solução para combater as ameaças criadas pela própria tecnologia reside em usar a tecnologia de forma inteligente.

    “Esse mundo de ficção científica chegou aqui para nós agora e a gente precisa da tecnologia exatamente para combater e controlar a tecnologia”, afirma Davi.

    Riscos além do setor financeiro

    Embora o setor financeiro seja um dos alvos mais evidentes, o uso de deepfakes transcende as fraudes bancárias. A capacidade de criar vídeos falsos convincentes pode abalar relações pessoais e sociais, enganando até mesmo familiares e amigos, o que demonstra a amplitude dos desafios impostos pela nova era digital.

  • Como a Inteligência Artificial virou arma de guerra?

    Como a Inteligência Artificial virou arma de guerra?

    Como a Inteligência Artificial virou arma de guerra?

    A Inteligência Artificial (IA) deixou de ser um conceito futurista para se tornar um fator decisivo no campo de batalha. Na recente guerra contra o Irã, a IA consolidou sua posição, integrando-se a tecnologias como drones e ciberataques. Ela não é mais apenas uma ferramenta, mas sim o elemento estruturante das operações militares, redefinindo o planejamento, a execução e a comunicação das ações bélicas.

    Um dos impactos mais notáveis é a aceleração do ritmo da guerra. Decisões e ataques que antes consumiam dias ou semanas agora são realizados em horas, graças à mediação de sistemas automatizados. A IA atua em diversas frentes: desde o processamento e análise de vastos volumes de dados militares até o apoio na avaliação de riscos e definição de estratégias.

    IA no campo de batalha: novas capacidades e estratégias

    O uso da IA se manifesta em diversas aplicações militares. Ela é fundamental no monitoramento e vigilância, além de auxiliar na identificação e priorização de alvos em larga escala. Essa capacidade de processamento rápido de informações transforma a dinâmica do conflito, permitindo respostas mais ágeis e precisas.

    Os Estados Unidos e Israel se destacam pelo emprego avançado de IA. O sistema Maven, dos EUA, em conjunto com o Claude, cruza dados de satélite, sinais e vigilância para gerar listas com sugestões de ataque. Em Israel, o sistema Lavender identifica e classifica indivíduos como alvos potenciais com alta precisão, enquanto o sistema Gospel gera listas de alvos de infraestrutura.

    Os resultados dessa integração são expressivos. Nas primeiras 12 horas de conflito, Estados Unidos e Israel executaram quase 900 ataques no Irã. Sistemas de IA permitiram a geração de cerca de 1.000 alvos priorizados em um único dia, possibilitando operações em escala similar à Guerra do Iraque com apenas um décimo da mão de obra humana necessária anteriormente.

    A guerra da informação e a influência da IA

    Além das operações diretas no campo de batalha, a IA também tem sido uma ferramenta poderosa na guerra da informação. Sua aplicação na produção e disseminação de conteúdos falsos, como deepfakes e materiais propagandísticos, visa influenciar a opinião pública.

    No conflito contra o Irã, ambos os lados utilizaram a tecnologia para criar animações que reforçam suas narrativas. Imagens falsas de ataques, incluindo fotos manipuladas e cenas de videogames apresentadas como reais, circularam amplamente. Deepfakes e contas falsas integraram operações coordenadas para moldar a percepção pública, com autoria indeterminada.

    Riscos e desafios na era da guerra com IA

    A crescente dependência da IA em contextos militares traz consigo riscos significativos. Um deles é a automação por consentimento, onde operadores humanos têm tempo limitado para validar decisões sugeridas por sistemas automatizados.

    Há também o perigo de erros de identificação, com algoritmos que podem confundir padrões e classificar civis como ameaças. Vieses nos dados de treinamento e possíveis interferências externas podem distorcer as decisões dos sistemas de IA.

    Em cenários letais, essas falhas técnicas deixam de ser meros problemas de software e se transformam em tragédias humanas. A guerra em 2026 demonstra que a Inteligência Artificial se tornou um pilar central nos conflitos modernos, exigindo novas abordagens éticas e estratégicas.

  • TSE e o cerco à Inteligência Artificial ‘Sem Rosto’ nas Eleições 2026

    TSE e o cerco à Inteligência Artificial ‘Sem Rosto’ nas Eleições 2026

    TSE e o cerco à Inteligência Artificial ‘Sem Rosto’ nas Eleições 2026

    O Tribunal Superior Eleitoral (TSE) estabeleceu um marco regulatório para as Eleições de 2026, definindo um novo patamar na interação entre tecnologia e democracia. A Corte aprovou o calendário eleitoral e, crucialmente, definiu as diretrizes para o uso da Inteligência Artificial (IA) no cenário político. A principal inovação consiste na proibição absoluta de conteúdos sintéticos nas 72 horas que antecedem o pleito, buscando evitar a manipulação de última hora quando o tempo para esclarecimento do eleitor é mínimo.

    Essa medida cria um “período de resfriamento” informacional, impedindo que ferramentas de IA mimetizem vozes ou imagens de candidatos, mesmo que identificadas. O objetivo é garantir que a decisão do eleitor não seja influenciada por “alucinações tecnológicas” de encerramento de campanha. A partir de agora, o uso de IA na propaganda eleitoral passa a exigir um rigoroso padrão de probidade e transparência.

    Rotulagem e responsabilidade digital

    A utilização de qualquer elemento sintético em conteúdo eleitoral exigirá rotulagem explícita e inequívoca. Isso assegura que o cidadão saiba imediatamente que o material visual ou sonoro foi processado por computação. Paralelamente, o TSE reforçou a proibição de deepfakes com o intuito de criar fatos falsos ou difamar adversários, reafirmando que a liberdade de expressão não abrange a manipulação digital maliciosa.

    Plataformas digitais sob escrutínio

    As plataformas digitais também foram alvos de uma comunicação direta por parte do TSE. A partir das novas normas, as empresas de tecnologia passam a ter responsabilidade solidária na manutenção da integridade do pleito. Elas deverão remover, de forma célere, conteúdos que violem as regras de rotulagem ou as vedações éticas estabelecidas. A omissão na fiscalização e remoção de conteúdos irregulares poderá acarretar sanções severas, como multas vultosas e até a suspensão de serviços.

    “Ao domesticar a técnica em favor da liberdade do voto e da dignidade da política, a Justiça Eleitoral brasileira reafirma seu papel de vanguarda global na proteção da verdade factual perante a sofisticação da fraude digital.”

    Segundo William Rocha, sócio do Escritório Terra Rocha Advogados e diretor de Inclusão Digital e Inovação da OAB-RJ, o TSE demonstra um compromisso com a higidez das urnas, sem tecnofobia. As novas normas funcionam como um antídoto para que o debate de ideias não seja prejudicado por algoritmos de desinformação, assegurando que a tecnologia sirva à democracia.

    A Justiça Eleitoral brasileira, com essas regulamentações, consolida sua posição como referência global na proteção da verdade factual frente aos desafios impostos pela sofisticação da fraude digital.

  • Deepfakes com IA: Como Criminosos Exploram Deficiências

    Deepfakes com IA: a nova fronteira da exploração digital

    A inteligência artificial (IA) avançou a ponto de criar representações digitais indistinguíveis da realidade, os chamados deepfakes. Infelizmente, essa tecnologia poderosa está sendo desvirtuada por criminosos que exploram vulnerabilidades específicas, como as deficiências, em esquemas de monetização predatórios. A tática envolve a apropriação não autorizada de imagens de pessoas reais, manipuladas por IA para simular condições como a síndrome de Down, com o objetivo de direcionar usuários a plataformas de conteúdo adulto pago.

    Esses esquemas representam uma dupla camada de exploração: violam a privacidade e a imagem de indivíduos e objetificam uma comunidade inteira. A pesquisa aponta para a sofisticação do método, que utiliza redes sociais para criar engajamento inicial e, em seguida, redireciona o tráfego para serviços pagos, muitas vezes ocultando o rosto das vítimas para contornar as políticas das plataformas. A comunidade com deficiência expressa profunda preocupação com essa prática, que perpetua estereótipos e fetichiza suas condições.

    Como funcionam os deepfakes exploratórios

    O método mais perturbador envolve a criação de deepfakes que simulam pessoas com síndrome de Down. Criminosos roubam imagens de perfis públicos de mulheres em redes sociais e utilizam filtros de IA para alterar suas feições, criando a aparência de ter a síndrome. Essas imagens manipuladas são então sobrepostas a corpos de mulheres reais, gerando personagens fictícias.

    Um exemplo alarmante é o caso de Alice, uma jovem de 17 anos, cuja imagem foi utilizada sem consentimento em uma conta do Instagram que alcançou 25 mil seguidores. O padrão observado em tais contas é:

    • Postagem de conteúdo sugestivo para gerar engajamento.
    • Recebimento de comentários sexualmente explícitos.
    • Redirecionamento de usuários para plataformas de conteúdo adulto pago, como o OnlyFans.
    • Exploração da deficiência como um nicho de mercado específico e lucrativo.

    Segundo a pesquisadora Eleanor Drage, da Universidade de Cambridge, essa prática “retira dados das mulheres sem o seu consentimento e os usa para capitalizar a deficiência como forma de ganhar dinheiro”.

    O esquema de monetização nas redes sociais

    Esses deepfakes maliciosos são monetizados através de um sistema engenhoso que explora as políticas de diferentes redes sociais. O processo funciona como um funil de conversão, iniciado no Instagram e culminando em plataformas de conteúdo adulto. Os responsáveis por essa operação são conhecidos como “Geradores de IA do OnlyFans”, indivíduos especializados em criar influenciadores artificiais para promover conteúdo adulto.

    Um exemplo de operação envolve um “gerente” francês, identificado pela BBC, que compartilhava tutoriais sobre a criação desses deepfakes em canais no YouTube e Telegram. A estratégia de monetização se desdobra em etapas claras:

    1. Criação de engajamento: Contas no Instagram postam conteúdo provocativo para atrair um grande número de seguidores.
    2. Redirecionamento: Os usuários são subsequentemente direcionados para perfis pagos em plataformas como o OnlyFans.
    3. Adaptação às políticas: Para evitar detecção e violação de regras, os rostos nos perfis pagos são frequentemente cortados ou ocultados.
    4. Exploração de nichos: Deficiências são categorizadas como “mercados de nicho” com alto potencial de lucro, permitindo a criação rápida de personagens sob demanda.

    O criador de conteúdo artificial, Dorian, mencionou em seus tutoriais que “uma das melhores coisas com a IA é que você pode criar qualquer nicho sob demanda”, incluindo pessoas com deficiências como um “mercado pouco atendido”.

    Impactos devastadores na comunidade com deficiência

    Os deepfakes que simulam síndrome de Down causam danos que transcendem as vítimas individuais, impactando toda a comunidade de pessoas com deficiência. O prejuízo é tanto psicológico quanto social, reforçando estereótipos prejudiciais e objetificando uma condição genética.

    Ativistas e produtores de conteúdo com síndrome de Down, como Jeremy e Audrey, expressaram grande preocupação. “Acho que não está certo que eles tenham uma deficiência falsa”, disse Audrey. “Eu e Jeremy temos síndrome de Down e adoramos isso. Ela é única e eu adoro. É meio que a melhor coisa da minha vida.” Jeremy lamenta: “Estão fazendo isso por dinheiro. Por favor, parem com isso.”

    Os principais impactos incluem:

    • Fetichização da deficiência: Uma condição genética é transformada em objeto de desejo sexual.
    • Representação distorcida: Criação e disseminação de estereótipos negativos sobre pessoas com síndrome de Down.
    • Apropriação de identidade: Uso não consentido da imagem da comunidade para fins de lucro.
    • Normalização da exploração: A deficiência é tratada como um mero “nicho de mercado”.

    A sensação de “estar sendo usada”, expressa por Audrey, reflete como essa prática atenta contra a dignidade e a autorrepresentação da comunidade. Essa exploração, descrita como uma “rede de exploração” por Eleanor Drage, prejudica indivíduos e a percepção social sobre pessoas com deficiência.

    Resposta das plataformas digitais: um cenário complexo

    As plataformas digitais têm apresentado respostas inconsistentes e, por vezes, inadequadas diante do problema dos deepfakes exploratórios, evidenciando falhas em seus sistemas de moderação de conteúdo. A resposta inicial do Instagram ao caso de Alice foi problemática: após a denúncia, a plataforma informou que o usuário não violou as normas, pois os vídeos deepfake não eram explicitamente sexuais, explorando uma brecha nas políticas.

    No entanto, após a intervenção jornalística da BBC, houve ações mais efetivas:

    • YouTube: Cancelou canais de Dorian por violarem políticas de spam, fraude e práticas enganosas.
    • Meta (Instagram): Removeu a maioria das contas denunciadas por personificação e promoção de serviços sexuais.
    • OnlyFans: Afirmou que todos os criadores passam por verificação de identidade e que conteúdo desse tipo é proibido.

    Contudo, a conta que explorava a imagem de Alice só foi removida após a exposição midiática, o que demonstra a insuficiência das ferramentas automatizadas para detectar explorações sofisticadas. O OnlyFans alega verificar a idade e o consentimento das imagens, mas o sistema não detecta o uso não autorizado de terceiros.

    Como se proteger de deepfakes maliciosos

    A proteção contra deepfakes maliciosos exige uma abordagem multifacetada. É fundamental que os usuários estejam vigilantes, utilizem as ferramentas de denúncia disponíveis e compreendam os riscos inerentes à exposição online.

    Estratégias de proteção individual incluem:

    • Monitoramento constante: Realizar buscas periódicas pelo próprio nome e imagem em diferentes plataformas.
    • Configurações de privacidade: Limitar a visibilidade de fotos e vídeos em perfis públicos.
    • Denúncias persistentes: Não aceitar respostas automáticas negativas das plataformas e insistir nas denúncias.
    • Documentação: Manter registros de contas falsas e tentativas de contato.

    Alice, por exemplo, tentou contato direto com os criadores da conta falsa sem sucesso. A denúncia formal e persistente às plataformas, juntamente com a intervenção da imprensa, provou ser mais eficaz. Para a sociedade, a proteção envolve:

    1. Educação sobre deepfakes: Aprender a identificar conteúdo manipulado.
    2. Apoio às vítimas: Amplificar denúncias de pessoas afetadas.
    3. Pressão por políticas eficazes: Exigir que as plataformas aprimorem seus sistemas de detecção e moderação.

    A exposição pública através da mídia continua sendo uma ferramenta poderosa para combater essas práticas exploratórias, evidenciando a necessidade de uma vigilância contínua e de ações conjuntas para mitigar os danos causados pelos deepfakes maliciosos.

  • Meta falhou em identificar vídeo de IA durante guerra Israel-Irã em 2025, diz Conselho de Supervisão

    Meta falhou em identificar vídeo de IA durante guerra Israel-Irã em 2025, diz Conselho de Supervisão

    Meta falhou em identificar vídeo de IA durante guerra Israel-Irã em 2025, diz Conselho de Supervisão

    O Conselho de Supervisão, órgão que atua como uma espécie de “corte suprema” para as decisões de moderação de conteúdo da Meta, divulgou uma nova decisão apontando que a empresa permitiu a circulação de um vídeo gerado por inteligência artificial (IA) sem identificação adequada no Facebook. O incidente ocorreu durante a guerra de 12 dias entre Israel e Irã em junho de 2025.

    O vídeo em questão, postado por um usuário nas Filipinas que se passava por uma fonte de notícias, mostrava danos extensos a edifícios na cidade de Haifa, terceira maior de Israel. Apesar de ter sido reportado por seis usuários e de um vídeo similar já ter sido desmentido por veículos de imprensa confiáveis no TikTok, a Meta não tomou providências para sinalizar seu conteúdo como possivelmente artificial.

    A falha na moderação de conteúdo

    O Conselho de Supervisão reverteu a decisão da Meta de manter o vídeo online sem um rótulo de “IA de Alto Risco”. Embora o conteúdo não justificasse a remoção, por não apresentar ameaça iminente de dano físico ou violência, o conselho argumentou que sua inautenticidade deveria ter sido claramente sinalizada aos usuários.

    “À medida que a quantidade e a qualidade do conteúdo gerado por IA aumentam, seu impacto sobre pessoas e sociedades será profundo”, destacou o conselho em sua decisão.

    O contexto da guerra e a proliferação de deepfakes

    A constatação do conselho surge em um momento em que vídeos criados por IA estão se tornando cada vez mais comuns, especialmente em meio ao conflito entre Israel e Irã. De acordo com a plataforma NewsGuard, que avalia a confiabilidade de informações online, atores estatais de ambos os países estão gerando deepfakes em um ritmo mais acelerado do que em tempos de paz.

    Uma análise da BBC também revelou que criadores de conteúdo em redes sociais menores estão utilizando ferramentas de IA para produzir e monetizar imagens de guerra falsas. A própria Meta admitiu, durante a investigação do conselho, que depende de metadados para identificar conteúdo gerado por IA. No entanto, essa abordagem é limitada, aplicando-se principalmente a imagens estáticas e sendo facilmente contornável pela remoção dos metadados antes do upload.

    Desafios na detecção de conteúdo manipulado

    Atualmente, a maioria das plataformas depende da autodeclaração dos usuários, e as ferramentas para detectar e sinalizar áudio e vídeo manipulados por IA ainda estão em fase de desenvolvimento. O Conselho de Supervisão enfatizou a necessidade de a Meta “fazer mais” para auxiliar os usuários a identificar conteúdo gerado por IA em conflitos armados.

    Isso inclui fornecer detalhes sobre a origem da mídia, investir em ferramentas de detecção mais robustas e desenvolver métodos aprimorados para rotulagem, tudo isso de forma ágil. O membro do conselho, Sudhir Krishnaswamy, sugeriu que o mandato do órgão pode se tornar menos focado em casos individuais e mais estruturado para implementar reformas e recomendações amplas conforme a IA se prolifera.

    Pesquisadores alertam que as plataformas enfrentarão níveis sem precedentes de desinformação na era da IA. Mahsa Alimardani e Sam Gregory, pesquisadores de direitos humanos do Witness, escreveram em junho de 2025 que, enquanto outros conflitos viram um grande volume de imagens recicladas e transmissões falsas, o conteúdo gerado por IA relacionado ao conflito Irã-Israel elevou a desinformação a um “nível industrial”.