Meta falhou em identificar vídeo de IA durante guerra Israel-Irã em 2025, diz Conselho de Supervisão
O Conselho de Supervisão, órgão que atua como uma espécie de “corte suprema” para as decisões de moderação de conteúdo da Meta, divulgou uma nova decisão apontando que a empresa permitiu a circulação de um vídeo gerado por inteligência artificial (IA) sem identificação adequada no Facebook. O incidente ocorreu durante a guerra de 12 dias entre Israel e Irã em junho de 2025.
O vídeo em questão, postado por um usuário nas Filipinas que se passava por uma fonte de notícias, mostrava danos extensos a edifícios na cidade de Haifa, terceira maior de Israel. Apesar de ter sido reportado por seis usuários e de um vídeo similar já ter sido desmentido por veículos de imprensa confiáveis no TikTok, a Meta não tomou providências para sinalizar seu conteúdo como possivelmente artificial.
A falha na moderação de conteúdo
O Conselho de Supervisão reverteu a decisão da Meta de manter o vídeo online sem um rótulo de “IA de Alto Risco”. Embora o conteúdo não justificasse a remoção, por não apresentar ameaça iminente de dano físico ou violência, o conselho argumentou que sua inautenticidade deveria ter sido claramente sinalizada aos usuários.
“À medida que a quantidade e a qualidade do conteúdo gerado por IA aumentam, seu impacto sobre pessoas e sociedades será profundo”, destacou o conselho em sua decisão.
O contexto da guerra e a proliferação de deepfakes
A constatação do conselho surge em um momento em que vídeos criados por IA estão se tornando cada vez mais comuns, especialmente em meio ao conflito entre Israel e Irã. De acordo com a plataforma NewsGuard, que avalia a confiabilidade de informações online, atores estatais de ambos os países estão gerando deepfakes em um ritmo mais acelerado do que em tempos de paz.
Uma análise da BBC também revelou que criadores de conteúdo em redes sociais menores estão utilizando ferramentas de IA para produzir e monetizar imagens de guerra falsas. A própria Meta admitiu, durante a investigação do conselho, que depende de metadados para identificar conteúdo gerado por IA. No entanto, essa abordagem é limitada, aplicando-se principalmente a imagens estáticas e sendo facilmente contornável pela remoção dos metadados antes do upload.
Desafios na detecção de conteúdo manipulado
Atualmente, a maioria das plataformas depende da autodeclaração dos usuários, e as ferramentas para detectar e sinalizar áudio e vídeo manipulados por IA ainda estão em fase de desenvolvimento. O Conselho de Supervisão enfatizou a necessidade de a Meta “fazer mais” para auxiliar os usuários a identificar conteúdo gerado por IA em conflitos armados.
Isso inclui fornecer detalhes sobre a origem da mídia, investir em ferramentas de detecção mais robustas e desenvolver métodos aprimorados para rotulagem, tudo isso de forma ágil. O membro do conselho, Sudhir Krishnaswamy, sugeriu que o mandato do órgão pode se tornar menos focado em casos individuais e mais estruturado para implementar reformas e recomendações amplas conforme a IA se prolifera.
Pesquisadores alertam que as plataformas enfrentarão níveis sem precedentes de desinformação na era da IA. Mahsa Alimardani e Sam Gregory, pesquisadores de direitos humanos do Witness, escreveram em junho de 2025 que, enquanto outros conflitos viram um grande volume de imagens recicladas e transmissões falsas, o conteúdo gerado por IA relacionado ao conflito Irã-Israel elevou a desinformação a um “nível industrial”.