IA no TikTok: Vídeos com IA viralizam com fake news e conteúdo sexualizado

O fenômeno das contas de IA no TikTok e as preocupações geradas

A inteligência artificial (IA) está dominando o TikTok, com centenas de contas dedicadas a criar vídeos que acumulam bilhões de visualizações em um curto período. Essa ascensão meteórica levanta sérias preocupações, especialmente porque parte significativa desse conteúdo envolve material sexualizado, desinformação como fake news e até mesmo trechos falsificados de telejornais. A situação tem sido alvo de atenção de pesquisadores, que alertam para o potencial de manipulação e disseminação de notícias falsas na popular plataforma de vídeos curtos.

Um levantamento recente, divulgado pela AI Forensics, uma organização sem fins lucrativos com sede em Paris, revelou números impressionantes. Foram identificadas 354 contas focadas em IA que publicaram aproximadamente 43 mil posts criados com ferramentas generativas. O impacto dessas publicações é colossal, totalizando 4,5 bilhões de visualizações em apenas um mês. Essa métrica demonstra a capacidade da IA em gerar conteúdo que ressoa rapidamente com o público do TikTok.

A automação e a estratégia por trás da viralização

Os pesquisadores por trás do relatório apontam que muitas dessas contas utilizam uma estratégia agressiva de publicação em massa, chegando a submeter até 70 posts por dia. Essa alta frequência sugere o uso de automação, uma tática para manipular o algoritmo do TikTok e maximizar o alcance do conteúdo. A maioria dessas contas foi criada no início de 2025, evidenciando um crescimento exponencial e acelerado desse tipo de material. Essa proliferação sinaliza uma nova tendência preocupante na plataforma: a linha tênue entre conteúdo humano autêntico e conteúdo sintético gerado por IA está se tornando cada vez mais difusa, impactando diretamente os feeds dos usuários.

Apesar do volume expressivo, o TikTok divulgou recentemente que o conteúdo rotulado como gerado por IA ainda representa uma parcela pequena do catálogo geral da plataforma. A empresa estima que existam ao menos 1,3 bilhão de postagens geradas por IA. Contudo, considerando que mais de 100 milhões de vídeos são enviados diariamente, a proporção pode parecer pequena, mas o impacto em termos de visualizações e engajamento é desproporcional.

Conteúdo sexualizado e fake news: os alvos da IA

A análise do conteúdo gerado por IA no TikTok revela padrões preocupantes. Dentre as contas mais ativas, metade foca em material relacionado ao corpo feminino, apresentando personagens geradas por IA em situações e com vestimentas sexualizadas. Essa exploração da sexualidade, muitas vezes irreal e padronizada, contribui para a objetificação e pode ter impactos negativos na autoimagem dos usuários, especialmente os mais jovens.

Além do conteúdo sexualizado, a pesquisa identificou a disseminação de notícias falsas (fake news) e desinformação. Trechos falsificados de telejornais e alegações anti-imigração são exemplos de como a IA está sendo utilizada para criar e espalhar narrativas enganosas. Essa capacidade de fabricar conteúdo que parece autêntico representa um desafio significativo para a verificação de fatos e para a manutenção de um ambiente online seguro e confiável.

É importante notar que, após a denúncia e a divulgação do relatório, diversas contas analisadas foram excluídas pela plataforma, demonstrando uma resposta, ainda que tardia, às irregularidades identificadas. No entanto, a velocidade com que novas contas surgem e o volume de conteúdo gerado pela IA indicam que o problema é recorrente e exige vigilância constante.

A resposta do TikTok e as críticas dos pesquisadores

Diante das conclusões do relatório, o TikTok emitiu um comunicado afirmando que as alegações eram “infundadas”. A empresa defendeu suas políticas de moderação, argumentando que o problema da desinformação gerada por IA não é exclusivo da sua plataforma e que a empresa tem investido significativamente em ferramentas de controle e moderação. Um porta-voz da empresa declarou que o conteúdo prejudicial gerado por inteligência artificial é removido, e que centenas de milhões de contas de bots são bloqueadas.

O TikTok também ressaltou seu compromisso com a transparência e a segurança, mencionando o investimento em tecnologias de rotulagem de IA líderes do setor. Além disso, a plataforma passou a oferecer aos usuários a opção de ver menos conteúdo gerado artificialmente em seus feeds. Essa medida busca dar mais controle ao usuário sobre o que ele consome na plataforma.

Contudo, os pesquisadores argumentam que a abordagem do TikTok, focada em rótulos opcionais e na remoção após denúncia, pode não ser suficiente. Eles defendem que as plataformas precisam ir além de rótulos fracos ou opcionais de ‘conteúdo de IA’ e considerar a segregação do conteúdo gerado por IA do material criado por humanos. Essa separação mais clara poderia ajudar os usuários a discernir a origem do conteúdo e a avaliar sua confiabilidade com mais precisão.

O lado “fofo” e o futuro do conteúdo no TikTok

Nem todo o conteúdo gerado por IA no TikTok é problemático. Uma parcela significativa das publicações mais populares é formada por vídeos considerados “absurdos” e divertidos, como animações de animais competindo em olimpíadas ou bebês falantes. Esse tipo de conteúdo, embora classificado como “irrelevante” por alguns, é reconhecido por muitos usuários como “divertido” e “fofo”, mostrando o potencial lúdico e criativo da IA quando utilizada de forma inofensiva.

A investigação conclui que a presença massiva de IA no TikTok já faz parte de um ecossistema maior de viralização. A capacidade de gerar conteúdo em larga escala e de forma rápida transforma a dinâmica da plataforma. A linha entre o que é conteúdo autêntico e sintético deve se tornar ainda mais difícil de identificar no futuro, exigindo um esforço contínuo de plataformas, pesquisadores e usuários para combater a desinformação e garantir um ambiente digital mais seguro e confiável.