Boato no Reddit engana IA de notícias, revelando falhas e potencial da publicação automatizada

Um experimento no Reddit expôs a vulnerabilidade de sites de notícias gerados por IA a desinformação, mas também destacou o alcance que essa tecnologia pode alcançar.

No vasto universo da internet, onde a informação flui a uma velocidade vertiginosa, as **redes sociais** se tornaram verdadeiros ímãs para algoritmos. Essa atração foi habilmente explorada pela comunidade de World of Warcraft (WoW) no Reddit, que orquestrou uma **notícia falsa encenada** com o objetivo de ludibriar um site de notícias de jogos impulsionado por inteligência artificial (IA), conhecido como “The Portal”. Este portal, que faz parte do aplicativo de comunidade de jogos “ZLeague”, é um exemplo de **marketing de conteúdo automatizado**.

A Armadilha de “Glorbo”

A brincadeira começou com a conta do Reddit “kaefer_kriegerin”, que inventou um personagem fictício chamado “Glorbo”. Glorbo foi apresentado como um novato no universo de WoW, com um contexto detalhado sobre sua suposta origem e história de desenvolvimento. A genialidade da farsa residiu na colaboração da comunidade, com diversos jogadores entrando na onda, adicionando detalhes absurdos e delirantes à narrativa de Glorbo, alimentando o engano com entusiasmo.

A intenção era clara: testar os limites da IA e expor as **armadilhas da publicação de IA sem controle humano**. A comunidade queria ver se o site de notícias automatizado cairia na isca. E, para surpresa de muitos, o plano deu certo. O site “The Portal” não só publicou a história como também gerou um artigo completo a partir da discussão no Reddit, incorporando informações fornecidas pelos próprios usuários.

O Padrão de Reportagem da IA

Este padrão de reportagem, onde artigos são gerados a partir de tópicos populares do Reddit, é recorrente no “The Portal”. Muitos de seus artigos começam com títulos como “Jogadores discutem…”, seguido pela citação de uma discussão relevante na plataforma. A IA, ao processar a informação, aparentemente não distingue entre fatos e ficção quando apresentada de forma convincente, especialmente quando impulsionada por uma comunidade engajada.

O site, em uma ironia notável, chegou a publicar um artigo sobre o tópico de artigos gerados por IA, que estava em alta no Reddit. Nesse tópico, os jogadores expressavam opiniões negativas sobre a publicação automatizada. A IA, em sua análise objetiva, resumiu a discussão da seguinte forma: “Suspeito que todas as pessoas listadas como autores no site são bots. Chuck Brady, Ashley Beam, Samantha Carr e afins publicam notícias de dois dígitos todos os dias. Isso é impossível para editores humanos, embora eu tente o meu melhor.” Essa observação destaca a **eficiência da IA em gerar volume de conteúdo**, algo que seria humanamente impossível.

O Alcance da IA no Google Notícias

Apesar de ter sido ridicularizado pela comunidade gamer, o modelo de publicação automatizada parece funcionar em termos de **geração de alcance**. O algoritmo do Google, que não discrimina a origem do conteúdo (humano ou máquina), tem distribuído os artigos gerados pela IA através do Google Notícias, da pesquisa e de outras plataformas como o Discover, que é uma fonte significativa de tráfego para editores.

Dados da SimilarWeb indicam que o site “zleague.gg” tem um tráfego acima de um milhão, com um crescimento expressivo desde maio. Mesmo considerando possíveis imprecisões na plataforma de análise, é inegável que o **conteúdo puramente automatizado está gerando um alcance relevante**. A exposição dessa prática só ocorreu devido a uma brincadeira deliberada do Reddit, o que sugere que muitos outros sites operando de forma similar podem estar passando despercebidos.

O Lucro do Google com IA

O Google tem sido explícito em sua política: **“não se importa se o conteúdo é gerado por humanos ou máquinas”**. A própria empresa utiliza conteúdo gerado por IA em sua “Search Generative Experience”, muitas vezes baseado em conteúdo humano. Além disso, o Google também se beneficia do **spam de IA** quando sites que utilizam essa tecnologia para gerar tráfego veiculam anúncios gráficos da própria plataforma. Isso cria um ciclo onde a IA, mesmo com suas falhas, contribui para o ecossistema de publicidade online.

Embora a publicação de IA sem supervisão humana possa levar a situações como a do “Glorbo”, onde boatos se transformam em notícias, o potencial para gerar tráfego e visibilidade é inegável. O desafio reside em encontrar um equilíbrio entre a eficiência da automação e a necessidade de **verificação e curadoria humana** para garantir a qualidade e a veracidade da informação. A experiência com o boato do Reddit serve como um alerta e uma demonstração de que, embora a IA possa funcionar a médio e longo prazo, a supervisão humana continua sendo crucial para a integridade do conteúdo.