Alerta: Spam de IA já está arruinando a internet e o Google reage

Golpistas usam inteligência artificial para criar conteúdo falso, roubar tráfego e prejudicar usuários.

O lado sombrio da IA: Conteúdo fabricado em massa

Pouco mais de um ano após o lançamento público do ChatGPT, uma previsão preocupante sobre o impacto da inteligência artificial na internet está se tornando realidade: o spam de IA está se espalhando pela web. Essa nova onda de conteúdo gerado automaticamente por máquinas tem levado a consequências sérias, afetando desde veículos de notícias legítimos até famílias enlutadas.

Um exemplo claro disso foi relatado pelo blog de tecnologia 404 Media. Eles precisaram modificar seu site após perceberem que versões geradas por IA de suas próprias notícias começaram a aparecer em sites de spam. O objetivo desses golpistas é claro: otimizar o conteúdo para mecanismos de busca, como o Google, e exibir anúncios nas páginas criadas artificialmente. Em alguns casos, esses artigos falsos chegaram a aparecer acima das matérias originais nos resultados de pesquisa.

A investigação do 404 Media sobre essa prática, apelidada de “roubo de artigos”, revelou o uso de ferramentas como o SpinRewriter. Essa plataforma permite a criação de mil versões ligeiramente diferentes de um mesmo artigo com um único clique, que podem ser publicadas automaticamente em múltiplos sites WordPress através de um plugin pago. Outra empresa, a Byword, anuncia abertamente o “roubo de SEO”, alegando ter “roubado 3,6 milhões de tráfego total de um concorrente” ao exportar o sitemap do rival e criar versões geradas por IA de 1.800 de seus artigos. Esse tipo de ação prejudica diretamente o setor de notícias, pois rouba cliques e receita das fontes que investem tempo e dinheiro na produção de conteúdo original e de qualidade.

Usurpadores digitais e o roubo de identidades

O problema do spam de IA não se limita à cópia de artigos. A revista Wired reportou um caso perturbador envolvendo o The Hairpin, um popular blog independente dos anos 2010. O site foi assumido por um “agricultor de cliques” que utiliza IA. Ele manteve alguns dos artigos populares, mas, de forma chocante, substituiu os nomes das autoras originais por nomes masculinos, adicionando um elemento de desagrado e desrespeito à iniciativa.

Esses casos demonstram a versatilidade maliciosa do spam de IA. Desde a replicação de conteúdo noticioso para fins publicitários até a alteração de autoria para criar uma falsa impressão, os golpistas estão explorando a tecnologia para obter vantagens indevidas. A capacidade de gerar grandes volumes de texto rapidamente permite que esses atores mal-intencionados saturem a internet com conteúdo de baixa qualidade, dificultando o acesso a informações confiáveis.

O extremo tóxico: obituários falsos e dor para famílias enlutadas

No extremo mais tóxico e sensível do espectro de spam de IA, surgiram os obituários gerados por inteligência artificial. Esses obituários, frequentemente repletos de erros, causam dor real e desnecessária a famílias que já estão passando por um momento de luto.

A Wired já havia reportado em 2021, antes mesmo do auge do ChatGPT, sobre “piratas de obituários” que vasculhavam e copiavam informações de sites de funerárias. Agora, com o avanço da IA, essa tática se tornou ainda mais lucrativa. Golpistas estão utilizando a tecnologia para criar vídeos no YouTube e sites de spam a partir desses obituários. O objetivo é capturar o tráfego de busca de pessoas que procuram informações sobre os falecidos.

O New York Times recentemente trouxe à tona a dor causada por esses obituários falsos a uma família enlutada. Após a morte acidental de um estudante universitário que caiu nos trilhos do metrô de Nova York, vídeos no YouTube e artigos gerados por IA surgiram rapidamente. Esses conteúdos foram criados em resposta ao aumento do interesse de busca em torno do nome do jovem e da palavra “metrô”. Os golpistas inseriram esses termos-chave e solicitaram à IA que escrevesse um obituário em tom conversacional, publicando-o em um site. Apesar de a maioria dos detalhes estar incorreta, o conteúdo apareceu nos resultados de pesquisa do Google, gerando angústia adicional para os familiares.

A resposta do Google e o futuro da internet

Os três exemplos apresentados – os imitadores do 404 Media, o usurpador do The Hairpin e os piratas de obituários – embora distintos em seus detalhes, compartilham um ponto em comum: maus atores, golpistas e spammers estão utilizando a IA para produzir grandes quantidades de conteúdo com o objetivo de monetizar e dominar os resultados de busca do Google.

Este cenário representa um grande problema não apenas para jornalistas cujos conteúdos são roubados ou para famílias enlutadas, mas também para o próprio Google. A proliferação de spam de IA resulta na entrega de resultados de baixa qualidade aos usuários, que, ironicamente, também dispõem de opções cada vez mais atraentes, muitas delas impulsionadas pela IA, para realizar suas buscas.

Em resposta a essa situação, o Google informou ao New York Times que está ciente dos obituários spam e que trabalha ativamente para solucionar o problema. A plataforma já removeu alguns conteúdos que violavam suas políticas. No entanto, a natureza ágil dos maus atores muitas vezes os coloca um passo à frente das plataformas, como foi evidenciado pela recente proliferação de imagens indecentes geradas por IA da cantora Taylor Swift.

A inteligência artificial, sem dúvida, mudará radicalmente a internet, para melhor ou para pior. Cabe ao Google e às empresas desenvolvedoras dessas ferramentas de IA a responsabilidade de minimizar os danos reais e garantir um ambiente online mais seguro e confiável para todos os usuários.