Hacker expõe “fazenda de celulares” que criava perfis falsos no TikTok

Operação usava IA e centenas de smartphones para simular influenciadores e promover produtos, violando regras da plataforma.

Um ataque hacker revelou uma operação sofisticada que utilizava uma “fazenda de celulares” para gerar perfis falsos em massa no TikTok. O objetivo era simular a atuação de influenciadores digitais reais e promover uma variedade de produtos, muitas vezes sem transparência sobre a natureza artificial do conteúdo.

A descoberta da operação e a “fazenda de celulares”

A investigação veio à tona após um invasor obter acesso aos sistemas internos da Doublespeed, uma startup que conta com o apoio do fundo de investimento Andreessen Horowitz (a16z). O ataque, segundo o site 404 Media, permitiu ao hacker assumir o controle de mais de 1.100 celulares, que eram a espinha dorsal da operação. Essa estrutura permitia que a plataforma acreditasse que as contas falsas eram operadas por usuários humanos.

Cada um desses aparelhos funcionava com contas, endereços de internet e tarefas distintas, mimetizando o comportamento de usuários comuns. Essa estratégia era fundamental para criar uma ilusão de autenticidade e evitar a detecção pelas medidas de segurança do TikTok. A “fazenda de celulares” era o coração dessa engenhoca, permitindo a gestão de centenas de contas simultaneamente.

O hacker relatou que, ao explorar uma falha de segurança descoberta no final de outubro, conseguiu acesso direto ao backend da Doublespeed. Isso incluía os computadores que controlavam fisicamente os smartphones conectados em racks. Essa infraestrutura era essencial para a escala da operação, permitindo a criação e manutenção de um grande volume de perfis.

Modelo de negócio: IA substituindo influenciadores

A Doublespeed não escondia sua proposta de valor em seu próprio site, anunciando um modelo de negócio focado em substituir influenciadores humanos por personagens artificiais. O slogan da empresa resumia essa filosofia: “Nunca pague por um ser humano de novo“. A promessa era de criar engajamento em larga escala, com custos reduzidos e controle total sobre a mensagem.

Na prática, isso significava utilizar inteligência artificial para gerar conteúdo e gerenciar contas, simulando a atividade orgânica de usuários. A empresa conseguia administrar mais de 400 contas no TikTok, das quais cerca de 200 eram ativamente usadas para promover produtos. As demais contas passavam por um processo de “aquecimento”, onde postavam conteúdo comum antes de iniciar a divulgação de anúncios, uma tática para minimizar o risco de serem banidas pela plataforma.

Esse modelo de negócio, que mistura automação, IA e publicidade disfarçada, levanta sérias questões sobre a ética e a transparência no marketing digital. A linha entre conteúdo autêntico e publicidade artificial se torna cada vez mais tênue, o que pode enganar os consumidores e comprometer a confiança nas plataformas digitais.

Produtos promovidos e violações das regras do TikTok

Os perfis falsos criados pela Doublespeed promoviam uma gama variada de produtos. Entre eles, destacam-se aplicativos de idiomas, aplicativos de relacionamento, aplicativos religiosos, além de suplementos alimentares e massageadores. O conteúdo apresentado incluía imagens, slideshows e até vídeos gerados por IA, frequentemente simulando relatos pessoais de usuários satisfeitos.

Um ponto crucial levantado pela reportagem é a ausência de sinalização de que o material era publicidade ou criado por IA. Isso representa uma violação direta das regras do TikTok, que exigem que criadores identifiquem conteúdos criados ou alterados por IA, especialmente quando retratam pessoas ou cenas realistas. A falta dessa transparência induz o público ao erro, fazendo-o acreditar em recomendações genuínas.

Após ser contatado pelo 404 Media, o TikTok informou que suas diretrizes proíbem esse tipo de prática. A plataforma já começou a rotular alguns dos perfis identificados como conteúdo gerado por IA e removeu vídeos citados na reportagem, demonstrando uma resposta à exposição da operação. No entanto, a extensão do problema e a capacidade de outras operações semelhantes passarem despercebidas ainda são incertas.

Planos de expansão e o futuro da regulamentação

Apesar das revelações e das violações às regras, o modelo de negócio da Doublespeed parecia longe de ser abandonado. Em outubro, a empresa levantou US$ 1 milhão com a Andreessen Horowitz e já anunciava planos para expandir sua operação para outras plataformas, como Instagram, X (antigo Twitter) e Reddit. Essa ambição demonstra a crença da startup no potencial de seu modelo.

Contudo, representantes dessas outras plataformas indicaram que o serviço da Doublespeed violaria suas políticas. Isso sugere que a batalha entre as redes sociais e esse tipo de automação em larga escala está apenas começando. A capacidade das plataformas de detectar e combater essas operações será crucial para manter a integridade de seus ecossistemas e a confiança dos usuários.

A exposição dessa “fazenda de celulares” e o modelo de negócio da Doublespeed acendem um alerta sobre a crescente sofisticação das táticas de marketing digital e a necessidade de regulamentações mais robustas e eficazes. A inteligência artificial oferece novas ferramentas para a criação de conteúdo e engajamento, mas também abre portas para manipulação e desinformação em escala. A discussão sobre a ética no uso da IA no marketing e a proteção do consumidor deve ganhar ainda mais força nos próximos meses.