Investigação: recibos gerados por IA e os riscos para empresas e consumidores

Novo gerador do ChatGPT facilita criação de recibos falsos e acende alerta sobre fraudes

O lançamento do novo gerador de imagens do ChatGPT, integrado ao modelo 40, mostrou uma capacidade inédita de renderizar texto dentro de imagens com alto nível de realismo. Em poucos dias, usuários começaram a explorar a ferramenta para criar recibos falsos de restaurantes e estabelecimentos, ampliando uma já extensa caixa de ferramentas de deepfakes alimentados por IA que podem ser usados por fraudadores.

Relatos e exemplos compartilhados em redes sociais mostram recibos muito próximos do real, com variações como manchas de comida e dobras que aumentam a autenticidade visual. Um influenciador e investidor de risco publicou uma foto de um recibo falso de um restaurante em São Francisco, e outros usuários reproduziram resultados semelhantes, incluindo um recibo amassado compartilhado por um usuário no LinkedIn na França, que parecia particularmente convincente.

Como os recibos falsos são gerados pelo modelo

O processo se aproveita da nova capacidade do modelo 40 para combinar texto e imagem com detalhes visuais. Usuários descrevem o layout, itens, preços, selos e até imperfeições físicas. O gerador replica fontes, logotipos e texturas, produzindo imagens que podem enganar inspeções rápidas, especialmente quando vistas em telas de celular.

Exemplos práticos incluem um recibo gerado para um Applebee’s em São Francisco. Apesar de algumas falhas técnicas, o resultado foi suficientemente crível para demonstrar a facilidade com que alguém poderia fabricar comprovantes de despesas.

Falhas que denunciam a falsificação e o potencial de exploração

Mesmo com realismo visual, os recibos falsos ainda exibem sinais de que foram produzidos por modelos de linguagem. Um caso notado foi o uso de vírgula em vez de ponto em valores monetários, e erros nos cálculos dos totais. Essas inconsistências refletem uma limitação conhecida dos modelos, que ainda encontram dificuldades com matemática básica e regras de formatação locais.

No entanto, para um fraudador determinado, tais falhas são fáceis de corrigir com um editor de imagens ou instruções mais precisas ao próprio gerador. Isso torna a tecnologia particularmente perigosa: um recibo visualmente convincente pode ser usado para solicitar reembolsos indevidos, forjar comprovantes de despesas ou sustentar fraudes contra empresas e seguradoras.

Resposta da OpenAI e implicações legais

Procurada, uma porta-voz da OpenAI disse que todas as imagens geradas incluem metadados que indicam sua origem no ChatGPT, e destacou que a empresa toma medidas quando os usuários violam suas políticas de uso, sempre aprendendo com o uso real e o feedback recebido. A declaração, segundo a fonte, busca mitigar usos indevidos por meio de rastreabilidade das imagens.

A mesma representante explicou que o objetivo da OpenAI é conceder aos usuários o máximo de liberdade criativa. Segundo ela, os recibos gerados por IA podem ser utilizados em contextos não fraudulentos, como no ensino de educação financeira, na criação de obras de arte originais e em campanhas publicitárias. Essa posição tenta equilibrar inovação e risco, mas não elimina as preocupações práticas sobre a aplicação mal-intencionada da ferramenta.

Especialistas em segurança digital alertam que a existência de metadados nem sempre impede o uso criminoso das imagens. Metadados podem ser removidos ou alterados por ferramentas de edição, e a verificação depende de processos que nem sempre são adotados por empresas que lidam com reembolsos e comprovantes.

O caso chama atenção ainda para a necessidade de controles adicionais por parte de provedores de IA, plataformas que hospedam conteúdo e empresas que aceitam comprovantes digitais. Políticas mais rígidas, detecção automatizada de manipulação e verificação humana podem reduzir riscos, assim como campanhas de conscientização para gestores financeiros e equipes de compliance.

Enquanto isso, a facilidade criada pelo novo gerador de imagens do ChatGPT para produzir recibos falsos reforça a urgência de um debate público sobre responsabilidades, regulação e métodos técnicos para detectar documentos gerados por IA. A tecnologia traz benefícios, mas também abre portas para fraudes que podem ter impacto direto no bolso de consumidores e empresas.

Reportagem baseada em fontes e exemplos públicos, com contribuições de André Lug, e análises sobre o alcance do novo gerador de imagens do ChatGPT integrado ao modelo 40.