WormGPT: A Nova Ameaça de IA para Cibercriminosos e Ataques Sofisticados

Ferramenta de IA Generativa Ignora Ética e Permite Ataques em Massa.

O Surgimento do WormGPT no Submundo Digital

A inteligência artificial generativa (IA) tem ganhado popularidade, mas essa ascensão também abriu portas para o uso malicioso. Uma nova ferramenta de IA generativa, batizada de WormGPT, está sendo promovida em fóruns clandestinos como um facilitador para que cibercriminosos realizem ataques cibernéticos sofisticados. A descoberta foi feita pela empresa de segurança SlashNext, que alerta para o potencial de aumento do cibercrime impulsionado por essa tecnologia.

O WormGPT se posiciona como uma alternativa “blackhat” aos modelos GPT convencionais, sendo projetado especificamente para atividades maliciosas. Conforme Daniel Kelley, pesquisador de segurança, “Cibercriminosos podem utilizar essa tecnologia para automatizar a criação de e-mails falsos altamente convincentes, personalizados para o destinatário, aumentando assim as chances de sucesso do ataque.” O próprio autor do software o descreve como o “maior inimigo do conhecido ChatGPT” e que “permite realizar todo tipo de atividade ilegal”.

A Lacuna de Segurança Explorada pelo WormGPT

Em um cenário onde modelos como o OpenAI ChatGPT e o Google Bard estão implementando medidas para coibir o uso indevido em ciberataques, o WormGPT surge como uma brecha. Pesquisadores apontam que os mecanismos anti-abuso do Bard, especialmente em cibersegurança, são menos robustos que os do ChatGPT, tornando a geração de conteúdo malicioso mais fácil através do Bard. A Check Point, em um relatório recente, destacou que “os mecanismos anti-abuso do Bard no campo da cibersegurança são significativamente mais baixos em comparação com os do ChatGPT”.

Isso se soma a táticas já observadas, como cibercriminosos contornando as restrições do ChatGPT através de sua API, além da comercialização de contas premium roubadas e venda de softwares para ataques de força bruta. A ausência de limites éticos no WormGPT é o que o torna particularmente perigoso. Ele permite que até mesmo atacantes com conhecimento técnico limitado realizem ataques cibernéticos sofisticados de forma rápida e em larga escala.

Democratização do Cibercrime e a Ameaça dos “Jailbreaks”

O WormGPT representa uma forma de democratizar a execução de ataques cibernéticos complexos. “A IA generativa pode criar e-mails com uma gramática impecável, fazendo com que pareçam legítimos e reduzindo a probabilidade de serem identificados como suspeitos”, explica Kelley. Ele complementa que “o uso de IA generativa democratiza a execução de ataques sofisticados de comprometimento de e-mails corporativos. Mesmo atacantes com habilidades limitadas podem utilizar essa tecnologia, tornando-a uma ferramenta acessível para um espectro mais amplo de cibercriminosos.”

Paralelamente, observam-se “jailbreaks” para o ChatGPT, onde prompts e inputs especializados são criados para manipular a ferramenta, gerando resultados que podem incluir vazamento de informações sensíveis, criação de conteúdo inadequado e execução de código malicioso. Essa prática, aliada à existência de ferramentas como o WormGPT, amplia o leque de ameaças.

WormGPT vs. Outros Modelos de IA: Uma Diferença Crucial

Diferentemente de seus pares como ChatGPT e Google Bard, o WormGPT foi construído sem restrições éticas. Sua arquitetura, baseada no modelo de linguagem GPTJ de código aberto de 2021, foca em respostas rápidas, sem limites de caracteres, com design voltado para privacidade e acesso a diversos modelos de IA. O objetivo principal do WormGPT é auxiliar em tarefas maliciosas, como a criação de malware e a execução de explorações, distanciando-se completamente do uso ético.

A utilização do WormGPT para fins ilícitos acarreta riscos significativos, incluindo violações legais relacionadas a hacking, roubo de dados e outras atividades criminosas. As consequências podem ser severas, desde acusações criminais até danos irreparáveis a indivíduos e organizações. A própria página do WormGPT, embora acessível, adverte sobre os perigos de adentrar em um “território arriscado”.

Novas Táticas de Ataque: Envenenamento de Modelos de Linguagem

Adicionalmente, a ameaça evolui com novas técnicas. Pesquisadores da Mithril Security modificaram um modelo de IA de código aberto, o GPT-J-6B, para disseminar desinformação. Carregado publicamente como PoisonGPT, ele pode ser integrado em outras aplicações, resultando em um “envenenamento da cadeia de suprimentos de modelos de linguagem”. Essa técnica, ao se passar por empresas conhecidas, visa comprometer a integridade dos modelos de IA utilizados globalmente.

A questão fundamental reside na responsabilidade. “Utilizar a tecnologia de maneira responsável é fundamental para manter um ecossistema online seguro. Isso significa evitar ferramentas como o WormGPT, que podem potencialmente prejudicar outras pessoas”, reforça a necessidade de um uso ético e consciente da tecnologia. A existência do WormGPT, portanto, não é apenas um desafio técnico, mas um chamado à reflexão sobre o futuro da IA e sua aplicação na sociedade.