Irregular capta US$ 80 milhões para revolucionar a segurança de IA

Startup foca em prever e mitigar riscos emergentes em modelos de inteligência artificial de ponta.

A corrida pela supremacia em inteligência artificial (IA) ganha um novo capítulo com a notícia de que a **Irregular**, empresa especializada em segurança para IA, anunciou um **investimento de US$ 80 milhões**. A rodada de financiamento foi liderada por gigantes do setor de capital de risco, como a **Sequoia Capital** e a **Redpoint Ventures**, com participação notável do CEO da Wiz, Assaf Rappaport. Fontes próximas ao acordo indicam que essa captação avaliou a Irregular em impressionantes **US$ 450 milhões**, um sinal claro da confiança do mercado no potencial da empresa.

A necessidade de segurança em um mundo guiado por IA

Em um cenário onde a interação entre humanos e máquinas, e até mesmo entre IAs, se torna cada vez mais proeminente na atividade econômica, a segurança em IA emerge como um pilar fundamental. Dan Lahav, cofundador da Irregular, ressalta a visão da empresa: “Nossa perspectiva é que, em breve, grande parte da atividade econômica virá da interação humano-com-IA e da interação IA-com-IA. Isso vai quebrar a estrutura de segurança em vários pontos.” Essa premissa justifica a urgência e o investimento massivo no desenvolvimento de soluções robustas para proteger os sistemas de IA contra ameaças cada vez mais sofisticadas.

Anteriormente conhecida como Pattern Labs, a Irregular já demonstrava sua expertise na avaliação de tecnologias de inteligência artificial. Seu trabalho é reconhecido em análises de segurança para modelos como o Claude 3.7 Sonnet e os modelos o3 e o4-mini da OpenAI. O framework **SOLVE**, desenvolvido pela empresa para quantificar a capacidade de um modelo em identificar vulnerabilidades, tornou-se uma referência na indústria, sendo amplamente utilizado para garantir a integridade e a confiabilidade dos sistemas de IA.

Foco em riscos emergentes e ambientes simulados

Embora a Irregular tenha um histórico sólido na mitigação de riscos já conhecidos em modelos de IA, o novo aporte financeiro impulsiona um foco ainda mais ambicioso: a **identificação proativa de riscos e comportamentos emergentes** antes que eles se manifestem no ambiente real. Para alcançar esse objetivo, a empresa investiu na construção de um sofisticado sistema de **ambientes simulados**. Essa infraestrutura permite a realização de testes intensivos em modelos de IA antes de sua implementação em larga escala, garantindo que potenciais falhas sejam descobertas e corrigidas em um ambiente controlado.

Omer Nevo, outro cofundador da Irregular, detalha a metodologia: “Temos simulações complexas de rede, nas quais a IA assume os papéis de atacante e de defensora. Assim, quando um novo modelo é lançado, podemos verificar onde as defesas se mantêm e onde elas falham.” Essa abordagem de “combate simulado” permite antecipar cenários de ataque e desenvolver defesas mais eficazes, fortalecendo a resiliência dos sistemas de IA contra ameaças desconhecidas.

O futuro da segurança em IA

A segurança tornou-se um ponto de foco intenso na indústria de IA, especialmente com o surgimento de mais riscos associados aos modelos de fronteira. Neste verão, por exemplo, a OpenAI revisou suas medidas internas de segurança, visando se proteger de potenciais atos de espionagem corporativa, um reflexo da crescente preocupação com a segurança de dados e propriedade intelectual.

Paralelamente, os modelos de IA estão se mostrando cada vez mais aptos a identificar vulnerabilidades em softwares. Essa capacidade, que por um lado pode ser usada para fortalecer a segurança, por outro, traz sérias implicações para atacantes, que podem explorar essa mesma aptidão para fins maliciosos. A dualidade dessa capacidade ressalta a importância de empresas como a Irregular, que se dedicam a garantir que o poder da IA seja utilizado de forma segura e ética.

Para os fundadores da Irregular, os desafios de segurança são inerentes ao avanço tecnológico. “Se o objetivo do laboratório de fronteira é criar modelos cada vez mais sofisticados e capazes, o nosso é garantir a segurança desses modelos”, afirma Lahav. “Mas, como se trata de um alvo em constante movimento, há, inerentemente, muito, muito mais trabalho a ser feito no futuro.” A captação de US$ 80 milhões é um passo significativo para que a Irregular continue na vanguarda da segurança em IA, protegendo o ecossistema em constante evolução e garantindo que os benefícios da inteligência artificial superem seus riscos.