SentinelOne, Snyk introduzem novas ferramentas para proteger agentes de IA
As empresas SentinelOne e Snyk anunciaram o lançamento de novas ferramentas focadas na proteção de agentes de inteligência artificial (IA). Em um cenário onde a IA se torna cada vez mais integrada às operações corporativas, a segurança dessas aplicações é fundamental para evitar riscos.
As novas soluções visam identificar servidores críticos, aplicar medidas de segurança e mitigar ameaças, como o envio indevido de dados empresariais ou o acesso não autorizado a sistemas internos. A iniciativa responde à crescente necessidade de proteger os ativos digitais das organizações em um ecossistema de IA em expansão.
Prompt AI Agent Security: Guardrails para agentes de IA
A SentinelOne lançou o Prompt AI Agent Security, uma ferramenta projetada para identificar automaticamente os servidores MCP (Machine Control Plane) utilizados pelos agentes de IA de uma empresa. Uma vez identificados, a ferramenta aplica medidas de segurança cibernética (guardrails) a esses servidores.
O objetivo é prevenir o uso inseguro dos agentes de IA. Isso inclui impedir que eles enviem dados corporativos para aplicações de terceiros e mitigar riscos como o acesso a sistemas internos sem autorização. A solução busca garantir que os agentes de IA operem dentro de limites seguros e controlados.
Prompt AI Red Teaming: Simulando ataques para encontrar falhas
Complementando o Prompt AI Agent Security, a SentinelOne introduziu o Prompt AI Red Teaming. Esta ferramenta simula ataques cibernéticos para descobrir vulnerabilidades em aplicações de IA. O software é capaz de simular comandos maliciosos (prompts), tentativas de comprometer os dados de treinamento de um modelo e outras ameaças.
A abordagem de Red Teaming permite que as empresas testem proativamente a segurança de suas soluções de IA, identificando pontos fracos antes que possam ser explorados por agentes mal-intencionados. Essa antecipação é crucial para manter a integridade e a segurança dos sistemas de IA.
Singularity AI SIEM: Pipeline de dados para análise aprimorada
A plataforma Singularity da SentinelOne, que já analisa a telemetria da infraestrutura das organizações para encontrar riscos de segurança, ganhará um novo módulo: o Singularity AI SIEM. Este módulo utilizará um pipeline de dados “AI-native” para ingerir a telemetria.
O pipeline organiza e enriquece os dados com informações externas, normaliza-os e filtra detalhes desnecessários. Segundo a SentinelOne, essa funcionalidade pode reduzir o ruído dos dados em até 80%, diminuindo os custos de infraestrutura para processamento.
Prompt Security On-Premises: Segurança para ambientes isolados
Em resposta aos desafios de implementar software de segurança em ambientes air-gapped (redes corporativas isoladas da internet), a SentinelOne apresentou uma nova ferramenta de segurança para cargas de trabalho de IA. O Prompt Security On-Premises armazena a telemetria coletada na própria infraestrutura do cliente, em vez de enviá-la para a nuvem.
Utilizando o novo pipeline de dados de IA da SentinelOne, a ferramenta filtra a telemetria desnecessária antes da análise. Ana Pinczuk, presidente de produto e tecnologia da SentinelOne, destacou que a solução oferece um equilíbrio entre a velocidade da segurança de IA e a soberania total dos dados, privacidade e controle, especialmente para redes air-gapped.
Snyk Evo AI-SPM: Inventário e escaneamento de ativos de IA
A Snyk também apresentou suas novas soluções, com destaque para a tecnologia Snyk Evo AI-SPM. Esta ferramenta cria automaticamente um inventário de modelos de linguagem, servidores MCP e outros ativos de IA presentes nos repositórios de código de uma empresa.
Após a criação do inventário, o Snyk Evo AI-SPM escaneia esses ativos em busca de riscos de segurança. A tecnologia suporta três agentes de IA atualmente em pré-visualização. Um deles garante a segurança dos componentes de IA de terceiros utilizados pelos desenvolvedores, enquanto os outros auxiliam no teste de vulnerabilidades e no bloqueio de riscos de IA, como respostas que contêm trechos de conjuntos de dados de treinamento.
A importância da confirmação e correção de vulnerabilidades
Manoj Nair, Chief Innovation Officer da Snyk, ressaltou que as arquiteturas agentic transformam a governança em um problema de cadeia de suprimentos de software. Ele enfatizou o valor da Snyk em confirmar quais descobertas são reais e exploráveis, utilizando dados de referência de uma década de implantação empresarial.
“Claude encontra. Snyk confirma. O agente corrige apenas o que é real”, declarou Nair, destacando a metodologia colaborativa para garantir que as correções sejam aplicadas de forma precisa e eficaz, evitando falsos positivos e focando nas vulnerabilidades concretas.
Deixe um comentário