Microsoft NLWeb: Grave falha de Path Traversal expõe dados sensíveis

Vulnerabilidade em ferramenta de IA da Microsoft permitia acesso a arquivos do sistema e roubo de chaves de API.

A Microsoft, gigante da tecnologia, lançou recentemente a **NLWeb**, uma estrutura de código aberto projetada para facilitar a criação de aplicações web agentificadas com Inteligência Artificial. No entanto, a ferramenta, que visa simplificar a integração de interfaces de linguagem natural ricas em websites, utilizando modelos de IA e dados próprios, veio ao público com uma **séria vulnerabilidade de path traversal**. Essa falha, de fácil exploração, representava um risco significativo, pois permitia a **leitura de arquivos sensíveis do sistema** e o potencial **roubo de chaves de API** cruciais para o funcionamento de modelos de LLM (Large Language Models) de IA.

Descoberta da Vulnerabilidade e Mecanismo de Exploração

O pesquisador de segurança **Aonan Guan** foi o responsável por identificar essa grave brecha de segurança. Guan analisou o código aberto da NLWeb e detectou o uso da função Python `os.path.normpath`. Essa função é comumente empregada para sanear a entrada de dados fornecida pelos usuários, garantindo que caminhos de arquivo sejam interpretados corretamente. Contudo, em um cenário de exploração, a análise de Guan revelou que essa mesma função, quando manipulada de forma indevida, permitia que usuários mal-intencionados **saíssem do diretório pretendido** dentro da aplicação. A técnica utilizada envolvia o emprego de sequências como ../, que são interpretadas pelo sistema operacional como comandos para navegar para diretórios pais.

Para confirmar suas descobertas, Guan montou um servidor de testes. Através dele, ele enviou um comando especialmente configurado, contendo sequências de travessia codificadas na URL. O resultado foi alarmante: ele conseguiu **acessar arquivos internos do sistema**. O teste demonstrou que era possível exibir o conteúdo de arquivos como o de senhas de teste, mas as implicações eram muito mais amplas. Essa falha poderia ser utilizada para acessar uma variedade de outros arquivos críticos, incluindo **chaves de API** essenciais para a autenticação e operação de modelos de IA, bem como arquivos de configuração do servidor.

Impacto do Roubo de Chaves de API e Contaminação de Sistemas RAG

As consequências do acesso não autorizado às chaves de API de modelos de linguagem grande (LLMs) são particularmente preocupantes. Segundo Guan, o roubo dessas chaves pode permitir que atacantes **sequestrem a capacidade de raciocínio e ação do agente de IA**. Essa capacidade roubada poderia ser utilizada de formas maliciosas, resultando em **enormes perdas financeiras** para as organizações, seja pelo abuso direto das APIs, seja pela criação de um **clone malicioso do agente** que operaria sob o controle do atacante. Isso representa um risco direto à integridade e segurança das operações que dependem dessas tecnologias avançadas.

Além do risco de roubo de credenciais, a vulnerabilidade de path traversal também poderia forçar os agentes de IA a **ler arquivos locais e documentos criados maliciosamente**. Essa manipulação poderia levar à **contaminação do sistema de geração aumentada por recuperação (RAG)**, uma tecnologia fundamental para fornecer respostas precisas e contextuais aos usuários. Ao alimentar o sistema com dados corrompidos ou tendenciosos, a IA poderia começar a gerar **informações incorretas ou enviesadas**, minando a confiança e a utilidade da aplicação.

NLWeb e a Resposta da Microsoft

O projeto NLWeb foi lançado pela Microsoft em maio deste ano. A empresa o descreveu como um projeto de código aberto com o objetivo de **simplificar a criação de interfaces de linguagem natural ricas para sites**. A ferramenta funciona como um servidor de protocolo de contexto de modelo, seguindo o padrão estabelecido pela Anthropic, que visa conectar assistentes de IA a fontes de dados externas. A intenção por trás do NLWeb era clara: democratizar o acesso e a criação de aplicações de IA mais interativas e inteligentes.

Ao ser notificado sobre a falha de segurança em 28 de maio, a Microsoft agiu com relativa rapidez. A empresa implementou uma **correção para a vulnerabilidade no repositório público do GitHub do NLWeb em 30 de junho**. Essa correção visa fechar a brecha de segurança e proteger os usuários contra explorações futuras. A rápida resposta demonstra o compromisso da Microsoft em manter a segurança de seus projetos de código aberto.

Recomendações de Segurança e Prevenção

Aonan Guan, o pesquisador que descobriu a falha, emitiu recomendações importantes para as organizações que utilizam ou estão testando a NLWeb. Ele aconselha que todas as implantações sejam **atualizadas imediatamente** para a versão corrigida. Além disso, sugere a configuração de regras específicas em firewalls de aplicações web (WAFs) ou em servidores proxy reversos. Essas regras devem ser projetadas para **bloquear e registrar quaisquer solicitações de URL que contenham sequências codificadas de travessia**, como ..%2f, que são indicativos de tentativas de exploração.

Outra medida preventiva crucial recomendada por Guan é **evitar a exposição direta do servidor de aplicação NLWeb à Internet pública**. A melhor prática é posicionar o servidor atrás de um proxy reverso robusto, que, por sua vez, deve ser reforçado com regras de firewall adequadas para **restringir estritamente o acesso**. Essa abordagem em camadas adiciona uma barreira de segurança significativa, protegendo a aplicação contra acessos não autorizados e minimizando o risco de exploração da vulnerabilidade de path traversal.