Nvidia lança novo chip específico para inferência de inteligência artificial
A Nvidia anunciou oficialmente o lançamento do chip Language Processing Unit (LPU), um desenvolvimento que surge após a semi-aquisição da designer de chips Groq. Batizado de Nvidia Groq 3 LPU, o novo processador foi projetado com o objetivo de revolucionar tarefas de inferência de inteligência artificial que demandam latência extremamente baixa. A empresa apresentou a novidade durante um evento para a imprensa especializada, destacando sua capacidade de respostas em frações de segundo.
Este movimento estratégico da gigante dos chips aconteceu na véspera do Natal de 2025, quando a Nvidia investiu US$ 20 bilhões para licenciar a propriedade intelectual da Groq e integrar sua equipe de liderança, incluindo o CEO e fundador Jonathan Ross. O novo chip será disponibilizado em racks LPX refrigerados a líquido, uma solução de alto desempenho que agrupa 256 LPUs. Cada rack oferece 128 GB de SRAM on-chip e uma largura de banda de escala impressionante de 640 TBps, configurado especificamente para workloads de inferência de IA que exigem respostas quase instantâneas.
Diferenças arquiteturais entre LPU e GPU
Ian Buck, que lidera a divisão de data center da Nvidia, detalhou as distinções fundamentais entre a nova arquitetura LPU e as tradicionais GPUs da empresa. “As GPUs, com sua grande memória, desempenho incrível em ponto flutuante e alta taxa de transferência de tokens, são insuperáveis para treinamento”, explicou Buck. Ele contrapôs que “o LPU é otimizado estritamente para a geração de tokens com latência extremamente baixa, oferecendo taxas na casa dos milhares de tokens por segundo.”.
No entanto, Buck ponderou sobre as características do LPU: “A contrapartida, é claro, é que você precisa de muitos chips para obter esse tipo de desempenho. E a economia, ou os tokens por segundo por chip, é bastante baixa”.
A visão da Nvidia: o melhor dos dois mundos
A estratégia da Nvidia é consolidar o poder de processamento das GPUs com a agilidade dos LPUs. “Esses dois processadores combinarão os flops extremos das GPUs e a largura de banda das LPUs em uma só solução”, projetou Buck. A empresa vislumbra um futuro impulsionado por sistemas multiagente de IA, onde a combinação dessas tecnologias será crucial.
Em termos de capacidade, um LPU possui uma fração da memória de uma GPU. Enquanto uma GPU pode ter 288 GB de memória, um LPU conta com 500 MB de SRAM empilhada. Contudo, a largura de banda do LPU é excepcional, variando de 22 TB a 150 TB por segundo, um fator determinante para a baixa latência em tarefas de inferência.
Disponibilidade e impacto no mercado
A Nvidia confirmou que o rack LPX estará disponível na segunda metade de 2026, coincidindo com o lançamento da “arquitetura Vera Rubin”, a próxima geração de plataformas da empresa. A expectativa do mercado é que esta nova solução intensifique a competição no setor de chips especializados para IA, especialmente em nichos que demandam processamento em tempo real, como assistentes virtuais avançados e sistemas autônomos.