Tag: Groq

  • Nvidia lança novo chip específico para inferência de inteligência artificial

    Nvidia lança novo chip específico para inferência de inteligência artificial

    Nvidia lança novo chip específico para inferência de inteligência artificial

    A Nvidia anunciou oficialmente o lançamento do chip Language Processing Unit (LPU), um desenvolvimento que surge após a semi-aquisição da designer de chips Groq. Batizado de Nvidia Groq 3 LPU, o novo processador foi projetado com o objetivo de revolucionar tarefas de inferência de inteligência artificial que demandam latência extremamente baixa. A empresa apresentou a novidade durante um evento para a imprensa especializada, destacando sua capacidade de respostas em frações de segundo.

    Este movimento estratégico da gigante dos chips aconteceu na véspera do Natal de 2025, quando a Nvidia investiu US$ 20 bilhões para licenciar a propriedade intelectual da Groq e integrar sua equipe de liderança, incluindo o CEO e fundador Jonathan Ross. O novo chip será disponibilizado em racks LPX refrigerados a líquido, uma solução de alto desempenho que agrupa 256 LPUs. Cada rack oferece 128 GB de SRAM on-chip e uma largura de banda de escala impressionante de 640 TBps, configurado especificamente para workloads de inferência de IA que exigem respostas quase instantâneas.

    Diferenças arquiteturais entre LPU e GPU

    Ian Buck, que lidera a divisão de data center da Nvidia, detalhou as distinções fundamentais entre a nova arquitetura LPU e as tradicionais GPUs da empresa. “As GPUs, com sua grande memória, desempenho incrível em ponto flutuante e alta taxa de transferência de tokens, são insuperáveis para treinamento”, explicou Buck. Ele contrapôs que “o LPU é otimizado estritamente para a geração de tokens com latência extremamente baixa, oferecendo taxas na casa dos milhares de tokens por segundo.”.

    No entanto, Buck ponderou sobre as características do LPU: “A contrapartida, é claro, é que você precisa de muitos chips para obter esse tipo de desempenho. E a economia, ou os tokens por segundo por chip, é bastante baixa”.

    A visão da Nvidia: o melhor dos dois mundos

    A estratégia da Nvidia é consolidar o poder de processamento das GPUs com a agilidade dos LPUs. “Esses dois processadores combinarão os flops extremos das GPUs e a largura de banda das LPUs em uma só solução”, projetou Buck. A empresa vislumbra um futuro impulsionado por sistemas multiagente de IA, onde a combinação dessas tecnologias será crucial.

    Em termos de capacidade, um LPU possui uma fração da memória de uma GPU. Enquanto uma GPU pode ter 288 GB de memória, um LPU conta com 500 MB de SRAM empilhada. Contudo, a largura de banda do LPU é excepcional, variando de 22 TB a 150 TB por segundo, um fator determinante para a baixa latência em tarefas de inferência.

    Disponibilidade e impacto no mercado

    A Nvidia confirmou que o rack LPX estará disponível na segunda metade de 2026, coincidindo com o lançamento da “arquitetura Vera Rubin”, a próxima geração de plataformas da empresa. A expectativa do mercado é que esta nova solução intensifique a competição no setor de chips especializados para IA, especialmente em nichos que demandam processamento em tempo real, como assistentes virtuais avançados e sistemas autônomos.

  • Nvidia deve revelar novos chips e softwares em megaconferência de IA

    Nvidia deve revelar novos chips e softwares em megaconferência de IA

    Nvidia apresenta novidades em conferência anual de IA

    A Nvidia, líder mundial em fabricação de chips para inteligência artificial, se prepara para sua conferência anual de desenvolvedores, que começa nesta segunda-feira (16). O evento, que deve atrair mais de 18 mil pessoas, é aguardado com expectativa pelo mercado, que espera detalhes sobre os planos futuros da empresa em hardware e software para o setor de IA. O presidente-executivo, Jensen Huang, será o principal porta-voz, detalhando as estratégias da companhia em um cenário tecnológico em constante evolução.

    A gigante da tecnologia, que recentemente se tornou a empresa de capital aberto mais valiosa do mundo, com valor de mercado superior a US$4,3 trilhões, deve anunciar seu chip de IA de próxima geração, provisoriamente batizado de Feynman, em homenagem ao físico Richard Feynman. A conferência, com duração de quatro dias, também abordará temas como data centers, o software de programação de chips CUDA, agentes de IA (assistentes digitais) e a área emergente de IA física, que envolve robótica.

    Foco em inferência e concorrência acirrada

    Um dos pontos centrais do evento deve ser a Groq, uma startup de chips da qual a Nvidia licenciou tecnologia em dezembro, em um acordo de US$17 bilhões. A Groq é conhecida por sua especialização em computação de inferência, processo em que modelos de IA utilizam o conhecimento adquirido para responder a perguntas ou fazer previsões em tempo real. Esse segmento tem ganhado destaque, pois empresas como OpenAI, Anthropic e Meta, após investir pesadamente em chips para treinamento de IA, agora buscam atender a centenas de milhões de usuários que utilizam esses sistemas.

    A Nvidia enfrenta, no entanto, uma concorrência mais acirrada no mercado de chips para inferência do que no de treinamento. Analistas preveem que a empresa buscará fortalecer suas defesas contra rivais que almejam recuperar participação de mercado. Curiosamente, parte dessa concorrência vem dos próprios clientes da Nvidia, que estão desenvolvendo seus próprios chips. Apesar disso, a empresa continua sendo uma peça fundamental no ecossistema global de IA.

    Nvidia mantém protagonismo e investe em código aberto

    O papel da Nvidia transcende a fabricação de chips. Nações como a Arábia Saudita estão utilizando seus produtos para construir sistemas de IA personalizados para suas populações. Além disso, a Nvidia se destaca como uma das poucas grandes empresas dos EUA que continua a lançar software de IA de código aberto, uma área que tem se tornado um campo de crescente competição entre os Estados Unidos e a China.

    A apresentação de Jensen Huang está programada para as 15h, horário de Brasília. Por volta das 11h, as ações da Nvidia apresentavam alta de 2,3%, negociadas a US$184,3.