NVIDIA revela nova geração de servidores para agentes IA: até 30x mais eficiente por watt

---

A mudança não é apenas em hardware, mas em como os servidores lidam com o que os agentes IA realmente fazem: multi-turn reasoning, chamadas de ferramentas e contexto acumulado. Antes, benchmarks como o InferenceX testavam apenas sequências estáticas de tokens, como se a IA respondesse a um prompt fixo. Agora, a AgentX, benchmark desenvolvido pela SemiAnalysis, simula sessões reais de agentes, com turnos variáveis, reutilização de contexto e interrupções por chamadas de ferramentas.

A Vera Rubin NVL72, por exemplo, entrega até 30x mais tokens por megawatt que o GB300 NVL72 de 2024 para o modelo DeepSeek V4-Pro, com 160 tokens por segundo por usuário. Já a Blackwell GB300 NVL72 bate o H200 NVL8 em até 80x para o Kimi K3 2.8T, com custo por milhão de tokens até 10 vezes menor que o H200 NVL8. Isso significa que, para o mesmo orçamento de energia, um agente IA hoje pode processar muito mais contexto e interações do que antes.

---

O que muda na prática? A nova arquitetura não é apenas mais rápida, mas também mais eficiente em consumo de energia. A Vera Rubin NVL72, por exemplo, usa otimizações como MoE (Mixture of Experts) com SGLang e TensorRT-LLM, além de kernels baseados em MXFP4 e MXFP8, que reduzem a latência e o uso de recursos. A Blackwell GB300 NVL72, por sua vez, combina NVIDIA Dynamo para prefill e decode distribuído com a rede NVLink para escalabilidade.

Limitações e disponibilidade O anúncio é prévio, ou seja, os servidores ainda não estão disponíveis para compra. A NVIDIA não divulgou preços ou datas de lançamento, mas a Vera Rubin NVL72 é uma prévia da nova família, enquanto a Blackwell GB300 NVL72 será lançada oficialmente em breve. Para testar a eficiência, a NVIDIA disponibiliza resultados no SemiAnalysis InferenceX dashboard, onde qualquer um pode comparar o desempenho com outros servidores.

---

O que isso significa para o mercado? A evolução dos agentes IA não é mais sobre processar mais tokens, mas sobre manter a interatividade e o contexto sem esgotar a energia. Antes, a eficiência era medida em tokens por segundo, agora é em tokens por megawatt. Isso afeta diretamente empresas que usam agentes para automação, desenvolvimento de software e até assistência jurídica, onde a capacidade de manter conversas longas e complexas é crucial.

A NVIDIA não afirma que esses servidores são "revolucionários", mas sim que resolvem um problema real: como servir agentes IA sem que a infraestrutura se torne um gargalo de energia. O benchmark AgentX mostra que, com a nova geração, até modelos de 2,8 bilhões de parâmetros podem rodar em um terço do consumo energético de modelos equivalentes da geração anterior. Para quem trabalha com IA, isso não é mais uma vantagem, mas uma necessidade.