Nvidia lança Nemotron 3.5 com 120 bilhões de parâmetros para agentes

A novidade amplia a linha Nemotron da fabricante, que já conta com o Lightning lançado em agosto para alta vazão e o Ultra para tarefas pesadas de raciocínio. Para desenvolver o Super VL, a empresa formou a Nemotron Coalition com Mistral AI, Thinking Machines Lab, Perplexity e Black Forest Labs. A equipe destilou o novo modelo diretamente do Nemotron 3 Ultra para igualar a precisão em instruções e análise de imagens com um quinto dos parâmetros. Ele gasta bem menos memória.

Menor no código, mais veloz na entrega

Nos testes de agentes da Hermes e da LangChain, o Super VL superou o Ultra e também bateu o antecessor Nemotron 3 Super nos desafios de código SWE-bench e Terminal-Bench. Nas provas de programação, o modelo acerta ligeiramente menos que concorrentes externos, mas a Nvidia afirma que ele conclui as tarefas quatro vezes mais rápido. Um teste independente da EXO Labs no DGX Spark confirmou que nenhum outro modelo aberto testado foi ao mesmo tempo mais veloz e mais preciso. A velocidade compensa em lotes gigantescos.

No ranking geral da Artificial Analysis, o Super VL fica bem atrás dos modelos proprietários de fronteira. Em contrapartida, o sistema gera até cinco vezes mais tokens por segundo em uma única GPU do que modelos abertos com pontuação equivalente no Intelligence Index. A empresa lançou duas opções compactas locais. O Bolt 74B-A9B 24GB roda agentes em máquinas com 24 GB de memória, enquanto o Bolt E4B 4GB chega no fim de outubro para assistentes de voz com a promessa de entregar a maior inteligência por gigabyte.

O software amarra o cliente ao hardware

A Nvidia disponibiliza pesos abertos, receitas de treino em Python e conjuntos de dados no framework NeMo, mas projetou a arquitetura para estimular a venda de seus próprios sistemas. O modelo utiliza compressão no formato NVFP4 de 4 bits, reservando precisão mais alta apenas para partes sensíveis da rede. Placas da nova família Blackwell processam todas as etapas em 4 bits, enquanto chips mais antigos guardam pesos comprimidos e realizam cálculos matemáticos em 16 bits. O hardware novo dita o ritmo.

Para reduzir o gasto de processamento, um componente interno antecipa rascunhos de tokens validados pelo modelo principal em uma única passada. No DGX Spark, a fabricante recomenda o método LiLiCorr para avaliar esses rascunhos em bloco e acelerar o texto em até 2,3 vezes. O software Dynamo guarda instruções recorrentes em cache, atende oito vezes mais usuários e reduz o tempo de resposta em 85%. A economia exige placas da fabricante.