Pular para o conteúdo
NovidadesIA

Modelos e LLMs

NVIDIA lança Nemotron-3.5-Bolt-E4B-4GB com 35 mil downloads em um mês

Modelo de 4B otimizado para edge chega ao Hugging Face com foco em assistentes locais

Edição: Anderson Gomes
· 2 min de leitura

NVIDIA lança Nemotron-3.5-Bolt-E4B-4GB com 35 mil downloads em um mês
Imagem: Cartão · nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB no Hugging Face · cartão da plataforma · licença other

A NVIDIA lançou o Nemotron-3.5-Bolt-E4B-4GB, um modelo de linguagem de 4 bilhões de parâmetros efetivos feito para rodar em edge com baixo consumo. Em um mês no Hugging Face, o modelo já soma 35.608 downloads e 139 curtidas. O alvo são assistentes de voz rápidos, personas interativas e interfaces embutidas que não podem depender de nuvem.

O que o modelo entrega de novo

O Nemotron-3.5-Bolt-E4B-4GB é um post-treinamento do Gemma-4-E4B que melhora três pontos críticos: uso de ferramentas em múltiplas rodadas, aderência a instruções e grounding de entrada. Isso o torna útil para agentes que precisam responder rápido sem esquentar o hardware. A NVIDIA incluiu controles de template para ativar modo raciocínio ou conversacional em tempo de execução, ajustando o orçamento de pensamento conforme a necessidade.

O modelo suporta nove idiomas, incluindo português, e chega quantizado em GGUF Q4_K_M. Nos benchmarks, ele supera versões anteriores em tarefas como RoleBench (71,21) e MultiChallenge (55,60), mantendo performance mesmo em configurações leves. A NVIDIA ainda libera um drafter chamado DFlash para aceleração via decodificação especulativa e uma versão BF16 para quem tem hardware topo de linha.

Hardware e licença: o que o desenvolvedor precisa saber

O arquivo GGUF Q4_K_M ocupa cerca de 4 GB no disco, tamanho que cabe em um SSD comum. Não há menção a requisitos mínimos de GPU ou memória além do tamanho do arquivo, mas a quantização sugere que 8 GB de RAM são suficientes para inferência básica. Quem quiser usar modo raciocínio ou multi-turn tool use vai precisar de mais headroom, mas a NVIDIA garante operação com baixo TTFT.

A licença OpenMDW-1.1 é aberta, mas não permissiva como a Apache 2.0 do Gemma base. Ela exige aderência aos termos do OpenMDW e proíbe uso em sistemas que violem leis de exportação de tecnologia. Para quem desenvolve no Brasil, isso significa liberdade para integrar em produtos comerciais desde que o código final não seja redistribuído sob licença incompatível. A NVIDIA ainda oferece a versão BF16 para quem precisa de precisão total em GPU.

O lançamento reforça a tendência de modelos leves para edge, especialmente em setores como varejo, indústria e saúde onde a latência e a privacidade são críticas. No Brasil, startups e equipes de R&D agora têm uma opção de ponta para prototipar assistentes locais sem depender de infraestrutura pesada.

  • other
  • text-generation
  • nvidia
  • transformers
  • Modelos e LLMs
  • HuggingFace Models

Fonte: Página do modelo no Hugging Face · Como produzimos as matérias