Microsoft lança modelo de voz de 1,58 GB que roda em CPU
Modelo da Microsoft reduz o VibeVoice-ASR e promete transcrição em tempo real sem GPU.
A Microsoft publicou em 24 de julho de 2026 um modelo de reconhecimento automático de fala que ocupa 1,58 GB e roda em CPU, sem exigir GPU. O VibeVoice-ASR-BitNet comprime o VibeVoice-ASR de 4,62 GB para 1,58 GB e alcança inferência de 1,6 a 2,3 vezes mais rápida que o Whisper.cpp. A proposta atende quem quer transcrever áudio em tempo real na borda, inclusive em aplicações que não podem depender de uma GPU.
A Microsoft reduziu o modelo e manteve a execução em CPU
O modelo usa quantização heterogênea para reduzir o peso do VAE Tokenizer de 1,31 GB para 0,65 GB e o LM Decoder de 3,32 GB para 0,92 GB. O tokenizer usa I8_S, enquanto o decoder combina I2_S e Q6_K. A redução total chega a 2,9 vezes.
O repositório registra cinco arquivos de peso e oferece os formatos GGUF e SafeTensors. Dois arquivos GGUF estão prontos para uso: o vibeasr-vae-encoder-i8_s.gguf, com 0,65 GB, e o vibeasr-lm-i2_s-embed-q6_k.gguf, com 0,92 GB. Os arquivos model-*.safetensors ocupam 10,7 GB e servem para conversão.
O modelo executa a tarefa de automatic-speech-recognition e cobre en, zh, fr, it, ko, pt e vi. A biblioteca usada é a ggml, e o card aponta o VibeVoice-ASR como modelo base. A Microsoft Research conduziu o projeto.
Roda em CPU, mas o teste não define a máquina mínima
A Microsoft mediu o desempenho em um AMD EPYC 7V13 com AVX2+FMA e áudio de 20 segundos. Com três threads, o modelo atingiu RTF de 0,77; com oito, chegou a 0,42. Como o RTF ficou abaixo de 1 nesses casos, o teste indica processamento mais rápido que a duração do áudio.
A comparação com o Whisper.cpp variou conforme o número de threads. Com uma thread, o VibeVoice-ASR-BitNet foi 2,28 vezes mais rápido; com oito, a vantagem caiu para 1,55 vez. O teste também mostra diferença entre conjuntos de dados: no MLC-PT, o modelo marcou 24,87, contra 22,41 do VibeVoice-ASR-7B, enquanto no MLC-EN marcou 8,25, contra 7,82 do modelo maior.
Os arquivos prontos e o tamanho total de 1,58 GB tornam plausível testar o modelo em uma máquina de desenvolvimento com CPU. O card também diz que ele não requer GPU e foi otimizado para CPUs de borda. A fonte não informa memória mínima, sistema operacional ou configuração de CPU para uso fora do AMD EPYC 7V13, portanto não permite afirmar qual máquina executará o modelo em tempo real nem dizer que um datacenter é necessário.
A licença MIT permite uso comercial, modificação e redistribuição do software e dos pesos, desde que o usuário cumpra as condições da própria licença. Ela não transforma o modelo em serviço hospedado, não garante suporte da Microsoft e não elimina os riscos de erro nas transcrições. O card informa o contato [email protected] para sugestões, dúvidas e relatos de comportamento inesperado.
O lançamento reforça o movimento de publicar pesos compactados em formatos que cabem em ferramentas locais, em vez de limitar o reconhecimento de fala a APIs remotas. Para quem desenvolve no Brasil, o suporte declarado a pt e o resultado de 24,87 no MLC-PT criam um ponto concreto de teste para aplicações em português. A combinação de GGUF, CPU e licença MIT reduz as barreiras de integração, mas o desempenho final ainda dependerá da máquina usada.
Fontes
Como fazemos: nossa equipe monitora diariamente os repositórios de código aberto em maior alta e produz esta cobertura com apoio de modelos de linguagem, sempre a partir de dados verificados na fonte primária — repositório, documentação oficial e ranking público. Os números de estrelas e a posição no ranking refletem o momento da coleta. Entenda o método.