Modelos e LLMs

Qwen publica modelo de 2,4 trilhões e divide usuários locais

A arquitetura ativa 95 bilhões de parâmetros por vez, mas exige até 4,9 TB na versão BF16.

Reprodução · camo.githubusercontent.com

A Qwen publicou o Qwen3.8-2.4T-A95B, um modelo aberto que usa arquitetura MoE para ativar 95 bilhões de parâmetros por vez entre 2,4 trilhões disponíveis. A página analisada mostra versões BF16 e FP8, enquanto a versão BF16 ocupa 4,9 TB. O tamanho torna o modelo relevante para empresas e laboratórios, mas inviável para a maioria dos computadores pessoais. O debate no Hacker News alcançou 711 pontos e 170 comentários.

O tamanho limita a execução local

O modelo não carrega apenas os parâmetros ativos durante o uso. A arquitetura MoE precisa manter os demais pesos disponíveis, e isso leva a exigências altas de memória. A versão quantizada em 1bit ainda ocupa 397 GB, segundo o comentário de guardiangod.

“Isso literalmente coloca um nível de desempenho Opus 4.5 em uma máquina que uma pessoa normal poderia comprar, e ainda consegue tokens por segundo utilizáveis”, escreveu guardiangod. A afirmação depende da configuração usada, mas aponta para uma possibilidade concreta: executar um modelo desse porte fora de um serviço fechado, desde que a máquina tenha memória suficiente.

Na prática, uma RTX 5090 com 64 GB de RAM não basta. cautiouscat citou exatamente essa configuração ao perguntar como começar a usar modelos Qwen e Kimi k3 localmente. A pergunta resume o problema técnico: os pesos podem ser abertos, mas o hardware necessário continua fora do alcance da maior parte dos usuários.

A quantização pode reduzir o consumo. NitpickLawyer afirmou que a falta de QAT em q4 exigiria que alguém produzisse uma nova versão, usando muitos dados de calibração, e estimou que ela poderia ocupar cerca de 1,3 TB. A redução ajudaria, mas ainda deixaria o modelo maior que muitas máquinas de desenvolvimento.

Desempenho e recursos não vêm completos

Os comentários também questionam a diferença entre os pesos abertos e o serviço Qwen3.8-Max. l72 observou que o modelo oficial inclui “vision input & non-thinking support, 1M context length by default” e ferramentas integradas. A versão aberta não tem visão e limita o contexto a 250k.

Essa diferença afeta quem constrói agentes com documentos extensos ou imagens. O usuário pode baixar os pesos, mas não recebe todos os recursos associados à versão Max. O contexto menor também restringe comparações diretas entre os dois produtos.

Os benchmarks sustentam a disputa, mas não encerram a análise. NitpickLawyer escreveu que os resultados “estão bons, trocando golpes com opus4.8 e sol, geralmente 10-20p abaixo de fable”. No mesmo comentário, ele disse que a relação entre benchmarks da Qwen e uso real “tem sido incerta no passado”.

O debate trouxe outras limitações operacionais. O modelo tem MTP, recurso que pode aumentar a velocidade em TP, mas não oferece suporte pronto a DSpark/DFlash, segundo guardiangod. A diferença entre ter os pesos e servir o modelo em produção aparece justamente nesses detalhes.

A licença também entra na decisão. NitpickLawyer afirmou que o uso interno ou por empresas com receita anual inferior a 50M$ é permitido sem as mesmas restrições, enquanto organizações acima desse limite enfrentam limitações para servir o modelo ou oferecer serviços voltados a coding e productivity agents.

Os cinco comentários coletados concordam em um ponto: o tamanho do modelo muda a pergunta técnica. Não basta medir qualidade; é preciso calcular memória, quantização, velocidade, contexto, recursos ausentes e regras de uso. Para uma empresa com infraestrutura própria, o Qwen3.8-2.4T-A95B pode justificar testes. Para equipes com uma única GPU e 64 GB de RAM, o caminho continua sendo um serviço hospedado ou um modelo menor.

Fontes

Modelos e LLMsHacker News
Como fazemos: nossa equipe monitora diariamente os repositórios de código aberto em maior alta e produz esta cobertura com apoio de modelos de linguagem, sempre a partir de dados verificados na fonte primária — repositório, documentação oficial e ranking público. Os números de estrelas e a posição no ranking refletem o momento da coleta. Entenda o método.