Perplexity lança modelo de decisão de 27B que bate benchmark com 61,56 pontos

O avanço veio principalmente da retirada da máscara causal nas camadas de atenção total e da expansão do conjunto de treinamento com dados do projeto tasksource. A base utiliza o modelo Qwen/Qwen3.8-27B, mantendo a estrutura interna de Qwen3_5Model. A equipe distribuiu o pacote em 12 arquivos no formato safetensors sob a licença permissiva Apache 2.0. Essa licença autoriza o uso comercial irrestrito, além de modificação e distribuição do código sem cobrança de royalties.

Exigência de 49 GiB de VRAM afasta o computador comum

Colocar o sistema para rodar exige infraestrutura pesada de datacenter e descarta máquinas convencionais de trabalho. O ambiente de execução pede Python 3.12+, GPU compatível com CUDA e espaço livre para cerca de 49 GiB apenas para carregar os pesos brutos, fora a memória operacional da inferência. O consumo alto vem do tamanho do modelo de 27 bilhões de parâmetros. Esse volume inviabiliza testes locais na maioria das estações de trabalho de desenvolvedores.

A arquitetura também impõe particularidades na ponta de atendimento. O arquivo traz uma cabeça de decisão própria em readout.safetensors com dimensões [255, 5120] em BF16, em vez de uma cabeça tradicional de vocabulário completo de linguagem. Quem precisa subir a aplicação em sistemas que exigem Qwen3_5ForConditionalGeneration precisa exportar uma tabela separada para mapear as linhas do leitor para o vocabulário original. As camadas de atenção linear preservam a dinâmica nativa, mas a inferência padrão causal estraga os resultados avaliados. O desenvolvedor precisa manter o modo de atenção não causal para reproduzir os ganhos medidos no benchmark.

Entrada multimodal impõe teto de 8.192 tokens

No processamento visual, o modelo recebe imagens como caminhos em disco, objetos PIL ou sequências codificadas em base64. O processador redimensiona as figuras em múltiplos de 32 pixels e preserva a proporção original. Cada bloco de 32 por 32 pixels gasta um token visual. O limite padrão de área vai de 256 por 256 pixels até o teto configurável de 2048 por 2048 pixels. A janela total aceita no máximo 8.192 tokens somando texto e imagens.

Entradas que passam dessa régua sofrem rejeição imediata, já que a rotina prepare descarta o dado em vez de cortar o conteúdo excedente. O treinamento oficial utilizou imagens travadas em 512 por 512 pixels, gastando até 256 tokens por figura. No teste por categorias, o modelo registrou 69,45 pontos em linguagem, 61,26 em busca, 78,88 em ferramentas, 48,18 em conhecimento e 44,66 em artes. O pipeline original aproveitou conversores do Bespoke Nimble, da Bespoke Labs, antes de expandir o volume com novos conjuntos de dados. A entrega sob código aberto reduz barreiras para empresas que operam classificadores especializados e buscam alternativas independentes de provedores fechados de nuvem.