PolyStrata roda 12 LLMs grandes em PC com 8 GB de VRAM
Ferramenta open source da Simplex AI Labs usa dois motores para segurar modelos que normalmente exigiriam servidor
Edição: Anderson Gomes
· 2 min de leitura
PolyStrata resolve o problema de quem tem um PC comum mas quer rodar grandes modelos de linguagem localmente. A ferramenta open source criada por VecSzn roda 12 LLMs em máquinas com apenas 8 GB de VRAM. Entre os modelos estão Qwen3.8-Flash-Next, GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5-24B-A2B e Qwen3.6-35B-A3B. Criado há 30 dias, já tem 881 estrelas no GitHub e 125 forks.
Ela divide o trabalho entre dois motores. O primeiro mantém o Strata de Niko1221 inalterado para rodar Qwen3.8-Flash-Next com suporte a imagens em GPUs NVIDIA ou AMD com 12 GB ou mais de VRAM. O segundo motor, escrito do zero para PolyStrata, suporta os outros onze modelos em uma única GPU ou múltiplas GPUs em Linux. A versão v0.1.45-poly.7 reduziu o uso de RAM em até 27% em testes com RTX 4070 laptop: Qwen3.6-35B-A3B UD-Q3_K_M caiu de 17,9 GiB para 13,1 GiB após prompt de 32 mil tokens. Conversas longas são salvas em arquivos temporários entre requisições, liberando memória do motor.
Instalação é one-click no Windows ou Linux. Depois de instalar, o usuário escolhe o modelo e inicia o servidor local que expõe uma API compatível com OpenAI e Anthropic. O servidor carrega automaticamente o prompt do Claude Code ao iniciar se "warm_start" estiver ativado. Em um RTX 5090, LFM2.5-24B-A2B escreve entre 480 e 485 tokens por segundo e lê a 23 mil tokens por segundo.
Maturidade acelerada
PolyStrata tem 30 dias de vida e já soma 881 estrelas no GitHub. O último commit é de 5 de novembro de 2026. Das 26 issues abertas, nenhuma é crítica segundo o README. A licença MIT permite uso comercial e modificações sem restrições. A versão atual é v0.1.45-poly.7, lançada em 31 de outubro de 2026.
Exceto pelo LFM2.5-24B-A2B, que só pode ser usado comercialmente por empresas com faturamento anual abaixo de 10 milhões de dólares. Modelos como GLM 5.3 Flash e DeepSeek V4 Flash exigem arquivos de 79 a 114 GB que ficam majoritariamente na RAM. Kolibri 1 precisa de 29 a 48 GB na RAM mesmo com GPU pequena. O servidor permite trocar entre modelos instalados enquanto está em execução.
- C++
- MIT
- Modelos e LLMs
- GitHub
Gemini usa histórico de assinantes pagantes para treinar IA do Google (717)
Usuários descobrem que pagar não isenta cedência de dados para modelos de linguagem.
· 3 min de leitura
