PolyStrata roda modelos pesados de IA no computador e dispensa a nuvem

Dois motores dividem o trabalho pesado

O código em C++ opera com dois motores distintos e nunca acessa redes externas. O primeiro motor reaproveita o núcleo do projeto Strata, criado por Niko1221, para rodar o Qwen3.8-Flash-Next em placas NVIDIA ou AMD com 12 GB ou mais de memória de vídeo. Já o segundo motor, programado exclusivamente para o PolyStrata, gerencia os outros oito modelos e mantém grande parte dos parâmetros na memória RAM para não sufocar a GPU. Nada sai da máquina.

O GLM 5.3 Flash e o DeepSeek V4 Flash guardam até 114 GB de dados diretamente na memória RAM. No DeepSeek, uma janela de 128 mil tokens consome apenas 0,7 GB a mais de VRAM do que uma conversa de 32 mil tokens. Já o modelo LFM2.5-24B-A2B, da Liquid AI, gasta só 2 GB extras de vídeo para a mesma janela porque quase todas as suas camadas dispensam cálculos de atenção. A placa gráfica trabalha folgada.

O instalador opera com um clique no Windows ou no Linux, com suporte a placas AMD Radeon RX 6600 e às linhas NVIDIA RTX. Quem usa modelos próprios pode apontar arquivos GGUF com a opção --gguf-dir sem apagar arquivos existentes, enquanto o servidor local expõe interfaces compatíveis com OpenAI e Anthropic. Para ganhar rendimento, o colaborador travysh criou os parâmetros STRATA_FATTN=1 e STRATA_FDEC=1, que aceleram o processamento em placas RTX 30 ou superiores. Ambos vêm desligados por padrão.

Projeto novo ainda vive fase de testes

Testes registrados no projeto mostram que o Qwen3.6-35B-A3B roda em tempo real até num notebook com placa de 8 GB integrado ao Claude Code. Para o GLM 5.3 Flash, o desenvolvedor Xiaomi2008 criou a opção --skip-weight F, que descarta 17% mais blocos fora da VRAM em uma RTX 5090 e acelera a escrita de texto. O parâmetro --stage-read-mib 4096 também empresta memória para ler prompts compridos em taxas entre 1.146 e 1.223 tokens por segundo. O ganho na leitura compensa.

O PolyStrata tem apenas 14 dias de vida e acumulou 322 estrelas, 57 bifurcações e 16 chamados abertos desde que surgiu em 6 de outubro de 2026. O autor enviou o commit mais recente em 21 de outubro de 2026, mantendo o software sob a versão v0.1.45-poly.2. A base de código segue sob licença MIT, mas a rede LFM2.5 proíbe o uso comercial por empresas com receita anual superior a dez milhões de dólares. Quem precisa de garantias corporativas deve esperar.