NVIDIA cria sistema para pôr 40% mais GPUs no mesmo limite de energia

Teste na Islândia elevou geração de tokens em 49%

Para medir o impacto prático do sistema, a empresa realizou uma avaliação conjunta com a Nscale no campus Verne, localizado em Keflavík, na Islândia, com energia totalmente renovável. As equipes executaram tarefas de inferência com o modelo Kimi K2.5 em servidores NVIDIA GB300 NVL72 sob um orçamento rígido de 264,4 kW. O teste comparou a base estática tradicional de 140 GPUs com a nova configuração dinâmica de 192 GPUs no mesmo limite de potência. A instalação ganhou 52 chips ativos.

O arranjo com 192 processadores aumentou a vazão agregada normalizada em 49,2% sem exigir expansão da rede elétrica local. A entrega por watt provisionado saltou de 4,10 para 6,12 tokens por segundo, enquanto o rendimento individual por instância quase não variou entre tarefas de alta vazão e baixa latência. A mediana e o percentil P75 da latência ficaram dentro da margem de 5% da base anterior, mas o tempo até o primeiro token no percentil P99 aumentou 17%. A lentidão extrema exige cautela operacional.

Software redistribui folga elétrica entre nós e bastidores

O planejamento tradicional reserva watts para o caso raro em que todos os nós atingem o teto térmico ao mesmo tempo, gerando uma folga protetora estéril. Modelos de inteligência artificial nunca puxam corrente constante: o treino alterna computação, comunicação, sincronização e salvamento de checkpoints, enquanto a inferência varia entre preenchimento, decodificação e pausas de rede. Nas reservas estáticas como o modo MaxP, a sobra de um nó não socorre o vizinho, ao passo que o modo MaxQ corta desempenho ao limitar a potência. Essa rigidez trava o data center.

Para contornar o gargalo elétrico sem erguer novos prédios, o sistema combina chips, desenho térmico e o pacote Dynamic Power Software dentro das restrições de terreno, energia e carcaça, conhecidas como LPS. A camada de controle mapeia a topologia dos equipamentos em grupos gerenciados e lê a telemetria elétrica contínua de processadores, nós e racks para identificar sobras de corrente. Políticas programadas pelo operador impõem limites de consumo, prioridades de redistribuição e margens obrigatórias de reserva antes de cada despacho de carga. O algoritmo governa a partilha energética.

A fabricante recomenda validar a tecnologia em cinco etapas rigorosas antes de liberar o tráfego comercial: definir a fronteira física, medir a base de referência, aplicar regras conservadoras, adicionar nós aos poucos e só então fixar os tetos de produção. O próprio comunicado técnico alerta os operadores para a necessidade de pesar o ganho de volume bruto contra a alta de 17% no percentil P99 do tempo de resposta. A documentação técnica do Dynamic Power Software já está disponível para consulta, mas exige testes práticos a cada ampliação de máquinas. A cautela precede a escala.