NVIDIA abre o código do Run:ai para orquestrar GPUs no Kubernetes

O pacote aberto no GitHub inclui a plataforma completa e quatro ferramentas modulares que funcionam de forma independente. O KAI Scheduler cuida da fila e da priorização de processos nos nós de computação. O GPU Fractioning Operator divide a capacidade física das placas entre diferentes tarefas simultâneas. O KAI Resource Management monitora o consumo dos nós, enquanto o Workload Map mapeia o ciclo de vida dos modelos em execução. Equipes de engenharia podem adotar a pilha inteira ou extrair apenas partes específicas para os próprios sistemas. O código está acessível no repositório da organização NVIDIA DSX AI Factory.

Código livre no GitHub dispensa assinatura paga

Quem quiser subir o ambiente pronto encontra o instalador no catálogo NVIDIA NGC como Community Product, empacotado em um Helm chart. Esse pacote da comunidade não exige assinatura paga nem contrato prévio de suporte corporativo com a fabricante. No entanto, o download pelo NGC exige aceitar o NVIDIA Software License Agreement e os termos específicos para produtos de inteligência artificial da empresa. O suporte empresarial da NVIDIA não atende essa versão comunitária. A empresa também afirma que o código-fonte publicado no GitHub segue licenças de código aberto aplicáveis a cada componente.

A documentação assinada pelos engenheiros Ekin Karabulut e Sam Heywood sustenta que o sistema aumenta a vazão de processamento e eleva a taxa de ocupação das GPUs. Trata-se, contudo, de uma afirmação da própria fabricante em seu blog técnico, sem auditoria externa independente ou testes comparativos de terceiros anexados à publicação. A promessa central repousa na capacidade de evitar placas ociosas durante turnos de trabalho concorrentes. O sistema divide recursos em tempo real.

Parceiros comerciais integram componentes aos serviços

Parceiros comerciais da iniciativa NVIDIA DSX já anunciaram produtos que utilizam o código aberto para estruturar ofertas próprias. A Crusoe conectou o software ao Crusoe Managed Kubernetes para orquestrar cargas em sua infraestrutura física. A Mirantis adicionou o sistema ao k0rdent AI para automatizar o provisionamento de hardware bare metal até a entrega do modelo treinado. A Nebius colocou a aplicação completa no Nebius AI Cloud com instalação em um clique para nós gerenciados de Kubernetes. A OpenNebula Systems incorporou a tecnologia ao OpenNebula AI Cloud Platform por meio da ferramenta OneKS, voltada a nuvens sovereign.

Outras fornecedoras usam o código para viabilizar serviços de faturamento e operação para terceiros. A Rafay entrega a plataforma como serviço totalmente gerenciado, automatizando do controle de clusters aos inquilinos finais em catálogos corporativos. A Saturn Cloud emprega os componentes no Token Factory para vender inferência white-label com medição de consumo por token e cobrança automática. Já a Spectro Cloud integrou a tecnologia ao PaletteAI, permitindo que operadores acionem os nós diretamente pelo PaletteAI Studio. A distribuição do código aberto acelera integrações comerciais diretas em provedores de computação em nuvem.