NVIDIA lança Workload Map para unificar 13 formatos de IA no Kubernetes

O custo de manter adaptadores para cada operador

Em clusters Kubernetes, uma carga real de treinamento distribuído ou inferência com múltiplos nós nunca roda em um pod solitário. Ela opera como uma pequena árvore de recursos com grupos de pods, réplicas e templates de componentes específicos de cada framework. Os engenheiros Alon Lavian, Yuval Grauer e Ron Lev relatam que a equipe do NVIDIA Run:ai enfrentava esse gargalo constante ao construir sua plataforma de gerenciamento. Cada novo formato exigia um adaptador sob medida.

Para cada nova definição personalizada de recurso (CRD), os desenvolvedores precisavam programar manualmente a estrutura da carga, a conversão de status em fase e as alterações seguras no pod. Esse modelo transformava o suporte a novos frameworks em um item de cronograma de engenharia, forçando ferramentas e agendadores a esperar novas versões para liberar compatibilidade. Os autores exemplificam a barreira com um manifesto JobSet na versão apiVersion: jobset.x-k8s.io/v1alpha2, configurado com uma tarefa líder e duas trabalhadoras requisitando quatro GPUs cada. A tarefa demanda doze processadores gráficos no total.

Da inspeção local ao agendamento entre clusters

Sem a interpretação unificada, comandos como kubectl get jobset,jobs,pods e a tela do NVIDIA Run:ai exibem apenas três tarefas isoladas de quatro GPUs, ocultando a relação entre líder e trabalhadores. Com a definição única registrada no Workload Map, o operador inspeciona a estrutura via Workload Map CLI e aciona o agendamento em grupo (gang scheduling) pelo KAI Scheduler. A empresa Elotl adotou o mecanismo no escalonador Nova para calcular demandas de recursos e orientar decisões de agendamento entre múltiplos clusters. Uma única especificação atende agendadores e painéis.

O catálogo inicial do projeto inclui definições prontas para JobSet, PyTorchJob, RayCluster, RayJob, RayService, KServe, Knative, MPIJob, NVIDIA NIM, LeaderWorkerSet, Milvus, Grove PodCliqueSet e NVIDIA Dynamo. O Workload Map integra a plataforma NVIDIA DSX AI Factory, desenhada como um pacote modular de código aberto para apoiar a operação de centros de dados multi-inquilino. O comunicado oficial, no entanto, não apresenta medições de latência de tradução nem limites de consumo de memória ao processar milhares de nós em produção massiva. O anúncio descreve apenas o funcionamento conceitual da ferramenta.

A NVIDIA disponibilizou o catálogo de definições para consulta pública e abriu o espaço de trabalho no Slack do NVIDIA DSX AI Factory para receber contribuições e discutir integrações técnicas. A utilidade prática da iniciativa dependerá do engajamento de mantenedores externos para atualizar esquemas e incluir novos modelos conforme projetos de código aberto evoluem. Frameworks avançam rápido e quebram contratos antigos de dados. A empresa centraliza o debate no Slack oficial.