Hugging Face lança 207 rotinas WebGPU para rodar IA no navegador

Nico Martin e Joshua Xenova, pesquisadores da equipe WebAI da empresa, afirmam que a execução no navegador exige otimizar três camadas: representações dos modelos, planos dos runtimes e operações de GPU na base do sistema. Toda rede neural em execução na web vira uma sequência de operações como multiplicações de matrizes, normalizações, convoluções, mecanismos de atenção, quantização e transformações de layout de dados. A API WebGPU e a linguagem WGSL unificam as chamadas entre navegadores modernos, mas shaders com saídas idênticas apresentam velocidades completamente diferentes em placas de vídeo distintas. Portabilidade não assegura desempenho uniforme.

Repositórios individuais estruturam contratos de cálculo e parâmetros de hardware

Cada uma das 207 operações ganhou um repositório próprio e um cartão informativo dentro da organização webgpu-kernels no Hugging Face Hub. A rotina ai.onnx.Add, aplicada em conexões residuais e adição de viés, realiza soma elemento a elemento com transmissão multidirecional de dimensões. O cartão dessa operação documenta entradas, formatos de saída, tipos de dados suportados e variantes projetadas para diferentes formatos de tensores e dispositivos. Cada repositório reúne código e documentação.

O arquivo manifest.json atua como fonte de verdade do contrato técnico ao definir entradas, saídas, atributos, restrições de tipo e regras de derivação de formato. O arquivo metadata.json registra identificadores, resumos criptográficos e procedência, enquanto o test.json armazena casos de correção para conferir os resultados esperados sem depender de runtimes externos. Cargas de trabalho para avaliação ficam no bench.json, e arquivos com extensão *.wgsl.jinja geram os shaders parametrizados para cada solicitação e modelo de GPU. A interface dispensa leitura do código WGSL.

Plataforma Fleet recolhe medições nos navegadores para identificar lentidão

Junto com o catálogo de operações, a empresa colocou no ar a suíte Fleet para testar e pontuar os kernels diretamente no hardware de quem navega pelo site. Martin e Xenova relatam que um laboratório convencional de testes jamais conseguiria cobrir a diversidade de dispositivos e implementações de navegadores presentes no mercado. Com autorização do usuário, cada rodada envia registros anônimos para apontar erros matemáticos, calcular tempos de resposta e sinalizar casos com lentidão patológica. Os dados refinam variantes específicas de aceleradores.

Variáveis como tamanho de grupos de trabalho, padrões de acesso à memória, vetorização e estratégias de fusão alteram drasticamente o comportamento de cada instrução em silício real. A melhor configuração varia conforme as dimensões de entrada, o fabricante do chip, o navegador utilizado e os recursos de WebGPU habilitados na máquina. A Hugging Face entregou apenas a base de cálculo da pilha de execução e agora depende da adesão voluntária da comunidade para validar e calibrar os 207 componentes anunciados. O ganho prático depende de testes externos.