Pular para o conteúdo
NovidadesIA

Projetos de Código Aberto

GitHub e Microsoft: 55 de 99 achados da IA corrigidos em 6 projetos open source

O piloto converteu milhares de alertas brutos de IA em 99 relatórios verificados, com patch sugerido, enviados em privado aos mantenedores

Edição: Anderson Gomes
· 3 min de leitura

GitHub e Microsoft: 55 de 99 achados da IA corrigidos em 6 projetos open source
Imagem: Reprodução · GitHub · reprodução · licença não declarada

GitHub e Microsoft publicaram em 17 de novembro um piloto em que o sistema Codename MDASH varreu seis projetos open source e entregou 99 relatórios privados com patch sugerido e prova de conceito. Cada achado passou por triagem de IA e revisão manual de sete pesquisadores do FORGE Lab antes de chegar ao mantenedor. Até 15 de novembro, 55 dos 99 estavam corrigidos; 14 já tinham release. Os projetos — AutoGPT, Caddy, Express, FastMCP, ImageMagick e Netty — são todos ex-alunos do GitHub Secure Open Source Fund.

O relatório chega com patch, não com alerta

Antes, a caixa de entrada do mantenedor recebia scan bruto: milhares de linhas apontadas como possível vulnerabilidade, muitas duplicadas ou falso-positivo. O piloto inverte a ordem: o MAI Cyber model, parte do harness agêntico multi-modelo da Microsoft Security, varre; um agente de triagem do GitHub Security Lab elimina duplicatas; e sete pesquisadores do FORGE Lab conferem cada relatório à mão. O que chega no private vulnerability reporting do GitHub já tem patch sugerido e proof of concept, e tudo fica no GitHub, onde o mantenedor já trabalha. O mantenedor decide o que corrigir, como e quando.

Caddy, web server, recebeu 22 relatórios e corrigiu todos em menos de uma semana. AutoGPT tinha um check novo quebrado; o relatório apontou a linha certa e a correção ficou em produção em menos de uma semana. ImageMagick, mantido por duas pessoas, recebeu 22 relatórios e empurrou um patch em 15 minutos. "Normalmente, um advisory de segurança leva uns 30 minutos a 1 hora para ler, entender e corrigir. A diferença é enorme", disse o mantenedor do ImageMagick.

Seis projetos não bastam para generalizar

O mantenedor do Netty foi direto: "Encontrar vulnerabilidades não é mais o nosso gargalo. Corrigir é a parte difícil, e depende dos mantenedores." Os mantenedores do Express disseram que os relatórios cortaram o ruído. Para o FastMCP, framework para servidores MCP, o scan foi além do que scanners de IA anteriores tinham dado. E no Caddy, os relatórios pegaram bugs obscuros e preencheram lacunas que scans anteriores tinham perdido.

O texto, assinado por Ashley Wolf e Gregg Cochran no GitHub Blog, admite o limite: seis projetos é amostra pequena e as lições são iniciais. O material é da própria empresa que fez o piloto. Não há contraponto de quem não participou, não há revisão por pares independente, e o número de "corrigidos" depende da definição de cada mantenedor. Christian Grobmeier, mantenedor do Log4j, resumiu a pressão: "a IA que defende o open source tem que ser melhor que a IA que ataca."

IA tornou o achado de vulnerabilidades rápido e barato, mas a correção exige julgamento humano, e em open source esse trabalho recai sobre mantenedores. O piloto não inventa categoria nova; muda o que o mantenedor recebe na caixa de entrada. Antes, scan a mais só somava trabalho. A pergunta que o comunicado não responde é se o mesmo nível de revisão manual sustenta escala além de seis projetos.

  • GitHub
  • Projetos de Código Aberto

Fonte: Comunicado oficial · Como produzimos as matérias