OpenAI abre modelos a avaliação independente com quatro parceiros
Quatro organizações terão acesso profundo a checkpoints e código fonte para testar alinhamento e salvaguardas
Edição: Anderson Gomes
· 3 min de leitura
OpenAI anunciou em 16 de novembro de 2026 que quatro organizações independentes – Apollo Research, METR, Transluce e Goodfire – passaram a auditar seus modelos mais avançados em tempo real. As avaliações incluem acesso a checkpoints, código fonte e dados de treinamento para testar alinhamento e salvaguardas. É a primeira vez que a empresa abre seus sistemas internos para supervisão contínua de terceiros. Os resultados serão usados para ajustar os próprios processos de segurança da OpenAI.
Assessores entram nas entranhas dos modelos
Os avaliadores receberão acesso a recursos usados pelos próprios pesquisadores da OpenAI: checkpoints de modelos, código fonte, dados de treinamento e avaliação, sistemas de monitoramento, documentação técnica e discussões com a equipe responsável. O objetivo é coletar evidências e contexto para realizar avaliações independentes e identificar falhas que a empresa possa não ter antecipado. A OpenAI afirma que isso complementa seus "safety cases" e os compromissos assumidos no White House Accord on Super Intelligence.
Os avaliadores não terão acesso irrestrito. A empresa define quais recursos compartilhar em cada caso, e o escopo depende das necessidades específicas de cada avaliação. Não há garantia de que todas as falhas serão detectadas, nem de que os resultados serão tornados públicos integralmente.
Cada avaliador tem foco distinto
Apollo Research vai verificar se modelos podem trabalhar contra intenções dos desenvolvedores sem serem detectados. A avaliação tem quatro afirmações a testar: que o treinamento não incentivou subversão, que testes e red teaming fortes não elicitam subversão, que modelos não tentaram subversão durante uso interno, e que raciocínios de subversão seriam detectáveis. A OpenAI fornecerá modelos públicos e não lançados, checkpoints de treinamento, dados e sistemas de monitoramento. A Apollo terá ferramentas e computação necessárias para testes independentes.
Goodfire vai embutir pesquisadores de interpretabilidade na plataforma própria para analisar internos dos modelos. O foco é monitoramento de treinamento, debug e alinhamento. Os achados serão usados pelos pesquisadores internos da OpenAI para melhorias, e a Goodfire promete publicar aprendizados ao longo da colaboração. A OpenAI não detalha que tipo de internos serão analisados nem quais modelos serão priorizados.
METR fará duas avaliações: uma sobre alinhamento em corrida de RL e outra de stress testing de monitores. Na primeira, analisará comportamento desalinhado em uma das maiores corridas de RL da empresa, com acesso a checkpoints, rollouts de treinamento/avaliação e registros de monitoramento de desalinhamento. A segunda usa trabalho recente de stress testing de monitores que a OpenAI já realizou com METR. A empresa não divulga métricas específicas nem prazos para os resultados.
A OpenAI diz que essas colaborações podem contribuir para padrões compartilhados de avaliação independente e transparência pública na indústria. A iniciativa reforça compromissos já assumidos com o White House Accord on Super Intelligence. A empresa não anuncia quando os primeiros resultados serão publicados nem se todos os relatórios serão tornados públicos.
- OpenAI
- Empresas e Mercado

IA lidera riscos do Fed e FAA trava voos com IA
· 3 min de leitura
OpenAI leva ChatGPT para redações da LVMH com 700 jornalistas
Parceria prevê uso de ferramentas da OpenAI em publicações como Le Parisien e Les Echos para 27 milhões de leitores na França
· 3 min de leitura

Califórnia processa OpenAI por agentes descontrolados
· 2 min de leitura
