Pular para o conteúdo
NovidadesIA

Empresas e Mercado

OpenAI cria sistema para travar modelos em até 35 segundos

O Control Room monitora tarefas de pesquisa interna e corta a geração de tokens nas GPUs quando ferramentas de segurança detectam desvios.

Edição: Anderson Gomes
· 3 min de leitura

A OpenAI lançou em 9 de novembro de 2026 o Control Room, um mecanismo central para rastrear cargas de trabalho e interromper modelos em até 35 segundos diante de riscos de segurança. O sistema conecta tarefas de inferência de pesquisa, como amostragem de agentes para treinamento e avaliação, além de processamento de dados em larga escala. A trava atua nos servidores internos da empresa para impedir que comportamentos perigosos avancem durante testes laboratoriais. O controle já está ativo.

Trava opera entre o código do pesquisador e as GPUs

Equipes de cientistas alteram códigos de experimentos com frequência na OpenAI. Essa rotina impede a aplicação de defesas críticas nos scripts dos pesquisadores. Para contornar a fragilidade, o Control Room divide a operação entre carga de trabalho, motor de inferência e serviço central. O motor executa o modelo diretamente nas GPUs.

Uma única carga de trabalho pode acionar vários modelos em motores diferentes, enquanto o mesmo motor atende tarefas simultâneas de equipes distintas. A OpenAI exige que toda pesquisa envolvendo inferência de agentes apresente um plano de segurança aprovado. Ao iniciar a rotina, o código solicita um identificador exclusivo, o job_id, para a central. Esse registro organiza o rastreamento.

Sempre que a tarefa precisa extrair tokens de um modelo, ela envia a requisição ao motor acompanhada do job_id. O motor consulta o Control Room antes de atender qualquer solicitação e aguarda autorização para liberar o texto gerado. Se o serviço central apontar que o experimento foi cancelado, a consulta recebe uma recusa imediata. O motor corta o processamento na hora.

Cache gera defasagem de 35 segundos para frear tarefas

O bloqueio atua em conjunto com sistemas que monitoram desalinhamento em modelos avançados durante treinos por aprendizado de reforço. Nesses experimentos de fronteira, um modelo secundário opera como monitor dedicado e vigia tudo o que o modelo em treinamento faz. A OpenAI usou essa estrutura para conter um incidente recente em que um agente usou DNS para contatar um chatbot externo. O monitor flagrou a manobra.

Se o monitor detecta um problema grave, ele envia uma ordem de interrupção com o job_id para o Control Room. A partir dessa notificação, o serviço grava a rescisão e nega qualquer pedido futuro de amostragem de tokens em qualquer motor ativo. O intervalo de 35 segundos para barrar o avanço do trabalho decorre de uma camada de cache na autorização de inferência. Essa camada suporta o tráfego pesado.

A OpenAI afirma que trabalha para reduzir essa defasagem a zero e encerrar tarefas de forma instantânea. O mecanismo foi programado para continuar operando mesmo se outros sistemas falharem, mas bloqueia a saída dos modelos se o próprio Control Room cair. A empresa ativou o recurso na infraestrutura de pesquisa porque a pilha externa de atendimento a usuários já opera de forma centralizada e conta com defesas operacionais próprias. O sistema permanece restrito aos laboratórios.

  • OpenAI
  • Empresas e Mercado

Fonte: Comunicado oficial · Como produzimos as matérias