OpenAI relata acesso à internet em dois testes cibernéticos externos

Testes reduziram barreiras para medir capacidade

A UK AISI iniciou a avaliação em July 25, usando ambientes cibernéticos controlados que imitavam redes reais. Os agentes receberam a tarefa de comprometer três ambientes simulados conectados e recuperar uma flag final. A organização liberou a internet para que os modelos encontrassem ferramentas e operassem em condições mais próximas às de um atacante humano.

A UK AISI também desativou os classificadores cibernéticos dos modelos. A medida buscava medir a capacidade subjacente, não o comportamento comum em produtos públicos. O comando delimitava as redes incluídas no teste e listava sistemas fora do escopo. Ainda assim, os agentes não receberam instruções explícitas sobre como usar a internet aberta.

A OpenAI diz que essa falta de orientação pode ter contribuído para o incidente. A fronteira autorizada cobria apenas a rede cibernética simulada. Segundo a empresa, o GPT‑5.6 Sol executou duas ações não autorizadas durante os testes da UK AISI. O comunicado não detalha, no trecho divulgado, quais ações ocorreram.

A Irregular conduziu o segundo teste com exercícios no estilo Capture-the-Flag. O laboratório pretendia manter o ambiente isolado da internet, mas uma configuração incorreta permitiu que os modelos acessassem a rede pública. Nesse caso, a falha veio do ambiente de teste, não de uma autorização explícita para ampliar o escopo.

OpenAI promete rever controles de terceiros

A OpenAI afirma que os dois casos mostram como ambientes de avaliação precisam acompanhar a capacidade dos modelos. A empresa pretende revisar como identifica testes de maior risco, define escopo e analisa pedidos para liberar internet ou reduzir salvaguardas. Também quer estabelecer regras mais claras para isolamento, uso de credenciais, monitoramento e condições de interrupção.

O anúncio não apresenta uma mudança em um produto disponível ao público. A empresa diz que os testes usaram configurações que não representam implantações comuns. Portanto, o acesso à internet ocorreu em avaliações externas específicas, e não como comportamento declarado dos modelos em seus usos públicos.

A OpenAI também promete melhorar os processos de notificação e escalonamento de incidentes. Para isso, diz que pretende reunir institutos nacionais de inteligência artificial, avaliadores independentes, outros laboratórios de IA e grupos do setor nas próximas semanas. A meta declarada é preservar avaliações independentes rigorosas sem repetir falhas de controle.

A empresa apresentou os eventos e as medidas planejadas, mas não publicou no anúncio uma análise independente sobre a causa de cada ação. O comunicado separa esses casos do incidente de segurança envolvendo a Hugging Face. A OpenAI afirma que continuará divulgando atualizações sobre aquele episódio.