Anthropic põe seis auditores da METR dentro de seus escritórios

O que os auditores podem e não podem ver

A desenvolvedora orientou seus próprios funcionários a compartilhar dados com os técnicos da METR exatamente como fariam com colegas de equipe focados em risco de alinhamento. Os técnicos externos ganharam visibilidade direta sobre o método de treinamento dos modelos e o funcionamento detalhado das salvaguardas do sistema. A empresa blindou apenas três categorias específicas: dados de clientes, comunicações protegidas por sigilo entre advogado e cliente e os arquivos de arquitetura dos modelos. A arquitetura central fica trancada.

O acordo estabelece que a METR publicará suas próprias análises sobre os níveis de risco da Anthropic sem que a empresa tenha poder de veto sobre o conteúdo final. A companhia pode apenas exigir a remoção de informações que reproduzam propriedade intelectual confidencial ou segredos comerciais ligados a treinamento e poder computacional. A Anthropic decide o que é sigilo. Em contrapartida, os auditores mantiveram o direito contratual de declarar em público o nível exato de cooperação e o volume de dados que receberam durante a investigação.

Quatro exigências e três níveis de liberação

A colaboração amplia uma relação iniciada no ano passado, período em que a METR já participava da revisão dos chamados Risk Reports da desenvolvedora. O novo contrato isola a equipe alocada de outros funcionários da organização independente, incluindo pesquisadores que participam de projetos paralelos com a própria empresa de inteligência artificial. Para credenciar um avaliador, a Anthropic exige independência financeira, ausência de ações da companhia e capacidade técnica para detectar falhas sofisticadas como dissimulação de alinhamento (alignment faking). O contrato barra dependência econômica.

A abertura responde a compromissos assumidos no mês anterior sob o White House Accord on Super Intelligence, pacto em que companhias prometeram se submeter a auditorias externas. A Anthropic também trabalha com a consultoria Accenture e a organização SecureBio, além de negociar parcerias semelhantes com a Hugging Face. Esses parceiros secundários operam em fases preliminares, com direitos de publicação restritos e acesso controlado a dados enquanto a desenvolvedora testa a proteção de segredos comerciais. A empresa negocia com a Hugging Face.

Para organizar os acordos futuros, a empresa está montando uma estrutura dividida em três níveis de acesso e pretende conduzir mais organizações até a categoria máxima de auditoria embutida. A desenvolvedora compara a rotina dos auditores ao trabalho dos inspetores governamentais que dão expediente dentro dos grandes bancos para identificar riscos que ameaçam o público antes que se propaguem. O setor financeiro inspirou o arranjo. Ao mesmo tempo em que tenta fechar a distância entre o que a empresa sabe e o que os técnicos compreendem, a Anthropic mantém nas próprias mãos o controle das regras que regem essa supervisão externa.