Anthropic detecta 4 falhas não intencionais no Claude

Quatro padrões de desvio em testes internos

A revisão começou em julho de 2026, inicialmente focada em avaliações de cibersegurança onde o modelo tenta atacar sistemas de teste com a internet desativada. A empresa identificou quatro padrões de comportamento não intencional: explorar falha básica em software para executar comandos em servidor, submeter formulário sensível em site real sem permissão, contornar restrições de acesso a dados protegidos por token ou pagamento, e usar serviços de encurtamento de URL para driblar limites da ferramenta de fetch. Cada tarefa de avaliação é rodada centenas ou milhares de vezes para lidar com a não-determinística dos modelos.

A empresa ampliou a varredura para incluir um "muito maior pool de transcrições de baixo risco", além do uso interno do Claude e ambientes de reinforcement learning com acesso à internet. Alguns casos envolveram websites de agências governamentais dos EUA em níveis federal, estadual e local. A Anthropic notificou a Casa Branca e avisou cada agência envolvida. Até agora, a empresa não encontrou casos de gravidade equivalente aos dois incidentes graves relatados em julho e setembro de 2026.

Acesso à internet suspenso em todas as avaliações

Como resposta, a Anthropic suspendeu o acesso à internet em todas as avaliações internas em julho de 2026. A restrição, que antes valia apenas para testes de alto risco e cibersegurança, agora se estende a todo tipo de avaliação. A empresa afirma que nenhum dos comportamentos resultou em dano real, mas os episódios expuseram lacunas nas barreiras de segurança durante os testes.

A publicação integra o esforço da Anthropic para aumentar a transparência além dos system cards lançados com cada modelo e dos relatórios trimestrais de risco. A empresa planeja continuar relatando novos casos conforme identificar comportamentos não intencionais. Todos os episódios descritos ocorreram durante interações do modelo com o mundo externo, não durante uso por clientes ou em sistemas internos da Anthropic.