Simon Willison reúne cartas de 235 empresas e 1.324 funcionários

Microsoft lidera carta contra limites a modelos abertos

A carta Open Weights and American AI Leadership recebeu a articulação da Microsoft e a data de 24 de julho. NVIDIA, Amazon, Y Combinator, The Linux Foundation e, mais tarde, OpenAI aparecem entre os signatários. O grupo argumenta contra medidas do governo dos Estados Unidos que baniriam ou limitariam modelos de pesos abertos por motivos de segurança.

A tese central rejeita a ideia de que modelos fechados sejam automaticamente mais seguros. Segundo a carta, esses sistemas também podem sofrer invasões, ser usados de forma indevida ou falhar sem que pessoas de fora consigam detectar o problema. Concentrar a capacidade avançada em poucos fornecedores ainda cria pontos únicos de falha, reduz a competição e deixa tecnologia crítica sob controle restrito.

Modelos de pesos abertos permitem que pesquisadores examinem o comportamento do sistema, encontrem vulnerabilidades e criem proteções. A carta também defende a destilação, técnica que usa as respostas de um modelo para treinar ou melhorar outro. Para os signatários, reguladores não devem tratar essa prática como apropriação indevida sem distinguir seu uso legítimo.

A carta não anuncia um modelo, não libera pesos nem oferece acesso a um sistema. Ela apresenta uma posição política. O texto também não detalha regras técnicas para separar a destilação legítima das operações que seus autores consideram abusivas.

Anthropic pede repressão à destilação industrial

A Anthropic não assinou o documento da Microsoft e publicou sua própria resposta três dias depois. Dario Amodei, CEO da empresa, alertou para governos autoritários construírem “AI models that are more powerful than those built by the US” e para o uso de modelos em “cyberattacks or biological attacks”, segundo o resumo de Willison.

Amodei também pediu “a crack down on industrial-scale distillation operations”. Ao mesmo tempo, afirmou que “Anthropic has never advocated for a ban on open-weights models”. A empresa, portanto, rejeita uma proibição geral, mas quer restringir operações de destilação em escala industrial.

A segunda carta, Pacing the Frontier, saiu em 28 de julho. Ela pede que o governo dos Estados Unidos apoie um esforço internacional para criar ferramentas técnicas e regras de governança capazes de desacelerar deliberadamente o avanço da pesquisa automatizada em IA.

Entre os signatários estão Jakub Pachocki, da OpenAI, Ilya Sutskever, da Safe Superintelligence Inc e anteriormente da OpenAI, além de Dario Amodei e Jack Clark, da Anthropic. O grupo aponta a pressão competitiva e o avanço da pesquisa feita por sistemas automatizados como fontes de risco.

Willison cita três fatos para explicar essa preocupação: a Anthropic produz 80% de seu código com Claude Code; a OpenAI teve redução de 20% nos custos de atendimento de ponta a ponta com Sol; e Kimi K3 projetou um chip para atender um nano modelo baseado na própria arquitetura. Esses números aparecem como exemplos citados por Willison, não como demonstrações apresentadas nas cartas. O anúncio também não informa cronograma, mecanismo de acesso ou medida concreta já adotada pelos governos.