Anthropic divide técnicos ao marcar texto de Claude por palavras

Anthropic esconde a marca na seleção de tokens

A página de suporte original prometia um watermark “imperceptível” que não mudaria “o significado, a qualidade ou a legibilidade” das respostas de Claude. Gruber afirmou que Anthropic publicou essa promessa sem explicar como o mecanismo funcionaria. O título “How Claude Marks AI-Generated Content” também não descrevia a técnica.

Em outra página, chamada “How Claude’s Text Watermark Works”, Anthropic explicou o método em termos acessíveis. Segundo Gruber, a empresa usará uma forma de esteganografia: o modelo escolherá palavras ou outros tokens de modo a deixar uma impressão digital estatística no texto. Um detector tentará reconhecer essa impressão depois, de forma probabilística.

A técnica atua durante a inferência, quando o modelo calcula uma distribuição de tokens possíveis e escolhe uma opção. syrrim descreveu esse processo: “A cada vez que o modelo gera um token, ele primeiro produz uma distribuição de probabilidade de tokens possíveis. Então escolhe um aleatoriamente de acordo com essa distribuição.” O watermark pode tornar o gerador pseudoaleatório, fazendo Claude repetir a mesma escolha em condições iguais.

Essa explicação separa o método de um caractere oculto no arquivo. O texto continua sem um sinal visual, mas a combinação de palavras pode carregar o padrão usado pelo detector. Para Gruber, a consequência é direta: Claude pode escolher uma alternativa menos precisa para preservar a marca.

A reação no Hacker News chegou a 308 pontos e 307 comentários; a coleta usada para a análise reuniu seis comentários. chrisjj resumiu o principal receio: “A única resposta aceitável para saber por que um LLM deveria escolher bananas em vez de pineapple é que ele determinou que essa é a melhor opção para o sentido, o tom e o sentimento pretendidos.” A crítica acusa o sistema de subordinar a escrita ao mecanismo de identificação.

Código e revisão expõem os limites do método

andy99 questionou se o watermark serve apenas para prosa: “Em qualquer código ou saída estruturada, simplesmente não existe flexibilidade, e dependendo de como o usuário pede que a saída seja limitada, existe ainda menos (‘responda apenas True ou False’).” O exemplo mostra uma consequência prática: formatos rígidos deixam menos tokens disponíveis para alterar sem produzir uma resposta inválida.

A mesma restrição aparece quando o usuário impõe padrões artificiais de escrita. andy99 perguntou se Claude tentaria escrever uma história sobre Alice e Bob com cada palavra começando, em rotação, pelas letras de alicebob. O comentário não resolve o caso, mas aponta a dúvida técnica: quanto mais regras o usuário fixa, menor o espaço para o modelo inserir uma preferência estatística.

smallerize levou o risco para a revisão humana: “Ninguém poderá usar Claude para revisar sua própria prosa sem correr o risco de que o texto inteiro seja sinalizado como gerado por Claude.” A consequência vale mesmo se o usuário escreveu o rascunho, porque a edição feita por Claude pode deixar a impressão digital no resultado final.

nomel questionou o que acontece depois da cópia e da edição: “Você não é dono do texto gerado e não pode usá-lo livremente então.” O comentário também pergunta se a marca sobrevive quando alguém cola apenas um trecho ou reescreve algumas linhas de código. Essas dúvidas atingem o uso comercial e jurídico do conteúdo, não apenas a qualidade da prosa.

Os dois lados concordam em um ponto: a geração de texto usa escolhas probabilísticas entre tokens possíveis. A divergência está no custo aceitável dessa escolha. Anthropic diz que preservará significado, qualidade e legibilidade; Gruber e os comentaristas querem saber se o detector continuará confiável depois de revisão, cópia, reescrita ou saída estruturada.

A decisão técnica fica aberta porque a página discutida não informa, no material disponível, a taxa de acerto do detector nem o efeito de edições sobre a marca. Quem adota Claude precisa avaliar separadamente prosa livre, código, respostas restritas e revisão textual. Sem esses dados, o watermark pode indicar procedência em alguns casos, mas ainda não prova que a resposta preservará sempre a melhor palavra disponível.