OpenAI cria marca-d’água em texto para cumprir regra europeia de IA

A regra europeia exige que provedores de modelos generativos tornem textos criados por máquinas identificáveis de forma legível por computadores. Para atender à determinação, a OpenAI começou a liberar a opção de marcação na sua API global como recurso desativado por padrão, dependendo de adesão manual dos clientes. Nas próximas semanas, a empresa vai aplicar a marca invisível nas saídas elegíveis do ChatGPT e do Codex dentro da União Europeia. Ferramentas para detectar imagens e áudio continuam abertas ao público no endereço openai.com/verify e na Content Provenance API. No caso do texto, o detector segue restrito.

Troca de palavras quebra detecção estatística

O detector próprio da empresa procura pelo sinal estatístico deixado pelo textGrain, mas falha quando o texto sofre alterações. Em testes com trechos de 400 tokens baseados no conjunto de dados ELI5, substituir 10% das palavras por sinônimos derrubou o índice de detecção de cerca de 92% para 66%. Trocar 25% dos termos fez a identificação despencar para 17%. O tamanho da resposta gerada também pesa no resultado. Em textos de 200 tokens com temas de psicologia, a precisão bateu 80% sob taxa alvo de falsos positivos de 1%, enquanto passagens de 400 tokens alcançaram 95%. Respostas sobre matemática tiveram taxas ainda menores porque oferecem pouca margem para variação de vocabulário.

Diante dessa fragilidade prática, a OpenAI abriu inscrições para liberar o detector apenas a pesquisadores aprovados e organizações especializadas. A empresa sustenta que o textGrain empatou ou superou abordagens concorrentes avaliadas internamente, como o SynthID para texto. Prometeu também publicar o código como projeto de código aberto e atualizar seu relatório técnico nas semanas seguintes. Por enquanto, a verificação externa inexiste para o público geral. Casos reais de uso cotidiano continuam sujeitos a falsos positivos e a omissões de autoria.

Marcação preserva desempenho do modelo de ponta

A empresa argumenta que a inclusão do sinal não comprometeu o raciocínio das máquinas e apresentou medições feitas com seu modelo mais recente, o Astra. Na comparação entre o texto sem marca e o texto marcado na configuração máxima, o índice Artificial Analysis Intelligence Index registrou 49,57 pontos contra 49,76 pontos. A pontuação no AutomationBench marcou 34,09% sem marcação e 34,86% com a técnica ativa. No teste de engenharia DeepSWE v1.1, o resultado recuou ligeiramente de 72,80% para 71,68%. Já no Terminal-Bench 4.0, o índice subiu de 53,90% para 56,06%. A OpenAI usou esses números para afirmar que o impacto na qualidade das respostas permanece quase nulo.