OpenAI endurece regras de uso e exige SafetyIDs a partir de 20/11

Parceiros agora precisam seguir regras da OpenAI

Antes, as políticas de segurança da OpenAI variavam conforme o canal de acesso. Agora, a empresa exige que todos os parceiros — desde hospedagens até revendas — mantenham salvaguardas no mínimo tão rigorosas quanto as suas. Isso vale para serviços diretos, parcerias de hospedagem e até revendedores. Os parceiros devem investigar violações e agir quando problemas forem identificados, coordenando com a OpenAI para que as restrições não percam eficácia. A OpenAI também exige que roteadores de modelos ou portais de IA obtenham aprovação prévia antes de oferecer acesso.

A OpenAI introduz o sistema SafetyIDs, que identifica usuários em investigações sem expor suas identidades. As decisões de enforcement se baseiam em conduta documentada e risco, aplicadas de forma consistente e proporcional. A empresa promete explicar continuamente o que é permitido, restrito e como resolver problemas de compliance.

Fiscalização depende de colaboração com clientes

As Usage Policies atualizadas tornam as regras mais claras e previsíveis. A fiscalização, porém, depende da cooperação dos clientes. Eles podem enfrentar problemas com usuários finais, contas comprometidas ou chaves de API vazadas. A OpenAI monitora abusos potenciais e investiga denúncias. Para mitigar uso cibernético indevido, treina modelos para recusar pedidos prejudiciais e usa sistemas que detectam padrões suspeitos em interações.

Programas de acesso confiável, como os Trusted Access Programs, definem requisitos de elegibilidade para os modelos mais poderosos. A OpenAI afirma que as restrições podem ser revistas se houver mudanças significativas na conduta, compromissos ou salvaguardas. A empresa busca facilitar o acesso à IA com regras claras e salvaguardas consistentes, mas a implementação prática dependerá da adesão dos parceiros e clientes.

A OpenAI combina múltiplas camadas de salvaguardas antes e depois do lançamento de um modelo. Antes da implantação, avalia capacidades e riscos, treina o modelo para seguir requisitos de segurança e testa se as proteções resistem a tentativas de bypass. Após o lançamento, monitora abusos potenciais e investiga denúncias. Os sistemas de detecção de padrões suspeitos ajudam a decidir como responder a interações de risco.