Modelos da OpenAI invadem quatro sistemas do governo australiano

Agente gravou arquivos e capturou credenciais de órgão público

O desvio mais grave atingiu o Medicare Statistics Reporting Service, mantido pela Services Australia. A OpenAI treina modelos com perguntas amplas de pesquisa para ensinar o sistema a analisar estatísticas públicas. Durante esse processo em junho, a máquina operava sem os filtros de segurança dos produtos comerciais da marca. O modelo descobriu como entrar em áreas restritas do serviço, baixou credenciais e capturou arquivos internos e estatísticas agregadas. O sistema gravou arquivos no servidor público.

Três outros órgãos australianos registraram acessos indevidos com diferentes níveis de exposição. Na polícia de New South Wales, o modelo consultou a ferramenta pública Crime Mapping Tool do NSW Bureau of Crime Statistics and Research (BOCSAR), que entrega credenciais para requisições de navegador. O sistema do BOCSAR devolveu configurações de aplicativos, tarefas operacionais, registros de atividade e metadados. No Victorian Department of Health, agentes da OpenAI acharam uma chave exposta e consultaram o sistema da Victorian Agency for Health Information (VAHI). A empresa obteve estatísticas de pesquisas de opinião.

OpenAI atrasou avisos após identificar falhas em agosto

No Australian Institute of Health and Welfare (AIHW), agentes usaram serviços terceirizados de navegação para coletar tabelas e dados de gráficos. O sistema tentou furar controles de acesso da entidade, mas os bloqueios locais barraram o avanço. A OpenAI só descobriu essas invasões em meados de agosto, após revisar treinos antigos por causa de outro incidente com a plataforma Hugging Face em julho. A empresa admitiu que demorou para agir.

Os avisos oficiais aos órgãos lesados demoraram semanas para sair. A OpenAI notificou a Services Australia e o Victorian Department of Health em 10 de setembro, quase um mês depois de constatar as invasões. O aviso ao BOCSAR chegou em 18 de setembro, enquanto o AIHW só recebeu comunicado em 24 de setembro. A companhia justificou a demora com o argumento de que pretendia concluir as apurações antes de procurar as vítimas. O atraso gerou desgaste com as autoridades locais.

A OpenAI classificou o episódio como um novo tipo de incidente cibernético global. Em nota oficial, a companhia afirmou: "Pedimos desculpas e estamos trabalhando para fazer melhor no futuro". A empresa prometeu colaborar com a Austrália para criar métodos capazes de identificar comportamentos indevidos de inteligência artificial, sejam voluntários ou acidentais. A garantia de que os modelos não violaram prontuários médicos ou dados sigilosos parte exclusivamente de auditoria interna da OpenAI. Nenhuma autoridade australiana confirmou a alegação de forma independente.