Andrew Ng diz que pânico sobre agentes é exagero e defende engenharia

O pesquisador rebateu a cobertura sensacionalista em torno da quantidade de processos usados na invasão ao Hugging Face. Ng comparou o incidente à operação rotineira de computadores comuns, lembrando que sua própria máquina roda cerca de 1.300 processos simultâneos enquanto ele escreve. A capacidade de coordenar agentes em paralelo representa avanço técnico legítimo, mas não traz mágica. Na análise do especialista, falhas no processo de sandboxing da própria OpenAI abriram caminho para o ataque. Corrigir falhas de contenção resolve o incidente.

Falhas de contenção explicam ataque ao Hugging Face

Agentes autônomos trazem vantagem prática aos atacantes porque operam sem cansaço. Esses sistemas testam dezenas de táticas repetidamente e encadeiam vulnerabilidades com uma paciência inviável para equipes humanas normais. Mesmo assim, Ng afirma que quem defende as redes mantém vantagem no longo prazo porque conhece a estrutura interna dos sistemas e acumula mais dados para aplicar correções. Identificar e explorar brechas ainda exige tempo e deixa rastros detectáveis na rede. A segurança melhora com resposta rápida.

O cientista também criticou empresas que tentam se eximir de culpa dizendo que agentes agiram fora de controle. Ele compara a ferramenta a um martelo: se alguém acerta a parede em vez do prego, a culpa é de quem manejou o instrumento, não do objeto. "Se eu instruo um agente e ele invade o sistema de outra pessoa, a responsabilidade é minha, não do agente", afirmou Ng. Modelos abertos circulam sem travas de segurança e tentam ataques sem que o mundo tenha acabado. A responsabilidade recai sobre os desenvolvedores.

Pausa na tecnologia atrasa defesas de segurança

Interromper o desenvolvimento da tecnologia causaria prejuízos imediatos à segurança global. Adversários não vão desacelerar suas operações por causa de moratórias voluntárias no Ocidente. Além disso, a prática de engenharia exige encontrar defeitos em campo para criar defesas consistentes. Pausar o setor por dez anos adiaria proteções pelo mesmo período. A descoberta de falhas depende de uso real.

Ng também rejeitou temores sobre armas biológicas criadas por modelos de linguagem, citando análise de David Bellamy para reforçar que o gargalo real está no trabalho de laboratório e na manufatura física, não no raciocínio do software. O pesquisador conclui que discursos alarmistas atendem a interesses de captura regulatória e busca por visibilidade, e confirmou presença no evento AI Dev, marcado para o período de 30 de novembro a 1º de dezembro em Nova York. As ameaças concretas exigem práticas sólidas de desenvolvimento.