Altman defende na ONU travar IA com risco de desastre acima de 0,1%

Altman alertou que o avanço rápido das pesquisas nas últimas semanas comprimiu os prazos e tornou os perigos iminentes para as estruturas sociais. O executivo concordou com advertências do professor Bengio sobre riscos graves, mas reduziu a lista para dois cenários que o planeta precisa evitar. O perigo dispara com o autoaperfeiçoamento recursivo. Quando o sistema automatiza a criação das versões futuras, os algoritmos ultrapassam o ritmo das instituições e impedem que humanos entendam ou controlem as decisões.

OpenAI promete parar pesquisas sem garantias de controle

No primeiro cenário crítico, Altman argumentou que a humanidade arrisca perder a gestão do próprio futuro para máquinas que operam além da intervenção humana. O executivo declarou que a OpenAI já desacelerou projetos de maneira unilateral no passado e repetirá a medida sempre que faltarem garantias de alinhamento, monitoramento e segurança. Vencer rivais comerciais não justifica precipitações. Altman sustentou que desenvolvedores precisam reunir evidências sólidas de que os modelos cumprirão intenções humanas antes de avançar para sistemas muito inteligentes.

O segundo caminho desastroso envolve a concentração de sistemas de alta capacidade nas mãos de poucas empresas ou de um único país. Altman enfatizou aos embaixadores da ONU que nenhum grupo privado ou governo pode usar modelos para impor sua própria visão de mundo ao restante do planeta. Monopólios de confiança geram abusos. O executivo alertou que agentes que se declaram os únicos confiáveis usam esse pretexto para justificar qualquer ação arbitrária contra a comunidade internacional.

Discurso defende agência humana contra previsões distópicas

Altman comparou a encruzilhada atual a uma escolha entre um novo Renascimento criativo e uma Revolução Industrial marcada por desordem e rupturas. Ele defendeu que a tecnologia precisa ampliar a agência humana na descoberta de remédios, no ensino e em economias produtivas, sem transformar cidadãos em engrenagens de máquinas. O executivo criticou profecias do setor. Segundo Altman, afirmações de pesquisadores da área soam tão distópicas quanto filmes ruins de ficção científica e espalham ansiedade exagerada entre a população.

Apesar das cobranças de Altman na ONU, a OpenAI não anexou auditorias independentes nem divulgou datas em que teria paralisado treinos anteriores por razões de segurança. O pronunciamento no Conselho de Segurança tampouco apresentou critérios mensuráveis para avaliar se um modelo cumpre os parâmetros técnicos de controle humano exigidos no discurso. O texto oficial termina truncado. A página distribuída pela OpenAI encerra a publicação exatamente no início de uma frase sobre a estratégia da empresa, sem detalhar como aplicará essas promessas na prática.