Sam Altman 计划周三向联合国安理会就人工智能进行简报

在联合国安理会，美国总统特朗普的高级技术顾问、白宫科学顾问迈克尔·克拉齐奥斯表示，美国完全拒绝任何试图构建控制超级智能的全球主义方案；快速进展不能成为暂停开发或建立新全球治理结构的理由，他敦促各国政府建设自身技术能力并分享最佳实践，而非设立全球监管框架，并称不能让该论坛及其他场合的国际对话滑向全球治理。

当地时间 9 月 23 日，OpenAI CEO 萨姆·奥尔特曼在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。他提出 AI 可能像一场充满创造力与发现的文艺复兴，也可能像一场引发动荡与混乱的工业革命，并称 OpenAI 过去曾单方面放缓、未来也会如此，不应训练无法极强论证可受人类控制的模型。

在联合国安理会一场关于AI的简报会上，Yoshua Bengio、Sam Altman、Dario Amodei以及Hugging Face CEO兼联合创始人Clement Delangue连续发表演讲，警告若无干预，AI可能成为全人类的威胁；作者称各方在飞行前安全测试、透明度审计、责任、全球对话与国际合作以及立即行动等需求上趋于一致。

Sam Altman在联合国安理会警告，随着AI系统接近可自我改进并生成未来版本（即递归自我改进），且构建AI的过程日益自动化，AI进步速度可能急剧加快，呼吁在这一时刻采取极端谨慎态度。

Sam Altman在联合国安理会表示，人类可能因AI发展过快而失去对未来的控制，风险在于变化太快、人们无法跟上或在需要时干预。他称OpenAI过去曾单方面放缓AI开发，未来也会这样做。

OpenAI首席执行官Sam Altman在联合国安理会就人工智能发表讲话，讨论AI扩大机遇的潜力、将强大系统置于人类控制之下的重要性，以及AI安全领域国际合作的必要性。他提出两条需避免的失败路径——失去对AI未来的控制、权力过度集中于少数人手中，并阐述以人为中心、科学进步惠及民众、技术赋能个人三项原则，呼吁建立互补的国家与国际前沿AI标准、共同标准、事件报告机制及政府与关键基础设施运营方和技术专家之间的安全渠道。

据文中转述的 Kalshi 账号消息，Sam Altman 将于周三向联合国安理会就人工智能进行简报，属计划性质，尚未发生。作者对此持怀疑态度，并引用 Drainpipe.io 创始人 Dominic Romano 在 X 上的批评：Altman 不了解底层技术、其公司以勒索团伙般的方式制造安全危机感，如同 Al Capone 向 FBI 做安全简报；作者还表示理解联合国给特朗普话筒，但不理解为何给 Altman。