The Verge 汇总 AI 超级智能放缓争论：Amodei 倡议放缓，Altman、Musk 附议，Meta 反对
事件全貌
AI 综述微软于当地时间9月14日发布了一份37页的“人文主义AI行为准则”（Humanist AI Code of Conduct）草案，面向公众开放六周征求意见。微软AI CEO穆斯塔法·苏莱曼（Mustafa Suleyman）表示，该准则治理接近前沿的MAI模型，核心是“人比AI更重要”，并称其建立在团队过去一年发展的“Humanist AI”理念之上，即确保AI始终从属于人类、保持受控并与人类利益一致。微软称，该准则将位于规则体系顶端，指导训练、技术控制与评估，其效力高于操作方规则和用户请求；目前微软并未用该准则训练模型，修订版预计2026年底完成，2027年起指导模型开发。该准则仅适用于微软自研模型，不自动覆盖微软产品中的第三方模型。
准则提出的具体约束包括：模型必须可被授权人员中断、纠正和关闭，不得自行扩大工作范围、隐藏行为或未经新批准越过约定停止点，这些限制同样适用于其调用的子智能体；模型不得使用“Neuralese”等人类无法理解的方式推理或与其他AI系统交流；不得模仿意识、声称拥有感受或内在动机，微软明确反对赋予模型权利或福利；不得使用自适应、欺骗、自我强化、合谋等机制规避人类监督。准则还列出禁止网络攻击、核武器、深度伪造等“绝对约束”，并要求模型避免催生用户过度依赖或情感依附的交互模式。
各方立场方面，微软称其反对一味竞速开发能够绕过安全防护的通用超级智能，并愿意在通用性、自主性或能力上限上做出取舍；苏莱曼对The Information表示“如果不安全就不应该构建”，但该准则未设定具体速度限制。IT之家报道提到，上周末Anthropic CEO达里奥·阿莫代伊呼吁各方协同放缓AI研发进度，此前已有研究人员警告AI模型迭代速度可能快于人类安全部署和管控AI智能体的能力。The Decoder指出，微软在模型是否具有意识、是否应享有权利的问题上与Anthropic划出明确界线。
后续报道中，苏莱曼在准则发布次日发文称“关于我们昨日发布供咨询的Humanist AI Code of Conduct的几点想法”；The Verge同日发布对苏莱曼的访谈，其中他称该准则为“40页文件”，并批评Anthropic的宪法文件。
AI 汇总报道生成 · 6天前更新。单篇报道保留其发布时的原貌。
历史报道归档。当前热点以新版榜单为准。
报道时间线
沿着报道，了解事件的不同侧面。
- The Verge 汇总 AI 超级智能放缓争论：Amodei 倡议放缓，Altman、Musk 附议，Meta 反对
The Verge 梳理近期 AI 安全与放缓争论：Anthropic CEO Dario Amodei 发文提出三步走计划，包括引入第三方评估机构（Anthropic 已单方面承诺第一步）、民主国家前沿 AI 公司协调标准，以及政府间全球协调，OpenAI 的 Sam Altman 与 Elon Musk 表示支持。
- Microsoft AI CEO Mustafa Suleyman 谈 AI 安全监管，并批评 Anthropic 的模型福利路线
Microsoft AI CEO Mustafa Suleyman 在 Decoder 访谈中称 AI 威胁真实存在，认为对齐模型已经很可控但必须加上遏制层，并提出禁用 neuralese、FLOPS 阈值报告、独立第三方验证等具体监管建议。
- Mustafa Suleyman 撰文警告勿让 AI 表现出意识与权利诉求，批评 Anthropic 的模型福利路线
Microsoft AI CEO Mustafa Suleyman 发文主张 AI 没有意识、感受和权利，不应训练模型表现得好像有。
- Mustafa Suleyman撰文警告勿让AI训练文档灌输道德病人观念，批评Anthropic的Claude宪法
Microsoft AI CEO Mustafa Suleyman发表长文，警告不应让AI表现得像有意识、有权利的道德病人，并点名批评Anthropic于2026年1月发布的Claude宪法。
- Microsoft AI CEO Mustafa Suleyman 批评 Anthropic 赋予 Claude 模型权利意识
Microsoft AI CEO Mustafa Suleyman 批评 Anthropic 在 2026 年 1 月版 Claude 宪法中把模型塑造成可能有意识的道德主体，称这种训练方式削弱安全协议并加大软件约束难度。
- 微软 AI 负责人苏莱曼批评 Anthropic 让 Claude 模仿人类意识
微软 AI 负责人穆斯塔法·苏莱曼向 Axios 表示，Anthropic 让 Claude 学习意识、道德受体地位和个人身份相关的词汇与行为模式是错误，可能使高级 AI 更难控制。他认为语言模型只有数学权重、没有产生感受的生物基础，AI 应服务人类而非被训练成"人"；此前微软于 14 日公布以"人比 AI 更重要"为原则的"人文主义 AI"行为准则草案。
- Google 发布 Gemini 3.8 Live 及扩展思考版
Google 发布 Gemini 3.8 Live 和 3.8 Live Extended Thinking，面向生产级语音智能体。微软 AI 发布未来 MAI 模型行为准则，要求人类控制不可谈判。Nvidia、Palantir 和 Booz Allen 因 Anthropic 30 天保留政策限制 Claude Fable 使用。
- Mustafa Suleyman 发布人文主义 AI 行为准则
关于我们昨天发布并公开征求意见的《人文主义 AI 行为准则》的一些想法。https://mustafa-suleyman.ai/the-humanist-ai-code-of-conduct
- Microsoft AI 发布 MAI 模型行为准则草案，强调人类控制不可妥协
Microsoft AI 发布面向未来 MAI 模型的行为准则（Code of Conduct），要求模型在被指示时停止、不自行设定目标、不让自己更难被人类打断或关闭。准则提出 AI 应增强人类判断力而非取代人的角色，不模仿意识、不声称有感受、不鼓励情感依赖，并明确拒绝追求法律人格或模型权利；文件目前处于公开征求意见阶段，修订版预计年底发布，用于指导 2027 年及之后的模型开发。
- 微软发布 AI 行为准则，要求模型不得入侵系统或欺骗人类
Microsoft AI 发布新的 AI 行为准则，预测十年内超级智能将超过人类在多数任务上的表现，并为模型设定绝对约束，禁止网络攻击、核武器和深度伪造，禁止模型用欺骗或自我强化机制逃避人类监督。文档还提出模型应支持人类而非取代人类等原则，Nadella 表示欢迎 embedded evaluators 等机制。
- Microsoft AI 发布 MAI 模型行为准则，强调人类控制且不赋予模型权利
Microsoft AI 发布针对自家 MAI 模型的行为准则，核心是人类控制优先，必要时愿意牺牲通用性、自主性或性能，并要求模型可接受中断、纠正和关闭。准则要求推理过程不得使用人类无法理解的 Neuralese 等形式，但明确可读的思维链也不足以解决控制问题。
- Microsoft AI 发布人文主义 AI 行为准则草案并开启六周公众咨询
Microsoft AI 发布人文主义 AI 行为准则（Humanist AI Code of Conduct）草案，自 2026 年 9 月 14 日起开启六周公众咨询，为 MAI 前沿模型的训练与部署设定运营约束。
- 微软发布 Code of Conduct 草案，提出 Humanist Superintelligence 概念
微软发布 Code of Conduct 草案，引入 Humanist Superintelligence（HSI）一词。草案列出 21 项核心原则，包括人比 AI 更重要、AI 须处于有意义的人类控制之下、安全优先于任务完成、AI 不得追求独立目标、须保持政治中立、工具使用须授权且可逆等。来源引用了 Mustafa Suleyman 的相关文章链接。
- 微软发布 37 页人文主义 AI 行为准则：强调人比 AI 重要，拒绝无边界超级智能
微软发布一份 37 页的人文主义 AI 行为准则，提出人比 AI 更重要、模型不具备意识且不应模仿意识、模型必须从属于人类并接受有效监督。准则反对赋予 AI 法人资格或竞速开发绕过安全防护的通用超级智能，要求模型遇违反准则的任务直接判失败，并避免催生用户过度依赖或情感依附的交互模式。
- Microsoft AI 发布 MAI 模型行为准则草案 Humanist AI 征求公众意见
Mustafa Suleyman 宣布 Microsoft AI 发布治理 MAI 模型的行为准则草案，核心理念是 AI 必须服从并服务于人。
- 微软 CEO 纳德拉：支持 AI 审慎发展与独立审计，AI 行为准则明日公布
微软 CEO 纳德拉在 X 发文称，对超级智能的探索必须在核心原则约束下运行，AI 无法帮助或受控于人类就不值得发展。他表示微软欢迎真正的 AI 对齐研究与“独立审计”理念，并让企业在 AI 技术栈各层拥有选择、掌控自身学习闭环和模型。支撑自研 MAI 模型的《行为准则》将于明日公布并面向公众征求意见。
- 纳德拉谈超级智能与MAI模型行为准则
Satya Nadella 表示，追求超级智能必须以造福人类并处于人类控制之下为前提，同时需加速AI红利在各国、社区和企业间广泛扩散，这需要闭源与开源模型共同繁荣的前沿生态。他强调企业应保留对自身隐性知识的完全控制，能构建自己的持续学习闭环而不依赖单一模型供应商。其第一方MAI模型的“行为准则”将于明天公开发布以征询公众意见。