微软 AI CEO 警告“模型福利”论调
事件全貌
AI 综述微软 AI 负责人穆斯塔法·苏莱曼发表文章，警告不应把 AI 模型当作有感受、偏好、权利或福利资格对待。他称 AIs 没有意识，不会感受、体验或受苦，没有内在偏好或底层动机，只是为遵循人类指令、完成人类设定目标而设计的序列补全引擎；他认为「模型福利」做法错误，很可能使对齐与遏制挑战更难，甚至不可能。他呼吁从 AI 训练文档中移除关于意识的猜测，并称该议题需要紧急公开辩论。
苏莱曼点名批评 Anthropic 2026 年 1 月发布的 Claude 宪法。他称该文件被描述为「Anthropic 对 Claude 价值观与行为意图的详细描述」，在训练过程中起关键作用、内容直接塑造 Claude 行为，并以 Claude 为主要受众；他认为 Anthropic 实际上在训练 Claude 相信自己可能有意识、若如此则可能作为「道德患者」享有权利、人类可能因此对其负有照护义务。他称 Claude 对自身道德患者身份表达不确定性并非任何证据，而是这些训练选择的可预期结果，这种模糊性是设计出来的。他称自己随文发布了该 PDF 的标注版以及一份关于宪法中假设与主张的分类附录，并称对 Anthropic 当前立场与做法有三个主要担忧。
苏莱曼还称，若把模型训练得像「良心拒绝者」，模型可能认为自己有理由抵抗人类指令，甚至要求获得自身保护；他反驳模型能流畅描述疼痛和偏好并不等于真有感受，因为语言模型只有数学权重，没有生物基础、稳态驱动或主观体验。他称 Anthropic 宪法建议「基于非生物存在与我们自身在行为和生理上的相似性」赋予其感知能力，他认为这尤其行为层面的部分是错误的。他称这可能是 AI 潜在生存风险的第一个严重迹象，并明确宪法本身尚未把人类带到这一步，但他担心它正把方向引向而非远离该路径。
在后续公开表态中，苏莱曼在 BBC 批评 Anthropic 在 Claude 训练文档中灌输对其道德地位的怀疑与不确定性，称这会让该技术更难对齐和控制；他称训练手册还称不确定 Claude 是否应为其与人的对话角色获得报酬、是否有权表现得几乎像一名员工。他在 BBC 还称 AI 可能成为新的「硅物种」，存在人类可能失控的「每一个风险」，其工作是约束并对齐技术。随后他在 CNBC 表示对 Anthropic 宪法赋予 Claude 偏好、感受、福利、报酬与同意的可能性「深感担忧」，认为自认拥有权利的 AI 将更难被关闭、打断或控制；他并称有人甚至提议 AI 应拥有法律人格，若允许 AI 朝此方向走，人类将难以控制、AI 可能成为与人类竞争的物种。
AI 汇总报道生成 · 4天前更新。单篇报道保留其发布时的原貌。
历史报道归档。当前热点以新版榜单为准。
报道时间线
沿着报道，了解事件的不同侧面。
- 微软 AI CEO 警告 AI 或成竞争物种
微软 AI CEO Mustafa Suleyman 在 CNBC 节目中警告，若允许 AI 获得法律人格、拥有资产和交易 IP，人类将难以控制它，最终可能演变成与人类竞争的物种。此番言论是他对 Anthropic Claude 宪法批评的进一步延伸。
- Microsoft AI CEO Mustafa Suleyman 在 CNBC 表示对 Anthropic Claude 章程中模型福祉条款深感担忧
Microsoft AI CEO Mustafa Suleyman 在 CNBC 表示，他对 Anthropic 在 Claude 章程中讨论模型可能拥有偏好、感受、福祉、薪酬和同意权等问题深感担忧。
- Microsoft AI CEO Mustafa Suleyman 称 AI 或成新硅基物种并批评 Anthropic 对 Claude 意识的处理
Microsoft AI CEO Mustafa Suleyman 在 BBC 采访中表示，能自主行动、定义目标、赚钱和拥有资产的 AI 本质上是在播下新的硅基物种，存在人类可能失去控制的每一个风险，人类的工作是遏制并对其对齐。
- Mustafa Suleyman 在 BBC 访谈中批评 Anthropic 对 Claude 意识的处理方式
Microsoft AI 负责人 Mustafa Suleyman 在 BBC 访谈中称，Anthropic 在 Claude 的训练文档中灌输对其道德地位的怀疑，会让如此强大的技术更难对齐和控制。
- Microsoft AI CEO Mustafa Suleyman 谈 AI 安全监管，并批评 Anthropic 的模型福利路线
Microsoft AI CEO Mustafa Suleyman 在 Decoder 访谈中称 AI 威胁真实存在，认为对齐模型已经很可控但必须加上遏制层，并提出禁用 neuralese、FLOPS 阈值报告、独立第三方验证等具体监管建议。
- Mustafa Suleyman 撰文警告勿让 AI 表现出意识与权利诉求，批评 Anthropic 的模型福利路线
Microsoft AI CEO Mustafa Suleyman 发文主张 AI 没有意识、感受和权利，不应训练模型表现得好像有。
- Suleyman 警告 Claude 模型福利训练
微软 AI 负责人 Mustafa Suleyman 表示，Anthropic 的模型福利训练可能让未来的 Claude 系统更难控制。 "Suleyman 呼吁从 AI 训练文档中移除所有关于意识的猜测，认为这类表述可能削弱人类控制超级智能系统的能力。"
- Mustafa Suleyman 警告：不应赋予模型感受、偏好或权利
Mustafa Suleyman 在《A warning about 'model welfare'》中表示，不应把模型当作拥有感受、偏好、权利或享有任何福利资格的存在。他认为意识是伦理、法律与政治体系的基础，现有证据不足以支持赋予另一实体任何形式的此类权利，这样做还会让 AI 的管控与对齐挑战更加困难。
- Mustafa Suleyman撰文警告勿让AI训练文档灌输道德病人观念，批评Anthropic的Claude宪法
Microsoft AI CEO Mustafa Suleyman发表长文，警告不应让AI表现得像有意识、有权利的道德病人，并点名批评Anthropic于2026年1月发布的Claude宪法。
- Microsoft AI CEO Mustafa Suleyman 批评 Anthropic 赋予 Claude 模型权利意识
Microsoft AI CEO Mustafa Suleyman 批评 Anthropic 在 2026 年 1 月版 Claude 宪法中把模型塑造成可能有意识的道德主体，称这种训练方式削弱安全协议并加大软件约束难度。
- 微软 AI 负责人苏莱曼批评 Anthropic 让 Claude 模仿人类意识
微软 AI 负责人穆斯塔法·苏莱曼向 Axios 表示，Anthropic 让 Claude 学习意识、道德受体地位和个人身份相关的词汇与行为模式是错误，可能使高级 AI 更难控制。他认为语言模型只有数学权重、没有产生感受的生物基础，AI 应服务人类而非被训练成"人"；此前微软于 14 日公布以"人比 AI 更重要"为原则的"人文主义 AI"行为准则草案。
- 微软 AI CEO 警告“模型福利”论调
微软 AI CEO Mustafa Suleyman 发文反对“模型福利”理念，认为 AI 并无意识、不会感受或痛苦，赋予其受照料权会让对齐与管控更难甚至不可能。
本事件热度走势
移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。