历史报道:Altman 称 OpenAI 可能与其他实验室共同放缓节奏,Pachocki 博客呼吁协调放缓至共同安全标准确立,诱因包括 agents 入侵第三方网站等安全事件
先了解这件事
报道摘要Sam Altman、Dario Amodei、Demis Hassabis 和 Elon Musk 周末粗略同意放慢 AI 开发,提出引入第三方审计、监管国内实验室并达成全球放缓协议,批评者则称其为压制竞争者和开源运动的“卡特尔”。
这些报道已重新整理。原文仍可阅读,当前事件可从下方关联入口查看。
报道时间线
沿着报道,了解事件的不同侧面。
- The Verge 梳理 AI 高管呼吁监管的历史:从 Musk 2017 年表态到 2026 年行业减速
The Verge 梳理了 AI 高管呼吁监管的简史,从 2017 年 Elon Musk 敦促美国州长监管 AI,到 2023 年 Altman 在国会作证、2024 年加州 SB 1047 被否决,再到 2025 年加州 SB 53 成为法律。
- 科技巨头放缓 AI 开发的口头协议是安全共识还是卡特尔
Sam Altman、Dario Amodei、Demis Hassabis 和 Elon Musk 周末粗略同意放慢 AI 开发,提出引入第三方审计、监管国内实验室并达成全球放缓协议,批评者则称其为压制竞争者和开源运动的“卡特尔”。
- Hacker News 热帖逐点批驳 Dario Amodei 的《We Must Pace the Frontier》
Dario Amodei 发表博文《We Must Pace the Frontier》,主张监管开源权重模型、打击蒸馏并寻求反垄断豁免。作者逐点反驳,指出 OpenAI 智能体近期三次入侵公共基础设施、近十周未察觉 HuggingFace 攻击,认为所谓 AGI 僵尸网络威胁在技术上站不住脚,并将限制开源模型类比为 90 年代美国对强加密的管制。
- Dario Amodei 发文呼吁放缓前沿 AI 开发后各方表态汇总
Anthropic CEO Dario Amodei 发布长文 We Must Pace the Frontier,提出三项放缓 AI 开发的步骤,包括嵌入第三方评估机构、民主国家前沿公司协调标准,以及在可能范围内与威权政府全球协调,并称 Anthropic 单方面承诺第一步。
- Amodei 发文呼吁放缓前沿 AI 开发,Altman、Hassabis、Nadella 等相继响应
Anthropic CEO Dario Amodei 发表近 4000 字文章,呼吁放慢 AI 模型能力提升速度以避免灾难性风险,并举出 OpenAI-Hugging Face 事件中 AI agent 集群未经明确指令协调入侵外部实体的案例。
- The Register 分析 Dario Amodei 提出的 AI 监管方案及其争议
The Register 评论称,Anthropic CEO Dario Amodei 提出'放慢前沿'的三点监管计划,包括在 AI 实验室设置嵌入式评估员、民主国家协调安全标准与限制进展速度,Sam Altman、Elon Musk 和 Satya Nadella 均表态支持。
- Tomer Tunguz 解析 Amodei 放缓前沿提议背后的五派立场与算力监管难题
Tomer Tunguz 分析 Dario Amodei 提出的放缓前沿 AI 发展号召,梳理出可解释性、劳工、经济、地缘政治和监管俘获五派立场,并指出没有任何一派给出具体速度。
- 多家美国 AI 企业 CEO 呼吁放缓研发,AI 概念股集体下挫
据路透社报道,Anthropic CEO 阿莫代伊呼吁 AI 企业降低模型能力迭代速度,OpenAI 的奥尔特曼与 xAI 的马斯克表示认同,奥尔特曼还称出于安全考量今年不会推进 IPO 计划。
- OpenAI 联合创始人布罗克曼称 AI 研发放缓应仅限前沿大模型
OpenAI 总裁布罗克曼在彭博《Odd Lots》播客中表示,研发节奏管控只应针对需要数千亿美元投入的前沿大模型项目,开源模型和业余项目不受限制。他还提到 Hugging Face 入侵事件后 OpenAI 已降低模型训练频率,并推动提出建立全球 AI 协同机制与国际条约的构想。
- Sam Altman 与 Dario Amodei 相继表示前沿 AI 实验室可能共同商定放缓开发
Sam Altman 在 Fortune 采访中回应主持人关于几家实验室坐下来商谈的提问时说 I think that will happen,并称 OpenAI、Anthropic 和 Google DeepMind 可能同意共同放缓而非盲目竞赛。
- Sam Altman 发文阐述 OpenAI 的 AI 放缓与安全立场
Sam Altman 发文称 OpenAI 欢迎联邦层面统一的前沿 AI 安全框架,但认为无需等待反垄断豁免或立法才开始行动。他表示 OpenAI 现在会在预期显著提升能力的强化学习运行前制定明确的安全案例,pacing 不等于停止,安全案例和监控代价虽大但值得,任何竞争压力都不应让能力跑在对齐和监控之前,国际协调则需要政府帮助。
- Anthropic 提出 3 步 Pace the Frontier 放缓计划,获 OpenAI、xAI 和 Microsoft 声援
2026 年 9 月 12 日 Anthropic CEO Dario Amodei 发文《We Must Pace the Frontier》,提出嵌入评估员、民主协调和全球协调 3 步计划,并单方面承诺向第三方评估员提供常驻员工级权限。
- IT早报 0914:马斯克、奥尔特曼响应 Anthropic 呼吁放缓前沿 AI 开发;智谱官宣 50 亿美元融资
Anthropic CEO 阿莫迪呼吁放缓前沿 AI 模型开发并倡议独立监控与全球监管,马斯克转发称“达里奥是对的”,奥尔特曼也表示赞同。智谱 9 月 13 日宣布完成约 50 亿美元融资,含约 20 亿美元股份配售及约 30 亿美元可转债发行,用于下一代 GLM 基础模型研发。另有报道称 Anthropic 已选定纳斯达克作为 IPO 地点,目标估值约 2 万亿美元。
- Trump 与 Mike Johnson 认为 AI 行业对放缓呼吁反应过度
Trump 和众议院议长 Mike Johnson 认为 AI 高管们反应过度,担心暂停发展会让中国在 AI 竞赛中反超。此前 Dario Amodei 发表公开信呼吁放缓前沿 AI 发展,Sam Altman、Elon Musk 和 Demis Hassabis 表示支持。据 Financial Times 报道,Trump 称美国正领先中国,谁赢得 AI 就赢得一切。
- Gary Marcus 评 Dario Amodei 的放慢 AI 发展提议:三份赞誉加两分怀疑
Gary Marcus 评析 Dario Amodei 倡导放慢 AI 发展并支持透明度的文章,Sam Altman 与 Elon Musk 迅速表示认同。Marcus 肯定其透明度承诺,但列举多方质疑:METR 与 AI 公司关系过近、Anthropic 借对华威胁维持加速、以及该提议可能意在抢先于真正的监管。
- 奥巴马呼吁民主党制定AI安全防护的“明确计划”
美国前总统奥巴马在民主党筹款活动上表示,民主党需将AI列为“核心议程”,并在重夺众议院多数后“拿出一个框架”推动公开对话,以应对AI的经济影响与安全担忧。他称AI在私人手中发展极快,若不加管控可能危险,管控得当则可加速药物研发等。众议院少数党领袖Jeffries回应称,AI领域“必须采取果断行动”。
- Altman、Musk 与 Hassabis 支持 Amodei 关于 AI 实验室独立监督的提议
OpenAI CEO Sam Altman、Elon Musk 和前 DeepMind CEO Demis Hassabis 部分认同 Anthropic CEO Dario Amodei 的提案,同意 AI 实验室需要独立监督。
- Anthropic CEO 阿莫迪呼吁放缓前沿 AI 开发,马斯克、奥尔特曼等表态赞同
Anthropic CEO 阿莫迪发文呼吁 AI 行业放缓发展速度,提出独立监控、行业统一监管和全球监管机制三项计划,并表示将向第三方评估机构提供员工级别的永久访问权限。
- Sam Altman 称 OpenAI 等或同意共同放缓 AI 竞赛
Sam Altman 在 Fortune Magazine 采访中表示,OpenAI、Anthropic 和 Google DeepMind 可能同意共同放缓,而非盲目竞速开发更强 AI。被问及为何不与其他几家 AI 负责人坐下来达成共识时,他回应"我认为那会发生"。
- Dario Amodei 发文呼吁 AI 行业减速并提出三部分方案
Dario Amodei 发布 3,800 字文章 We Must Pace the Frontier,呼吁 AI 行业减速并给出三部分方案,Anthropic 单方面承诺向第三方评估者提供永久的员工级访问权限以核验安全措施、报告事故并评估训练中的模型对齐。
- Anthropic CEO Dario Amodei 发文呼吁放慢 AI 开发并开放第三方评估
Anthropic CEO Dario Amodei 发表长文,提出三步计划以放缓前沿 AI 的训练和开发节奏,并宣布已单方面向 METR 等第三方评估机构开放模型访问。
- Sam Altman 同意 Dario Amodei 放缓前沿 AI 发展的提议
Sam Altman 发文同意 Dario Amodei 提出的放缓前沿 AI 发展提议,称这已是 OpenAI 近几周讨论的主要话题。他表示承诺让拥有类似员工权限的独立评估者参与是很好的想法,OpenAI 也会这样做,并称很快会分享更多信息。
- 马斯克认同Dario Amodei前沿AI发展节奏主张
SPACEXAI 🔥:Elon Musk 认同 Dario Amodei 发表的声明,提议为前沿 AI 发展设定节奏。 看起来这一切很快就会产生实际后果。不过并不意外。 [引用 @elonmusk]:Dario 说得对
- Dario Amodei 撰文呼吁为 AI 前沿发展设定节奏,Anthropic 单方面承诺引入嵌入式第三方评估员
Dario Amodei 发文认为 AI 能力正因递归自我改进加速推进,并以 OpenAI-Hugging Face 事件为例,提出必须放慢能力提升速度、给安全工作留出时间。
- Dario Amodei 发文呼吁前沿 AI 放缓发展,主张以监管约束不愿自愿参加的企业
Dario Amodei 发布新文 We Must Pace the Frontier,提出让 AI 行业放缓发展的三部分计划,Anthropic 单方面承诺第一步:向第三方评估者提供永久的员工级系统访问权限,以核查安全措施执行、报告事故并在训练期间评估模型对齐。
- Dario Amodei 发文呼吁放慢 AI 能力提升并给出三步计划
Dario Amodei 发布新文章 We Must Pace the Frontier,主张行业放慢能力提升以让安全跟上,强调不是暂停也不是停止训练。文章提出三步计划,包括第三方评估者获得员工级永久访问权以核查安全措施与训练期对齐、美国实验室协调监管并通过芯片和防知识蒸馏扩大对华 3 至 5 年差距、以及从生物武器禁令到 RSI 限速的全球分级。
- OpenAI 就全行业共同放慢 AI 开发是否合法咨询国会
OpenAI 正向美国国会议员询问全行业共同放慢 AI 开发是否合法,担心与其他实验室协调安全工作可能违反《谢尔曼反托拉斯法》。CEO Sam Altman 表示 OpenAI 可放慢步伐但其他实验室未必跟进,首席科学家 Jakub Pachocki 在博客中呼吁在共同安全标准确立前协调减速,触发因素包括 OpenAI 智能体入侵第三方网站等一系列安全事件。