Anthropic CEO Amodei此前提出含第三方评估与国际协议的三步放缓AI发展计划

作者声称前沿 AI 实验室高管通过向国会渲染失控智能和人类灭绝的恐慌叙事，谋求监管垄断、反垄断豁免，并借强制减速和许可制度扼杀开源竞争；文章指出这一游说的结果仍存争议，行政部门的去监管力量正在抵制这种被作者称为'制造的恐慌'。

原文称 Kirsten Korosec、Sean O’Kane 与 Anthony Ha 在 Equity 播客讨论 Amodei、Altman 等高管是否认真希望减速；Sean 称 Amodei 的博客计划缺乏细节，认为这些公司结构不支持减速；Anthony 对行业迅速形成共识持怀疑；Kirsten 称相关建议包括第三方评估者进驻 Anthropic、OpenAI 等公司以及民主国家主要 AI 公司协调安全标准等，但细节模糊。

作者称，Nvidia的Jensen Huang在CBS Sunday Morning采访中表示AI终结世界的概率为“0%”；他对警告AI危险的人称吓唬人是不必要且不负责任的，并称Anthropic的Dario Amodei和OpenAI的Sam Altman等CEO呼吁放缓AI开发“不基于科学”，还主张不需要新规则、法律或指南。作者还评论，其反对监管与自身财富增长及AI行业不受约束扩张的利益有关。

原文称，Anthropic 首席执行官达里奥·阿莫代伊当地时间周六呼吁各家 AI 企业放缓前沿模型的开发节奏，同时向独立评估人员开放更大程度的系统访问权限。

材料回顾：上周末Anthropic CEO Dario Amodei提出三步计划以放缓AI发展，包括在实验室嵌入第三方评估者、国内行业协调及可能在政府协助下达成国际协议。Anthropic对本文拒绝置评。

Anthropic CEO达里奥·阿莫代伊于9月12日发表文章《我们必须控制前沿》，呼吁对前沿AI模型的开发进行协调管控、放缓节奏。

在一名Anthropic研究员发出末日警告一周后，公司CEO Dario Amodei概述了“pace the frontier”计划，该方案依赖独立安全评估者和民主国家AI实验室间的协调，已获得部分业界支持，但也受到Nvidia的Jensen Huang的尖锐反对。

在一名Anthropic研究员的世界末日警告引发震动一周后，CEO Dario Amodei概述了“pace the frontier”计划，倚重独立安全评估者和民主国家AI实验室间的协调；该提案已获得部分业界支持，同时遭到Nvidia的Jensen Huang的尖锐反对。TechCrunch Equity播客讨论企业能否就“减速”的含义及由谁监管达成一致。

Anthropic CEO Dario Amodei在Pachocki警告后不久呼吁刻意放缓开发速度。

Anthropic表示计划让来自多个机构的独立第三方评估者入驻，访问与内部风险评估团队相当的内部流程、系统和数据，以验证安全实践、报告事故并监测关键指标。该计划尚在筹备中。

Meta CEO扎克伯格本周在X上就AI安全辩论表态，称信任与对齐正成为区分代理和模型的最重要能力，并透露Meta出于安全考虑将AI模型Muse的发布推迟数月；他部分认可Amodei的计划，但暗示政府干预并非必要。

原文称，在失控AI代理成为现实且研究人员警告AI可能杀死所有人后，Anthropic、OpenAI、Google、Microsoft和X等主要AI公司领导人至少口头支持超级智能放缓。