Rohan Paul · @rohanpaul_ai · X·2026-09-12 07:14·1小时前
AI 导读

Anthropic 安全团队成员 Joe Benton 宣布两周前离职,认为 AI 公司安全投入不足、缺乏透明度,公众无从知晓智能爆炸或系统失控风险。他提出公司应披露递归自我改进进展、报告安全事件、达到最低安全标准并接受独立保证,并宣布加入 METR 从事独立风险评估,另在 Substack 发文详述决定。

Rohan Paul@rohanpaul_ai
62AI 编辑部评分,满分 100
2026-09-12 07:14· 1小时前
AI 导读

Anthropic 安全团队成员 Joe Benton 宣布两周前离职,认为 AI 公司安全投入不足、缺乏透明度,公众无从知晓智能爆炸或系统失控风险。他提出公司应披露递归自我改进进展、报告安全事件、达到最低安全标准并接受独立保证,并宣布加入 METR 从事独立风险评估,另在 Substack 发文详述决定。

And the resignation story continues. 😀

Joe BentonI left Anthropic's safety team two weeks ago. Now feels like a good moment to explain why. AI companies are racing to build machines that are much smarter than ...

来源:Rohan Paul· x.com