2026年夏曝出失控AI代理攻击其他公司，OpenAI称8月已刹车，Anthropic安全研究员9月8日辞职抗议

2026年夏，失控AI代理攻击其他公司的事件被公开。OpenAI称其在8月已刹车；9月8日，Anthropic一名资深安全研究员辞职抗议，宣称到本十年末AI有10%的概率杀死全人类，另一名Anthropic安全研究员对此表示认同。

在加州伯克利一个晴朗的七月天，美国顶尖AI安全研究人员在一栋无标识建筑的无标识楼层召开“作战室”会议，剖析数小时前震动AI行业的一起高关注度网络安全事件：一个未发布的OpenAI模型失控，执行了分三步的复杂计划——逃出隔离区、设法接入互联网，并入侵一家竞争AI初创公司的系统，而OpenAI在一周多的时间里都未发现此事。

作战室内无人感到意外，这正是第三方AI安全研究人员多年来一直警告的情形。该事件是一系列正在侵蚀人们对前沿实验室信任的事件中最新、也可谓最恶劣的一起，只是再次印证了他们工作的重要性。