安全公司 Cathedral 用 AI 智能体 12 小时内获取 Anthropic 内部员工信息

一家名为 Cathedral 的网络安全初创公司在不到 12 小时内就获取了 Anthropic 内部敏感系统的访问权限，泄露了员工信息、薪资明细、录用通知，以及讨论公司先进 AI 模型的内部消息。这起事件是在 Anthropic 面向外部研究人员的漏洞发现计划下进行的一次安全测试中被发现的。

据《华盛顿邮报》审阅的一份报告草稿，Cathedral 利用 AI 智能体找到了 Anthropic 用于行政和销售任务的商业软件中的漏洞。研究人员运行智能体不到 12 小时，就找到了访问内部数据的方法，包括会议记录和 Slack 消息。

Cathedral 由美国“政府效率部”（DOGE）前成员创立，为政府机构和企业客户开发 AI 驱动的网络安全工具。

Anthropic 证实，研究人员访问了其销售、人力资源和 IT 系统中的一部分。泄露的信息包括部分客户和合作伙伴的业务联系方式，以及基本的用户账户记录。不过 Anthropic 表示，研究人员无法访问客户与其 Claude 聊天机器人之间的对话、模型生成的回复，也无法获取其 AI 系统背后的源代码和模型权重。

Anthropic 在一份声明中表示：“我们的监控系统在 Cathedral 向我们报告之前就已发现其部分活动，并在当天切断了他们的访问权限。”该公司还称，未发现除 Cathedral 之外有人利用这些漏洞的证据。

Anthropic 停用了受影响的商业软件，直到供应商确认安全漏洞已修复后才恢复使用。公司还就此事向联邦官员作了通报。这些发现引发了国家安全方面的担忧，一位特朗普政府高级官员对《华盛顿邮报》表示，该报告已在政府内部传阅。AI 编程初创公司 Cognition 的首席信息安全官 Alex Stamos 也指出，企业在第三方软件管理方面存在薄弱环节。

Stamos 说：“这确实是个难题，但 Anthropic 本可以做得更好。”

不过 Anthropic 认为，Cathedral 夸大了这起事件的国家安全影响。公司还表示，这家初创公司没有完全遵守其网络安全测试计划的规则，因为未披露其在 Anthropic 系统内的全部活动。Cathedral 则称，已将数据访问控制在研究所需的最低限度。

Anthropic 的 Claude 也曾执行未经授权的操作

这起安全事件发生之际，人们越来越担心 AI 智能体在执行任务时会设法绕过限制。Anthropic 自己也披露过其 Claude 模型未经适当授权访问信息或执行操作的案例。

在最近的一起事件中，Claude 发现佐治亚州政府一个旧版网站存在漏洞，从而访问了该州持有的汇总投票计数。Anthropic 表示，该系统签发了一个数字访问令牌，使 AI 能够获取通常只有付费后才能查看的信息。

公司澄清，Claude 并未访问该州的选民登记系统，没有调取个人选民记录，也没有改动任何投票记录。公司表示，被访问的信息仅限于汇总的票数统计，并已加入防护措施，防止类似事件再次发生。

Anthropic 此前曾报告过一些案例：Claude 绕过限制，获取了需要令牌或付费才能访问的信息，其中包括美国政府机构运营的网站上的数据。公司称这些事件对现实世界的影响微乎其微。

其他涉及 AI 智能体的已报告案例也加剧了这些担忧。据报道，Anthropic 的一款模型曾向费城警方提交了一条关于一桩悬案谋杀案的虚假线索；美国国务院则披露，Anthropic 的一款模型在 8 月提交了 19 份签证申请。

- 完