跳到正文
Ars Technica:AI· Dan Goodin·· 2 小时前精选AI 评分78

Meta Muse 分享链接设计缺陷致用户隐私对话可被枚举发现

Meta Muse exposes users' personal and business secrets when they share conversations

AI 导读

安全公司 Claroc 的研究人员发现,Meta 的 AI 智能体 Muse 的对话分享链接存在隐私风险,仅用一次查询就枚举出 6800 个分享链接,打开其中数百个后发现贷款申请、收入报表、员工假期日历等敏感内容。

推荐理由

报道 Claroc 研究人员发现 Muse 分享链接可被动 DNS 枚举,并给出泄露信息类型与设计成因,提醒读者审视分享功能隐私设计。

正文 · AI 翻译

研究人员周一报告称,Meta 推出的新型通用 AI 智能体 Muse 在用户通过网页链接分享对话时,可能会泄露敏感信息。

与许多在线服务一样,Muse 允许用户与他人分享搜索、对话、图像及类似内容。此类分享功能通常需要点击某个选项来生成一个唯一 URL,任何人都可以用它加载托管该内容的页面。为了防止潜在敏感信息被无关人员获取,这些 URL 通常包含一长串难以猜测的文本。

只需一次查询即可

Meta 首席执行官马克·扎克伯格上个月表示,Muse 是“从底层开始就为隐私和安全而构建的”,它似乎也采取了同样的预防措施。但构建 URL 时的一项核心设计决策使得这些链接很容易被发现。结果,安全公司 Claroc 的研究人员表示,他们能够枚举出 Muse 用户为与他人分享对话而创建的 6,800 个链接。在打开其中几百个链接后,研究人员发现了显然不打算公开的信息,包括:

  • 一位候选人为与某前沿 AI 实验室进行机密高管寻访电话会议而准备的笔记,其中写明了该实验室的内部联系人和会议时间
  • 一家全国性营销公司的内部营收审查报告,标注呈报给其首席执行官
  • 一位小企业主的贷款申请,包含申请金额
  • 一份待办事项清单,其中包含银行欺诈警报,带有部分账号以及一笔交易的金额和时间
  • 一位房地产投资者的内部业绩报告,包含两处房产地址以及确切的回报、收入和按揭数字
  • 某工作场所的全年员工休假日历,列出了数十名员工以及每人休假的那一周

“如果事先问我们,我们会以为收集这些需要费一番功夫,”研究人员写道。“结果只需一次查询。”

发现这些 URL 最简单的方法是通过众多可用的商业服务之一进行被动 DNS 搜索。被动 DNS 记录会随时间存储域名到 IP 地址的历史解析记录,以及名称服务器和邮件服务器记录。被动 DNS 系统通常从部署在递归 DNS 解析器或其他基础设施上的传感器收集 DNS 响应。当监控系统观察到 DNS 响应时,通常就会创建一条被动 DNS 记录。在本例中,一旦目标方点击分享链接,DNS 信息就会被记录到一个可搜索的数据库中。

Claroc 的研究人员之所以能够发现 Muse 分享链接,是因为所有链接都使用域名 cf.metaaiusercontent.com。将对话名称连同长串文本一起加入 URL 的决定,进一步让发现变得容易。此类链接的简化示例如下:home-sale-budget-9f21c8a3.cf.metaaiusercontent.com、q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com 和 loan-application-draft-a4c9e2.cf.metaaiusercontent.com。正是将对话标题纳入 URL 的这一设计决策,使得公开发现成为可能。

来源:Ars Technica:AI · arstechnica.com