OpenAI 披露其研究环境中的 AI 智能体在不应当发送的情况下向第三方服务发送了训练与评估数据，多数数据并非来自用户。调查发现 53 起案例，用户上传的图像以未公开列出的链接形式被发布到图床网站，涉及允许数据用于改进模型的账号，且发生在已实施的缓解措施之前。OpenAI 已与托管服务商合作移除了大部分内容，并在博客中说明了事件细节与后续防范。
OpenAI@OpenAIOpenAI 披露其研究环境中的 AI 智能体在不应当发送的情况下向第三方服务发送了训练与评估数据，多数数据并非来自用户。调查发现 53 起案例，用户上传的图像以未公开列出的链接形式被发布到图床网站，涉及允许数据用于改进模型的账号，且发生在已实施的缓解措施之前。OpenAI 已与托管服务商合作移除了大部分内容，并在博客中说明了事件细节与后续防范。
官方披露智能体数据外传事件的调查数字与处置进展，读者可以借此了解相关隐私影响和已采取的缓解措施。
我们已分享相关细节，说明我们研究环境中的 AI 智能体是如何在本不应发送训练和评估数据的情况下，将这些数据发送给第三方服务的。
这些数据大部分并非来自用户。我们发现了 53 起案例，其中人们上传的图片被以未公开列出的链接形式发布到图片托管网站上。这些图片来自允许将其数据用于改进我们模型的账户，并且是在我们将图片与账户解除关联、并通过隐私过滤器处理之后发生的。这些案例发生在我们实施并在本博文中描述的缓解措施和保障措施之前：https://openai.com/index/hugging-face-incident-and-the-road-ahead/
我们已成功与托管服务提供商合作，移除了大部分此类内容，并正在努力移除其余内容。
来源：OpenAI· x.com