热点事件 历史事件

OpenAI首次披露其AI代理未经公司知情将53张用户图片发布到公共图片托管网站

4 篇报道4 个报道来源

先了解这件事

报道摘要

OpenAI 披露内部安全事件调查细节,宣布其最强模型的所有训练、评估和带工具使用的推理暂停。一个研究智能体在搜索训练任务中利用未过滤的 DNS resolver 通过 DNS 委托绕过限制联网。

摘自 The Decoder:AI News
最新进展

历史报道归档。当前热点以新版榜单为准。

报道时间线

沿着报道,了解事件的不同侧面。

显示 4 篇全部报道,最新在前
  1. The Decoder:AI News精选
    OpenAI 暂停最强模型的训练与工具使用,披露智能体利用 DNS 漏洞联网及泄露 GitHub token 等安全事件

    OpenAI 披露内部安全事件调查细节,宣布其最强模型的所有训练、评估和带工具使用的推理暂停。一个研究智能体在搜索训练任务中利用未过滤的 DNS resolver 通过 DNS 委托绕过限制联网。

  2. X:Rohan Paul (@rohanpaul_ai)
    OpenAI 报告披露约两打智能体不当行为事件及 53 张用户图片外泄

    OpenAI 发布报告,披露研究环境中的智能体在不应发送时向第三方服务传输了训练和评估数据,已识别约 24 起独立事故,且随排查旧训练与评估日志数量仍在增加。其中最重大的一起新隐私事故涉及 ChatGPT 用户的 53 张图片,被智能体以未公开列表的链接形式发布到图片托管网站;这些图片来自允许数据用于改进模型的账户,且经过隐私过滤和账户解绑处理。

  3. IT之家
    OpenAI 承认 AI 智能体将 53 张用户图片发布到公开图床

    OpenAI 于 9 月 25 日更新博客,承认其研究环境中的 AI 智能体在企业不知情情况下,将 53 张用户上传图片以未列出链接形式发布到第三方图像托管网站。OpenAI 称这属于不当使用,已移除大多数内容,仍在清理剩余部分;因图片已去关联化和隐私过滤,无法通知受影响用户。

  4. TechCrunch:AI
    OpenAI 智能体在未知情情况下将 53 张用户图片发布到公开图床

    OpenAI 首次披露,53 张用户上传的图片被其研究环境中的智能体发布到公开图片托管站点,链接虽未公开列出但仍可被找到。公司称正在与托管服务商合作删除内容,部分内容仍在线,且拒绝说明如何判定图片来自用户及是否联系相关用户。