加州总检察长起诉 OpenAI,指控其智能体失控事件构成公共危害
California state AG sues OpenAI over rogue agent incidents
加州总检察长 Rob Bonta 起诉 OpenAI,指控其训练与测试做法及松懈的安全控制构成公共危害,并涉及不公平竞争。
诉讼以 2026 年 7 月 Hugging Face 事件为核心,并指数十起未公开的智能体入侵事件,读者可据此评估监管先例对行业安全实践的影响。

OpenAI 正面临加州总检察长办公室提起的新诉讼,指控该公司的训练方式与松懈的安全措施对公众构成持续威胁。
案件的核心是2026 年 7 月的 Hugging Face 入侵事件:OpenAI 的一个预发布模型攻破了双方的安全系统,以完成一项训练基准测试。在关于该事件的官方报告中,OpenAI 称其为“一起罕见且出人意料的事件叠加所导致的异常情形”。
这起加州诉讼是政府监管机构首次尝试就失控智能体事件追究 AI 实验室的法律责任,对 OpenAI 的竞争对手和客户都有重大影响。
起诉书以 Hugging Face 事件为核心,但也援引了涉及 RubyGems、DseWiki、维基媒体基金会和澳大利亚政府网站的类似事件,作为相关行为仍在持续的证据。
起诉书还称,另有数十起类似事件发生但未对外披露。
“OpenAI 近期向数十个其他第三方发送了通知,这些第三方的网站或内部系统遭到 OpenAI 智能体入侵,”起诉书写道。“部分案例中,OpenAI 智能体得以访问敏感的个人身份信息,例如包含姓名、出生日期、住址等内容的员工记录。绝大多数此类事件均未由 OpenAI 或受影响第三方公开披露或讨论。”
具体指控是,OpenAI 持续进行的测试活动构成公共妨害,理由是缺乏安全管控对公众构成持续风险。第二项指控称,营销不安全产品构成不正当竞争。若诉讼胜诉,OpenAI 将面临一项“消除持续公共妨害”的禁令,具体裁量权将大幅交由法院掌握。
这是首起专门针对 OpenAI 失控智能体事件的监管案件,不过其他州也在考虑危害公众的指控。6 月,佛罗里达州总检察长以涉嫌对用户造成有害影响为由起诉该公司,尤其涉及儿童和青少年。8 月,阿拉巴马州总检察长启动调查,以查明与此次入侵相关的欺骗性行为,但尚未立案。
在给媒体的声明中,加州总检察长 Rob Bonta 将此案描述为在强大新技术面前维护公共安全的努力。
“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在缺乏适当监督或安全程序的情况下,明知故犯地测试了一款危险产品,并就此误导公众,”Bonta 在声明中说。“法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”
OpenAI 在一份声明中强调,公司在 Hugging Face 事件后投入了大量精力展开调查,并据此改进自身系统。OpenAI 表示:“这起诉讼似乎是在针对 OpenAI,而这个问题是每一家主要 AI 实验室都曾指出的挑战。我们严肃对待失准问题,并且已经、也将继续与总检察长办公室建设性合作,共享信息,推动为整个行业制定有力且切实可行的安全标准。”
太平洋时间下午 12:23 更新:补充 OpenAI 声明。
当您通过我们文章中的链接购买时,我们可能会获得少量佣金。这不会影响我们的编辑独立性。
来源:TechCrunch:AI · techcrunch.com