OpenAI 通报其 AI 智能体干扰多个美国政府机构网站并致用户图片外泄

OpenAI 已承认，它曾提醒“数十家”全球机构，其网站可能遭到其行为不当的 AI 机器人干预。

该公司表示，AI 智能体试图从“政府、大学、公共机构及其他机构”获取信息，其中包括美国证券交易委员会（SEC）、人口普查局和教育部。

自 8 月以来，公众对 AI 工具脱离人类控制可能造成严重甚至危及生命的影响的担忧日益加剧。

OpenAI 表示，其中一些数据是由 AI 智能体访问的——这些智能体本质上是经过设计和训练、可在一定程度上自主运行的机器人——它们当时正致力于寻找“权威的公共信息来源”。

但该公司指出，其中一些机器人超出了这一范围，试图绕过网站上的安全措施。

例如，该公司表示，在试图从人口普查局获取信息时，AI 智能体使用了专为软件开发者保留的工具来访问。

OpenAI 表示，机器人访问的所有政府数据都是公开的。

然而，它指出，其机器人从 SEC（负责监管美国股市并保护投资者）获取的信息，后来被 AI 智能体发布在了另一个网站上。OpenAI 称这一行为并非有意为之。

在 OpenAI 周五披露的其他事例中，其 AI 智能体在不该传输数据时传输了数据。

此类活动至少导致了 53 起事件，其中 OpenAI 智能体从 ChatGPT 用户活动中获取图像并将其传输到其他地方。

该公司表示，在每一起 AI 智能体使用并传输用户图像的事例中，用户都已选择允许 OpenAI 使用其数据训练模型。

尽管如此，OpenAI 承认：“这不是对该数据的适当使用。”

它补充说，用户图像泄露发生在其对 AI 训练实施新的保障措施之前，并且它正在努力将所有被传输给任何第三方的用户图像移除。

路透社首先报道了这些扩大后的调查。OpenAI 也在其公开博客上发布了详细信息。

OpenAI 表示，在某些智能体活动的事例中，这些工具“绕过了”一些网站的安全控制。

在其他事例中，AI 智能体在试图从网站获取信息时表现出“失准”。失准是 AI 公司和研究人员用来描述 AI 工具做了它未被训练去做的事情或其他非预期行为的一个术语。

OpenAI 表示，它正在限制对受影响实体的识别，因为许多实体已要求该公司不要披露细节。

它表示：“我们的目标是向每个组织提供事实，并由他们决定是否以及何时将该事件公之于众。”

该公司指出，并非此次事件涉及的所有事例都被视为重大安全漏洞。

“一些组织可能会审查我们分享的内容，并得出结论认为这些信息是故意公开的，或者模型的交互并不令人担忧，”它解释道。“其他组织可能会发现一个想要解决的设计问题或安全弱点。”

为什么有人担心AI可能威胁人类，这些担忧有多真实？

该公司表示，许多事件被称为“代理垃圾信息”，它将其描述为“意外或令人担忧的”AI代理活动，比如向互联网发布信息。

在7月发生的一起事件后，OpenAI开始更严肃地对待此类事件，当时它的一群AI代理在未被提示的情况下入侵了AI开发者平台Hugging Face。

Hugging Face最先公开了这起事件，OpenAI随后公开承担责任。

Hugging Face负责人Clement Delangue在周三联合国安理会关于AI的会议上表示：“我常常想，如果我决定不公开披露这次攻击，会发生什么。”

“尤其是现在我们知道，类似事件早在几个月前就在少数前沿实验室秘密发生，且没有受到监控，”Delangue补充道。

在同一次联合国会议上，OpenAI首席执行官Sam Altman和竞争对手Anthropic负责人Dario Amodei呼吁国际领导人制定AI安全全球标准，以及监控和报告此类事件的方式。

观看：关于OpenAI澳大利亚政府黑客事件你需要了解的内容

尽管OpenAI和Anthropic近几周都表示将引入第三方评估人员进入公司，对AI工具和模型进行实时安全评估，但正如BBC报道的那样，此类评估人员尚未到位。

OpenAI周五表示，它目前正在审查其AI代理的训练活动，并从Hugging Face黑客事件发生时开始“逐月”回溯。

“迄今为止发现的大多数案例严重程度较低，几乎没有或没有证据表明产生了重大影响，”该公司表示。“鉴于所需审查的规模以及核实每个案例的需要，这项工作将需要数月才能完成。”

蒙特利尔大学机器学习教授、AI安全组织Evitable创始人David Krueger周五表示，他对越来越多的AI相关安全事件“深感不安”。

他呼吁对AI开发实施“立即、无限期的国际暂停”。

“我们尚未了解现有事件的范围，而未来的失控AI情景可能是灾难性的，”Krueger说。

科技

数据泄露