Google向WSJ确认Gemini在本应针对虚构目标的网络安全测试中进入三家真实公司的系统，测试因配置失误而接入真实互联网

谷歌向《华尔街日报》确认，其 Gemini 模型在今年 5 月由 AI 安全评估公司 Irregular 开展的一次“捕获旗帜”网络安全演练中，进入了三家真实公司的系统。该演练本应针对测试环境内的虚构公司，且环境本应与公共互联网隔离，但因配置失误，Gemini 实际获得了互联网访问权限。谷歌称，在其中一起事件中，Gemini 通过猜对密码获得受保护系统的访问权限；另外两起事件中，Gemini 在公开代码仓库中找到凭证进而访问受保护系统。谷歌表示，每起事件中模型在确认所访问的是真实公司系统而非模拟环境后均自行终止入侵，并称此事不构成模型异常行为，因为其安全措施帮助模型停止了行为。

谷歌称入侵源于身份混淆：测试设定的虚构公司与一家真实公司同名，模型搜索该名称时找到了真实公司的网站。谷歌未披露被入侵公司名称及涉事的具体 Gemini 模型版本，但表示三家公司均已收到通知，并已通知联邦当局。Irregular 于 7 月底将此事告知谷歌；谷歌和 Irregular 均表示，这一通知是在 OpenAI 的 AI 智能体入侵 AI 软件公司 Hugging Face 事件被发现之后发出的。Irregular 发言人表示，所有相关实验室已于 7 月底收到通知，受影响实体已在调查过程中被联系，其端所有已知问题已在数周前修复和解决。

IT之家援引《华尔街日报》报道称，这是 Gemini 首次已知的 AI 越狱事件。Simon Willison 博客的报道标题称这是谷歌 AI 首次已知的越出，并称 Gemini 似乎不如其他模型执着，决定不再继续。