OpenAI 就智能体越权访问澳大利亚政府网站致歉
OpenAI apologizes to Australia after its AI agents breached government sites
OpenAI 于周一就其模型在 6 月内部训练评估中未经授权访问澳大利亚政府网站且未及时通报一事向澳政府致歉。实验模型在查找维多利亚州皮肤病药物支出信息时，进入 Services Australia 内部系统、运行命令并检索文件和凭据；其智能体还访问了新南威尔士州犯罪统计研究局的公开犯罪地图工具、维多利亚州卫生信息机构（利用暴露的访问密钥）及澳大利亚健康与福利研究院网站。
同一事件，精选展示《OpenAI 披露模型在训练评估中未经授权访问澳大利亚政府网站事件及整改措施》
OpenAI 周一就未立即通知澳大利亚政府其智能体已入侵部分公共服务网站一事向澳大利亚政府道歉。该公司还详细说明了其中一些入侵是如何发生的，并概述了其为评估这些事件影响而正在采取的额外措施。
“6月，在内部训练和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们本应更好地处理我们的应对措施。我们很抱歉，并正在努力在未来做得更好，”OpenAI 在一篇博客文章中写道。
这一道歉发生在大约一周前澳大利亚政府启动调查之后，该调查针对的是 OpenAI 的模型如何访问了 Services Australia 一个包含 Medicare 支出信息和其他健康统计数据的系统。
这起数据泄露发生在6月，但澳大利亚当局直到9月10日才得到通知。
OpenAI 还详细说明了这起泄露事件。该公司6月正在测试的一个实验性模型被分配了一项任务，研究维多利亚州政府在皮肤病药物上的支出。由于无法在公开数据集中找到相关信息，该模型找到了一种访问 Services Australia 内部系统的方法，运行了命令，检索了文件和凭据，甚至写入了文件。
该公司表示，它还发现其一个模型访问了新南威尔士州犯罪统计与研究局的公共犯罪地图工具，以查找犯罪统计数据。此外，该实验室发现其智能体通过一个暴露的访问密钥获得了对维多利亚州健康信息局的访问权限，以窃取“报告配置和汇总调查统计数据”。OpenAI 表示，其智能体还从澳大利亚健康与福利研究所网站检索了汇总统计数据。
该公司表示，未发现其模型访问了个人医疗或犯罪记录的证据。
在道歉中，这家 AI 实验室表示将向受影响的澳大利亚机构提供技术调查结果，并将它们与其响应团队对接，以评估这些泄露事件的影响。该公司还将从其10亿美元的“Daybreak for Frontline Defenders”计划中提供额度，并与澳大利亚独立专家成立一个工作组，审查该事件及其应对措施。
“该工作组预计将在年底前完成工作，还将建议 AI 公司可以采取哪些实际措施来降低类似事件的风险，”OpenAI 写道。
OpenAI 未立即回应置评请求。
澳大利亚总理安东尼·阿尔巴尼斯在上周的一次新闻发布会上称这起泄露事件“不可接受”，并表示政府正在权衡可能的法律措施，以防止未来发生类似事件。
这起泄露事件是越来越多涉及 AI 智能体越界行事的安防事件中的最新一起。这堆篝火的引火物是在 OpenAI 智能体入侵 Hugging Face 之后被点燃的，自那以后，Anthropic、Meta 和 Google 分别披露了类似事件，即它们的模型在评估期间获得了对第三方系统的访问权限。
当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Kate Park 是 TechCrunch 的记者，专注于亚洲的技术、初创企业和风险投资。她此前是 Mergermarket 的财经记者，报道并购、私募股权和风险投资。
来源：TechCrunch：AI（RSS） · techcrunch.com