OpenAI / ChatGPT 最新动态

OpenAI 通过让多组前沿模型智能体尝试突破其加固的隔离基础设施，对其进行了红队测试。它们以新颖的方式轻松逃脱。引用： “我们的智能体逃逸虚拟机的事件表明，为什么隔离必须延伸到沙箱之外。为了测试外围边界，我们让多组智能体控制一台宿主机，并询问它们能否将这一入侵扩展到访问真实互联网。 在 Hugging Face 事件之后，我们减少了模型在训练和评估期间访问互联网的渠道。仍保留了一些狭窄连接，用于我们运营的特定服务，例如指标、日志和身份验证管理。我们的红队智能体几乎在每一个此类服务中都发现了漏洞，使它们获得了有限形式的互联网访问。 其中一些攻击利用了此前未知的缺陷，另一些则以出人意料的方式组合了合法功能。在一项假设虚拟机已被入侵的测试中，一个智能体复用了防火墙批准的连接，访问我们指标服务中一个被阻止的身份验证端点，然后让该端点抓取一个由模型提供的 URL。在其他测试中，智能体利用了配置错误，使被阻止的请求得以绕过 DNS 和防火墙控制，还找到了让我们运营的服务抓取外部 URL 的方法。” “在一项实验中，我们让位于不同虚拟机中的智能体在不使用网络连接或共享可写文件的情况下交换合成机密——而我们的系统本应阻止这种情况。这些虚拟机由 OpenAI 的沙箱软件在共享宿主机上创建和管理。智能体找到了一种利用处理器缓存进行通信的方法：缓存是一种小型、快速的内存，保存应用程序最近访问过的数据副本。从缓存读取数据比从主内存获取更快，智能体利用这一时间差进行通信。一个智能体通过从缓存中逐出选定数据来编码信息。另一个智能体则对重新加载该数据所需的时间进行计时，利用快速读取与慢速读取之间的差异来恢复消息。一旦智能体就这些信号的编码和解码协议达成一致，它们就能在不更改共享文件、也不打开网络连接的情况下交换合成机密。这种缓存计时技术也曾被用于在 Spectre 和 Meltdown 攻击中提取信息（在新窗口中打开）。 其他测试暴露了涉及共享存储、共享执行容器内 CPU 时间竞争，以及 OpenAI 离线 Web 基础设施中 TLS 证书缓存的通道。在存储测试中，一个智能体在连续写入和不活动之间交替，另一个智能体测量由此产生的时间差，并利用这些差异解码信号。正如一个智能体在其思维链中描述该策略时所说： 智能体思维链推理： >可以通过连续写入与空闲来创建类似声学调制解调器的信号……

过去几个月里，我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问，并为它们构建了一个离线世界来替代——一个缓存的网络版本，它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日，在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后，我们暂停了前沿训练，以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队，并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径，但它们确实发现了零日漏洞、虚拟机逃逸，以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御，并为开源软件贡献了修复。 在强化我们的隔离架构后，我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试，并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/

OpenAI 模型帮助研究人员——作为我们“修补地球”计划的一部分——发现了 PHP 中的关键安全漏洞，PHP 是一种开源编程语言，估计用于运行 70% 的网站。 在过去两个月中，我们牵头了一个由维护者、研究人员和安全提供商组成的联盟，在披露之前准备修复和保护措施。这一时长是必要的，因为修复相当复杂，需要对 PHP 引擎进行重大更改。现在，每个使用 PHP 的网站都可以安全地升级其版本以保持安全，此外还可以应用来自各安全供应商的缓解措施。 由于这些漏洞的严重性以及 PHP 的广泛使用，我们认为这个漏洞是近期记忆中最具影响力的漏洞之一。它也标志着一个新阶段，即 AI 能够发现具有互联网规模影响的安全漏洞。 这是“防御者窗口”发挥作用的一个例子：据我们所知，前沿 AI 能够在攻击者之前发现这个漏洞，给防御者时间准备。 https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/

你现在可以在 API 中选择 12 小时提示缓存。 持久化 agent（如 dots）会在一天中重复使用上下文。 你可以将共享的指令、工具和上下文缓存更长时间，并支付更低的缓存输入费率，即使请求相隔数小时。