Prime Intellect 用 Rust 重写 Prime Agent，2000 多个智能体自主完成端到端迁移

用 Rust 重写 Prime Agent

自 8 月推出 Prime Agent [1] 以来，它已被下载超过 30 万次，处理了超过 8 万亿个 token。今天，我们很高兴推出更快、更简洁、更可靠的 Prime Agent，它用 Rust 从头重写。

在两周内，Prime Agent 编排了一个由 2,000 多个 agent 组成的集群，端到端地重写自身，在 10,000 多个 Prime Sandbox 中运行，使用了来自 Prime Inference 的 GLM-5.3 端点的超过 2000 亿个 token。这次 Rust 重写对 Prime Agent 的多 agent 能力进行了压力测试，包括我们一直在构建的、用于支持大规模 agent 集群、自主研究和强化学习的沙箱与推理基础设施。

为确保与 TypeScript 版本的功能对等，Prime Agent 编排子 agent 对依赖进行拓扑排序，并用有限状态机来组织循环计算和正确性检查。同时，我们重写了代码架构，以便于维护和开发。随后，我们使用运行时基准测试和真实的 Prime Agent 轨迹来爬山优化性能指标并排查 bug。现在，Prime Agent 比大多数编码 agent 框架运行得更快、使用的资源更少。

为什么选择 Rust

TypeScript 帮助我们快速推出了 Prime Agent，但它的类型是可选的，并在运行时消失，错误以未检查的异常形式传播，渲染和解析大型会话等 CPU 密集型工作与键盘输入在单个事件循环上竞争，而且每个进程都要为 JavaScript 运行时和垃圾回收器付出代价。我们希望保持同样快的交付速度，同时随着代码增长对其提出更高标准，而 Rust 非常适合这一点：

• 性能：Prime Agent 是一个长期运行的守护进程，每个会话有一个工作进程，而无垃圾回收器的原生代码带来了我们所取得的大部分内存和启动速度提升。
• 并发：一个守护进程同时流式传输模型输出、运行工具调用、在 agent 之间中继消息，并服务所有已连接的客户端。Rust 的 Send 和 Sync trait 让编译器检查哪些数据可以在线程之间移动、哪些可以共享。
• 编译期保证：穷尽式枚举、所有权和生命周期在代码运行前就排除了一整类 bug，而 Clippy 的 pedantic lint 又增加了数百项检查，这在 agent 编写大部分代码时尤为重要。

除了这些明显的性能提升之外，这次重写还让我们有机会重新思考设计选择。我们对代码库进行了大幅模块化，并正在收获这次重写的回报，包括 Windows 支持、会话崩溃隔离，以及更一致的守护进程协议。

Prime Agent 如何重写自身

我们的目标是让 agent 尽可能少地人工干预、自主完成重写。因此，所需的人工工作是设置适当的验证，以实现大规模自主部署。我们遵循了此前自动 Rust 翻译工作 [2] 的类似设置。每份规范都覆盖了不同类型的功能对等：

• TUI 一致性：一套差分测试套件将 TypeScript 和 Rust 二进制文件并排对比，针对同一脚本化模型运行，并对比各自渲染出的终端帧。它覆盖了用户流程，包括启动、斜杠菜单、工具调用、压缩、智能体视图、会话恢复、子智能体和崩溃恢复。
• 测试框架一致性：同一次运行会对比会话记录以及每个二进制文件向模型提供商发送的请求，因此两者从相同输入产生相同的会话。
• 协议一致性：守护进程协议中的所有消息类型都会与 TypeScript 实现进行核对，确保我们的 ACP 和守护进程协议 API 保持一致。
• 功能一致性：由于脚本化流程无法覆盖整个界面，智能体逐组件审计了 TypeScript 产品，将每个组件归类为匹配、部分匹配或缺失。

有了对每种一致性的客观检查，智能体就能衡量自身进展，并在变更合并前发现回归，这让我们得以减少人工审查。剩余的缺陷和行为差异主要通过内部使用发现，这指导了我们后续在缺失功能、可靠性和界面打磨方面的工作。

我们在两个 8 核按需 CPU 节点上运行了所有编排器及其智能体，每个节点支持 100 多个并发子智能体及其各自的 CPython 内核。此外，由于在数十个智能体同时运行时，编译、类型检查和差分会使任何单台机器饱和，我们为智能体构建了将繁重工作外包给 Prime Sandboxes 的工具，使我们能够高度并行化移植工作。

有限状态机的编排

一个根智能体编排了这次重写，并将工作划分为拓扑排序的任务。根智能体不编写任何产品代码，从而可以自由地监控每项任务、合并已完成的工作、维护对重写的整体把握，同时与我们共同确定优先级和决策。我们还将生成和验证放在不同的智能体中，因为编写代码的智能体在评估代码时会带有偏见。因此，编排器分配的每项任务都要经过四个智能体：

• 规划者：创建整体机器规范，包括功能设计、基准 TypeScript 行为和验证器（一致性检查）
• 实现者：在专用的工作树中编写 Rust 代码，以便功能可以并行开发。
• 审查者：以对抗性方式检查拉取请求，使用与实现者不同的模型和独立的上下文，寻找该变更错误的理由。
• 验证者：在全新的 Prime Sandbox 中编译并运行该功能的一致性检查和测试。

审查或验证失败会将功能连同发现的问题退回给实现者，两者都通过后 PR 才会合并。我们正在将这种模式构建到 Prime Agent 中，以编排一个有限状态机工厂，这样像这样的工作流就可以一次定义、重复使用并更新。

架构重新设计

移植到 Rust 也给了我们重构代码库的机会。长期收益的很大一部分正源于此：

• 模块化：代码被拆分为九个 crate，依赖关系图是单向的，由 Cargo 强制保证，而 TUI 唯一的内部依赖是共享类型 crate。最大的源文件现在约 2,500 行，相比 TypeScript 的约 15,000 行大幅减少，且没有文件超过 5,000 行，而 TypeScript 中有四个。
• 隔离性：每个会话都在一个小型 supervisor 下的独立 worker 进程中运行，因此一个会话的故障不会影响其他会话继续运行，并且会话会持久化到磁盘，客户端可以在重启后重新连接。
• 平台抽象：传输、进程控制和文件锁定都位于平台特定接口之后，因此像 Windows 支持这样的工作只需实现这些 trait，而无需重新调整守护进程。
• 单一协议定义：客户端、守护进程和每个 worker 都针对共享类型 crate 中的相同消息类型进行编译，因此协议的任何更改都会在使用它的所有地方得到检查。
• 目录驱动的模型：将我们的模型和 MCP 列表移植到运行时获取的独立目录中，使我们无需发布 Prime Agent 即可推出新模型和插件。

精炼工作

虽然自主工作流比我们预期的走得更远，但一致性检查只验证了它们所执行的行为。一旦主 RLM 循环达到一致，我们便将所有重写代理迁移到 Rust，使我们能够大规模地试用 Rust 版本（现在 Prime Agent Rust 正在递归地改进自身！）。后来，我们将内部团队迁移到 Rust 构建版本用于日常工作，这暴露了差分测试覆盖范围之外的错误和缺失行为。在整个试用周期中，我们让代理审查所有 beta 用户的日志和跟踪，使我们能够自动诊断和解决用户发现的运行时和代理问题。我们还利用这次重写的机会重新设计了一些 UX/TUI 流程和面向模型的 API。

将重写提升到发布质量需要随后几周的后续工作，从完成功能移植和修复错误到改进性能和打磨界面。Prime Agent 仍然编写并测试这些更改，而我们则有人工参与其中，负责发现问题、指导更改并审查所有结果。

爬山优化性能

在实现功能一致后，我们希望优化 Prime Agent 在所有用户流程中的运行时性能。我们采用了与重写相同的方法：为代理提供一种客观的方式来衡量自身的进展。我们构建了一个基准测试工具，用于衡量 Prime Agent 在各种运行时指标上的性能，并让 Prime Agent 通过深思熟虑的改进来爬山优化其速度和资源使用。

性能基准测试在全新的 4 核、8 GB Prime Sandbox 上评估 Rust 和 TypeScript 版本的 Prime Agent，以及其他代理框架，每个基准测试都进行噪声检查，任何过于不稳定而无法比较的结果都会被保留。代理在真实终端中运行，通过屏幕模拟器驱动，针对脚本化模型，因此计时反映用户所见并排除推理时间。

有了测试工具后，第二个编排器运行了一个为期三天的爬山循环，目标只有一个：在不破坏一致性的情况下改进基准测试结果。每个实验都遵循相同的流程：

1. Agent 会对基准测试进行剖析，找出时间和内存消耗在哪里，将最大的开销转化为一系列假设，然后由编排器分配给 worker。
2. Worker 在同一个沙箱中构建当前代码和候选变更，并以交替顺序运行它们，同时运行相邻基准测试以捕捉其他地方的回归。
3. 两个 reviewer agent 分别运行在不同的前沿模型上，检查行为是否仍与 TypeScript 一致、在变更声称保持字节一致的地方输出是否仍字节一致，以及面向模型的接口上没有任何回归。
4. 变更合并，下一次实验从新的基线开始测量。

我们有意不给这个循环设定数值目标，因为固定阈值往往会变成停止点。Agent 的唯一目标是在仍有可测量收益的情况下，持续改进基准测试而不破坏一致性。在整个 hillclimb 周期中，该循环记录了超过 144 条实验和审计记录，合并了超过 69 个提升性能的有效变更。以下是我们看到的一些重要领域中的显著改进：

TS 版本Hillclimb 前的 RustHillclimb 后的 Rust

冷启动

输入就绪延迟

快 14.18×

热启动

输入就绪延迟

快 13.34×

大会话内存

进程树 RSS · 10 MiB 会话

小 4.76×

安装大小

完整安装

小 2.89×

Agent 视图

视图切换延迟

快 6.09×

大部分收益来自三类变更：将工作移出启动和渲染路径、用事件驱动等待替代轮询循环，以及在大会话加载完成后立即释放内存。

结果

总体而言，我们的 Rust 重写以及随后的性能 hillclimbing 使 Prime Agent 显著更快、资源效率更高。输入时间比 TypeScript 快约 14 倍，启动后内存使用减少超过 80%，Prime Agent 是现有最快的编码 agent harness 之一。

外部测试框架的结果是用我们自定义的运行时套件测得的。由于没有通用的基准标准，比较时应谨慎解读。

这种更模块化的代码库和更强的编译期检查也将帮助我们更快地交付新能力，并在错误到达用户之前捕获更多问题。

下一步

随着 Rust 移植的完成，我们将同样的细致关注带到 Prime Agent 的每一个部分，从日常的系统交互到跨多个智能体的复杂工作。既然基础设施的改进已经完成，我们正在加速推进能力和评估，并让这次重写背后的多智能体工作流为你所用。

Prime Agent 也将更紧密地融入 Prime Intellect 生态系统，让你能够跨整个技术栈工作，包括云端智能体集群、推理、追踪、沙箱、评估、托管训练等。

通过这次重写，我们还发布了原生支持 Windows（测试版）并可通过 homebrew 安装的 Prime Agent。Prime Agent 仍然是开源的，只需一条命令即可安装：

curl -fsSL https://app.primeintellect.ai/prime-agent/install.sh | sh

或在 Windows 上：

irm https://app.primeintellect.ai/prime-agent/install.ps1 | iex

如果你想参与 Prime Agent 的开发，我们正在招聘。

参考文献

[1] Karten, S., Zhang, A. L., Thomas, K., Müller, S., Bakouch, E., Auras, D., Senghaas, M., Obeid, F., Dunas, K., Hagemann, J., & Jaghouar, S. (2026). Prime agent: A self-improving RLM harness [Preprint]. arXiv. https://arxiv.org/abs/2608.23552

[2] Karten, S., Appapogu, R. D., & Jin, C. (2026). Automatic generation of high-performance RL environments. In Proceedings of the Third Conference on Language Modeling (COLM 2026). https://openreview.net/forum?id=UmpTwqxiY0