Cognition 发布编码模型 SWE-2 Flash，Terminal-Bench 4.0 从 0.9% 提升至 20.0%

我们推出 SWE-2 Flash，这是一款完全在美国打造的编程模型，在低成本、高速度的前提下，把智能水平推向了新高度。我们在训练配方中首次于强化学习之前加入了一个中期训练阶段。相比基座模型 Thinking Machines 的 Inkling-Small，这一改动带来了显著提升：Terminal-Bench 4.0 从 0.9% 提升到 20.0%，FrontierCode 2.0 从 3.2% 提升到 24.0%。

在主流评测中，SWE-2 Flash 的表现超过了所有美国开放权重模型，甚至包括体积大 3 倍的模型。为了在透明访问与网络安全风险之间取得平衡，我们正在制定一项计划，与行业合作伙伴和研究人员安全地共享模型权重。

随着模型能力不断提升，我们除了继续拓展能力边界，也始终专注于降低日常工程工作的成本。如今，较小的模型已经能够承担软件智能体所做的相当一部分工作，例如自动化、代码审查、功能开发和文档更新。

我们开发 SWE-2 Flash 正是为了满足这一日益增长的需求。它今天已在 Devin Desktop 和 CLI 中上线，价格只有体积大得多的同门模型 SWE-2 的五分之一，速度则是它的 3 倍。

训练

我们首先在 Inkling-Small 之上进行大规模中期训练。该模型总参数 276B，激活参数 12B。一个关键挑战是确定合适的数据配比：纳入哪些来源，以及各占多大比例。为指导这些决策，我们整理了一个高质量的留出编程数据集，用来反映模型在真实软件工程场景中的智能水平。

随后，我们用 token 效率曲线来评估不同数据源，找出最有效的配比。我们从一次基线训练开始，测量每种候选数据配比需要多少 token 才能达到与基线相同的验证损失。把这一 token 数量的比值画在 y 轴、基线 token 数画在 x 轴，就能直接比较不同配比的训练效率。

我们反复调整中期训练数据的构成，最终确定了一个由数万亿 token 组成的数据集，涵盖高质量科学文章、博客、代码及其他来源。训练分三个阶段进行，让模型在训练后期才接触到最稀缺、质量最高的数据。在每个阶段中，留出验证损失都以稳定的对数线性速率改善。

中期训练期间的验证损失

中期训练阶段之后，我们进行了大规模强化学习。虽然我们对 SWE-2 的强化学习配方做了一些调整，但大部分提升来自质量更高、多样性更丰富的强化学习任务。

在质量方面，我们仔细审查了任务的指令、环境配置和验证器。在多样性方面，我们设计了几种新的任务类型，覆盖的能力范围远超以往，以培养 Devin 实际工作所需的通用推理和问题解决能力。用这些数据训练后，我们测得的几乎每一项基准都取得了显著提升。

强化学习过程中 rollout 得分与基准平均分的对比

起源与网络安全

对于敏感、关键任务型的工作，客户需要的不仅仅是一个藏在 API 背后的强大模型。随着网络安全逐渐成为一大主要应用场景，风险也随之升高。企业和政府需要可观测性，以便在自己的基础设施上（包括本地部署）托管和控制部署。学术界和产业界的研究人员则需要研究模型的行为方式，以及模型可能被如何滥用。

SWE-2 Flash 的目标之一，是为行业合作伙伴和研究人员提供一个选项：既能透明地访问模型权重，又能对模型进行微调，并在敏感环境中运行。为了帮助防御方，我们在训练中重点针对网络安全工作，将模型的 ExploitBench 得分从 11.3% 提升到 34.8%。这些能力同样可能被恶意攻击者利用，近期网络攻击激增就是明证，因此我们暂不公开权重。作为兼顾透明度与安全性的潜在方案，我们正在制定一项计划，与可信的行业合作伙伴和研究实验室安全地共享权重。更多细节将在几周后公布。

11/30 前免费立即在 Devin Desktop 和 CLI 中试用获取 SWE-2 Flash