字节Seed提出Recycler架构，回收隐藏状态

字节 Seed 发布论文提出 Recycler 架构：把上一 token 的顶层隐藏状态经轻量适配器与当前 token 嵌入一起送入下一步，在解码开销几乎不变的情况下保留跨步连续语义。 该架构覆盖预训练、SFT、继续预训练与 RL 全流程。字节 Seed 称，它在数学和推理任务上参数效率突出，后期引入仍可超越参数量多 2–3 倍的模型；这些效果来自论文表述，尚待独立验证。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。