HuggingFace Daily Papers·2026-09-30 08:00· 2 天前AI 评分42

用在线蒸馏缓解长度缩放税：Length Self-Distillation（LSD）方法

Mitigating the Length-Scaling Tax with Online Distillation

AI 导读

针对 RL 后训练中已解出问题回答变得冗长的"长度缩放税"（LST），研究者提出 Length Self-Distillation（LSD），将已解出的提示词路由到 on-policy 蒸馏，未解出的仍保留原 RL 目标，并以在线策略的指数移动平均作为教师，无需外部模型。