HuggingFace Daily Papers（社区热门论文）·· 1 天前AI 评分36
SAKI：面向同策略蒸馏的最大耦合路由教师监督方法
SAKI: Maximal-Coupling-Routed Teacher Supervision for On-Policy Distillation
AI 导读
SAKI（Supervision Allocation with KL-constrained Interpolation）将 KL 约束的教师引导 rollout 与最大耦合结合，按 token 级接受/纠正事件路由监督：接受位置保留采样 token 的反向 KL 监督，纠正位置直接监督教师最高概率 token。
来源：HuggingFace Daily Papers（社区热门论文） · arxiv.org