HuggingFace Daily Papers(社区热门论文)·· 4 天前AI 评分34
DuoOPD:用师生联合结果做多任务在线策略蒸馏
DuoOPD: Learning from Joint Teacher-Student Outcomes for Multi-Task On-Policy Distillation
AI 导读
DuoOPD 提出一种多任务在线策略蒸馏方法,由学生结果决定反馈方向、师生联合结果决定教师如何支持:仅教师答对时用其答案作为评分上下文,仅学生答对时按任务内共享权重强化整段回答。
来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org