HuggingFace Daily Papers（社区热门论文）·· 2 天前AI 评分34
AdviSD：通过定向多轮自蒸馏让小型顾问模型指导前沿 LLM
AdviSD: Learning to Advise Frontier LLMs via Targeted Multi-Turn Self-Distillation
AI 导读
AdviSD 让小型可训练顾问模型用自然语言指导冻结的 LLM 执行器，方法将结果导向的强化学习与选择性自蒸馏结合，用反馈条件下的顾问副本筛选反思修正。用 Qwen3-8B 顾问指导 Gemini 和 Claude 时，AdviSD 在 BFCL-v3 上比 advisor-GRPO 高 4.2-6.4 个百分点，在 EnvScaler 上高 3.9-5.1 分。
来源：HuggingFace Daily Papers（社区热门论文） · arxiv.org