HuggingFace Daily Papers(社区热门论文)·· 2 天前AI 评分42
SaveRouter:让 LLM 路由的监督成本自己回本
Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing
AI 导读
SaveRouter 是一个稀疏监督的 LLM 路由框架,只选择性获取有信息量的模型反馈并在相关查询间共享能力信息,在四个路由基准上仅用约 33–41% 的可用训练反馈就保持或超过竞争方案的 routing 质量,并将盈亏平衡部署量较最快的传统路由器降低约 1.9–9.5 倍。该研究同时把监督开销与后续服务节省一起纳入评估,发现最小化服务成本的监督水平未必等于最早回本的监督水平。代码已公开。
来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org