跳到正文
HuggingFace Daily Papers·· 3 天前AI 评分36

RouteFM:面向 LLM 路由的基础模型,预训练一次即可跨环境路由

Pretrain Once, Route Anywhere: Towards a Foundation Model for LLM Routing

AI 导读

研究者提出 RouteFM,通过跨异构路由环境的片段式预训练学习可复用的 LLM 路由能力,让冻结的路由器仅靠上下文即可适配新环境,而非绑定固定模型身份。在未参与预训练的 MMR-Bench 上,每个候选模型仅用 8 条观测,RouteFM 就比最强基线高出 2.23 个质量分。代码已公开。

来源:HuggingFace Daily Papers · arxiv.org