HuggingFace Daily Papers·· 4 天前AI 评分34
SeLMRoute:面向大语言模型路由的概率语义证据框架
SeLMRoute: Probabilistic Semantic Evidence for Large Language Model Routing
AI 导读
SeLMRoute 通过先提取与候选模型无关的概率语义证据、再估计候选模型表现的方式实现 LLM 路由,在 LLMRouterBench(15 个数据集、20 个候选模型、11,481 条查询)上平均准确率达 72.08%±0.45,分组五折 out-of-fold 评估为 72.64%,高于最强固定候选的 69.23%。
来源:HuggingFace Daily Papers · arxiv.org