跳到正文
HuggingFace Daily Papers·· 2 天前AI 评分38

LLM 泛化能力多轴评估:SAGO 框架揭示模型稳定性问题

Generalization Is Stability, Not Accuracy: Multi-Axis Evaluation of LLMs

AI 导读

研究者提出 Stability-Aware Generalization Objective(SAGO)框架,从生成一致性、内部激活、置信度和响应镜像等多个维度衡量 LLM 在输入变化下的行为波动。实验显示,常用模型普遍存在统计显著的泛化不稳定性,没有模型能均匀泛化,不同行为轴捕捉到独立的失败模式,跨数据集变化甚至会逆转模型排名。

来源:HuggingFace Daily Papers · arxiv.org