排序怎么算
了解 AIHOT 评分怎么算,以及每个分数背后的第三方成绩。
把每项评测当成一把尺子。
不同评测的分数单位不同、难度不同,不能直接相加。AIHOT 先给每项评测定出难度,再把每个成绩换算成同一条刻度上的能力读数:难的评测和容易的评测说同一种单位,没测的项不补分也不扣分。
评分以参照组模型的平均水平为 50 分,每 15 分约是一个标准差,不是答题正确率。综合榜与四个分类榜最多展示 30 个模型。
- 01
只用第三方统一跑的成绩
评测机构给每个模型用同一套流程自己跑出来的成绩才计分。厂商自报、厂商专用 Agent、拿别人成绩拼成的综合指数都不计分。同一型号按预先定好的推理档位选代表配置,不挑最高分。
- 02
给每项评测定一把尺
一项评测有难度和陡峭程度两个数,由测过它的模型共同定出;不到 20 个模型测过的评测,尺子定不准,先不计分。难的评测在高分段说话算数,刷满的评测自动变得不重要。
- 03
把成绩读成同一刻度上的能力
每个成绩顺着它的尺子倒推,变成同一条刻度上的读数,不同评测因此能放在一起比。通过率高于 95% 只算“至少这么强”,低于 5% 只算“至多这么强”。同类评测只算一票;和其他读数差得太远的那个,拉力封顶。
- 04
分领域,再加权
每个领域的分数是这个领域读数的平均,再向模型的整体水平收一点;还没人测的领域按整体水平看,不补分也不扣分。综合评分按下面的权重把各领域加起来。
五个领域,编程最重。
权重是公开的选择,不是天然的能力比例。同一类任务的评测(两家机构复跑同一套题、两项同类的职业交付评测)合起来只算一票;视觉、写作、多语言目前不计分。
- 编程40%Terminal-Bench 4.0(Artificial Analysis) · Terminal-Bench 4.0(Vals AI) · LiveBench Coding(LiveBench) · SciCode(Artificial Analysis) · Code Migration(Vals AI) · ProgramBench(Vals AI) · Vibe Code Bench v1.1(Vals AI) · Vibe Code Bench 1–100(Vals AI) · CyberBench Patch v1.1(Vals AI)
- 科研20%Humanity's Last Exam(Artificial Analysis) · FrontierMath T1–3(Epoch AI) · LiveBench Reasoning(LiveBench) · CritPt(Artificial Analysis) · Chess Puzzles(Epoch AI) · Mystery Game Puzzles(Epoch AI) · MysteryMechanism(Vals AI) · Terminal-Bench Science(Vals AI) · Terminal-Bench Science(Artificial Analysis)
- 专业办公20%GDPval-AA(Artificial Analysis) · AA-Briefcase(Artificial Analysis) · AutomationBench-AA(Artificial Analysis) · Finance Agent(Vals AI) · APEX-Agents(Mercor) · Harvey 法律 Agent 基准(Vals AI) · τ³-Banking(Mercor) · LiveBench Data Analysis(LiveBench) · MedCode(Vals AI) · AA-Analyst Agent(Artificial Analysis)
- 知识问答15%AA-Omniscience(Artificial Analysis) · SimpleQA Verified(Epoch AI) · AA-LCR(Artificial Analysis) · MLCR-AA(Artificial Analysis) · LiveBench Language(LiveBench) · LiveBench IF(LiveBench) · BullshitBench v2(BullshitBench)
- 真人盲选5%Arena Text(LMArena)
名次只给证据够宽的模型:至少两家评测机构的成绩,编程至少 3 类评测,科研、专业办公、知识问答各至少 2 类。其余有分数的模型列在“暂不排名”。发布超过 18 个月的型号退出当前榜单,已有详情页保留。
你可能还想知道
新增评测需要覆盖多少模型?+
AIHOT 评分怎么看?+
为什么难的评测考得一般,读数反而高?+
差多少分才算真的有差距?+
为什么有的模型只有分数、没有名次?+
厂商自己公布的成绩为什么不用?+
“回退”是怎么回事?+
新模型什么时候会出现?+
某家评测暂时打不开,或者跟不上新模型,会怎样?+
价格或速度会影响名次吗?+
查看计算细节与当前版本+
方法版本:2026.10-capability-scale-v19。做法属于项目反应理论(IRT)一类:每项通过率评测是一把 logistic 尺,能力为 z 的模型通过率 = σ(A·z − e),A 是陡峭程度、e 是难度;等级分类评测(Elo)是一把直尺,等级分 = c + s·z,它的刻度按同一批模型在其他领域的水平对齐,不能自定尺度。
成绩倒推成读数 x = (logit(通过率) + e) / A。高于 95% 或低于 5% 的通过率按截尾读数处理:只说明“至少”或“至多”,模型的水平越过这条线越远,它的作用越小。一个读数的噪声按标准差 0.33 计;偏离超过两倍噪声的读数,拉力封顶,一个坏成绩或被刷高的评测带偏不了总分。
模型在某个领域的能力 = 整体水平 g + 该领域的偏离 δ,δ 的先验标准差为 0.25(按“遮住一部分成绩再预测”选出);没测的领域 δ = 0。尺子和能力交替拟合直到收敛,参加定尺的模型至少要有 4 类评测的成绩,一项评测至少要有 20 个这样的模型。综合 = 各领域能力按权重相加,显示分 = 50 + 15·z。
刻度锚定在参照组上:方法定稿时近 18 个月、两家以上机构测过、证据够列出的 92 个模型,它们的水平冻结保存。以后每一轮都让参照组模型保持冻结时的平均值和离散程度,所以新增模型、新增或停用评测,都不会让分数整体漂移,评分可以跨轮比较。
这套方法上线前用真实数据检验过:遮住部分成绩再预测,误差明显小于“各项换成标准分再平均”;同系列新一代排在上一代后面的情况更少;去掉某一家机构的全部成绩重算,和这家机构自己的综合指数仍高度一致;在已知真值的合成数据上,成绩少的模型和成绩多的模型没有系统偏差。