FrontierCode 2.0(Artificial Analysis 复跑)
Artificial Analysis / 编程 · 在真实开源仓库里改代码,看改动能不能达到维护者愿意合并的水平。
在 AIHOT 中参与排名
所属领域编程
上游数据时间待核实
最近成功同步10/28 21:56
它测什么,怎么测
132 个真实仓库改动任务,每题三次,统一 Stirrup 工具流程;取总体得分。同一型号按最高推理档位选代表配置,选择不看分数。
AIHOT 怎么用它
计分:仓库改动一类评测。固定 10 个对照型号至少测到 6 个,才参与计算。
评测成绩
同一模型测了多个档位时,按固定规则只取一套代表成绩;没有可用成绩的模型标为“未计入”并写明原因。匿名测试型号不展示,名次照搬原榜,每项最多列 30 个。
| 原榜名次 | 原榜型号 | 原始成绩 | 代表配置 |
|---|---|---|---|
| 1 | claude-opus-5-5Anthropic | 46.4% | Max 推理 · 含来源回退 |
| 3 | gpt-6-astraOpenAI | 42.4% | Max 推理 |
| 4 | gpt-6-1-terraOpenAI | 42.3% | Max 推理 |
| 5 | claude-sonnet-5-5Anthropic | 41.7% | Max 推理 · 含来源回退 |
| 7 | gpt-6-1-solOpenAI | 40.6% | Max 推理 |
| 10 | muse-wonder-fullMeta | 37.8% | Max 推理 |
| 18 | claude-haiku-5-5Anthropic | 34.9% | Max 推理 |
| 23 | claude-fable-5-1Anthropic | 31.6% | Max 推理 · 含来源回退 |
| 27 | grok-4-7xAI | 28.7% | xHigh 推理 |
| 28 | deepseek-v4-1-flash-1017DeepSeek | 28.5% | Max 推理 |
| 29 | muse-wonderMeta | 27.9% | Max 推理 |
| 33 | gemini-4-argonGoogle | 25.7% | High 推理 |
| 34 | kimi-k3-1-proMoonshot AI | 25.5% | 来源默认配置 |
| 35 | gpt-6-lunaOpenAI | 25.2% | Max 推理 |
| 37 | mimo-v2-6-proXiaomi | 24.0% | 来源默认配置 |
| 38 | qwen3-8-maxAlibaba | 23.4% | 来源默认配置 |
| 40 | muse-spark-1-3Meta | 23.1% | Max 推理 |
| 42 | minimax-m3MiniMax | 21.9% | 来源默认配置 |
| 44 | mimo-v2-6-flashXiaomi | 21.6% | 来源默认配置 |
| 45 | glm-5-3Z.ai | 21.6% | Max 推理 |
| 46 | minimax-m3-1-flashMiniMax | 20.8% | 来源默认配置 |
| 48 | gemini-3-8-flashGoogle | 18.7% | High 推理 |
| 51 | deepseek-v4-proDeepSeek | 17.1% | Max 推理 |
| 52 | ling-3-1-flash-1019InclusionAI | 17.0% | 来源默认配置 |
| 56 | qwen3-8-27bAlibaba | 14.9% | xHigh 推理 |
| 57 | mistral-large-4Mistral AI | 13.6% | 来源默认配置 |
| 60 | step-5StepFun | 12.0% | 来源默认配置 |
| 61 | k2-horizon-375b-a23bMBZUAI Institute of Foundation Models | 11.8% | 来源默认配置 |
| 65 | muse-spark-openMeta | 7.6% | xHigh 推理 |
| 67 | nemotron-3-5-super-vlNVIDIA | 6.1% | 来源默认配置 |
评测局限与数据署名
除隐藏测试外,维护者评分细则由一个固定的模型裁判打分,不是纯测试判定;偷看答案的尝试记 0 分。 缺测留空;回退成绩计入并标注,受影响题目过半不计。
数据许可:Artificial Analysis 公开页面数据;展示须显著署名并链接来源,遵守其 Terms of Use
成绩由 Artificial Analysis 发布。各项评测的原始分数尺度不同,不能直接相加;AIHOT 按公开规则把它们折算成同一种分数。