跳到正文

Mercor APEX-SWE

Mercor / 编程 · 在真实工程环境里做系统集成、排查线上故障。

官方评测
在 AIHOT 中参与排名
所属领域编程
上游数据时间待核实
最近成功同步10/28 21:56

它测什么,怎么测

200 道不公开的工程题:100 道系统集成(写应用代码、配基础设施、把服务部署起来),100 道线上排障(看日志和开发者讨论,追到代码里的根因)。只取 Mercor 用 Terminus-2 统一跑的 Pass@1,评分细则全部满足才算通过;按预先固定的推理档位选配置,选择不看分数。

AIHOT 怎么用它

计分:系统集成与排障一类评测。固定 10 个对照型号至少测到 6 个,才参与计算。

评测成绩

同一模型测了多个档位时,按固定规则只取一套代表成绩;没有可用成绩的模型标为“未计入”并写明原因。匿名测试型号不展示,名次照搬原榜,每项最多列 30 个。

原榜名次原榜型号原始成绩代表配置
1claude-opus-5-5Anthropic67.6%Max 推理 · terminus-2 · apex-swe:terminus-2
2claude-sonnet-5-5Anthropic66.4%Max 推理 · terminus-2 · apex-swe:terminus-2
3claude-opus-5Anthropic63.7%Max 推理 · terminus-2 · apex-swe:terminus-2
4claude-fable-5.1Anthropic63.6%Max 推理 · terminus-2 · apex-swe:terminus-2
5claude-fable-5Anthropic58.9%Max 推理 · terminus-2 · apex-swe:terminus-2
6grok-4-6-xhighxAI57.7%xHigh 推理 · terminus-2 · apex-swe:terminus-2
9claude-haiku-5-5Anthropic55.1%Max 推理 · terminus-2 · apex-swe:terminus-2
10muse-wonder-1-0-maxMeta54.6%Max 推理 · terminus-2 · apex-swe:terminus-2
11mimo-v2.6-proXiaomi54.2%完整系统 · terminus-2 · apex-swe:terminus-2
12grok-4-5xAI53.6%High 推理 · terminus-2 · apex-swe:terminus-2
13grok-4.7xAI53.4%xHigh 推理 · terminus-2 · apex-swe:terminus-2
14qwen-3-8-max-xhighAlibaba52.3%xHigh 推理 · terminus-2 · apex-swe:terminus-2
15deepseek-v4-1-flashDeepSeek51.9%Max 推理 · terminus-2 · apex-swe:terminus-2
16qwen-3-8-27bAlibaba50.7%xHigh 推理 · terminus-2 · apex-swe:terminus-2
17gemini-4-argonGoogle49.2%High 推理 · terminus-2 · apex-swe:terminus-2
18deepseek-v4-1-flash-1017DeepSeek49.1%Max 推理 · terminus-2 · apex-swe:terminus-2
19gpt-6-astra-maxOpenAI48.6%Max 推理 · terminus-2 · apex-swe:terminus-2
20kimi-k3Moonshot AI48.0%Max 推理 · terminus-2 · apex-swe:terminus-2
20gpt-5-6-sol-maxOpenAI48.0%Max 推理 · terminus-2 · apex-swe:terminus-2
22claude-opus-4-7Anthropic47.6%Max 推理 · terminus-2 · apex-swe:terminus-2
23gpt-6-1-solOpenAI46.9%Max 推理 · terminus-2 · apex-swe:terminus-2
24deepseek-v4-flashDeepSeek46.7%Max 推理 · terminus-2 · apex-swe:terminus-2未计入:来源只写了不带日期的型号名,无法确认测的是哪个版本。
25claude-sonnet-5-maxAnthropic46.4%Max 推理 · terminus-2 · apex-swe:terminus-2
26glm-5-3-flashZ.ai46.1%Max 推理 · terminus-2 · apex-swe:terminus-2
27deepseek-v4-pro-08-13DeepSeek45.9%Max 推理 · terminus-2 · apex-swe:terminus-2
29glm-5-3Z.ai45.6%Max 推理 · terminus-2 · apex-swe:terminus-2
30gpt-6-solOpenAI45.0%Max 推理 · terminus-2 · apex-swe:terminus-2
32claude-opus-4-8Anthropic43.9%Max 推理 · terminus-2 · apex-swe:terminus-2
33inception/mercury-3Inception43.1%High 推理 · terminus-2 · apex-swe:terminus-2
34gemini-3.7-flashGoogle42.0%High 推理 · terminus-2 · apex-swe:terminus-2
评测局限与数据署名

评分细则由专家编写、模型裁判判定;题目由 Mercor 与 Cognition 合作编写。只用旧框架 Inspect 跑过的型号不计,Cognition 自家模型目前只有 Inspect 成绩。 缺测留空;回退成绩计入并标注,受影响题目过半不计。

数据许可:官方公开结果;数据与代码许可不等于榜单再分发授权

成绩由 Mercor 发布。各项评测的原始分数尺度不同,不能直接相加;AIHOT 按公开规则把它们折算成同一种分数。