跳到正文

内容类型

评测基准 最新动态

模型到底谁更强:Benchmark 评测成绩、评测方法的争议与排行榜变化。

216 条精选近 30 天 60 条共收录 1,571 条

更新

精选归档 · 第 10 页

2月13日周五第 181–200 条
  1. OpenAI:官网动态69

    GPT-5.2 在理论物理中推导出新结果

    GPT-5.2 提出了一种胶子振幅的新公式,该结果随后由 OpenAI 与学术合作者正式证明并验证,相关内容见预印本论文(https://openai.com/index/new-result-theoretical-physics)。

    推荐理由:原文说明新公式由 preprint 提出、再经合作方证明验证,读者可以据此了解 GPT-5.2 在理论物理中的实际用法。

2月6日周五
2月5日周四
  1. Anthropic:Engineering74

    量化智能体编码评估中的基础设施干扰

    研究发现,在SWE-bench等智能体编码基准测试中,基础设施配置差异对模型评分的影响,可能超过排行榜上顶尖模型之间的微小分差。内部实验显示,在Terminal-Bench 2.0上,最严格与最宽松的资源设置间成功率相差6%。严格限制资源会导致近6%的任务因容器意外终止而失败,而宽松配置下此类错误率可降至0.5%。当资源余量超过基准规格3倍时,智能体甚至能借助额外资源成功完成原本无法解决的任务。这表明评估环境不仅影响测试稳定性,更会改变基准测试实际衡量的能力维度。

    推荐理由:Anthropic 用自家数据证明,agentic coding benchmark 的排行榜差距可能只是硬件配置差异而非模型能力差距,3 个百分点以内的领先都该打问号。做模型选型的人别再迷信那几个百分点了。

2月4日周三
  1. Hugging Face 社区博客76

    Community Evals:因为我们不再信任黑箱排行榜胜过社区

    LMSys 推出了社区驱动的评估框架 Community Evals,旨在通过开源和开放科学推进人工智能民主化。该框架允许社区贡献和审查评估案例,以透明、可复现的方式测试模型。此举旨在改变依赖少数机构“黑箱”排行榜的现状,让更广泛的社区参与定义和衡量AI模型的能力与价值。

    推荐理由:Hugging Face 推社区评测挑战黑盒排行榜,开源生态评测标准可能改变

1月22日周四
  1. Moonshot AI:Kimi Blog

    Kimi 供应商验证器

    Kimi 发布 K2.5 模型时开源 Kimi Vendor Verifier(KVV),用于验证第三方推理实现的准确性。针对开源模型部署渠道多样化导致的质量失控问题,KVV 提供六项关键基准测试,覆盖参数约束验证、多模态流水线、长输出压力测试、工具调用一致性及编程能力评估。项目与 vLLM/SGLang 社区合作修复根因,并提供预发布验证和实时更新的公开排行榜。完整评估在双 H20 8 卡服务器上约需 15 小时。

    推荐理由:Kimi开源Vendor Verifier,系统性解决开源模型第三方部署质量验证难题

1月21日周三
  1. Hugging Face 社区博客70

    AssetOpsBench:弥合AI智能体基准测试与工业现实的差距

    IBM Research在Hugging Face发布AssetOpsBench,这是一个工业资产运维的AI智能体基准测试框架。它基于真实场景构建,包含多行业数据集和超1000个运维事件,通过多阶段指标测试智能体的诊断、决策等能力,注重动态适应性、多模态处理和安全推理,以推动AI智能体走向实际工业应用。

    推荐理由:首个面向工业资产运维场景的 Agent 基准,填补学术评测与真实落地的鸿沟

1月14日周三
1月9日周五
  1. Anthropic:Engineering75

    揭秘AI智能体评估:构建可靠系统的关键

    有效的评估能帮助团队更自信地发布AI智能体,避免陷入仅在生产环境被动发现问题、修复可能引发新问题的循环。智能体因其多轮操作的自主性与灵活性,评估更为复杂。一个完整的评估结构包含任务、评分器、记录、结果、评估框架与评估套件等核心组件。缺乏系统评估将导致团队无法区分真实的质量倒退与随机波动。建立评估体系能帮助团队在智能体规模化过程中持续监控质量、自动测试变更并量化改进效果,其价值在智能体整个生命周期内持续累积。

    推荐理由:Anthropic 把内部踩过的坑全摊开了,从 eval 设计到 grader 选型到 transcript 审读,是目前最完整的 Agent 评估工程指南,做 Agent 产品的团队可以直接当手册用。

11月26日周三
  1. Dan Hendrycks78

    AI 安全研究者 Dan Hendrycks 在 X 上发布对 Claude Opus 4.5 与 Google Gemini 3 的横向评测,包含文本、视觉与安全三个维度的指数得分。结果显示:在控制推理令牌数后,两者文本能力相当;Gemini 3 在图像/视觉任务上显著领先;而 Opus 在对抗性测试(如越狱、诚实性)中表现更优。图表显示了 7 模型的文本能力(Gemini 3 Pro 47.6 领先)、视觉能力(Gemini 3 Pro 57.1 最高)及安全指数(Opus 33.6 最低,即最安全)。

    推荐理由:该评测由知名 AI 安全研究者主导,数据维度全面(文本、视觉、安全),且直接对比当前头部模型,为读者提供了可量化的横向参考;尤其安全指标反常识(越低越好),有助于理解“能力”与“安全性”的权衡,对选型和风险评估有实用价值。

11月21日周五
  1. Hugging Face 社区博客83

    Open ASR 排行榜新增多语言与长格式赛道,揭示模型性能新挑战

    Hugging Face 的 Open ASR 排行榜新增多语言和长格式语音识别评估赛道。多语言赛道涵盖8种语言,长格式赛道则测试模型处理连续数分钟语音的能力。新榜单显示,领先模型在多语言任务上的词错误率平均比专用单语模型高约15%,在长格式任务上错误率可能上升超20%,凸显了模型在实际应用中的泛化能力仍面临严峻挑战。

    推荐理由:ASR排行榜新增多语言和长形式评估,助力开发者优化语音应用。

11月20日周四
  1. Dan Hendrycks85

    AI 研究者 Dan Hendrycks 在 X 上宣布发布「文本能力指数」与「视觉能力指数」两个新基准,用于追踪 AI 模型进展。图表显示 Gemini 3 Pro 在两项指标中均显著领先,文本能力得分 46.5,视觉能力得分约 57;其性能跃升幅度被作者称为‘长期最大飞跃’。榜单共涵盖 7 模型,包括 GPT-5.1、Sonnet 4.5、GroK 4 等。

    推荐理由:该基准由知名 AI 安全研究者主导,具有较高公信力;首次系统性量化对比多模型在推理、编码、视觉等核心能力上的表现,尤其凸显 Gemini 3 Pro 的突破性进步,为公众和行业提供了权威参考依据,值得关注。

10月7日周二
  1. Hugging Face 社区博客68

    Hugging Face 发布 BigCodeArena:通过代码执行评判代码生成模型

    Hugging Face 推出 BigCodeArena,一个通过真实代码执行进行人类评估的代码生成模型对比平台,支持 10 种语言和 8 种执行环境,无需注册即可使用。

    推荐理由:平台用真实执行反馈让用户对比代码模型,五个月社区数据还给出了各模型在不同语言和运行环境下的强弱分布。

9月25日周四
  1. TensorZero:实验与工程博客63

    TensorZero 实测 OpenAI 强化微调(RFT)是否值得:仅智能体编码任务明显胜出,成本却是 SFT 的 100-700 倍

    TensorZero 在数据抽取、智能体编码和客服三个任务上对比了 OpenAI RFT(o4-mini)与 SFT(GPT-4.1 mini)。

    推荐理由:作者用三个真实任务实测 OpenAI RFT 与 SFT 的效果和成本差距,给出了按任务类型判断 RFT 是否值得用的可比结论。

9月22日周一
  1. Hugging Face 社区博客65

    Meta 发布 Gaia2 基准与开源框架 ARE,聚焦真实世界智能体评估

    Meta 在 Hugging Face 发布 GAIA 的后续基准 Gaia2,以及开源评估框架 Meta Agents Research Environments(ARE,MIT 许可),Gaia2 数据集采用 CC BY 4.0 许可。

    推荐理由:原文给出新基准的任务分组、开源许可和初步模型结果,读者可据此评估现有模型在真实世界智能体任务上的短板。

9月18日周四
  1. Noam Brown

    OpenAI 推理系统在 2025 ICPC 世界总决赛中获得 12/12 满分,成绩相当于人类参赛者第一名。其中 11 道题目由 GPT-5 解决。

    引用Mostafa Rohaninejad@MostafaRohani

    1/n 我非常激动地分享,我们的 @OpenAI 推理系统在 2025 年 ICPC 世界总决赛中获得了 12/12 的满分,这是首屈一指的大学编程竞赛,来自世界各地的顶尖大学团队在此解决复杂的算法问题。这本来会让它在所有人类参赛者中排名第一。🥇🥇

    推荐理由:GPT-5在ICPC世界总决赛获满分,编程推理能力达人类冠军水平

  2. OpenAI

    OpenAI 推理系统在 2025 ICPC 世界总决赛中解出全部 12 道算法题,获得 12/12 满分。该成绩在所有人类参赛队伍中排名第一,足以夺得冠军。

    引用Mostafa Rohaninejad@MostafaRohani

    1/n 我非常激动地分享,我们的 @OpenAI 推理系统在 2025 年 ICPC 世界总决赛中获得了 12/12 的满分,这是首屈一指的大学编程竞赛,来自世界各地的顶尖大学团队在此解决复杂的算法问题。这本来会让它在所有人类参赛者中排名第一。🥇🥇

    推荐理由:通用推理模型首次在顶级编程竞赛击败人类冠军,算法岗竞争格局或将重塑

  3. Jakub Pachocki77

    OpenAI 推理系统在 2025 年 ICPC 世界总决赛中满分 12/12 完成所有题目,成绩超越所有人类参赛队伍(最佳人类队伍解出 11 题)。这是其模型近两个月内继 AtCoder Heuristics 世界亚军、IMO 金牌、IOI 金牌后的第四项顶级竞赛佳绩。OpenAI 首席科学家表示,下一步挑战是解决更开放、时间跨度更长的问题。

    引用Mostafa Rohaninejad@MostafaRohani

    1/n 我非常激动地分享,我们的 @OpenAI 推理系统在 2025 年 ICPC 世界总决赛中获得了 12/12 的满分,这是首屈一指的大学编程竞赛,来自世界各地的顶尖大学团队在此解决复杂的算法问题。这本来会让它在所有人类参赛者中排名第一。🥇🥇

    推荐理由:AI首次在ICPC总决赛拿满分并超越人类最强,这不是又一个刷榜新闻,而是推理模型在算法思维上开始与顶尖人类选手平起平坐的信号。做coding agent的同行该严肃对待了。

7月1日周二
  1. Microsoft AI:官方博客72

    Microsoft 发布 MAI-DxO 诊断研究,在 SD Bench 上诊断准确率达 85%,超过医生四倍

    Microsoft AI 发布 MAI-DxO 诊断编排器研究,在由 304 个 NEJM 病例构建的 SD Bench 序贯诊断基准上,最高正确诊断 85% 的病例,是受测经验丰富医生组的四倍以上,且花费更低。研究基于 2024 年底启动的消费级健康项目,目前仅为研究演示、未获临床使用批准,论文以预印本形式发布并正在提交外部同行评审。

    推荐理由:原文同时给出诊断准确率与虚拟成本两个维度的结果,并明示研究局限和未开放状态,读者可据此评估医疗 AI 的实际边界。

6月17日周二
  1. Saining Xie

    所以这不是一个针对软件工程智能体的基准测试。它旨在通过编程测试核心推理与智能——由一些顶尖竞技程序员撰写的 71 页深度分析作为支撑。

    引用Zihan Zheng@ZihanZheng71803

    我们推出 LiveCodeBench Pro,一个实时、极具挑战性的基准测试,包含来自 IOI、Codeforces 和 ICPC 的竞赛编程题目。 诸如 o3 和 Gemini 2.5 等前沿模型在 Hard 划分上得分为 0%。 排行榜:https://livecodebenchpro.com/ https://t.co/pwxQNicEnr

    推荐理由:o3与Gemini 2.5在IOI级竞赛题上零分,LLM推理天花板显现