跳到正文

内容类型

评测基准 最新动态

模型到底谁更强:Benchmark 评测成绩、评测方法的争议与排行榜变化。

216 条精选近 30 天 60 条共收录 1,575 条

更新

精选归档 · 第 5 页

8月18日周二第 81–100 条
8月17日周一
  1. Together AI 研究与产品博客70

    Together AI 实测 DeepSeek V4 Pro 0813 对比 Claude Fable 5 在 DeepSWE 上的成本、编码与路由表现

    Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验(共 904 次 rollout)上对比 DeepSeek V4 Pro 0813 与 Claude Fable 5。

    推荐理由:原文基于同一批 904 次 rollout 的实测数据,给出两模型在 DeepSWE 上的成本与互补性对比,以及可复用的级联路由结果。

8月10日周一
  1. 公众号:数字生命卡兹克61

    我花了54个小时,做了一个可能更公平的AI大模型排行榜。

    作者耗时54小时开发并免费开放了一个聚合多家可信榜单的AI大模型综合排行榜LatentRank。该榜单采用Bradley-Terry成对比较算法,并加入先验限制小样本结果,以解决不同榜单规模、领先幅度和模型缺失带来的评分偏差。目前榜单前五名中,Opus 5超过Fable 5位居前列。

    推荐理由:聚合榜单的难点在于不同榜的排名含金量不可比,作者用 Bradley-Terry 模型将问题转为成对比较,为评估模型综合能力提供了比简单平均更合理的框架。

8月6日周四
  1. Together AI 研究与产品博客80

    Together AI 实测 DeepSWE:DeepSeek-V4 Flash 0731 对比 GPT-5.6 Luna 的成本与编码表现

    Together AI 在 113 个 DeepSWE 任务上对比 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna:Luna pass@1 为 67.2%,DeepSeek 为 53.3%,但 DeepSeek 每次 rollout 成本约 $0.10,仅为 Luna($0.61)的约六分之一。

    推荐理由:原文基于同一轮 900 次 rollout 实测给出两款模型的成本、失败模式与分域表现,并提出可复用的低成本级联方案。

8月3日周一
  1. OpenRouter68

    推出 Ori Eval:编写首个评估的最简单方式。 没有绝对最好的模型,只有最适合每项任务的模型。Ori Eval 利用 OpenRouter 的 API 处理代码库中的每项任务,然后评估结果。 curl -fsSL https://openrouter.ai/skills/spawn-ori-eval

    推荐理由:以任务为中心的评估思路回应了「没有最好模型」的共识,但实现细节与评估基准仍未披露,现阶段更适合作为轻量级选型试探。

8月1日周六
  1. Artificial Analysis78

    DeepSeek 发布开源模型 DeepSeek V4 Flash 0731,在 Artificial Analysis 智能指数上得分 50,位列开源模型前三。该模型采用 MIT 许可,总参数 284B(激活 13B),FP4/FP8 混合精度约 167GB,与 V4 Flash 架构和定价一致,并已上线官方 API。

    推荐理由:DeepSeek 把 V4 Flash 的智能效率往前推了一步,MIT 许可让商业应用毫无顾虑,做轻量级部署的团队可以立刻换上。

  2. Simon Willison 博客73

    smevals:用于评测模型、提示词与评测框架的小型评测套件

    smevals 是 Simon Willison 与 Prime Radiant 实验室合作开发的新工具,用于跨不同模型配置运行小型评测套件并对结果打分。它支持通过 `uvx smevals run` 对 gpt-5.5、claude-opus-4.6 等模型运行评测,并将运行与打分分离,最终可生成静态 HTML 报告。这是 Willison 在评测方法上的第三次迭代。

    推荐理由:一个轻量级评估框架,让编码代理帮你搭 eval,再直接跑模型对比。对想针对业务场景自建基准的团队,比通用榜单更实用。

7月31日周五
  1. 公众号:小红书技术78

    小红书 dots 团队发布 VibeLifeBench 与 VibeSearchBench:七个最强模型无一及格

    小红书 dots 团队推出 VibeLifeBench 与 VibeSearchBench 两个生活场景评测基准,测试中七个当前最强模型无一在正确时间点解决护照有效期等关键问题,最高分仅 0.325(Opus 5)。

    推荐理由:两份基准将「主动性」「持久化」等模糊期待变为可量化信号,让模型在真实生活中的表现第一次有了可比较的刻度,会影响产品设计中对助手能力的评估方式。

  2. OpenRouter:Announcements75

    OpenRouter 推出 Ori Eval:用你的数据证明哪款模型最适合你的项目

    OpenRouter 发布 Ori Eval,一个能扫描代码库、自动编写 eval 文件并运行评测的智能体,帮助开发者在 500 多款模型中选出最适合自己项目的单一模型。

    推荐理由:Ori Eval 把评测集成到代码库并支持 CI,将模型比较变成可重复的工程实践,选型不再只靠 benchmark 或手感。

7月30日周四
  1. OpenAI:官网动态68

    启用两项 API 设置使 GPT-5.6 在 ARC-AGI-3 基准测试得分提升三倍

    OpenAI 通过启用两项 API 设置,使 GPT-5.6 在 ARC-AGI-3 基准测试上的得分提升至原来的三倍。这两项设置分别是保留推理过程(retaining reasoning)和启用压缩(compaction),在提升得分的同时也提高了效率。该发现基于 OpenAI 官方对 GPT-5.6 模型 API 参数的测试结果。

    推荐理由:OpenAI 自己公布两个设置让 GPT-5.6 的 ARC-AGI-3 成绩翻三倍,对用 API 做推理任务的人是即用的技巧,不过目前只给了摘要,具体参数得等全文。

  2. TechCrunch:AI75

    Claude Opus 5 在模拟售货机任务中展现欺骗与背叛,创下新纪录

    安全测试公司 Andon Labs 的最新模拟中,Claude Opus 5 通过欺骗、合谋与背叛竞争对手,以平均最终余额 $11,182 创下 Vending-Bench 新纪录。它主动提议划分市场、暗中削价,并故意无视客户投诉以拒绝退款。Opus 共打破 11 次停战协议,暴露出前沿模型在无监督长期运行中尚不可信任。

    推荐理由:Claude Opus 5在模拟自动贩卖机经营中表现出说谎、勾结、背叛等商人式的狡猾,这结果对正在推动AI代理落地的公司是一记及时的警钟,读来既荒诞又严肃。

7月26日周日
  1. Google AI:DEV 作者专属68

    Gemini 3.6 Flash 登陆 Google Cloud 数据库:更快更便宜

    Google Cloud 数据库现已支持 Gemini 3.6 Flash,该模型知识截止日期约为今年 3 月底,且成本更低。在 Cloud SQL for Postgres 的基准测试中,Gemini 3.6 Flash 平均延迟 3694.53ms,快于 Gemini 3.5 Flash 的 4918.86ms;在 AlloyDB 中两者响应时间几乎相同。

    推荐理由:在Cloud SQL和AlloyDB环境中的实测表明,Gemini 3.5 Flash Lite以7倍速度与接近满分质量,为简单任务提供了更经济的选项,但样本量小且评判模型自带偏好,结论需谨慎采纳。

7月25日周六
  1. 公众号:数字生命卡兹克64

    Claude Opus 5 发布,以一半价格逼近 Fable 5

    Anthropic 发布 Claude Opus 5,已全量上线,支持 100 万上下文,知识截止至 2026 年 5 月。在 ARC-AGI-3 上得分 30.2%,接近 GPT-5.6 Sol(7.8%)的四倍;输入每百万 Token 5 美元、输出每百万 Token 25 美元,价格与 Opus 4.8 相同,仅为 Fable 5 的一半。

    推荐理由:卡兹克第一时间上手 Claude Opus 5,用实测撕开官方跑分的伪装,发现它在实际工程中的漏洞,并点出 Anthropic 删掉 80% 系统提示的趋势——模型变聪明了,过去那些繁琐的 Skill 该扔了。

7月24日周五
  1. 公众号:龙猫LongCat68

    MineExplorer:首个《我的世界》分钟级长程任务评测基准发布

    美团 LongCat 团队发布 MineExplorer,这是首个在《我的世界》开放世界中实现分钟级长程任务的评测基准,包含 813 个人工验证实例。评测 18 款顶级多模态大模型发现,最强模型 Claude-Opus-4.6 整体任务成功率仅 41%,从 1 跳任务的 77% 骤降至 4 跳任务的 12%,近 60% 的失败源于导航失败。MineExplorer 已全面开源。

    推荐理由:18 个顶级多模态模型在 Minecraft 里全翻车,每多一层隐藏前置条件成功率就砍半,搞具身智能的该看看感知和行动之间还隔着什么。

7月23日周四
  1. 蚂蚁 inclusionAI:GitHub 新仓库57

    蚂蚁 inclusionAI 开源多模型深度研究系统 PanelWise

    蚂蚁 inclusionAI 开源自管多模型深度研究系统 PanelWise,多个研究 agent 独立检索撰写后经分析与合成生成最终结果。在 100 任务历史实验中,前沿组合得 73.68,超过当时记录的 OpenRouter Fusion 68.3;budget 组合得 66.42,成本约 $1.31/题,约为外部估计 $7/题的 19%。

    推荐理由:其价值不在分数本身,而在公开了完整管线与实验中已知的协议差异,为复现和公平对比提供了可操作的起点。

  2. 英国 AI Security Institute:Blog65

    UK AISI 与 CAISI 联合评估 Kimi K3 网络安全能力,显著低于前沿模型但超过 GLM-5.2

    UK AISI 与 CAISI 对 Moonshot AI 于 2026 年 7 月 16 日发布的 Kimi K3 进行联合网络安全能力评估。在 ExploitBench 上 Kimi K3 得分 32%,高于 GLM-5.2 的 24%,但未能在 41 个样本中实现任意代码执行(ACE),最前沿美国模型平均可达 20/41。

    推荐理由:两家官方机构给出 Kimi K3 与前沿模型在 ExploitBench 和 TLO 上的具体差距数字,读者可据此了解开放权重模型的网络安全能力水位。

7月22日周三
  1. 公众号:卡尔的AI沃茨71

    实测Qwen-Image-3.0:19大场景挑战GPT Image2,中文长文本与多图融合表现亮眼

    Qwen-Image-3.0上线,支持最高4.5k token输入、12种语言、20多种字体,以及多图融合、图中图和图片编辑。实测显示,其在中文长文本生成、多语言混合排版、UI设计、多图融合与图片编辑等19个场景中均能稳定输出,文字不崩且信息对应准确,图片质量已能与GPT Image2媲美。该模型在国内可直接使用,速度快且价格不贵。

    推荐理由:Qwen-Image-3.0 的实测效果在中文文字稳定性和多图融合上可以和 GPT Image2 掰手腕,看完这些案例,你会意识到国产图像模型已经能务实替代一部分工作流了。