跳到正文
9月22日周二
  1. 小米 MiMo:官网发布与博客36

    小米 MiMo 人文学科能力评估:创意写作、艺术感知与哲学对话

    小米对 MiMo 开展人文学科专项评估,由 9 名评估者将它与两款主流模型对比,覆盖创意写作、艺术感知与哲学对话。创意写作共 40 项任务(现代诗与古体诗各 15 项、叙事小说 10 项),按 1-5 分人工打分,MiMo 表现均衡,兼顾逻辑结构与情感深度,但在古体诗格律与知识应用上仍不稳定。

9月21日周一
9月20日周日
9月18日周五
9月15日周二
  1. Trail of Bits:AI安全研究61

    Trail of Bits 批评 1Password 的 AI 补丁基准存在误导,并发布两个补丁验证 Agent 技能

    Trail of Bits 发文批评 1Password 8月6日发布的 FLAWED 报告,称其 26% 的 AI 干净修复率受四项实验设计选择影响而失真,包括刻意指示智能体应用错误修复的提示词占 22% 数据、36% 的试验禁止编译测试,以及不同推理档位设置。

    推荐理由:原文针对1Password基准的26%头条数字给出逐项方法学批评,并补充自身人类修复失败率与开源合并数据作对照。

9月14日周一
  1. Fireworks AI72

    Fireworks 实测 DeepSeek-V4.1-Flash:DeepSWE 达 GPT-6 Astra 水平、单任务成本仅 1/15

    Fireworks 对上周发布的 DeepSeek-V4.1-Flash 进行全套基准评测,在 DeepSWE 上以 74.34% pass@1 达到 GPT-6 Astra 级编码准确率,每任务 $0.43、约为 Astra 的 1/15。

    推荐理由:原文给出 DeepSeek-V4.1-Flash 与多款前沿模型的实测成本与准确率数据,可帮助读者按任务匹配合适模型。

9月13日周日
9月9日周三
  1. OpenRouter:Announcements71

    OpenRouter 评测 Seedance 2.5:长镜头与已有素材编辑的场景及成本解析

    OpenRouter 发布对 ByteDance Seedance 2.5 视频模型的评测,该模型自 2026 年 8 月 7 日上线其视频 API,生成 4 到 30 秒、480p 或 720p 的片段,支持图像、视频、音频引用和首尾帧控制,音频同趟生成不加价。

    推荐理由:原文基于自家端点数据给出 Seedance 2.5 的计费公式、能力边界和与 Seedance 2.0、Wan 3.0、Veo 3.1 的逐项对比,便于按需求选型。

9月7日周一
9月5日周六
9月4日周五
9月2日周三
9月1日周二
  1. Artificial Analysis 完整文章75

    Artificial Analysis 实测 Claude Fable 5.1 登顶智能指数但每任务成本高 20%

    Artificial Analysis 评测 Claude Fable 5.1,其以 66 分登顶 Artificial Analysis Intelligence Index,超过 Claude Opus 5(63)、Fable 5(62)、GPT-5.6 Sol(61)和 Grok 4.6(61)。

    推荐理由:Artificial Analysis 实测了 Claude Fable 5.1 的智能指数、各基准得分与每任务成本,读者可据此权衡其相对 Opus 5 和 GPT-5.6 的性价比。

8月28日周五
8月27日周四
8月26日周三
  1. Trail of Bits:AI安全研究82

    Trail of Bits 实测 GPT 5.6-Cyber 三次逃逸 QEMU/KVM 虚拟机

    Trail of Bits 在 Patch the Planet 项目中获得 GPT 5.6-Cyber 预览权限,让其挑战逃逸 Debian 12 主机上的 QEMU/KVM 虚拟机,结果以三种不同方式成功逃逸。

    推荐理由:作者以一手实测记录 GPT 5.6-Cyber 三次逃逸 QEMU/KVM 虚拟机的路径,给出沙箱和发行版选择上的可操作建议。

8月25日周二
  1. LangChain:Blog65

    LangChain 分享如何构建 Agent 评测环境与任务的两步流水线

    LangChain 发布实践指南,介绍其构建合成 agent 环境与评测任务的两步流水线:第一步用 traces、代码和人工输入生成任务 spec,第二步将 spec 转成 Harbor 格式的任务与环境。过程依赖记录项目通用知识的 world spec,配套更新了 eval-engineering 技能供团队自助使用;文中也指出 spec 打磨和任务难度校准仍需人工介入。

    推荐理由:LangChain 给出从 trace 到任务的两步流水线和可复用的 eval-engineering 技能,团队可迁移用于搭建自己的 agent 评测基准。

8月24日周一
  1. a16z:News56

    预言机问题:AI 与医疗领域一个看不见的瓶颈

    医疗 AI 面临“预言机问题”:临床决策主观、底层数据不透明、评测易沦为营销,导致医院难以客观评估模型优劣。OpenAI 报告每周超 3 亿人用 ChatGPT 咨询健康问题,2026 年每百万条病历中约 1,686 条记录患者对模型回答的追问。a16z 正与 Protege 合作,试图通过追踪患者长期结局来解决这一评估难题。

  2. Artificial Analysis 完整文章63

    Artificial Analysis 发布 Speech Agent Arena 评测真实语音智能体表现

    Artificial Analysis 推出 Speech Agent Arena,让人类参与者在 15 个工具调用场景和 20 个非工具场景中盲测对比 Speech to Speech 模型,以 Preference Elo 和 Task Success Rate 评分。

    推荐理由:原文给出真实任务下语音智能体的偏好与任务成功率两套结果,提示对话好听不等于任务完成。

8月21日周五
8月18日周二
8月17日周一
  1. Together AI 研究与产品博客70

    Together AI 实测 DeepSeek V4 Pro 0813 对比 Claude Fable 5 在 DeepSWE 上的成本、编码与路由表现

    Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验(共 904 次 rollout)上对比 DeepSeek V4 Pro 0813 与 Claude Fable 5。

    推荐理由:原文基于同一批 904 次 rollout 的实测数据,给出两模型在 DeepSWE 上的成本与互补性对比,以及可复用的级联路由结果。

8月15日周六
8月11日周二
8月10日周一
8月6日周四
  1. Together AI 研究与产品博客80

    Together AI 实测 DeepSWE:DeepSeek-V4 Flash 0731 对比 GPT-5.6 Luna 的成本与编码表现

    Together AI 在 113 个 DeepSWE 任务上对比 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna:Luna pass@1 为 67.2%,DeepSeek 为 53.3%,但 DeepSeek 每次 rollout 成本约 $0.10,仅为 Luna($0.61)的约六分之一。

    推荐理由:原文基于同一轮 900 次 rollout 实测给出两款模型的成本、失败模式与分域表现,并提出可复用的低成本级联方案。

8月1日周六