小米 MiMo 人文学科能力评估:创意写作、艺术感知与哲学对话
小米对 MiMo 开展人文学科专项评估,由 9 名评估者将它与两款主流模型对比,覆盖创意写作、艺术感知与哲学对话。创意写作共 40 项任务(现代诗与古体诗各 15 项、叙事小说 10 项),按 1-5 分人工打分,MiMo 表现均衡,兼顾逻辑结构与情感深度,但在古体诗格律与知识应用上仍不稳定。
小米对 MiMo 开展人文学科专项评估,由 9 名评估者将它与两款主流模型对比,覆盖创意写作、艺术感知与哲学对话。创意写作共 40 项任务(现代诗与古体诗各 15 项、叙事小说 10 项),按 1-5 分人工打分,MiMo 表现均衡,兼顾逻辑结构与情感深度,但在古体诗格律与知识应用上仍不稳定。
Fireworks AI 推出 Specialized Intelligence Index(SII),汇集开放、闭源与专用模型在垂直领域基准上的表现,首批发 healthcare、legal、cybersecurity、finance、customer support、productivity 和 software 七个领域。
Fireworks AI 对 DeepSWE v1.1 的 113 个任务、18 个模型做了分析:逐任务选择最优模型的 oracle 路由达 97.6% 通过率、每任务 $1.88,比最佳单模型 GPT-6 Astra 的 74.1%($6.52)高 23 个百分点且成本不到三分之一;仅用开源权重模型也达 90.3%($1.45)。
LangChain 用 Deep Agents 构建天气智能体、在 LangSmith 数据集上对比 TypeSafe AI 的 System One 模型 Jev 与 GPT-5.6 Luna、GPT-5.6 Terra、Claude Sonnet 4.6 的评估表现。
OpenRouter 对其路由的 20 个图像生成模型用相同提示词实测计费,单张图片成本在 $0.006 到 $0.134 之间,相差 22 倍。
推荐理由:OpenRouter 用同一提示词实测 20 个图像生成模型的真实计费,读者可以借此绕开各不相同的计价单位直接比较成本。
Trail of Bits 发文批评 1Password 8月6日发布的 FLAWED 报告,称其 26% 的 AI 干净修复率受四项实验设计选择影响而失真,包括刻意指示智能体应用错误修复的提示词占 22% 数据、36% 的试验禁止编译测试,以及不同推理档位设置。
推荐理由:原文针对1Password基准的26%头条数字给出逐项方法学批评,并补充自身人类修复失败率与开源合并数据作对照。
Fireworks 对上周发布的 DeepSeek-V4.1-Flash 进行全套基准评测,在 DeepSWE 上以 74.34% pass@1 达到 GPT-6 Astra 级编码准确率,每任务 $0.43、约为 Astra 的 1/15。
推荐理由:原文给出 DeepSeek-V4.1-Flash 与多款前沿模型的实测成本与准确率数据,可帮助读者按任务匹配合适模型。
Epoch AI 发布新一期 Brief,报告称华为最强芯片算力约为 H100 的一半,2026 年 AI 算力产量预计不足 Nvidia 的 4%,即便完全兑现路线图本十年内也几乎不可能追上 Nvidia。
Fireworks 发布 2026 年开源 LLM 选型指南,覆盖 GLM 5.2、Kimi K3、Kimi K2.7 Code、DeepSeek-V4-Pro/Flash、MiniMax M3、Qwen3.7 Plus、gpt-oss-120b 和 Gemma 4 31B IT 九款模型。
OpenRouter 发布对 ByteDance Seedance 2.5 视频模型的评测,该模型自 2026 年 8 月 7 日上线其视频 API,生成 4 到 30 秒、480p 或 720p 的片段,支持图像、视频、音频引用和首尾帧控制,音频同趟生成不加价。
推荐理由:原文基于自家端点数据给出 Seedance 2.5 的计费公式、能力边界和与 Seedance 2.0、Wan 3.0、Veo 3.1 的逐项对比,便于按需求选型。
Artificial Analysis 评测显示,OpenBMB 的 MiniCPM5-2B 在 Intelligence Index v4.2 得分 15,为总参数量 4B 以下开源权重模型中最高。
Artificial Analysis 发布 Intelligence Index v4.3,将 Terminal-Bench 从 v2.1 升级到 v4,并用与 Zapier 合作、含 657 个私有测试任务的 AutomationBench-AA 替换 𝜏³-Banking。
Artificial Analysis 发布 Intelligence Index v4.2 中期更新,新增私有测试集评测 AA-Briefcase(智能体知识工作)和 Surge AI 的 GDP.pdf(跨 100 份 PDF、4,592 页的长文文档推理,按 1,275 条专家标准全过评分),并移除已饱和的 GPQA Diamond。
蚂蚁集团正式开源首个金融增强模型 Ling-3.0-flash-Fin(124B A5.1B,MoE 架构,最长约 256K 上下文),并同步开放面向金融搜索 Agent 的评测基准 FinFIRST。
xAI 发布 LatchBio 对 Grok 4.6 生物能力的独立分析,涵盖 BioSecBench-Refusal 与 BioSecBench-Surveillance 两套基准。
Artificial Analysis 评测 Claude Fable 5.1,其以 66 分登顶 Artificial Analysis Intelligence Index,超过 Claude Opus 5(63)、Fable 5(62)、GPT-5.6 Sol(61)和 Grok 4.6(61)。
推荐理由:Artificial Analysis 实测了 Claude Fable 5.1 的智能指数、各基准得分与每任务成本,读者可据此权衡其相对 Opus 5 和 GPT-5.6 的性价比。
Together AI 在 DeepSWE v1.1 全部 113 个任务上实测 GLM-5.3 与 GLM-5.3 Flash,各跑 4 次共 900 rollouts。
推荐理由:原文基于 900 次 rollout 实测给出两模型的成本、质量与蒸馏影响分析,可迁移到模型选型和级联路由决策。
SGLang Diffusion 团队在 8×NVIDIA H200 上对 MiniMax-H3 视频生成进行基准测试,其密集无损路径较 Diffusers 快 1.85–1.95×,无近似损失。
推荐理由:把视频生成加速的取舍量化成可复现配置,质量优先时 Cache-DiT 单独使用比叠加稀疏注意力更划算。
Google DeepMind 推出全球首个针对专有前沿 AI 模型的双盲评测,将外部评测限制在加密“盒子”中,防止模型提前看到测试题。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境中测试 Gemini Flash Lite 模型。
英国 AI Security Institute(AISI)发布开源 Python 包 optstop,可接入其 Inspect 评估框架,在模型性能估计足够精确时提前停止评估运行。
Trail of Bits 在 Patch the Planet 项目中获得 GPT 5.6-Cyber 预览权限,让其挑战逃逸 Debian 12 主机上的 QEMU/KVM 虚拟机,结果以三种不同方式成功逃逸。
推荐理由:作者以一手实测记录 GPT 5.6-Cyber 三次逃逸 QEMU/KVM 虚拟机的路径,给出沙箱和发行版选择上的可操作建议。
Fireworks AI 发布对 DeepSeek V4 Pro 0813 的 CyberGym 评测,称其在 840 个对抗性安全任务中零拒绝,每次成功成本约为所测最高分模型的一半。
EleutherAI 在 Aletheia's Quest 项目中构建了黑盒与白盒两类 AI 欺骗检测器,并分享了过程中的关键经验。项目聚焦于识别模型输出中的不实信息,其方法覆盖了从外部行为观察到内部机制分析的不同路径。回顾总结了检测器在实际应用中的局限与未来改进方向。
LangChain 发布实践指南,介绍其构建合成 agent 环境与评测任务的两步流水线:第一步用 traces、代码和人工输入生成任务 spec,第二步将 spec 转成 Harbor 格式的任务与环境。过程依赖记录项目通用知识的 world spec,配套更新了 eval-engineering 技能供团队自助使用;文中也指出 spec 打磨和任务难度校准仍需人工介入。
推荐理由:LangChain 给出从 trace 到任务的两步流水线和可复用的 eval-engineering 技能,团队可迁移用于搭建自己的 agent 评测基准。
医疗 AI 面临“预言机问题”:临床决策主观、底层数据不透明、评测易沦为营销,导致医院难以客观评估模型优劣。OpenAI 报告每周超 3 亿人用 ChatGPT 咨询健康问题,2026 年每百万条病历中约 1,686 条记录患者对模型回答的追问。a16z 正与 Protege 合作,试图通过追踪患者长期结局来解决这一评估难题。
Artificial Analysis 推出 Speech Agent Arena,让人类参与者在 15 个工具调用场景和 20 个非工具场景中盲测对比 Speech to Speech 模型,以 Preference Elo 和 Task Success Rate 评分。
推荐理由:原文给出真实任务下语音智能体的偏好与任务成功率两套结果,提示对话好听不等于任务完成。
Amazon 在 KDD 2026 发布开源基准 SOP-Bench,用领域专家撰写的真实 SOP 构建 12 个业务领域、超过 2000 个可运行任务,每个任务附带工具接口和标准答案,已在 GitHub 和 HuggingFace 开放。
Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验(共 904 次 rollout)上对比 GLM-5.3 (max) 与 Claude Fable 5 (max)。
推荐理由:基于 904 次 rollout 的实测数据,给出两模型成本与准确率的量化对比,可帮助团队在两者间做出路由选择。
Together AI 在 DeepSWE 全部 113 个任务上各跑 4 次试验(共 904 次 rollout)对比 GLM-5.3 与 GPT-5.6 Sol。
推荐理由:原文基于自跑 904 次 rollout 给出成本、pass@k 和失败模式数据,读者可据此设计两模型的级联路由策略。
Together AI 在 DeepSWE 全部 113 个任务上各跑四次对比 DeepSeek V4 Pro 0813 与 GPT-5.6 Sol,共 904 次运行。
推荐理由:原文基于同一批 904 次运行数据拆解两模型的成本与失败模式,并给出可复用的级联路由方案,比单独跑分更有参考价值。
Artificial Analysis 发布 Search Index,取 DeepSearchQA、BrowseComp 和 AA-Omniscience 三个基准等权平均,衡量搜索 API 质量。
Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验(共 904 次 rollout)上对比 DeepSeek V4 Pro 0813 与 Claude Fable 5。
推荐理由:原文基于同一批 904 次 rollout 的实测数据,给出两模型在 DeepSWE 上的成本与互补性对比,以及可复用的级联路由结果。
Epoch AI 在 Gradient Updates 中列出 9 个关于 AI 能力的大问题,涵盖 AI 能否胜任完整工作、哪些领域将出现下一个"Claude Code 时刻"、开源与闭源及中美模型差距是否跨领域一致、以及基准分数为何普遍高度相关。
LangChain 在 145 个智能体任务上评测了 NVIDIA NeMo Switchyard,结果显示仅 7% 的交互轮次需要前沿模型。通过路由策略,成本降低 74%,同时准确率仅下降 6 个百分点。
EleutherAI 与 Hugging Face 发布 FineBooks 项目首期成果 BHL OCR 排行榜,用 IMPACT 项目2011至2012年人工校对的 2,165 页 BHL 历史书籍转录(英法德拉丁语,约每两千字符一错)评测 14 个开源权重 OCR 模型。
Databricks 发布 OfficeQA Pro V2,一个用于评估企业落地推理能力的新基准。该基准旨在检验模型在真实办公场景中基于给定资料进行推理的准确性与可靠性,为企业级 AI 应用选型提供参考依据。
Together AI 在 113 个 DeepSWE 任务上对比 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna:Luna pass@1 为 67.2%,DeepSeek 为 53.3%,但 DeepSeek 每次 rollout 成本约 $0.10,仅为 Luna($0.61)的约六分之一。
推荐理由:原文基于同一轮 900 次 rollout 实测给出两款模型的成本、失败模式与分域表现,并提出可复用的低成本级联方案。
Epoch AI 将 FrontierMath: Open Problems 基准扩展到 50 道未解数学难题,目前 AI 已解出其中 3 道。其 Data Insight 测试 Pangram、GPTZero、Originality.ai 三个 AI 文本检测器,模仿特定作者文风生成的段落平均约 13% 未被检出,模仿科学写作时漏检率约 26%。
LangChain 构建了 ReviewBench,一个用于评测代码审查智能体的基准,其评估依据来自可信审查者对真实 PR 的反馈。该基准旨在衡量智能体在代码审查任务中的表现,为开发者提供更贴近实际场景的评测标准。