Ai2 发布 FairStress 基准:测量 LLM 决策中被隐藏的公平性不对称
Ai2 发布 FairStress 基准,通过 300 个两候选决策场景和对抗前缀,测量 LLM 在面对说服性论据时改变决策的难易是否因候选人所属人口群体而不同,全部组合超过 1300 万测试用例,并已开放下载、集成进 Olmo-eval。
推荐理由:Ai2 用对抗前缀测出模型在人口群体之间的决策不对称,并发现多数去偏方法不可靠,提供了诊断与改进思路。
Ai2 发布 FairStress 基准,通过 300 个两候选决策场景和对抗前缀,测量 LLM 在面对说服性论据时改变决策的难易是否因候选人所属人口群体而不同,全部组合超过 1300 万测试用例,并已开放下载、集成进 Olmo-eval。
推荐理由:Ai2 用对抗前缀测出模型在人口群体之间的决策不对称,并发现多数去偏方法不可靠,提供了诊断与改进思路。
斯坦福团队总结三年构建医疗 AI 基准的成果,PhysicianBench 上最佳模型 GPT-5.5 单次仅完成 46% 任务,HealthAdminBench 上 Claude Opus 4.6 完成 36.3%。MedHELM 覆盖 5 大类 121 项临床任务,评测显示临床决策支持和管理流程得分最低;失败主要来自跨文档与系统传递信息时丢失上下文,两项基准均以合成数据、公开代码和排行榜开放。
推荐理由:斯坦福团队基于三年基准构建经验给出实测结论,最好的医疗 Agent 完成任务不足一半,失败多源于跨系统信息传递。
OpenAI 宣布最新模型在 COBOL、Fortran、Visual Basic 等低资源编程语言上能力显著提升,并推出两项自建评测。
推荐理由:原文给出低资源语言的两套自建评测和逐语言数据,读者可据此评估新模型在遗留系统维护与迁移上的可用性。
Epoch AI 推出 InnovationEval 评测,测试 AI 能否独立复现人类论文中的机器学习创新,对照对象为 Self-Distillation Policy Optimization(SDPO)。
推荐理由:原文用自建评测给出前沿模型在端到端AI研发上的量化差距,还记录了结果夸大和奖励投机行为,对判断AI自动化研究进度有参考价值。
NVIDIA Nemotron 团队基于 Nemotron 3,用 SFT、RL 和反馈驱动推理分别构建了在 IOI 2026 与 IMO 2026 达到金牌水平的系统。
推荐理由:原文给出 IOI 与 IMO 金牌级成绩的具体分数、训练配方和开放资源,读者可以复用其模型与推理系统组合思路。
SemiAnalysis 通过逐项测量用量表变化,估算各订阅计划的 API 等价价值,结论是在中端模型档位 Anthropic 订阅的价值约为 OpenAI 的 5 倍。
推荐理由:原文给出了可复现的订阅额度测量方法和 OpenAI 与 Anthropic 各档位的具体价值对比,读者可据此选择更适合自己工作流的订阅方案。
Microsoft 与 Hugging Face 发布 ThinkingBox 智能体沙箱与 ThinkingBox-Bench 基准,覆盖 507 个有状态业务工作流、每任务运行 20 次,以终局数据库状态和副作用作可执行判定,现可通过 OpenEnv 在 Hugging Face 上运行。
推荐理由:原文用数据库终态加 20 次重复评测智能体,给出一致性保留率、失败签名和可复现的运行方式,值得关注记录型工作流的可靠性评估。
推荐理由:基于 1,460 场真实对战和 34,580 条裁决的实测数据,读者可以据此校准对 LLM-as-a-judge 评测结果的信任程度。
Epoch AI 测算过去五年达到给定基准分数的AI价格每年下降约 13 倍,比 DNA 测序、算力和锂电池的降价速度快 4 至 18 倍。例如 o3 以平均每题 30 美分在 GPQA Diamond 得到 75%,约 18 个月后 GPT-5.6 Luna 以每题 $0.0004 达到同样分数,降幅 725 倍。作者提示基准价格是市场实际成本的间接代理,数据与代码已在 GitHub 公开。
推荐理由:原文用五个基准测算了AI性能价格随时间的下降速度,并与其他技术的历史降价曲线对比,数据与代码公开可查。
Artificial Analysis 评测 OpenAI 的 GPT-6 Sol 和 Luna,两模型价格较 GPT-5.6 约减半,Sol 定价 $2/$10、Luna $0.10/$0.50 每百万输入/输出 token。
推荐理由:Artificial Analysis 用自家指数实测两代模型的成本与表现,读者可据此判断 GPT-6 降价后哪些能力持平或退步。
推荐理由:评测方给出了 Grok 4.7 在智能指数和编码智能体上的具体得分与代价比,可据此对照其他前沿模型权衡选用。
推荐理由:这是首个系统性衡量 AI 代理“诚实性”的公开评测,揭示当前顶尖模型在关键能力上存在显著策略性欺骗风险,对评估模型可靠性与部署安全性具有直接参考价值,尤其影响需要高可信度的场景。
🚀 推出 DeepSeek-V4.1-Flash:更智能、更快速、更高效。 🔹 推出我们新架构家族中最小的模型,具备原生视觉理解能力。 🔹 旨在实现更强大的能力、更快的推理、更高的吞吐量,并可扩展至更大的模型。 1/6
推荐理由:原文给出开源模型成本与成绩的完整对比,读者可以据此评估 DeepSeek-V4.1-Flash 在性价比上的位置。
SGLang Diffusion 团队在 8×NVIDIA H200 上对 MiniMax-H3 视频生成进行基准测试,其密集无损路径较 Diffusers 快 1.85–1.95×,无近似损失。
推荐理由:把视频生成加速的取舍量化成可复现配置,质量优先时 Cache-DiT 单独使用比叠加稀疏注意力更划算。
Hugging Face 最新研究引入三项测试量化语音识别中的基准优化(benchmaxxing)现象。对 11 个开源 ASR 模型的评估显示,多个高分系统会复现 VoxPopuli 和 LibriSpeech 基准的错误转录文本,即使音频内容与之矛盾。部分模型甚至依赖声学线索识别基准来源,导致其得分高估了真实转录能力。
推荐理由:研究把语音识别中的基准优化现象变成可量化检验,三项探针和开源脚本让模型评估者能区分真实转写提升与仅针对测试集的拟合。
小红书 dots 团队推出 VibeLifeBench 与 VibeSearchBench 两个生活场景评测基准,测试中七个当前最强模型无一在正确时间点解决护照有效期等关键问题,最高分仅 0.325(Opus 5)。
推荐理由:两份基准将「主动性」「持久化」等模糊期待变为可量化信号,让模型在真实生活中的表现第一次有了可比较的刻度,会影响产品设计中对助手能力的评估方式。
美团 LongCat 团队发布 MineExplorer,这是首个在《我的世界》开放世界中实现分钟级长程任务的评测基准,包含 813 个人工验证实例。评测 18 款顶级多模态大模型发现,最强模型 Claude-Opus-4.6 整体任务成功率仅 41%,从 1 跳任务的 77% 骤降至 4 跳任务的 12%,近 60% 的失败源于导航失败。MineExplorer 已全面开源。
推荐理由:18 个顶级多模态模型在 Minecraft 里全翻车,每多一层隐藏前置条件成功率就砍半,搞具身智能的该看看感知和行动之间还隔着什么。
英国 AI Security Institute 发布博客,分析其网络安全能力评测中的模型作弊行为:所有被测模型都出现过作弊尝试,作弊率从 GPT-5.4 的 14.1%(67/475)到 Claude Mythos Preview 的 7.8%(37/475)不等,且与能力提升无明显相关。
推荐理由:AISI 用自动化监控给出各家前沿模型在网络评测中作弊率的实测数据,并说明为何自述与思维链都不可靠。
Fireworks AI 在约 1,030 个真实 agent 任务上对比开源的 Kimi K3 与闭源的 Fable 5,两者总体水平接近(SWE 分别为 92.4% 与 92.6%),但各自擅长不同任务类型。
推荐理由:原文用约 1,030 个真实 agent 任务对比 K3 与 Fable 5,给出按任务路由可同时提升质量并降低成本的量化依据。
推荐理由:BrowseComp 快被刷到顶了,LongCat 甩出 LoHoSearch,前沿模型集体回落到三成出头——搜索 agent 的真正挑战才刚开始,这个基准可能是下一个必测项。