跳到正文
10月16日周五
  1. Artificial Analysis 完整文章61

    Reflection 发布首个开源权重模型 Beam,Artificial Analysis 评测得分 30 居美国开源模型第二

    Artificial Analysis 评测 Reflection 首个模型 Beam,其在 Artificial Analysis Intelligence Index 得 30 分,在美国开源权重模型中排第二,仅次于 Meta 的 Muse Spark Open(39)。

    推荐理由:第三方评测给出 Beam 在美国开源权重模型中的位置与 token 效率数据,可用于横向比较其智能体与编码能力。

  2. Arena.ai55

    Arena 评析 Reflection AI 的 Beam-1.0-501B-A23B,该模型以 -3.67% Net Improvement 位列 Agent Arena 开源模型第 12 名,是榜上排名最高的美国开源模型。

    引用Reflection@reflection_ai

    Introducing Beam: a highly efficient agentic open model with 501B total parameters and 23B active. - Frontier reasoning efficiency - Advances the Western open frontier on coding & agentic tasks - Trained end-to-end from scratch Full weights release this month. Learn more about Beam: http://reflection.ai/beam

  3. Xiaomi MiMo58

    小米 MiMo 宣布 MiMo V2.6 Pro 在 Agent Arena 开源模型榜单排名第一,净提升 +3.8%;引用 @arena 数据显示,Pro(每任务 $0.11)和 Flash(每任务 $0.05)是仅有的两个位于性能成本 Pareto 前沿的开源模型,Pro 比 #2 DeepSeek V4.1 Flash 成本低 15%,Flash 比 Pro 便宜 55% 但低 1.3 个百分点。

    引用Arena.ai@arena

    Exciting update: There’s a new leader in the Agent Arena among open models. MiMo V2.6 Pro by @XiaomiMiMo has landed the #1 spot with +3.8% net improvement! Earlier this week we evolved the Bash Recovery signal in Agent Arena (more info in thread). With this update, the new top 5 open models are: - #1 MiMo V2.6 Pro: +3.8% - #2 Deepseek V4.1 Flash (Max): +3.0% - #3 Hy4 preview: +2.9% - #4 MiMo V2.6 Flash: +2.5% - #5 GLM 5.2 (Max): +2.4% MiMo V2.6 Pro ($0.11 cost per task) and Flash ($0.05 cost per task) are the only two open models on the Agent Arena Pareto frontier! - Pro outperforms both #2 Deepseek V4.1 Flash while costing 15% less, and #3 Hy4 preview while costing 71% less. - Flash is 1.3 percentage points below Pro but is 55% cheaper. Congrats to the @XiaomiMiMo team on this contribution to the open ecosystem!

  4. Artificial Analysis 完整文章66

    Artificial Analysis 发布 NVIDIA Vera Rubin NVL72 首批 AA-AgentPerf 智能体推理评测

    Artificial Analysis 公布首批 AA-AgentPerf 结果,测试 NVIDIA Vera Rubin NVL72 在智能体编码工作负载下的服务效率,对比 GB300 NVL72。

    推荐理由:Artificial Analysis 实测四种模型在 Vera Rubin NVL72 与 GB300 上的每瓦吞吐,读者可据此评估新硬件对智能体推理服务成本的影响。

  5. Ethan Mollick70

    Ethan Mollick 引用 @arcprize 数据称,Gemini 4 Argon 在 ARC-AGI (Verified) 上 ARC-AGI-3 得分 97.5%(provider adapter harness,花费 $4.8K),标准 harness 下为 49.8%;ARC-AGI-2 得分 91.3%,ARC-AGI-1 得分 98.5%,Google DeepMind 是第二个在 ARC-AGI-3 上超过 95% 的前沿实验室。作者认为智能体框架加上更强模型意味着 METR Long Tasks、GDPval、ARC-AGI-3 这些著名难题基准相继失去区分度。

    引用ARC Prize@arcprize

    Gemini 4 Argon from @Google on ARC-AGI (Verified): - ARC-AGI-3: 97.5%, $4.8K (provider adapter harness), 49.8%, $5.8K (standard harness) - ARC-AGI-2: 91.3%, $0.32/task - ARC-AGI-1: 98.5%, $0.16/task Google DeepMind is the second frontier AI lab to score above 95% on ARC-AGI-3.

  6. LlamaIndex:产品、工程与评测47

    LlamaIndex 发布 ExtractBench Pro,聚焦文档抽取的长尾难题

    LlamaIndex 发布 ExtractBench Pro,这是基于真实长尾文档构建的 ExtractBench 扩展评测集,包含 100 份合成文档、六大类新挑战。该数据集由确定性流水线从种子和配置文件生成,覆盖图表取值、跨页规则、内部术语、图示关系等场景,刚性流水线表现吃力,而配备合适工具的智能体系统更能适应。

  7. Arena.ai78

    Arena 宣布 Meta 的 Muse Spark Open 已进入 Agent Arena,用户可实测,评分即将公布。该模型为 816B 总参数、42B 激活参数,1M token 上下文窗口,原生多模态。

    引用AI at Meta@AIatMeta

    今天我们发布 Muse Spark Open,这是迄今为止能力最强的美国开放权重模型。 专为编程和智能体工作打造,它擅长长周期任务、复杂软件工程和多步推理。 关键模型规格: → 816B 总参数 / 42B 激活参数 → 1M token 上下文窗口 → 原生支持文本、图像、视频、音频多模态

    推荐理由:Arena 官宣 Meta 新模型进入 Agent Arena 和 Code Arena,读者可自行实测并等待基于真实任务的评分。

  8. François Chollet65

    François Chollet 转发 @arcprize 的评测,称 Gemini 4 Argon 在 ARC-AGI-3 上表现与 Astra 相近,Google 回到前沿。引用数据显示 Gemini 4 Argon 在 ARC-AGI-3 得分 97.5%(provider adapter harness,花费 $4.8K)、标准 harness 下 49.8%($5.8K),ARC-AGI-2 得分 91.3%,ARC-AGI-1 得分 98.5%,Google DeepMind 是第二个在 ARC-AGI-3 上得分超过 95% 的前沿 AI 实验室。

    引用ARC Prize@arcprize

    Gemini 4 Argon from @Google on ARC-AGI (Verified): - ARC-AGI-3: 97.5%, $4.8K (provider adapter harness), 49.8%, $5.8K (standard harness) - ARC-AGI-2: 91.3%, $0.32/task - ARC-AGI-1: 98.5%, $0.16/task Google DeepMind is the second frontier AI lab to score above 95% on ARC-AGI-3.

  9. Artificial Analysis 完整文章69

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Nemotron 3.5 Bolt 74B-A9B

    Artificial Analysis 评测显示,NVIDIA 发布的 Nemotron 3.5 Super VL 以 26 分(另一处写作 26.5)登顶美国开源权重模型,智能达前代 Nemotron 3 Super(13 分)的两倍,且每任务输出 token 少约 60%(46k 对 114k)。

    同一件事,精选收录的是《NVIDIA 发布开源 Nemotron 3.5 Super VL 及 Bolt 两款边缘模型》

10月15日周四
  1. Google Developers Blog63

    Google 工程师讲解如何系统评测 AI 智能体,告别 vibe check

    Google Developers Blog 发布智能体评测实践指南,指出仅靠终端跑几个提示词的 vibe check 无法发现智能体重试循环、工具参数幻觉等隐性失败。

    推荐理由:原文给出从 CUJ 定义到 CI/CD 门禁的完整智能体评测流程,可用 agent-eval 工具包直接复现,避开四个常见评测陷阱。

  2. OpenBMB31

    MiniCPM-V 4.7 实现 370 tokens/sec?!🔥 很高兴看到社区不断突破推测解码的极限。 特别感谢 @Tech2Wild 的整理!🚀

    引用Tech2Wild@Tech2Wild

    So @OpenBMB MiniCPM v4.7 35B A3B Comes With a DSPARK Drafter. This Thing SPITS ! 370 tok/s • Total: 3,589 tokens in 10s • Aggregate: 370.0 tok/s sustained · 359.0 wall-avg · 351.8 peak burst • Per-stream decode: 370.0 high / 370.0 low / 370.0 avg tok/s • TTFT 0.30s avg · E2E 10s avg

  3. meng shao53

    Kombai 发布 Design Creativity Bench,用 80 个开放式 UI 任务评估模型设计创造力,最佳模型 GPT-6 Astra 得 65.5,人类参考为 92.3。

    引用Dipanjan Dey@Dipanjan_Dey

    ⚠️ Frontier AI models still fall significantly short of human designers on design creativity. ⚠️ Introducing Design Creativity Bench, a new benchmark evaluating AI models’ creativity on UI design tasks. Despite rapid advances in their ability to generate functional websites and product UIs, leading AI models still struggle to make creative design decisions. We evaluated 16 frontier models across 80 open-ended UI tasks, each adapted to two distinct product domains alongside human designer references. Existing UI benchmarks often measure a single output quality metric. Instead, we measure three dimensions of design creativity: - Originality: How distinct a model's designs are from other models' outputs for the same brief. - Creative Range: How much a model adapts its design decisions when the product domain changes. - Appropriateness: How well the generated UI satisfies the functional requirements of the brief. The results reveal a substantial gap in overall creativity: The best model, @OpenAI GPT-6 Astra, scores 65.5 against a human reference of 92.3. We're publishing the full leaderboard, methodology, and reproducible evaluation framework to make design creativity a measurable dimension of frontier model capability. 📊 Benchmark Leaderboard: https://kombai.com/benchmark/ 📄 Paper: https://arxiv.org/abs/2610.11539 🤗 HuggingFace Datasets: https://huggingface.co/datasets/Kombai/design-creativity-bench 🔗 Github: https://github.com/kombai-io/design-creativity-bench/

  4. Elon Musk67

    Musk 发文称 Grok Voice 3.0 已是全球领先的对话语音模型,并引用 Artificial Analysis 的评测:Grok Voice 3.0 以 86.9 分登顶 Speech to Speech Index,领先 GPT-Live-1(Astra, medium)的 83.2 和 Gemini 3.8 Live 的 82.6,较 Grok Voice 2.0 的 81.3 提升 5.6 分。该模型通过 Realtime API 提供,价格 $0.08 每分钟,Big Bench Audio 平均首音频延迟 0.81 秒,任务成功率 94.8% 居榜首。

    引用Artificial Analysis@ArtificialAnlys

    SpaceXAI 的 Grok Voice 3.0 是新的领先语音到语音模型,在 Artificial Analysis 语音到语音指数上以 86.9 首次亮相即排名第 1,同时在延迟方面也很有竞争力 Grok Voice 3.0 是 @SpaceXSI 的 Grok Voice 2.0 的继任者,这是一款可通过 SpaceXAI Realtime API 使用的语音到语音模型,价格为每分钟 $0.08。我们通过 SpaceXAI Realtime API 使用 Rex 语音对 Grok Voice 3.0 进行了评估。 关键要点: ➤ 语音到语音指数:Grok Voice 3.0 以 86.9 首次亮相即排名第 1,领先于 GPT-Live-1(Astra,medium)的 83.2、Gemini 3.8 Live Extended Thinking(High)的 82.6 和 GPT-Live-1(Sol,low)的 80.1。它高于 Grok Voice 2.0 的 81.3(+5.6 分)和 Grok Voice 1.0 的 73.7(+13.2 分),后者发布至今还不到六个月。该指数平均了语音推理(Big Bench Audio)、智能体性能(Tau Voice)、Arena 偏好和任务成功率 ➤ 语音智能体 Arena:Grok Voice 3.0 在偏好方面以 Elo 1070 排名第 3,落后于 Gemini 3.1 Flash Live Minimal(1100)和 Gemini 3.8 Live(1088),领先于 GPT-Live-1(Sol,low)的 1057,并以 94.8% 的任务成功率排名第 1,为榜单最高,略高于 Grok Voice 2.0 的 94.6%。Grok Voice 2.0 以 Elo 1011 落后 ➤ Tau Voice:Grok Voice 3.0 在我们实现的 Tau Voice 基准上以 71.6% 排名第 2,落后于 GPT-Live-1(Astra,medium)的 74.5%,领先于 Gemini 3.8 Live Extended Thinking(High)的 68.6% 和 GPT-Live-1(Sol,low)的 59.3%——高于 Grok Voice 2.0 的 56.5% ➤ Big Bench Audio:Grok Voice 3.0 在音频推理上得分 98.5%,领先于 Gemini 3.8 Live Extended Thinking(High)的 97.7% 和 Grok Voice 2.0 的 97.2% ➤ 速度:在 Big Bench Audio 上,Grok Voice 3.0 的平均首次音频时间为 0.81 秒,明显领先于 GPT-Live-1(Sol,low)的 1.24 秒、GPT-Live-1(Astra,medium)的 1.34 秒和 Gemini 3.8 Live Extended Thinking(High)的 1.35 秒,但慢于 Grok Voice 2.0 的 0.70 秒 ➤ 成本:Grok Voice 3.0 的输入音频成本为每小时 $4.80,与 Grok Voice 2.0 相同。这高于 GPT-Live-1(Sol,low)的 $4.47 和 Gemini 3.8 Live Extended Thinking(High)的 $3.50,低于 GPT-Live-1(Astra,medium)的 $5.83,并且比 GPT-Realtime-2.1 High 的 $10.75 便宜约 2.2 倍 祝贺 @elonmusk 和 @SpaceXSI 团队 🚀 更多详情见下方 ⬇️

    推荐理由:作者引用第三方评测数据,读者可以据此对比 Grok Voice 3.0 与同类语音模型在评分、延迟和价格上的差异。

  5. Arena.ai66

    Arena 发布基于超过 5000 次真实智能体会话的评测结果,Meta 的 Muse Wonder (Max) 进入 Agent Arena 第12名,净提升 +6.4%,比 Muse Spark 1.3 (Max) 高 +2.8 分并上升四位。

    引用Arena.ai@arena

    由 @AIatMeta 推出的 Muse Wonder (Max) 已进入 Code Arena:WebDev 以 1651 分位列第 15,Text Arena 以 1513 分位列第 2! 在 Code Arena:WebDev 中,Muse Wonder (Max) 以 1651 分位列第 15。这一结果略低于以 1659 分位列第 12 的 Muse Spark 1.3 (Max),与以 1655 分位列第 14 的 Kimi K3 (Max) 相差 4 分以内,并比以 1640 分位列第 16 的 Grok 4.7 (xHigh) 高 11 分。 此次发布在 Text Arena 中相较过去的 Muse 模型有显著提升。与以 1494 分位列第 11 的 Muse Spark 1.3 (Max) 相比,Muse Wonder (Max) 提升了 +19 分并上升 9 位至第 2。它落后于以 1525 分排名第 1 的 Gemini 4 Argon (High) 12 分。 祝贺 @AIatMeta 团队发布这一版本!

    推荐理由:原文基于5000多个真实智能体会话给出排名和成本对比,读者可据此衡量 Muse Wonder (Max) 的性价比变化。