Google Gemini 4 Argon 在 ARC-AGI-3 达 97.5%,但仍落后数学与软件工程前列
Google DeepMind 的 Gemini 4 Argon 在 ARC-AGI-3 上以 Provider Adapter Harness 取得 97.5%,成为继 OpenAI 之后第二家越过 95% 的实验室,成本 $4,800,但仍低于 GPT-6 Astra 的 99.9%。
Google DeepMind 的 Gemini 4 Argon 在 ARC-AGI-3 上以 Provider Adapter Harness 取得 97.5%,成为继 OpenAI 之后第二家越过 95% 的实验室,成本 $4,800,但仍低于 GPT-6 Astra 的 99.9%。
Artificial Analysis 评测 Reflection 首个模型 Beam,其在 Artificial Analysis Intelligence Index 得 30 分,在美国开源权重模型中排第二,仅次于 Meta 的 Muse Spark Open(39)。
推荐理由:第三方评测给出 Beam 在美国开源权重模型中的位置与 token 效率数据,可用于横向比较其智能体与编码能力。
Introducing Beam: a highly efficient agentic open model with 501B total parameters and 23B active. - Frontier reasoning efficiency - Advances the Western open frontier on coding & agentic tasks - Trained end-to-end from scratch Full weights release this month. Learn more about Beam: http://reflection.ai/beam
Liquid AI 发布决策模型 d1-ultra,以 65 分登顶 Artificial Analysis Decision Index v1.0,领先 Jev 1.14 的 57 分。
Exciting update: There’s a new leader in the Agent Arena among open models. MiMo V2.6 Pro by @XiaomiMiMo has landed the #1 spot with +3.8% net improvement! Earlier this week we evolved the Bash Recovery signal in Agent Arena (more info in thread). With this update, the new top 5 open models are: - #1 MiMo V2.6 Pro: +3.8% - #2 Deepseek V4.1 Flash (Max): +3.0% - #3 Hy4 preview: +2.9% - #4 MiMo V2.6 Flash: +2.5% - #5 GLM 5.2 (Max): +2.4% MiMo V2.6 Pro ($0.11 cost per task) and Flash ($0.05 cost per task) are the only two open models on the Agent Arena Pareto frontier! - Pro outperforms both #2 Deepseek V4.1 Flash while costing 15% less, and #3 Hy4 preview while costing 71% less. - Flash is 1.3 percentage points below Pro but is 55% cheaper. Congrats to the @XiaomiMiMo team on this contribution to the open ecosystem!
Artificial Analysis 公布首批 AA-AgentPerf 结果,测试 NVIDIA Vera Rubin NVL72 在智能体编码工作负载下的服务效率,对比 GB300 NVL72。
推荐理由:Artificial Analysis 实测四种模型在 Vera Rubin NVL72 与 GB300 上的每瓦吞吐,读者可据此评估新硬件对智能体推理服务成本的影响。
Artificial Analysis 在其 agentic 推理基准 AA-AgentPerf 上发布 NVIDIA Vera Rubin NVL72 的首批结果。
Gemini 4 Argon from @Google on ARC-AGI (Verified): - ARC-AGI-3: 97.5%, $4.8K (provider adapter harness), 49.8%, $5.8K (standard harness) - ARC-AGI-2: 91.3%, $0.32/task - ARC-AGI-1: 98.5%, $0.16/task Google DeepMind is the second frontier AI lab to score above 95% on ARC-AGI-3.
在我们为此任务生成的内部测试集上,与其他 Decisions 模型以及 Claude Code 使用 Sonnet 5 的情况相比,Jev 1.13 的准确率最高、成本最低。
LlamaIndex 发布 ExtractBench Pro,这是基于真实长尾文档构建的 ExtractBench 扩展评测集,包含 100 份合成文档、六大类新挑战。该数据集由确定性流水线从种子和配置文件生成,覆盖图表取值、跨页规则、内部术语、图示关系等场景,刚性流水线表现吃力,而配备合适工具的智能体系统更能适应。
今天我们发布 Muse Spark Open,这是迄今为止能力最强的美国开放权重模型。 专为编程和智能体工作打造,它擅长长周期任务、复杂软件工程和多步推理。 关键模型规格: → 816B 总参数 / 42B 激活参数 → 1M token 上下文窗口 → 原生支持文本、图像、视频、音频多模态
推荐理由:Arena 官宣 Meta 新模型进入 Agent Arena 和 Code Arena,读者可自行实测并等待基于真实任务的评分。
Gemini 4 Argon from @Google on ARC-AGI (Verified): - ARC-AGI-3: 97.5%, $4.8K (provider adapter harness), 49.8%, $5.8K (standard harness) - ARC-AGI-2: 91.3%, $0.32/task - ARC-AGI-1: 98.5%, $0.16/task Google DeepMind is the second frontier AI lab to score above 95% on ARC-AGI-3.
Artificial Analysis 评测显示,NVIDIA 发布的 Nemotron 3.5 Super VL 以 26 分(另一处写作 26.5)登顶美国开源权重模型,智能达前代 Nemotron 3 Super(13 分)的两倍,且每任务输出 token 少约 60%(46k 对 114k)。
同一件事,精选收录的是《NVIDIA 发布开源 Nemotron 3.5 Super VL 及 Bolt 两款边缘模型》
推荐理由:ARC Prize 公布了 Gemini 4 Argon 在 ARC-AGI 三个版本上的得分与成本,读者可据此比较不同 harness 设置的差异。
我们将 Eleven v4——我们最新的语音模型——与其他模型在八种语言中进行了盲测。 在每项测试中,听众都认为它更具表现力。
研究者在 TheoPhysEval 基准上测试商用 AI 智能体解决理论物理研究问题,OpenAI 的 GPT-6-Astra 在 Codex 环境中解出 50 题中的 49 题,平均每题不到 3 美元,全套基准总成本约 116 美元。
Google Developers Blog 发布智能体评测实践指南,指出仅靠终端跑几个提示词的 vibe check 无法发现智能体重试循环、工具参数幻觉等隐性失败。
推荐理由:原文给出从 CUJ 定义到 CI/CD 门禁的完整智能体评测流程,可用 agent-eval 工具包直接复现,避开四个常见评测陷阱。
感谢 @atomic_chat_hq 在本地测试 Ling-3.1-flash,并分享 LEGO 埃菲尔铁塔演示!🧱
Ling 3.1 Flash running locally beat GPT-6 Luna at LEGO Eiffel Tower 🧱 @AntLingAGI just dropped Ling 3.1 Flash open weights and it crushed GPT-6 Luna on the same @threejs prompt for 2.8x cheaper Run AI models locally -> http://atomic.chat
MiniCPM-V 4.7 实现 370 tokens/sec?!🔥 很高兴看到社区不断突破推测解码的极限。 特别感谢 @Tech2Wild 的整理!🚀
So @OpenBMB MiniCPM v4.7 35B A3B Comes With a DSPARK Drafter. This Thing SPITS ! 370 tok/s • Total: 3,589 tokens in 10s • Aggregate: 370.0 tok/s sustained · 359.0 wall-avg · 351.8 peak burst • Per-stream decode: 370.0 high / 370.0 low / 370.0 avg tok/s • TTFT 0.30s avg · E2E 10s avg
Kombai 发布 Design Creativity Bench,用 80 个开放式 UI 任务评估模型设计创造力,最佳模型 GPT-6 Astra 得 65.5,人类参考为 92.3。
⚠️ Frontier AI models still fall significantly short of human designers on design creativity. ⚠️ Introducing Design Creativity Bench, a new benchmark evaluating AI models’ creativity on UI design tasks. Despite rapid advances in their ability to generate functional websites and product UIs, leading AI models still struggle to make creative design decisions. We evaluated 16 frontier models across 80 open-ended UI tasks, each adapted to two distinct product domains alongside human designer references. Existing UI benchmarks often measure a single output quality metric. Instead, we measure three dimensions of design creativity: - Originality: How distinct a model's designs are from other models' outputs for the same brief. - Creative Range: How much a model adapts its design decisions when the product domain changes. - Appropriateness: How well the generated UI satisfies the functional requirements of the brief. The results reveal a substantial gap in overall creativity: The best model, @OpenAI GPT-6 Astra, scores 65.5 against a human reference of 92.3. We're publishing the full leaderboard, methodology, and reproducible evaluation framework to make design creativity a measurable dimension of frontier model capability. 📊 Benchmark Leaderboard: https://kombai.com/benchmark/ 📄 Paper: https://arxiv.org/abs/2610.11539 🤗 HuggingFace Datasets: https://huggingface.co/datasets/Kombai/design-creativity-bench 🔗 Github: https://github.com/kombai-io/design-creativity-bench/
Datalab 发布开源文档解析基准 OmniParseBench,用 16,288 项 yes/no 测试覆盖 2,937 页、2,343 份文档和 92 种语言,数据集与代码公开。
Artificial Analysis 发布研究预览版基准 AA-Robotics v0.1,让前沿大语言模型在编码 Agent 环境中直接操控 6 轴机械臂完成 8 项桌面任务。
Artificial Analysis 发布 AA-Robotics v0.1,用 8 项实体任务评测具身智能,包括按红色按钮、把鳄鱼玩具放进矩形、倒饮料、整理积木、形状匹配、写 hello world、搭最高塔和测量盒子。
Artificial Analysis 发布 AA-Robotics v0.1 研究预览,测试前沿语言模型控制 6 轴机械臂在物理世界理解、规划和执行的能力,首批公布八个任务的结果。
SpaceXAI 的 Grok Voice 3.0 是新的领先语音到语音模型,在 Artificial Analysis 语音到语音指数上以 86.9 首次亮相即排名第 1,同时在延迟方面也很有竞争力 Grok Voice 3.0 是 @SpaceXSI 的 Grok Voice 2.0 的继任者,这是一款可通过 SpaceXAI Realtime API 使用的语音到语音模型,价格为每分钟 $0.08。我们通过 SpaceXAI Realtime API 使用 Rex 语音对 Grok Voice 3.0 进行了评估。 关键要点: ➤ 语音到语音指数:Grok Voice 3.0 以 86.9 首次亮相即排名第 1,领先于 GPT-Live-1(Astra,medium)的 83.2、Gemini 3.8 Live Extended Thinking(High)的 82.6 和 GPT-Live-1(Sol,low)的 80.1。它高于 Grok Voice 2.0 的 81.3(+5.6 分)和 Grok Voice 1.0 的 73.7(+13.2 分),后者发布至今还不到六个月。该指数平均了语音推理(Big Bench Audio)、智能体性能(Tau Voice)、Arena 偏好和任务成功率 ➤ 语音智能体 Arena:Grok Voice 3.0 在偏好方面以 Elo 1070 排名第 3,落后于 Gemini 3.1 Flash Live Minimal(1100)和 Gemini 3.8 Live(1088),领先于 GPT-Live-1(Sol,low)的 1057,并以 94.8% 的任务成功率排名第 1,为榜单最高,略高于 Grok Voice 2.0 的 94.6%。Grok Voice 2.0 以 Elo 1011 落后 ➤ Tau Voice:Grok Voice 3.0 在我们实现的 Tau Voice 基准上以 71.6% 排名第 2,落后于 GPT-Live-1(Astra,medium)的 74.5%,领先于 Gemini 3.8 Live Extended Thinking(High)的 68.6% 和 GPT-Live-1(Sol,low)的 59.3%——高于 Grok Voice 2.0 的 56.5% ➤ Big Bench Audio:Grok Voice 3.0 在音频推理上得分 98.5%,领先于 Gemini 3.8 Live Extended Thinking(High)的 97.7% 和 Grok Voice 2.0 的 97.2% ➤ 速度:在 Big Bench Audio 上,Grok Voice 3.0 的平均首次音频时间为 0.81 秒,明显领先于 GPT-Live-1(Sol,low)的 1.24 秒、GPT-Live-1(Astra,medium)的 1.34 秒和 Gemini 3.8 Live Extended Thinking(High)的 1.35 秒,但慢于 Grok Voice 2.0 的 0.70 秒 ➤ 成本:Grok Voice 3.0 的输入音频成本为每小时 $4.80,与 Grok Voice 2.0 相同。这高于 GPT-Live-1(Sol,low)的 $4.47 和 Gemini 3.8 Live Extended Thinking(High)的 $3.50,低于 GPT-Live-1(Astra,medium)的 $5.83,并且比 GPT-Realtime-2.1 High 的 $10.75 便宜约 2.2 倍 祝贺 @elonmusk 和 @SpaceXSI 团队 🚀 更多详情见下方 ⬇️
推荐理由:作者引用第三方评测数据,读者可以据此对比 Grok Voice 3.0 与同类语音模型在评分、延迟和价格上的差异。
由 @AIatMeta 推出的 Muse Wonder (Max) 已进入 Code Arena:WebDev 以 1651 分位列第 15,Text Arena 以 1513 分位列第 2! 在 Code Arena:WebDev 中,Muse Wonder (Max) 以 1651 分位列第 15。这一结果略低于以 1659 分位列第 12 的 Muse Spark 1.3 (Max),与以 1655 分位列第 14 的 Kimi K3 (Max) 相差 4 分以内,并比以 1640 分位列第 16 的 Grok 4.7 (xHigh) 高 11 分。 此次发布在 Text Arena 中相较过去的 Muse 模型有显著提升。与以 1494 分位列第 11 的 Muse Spark 1.3 (Max) 相比,Muse Wonder (Max) 提升了 +19 分并上升 9 位至第 2。它落后于以 1525 分排名第 1 的 Gemini 4 Argon (High) 12 分。 祝贺 @AIatMeta 团队发布这一版本!
推荐理由:原文基于5000多个真实智能体会话给出排名和成本对比,读者可据此衡量 Muse Wonder (Max) 的性价比变化。