跳到正文

技术方向

推理能力 最新动态

让大模型先想再答的能力:思维链、推理模型,数学与逻辑评测上的突破和争议。

574 条精选近 30 天 41 条共收录 2,952 条

更新

大事记

重要进展
查看更早 19 件大事

推理能力的精选

10月27日周二第 1–20 条
  1. IT之家·人工智能85

    OpenAI 宣布 AI 模型取得三项科学突破,涉及局部光滑猜想、指数时间假设与杨–米尔斯理论

    OpenAI 于 10 月 27 日宣布其 AI 模型在数学、计算机科学和物理学领域取得三项研究突破。数学上给出了所有维度下局部光滑猜想的证明,从而解决挂谷猜想与斯坦因限制猜想;计算机科学上给出推翻指数时间假设(ETH)的证明,暗示相关计算任务可能有更快算法;物理学上提出量子色动力学及标准模型一种统一完备化的严格存在性证明,涉及杨–米尔斯千禧年难题的一部分。

    推荐理由:原文梳理了三项成果的数学背景和验证方式,并注明仍待学术界独立确认,读者可据此把握证据强度。

  2. OpenAI:官网动态85

    OpenAI 宣布模型产出三项数学成果并与学界协作发布

    OpenAI 宣布其模型在调和分析、复杂度理论和量子场论方面取得三项成果,包括证明各维度的 local smoothing 猜想(进而解决 Kakeya 猜想与 Stein 限制猜想)、在 Lean 中验证 ETH 为假、以及给出 QCD 与纯 Yang–Mills 理论的严格存在性证明。

    推荐理由:原文由当事方直接披露三项数学成果和三种外部协作发布模式,读者可据此了解其结果透明度与验证安排。

10月24日周六
10月20日周二
  1. 公众号:面壁智能68

    面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行

    面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s。

    推荐理由:原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。

  2. Inception Labs:Blog69

    Inception Labs 发布扩散大语言模型 Mercury 3,速度达 1068 tokens/秒

    Inception Labs 发布扩散式大语言模型 Mercury 3,称其在多项基准上超过 GPT-6 Luna 和 Claude Haiku 5.5,速度达 1068 tokens/秒,参数量较 Mercury 1 扩大 40 倍以上。

    推荐理由:官方发布给出扩散模型规模化的关键数据,包括速度、上下文和价格,可用作评估实时 AI 应用选型的参考。

10月19日周一
10月17日周六
  1. Anthropic:Research73

    Anthropic 用 Claude Mythos 5 设计出更高效的量子电路,多项超过已发表最优设计

    Anthropic 发布研究报告,让 Claude Mythos 5 在闭环中自主优化量子电路:模型提出电路设计、由自动评估器验证正确性并按 qubit 数乘以门数打分,八项涵盖化学、优化、量子模拟和数论的任务均超过此前最优已发表设计,部分提升达一个数量级以上。

    推荐理由:Anthropic 自己的研究,给出 Claude 优化量子电路的具体方法和量化改进,对理解 AI 辅助科学发现有参考价值。

10月16日周五
  1. Artificial Analysis 完整文章66

    Artificial Analysis 发布 NVIDIA Vera Rubin NVL72 首批 AA-AgentPerf 智能体推理评测

    Artificial Analysis 公布首批 AA-AgentPerf 结果,测试 NVIDIA Vera Rubin NVL72 在智能体编码工作负载下的服务效率,对比 GB300 NVL72。

    推荐理由:Artificial Analysis 实测四种模型在 Vera Rubin NVL72 与 GB300 上的每瓦吞吐,读者可据此评估新硬件对智能体推理服务成本的影响。

  2. vLLM 官方博客75

    vLLM 提供 Muse Spark Open Day 0 支持

    vLLM 与 Meta Superintelligence Labs 合作,在发布当天即支持开源 MoE 模型 Muse Spark Open。该模型总参数 816B、每 token 激活 42B、上下文窗口 1M,面向长程智能体编码工作流。

    推荐理由:vLLM 官方给出了 Muse Spark Open 的架构细节、量化版本与完整部署命令,读者可直接照此在生产环境上手推理与 LoRA RL。

  3. Apple Machine Learning Research60

    Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型

    Apple 机器学习研究团队演示如何在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 等前沿模型,使用今天发布的新版 MLX(v0.30.1 起)与 macOS 26.2 的 RDMA over Thunderbolt 驱动。

    推荐理由:Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

10月15日周四
  1. StepFun66

    StepFun 表示 Step 5 Preview 在 NVIDIA GB300 上推理表现出色,并期待看到开发者用它构建的应用。其转发的 NVIDIA 内容称该模型是 StepFun 最大的开源权重发布,600B MoE 架构,可处理最长 24 小时的 Agent 任务,在 GB300 上用 NVFP4 达到近 8K tokens/sec/GPU,提供 NVFP4 checkpoint(https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4),并支持 SGLang、vLLM、NeMo Automodel 后训练和 NVIDIA NIM 一键部署。

    引用NVIDIA AI@NVIDIAAI

    恭喜 StepFun 发布 Step 5 Preview 🙌 这是他们规模最大的开放权重发布。 这个 600B MoE 模型专为处理长达 24 小时的 agent 任务而构建。 该模型在 NVIDIA GB300 上使用 NVFP4,运行速度接近 8K tokens/sec/GPU。 NVP4 checkpoint:https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4 使用 @SGL_project 部署 - https://docs.sglang.io/cookbook/autoregressive/StepFun/Step-5-Preview 或 @vLLM_project - https://recipes.vllm.ai/stepfun-ai/Step-5-Preview 使用 NeMo Automodel 进行后训练:https://github.com/NVIDIA-NeMo/Automodel/blob/main/docs/model-coverage/llm/stepfun-ai/step-5-preview.mdx 使用 NVIDIA NIM 通过单条命令运行它:https://catalog.ngc.nvidia.com/orgs/nim/nvidia/containers/vllm-model-free-nim-experimental/-

    推荐理由:原文补充了 Step 5 Preview 在 NVIDIA GB300 上的推理表现和 NVFP4 权重入口,可帮助开发者评估部署选择。

  2. vLLM 官方博客60

    vLLM 推出无需置信头的在线拟合接受估计器,让 EAGLE、MTP 等草稿模型可用 Adaptive Verification

    vLLM 支持 confidence scoring 扩展到所有基于草稿模型的投机类型,通过在线拟合的 logistic 回归从草发者 logits 推导 logit(q_max) 特征来预测目标模型的接受概率,作为 Adaptive Verification 的置信分。

    推荐理由:原文给出无置信头草稿模型启用 Adaptive Verification 的在线估计方法、设计取舍和实测数据,方法可直接在 vLLM 中配置复用。

  3. 蚂蚁百灵:Developer Blog65

    蚂蚁百灵开源 Ling-3.1-flash:总参数约 560B、每 Token 激活约 25B,支持 1M 上下文

    蚂蚁百灵正式开源 Ling-3.1-flash,权重可在 Hugging Face 和 ModelScope 获取。模型总参数约 560B、每 Token 激活约 25B、最高支持 1M 上下文;经 MXFP4 与 block-FP8 量化后权重占用从约 534GB 降至 292GB,Hopper GPU 测试中服务部署由 8 卡降至 4 卡。

    推荐理由:官方开源公告给出权重入口、Artificial Analysis 与 Design Arena 评测数据和 4 卡部署实测,便于评估自部署可行性。

10月14日周三
10月13日周二
  1. Amazon Science61

    AWS 提出 priming 方法,可将预训练 Transformer 改造成混合状态空间架构

    AWS 团队发布论文《Priming: Hybrid state space models from pre-trained Transformers》,提出 priming 方法,复用预训练 Transformer 权重构建混合架构,将预训练成本降低逾 99%,全流程消耗不足源模型 0.5% 的 token 预算。

    推荐理由:AWS 团队提出 priming 方法,把预训练 Transformer 改造成混合架构的预训练成本降低逾 99%,并开源了 8B 和 32B 模型与代码。