跳到正文

技术方向

推理能力 最新动态

让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。

566 条精选近 30 天 46 条共收录 2,839 条

更新

精选归档 · 第 13 页

6月16日周二第 241–260 条
  1. 公众号：蚂蚁百灵79

    蚂蚁百灵发布 Ling & Ring 2.6 技术报告

    蚂蚁百灵发布 Ling & Ring 2.6 技术报告，系统公开 Ling-2.6-flash、Ling-2.6-1T 和 Ring-2.6-1T 的架构、预训练、后训练及 Agent 强化学习细节。三款模型采用 Hybrid Linear Attention 架构，将 Lightning Attention 与 MLA 以 7:1 比例结合。Ling-2.6-flash 在 4×H20 硬件上解码速度达 340 tokens/s，Ling-2.6-1T 在 Artificial Analysis Intelligence Index 上 token efficiency 较前代提升约 4 倍。Ring-2.6-1T high 在 PinchBench 得 87.60，ClawEval 得 63.82。三款模型均已开源。

    推荐理由：蚂蚁百灵2.6技术报告首次公开Hybrid Linear Attention与KPop Agent RL细节，开源模型在OpenClaw登顶，把万亿模型从聊天拉到真实工作流，做Agent应用的值得细读。

  2. 公众号：蚂蚁百灵77

    蚂蚁百灵发布 Ling & Ring 2.6 技术报告

    蚂蚁百灵发布 Ling & Ring 2.6 技术报告，公开 2.6 系列在架构、预训练、后训练及 Agent 强化学习等细节。该系列采用 Lightning Attention 与 MLA 以 7:1 比例结合的混合线性注意力架构，预训练处理约 9.6T tokens，上下文扩展至 256K。

    推荐理由：报告系统公开了万亿参数模型在架构迁移、Agent RL和推理基础设施上的完整技术链路，为设计高性能Agent系统提供了可复现的工程方案。

  3. LMSYS Blog67

    下一代投机解码：DFlash 与 Spec V2

    Z Lab、Modal 与 SGLang 团队联合发布 DFlash 投机解码模型和 SGLang 的默认 Spec V2 引擎。DFlash 采用块扩散+KV 注入并行生成整块 draft token，在 Qwen 3.5 397B-A17B（BF16）的 HumanEval 数据集上、并发 1 时吞吐量达到基线的 4.3

    推荐理由：DFlash 用并行起草和 KV 注入实现了实测 4.3 倍吞吐，再加上 SGLang Spec V2 引擎优化，推理加速不再是纸上谈兵。做 LLM 部署和推理服务的人，可以直接用这个组合试试。

  4. Berkeley RDI：Blog68

    SageCTF：最强大CTF挑战AI智能体

    UC Santa Barbara与UC Berkeley团队基于OpenSage框架构建了CTF专用智能体SageCTF。在DEF CON CTF 2026资格赛中，SageCTF以单人玩家身份尝试15道挑战，成功攻克7道、恢复8个flag，总计1,743分，排名前5%，超越全部自评“不使用AI”或“低AI”的175支团队。在50道近期CTF挑战的对比测试中，SageCTF以Claude-Opus-4.6为主模型，在相同预算（每道$200/10小时）下解出39道，而Claude Code仅解出13道，且Claude Code的解出全部被SageCTF覆盖。技术核心包括AI自生成拓扑、多智能体通信、分层记忆及多模型协同编排。

    推荐理由：SageCTF 在 DEF CON CTF 排进前 5%，是 AI agent 在顶级安全竞赛中的首次重大突破。OpenSage 的自构建多智能体架构和十小时持续探索的能力，给做复杂推理工具的人提供了真参考。

6月15日周一
  1. 公众号：MiniMax72

    MiniMax 开源原生多模态旗舰模型 M3，总参数 428B

    MiniMax 上周五开源 M3 模型权重，并发布 MSA 稀疏注意力技术论文。M3 总参数 428B、激活参数 23B，是首个从 Step 0 进行多模态混合训练的开源模型，发布两周即在 Artificial Analysis 综合智能指数上位列全球开源模型第一。目前输出速度已从约 30 TPS 提升至约 80 TPS，官方称还将继续提速 30-40%。

    推荐理由：MSA 注意力机制让长上下文计算成本大幅下降，对于在长文档处理或复杂推理场景下需要控制成本的团队，M3 的开源提供了一种新的选型依据。

  2. 公众号：月之暗面69

    6倍速！Kimi K2.7 Code 高速版已上线

    Kimi K2.7 Code 高速版上线，与普通版为同一模型，输出速度约 5-6 倍，常规编程场景约 180 Token/s，短上下文可达 260 Token/s。API 定价为普通版 2 倍，模型 ID：kimi-k2.7-code-highspeed。Kimi Code Plan 用户可通过「抢先体验计划」使用，用量消耗为普通版 3 倍。使用须开启思考模式，关闭会报错或回退至 K2.6。庆祝发布，Kimi API 开放平台推出为期三周充赠活动，充值 500 元及以上享 20%-30% 代金券。相比 K2.6，K2.7 Code 在长上下文编程指令遵循、长程任务性能提升，平均 token 消耗减少 30%，内部基准测试显著提升。普通版输入 6.5 元/百万 token、输出 27 元，缓存输入 1.3 元。非编程任务推荐 K2.6。

    推荐理由：这不是 K2.7 的换代，而是给开发者开了条高速车道，180 token/s 让代码补全几乎无感，虽然贵但省时间，重度编程用户值得切。

  3. 公众号：月之暗面62

    Kimi K2.7 Code 高速版上线：输出速度约 5-6 倍，API 定价为普通版 2 倍

    Kimi K2.7 Code 高速版已上线，与普通版为同一模型，输出速度约 5-6 倍，常规编程场景下约 180 Token/s，短上下文可达 260 Token/s，API 定价为普通版的 2 倍。

    推荐理由：代码生成延迟是编程模型体验的关键短板，180 token/s 的高输出速度使长上下文任务中的等待感显著缩短，而 2 倍定价并没有让成本增速高于效率提升。

6月14日周日
6月13日周六
  1. IT之家·人工智能73

    SemiAnalysis 洞察 Token 经济：200 美元 AI 订阅榨出 70 倍用量

    SemiAnalysis 购买了 Anthropic 和 OpenAI 的全部订阅方案，模拟高强度编码任务直至触及每周上限。月费 200 美元的 Claude Max 20x 方案，按 API 价格换算最高可消耗约值 8000 美元的 token；ChatGPT Pro 20x 方案对应最高约值 14000 美元的 token。用户通过订阅可获取 40 至 70 倍的 API 价值，该机构指出这种价格体系在重度用户持续榨满上限后可能难以长期维持。

    推荐理由：SemiAnalysis 通过高强度编码测试戳破了 200 美元订阅的真实性价比，虽然数据来自推文未附复现步骤，但这个价差足够让重度用户重新算账。

  2. MiniMax (official)82

    MiniMax M3 发布，具备前沿编码与智能体能力，原生图像视频输入和计算机使用，1M-token 上下文。核心采用 MSA 稀疏注意力：每个 query 评分 128-token KV 块，仅对 top 块做注意力。vLLM 当日即支持 M3，包括专用 MSA prefill/decode 核、前缀缓存与分块 prefill、BF16 和 MXFP8 检查点、Hopper 与 Blackwell 的 MoE 后端，并在 NVIDIA 与 AMD 硬件上验证。同时支持原生多模态输入、工具调用、推理解析和思考模式控制等智能体工作负载。

    引用vLLM@vllm_project

    🎉 恭喜 @MiniMax_AI 发布 MiniMax M3！前沿的编程与智能体能力、原生图像和视频输入、计算机使用，以及 100 万 token 上下文窗口，全部集成在一个开放模型中。 M3 的核心是 MSA，一种全新的稀疏注意力架构：它不再对完整的 KV 缓存进行密集注意力计算，而是让每个查询对 128 token 的 KV 块打分，并仅对得分最高的块运行注意力。这正是让 100 万 token 上下文变得可实际服务的关键。 M3 在 vLLM 中实现首日支持，并已在 NVIDIA 和 AMD 硬件上验证： ✨ 带专用 prefill 和 decode 内核的 MSA 稀疏注意力 ✨ 支持前缀缓存和分块 prefill 的 100 万 token 上下文服务 ✨ BF16 和 MXFP8 检查点，同时为 Hopper 和 Blackwell 提供 MoE 后端 ✨ 原生多模态输入（图像 + 视频） ✨ 面向智能体工作负载的工具调用、推理解析和思考模式控制 这样的首日支持是真正的团队协作成果。感谢 @MiniMax_AI、@NVIDIAAI、@AIatAMD 和 @inferact 的团队，以及 vLLM 社区让这一切成为可能。🙏 深入了解实现细节、内核工作和部署方案： 🔗 https://vllm.ai/blog/2026-06-12-minimax-m3-vllm

    推荐理由：M3把1M上下文从‘理论上能做’变成了‘今天就能部署’，MSA稀疏注意力是关键，开源社区和推理框架的深度合作值得关注。

6月12日周五
  1. Kimi.ai70

    Kimi 发布并开源最新代码模型 Kimi-K2.7-Code。相比 K2.6，其在 Kimi Code Bench v2 上提升 +21.8%，Program Bench 提升 +11.0%，MLS Bench Lite 提升 +31.5%。推理效率改进，推理 token 使用量降低 30%，长时编码任务中指令遵循和端到端成功率均提升。6x 高速模式即将推出，即日起可通过 Kimi API 和 Kimi Code 使用。

    推荐理由：月之暗面这次把编码模型做到 K2.7 还直接开源，Bench 提升不小，关键是把「想太多」的毛病治了，推理 token 省了三成，做 coding agent 的可以立刻换上试试。

  2. vLLM 官方博客70

    vLLM 发布 MiniMax M3 Day-0 支持：1M 上下文多模态推理

    vLLM 宣布对 MiniMax M3 的 day-0 支持，覆盖 BF16 与 MXFP8 检查点，支持 1M-token 上下文、原生图像视频输入、minimax_m3 工具与推理解析器、EAGLE3 推测解码（草稿模型 Inferact/MiniMax-M3-EAGLE3）以及 TP/EP 部署和 Docker 镜像。

    推荐理由：官方团队拆解了 MSA 稀疏注意力、MXFP8 MoE 与 EAGLE3 在推理引擎中的落地细节，部署者可以照此选择 NVIDIA 或 AMD 配置并理解瓶颈所在。

6月11日周四
  1. 公众号：腾讯混元78

    腾讯混元 AI Infra 新开源：HPC-Ops 推理核心算子全面升级

    腾讯混元 AI Infra 团队开源升级 HPC-Ops 推理算子库，推出五大核心算子。Attention 采用运行时动态负载调度，长文本最高加速 2.95x，端到端 QPM 提升 17%；Router GEMM 以双 BF16 组合实现 FP32 精度，对比 CuBLAS FP32 最高提速 3.22x；FusedMoE 相对 vLLM、SGLang 性能提升 1.2x～1.6x；Fused AllReduce+Norm 对比主流方案最高提速 1.68x；Sampler 将解码采样融合为 2 个 CUDA Kernel，相对 vLLM 提速 4.0x～7.5x。所有能力均来自生产实践并完全开源。

    推荐理由：腾讯混元把推理全链路的瓶颈都加速了一遍，Sampler 算子比 vLLM 快 4-7 倍，Attention 动态调度根治长尾延迟，这套开源算子库可以直接用，做推理部署的可以抄作业。

  2. OpenRouter：Announcements64

    Gemini 2.5 Flash API - 定价、快速入门与提供商比较

    Gemini 2.5 Flash API 支持配置思考预算（thinking budgets），用户可跨提供商进行比较，并在5分钟内完成首次API调用。

    推荐理由：这是 OpenRouter 上接入 Gemini 2.5 Flash 的保姆级指南，把三家 Google 提供商的延迟和定价差异摆在明面上，需要做模型选型和成本估算的开发者可以直接抄里面的 quickstart 代码。

  4. Google DeepMind：Blog72

    DiffusionGemma：文本生成速度提升4倍的开源扩散模型

    Google DeepMind 发布开源实验模型 DiffusionGemma，采用文本扩散技术，突破自回归逐 token 生成方式，每次前向并行生成 256 个 token。该 26B MoE 模型推理时仅激活 3.8B 参数，量化后适配 18GB 显存消费级 GPU。在 H100 上达 1000+ tokens/s，RTX 5090 上 700+ tokens/s，速度提升 4 倍。具备双向注意力和自我修正能力，面向内联编辑、代码填充等本地交互工作流，以 Apache 2.0 许可证开放。

    推荐理由：DiffusionGemma 虽为实验性质，但它把文本生成从“串行打字机”变成了“并行印刷机”，本地推理速度 4 倍提升，对需要实时交互的开发者是个值得关注的方向。

6月10日周三
  1. 公众号：百度智能云63

    百度百舸联合复旦提出LU-KV框架，被ICML 2026录用

    百度百舸团队与复旦大学合作提出Long-horizon Utility KV（LU-KV）框架，将头级KV Cache预算分配建模为面向长程边际效用的全局组合优化问题。LU-KV通过离线画像估计注意力头边际贡献曲线，结合凸包松弛与基于边际效用的贪心求解器，在较低开销下得到接近最优的预算配置，可适配SnapKV、KeyDiff等多类压缩方法。在LongBench和RULER基准上，80%压缩比下性能损失小，降低显存占用和推理延迟。相关论文被ICML 2026录用。

    推荐理由：ICML接收的KV Cache压缩新方法，把缓存预算分配从看当前分数改成全局优化，能显著降低显存占用，做长上下文推理的值得细读。

  3. Ethan Mollick：One Useful Thing77

    Claude Fable 发布：Anthropic 带来的另一种推理体验

    Anthropic 发布 Claude Fable，这是一款提供截然不同推理体验的 AI 模型。它擅长规划与生成复杂代码库，在需要精确构建代码结构或理解程序员深层需求的场景中，其表现相比 Claude Sonnet 有了大幅提升。用户描述与它协作更像与一位直觉敏锐的资深工程师合作，其对代码意图的捕捉和方案生成能力令人惊叹，但并非通用型 AI。

    推荐理由：Ethan Mollick 对 Mythos 级模型的实际体验，比任何参数对比都更清晰地描绘了未来人机协作的形态改变：从“指导者”变成“赞助者”。这篇体验不是评测，是一个信号。

  4. OpenRouter：Announcements60

    Gemini 2.5 Flash API：定价、快速入门与提供商对比

    Gemini 2.5 Flash API 的定价与快速入门指南，指导用户配置 thinking budgets、比较不同提供商，并在 5 分钟内完成首次 API 调用。

    推荐理由：Gemini 2.5 Flash 最值得关注的是 thinking budget，这篇教程把怎么用、怎么省都讲清楚了，但对早已熟悉文档的开发者来说新东西有限。