NVIDIA Vera Rubin NVL72 树立 AI 智能体效率新标准：每瓦特工作量提升至 30 倍
NVIDIA 实测数据显示，Vera Rubin NVL72 在智能体工作负载下每兆瓦吞吐量较 GB300 NVL72 最高提升 30 倍，每百万 token 成本降低至 35 倍。
推荐理由：对电力受限的 AI 工厂，每兆瓦吞吐量 30 倍提升与 token 成本同步下降，意味着同等能源预算下可承载的 agentic 负载量级不同，部署决策中的成本模型可能改写。
技术方向
推理能力 最新动态
让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。
572 条精选近 30 天 41 条共收录 2,920 条
更新
精选归档 · 第 6 页
NVIDIA Blog精选AI 评分6363
LMSYS Blog精选AI 评分6363 Ling-3.0-flash 在 4 块 Blackwell GPU 上如何将批处理 1 解码延迟降低 54%
蚂蚁 Ling Infra 团队与 RadixArk SGLang 团队将 Ling-3.0-flash 混合线性注意力 MoE 模型的单请求解码速度从 288 tok/s 提升至 606 tok/s，平均 TPOT 从 3.33 ms 降至 1.53 ms。
推荐理由：对做单请求低延迟推理的团队，可迁移的是先把主机从 GPU 进度上解绑再优化 GPU 关键路径，否则主机的同步等待会变成每步的 GPU 气泡，这与具体模型无关。
OpenBMB@OpenBMB精选AI 评分6969推荐理由：数学形式化的难点是编译通过但语义漂移，该框架用检索规划和语义一致性反馈迭代修正，并开源数据集和 8B 模型，给小模型做形式化提供了可复用路径。
公众号：数字生命卡兹克精选AI 评分7171 都Agent时代了，我还是想分享给你这12个我最常用的Prompt
作者整理出12个最常用的Prompt，按问清问题、学习、解决问题、决策、认识自己5个场景分类，全部可单独复制使用且无需安装任何Skill。每个Prompt都配有可直接套用的模板，将【】内内容替换为个人信息即可，适配当前所有主流AI。
推荐理由：这套提示词把提问、学习、决策等场景整理成带占位符与输出规范的模板，读者可逐条复制并按反馈规则调整，比单条散装提示更容易复用。
Together AI 研究与产品博客精选AI 评分7979 DeepSWE 实测：GLM-5.3 与 Claude Fable 5 在成本、编码与路由上的对比
Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验（共 904 次 rollout）上对比 GLM-5.3 (max) 与 Claude Fable 5 (max)。
推荐理由：基于 904 次 rollout 的实测数据，给出两模型成本与准确率的量化对比，可帮助团队在两者间做出路由选择。
Tomasz Tunguz 博客精选AI 评分6464 本地AI模型已能胜任89%日常查询，数据中心将走向个人化
斯坦福大学与Together AI研究显示，本地AI模型在超百万条真实查询中，对89%的日常聊天与推理问题的回答质量已不输云端前沿模型。本地模型对前沿模型的胜/平率从2023年的23.2%升至2025年的71.3%，智能每瓦特效率同期提升5.3倍。相比全云端方案，本地模型加路由器的组合可降低80%能耗、77%算力与74%成本，但云端在多步推理与高难度领域仍具优势。
推荐理由：作者借 Koomey 定律类比，把本地模型与云端效率数据放进历史框架，帮助读者理解端侧 AI 的演进节奏。
Hugging Face 社区博客精选AI 评分6161 Hugging Face 发布 LFM2.5 系列 DSpark 草稿模型，推理速度最高提升 3.18 倍
Hugging Face 发布 LFM2.5 系列三款模型的 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下，GPU 吞吐最高提升 3.18 倍，端侧最高 2.87 倍。草稿模型约 300M 参数，LFM2.5-2.6B 函数调用延迟平均降低 57%，已开源支持 llama.cpp 和 SGLang。
推荐理由：约300M参数的draft模型换最高3.18倍吞吐，贪心输出不变，LFM2.5-2.6B在M4 Max达139 tok/s，本地agent门槛被拉低。
LMSYS Blog精选AI 评分7373 突破 DeepSeek-V4-Pro 服务极限：H20 上的多场景优化方法
LMSYS 团队针对 1.6 万亿参数的 MoE 模型 DeepSeek-V4-Pro，在 H20 GPU 上通过场景化服务配置逼近 B300 性能。单节点 H20-141GB 参考实现达 271 output tokens/s，与 B300 的 383.7 tokens/s 性能差距缩小至 1.42×。
推荐理由：文章提出按上下文长度与并发需求分场景选择 prefill/decode 配置，并用 Humming 压缩和 Online C128 释放 HBM，使 H20 也能服务 1M 上下文，为受限硬件上的大规模推理提供了可复用的工程思路。
公众号：智谱精选AI 评分7979 GLM-5.3上线：AA智能指数60分并列开源第一，成本更低
GLM-5.3 API即日上线，擅长复杂编码、防御性网络安全与长程任务，在AA综合智能指数中取得60分，与Claude Fable 5、GPT-5.6 Sol等闭源旗舰同级，并与Kimi K3并列开源模型第一。该模型以更小参数规模和更低调用成本降低前沿智能门槛，单任务成本为旗舰模型中最低。API定价与GLM-5.2持平，模型权重将于下周五开源。
推荐理由：GLM-5.3 把前沿智能的单任务成本压到同档最低，模型选型时成本与智能可以放在同一优先级比较，而不必默认高价闭源旗舰。
Anthropic：Research精选AI 评分7373 Claude 如何加速蛋白质设计与分析化学研究
Anthropic 公布两项实验：Claude（Mythos Preview 和 Opus 4.8）针对 15 个靶点设计蛋白质结合剂，成功 14 个，命中率达 22.6%-35.1%。
推荐理由：把湿实验命中率与行业常规 10-15% 对比，Claude 从零设计蛋白结合体的效率已接近或超过专家，可压缩药物发现早期的计算与人工周期。
公众号：数字生命卡兹克精选AI 评分7171 一个实用的深度思考Prompt：用“双向钢人论证”让AI帮你挖出最本质的答案
作者基于Reddit上“让Claude真正开始思考”的帖子，引入逻辑学中的“钢人论证”（steelman）概念，并自创了一个“双向钢人Prompt”。该Prompt通过重述真实问题、强化正反双方观点、找出关键变量、逼AI给出明确判断四步，旨在避免模型谄媚，帮助用户找到问题最本质的答案。作者以自己选择公司司庆日的真实案例演示了使用效果。
推荐理由：这个 Prompt 把钢人论证做成可复制步骤，先重述问题、强化正反观点、再定位决定结论的变量，比直接要建议更能绕过模型顺意回答。
Together AI 研究与产品博客精选AI 评分7070 DeepSWE 实测：DeepSeek V4 Pro 0813 与 GPT-5.6 Sol 的成本、编码与级联路由对比
Together AI 在 DeepSWE 全部 113 个任务上各跑四次对比 DeepSeek V4 Pro 0813 与 GPT-5.6 Sol，共 904 次运行。
推荐理由：原文基于同一批 904 次运行数据拆解两模型的成本与失败模式，并给出可复用的级联路由方案，比单独跑分更有参考价值。
Tomasz Tunguz 博客精选AI 评分6565 本地小模型也能媲美云端前沿模型：Qwen3.8-27B 的另类飞行路径
本地运行的 Qwen3.8-27B 在 Artificial Analysis 智能指数上以 52 分位列 135 个模型之首，超过 7530 亿参数的 GLM-5.2。在 25 项风投任务评测中，它与云端 DeepSeek V4 输出质量同为 8.0 分，但需多花 7.2 倍 token 思考，速度慢约 9 秒。小模型靠更长的链式推理弥补知识差距，而非直接给出答案。
推荐理由：作者用同一套 VC 任务实测云端与本地模型，给出质量、速度与思考 token 的具体数据，展示小模型靠推理补知识差距的路径。
Simon Willison 博客精选AI 评分7373 Qwen 3.8 27B 表现出色，但默认推理强度过高导致过度思考
阿里 Qwen 实验室发布 Apache 2 许可的 27B 参数视觉大模型 Qwen 3.8 27B，官方基准显示其超越前代 Qwen 3.6 27B 及闭源 Qwen 3.7-Plus。
推荐理由：把 Qwen 3.8 27B 的推理档位成本量化成时间差异，xhigh 默认让生成同一 SVG 从 137 秒膨胀到 21 分钟，这个默认值比能力更影响本地选型。
Google Gemini@GeminiApp精选AI 评分6666引用Google Gemini@GeminiAppGemini Spark 现在运行在 Gemini 3.7 Flash 上。⚡️ 无论你是用 Spark 将供应商信息整理到 Sheets，还是起草谈判邮件，3.7 Flash 都能让你的个人 AI 智能体更精准、更准确，并针对 @GoogleWorkspace 应用改进了工具调用，帮助把想法转化为行动。
推荐理由：Gemini 3.7 Flash 把多步推理与跨文件整合能力下放到轻量模型，对经常需要合并数十份文件或邮件的用户来说，是一个成本更低的处理选项。
公众号：小红书技术精选AI 评分7979 dots3-note Preview 开源：280B 参数轻量模型，主打长程智能体与多模态推理
小红书技术开源 dots3-note Preview，这是 dots3 系列最轻量模型，总参数 280B、激活参数 16B，支持 512K 上下文及文本、视觉、语音多模态理解，并针对复杂推理和长程 Agent 任务优化。
推荐理由：除开源模型外，TEMPO 让同一智能体在每个宏观步骤切换为 critic，用测试时推理估计回报，给稀疏奖励长程任务的强化学习训练提供了可借鉴的结构。
SiliconFlow@SiliconFlowAI精选AI 评分6565推荐理由：每百万缓存命中 0.44 美元与 1M 上下文组合，使 Agent 工作流在长上下文成本测算上有了更具体参照。
OpenAI：官网动态精选AI 评分8080 GPT-5.6 构建者指南：如何以更低成本实现前沿智能体性能
GPT-5.6 模型家族以更低成本实现前沿级智能体性能，并新增推理持久化、原生多智能体编排和程序化工具调用等 API 能力。在 ARC-AGI-3 上，启用保留推理和压缩后，Sol 得分从 13.3% 跃升至 38.3%，且输出 token 减少约 6 倍。Luna 在 BrowseComp 上以 84.04% 的得分追平 GPT-5.5（84.36%），成本从 $33.27 降至 $1.33。
推荐理由：最实际的改变在 API 原语，让同一模型在 ARC-AGI-3 上用约六分之一输出 token 拿到近三倍分数，影响开发者对推理成本和上下文架构的判断。
METR：Notes精选AI 评分6969 METR 分析 LLM 是否加速了科学发现：漏洞发现激增，算法优化未见明显拐点
METR 汇总多类公开数据寻找发现速度的拐点，发现漏洞发现明显加速：cURL CVE 从 2025 年的 9 个增至 2026 年的 36 个（15 个 AI 标记），Firefox 从 210 增至 342，Microsoft CVE 年化约为 2025 年的 2.5 倍。
推荐理由：原文用多领域公开数据对比 AI 对发现速度的影响，读者可以看到漏洞发现明显加快而算法优化尚未加速的反差。
Google Research：Blog精选AI 评分6666 空货架还是丢钥匙？Google 研究：Recall 是参数化事实性的瓶颈
Google Research 提出知识画像框架，发现前沿 LLM（如 Gemini3、GPT-5）的事实编码接近饱和，但回忆（recall）能力不足，多数事实错误源于“丢钥匙”而非“空货架”。该框架将事实分为编码失败、回忆失败等五类画像，并配套推出 WikiProfile 基准，含 2,150 条维基百科事实，每条配 10 个问题，用于分别探测编码、回忆与识别能力。
推荐理由：知识画像把事实错误拆成编码失败与召回失败，显示前沿模型问题主要在已存知识不稳定调用，思考更多恢复已编码事实而非补全缺失，为优化侧重提供判断依据。