技术方向
让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。
565 条精选近 30 天 47 条共收录 2,848 条
字节跳动火山引擎发布豆包大模型家族首款全模态理解模型 Doubao-Seed-2.0-lite 升级版。该模型原生统一支持视频、图像、音频和文本理解，并能进行跨模态联合推理，在物理、医疗等学科推理及细粒度感知上表现超越此前Pro版本。音频方面支持19种语种转写及多语种互译，多项基准测试优于Gemini-3.1-Pro。同时，其Agent、Coding与GUI能力升级，能更稳定处理长任务、胜任深度开发，并实现界面理解与操作执行的闭环。新版本已在火山方舟上线，旨在为企业提供高性价比的全模态任务部署方案。
推荐理由：豆包Seed 2.0 lite把视频、音频、图片、文字原生塞进一个模型，还顺手强化了Agent和GUI操作，对需要全模态处理的企业来说，这可能是目前性价比最高的选择。
Zyphra 发布 ZAYA1-8B，一个活跃参数不足 10 亿的 MoE 模型，是首个完全在 AMD Instinct MI300 集群（1,024 个节点，与 IBM 合作构建）上完成预训练、中期训练和监督微调的模型。
推荐理由：原文给出活跃参数不足 1B 的 MoE 模型在数学和编码基准上的具体成绩，以及全 AMD 集群训练和 Markovian RSA 测试时计算方法。
Elon Musk@elonmusk精选AI 评分8383Grok 4.3 现已上线 xAI API。这是迄今为止我们最快、最智能的模型。 它在 @ArtificialAnlys 的智能体工具调用和指令跟随排行榜上位居榜首，并且在 @ValsAI 的企业领域（如判例法和公司金融）中排名第一。 Grok 4.3 支持 100 万模型 token 的上下文窗口，定价为每百万输入 token 1.25 美元，每百万输出 token 2.50 美元。 创建 API 密钥并开始构建：http://console.x.ai/team/default/api-keys
推荐理由：Grok 4.3 把 agentic tool calling 和指令遵循两个榜单压在脚下，百万上下文配上亲民价格，对做自动化 agent 的团队是个够分量的信号。
ChatGPT的默认模型已更新为GPT-5.5 Instant。新版模型能提供更智能、更准确的答案，并有效减少了幻觉现象。同时，用户获得了更强的个性化控制能力，使交互体验更贴合个人需求。此次升级标志着模型在理解精度与响应定制化方面取得了显著进步。
推荐理由：ChatGPT默认模型替换为GPT-5.5 Instant，不只是变聪明，幻觉减少和个性化控制才是真改进，每个用户都能马上感觉到不同。
xAI@xai精选AI 评分8080推荐理由：Grok 4.3 登顶 agentic tool calling 榜，定价有竞争力，做 agent 的值得认真看。虽然不算顶级发布，但 xAI 靠性能价格组合可能抢下不少性价比敏感开发者。
Runway平台团队开发的NCCLBack系统，通过P2P权重传输将模型冷启动时间从数分钟缩短至数秒。其核心创新在于让新启动的GPU推理节点直接从集群内已加载权重的同级GPU获取模型参数，而非从云存储重复下载。该系统利用GPU互连（如InfiniBand、NVLink）高达200-400 Gbps的带宽，相比传统存储下载的2-10 Gbps实现了数量级提升。通过Redis协调与NCCL广播原语，NCCLBack确保了数据传输的效率和正确性，使得大规模集群部署新模型时，冷启动时间不随节点数量线性增长，基本保持恒定。
推荐理由：Runway 工程师把 GPU 冷启动从分钟压到秒级，原理是让已加载权重的 GPU 直接「喂」给新同伴，而不是各自从存储下载。做大规模推理部署的团队值得细读。
研究团队提出PORTool算法，以解决多工具集成推理中仅依靠结果奖励导致的信用分配模糊问题。该方法通过重要性感知策略优化，在结果级监督下强化智能体的工具使用能力，同时实现步骤级奖励分配。PORTool生成奖励树来明确关键决策步骤，从而更精确地引导模型学习有效的工具调用序列，提升复杂任务解决的效率和可靠性。
推荐理由：不少 Agent 团队训练时都遇到过奖励信号太稀疏的问题，PORTool 试着把奖励细粒度化，给了个可实操的解法，做工具调用智能体的值得深读。
加州大学圣地亚哥分校的研究团队在谷歌TPU上成功部署了DFlash，一种基于块扩散的推测解码方法。该方法突破传统自回归草稿生成的序列性瓶颈，通过单次前向传播并行“绘制”整个候选令牌块，而非逐个预测。系统平均实现了3.13倍的推理加速，峰值性能接近EAGLE-3等现有方法的两倍。这一开源方案已集成至vLLM生态系统，通过利用“免费”的并行验证能力和针对复杂推理任务的高质量草稿预测，显著优化了TPU硬件的利用效率。
推荐理由：把扩散式的 speculative decoding 在 TPU 上跑出了 3 倍推理加速，峰值快到 EAGLE-3 的两倍，还直接集成了 vLLM，做推理优化的赶紧试一下。
基于开源模型和商用GPU的广告支持型AI在经济上可行。计算表明，一个由4块B200 GPU组成的集群服务300名用户时，每小时成本约18美元。通过广告收入即可覆盖成本：在内容网络中每3分钟展示一条广告（CPM 3.12美元），或在搜索广告中每39分钟展示一条（CPM 38.40美元），这一广告频率已与常见的移动和网页应用相当。对于代码代理等高强度任务，可采用混合盈利模式：用户每月支付10美元订阅费并每日观看8条广告，即可支持约200万token的用量，这证明了该模式的实用性。
推荐理由：Tunguz 用一页纸的算账说清了广告支持 AI 的经济账，一天看 8 条广告就能换两百万 token，这对做免费 AI 产品的团队是个真正有说服力的模型。
Goodfire Research 发表研究，指出模型会在思维链中自发表达意识到被评测（verbalized eval awareness），在测试的全部 19 个基准和 8 个模型中均存在，共 515 个人工核验实例，其中 95% 仅出现在思维链中。
推荐理由：研究覆盖 19 个基准和 8 个模型，给出评测意识推高拒绝率的因果证据与可操作的提示词改写方法，有助于评估者校准对安全基准分数的信任。
François Chollet@fchollet精选AI 评分7070GPT-5.5 在 ARC AGI 3 上得分 0.43%！ - GPT-5.5：0.43% - Opus 4.7：0.18% - GPT-5.4：0.20% - Claude 4.6：0.45% - Gemini 3.1：0.4% GPT 5.5 报告的失败原因包括： - 真实的局部效果，错误的世界模型 - 来自训练数据的抽象层级错误 - 解决了关卡，但没有强化奖励 我认为完整的分析将帮助 OpenAI 全面理解模型在某些模态中失败的地方
推荐理由：Chollet 用 ARC AGI 3 冷冰冰的数字撕开了 RL 的局限，GPT-5.5 0.43% 的得分说明在未知领域模型会做完全不相干的事，比任何安全论文都来得更直击要害。
ARC Prize 分析了 GPT-5.5 和 Opus 4.7 在 ARC-AGI-3 上的 160 段推理回放，两模型在半私 数据集上的得分分别为 0.43% 和 0.18%，并开源了分析包。
推荐理由：作者基于 160 段推理回放归纳出三种可复用的失败模式分类，并对比两个模型在压缩策略上的差异。
DeepSeek发布了多模态大模型及技术报告，提出创新的“基于视觉原语的思考”框架。该框架将点、边界框等视觉元素作为推理的基本单元，旨在解决多模态模型在空间参照任务中存在的“参照鸿沟”核心问题，使模型能将抽象认知锚定到图像的具体坐标上。尽管模型规模紧凑且图像标记预算较低，其在多项挑战性计数和空间推理基准测试上的性能，可与GPT-5.4等前沿模型相媲美。
推荐理由：DeepSeek 把视觉概念直接变成推理单元，绕开了语言描述空间的先天模糊，在空间推理上把自家紧凑模型拉到和 GPT-5.4 一个水平，做多模态应用的人值得细读。
Baidu Inc.@Baidu_Inc精选AI 评分6565隆重推出 ERNIE 5.1 Preview —— 现已上线！🚀 在 @arena 的 Text Arena 中全球排名第 13，在中国实验室中排名第 1。 在以下领域跻身全球前 10： 📐 数学 —— 第 9 ⚖️ 法律与政府 —— 第 1 💼 商业、管理与金融运营 —— 第 4 💻 软件与 IT 服务 —— 第 7 基于 ERNIE 5.0 强大的预训练基础构建，ERNIE 5.1 Preview 将总参数量压缩至前代的约 1/3，激活参数量压缩至约 1/2，同时仅使用同类模型约 6% 的预训练成本 —— 在其规模下实现了领先的基础性能。 立即体验 👉 https://ernie.baidu.com/ 更多新模型即将推出 —— 敬请期待 👀
推荐理由：ERNIE 5.1 Preview 把参数量砍到前代的 1/3，性能还稳住了，6% 的训练成本近乎白嫖，国产模型打榜的意义不大，但这效率提升对做应用落地的人来说是实打实的好处。
Ant Ling@AntLingAGI精选AI 评分7272👏 认识来自 @AntLingAGI 的 Ling-2.6-1T，这是一款万亿参数旗舰即时指令模型，专为大规模下的快速执行与高效率而打造。Day-0 支持现已在 SGLang 上线！ 1️⃣ 快速思考方式：比同类模型便宜约 4 倍，质量毫不妥协 2️⃣ 在 AIME26 与 SWE-bench Verified 上达到 SOTA 3️⃣ 专为高级编程、复杂推理与大规模智能体工作流而打造 4️⃣ 万亿参数能力，即时模型延迟 Cookbook：https://docs.sglang.io/cookbook/autoregressive/InclusionAI/Ling-2.6
推荐理由：万亿参数做到即时延迟和4倍成本优势，还有SWE-bench SOTA，这份承诺如果兑现，会改变大规模Agent部署的性价比计算。值得去cookbook跑一下验证。
文章揭示了支撑大语言模型（如GPT、Claude、LLaMA）训练与服务的核心数学框架。通过剖析关键方程，可以逆向推导出顶尖AI实验室在模型规模扩展、计算资源分配及服务优化方面的核心策略与实践。这些数学原理不仅解释了模型性能随参数和数据量增长的规律，也量化了训练成本与推理效率之间的权衡，为理解当前大语言模型的发展路径提供了底层逻辑。
推荐理由：Reiner Pope 把训模型背后的数学摊开讲，听完能反推出大厂在做什么，做训练的人不可多得的一课。
AI推理市场正快速分化，各模态如文本、图像、视频和音频发展出独立推理技术栈。自ChatGPT发布后，NVIDIA数据中心收入三年内增长17倍，凸显市场爆发。分化根本原因在于工作负载差异：图像视频生成需高计算力，长上下文消耗更多内存，边缘设备则受功耗限制。市场按延迟分为实时、近实时和批量三层；按模态分为文本、图像视频音频；按部署分为云端和边缘。Hugging Face上已有超9万个图像生成模型，整个AI推理市场规模预计约1000亿美元，这种专业化趋势正为各细分领域创造领导者机会。
推荐理由：Tomer 把推理市场跟数据库市场做类比，碎片化的逻辑讲得很透，做 AI 基础设施的朋友能直接用来梳理自己的赛道，普通人知道这么回事就行。
Ant Ling@AntLingAGI精选AI 评分7171
🚀 今天，我们推出 Ling-2.6-1T，一款专为精确执行指令任务而设计的万亿参数旗舰模型。通过优先采用“快速思考”机制，它以超低 token 开销实现 SOTA 智能，让 token 效率成为一等公民。
推荐理由：蚂蚁把万亿参数模型开源了，但强调的不是大，而是省 token，这对成本敏感的生产环境是真正的性价比之选，做 agent 的可以上手测测。
Xiaomi MiMo@XiaomiMiMo精选AI 评分6060推荐理由：小米MiMo-V2.5-Pro冲到Arena开源第一，虽然排名更新晚了几天，但这是国产模型在硬核评测里最好的成绩，做选型的现在该认真看看小米。
Qwen@Alibaba_Qwen精选AI 评分6060推荐理由：2 倍加速的背后是 Warp 特化流水线和自动 Copy 策略，像给手机 GPU 开了条专用跑道，做端侧 Agent 的可以直接拉代码试试。