SGLang 发布 Low-Latency Mode，通过插件框架在 NVIDIA 和 AMD GPU 上降低推理延迟
SGLang 团队推出 Low-Latency Mode，通过插件框架引入专用内核，在 NVIDIA GB300 和 AMD MI355X GPU 上显著降低推理延迟。
推荐理由：原文给出 SGLang 低延迟模式的具体内核优化路径和 NVIDIA、AMD 两套实测数字，可帮助读者评估低并发推理场景的收益。
#DeepSeek
LMSYS Blog精选AI 评分6060
DeepSeek：API 更新日志精选AI 评分6262 DeepSeek-V4.1-Flash-1017 发布，多基准成绩提升且 API 价格不变
DeepSeek 将 V4.1 Flash 升级至 DeepSeek-V4.1-Flash-1017，网页端与 APP 同步更新，API 调用方式与价格不变，仍用 deepseek-flash 访问。
推荐理由：原文列出各基准分数并说明 API 调用与价格不变，读者可直接评估新版模型是否值得切换。
DeepSeek：API 更新日志精选AI 评分6767 DeepSeek 开放自研搜索 API
DeepSeek 开放自研搜索 API，底层由 AI 原生的 DeepSeek 搜索引擎提供，每天稳定处理数亿次搜索请求。该引擎索引全球千亿级网页、支持多语言，并通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC，使用方式见网页搜索与抓取指南。
推荐理由：原文给出开放入口、索引规模与过滤机制，接入 RAG 或智能体的开发者可据此评估是否纳入现有工作流。
vLLM 官方博客精选AI 评分6363 vLLM 详解 DeepSeek-V4.1-Flash 优化：Agent 场景吞吐提升 5 倍
Inferact 与 vLLM 社区在 DeepSeek-V4.1-Flash 发布三周内完成优化，低并发速度提升 1.9 倍，150 TPS 约束下吞吐提升 5.3 倍。
推荐理由：vLLM 团队拆解了 SWA bounded replay 和一系列内核优化，说明五倍吞吐提升具体来自哪里，方法可复用于其他 Agent 服务场景。
Ai2 / Allen Institute for AI精选AI 评分6262 Ai2 开源 8B 科学报告生成模型 AstaBrief
Ai2 开源 AstaBrief 8B，一个基于 Qwen3-8B、将研究问题和检索文献片段转化为带引用报告的科学报告生成模型，现已在 Asta 的 Generate a report 功能中作为 Fast mode 上线，并连同训练数据开放下载。
推荐理由：原文给出训练数据构成、过滤方法与速度成本对比，读者可据此判断开源科学报告模型的具体做法是否可迁移。
Fireworks AI精选AI 评分7272 Fireworks 上线 DeepSeek-V4.1-Flash，DeepSWE 达 GPT-6 Astra 水准、成本仅 1/15
Fireworks 发布 DeepSeek-V4.1-Flash，在 DeepSWE 上取得 74.34% pass@1、每任务 $0.43，与 GPT-6 Astra 同一精度区间但成本仅 1/15。
推荐理由：官方以多基准实测给出 DeepSeek-V4.1-Flash 与闭源模型的成本质量对比和架构细节，可帮助开发者做选型与成本权衡。
Baseten 工程博客精选AI 评分7676 DeepSeek 发布开源模型 DeepSeek-V4.1-Flash，优化编码智能体 prefill 效率
DeepSeek 本周在 HuggingFace 开源 DeepSeek-V4.1-Flash 权重，模型总参数 552B，prefill 激活 8B、decode 激活 16B，支持 1M token 上下文和文本加图像输入，已上线 Baseten Model APIs。
推荐理由：文章解释了 CED 架构如何把 prefill 降到 8B 激活参数并压缩 KV cache，读者能理解它为何更适配编码智能体的高 prefill 负载。
DeepSeek：API 更新日志精选AI 评分8080 DeepSeek 发布 V4.1-Flash，API 价格同步下调
DeepSeek 发布 DeepSeek-V4.1-Flash，是全新模型结构系列中最小尺寸的模型，具备原生多模态视觉理解能力，评测包括 GPQA Diamond 90.9、HLE 36.8、Codeforces Rating 3471、Terminal-Bench 2.1 90.6 等。
推荐理由：官方发布附带完整评测数字和 API 切换细节，读者可据此判断新模型能力水平及旧模型下线对现有调用和计费的影响。
LMSYS Blog精选AI 评分6666 SGLang 用 SSD Expert Pack 在消费级硬件上运行 DeepSeek-V4-Flash 和 Kimi-K3
SGLang 将 SSD-LLaMA 的思路引入 MoE 推理，把放不进显存和内存的路由专家放在 NVMe SSD 上，通过 Expert Pack 连续布局、O_DIRECT 直接 I/O 和带预算的 GPU LFU/LRU 缓存，只加载 router 选中的专家。
推荐理由：原文给出完整的硬件配置、性能数字和复现命令，读者可以据此评估消费级 SSD 路线运行超大 MoE 模型的可行性与代价。
Fireworks AI精选AI 评分6868 DeepSeek V4 Pro 0813 上线 Fireworks：SWE-Bench Verified 达 95.2%，单任务成本约为 Fable 5 的三分之一
Fireworks 上线 DeepSeek V4 Pro 0813，提供 serverless、专属部署及 SFT/DPO/RFT 训练支持，模型具备 1M token 上下文窗口和原生工具调用。
推荐理由：原文用四组基准和逐任务成本数据对比 V4 Pro 与 Fable 5、Kimi K3，并指出 Java 弱项与路由空间，读者可据此选型。
DeepSeek：API 更新日志精选AI 评分6767 DeepSeek-V4-Flash-Vision-Exp 发布
DeepSeek 上线实验性多模态视觉理解模型 DeepSeek-V4-Flash-Vision-Exp，可通过设置 model='deepseek-v4-flash-vision-exp' 在 API 平台访问。
推荐理由：实验版在纯文本能力与正式版持平的基础上补齐视觉，多模态 Agent 基准接近 Opus-4.8，让依赖视觉的 DeepSeek 工作流无需切换后端即可评估更强感知能力。
LMSYS Blog精选AI 评分7373 突破 DeepSeek-V4-Pro 服务极限：H20 上的多场景优化方法
LMSYS 团队针对 1.6 万亿参数的 MoE 模型 DeepSeek-V4-Pro，在 H20 GPU 上通过场景化服务配置逼近 B300 性能。单节点 H20-141GB 参考实现达 271 output tokens/s，与 B300 的 383.7 tokens/s 性能差距缩小至 1.42×。
推荐理由：文章提出按上下文长度与并发需求分场景选择 prefill/decode 配置，并用 Humming 压缩和 Online C128 释放 HBM，使 H20 也能服务 1M 上下文，为受限硬件上的大规模推理提供了可复用的工程思路。
Together AI 研究与产品博客精选AI 评分7070 DeepSWE 实测：DeepSeek V4 Pro 0813 与 GPT-5.6 Sol 的成本、编码与级联路由对比
Together AI 在 DeepSWE 全部 113 个任务上各跑四次对比 DeepSeek V4 Pro 0813 与 GPT-5.6 Sol，共 904 次运行。
推荐理由：原文基于同一批 904 次运行数据拆解两模型的成本与失败模式，并给出可复用的级联路由方案，比单独跑分更有参考价值。
Together AI 研究与产品博客精选AI 评分7070 Together AI 实测 DeepSeek V4 Pro 0813 对比 Claude Fable 5 在 DeepSWE 上的成本、编码与路由表现
Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验（共 904 次 rollout）上对比 DeepSeek V4 Pro 0813 与 Claude Fable 5。
推荐理由：原文基于同一批 904 次 rollout 的实测数据，给出两模型在 DeepSWE 上的成本与互补性对比，以及可复用的级联路由结果。
DeepSeek：API 更新日志精选AI 评分8181 DeepSeek-V4-Pro 正式版上线，Agent 能力大幅增强
DeepSeek-V4-Pro 正式版已在 APP、网页端和 API 同步上线，模型名设为 deepseek-v4-pro 即可使用。其 Agent 能力显著提升，HLE (wo/w tools) 达 42.7/60.0，Terminal Bench 2.1 为 87.9。
推荐理由：峰谷定价把闲时成本降至高峰一半，适合批量推理、评估任务等可延迟工作负载调整执行时间，为降低 API 支出提供空间。
Together AI 研究与产品博客精选AI 评分8080 Together AI 实测 DeepSWE：DeepSeek-V4 Flash 0731 对比 GPT-5.6 Luna 的成本与编码表现
Together AI 在 113 个 DeepSWE 任务上对比 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna：Luna pass@1 为 67.2%，DeepSeek 为 53.3%，但 DeepSeek 每次 rollout 成本约 $0.10，仅为 Luna（$0.61）的约六分之一。
推荐理由：原文基于同一轮 900 次 rollout 实测给出两款模型的成本、失败模式与分域表现，并提出可复用的低成本级联方案。
DeepSeek：API 更新日志精选AI 评分7272 DeepSeek-V4-Flash 正式版 API 上线公测
DeepSeek-V4-Flash 正式版 API 上线公测，模型名设为 deepseek-v4-flash 即可使用，调用方式不变。其 Agent 能力大幅增强，Terminal Bench 2.1 得分 82.7，NL2Repo 54.2，Toolathlon verified 70.3，DSBench-Hard 59.6，多项基准远超 V4-Pro-Preview。
推荐理由：DeepSeek V4-Flash 正式版 Agent 能力大幅跃升，多个编码 agent 基准分数翻倍，对做代码助手的团队是个高性价比的生产力入口。虽然是 Flash 版，但后训练打磨的成果让人更期待 Pro 正式版。
英国 AI Security Institute：Blog精选AI 评分7070 AISI 首次公开评估：领先开源权重模型的网络安全能力落后前沿 4 至 7 个月
英国 AI Security Institute 首次公开分析领先开源权重模型的网络安全能力差距，测试发现 GLM-5.2 是测试时最强的开源权重模型，在 AISI 窄域网络任务上接近 4 个月前发布的 Opus 4.6，在长时程网络靶场上接近 Opus 4.5，整体落后前沿 4 至 7 个月，窄于 2025 年 1 至 9 月内部评估测得的 6 至 10 个月。
推荐理由：这是 AISI 首次公开量化开源权重模型与闭源前沿在网络安全能力上的差距，并给出成本对比，为防御方的准备窗口提供依据。
LMSYS Blog精选AI 评分6161 DeepSeek-V4 Flash 强化学习训练登陆 AMD Instinct MI355X GPU，由 Miles 框架支持
DeepSeek-V4 Flash 的强化学习训练现已在 AMD Instinct MI355X GPU 上通过 Miles 框架获得支持，基于 ROCm 软件栈运行。该 2840 亿参数 MoE 模型（每 token 激活 130 亿参数）需 SGLang 进行 rollout 生成、Megatron 进行策略更新，Miles 负责异步循环与权重同步。团队解决了 SGLang 与 Megatron 间模型对齐、量化状态在线更新及多节点并行稳定性三大挑战，最终在四个八 GPU 节点上完成端到端验证：超过 100 个优化器步骤中训练-rollout 对数概率差可控，在线奖励持续提升，离线 AIME-2024 基准分数同步上涨。
推荐理由：把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上，不是画饼，而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的，可以照着踩坑。
OpenRouter：Announcements精选AI 评分7373 DeepSeek V4 智能体 token 份额持续增长
DeepSeek 于4月24日发布新一代旗舰模型 V4 系列。OpenRouter 数据显示，V4 发布后其 token 份额从年初的9%增长至6月初的18%，自5月中旬起成为 OpenRouter 最受欢迎模型。V4 是首个足以胜任智能体工作负载的 DeepSeek 模型，到5月底 V4-Flash 已占 DeepSeek 智能体 token 流量的70%。V4-Flash 最便宜端点价格为每百万 token 输入 $0.09、输出 $0.18，远低于 GPT-5.5 的 $5/$30。中国模型整体 token 份额于6月初超过美国模型，DeepSeek 是主要驱动力。
推荐理由：OpenRouter 独家数据展示了代际转折：DeepSeek V4 靠性价比吃下代理负载，中国模型 token 份额首次超过美国，这个信号比任何 benchmark 排名都真实，做应用选型的人该重新算账了。