Anthropic 自研版本控制系统 Scion,五个月完成 monorepo 从 git 迁移
Anthropic 发布工程复盘,因 Claude 使日均合并代码量从 2026 年 5 月约 2,500 增至 9 月超 30,000,五个月内自研版本控制系统 Scion 并完全替代 git,同时推出代码评审工具 Antique。
推荐理由:Anthropic 自建版本控制系统 Scion 的完整复盘,给出面向智能体规模负载的设计原则、架构细节和实测收益,可迁移到其他大规模仓库场景。
Anthropic 发布工程复盘,因 Claude 使日均合并代码量从 2026 年 5 月约 2,500 增至 9 月超 30,000,五个月内自研版本控制系统 Scion 并完全替代 git,同时推出代码评审工具 Antique。
推荐理由:Anthropic 自建版本控制系统 Scion 的完整复盘,给出面向智能体规模负载的设计原则、架构细节和实测收益,可迁移到其他大规模仓库场景。
Baseten 工程博客解析 Gradium TTS 如何实现实时语音合成,Coval 基准测得其 TTFA 中位数为 155 ms,四分位距仅 2 ms。
IBM 为 Spyre 加速器打造的 PyTorch 软件栈已将 torch.compile 后端从自研的 sendnn 换成基于 PyTorch Inductor 扩展的 backend=inductor,编译器体积约为原来的 1/7。
LangChain 发布 langchain-scaledown 集成,并在 LangSmith LLM Gateway 中支持 ScaleDown 的约束解码模型(CDM),用于降低长时智能体上下文管理的成本和延迟。
推荐理由:文章给出 ScaleDown 约束解码模型与 LangChain、Deep Agents 中间件的具体配置方法,读者可以按场景迁移用于压缩智能体上下文。
Apple 研究团队提出 Minions,一个将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来、执行大规模机器学习推理的动态分布式虚拟 GPU 云。该系统支持灵活的 GPU 推理任务执行、容错和高效资源利用,让团队无需额外采购 GPU 即可利用现有硬件。经验表明,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。
Meta 在 2026 Open Compute Project 全球峰会上发布新一代开放网络基础设施,包括首款液冷网络机架 IcePack、102.4T 交换刀片 IceCube(128×800G。
vLLM 通过双向 KV 传输让 decode 节点把已计算的 KV 缓存回传给 prefill 节点,避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 的 1P1D 部署上,该特性将 Qwen3-32B 的 TTFT 降低最多 1.6 倍,zai-org/GLM-5-FP8 降低最多 3.3 倍。
Meta 构建了一套系统,把分散在各团队配额、区域和加速器类型中的闲置推理容量聚合成共享的机会容量池,用于广告推荐。系统通过 Rank More Ads(RMA)调整排序阶段评估的候选广告数量、Serve Better Models(SBM)调整路由到更强模型的请求比例这两个弹性杠杆,在不影响基线服务的前提下扩展可选工作负载,并借助物理与逻辑隔离及价值感知的降载机制在容量被突然回收时优雅降级。
Modal 推出 Endpoint Candidates,可为 Dedicated Endpoint 暂存候选部署,镜像生产流量以对比质量、延迟、吞吐和成本,并从仪表盘晋升到生产,现已向所有 Modal 工作区开放。
Flo Health 借助 Databricks AI Runtime 在无服务器 NVIDIA H100 GPU 上对开源模型做分布式微调,用 26 个 AI 评委(12 个医疗安全、6 个微观行为、8 个实用性)和超 15,000 条隐私优先合成问题构建训练信号,并采用监督微调加 DPO 的强化微调流程。
NVIDIA 与普林斯顿 Dao AI Lab 发布 ReplaySSM,将 SSM 状态表示为检查点加近期输入缓冲,减少状态内存流量、简化投机解码回滚并限制量化误差累积。
Mastra 为 Mastra Studio 的智能体 trace 新增 Thread View,可将对话消息与产生它们的步骤并排查看,并支持打开完整 thread 按顺序浏览整段对话。该功能需 mastra@1.33.0 或更高版本,若智能体已使用 memory 并通过 MastraStorageExporter 持久化 trace,则无需额外配置。
IBM Research 发文解析分布式推理如何为大规模 LLM 服务调度流量,其开源 Kubernetes 原生框架 llm-d 涵盖前缀缓存感知路由、KV-cache 卸载、流控、批推理优化、prefill/decode 分离与宽专家并行六项技术。
NVIDIA 在 OCP 全球峰会宣布通过 MGX 架构开放 Vera Rubin 机架和计算托盘设计,并发布 MGX 1.2 规范,支持最高 250kW 机架部署、盲插液冷和 5000A 母线。
NVIDIA 与 Cisco 宣布推出 Ultra-Dense Small Form Factor Pluggable(USFP)光模块新形态,为首个支持 400Gb/s-per-lane 电信号的模块,单模块容量可达 12.8Tb/s。
Microsoft 宣布将从 2027 年起把 Azure Maia 系列扩展到多吉瓦级部署,并使 Maia 成为微软产品与服务的主要推理系统。
Lovable 为 Enterprise 团队推出 EU inference 设置,可将支持的 AI 模型请求路由至指定的欧洲端点,覆盖在 Lovable 中构建应用以及已发布应用调用内置 Lovable AI 服务的场景。
浏览器指纹识别通过收集 user agent、语言、屏幕尺寸、字体、canvas 与 WebGL 渲染、音频处理等信号,组合后经哈希函数生成紧凑标识,用于在 cookie 被删除后仍能识别回访浏览器。它分为被动式(HTTP 头、IP、TLS 握手)与主动式(JavaScript 采集)两类,常用于追踪用户、防欺诈和检测机器人,但相似浏览器可能撞车、浏览器更新也会改变结果。
RadixArk 的 SGLang & Miles 团队获得两台 NVIDIA Vera Rubin 节点(8 GPU)的早期访问,将 SGLang 用于推理、Miles 用于 RL 训练并首次跑通。
vLLM 现已支持 NVIDIA Vera Rubin NVL72,在 AgentX 上匹配交互性时每 GPU 吞吐量达 GB200 NVL72 的 7.8 倍,MLPerf 中 VLM 吞吐量最高为 GB300 NVL72 的 3.7 倍。
LangChain 在 Managed Deep Agents v0.9 中新增 reactions API,可为 Slack 等渠道的分布式智能体动态分配 emoji 回应,支持字符串或返回 emoji 的可调用对象。该功能可接入 Jev 等决策模型,Jev 最多支持 255 个选项,并可用置信度阈值(低于 0.25 时回退到 👀)控制回应。
TinyFish 在 Databricks AI Runtime 上完成其 web-native 模型的训练、评估与生产部署,内部 go/no-go 基准中该模型完成 2,178 个 web-agent 任务中的 1,691 个,任务成功率 77.6%。
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作变成透明的预算分配流程。
Baseten 工程博客解析如何实现高质量 NVFP4 4-bit 量化,介绍了启发式规则、孤立层敏感度评分和 SaturationQuant 三种方案。NVFP4 每 16 个值共享一个 block scale,权重可直接计算 scale,激活值则需通过校准数据集统计分布。
蚂蚁 inclusionAI 在 GitHub 开源 TorchTurbo,一个面向 SuperNode 的后训练分布式训练引擎,基于 PyTorch FSDP2 与 Hugging Face Transformers,融合 FSDP、专家并行(EP)和 Ulysses 序列并行(SP)。
Databricks 为 Lakebase Postgres 引入 LTAP 架构,将批量数据加载从主计算节点卸载到 Spark 分布式引擎,内部基准测试显示加载 1 TB 数据现在只需不到 5 分钟。
ComfyUI 博客作者用智能体搜集各类优化,把 MiniMax H3 实时视频生成压缩到单张 RTX 5090(32 GB 显存)上运行,生成 30 秒视频耗时 23.51 秒,达 1.28 倍实时吞吐。
推荐理由:原文给出单张 RTX 5090 实现实时直播视频生成的完整优化清单和开源节点,读者可复现这套压成本思路。
NVIDIA Dynamo 引入统一的会话级标识符 session_id,把请求级推理服务升级为程序感知系统,覆盖会话感知路由、共享 KV 索引与程序化缓存迁移,兼容 vLLM 和 SGLang。
Goodfire Research 为 Kimi K3 和 GLM 5.3 构建基于激活探针加 LLM judge 的监控级联,并部署到生产推理栈。
推荐理由:原文给出监控级联的完整数据、成本和部署细节,读者可以据此评估实时监控开放模型智能体的可行做法。
Zyphra Research 提出利用 MoE 路由的层内与跨层相关性来优化专家放置,从而降低 all-to-all 通信开销。实验显示,在 8 台 MI300x 节点集群上,EP8 升至 EP32 时 all-to-all 占训练步时间比例从 13% 升至 45%(top-2 路由),top-6 路由下则从 24% 升至 60%。
IBM 通过 torch-spyre 将 Spyre 接入 PyTorch 的 device、allocator、stream 与编译器抽象,使其成为原生 PyTorch 设备。
Databricks 与 Replit 的集成已正式可用并原生支持 Lakebase,企业团队可用 Replit Agent 基于 Databricks 实时数据构建受治理的应用,并部署为 Databricks App。
Databricks 在 Data & AI Platform 上推出主动式成本管理方案,通过成本归因、预算、告警、仪表盘和优化五大支柱,让团队在花钱前就设好护栏。
Databricks 发布指南,介绍如何通过更换 dbt-databricks 适配器和连接配置,将现有 dbt 转换项目重新指向 Databricks Lakehouse,无需重写 DAG 或业务逻辑。
Inferact 与 vLLM 社区在 DeepSeek-V4.1-Flash 发布三周内完成优化,低并发速度提升 1.9 倍,150 TPS 约束下吞吐提升 5.3 倍。
推荐理由:vLLM 团队拆解了 SWA bounded replay 和一系列内核优化,说明五倍吞吐提升具体来自哪里,方法可复用于其他 Agent 服务场景。
NVIDIA cuOpt 推出多 GPU 的 mPDLP 求解器,通过 NVLink 连接的 GPU 分布式求解线性规划问题,求解速度比一年前快近 10x,单 GPU 峰值内存占用最多降低 6x(LP 问题上限 2.1B 非零元)。该求解器已在 Kinaxis 的供应链生产规划和 PSR 的大规模能源系统容量扩展模型中得到应用。
PyTorch 博客详解了用于推荐系统 Table Batched Embedding(TBE)前向与反向的 FBTriton 内核设计,其 Triton 实现在这些负载上超过了原有 CUDA 内核。
林肯实验室超级计算中心(LLSC)的 Lincoln AI Computing Survey(LAICS)系列调查已从首篇覆盖 57 款 AI 加速器扩展到最新一篇的 120 多款,持续对比各款商用加速器的峰值性能与峰值功耗。
GitHub 宣布重建 Git 基础设施,以支持智能体规模开发带来的高并发读写负载。2026 年 8 月 GitHub 月度 Git 事件量达 473.3 billion(一年翻倍以上),9 月智能体和开发者产生 7.38 billion commits(超一年前五倍),pushes 同比增长 4.9 倍。
推荐理由:GitHub 工程方亲述面向智能体规模开发重建 Git 基础设施的动因与设计原则,含内部基准写吞吐最高 35 倍等一手数据。
Together AI 正与 IBM、NVIDIA 合作扩展企业级 AI 推理,首批在 IBM Cloud 上部署大规模 NVIDIA B300 GPU 集群,并采用 NVIDIA Spectrum-X 以太网组网,这是 IBM Cloud 上首个此类专用大规模推理集群,Together AI 也是首个客户。