@minchoi Colossus 1 is 150k H100, 50k H200 and 30k GB200. Colossus 2 is 110k GB200 and 440k GB300. Another 220k GB300 will be fully operational next week and another 220k in November. If we get lucky, yet another 220k GB300 by late December.
#部署/工程
Rohan Paul@rohanpaul_aiAI 评分5757引用Elon Musk@elonmuskIT之家·人工智能AI 评分7070 曝腾讯租用甲骨文东南亚数据中心:涉及约 10 万块先进 AI 芯片,交易估值约 70 亿美元
据《金融时报》报道,腾讯与甲骨文签署其最大海外租赁协议,在东南亚多个甲骨文数据中心租用约 10 万块先进 AI 芯片,五年期交易估值约 70 亿美元,首付约 30%。算力将用于推进 AI 模型和智能体工具开发;腾讯第二季度资本支出同比增 176% 至 530 亿元人民币。双方均未回应置评请求。
Modal 官方工程博客精选AI 评分6565 Modal Clusters 正式发布,单行 @modal.clustered 即可启动多节点 GPU 集群
Modal 宣布 Modal Clusters 正式可用,通过 @modal.clustered 装饰器一行代码即可启动多节点集群。
推荐理由:原文解释了 gang 调度、rdma=True 和 gVisor RDMA 支持等实现细节,可帮助读者判断多节点训练推理的部署成本。
Canary Media:Data Centers 原创报道AI 评分5555 Meta 签订德州 144MW 太阳能购电协议,但仍依赖天然气为数据中心供电
Meta 与 Apex Clean Energy 达成购电协议,支持德州 Gonzales County 的 144MW Starling Solar 项目,并可获得全部环境属性用于抵消用电统计。
Rohan Paul@rohanpaul_aiAI 评分6969IT之家·人工智能AI 评分3636 技嘉推出 AI TOP 100 B850 台式整机,支持 RTX 5090 单卡或 R9700 双卡
技嘉发布 AI TOP 100 B850 台式整机,支持 1 张 NVIDIA GeForce RTX 5090 或 2 张 AMD Radeon AI PRO R9700 显卡。
OpenRouter:Announcements精选AI 评分6767 OpenRouter 教程:如何在 CI 中用 LLM eval 门禁拦截 Pull Request
OpenRouter 发布教程,讲解如何用固定的 eval 集在 CI 中门禁 pull request,当通过率低于阈值时脚本以非零退出码阻止合并,做法与单元测试门禁一致。
推荐理由:原文给出了从脚本到 GitHub Actions 的完整可复现流程,并强调了路径过滤须放 job 层、阈值应实测等易错点。
OpenRouter:Announcements精选AI 评分6767 OpenRouter 发布 Agent 模型成本与质量权衡选型框架
OpenRouter 发布一个三步框架,用于为 Agent 任务选出以最低成本达到质量门槛的模型,而不是按排行榜排名选最高分模型。方法是先按任务设定质量门槛,再用 20 到 50 条自己的示例运行廉价、中档和前沿模型并用统一评分标准计算每质量点成本,最后选出以超过运行间分数波动的余量过线的最便宜模型。
推荐理由:原文给出可复用的三步选型方法,读者可以据此按任务质量门槛测量并选出成本最低的够用模型。
OpenRouter:Announcements精选AI 评分6868 OpenRouter 指南:用置信度阈值实现模型分级升级路由
OpenRouter 发布教程,讲解如何让廉价模型通过结构化输出返回 0 到 1 的置信度字段,低置信度的请求再升级到更强模型。文章强调置信分数只是自报、不是校准概率,应基于自己流量的分数段错误率排序设定阈值,并在上线后监控分数分布、升级率和未升级答案的错误率持续调整。
推荐理由:原文给出按置信度分数分级路由的完整做法,读者可以照着在自己流量上校准阈值并权衡准确率、成本和延迟。
Databricks:BlogAI 评分4141 Databricks IP Functions 正式 GA,为 Lakehouse 带来高性能网络分析
Databricks 的 IP Functions 已正式 GA,让 IP 地址分析成为 Lakehouse 上原生的高性能 SQL 工作负载。这套内置函数统一支持 IPv4 与 IPv6、原生解析 CIDR,并提供 ip_cidr_contains 等函数及返回 NULL 的 try_ 安全变体,无需 UDF 或正则。
IT之家·人工智能AI 评分7575 谷歌发布 Gemini 4 Argon,DeepSWE 测试 77.9% 超 Claude Opus 5.5
谷歌于 9 月 30 日发布 Gemini 4 Argon,称其为迄今最先进的 AI 模型,主打长流程软件工程、企业知识工作和网络安全防御,单次输出上限约 100 万 tokens。
MarkTechPostAI 评分7272 Google DeepMind 发布 Gemini 4 Argon:单次输出可达 1M tokens
Google DeepMind 发布 Gemini 4 系列首个前沿模型 Gemini 4 Argon,单次响应输出上限从 64K 提升到 1M tokens,面向长周期软件工程、法律金融企业知识工作和网络防御。
The Verge:AIAI 评分7070 Google 发布 Gemini 4 Argon,目前仅限受信任的网络防御者使用
Google 发布新一代前沿模型 Gemini 4 Argon,称其在软件工程、法律和金融等企业知识工作以及网络防御方面具有前沿性能。模型初期仅向一批受信任的网络防御者开放,Google 正参与美国政府的发布前模型访问自愿流程并逐步扩大访问范围;该模型已用于 Google 内部工作流,如大规模代码库迁移。
NVIDIA Technical Blog:Agentic AI / Generative AIAI 评分4343 NVIDIA Dynamo-Triton 部署 HSTU 生成式推荐模型,延迟最高降低 5.93 倍
NVIDIA Dynamo-Triton(原 Triton Inference Server)现已通过 recsys-examples 仓库支持端到端 HSTU 生成式推荐推理工作流,结合 PyTorch AOTI、FlexKV KV 缓存与 NV embedding cache。
🚨 AI News | TestingCatalog@testingcatalogAI 评分5757引用Sundar Pichai@sundarpichaiLots of discussion out there about our next model(!), so I wanted to give an early look as soon as possible. Introducing Gemini 4 Argon! It shows frontier performance in complex workflows, cyber defense and software engineering. Teams are using it extensively at Google, from coding to quantum computing, great feedback. Here’s a look at the benchmarks:
Google DeepMind:Blog精选AI 评分7878 Google DeepMind 发布 Gemini 4 Argon,面向可信网络防御者先行开放
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向可信网络防御者开放,后续将逐步面向开发者、企业和消费者推出。
推荐理由:官方发布给出了定价、输出 token 上限和多项基准成绩,读者可以据此比较它在编码与企业工作流中的实际位置。
Databricks:BlogAI 评分5252 Databricks 发布 AI Function ai_decide,在治理数据上快速做出结构化决策
Databricks 推出新的 AI Function ai_decide(Beta),由 TypeSafe AI 的 Jev 决策模型驱动,对文本评估一个或多个问题,在几分之一秒内返回概率、命名标准中的选项或有序量表评分,延迟和成本低于 LLM。
NVIDIA Technical Blog:Agentic AI / Generative AIAI 评分4040 NVIDIA 扩展 xio-sig 加入 cuObject,并发布 SCADA Server SDK
NVIDIA 宣布 xio-sig 在 cuFile 之外新增 cuObject,并正式开放 cuObject 客户端与服务器库,开发者可通过其 API 和 RDMA 线协议构建加速对象存储应用。同步推出的 SCADA Server SDK 让存储厂商构建响应 GPU 发起请求的 SCADA 服务器,IBM 已用集成 Storage Scale 的原型验证互操作性。
Hacker News:AI 热帖AI 评分6060 Magnitude(YC S25)发布可自优化的开源 Agent 推理引擎
Magnitude(YC S25)发布开源推理引擎,在本地设备上编译调优内核,宣称比 llama.cpp 快最多 2x(Metal 上 decode 快 92%,CUDA 上快 19%)。
Databricks:BlogAI 评分3737 Lakebase Postgres 成本优化实用指南
Databricks 的 Lakebase Postgres 通过存储计算分离架构实现成本优化:数据库分支共享底层存储,避免为每个环境复制物理副本;自动扩缩容按实际用量计费,配合 scale to zero 可在闲置后完全暂停计算,几百毫秒内恢复。
PyTorch:BlogAI 评分2626 PyTorch Conference North America 2026 参会指南:Ray 相关议程全解析
PyTorch Conference North America 2026 将在 San Jose 举行,官方发布了一份聚焦 Ray 的参会指南。Ray 是分布式计算框架,可覆盖从多模态数据整理、多节点训练到生产部署的完整 AI 生命周期,已成为 Cursor、Microsoft AI、NVIDIA 等机构开展后训练与强化学习的标准底座。
Google AI:DEV 作者专属AI 评分5959 Google AI 教程:60 分钟为 AI 智能体搭建生产级 Eval 流水线
Google Cloud 的 AI Agent Clinic 节目演示如何在 60 分钟内搭建框架无关的智能体评测流水线,替代依赖 vibes check 的手工测试。
Google Developers BlogAI 评分4343 Google 如何在 TPU 上加速视频扩散模型的时空注意力
Google 在 TPU 上通过稀疏注意力内核优化加速视频扩散模型推理,将理论稀疏性转化为端到端实际加速。
NVIDIA Technical Blog:Agentic AI / Generative AIAI 评分4949 用 NVIDIA NeMo Relay 追踪 Hermes Agent 的 Harness 行为
NVIDIA 发布教程,演示如何用 NeMo Relay 追踪 Hermes Agent 的 harness 行为:运行终端工具与文件加网页研究两个示例,通过 ATOF、ATIF 和 OpenTelemetry 三种格式的 trace 检查模型与工具调用、错误、重试、耗时和 token 消耗,并结合任务验证结果评估 harness 改动。
Hacker News:AI 热帖AI 评分5151 GPU 文字渲染对比:SDF、MSDF、Slug、纹理图集与 Rive 的取舍
AlphaPixel 发布 Slughorn(C++20、MIT 许可),实现 Eric Lengyel 2017 年提出的 Slug 算法,其专利已于 2026 年 3 月进入公有领域。
Claude:BlogAI 评分5757 Anthropic 销售团队如何用 Claude Managed Agents 重建 inbound 流程
Anthropic 销售团队基于 Claude Managed Agents(beta)搭建购买智能体,每天处理数千场对话,引导客户从咨询到完成购买。转化的销售机会是旧表单的两倍多,成交快约五天,需人工介入的对话占比下降约一半。文章介绍了部署位置、三种会话结局,以及给目标而非规则、少即是多、引入领域专家等构建经验。
NVIDIA BlogAI 评分5656 CoreWeave 宣布上线 NVIDIA Vera Rubin NVL72 并推出 CoreWeave Forge
CoreWeave 在 Fully Connected 大会宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网正式可用,Cognition 成为首家跑生产负载的客户,其 SWE-2 推理总 token 吞吐较 GB200 NVL72 最高提升 4.8x。
The Decoder:AI NewsAI 评分6666 DeepSeek 开源面向华为 Ascend 芯片的编程工具,TileLang 为核心
DeepSeek 与华为合作,开源面向 Ascend 芯片的编程工具,核心是比 CUDA 编程模型更简单的 TileLang,据称华为全面支持该项工作,双方还优化了由 128 颗 Ascend 950 组成的 supernode。
TechCrunch:AIAI 评分5050 Restate 获 2000 万美元 A 轮融资,为 AI 智能体提供持久化执行基础设施
柏林初创公司 Restate 完成由 Singular 领投的 2000 万美元 A 轮融资,Redpoint Ventures 和 Capital One Ventures 参投,资金将用于组建市场团队、扩充工程师并扩展旧金山湾区办公室。
IT之家·人工智能AI 评分5959 新思科技与亚马逊签署多年期超 10 亿美元定制芯片 IP 合作协议
新思科技于 9 月 30 日宣布与亚马逊达成多年期、总额超 10 亿美元(约合 67.18 亿元人民币)的定制芯片 IP 战略合作协议,合作拓展至云端及 AI 赋能的工程研发领域。双方将针对 Trainium 与 Graviton 芯片深度优化新思科技的软件工具,新思科技工程团队还将引入 Amazon EC2 与 Amazon Bedrock 加速产品开发,并借助 AWS 加快自身产品迭代。
PyTorch:BlogAI 评分4040 Torch Spyre 如何借 PyTorch CRCR 实现 L2 集成:智能体测试选择与声明式测试复用
Torch Spyre 基于 PyTorch 跨仓库 CI Relay(CRCR)达到 L2 集成,用智能体流水线从代码与执行证据中筛选并重新分桶测试,再用声明式 YAML 框架适配上游测试而无需打补丁。
vLLM 官方博客精选AI 评分6262 vLLM 分离式推理(Disaggregated Serving)实用指南
vLLM 官方博客发布分离式推理实用指南,讲解 vLLM v0.30.0 及以上版本中 prefill/decode 分离、无 GPU render 前端及两者组合的原理与运行方法。
推荐理由:作者来自参与开发的 IBM Research,给出 P/D 与 render 拆分的收益数据、适用场景表和可复用运行方法。
公众号:百度智能云AI 评分2424 百度千帆 Token Plan 企业版开启「国庆 Token 畅享」限时活动
百度千帆开启「国庆 Token 畅享」活动,即日起至 10 月 7 日 23:59:59,Token Plan 企业版对 DeepSeek-v4.1-flash、DeepSeek-v4-pro-0813、GLM 5.3 三款模型统一按 0.2 抵扣系数计费,相当于 2 折且不分忙闲时。
公众号:小红书技术AI 评分6161 小红书推荐系统 Agentic 发布实践:跨昼夜长程任务 Harness 详解
小红书技术团队详解推荐系统 Agentic 发布实践:一次发布横跨十几个部署组、数千个 Pod,平均持续 10 多个小时,团队将发布知识沉淀为近 20 万字 SKILL,并构建长程任务 Harness,通过任务持久化状态、流程模板、引擎推进与 Transactional Outbox 效果查证保障跨昼夜可靠执行。
公众号:DeepSeek精选AI 评分7272 DeepSeek 开源面向华为昇腾平台的基础设施组件
DeepSeek 开源面向华为昇腾算力平台的基础设施组件,包括 TileLang 编译工具、DeepGEMM、DeepEP、TileKernels、FlashMLA、DeepSelect,与此前英伟达平台开源组件一一对应。
推荐理由:原文给出各组件功能与开源链接,读者可以据此评估昇腾平台软件生态的可用范围。
IT之家·人工智能AI 评分7575 DeepSeek 开源面向华为昇腾算力平台的基础设施组件,与英伟达平台一一对应
DeepSeek 于 9 月 30 日通过官方公众号宣布正式开源面向华为昇腾算力平台的基础设施组件,与此前面向英伟达平台的开源组件一一对应,涵盖 TileLang 编译工具、计算库和分布式通信库。
IT之家·人工智能精选AI 评分8282 Anthropic 与 SpaceX 签署最高 845 亿美元算力协议,可提前 90 天通知解除
Anthropic 与 SpaceX 签署算力协议,据路透社查阅的 IPO 申报文件,合同金额上限最高达 845 亿美元,用于租用 SpaceX 数据中心内的英伟达 GPU。
推荐理由:原文基于 SEC 申报文件给出合同金额、月费与解约条款等具体细节,读者可了解 Anthropic 算力采购的实际安排。