#部署/工程
Larsen Cundric@larsenccAI 评分3535
O'Reilly RadarAI 评分4646 Honeycomb 联合创始人 Charity Majors 谈 AI 可观测性:非确定性系统需要更多严谨
Honeycomb 联合创始人兼 CTO Charity Majors 在播客中讨论 AI 生成代码加速后如何构建可靠软件,指出可观测性用于回答未知问题、连接变更与结果。
Tomasz Tunguz 博客AI 评分6060 五大前沿模型智能相近但单位成本差3.8倍:自研芯片成定价分水岭
Tomasz Tunguz 分析指出五个前沿模型智能水平相差不到5分,但单位任务成本相差3.8倍,Google 的 Argon 定价 $1.99 a task,比最贵的 Fable 5.1 低74%。
Rohan Paul@rohanpaul_aiAI 评分4141引用Alok Bishoyi@alokbishoyi97Getting your inference right shouldn't be hard. @useRouterPlus (YC F26) is live: the right model and provider for your workload, at the best price. check out : https://routerplus.com/capacity
O'Reilly RadarAI 评分4242 AI 栈中的保存缺口:为什么能力进步快于可重建性
O'Reilly Radar 文章提出 AI 系统存在"保存缺口":运行时依赖(模型端点、检索数据、策略、工具契约等)在执行时才确定,现有基础设施只保存模型、代码、部署和观测记录,不保存某次执行的实际绑定关系。作者为此提出参考架构 Orrery,用于保存重建 AI 系统历史执行所需的运行时绑定与依赖状态,并区分了"可复现性"与"可重建性"两个概念。
meng shao@shao__mengAI 评分5252引用meng shao@shao__meng假期第四天,继续学习阿里的「AI Native 研发范式实践手册」 今天看到「Agent 运行环境」中的 Sandbox 部分,介绍了阿里开源的 OpenSandbox,顺手搜了一下各云服务厂商开源的 Sandbox,如果你的 Agent 需要可以具体选择使用。 只搜索筛选了部分开源 Sandbox,如果大家有其他选择欢迎评论补充 🤝 1. 腾讯云 CubeSandbox https://github.com/TencentCloud/CubeSandbox 国内生产级自建优先,基于 KVM MicroVM,具备控制面、集群调度、网络与凭据策略、快照能力,并兼容 E2B SDK 2. 阿里 OpenSandbox https://github.com/opensandbox-group/OpenSandbox 功能覆盖面较完整,支持 Docker/Kubernetes、多语言 SDK、MCP、浏览器和桌面等 agent 执行环境能力 3. 字节跳动 AIO Sandbox https://github.com/agent-infra/sandbox 快速搭建 browser、Shell、文件系统、VS Code、Jupyter 与 MCP 一体化 agent 工作环境,主要采用 Docker 容器形态 4. 字节跳动 SandboxFusion https://github.com/bytedance/sandboxfusion 适合 LLM 代码执行、Online Judge、代码评测和强化学习数据集运行,支持多语言及部分 GPU 运行时 5. AWS Firecracker https://github.com/firecracker-microvm/firecracker 适合自建高隔离、多租户 agent 执行平台的 MicroVM 底座,需自行建设调度、文件服务、快照管理和 agent SDK 等上层能力 6. Google gVisor https://github.com/google/gvisor Google 开源的容器安全 Sandbox 运行时,通过用户态 application kernel 与 `runsc` 为 Docker/Kubernetes 工作负载提供更强隔离;适合已有容器平台、希望以较低启动和资源成本承载不可信 agent 代码的场景
Pragmatic EngineerAI 评分5858 Pragmatic Engineer 播客对话 Sam Newman:微服务、弹性系统与 AI 时代的软件架构
Pragmatic Engineer 播客发布与 Sam Newman 的访谈,其新书 Building Resilient Distributed Systems 印刷版于 10 月 7 日上市。Newman 将分布式计算八大谬误归结为三条规则,并讨论幂等键与指纹两种幂等方案、弹性四概念,以及 AI 时代的多供应商对冲、模块化架构和避免对 AI 的认知投降。
Simon Willison 博客AI 评分5757 Simon Willison:按用量服务应默认设置硬性预算上限
Simon Willison 撰文呼吁按用量付费的服务和 API 默认提供硬性预算上限,超过每月 $X 即切断服务并返回错误,而不是只发警告邮件。理由是编码智能体降低了部署付费代码的门槛,用户可能睡一觉醒来收到数千美元的意外账单。
Dongxi 东锡 NLP@dongxi_nlpAI 评分2929
Latent SpaceAI 评分7070 Airbnb CTO Ahmad Al-Dahle 谈 AI 原生化转型:60% 代码由 AI 编写
Airbnb CTO Ahmad Al-Dahle 接受 Latent Space 采访,介绍把 Airbnb 改造为 AI 原生公司的进展。目前 60% 的代码由 AI 编写,功能和改进发布量同比增长近 80%,人均工程师 PR 吞吐量提升约 1.6 倍。
NVIDIA BlogAI 评分3737 NVIDIA AI 工厂如何实现高产出、长寿命与通用性以最大化投资回报
NVIDIA 提出 AI 工厂投资回报取决于产出能力、使用寿命与需求三项因素,其平台通过全栈协同设计实现每兆瓦吞吐最大化。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。
Tomasz Tunguz 博客精选AI 评分6363 Tomer Tunguz 解析 GPU 租金翻倍而 AI 价格下降的并行逻辑
GPU 租赁价格在九个月内从 $4.40 翻倍到 $8.08 每 GPU 小时,但 AI 使用价格仍在下降。
推荐理由:文章用 GPU 租金翻倍与 AI 推理降价并存的数据,解释两条曲线如何靠效率提升维持平衡,并指向每 GPU 小时毛利这一关键指标。
Rohan Paul@rohanpaul_aiAI 评分4545
SemiAnalysis 长文 RSSAI 评分6666 SemiAnalysis 发布中国数据中心模型,测算中国存量容量超过 24GW
SemiAnalysis 发布 China Datacenter Model,追踪中国 1,000 多座数据中心设施、覆盖 60 多家运营商,测算中国存量容量超过 24GW,另有约 20GW 在建和约 30GW 已公布项目。
The Verge:AIAI 评分5656 The Verge 批评 Nvidia CEO 黄仁勋称 AI 需先造成痛苦才能拯救气候
The Verge 记者 Justine Calma 评析黄仁勋在 The Ezra Klein Show 上的言论,黄仁勋称 AI 拯救气候前不得不先使用化石燃料、造成痛苦。
eric zakariasson@ericzakariassonAI 评分5757引用Cursor@cursor_aiWe've reduced token costs in Cursor by 7% with no drop in agent quality. Savings came from tighter prompts, selective tool loading, better caching, and compressed file reads.
GitHub BlogAI 评分5252 GitHub 联合 Yale 调查 1039 名用户:开发者需要更高效的软件与可测量的节能路径
GitHub 与 Yale Program on Climate Change Communication 对 1039 名 GitHub 美国用户调查显示,80% 有兴趣使用帮助编写更节能代码的工具,74% 想测量软件或开发流程的环境影响,71% 担心 AI 的环境影响。
Simon Willison 博客AI 评分7070 Simon Willison 评 TypeSafe AI 新形态决策模型 Jev
TypeSafe AI 上周发布 Jev,作者称其为 System One 或决策模型:接受文本输入但输出浮点置信分数而非文本,仅按输入计费 $0.042/百万 tokens,低于 GPT-5 Nano 的 $0.05。
Tomasz Tunguz 博客精选AI 评分6666 Tomer Tunguz 谈 AI 优化 if-then 判断:专用决策器把分类成本降近百倍
Tomer Tunguz 撰文提出最新一波 AI 正在接管软件中的 if-then 判断原语,Jev 与 SemIf 这类专用决策器以数百毫秒返回结果,成本比传统生成式调用低约 76x 到 209x。作者在自己的 Agent 中替换了约四分之一的调用,在 98 条人工核验的生产邮件线程上,Jev 达到 80%、本地 SemIf 达到 82% 的分类准确率,高于生产模型的 47%。
推荐理由:作者结合自身 Agent 的替换实验给出成本与准确率对比,为判断专用小模型何时可替代前沿模型提供参照。
Hacker News:AI 热帖AI 评分6464 Dan McKinley:Prompts Aren't Real,生产级 Agent 应靠评测与优化而非人工打磨提示词
工程师 Dan McKinley 撰文《Prompts Aren't Real》,基于在生产环境让 Agent 可靠运行的经验,提出提示词不是核心资产,可自我修正的评测与优化系统才是。
Rohan Paul@rohanpaul_aiAI 评分6464
引用Molly O’Shea@MollySOSheaBREAKING: Only ~1% of Bending Spoons’ AI requests & tokens goes to frontier models. 99% runs on self-hosted open-weight models. CEO Luca Ferrari on the shift to Sovereign AI: “We end up using open-weight models we self-host, so these are basically free. I mean, there is a little bit of cloud cost, but for 99% of the requests and tokens.” “And the frontier models, generally closed weight, through APIs for maybe 1% of the requests, only for the most complex tasks.” “Sometimes we use them automatically to check the work that got done by the slightly less intelligent models, as a more senior engineer would with a more junior engineer.”
Rohan Paul@rohanpaul_aiAI 评分6464智谱(Zai)分享 GLM-5.3 帮助构建并优化 GLM-5.3-Flash 推理基础设施的过程,系统从首次成功运行到生产就绪用时不到两周,端到端吞吐相对初始基线提升至 3 倍。
引用Z.ai@Zai_orgWe’re sharing how GLM-5.3 helped build and optimize the inference infrastructure serving GLM-5.3-Flash. The system went from its first successful run to production readiness in less than two weeks, with end-to-end throughput tripling relative to the initial baseline. The key was dense feedback: local correctness tests, execution traces, microbenchmarks, and end-to-end measurements that enabled targeted hypothesis testing rather than reliance on aggregate performance metrics alone. https://z.ai/blog/glm-built-its-inference-infrastructure
jietang@jietangAI 评分6464唐杰撰文称,GLM-5.3 驱动的 Infra Agent 用两周时间让 GLM-5.3-Flash 在国产加速器上从首次运行到承接全部生产流量,端到端吞吐达 3.2 倍。
引用Z.ai@Zai_orgWe’re sharing how GLM-5.3 helped build and optimize the inference infrastructure serving GLM-5.3-Flash. The system went from its first successful run to production readiness in less than two weeks, with end-to-end throughput tripling relative to the initial baseline. The key was dense feedback: local correctness tests, execution traces, microbenchmarks, and end-to-end measurements that enabled targeted hypothesis testing rather than reliance on aggregate performance metrics alone. https://z.ai/blog/glm-built-its-inference-infrastructure
IT之家·人工智能AI 评分5656 Silicon Data 数据显示英伟达 B200 二手残值达首发价 158%,直线折旧在 AI 加速器市场失效
数据分析公司 Silicon Data 数据显示,英伟达 B200 出货约一年后二手残值涨至原价的 158%,A100 与 H100 残值也远超 3 年或 5 年直线折旧应有水平。
GitHub Blog精选AI 评分8787 GitHub 用 Copilot 智能体将 Copilot 运行时从 TypeScript 迁移到 83 万行 Rust
GitHub 工程师 Stephen Toub 复盘用 Copilot 智能体在约 14.5 周内将 Copilot agent runtime 从 TypeScript/Node.js 全量重写为 832,378 行生产 Rust,AI 智能体完成大部分代码,共 128 个 PR 增量合入 main 并持续发布。
推荐理由:当事工程师复盘用 AI 智能体在数月内将 Copilot 运行时迁往 Rust 的全过程,策略、回归样本和成本数据对同类迁移有直接参考价值。
Claude:Blog精选AI 评分6666 Anthropic 工程师复盘:智能体编程压力下如何扩展测试影响分析服务
Anthropic 工程师撰文分享如何在智能体编程压力下扩展测试影响分析服务。Claude 编写约 80% 的代码,测试数量增长 10x,六个月内 CI 任务增加 25x。文章复盘了三个临时补丁(扩容、按包分片、每日重启)分别只维持 70 天、29 天和不到一天,最终用三周重设计为无状态、内存存储加 journal 的可水平扩展架构,并建议团队按两季度内 25x 负载做容量规划。
推荐理由:作者复盘了智能体编程把 CI 推向 25x 负载的完整演进,给出可迁移的架构与容量规划经验。
SemiAnalysis 长文 RSSAI 评分6161 SemiAnalysis 分析机器人智能应放机上还是放数据中心:B300 卸载 TCO 约为 Jetson Thor 机上方案的 46%
SemiAnalysis 长文分析通用机器人模型的智能应放在机器人本体还是数据中心。受实时性和单机成本约束,当前机器人模型仍为数十亿参数级,如 Physical Intelligence 的 π0 约 3B。
SemiAnalysis 长文 RSSAI 评分6060 SemiAnalysis 长文解析:为什么 4-hi HBM 将成为推理最优配置
SemiAnalysis 长文论证 HBM 堆叠层数持续走高的趋势正在逆转,下一代 Rubin Ultra 每颗 GPU 的 HBM 将从 288GB 降至 192GB(8-hi)。
IT之家·人工智能AI 评分6161 OpenAI 将在线存储平台 Habitat 从 Python 迁移至 Rust,CPU 效率提升 6 倍
OpenAI 发文介绍其在线存储平台 Habitat 从 Python 迁移至 Rust 的过程,该平台每秒处理超 7000 万次请求、每周服务超 10 亿用户、管理数据超 500PB。
OpenAI:官网动态精选AI 评分6161 OpenAI 详解存储平台 Habitat 如何扩展支撑超 10 亿 ChatGPT 用户(上篇)
OpenAI 发文(系列上篇)讲述其在线存储平台 Habitat 的演进:现每秒处理超 7000 万请求、服务每周超 10 亿用户、管理超 500PB 数据,覆盖近 40 个地区。
推荐理由:原文披露了 Habitat 从 Python 库到 Rust 服务的完整演进细节,含 asyncio 调优、连接池等可迁移经验。
Tessl:产品与工程博客AI 评分5151 GitHub Next 的 Don Syme 提出在 CI/CD 之外增加第三个支柱 Continuous AI
GitHub Next 的 Don Syme 在 AI Native DevCon London 演讲中提出,应在 CI 和 CD 之外增加第三个支柱 Continuous AI,即在软件生命周期中以定时、可审计、由仓库事件触发的 AI 工作流实现持续文档、代码改进和问题分拣。
Augment Code 博客精选AI 评分6969 Augment 复盘软件工厂建设:人均规模调整产出增长 4.5 倍
Augment Code 发布长文,复盘其九个月建设的软件工厂:2025 年 11 月至 2026 年 7 月,基于 Cosmos 平台在需求、工单、PR、生产四个环节部署 PR Author。
推荐理由:Augment 复盘其软件工厂九个月的落地过程,给出了具体的量化结果和按瓶颈逐步自动化 SDLC 的可迁移方法。
Cognition 模型 / Devin 博客AI 评分7777 Cognition 工程师用 Devin 智能体完成 RSA-260 因式分解,刷新公开纪录
Cognition 员工 samyok 率团队驱动多个 Devin 智能体构建了高性能 GPU 格子筛,对 260 位的 RSA-260 完成因式分解,刷新此前 RSA-250(2020 年 2 月)保持的公开 RSA 挑战纪录。
IT之家·人工智能AI 评分6464 OpenAI CFO:自研 AI 加速 Jalapeno 芯片设计,Luna 部署成本低于开源方案
据路透社报道,OpenAI CFO Sarah Friar 在高盛会议上表示,OpenAI 用自研模型参与 Jalapeno 芯片开发并在 9 个月内完成流片,且部署 Luna 模型的成本低于云端运行开源方案,如智谱 AI 的 GLM 5.3。
IT之家·人工智能AI 评分6363 微软提出让每张办公桌每个家庭拥有不受限制的智能的新愿景
微软 Windows 与设备销售企业副总裁 Mark Linton 在 IFA 2026 上提出新愿景,让每张办公桌、每个家庭都拥有不受限制的智能,即本地运行日常 AI 模型、云端只留给复杂任务。