跳到正文
9月30日周三
  1. OpenRouter:Announcements65

    OpenRouter 教程:如何从生产流量构建 golden 评测集并跨模型复测

    OpenRouter 发布教程,讲解如何从生产流量构建 golden 评测集,作为每次部署前的回归测试。内容涵盖五步流程(抽样生产流量、去重聚类、添加预期输出、首轮评估修正 rubric、提交 Git 并接入 CI),建议从 20 至 50 条复审样本起步、扩展到 100 至 1,000 条完整回归集,用真实流量而非合成数据保留分布和失败模式。

    推荐理由:原文给出从生产流量构建 golden 评测集的五步流程和跨模型复测方法,可直接照做。

  2. OpenRouter:Announcements69

    OpenRouter 教程:提示词或模型变更后如何对 AI Agent 做回归测试

    OpenRouter 发布 AI Agent 回归测试教程:每次提示词、模型、工具定义或检索设置变更后,重跑锁定的用例集并对照书面行为契约检查。

    推荐理由:原文给出可复用的 Agent 回归测试方法,包括锁定用例集、行为契约、具体模型 slug 固定和模型切换对比的完整做法。

  3. Fireworks AI45

    Fireworks AI 多区域部署:一次部署实现全球规模推理

    Fireworks AI 推出 GLOBAL 多区域部署选项,让单个部署可跨区域调度兼容 GPU 容量,并保持单一 endpoint 和部署身份。其调度在请求路径之外预先完成放置,不增加全局调度往返。七天生产观测显示,可全球放置的客户部署在 2 个以上 serving cluster 运行时请求成功率从单区域的 99.269% 升至 99.992%,接近其 99.99% 可靠性目标。

  4. OpenAI:官网动态86

    OpenAI 发布 GPT-6.1 Sol,以约五分之一价格接近 GPT-6 Astra 智能

    OpenAI 发布 GPT-6.1 Sol,在 agentic 编码、computer use 和专业工作等任务上接近 GPT-6 Astra,标准 API 价格为每百万输入 token $2、缓存输入 $0.10、输出 $10,约为 Astra 五分之一。

    推荐理由:官方公布了与 GPT-6 Astra 的多项基准对比和完整 API 定价,开发者可以据此评估用五分之一成本替代旗舰模型的可行性。

9月29日周二
  1. Databricks:Blog65

    Databricks 如何让 12000 名员工在模型发布首日用上新前沿模型

    Databricks 分享其让全部员工在模型发布首日即可试用新模型的内部流程,依托 Unity Gateway 做配置分发、治理与可观测性。流程分三步:立即以实验标签开放新模型、用四类按人预算控制成本、再依据内部基准、用户反馈和 OpenTelemetry 成本追踪决定推广或下线。

    推荐理由:Databricks 以自家 12000 名员工的实际 rollout 为例,给出可复用的新模型评估、预算分层与成本度量方法。

9月28日周一
  1. Anthropic:Claude.dev 开发者博客67

    Anthropic 介绍用 Claude Code 与 claude-api skill 自动化评测设计与 hillclimbing

    Anthropic 在 claude-api skill 中新增 /claude-api build-eval 和 /claude-api hillclimb 两个命令,前者在代码库内通过访谈式流程构建评测集并验证 grader,后者以一次一改动、train/test 分离并检测过拟合的方式迭代优化应用。

    推荐理由:Anthropic 官方讲解了评测设计的关键原则,并给出 build-eval 和 hillclimb 两个命令的用法与真实优化案例,可迁移到自己的应用调优。

9月26日周六
9月25日周五
  1. GitHub Blog64

    GitHub 如何通过迁移 CSS Modules 将 SSR 时间降低 55%

    GitHub 工程师 Josh Black 复盘将 Primer 设计系统从 CSS-in-JS 迁移到 CSS Modules 的历程。截至 2024 年 12 月 Primer 全部组件迁移完成,服务端渲染时间减少 55%,组件初始化时间减少 25%。

    推荐理由:原文给出大厂从 CSS-in-JS 迁移到 CSS Modules 的完整路径和量化收益,可迁移到类似的前端架构改造。

  2. Amazon Science31

    Reactor 与 Amazon Neuron 团队如何在 Trainium 上实现实时视频生成

    Reactor 与 Amazon Neuron Science 团队合作,针对 Rolling Forcing 自回归扩散模型在 Trainium 上的部署进行优化,以实现实时交互式视频生成。该模型可生成 30 秒高质量视频并以 16 帧/秒运行,满足视频播放的延迟要求。团队面临的核心挑战是模型序列极长导致内存消耗大,而 Trainium 的性能与内存为持续实时生成提供了支撑。

  3. Anthropic:Claude.dev 开发者博客78

    Opus 5.5 上一个任务要花多少钱:Claude Code 成本拆解

    Anthropic 工程师 Addy Osmani 拆解 Opus 5.5 在 Claude Code 中完成任务的成本构成:turns、缓存读取、输出 token 和模型选择四个因素决定账单。Opus 5.5 输入输出价格比 Opus 5 降 20%,缓存读取降 60%,官方估算典型任务整体运行成本低 40%;文中还给出 effort 分级、缓存命中率维护、/usage 自查等省钱做法。

    推荐理由:原文拆解了 Opus 5.5 上一个任务的账单构成,并给出 effort、缓存、压缩等可自查可迁移的成本优化方法。

  4. LangChain:Blog60

    LangSmith 发布 Engine v2、Managed Deep Agents v0.8、Trajectories、Fine-Tuning 及 Custom Apps

    LangChain 在 Interrupt NYC 上发布多项 LangSmith 更新:Engine v2 新增 Red Teaming 主动排查、检测性能趋势与低效工具调用,并可自动验证修复后一键开 PR,自 5 月上线以来已分析超过 60M 条 traces。

    推荐理由:官方一次性发布覆盖开发闭环的多个功能,读者可据此评估自家 agent 生产流程哪些环节能用得上。

  5. vLLM 官方博客66

    vLLM 新增基于 Gumbel-max 的无失真文本水印功能

    vLLM 宣布支持基于 Gumbel-max 算法的无失真水印,将其集成进 Model Runner v2 的采样管线,并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重,以兼容投机解码并保持输出多样性。

    推荐理由:原文给出水印算法原理、双键与去重方案及实测吞吐数据,读者可评估在生产环境启用水印的可行性与代价。

9月24日周四
  1. LangChain:Blog56

    LangChain 发布 Managed Deep Agents 0.8,新增用户级内存、HTTP 通道与 Parallel 网页搜索

    LangChain 发布 Managed Deep Agents 0.8,新增用户自有凭据、用户级内存、HTTP 通道、Slack 文件传输,并内置由 Parallel 驱动的网页搜索工具。用户级内存按调用者身份隔离存储,凭据支持用户或代理级别作用域,内置 23 个服务的开箱即用连接;beta 期间 Parallel 网页搜索免费提供。

  2. LangChain:Blog53

    LangSmith 推出 Custom Apps,可在 LangSmith 内构建和运行自定义智能体数据界面

    LangChain 发布 LangSmith Custom Apps,用户可基于 LangSmith 数据构建、发布并直接在工作区内运行自定义 UI,省去托管、认证和权限维护。可通过 LangSmith Chat 或模板加编码智能体构建,Plus 套餐含每组织一个应用,Enterprise 套餐不限量;同期开源其设计系统 Macaw。

  3. Modal 官方工程博客62

    Modal 详解如何以万亿 token 规模服务 Kimi K2.6 编码 Agent 推理

    Modal 分享为编码 Agent 提供万亿参数模型 Kimi K2.6 推理服务的优化实践,优化后单副本每用户性能提升 2.8x、副本整体吞吐提升 5.6x,单个服务日处理数千亿 token。

    推荐理由:原文以一线实践拆解编码 Agent 推理优化的完整路径,读者可以迁移其瓶颈定位与 KV 缓存路由方法。

  4. Microsoft Research 博客78

    微软研究院:机器人推理卸载至边缘/云端可显著提升性能与续航

    微软研究院发布关于物理AI机器人推理基础设施的研究。通过系统评估移动操作任务,发现将推理从机载GPU卸载至边缘或云端,能解决机载算力限制模型规模、导致响应延迟(最高383%)及精度下降的问题。实验显示,卸载推理不仅提升了任务成功率,还通过替换高功耗机载GPU为轻量硬件(如树莓派),使机器人电池寿命延长高达160%。此外,微软推出了基于Kubernetes的Physical AI Toolchain工具集,支持自动化容器化与分布式推理部署。

9月23日周三
  1. vLLM 官方博客74

    vLLM 发布 vllm-metal v0.28.0:在 Apple Silicon 上支持并发推理服务

    vLLM 官方发布 vllm-metal v0.28.0,把 vLLM 的 V1 调度器、paged KV cache 和 OpenAI 兼容服务器带到 Apple Silicon,由 MLX 和 Metal 执行模型,版本号与上游 vLLM 对齐。

    推荐理由:官方首次发布 vllm-metal,用 packed varlen attention 和 paged KV 解决 Mac 上并发请求的服务问题,并给出可复现的并发基准数据。