跳到正文
  1. 禾赛科技71

    禾赛发布三维世界数据引擎 Kosmo 及 8K AI 空间相机 Kosmo One

    10 月 14 日,禾赛科技正式发布三维世界数据引擎 Kosmo,同步推出集成 8K 影像系统的 AI 空间相机 Kosmo One 和云平台 Kosmo World,瞄准具身智能与世界模型的真实世界数据需求。

    推荐理由:原文给出扫描效率、建模成本与机器人训练成功率的对比数据,可帮助读者评估真实世界三维数据在具身智能中的实际作用。

  2. Replit:Blog69

    Replit 发布 Monitoring Agent,为应用提供可自动修复并部署的值班智能体

    Replit 发布 Monitoring Agent,为应用提供相当于自主值班工程师的监控智能体。它可以读取生产日志和指标调查错误、变慢和部署失败,在启用 autofix 后验证修复并邮件汇报,启用 auto-publish 后可自动部署修复。该能力建立在早前上线的 App Monitoring 之上,用户可在应用的 Publishing 设置中开启。

    推荐理由:原文说明了该智能体如何调查告警、验证修复并部署,可帮助读者判断它能否替代个人开发者深夜值班。

  3. OpenAI:官网动态67

    OpenAI 正式发布 Decisions API,面向低延迟低成本小决策

    OpenAI 宣布基于 GPT-6 Luna 的 Decisions API 正式可用,用于分类、路由、评分等有界答案问题,速度最高比通过 Responses API 使用 GPT-6 Luna 快 10x。

    推荐理由:官方宣布 Decisions API 正式可用,给出与 GPT-6 Luna 的速度对比、定价和 GPT-Live 集成,便于评估路由分类类场景的收益。

  1. MiniMax:Blog67

    MiniMax Code 桌面端推出 Mini App 长运行应用功能

    MiniMax 在 MiniMax Code 桌面应用(macOS / Windows)本地会话中推出 Mini App,一种带前端和后端的长运行应用,以插件形式安装并与 Agent 双向调用,让 Agent 的工作停留在常驻页面而非散落各对话中。

    推荐理由:官方详细说明了 Mini App 的架构、安全边界和社区生态,开发者可以据此判断如何在 MiniMax Code 上构建长运行应用。

  2. Claude:Blog73

    Anthropic 开启 Claude Duet 研究预览,Claude 以主动式智能体接管日常工作

    Anthropic 开启 Claude Duet 研究预览,一款让 Claude 作为主动式智能体工作的独立应用,已登陆 iOS、Android 和 claude.ai,面向美国 Pro 和 Max 用户开放候补名单。

    推荐理由:原文给出 Claude Duet 的运行机制、安全设计和使用限制,读者可以据此判断这款主动式智能体是否值得加入工作流。

  1. vLLM 官方博客67

    蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming

    蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming,仓库为 github.com/vllm-project/humming。

    推荐理由:原文给出统一量化表示加 JIT 编译的内核设计和多项基准数字,读者可以据此评估不同 GPU 上的量化推理方案选择。

  2. Modal 官方工程博客61

    Modal 推出 Sticky Sessions:同一会话请求始终路由到同一容器

    Modal 发布 Sticky Sessions,基于 Modal Servers 让同一会话的所有请求固定路由到同一容器,用 @modal.sessioned() 装饰器配合 SDK 或 HTTP API 即可创建。

    推荐理由:原文讲清了 Sticky Sessions 的路由、授权与弹性伸缩设计,以及语音智能体、共享房间和游戏等适用场景。

  3. Fireworks AI76

    Meta 开放权重模型 Muse Spark Open 上线 Fireworks 美国区 serverless

    Meta 的开放权重模型 Muse Spark Open 在 Fireworks 上线 Day-0 serverless,为 816B 参数 MoE 架构,每 token 激活 42B 参数,支持 1M token 上下文窗口。

    推荐理由:Fireworks 给出了 Muse Spark Open 在法律、金融、医疗等多个独立基准的具体分数和上线方式,读者可据此评估其在受监管工作中的适用性。

  4. Tibo65

    OpenAI 开发者账号宣布 API 现已可选 12 小时 prompt 缓存,持续运行的智能体可在请求间隔数小时的情况下继续以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。

    引用OpenAI Developers@OpenAIDevs

    你现在可以在 API 中选择 12 小时提示缓存。 持久化 agent(如 dots)会在一天中重复使用上下文。 你可以将共享的指令、工具和上下文缓存更长时间,并支付更低的缓存输入费率,即使请求相隔数小时。

    推荐理由:作者亲述 API 12 小时缓存与 Codex、Work 侧持久缓存策略,可直接判断对长时间运行 Agent 成本和体验的影响。

  5. Databricks:Blog62

    Databricks 发布 MemCurrent 生产级 Agent 持久记忆架构

    Databricks 介绍 MemCurrent,一种面向生产 Agent 的持久记忆架构,结合情景记忆与派生记忆,通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆,已用于 Agent Bricks Memory 和 Genie。

    推荐理由:原文给出完整设计、消融和成本数据,读者可以据此评估生产级 Agent 记忆架构的选型与收益。

  6. PyTorch:Blog74

    Google 与 Meta 发布 TorchTPU:PyTorch 原生 TPU 后端

    Google 与 Meta 联合开源 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,模型只需把 .to("cuda") 改成 .to("tpu") 即可开箱运行,无需 JAX 依赖。

    推荐理由:原文详述架构、精度模式与多个训练推理案例,读者可据此评估把 PyTorch 工作流迁移到 TPU 的成本。

  1. Google Developers Blog71

    Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

    Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact、RadixArk 合作开发,让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。

    推荐理由:原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口,读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。

  2. IBM Research:AI60

    llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪

    IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。

    推荐理由:原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。

  1. PyTorch:Blog67

    AWS 发布 TorchNeuron:Trainium 的原生 PyTorch 后端开源

    AWS 宣布推出 TorchNeuron,一个面向 Trainium 的开源原生 PyTorch 后端,10 月 20 日以 Apache 2.0 协议在 PyTorch Conference North America 开启公测。

    推荐理由:原文给出 TorchNeuron 的架构、执行模式和兼容性测试数据,开发者可据此评估把现有 PyTorch 工作流迁到 Trainium 的成本。

  1. DeepSeek:API 更新日志67

    DeepSeek 开放自研搜索 API

    DeepSeek 开放自研搜索 API,底层由 AI 原生的 DeepSeek 搜索引擎提供,每天稳定处理数亿次搜索请求。该引擎索引全球千亿级网页、支持多语言,并通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC,使用方式见网页搜索与抓取指南。

    推荐理由:原文给出开放入口、索引规模与过滤机制,接入 RAG 或智能体的开发者可据此评估是否纳入现有工作流。

  1. vLLM 官方博客65

    vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持

    vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。

    推荐理由:原文给出了 Beam 在 vLLM 上的具体优化数据和部署命令,读者可以直接评估落地配置与吞吐收益。

  2. LMSYS Blog65

    SGLang 原生支持 Reflection 的 Beam 并驱动其生产 API

    SGLang 团队宣布原生支持 Reflection 的 Beam 1.0(501B 参数 MoE、每 token 激活 23B),并以其驱动 Reflection 的生产 API。

    推荐理由:原文给出 SGLang 对 Beam 的原生支持细节与实测吞吐数据,读者可据此评估该推理栈在智能体负载下的服务性能。

  3. Ollama:Blog72

    Reflection 开源权重模型 Beam 上架 Ollama,限时免费可用

    Reflection 首个开源权重模型 Beam 发布,Ollama 作为 day-zero 合作方在 Ollama Cloud 上限时免费提供,且全程零数据保留(ZDR)。

    推荐理由:Ollama 作为首发合作方介绍 Beam 的参数结构、上下文窗口和 ZDR 云端接入方式,读者可以据此评估在本机或云端运行该模型的可行性。

  4. Comfy Blog65

    Krea 3 图像模型通过 ComfyUI Partner Nodes 上线

    Krea 3 图像模型现已在 ComfyUI 通过 Partner Nodes 提供,主打基于参考图的生成与编辑。模型强调更快的迭代速度和更低的单张成本,支持按上传顺序引用多张参考图、保持产品标签形状材质不变的前提下修改环境光影构图,并可将生成结果作为新输入继续编辑。

    推荐理由:原文介绍了 Krea 3 在 ComfyUI 的可用方式和参考图编辑能力,读者可以据此评估是否接入现有工作流。