禾赛发布三维世界数据引擎 Kosmo 及 8K AI 空间相机 Kosmo One
10 月 14 日,禾赛科技正式发布三维世界数据引擎 Kosmo,同步推出集成 8K 影像系统的 AI 空间相机 Kosmo One 和云平台 Kosmo World,瞄准具身智能与世界模型的真实世界数据需求。
推荐理由:原文给出扫描效率、建模成本与机器人训练成功率的对比数据,可帮助读者评估真实世界三维数据在具身智能中的实际作用。
10 月 14 日,禾赛科技正式发布三维世界数据引擎 Kosmo,同步推出集成 8K 影像系统的 AI 空间相机 Kosmo One 和云平台 Kosmo World,瞄准具身智能与世界模型的真实世界数据需求。
推荐理由:原文给出扫描效率、建模成本与机器人训练成功率的对比数据,可帮助读者评估真实世界三维数据在具身智能中的实际作用。
Replit 发布 Monitoring Agent,为应用提供相当于自主值班工程师的监控智能体。它可以读取生产日志和指标调查错误、变慢和部署失败,在启用 autofix 后验证修复并邮件汇报,启用 auto-publish 后可自动部署修复。该能力建立在早前上线的 App Monitoring 之上,用户可在应用的 Publishing 设置中开启。
推荐理由:原文说明了该智能体如何调查告警、验证修复并部署,可帮助读者判断它能否替代个人开发者深夜值班。
OpenAI 宣布基于 GPT-6 Luna 的 Decisions API 正式可用,用于分类、路由、评分等有界答案问题,速度最高比通过 Responses API 使用 GPT-6 Luna 快 10x。
推荐理由:官方宣布 Decisions API 正式可用,给出与 GPT-6 Luna 的速度对比、定价和 GPT-Live 集成,便于评估路由分类类场景的收益。
MiniMax 在 MiniMax Code 桌面应用(macOS / Windows)本地会话中推出 Mini App,一种带前端和后端的长运行应用,以插件形式安装并与 Agent 双向调用,让 Agent 的工作停留在常驻页面而非散落各对话中。
推荐理由:官方详细说明了 Mini App 的架构、安全边界和社区生态,开发者可以据此判断如何在 MiniMax Code 上构建长运行应用。
Anthropic 开启 Claude Duet 研究预览,一款让 Claude 作为主动式智能体工作的独立应用,已登陆 iOS、Android 和 claude.ai,面向美国 Pro 和 Max 用户开放候补名单。
推荐理由:原文给出 Claude Duet 的运行机制、安全设计和使用限制,读者可以据此判断这款主动式智能体是否值得加入工作流。
蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming,仓库为 github.com/vllm-project/humming。
推荐理由:原文给出统一量化表示加 JIT 编译的内核设计和多项基准数字,读者可以据此评估不同 GPU 上的量化推理方案选择。
Modal 发布 Sticky Sessions,基于 Modal Servers 让同一会话的所有请求固定路由到同一容器,用 @modal.sessioned() 装饰器配合 SDK 或 HTTP API 即可创建。
推荐理由:原文讲清了 Sticky Sessions 的路由、授权与弹性伸缩设计,以及语音智能体、共享房间和游戏等适用场景。
Meta 的开放权重模型 Muse Spark Open 在 Fireworks 上线 Day-0 serverless,为 816B 参数 MoE 架构,每 token 激活 42B 参数,支持 1M token 上下文窗口。
推荐理由:Fireworks 给出了 Muse Spark Open 在法律、金融、医疗等多个独立基准的具体分数和上线方式,读者可据此评估其在受监管工作中的适用性。
你现在可以在 API 中选择 12 小时提示缓存。 持久化 agent(如 dots)会在一天中重复使用上下文。 你可以将共享的指令、工具和上下文缓存更长时间,并支付更低的缓存输入费率,即使请求相隔数小时。
推荐理由:作者亲述 API 12 小时缓存与 Codex、Work 侧持久缓存策略,可直接判断对长时间运行 Agent 成本和体验的影响。
Databricks 介绍 MemCurrent,一种面向生产 Agent 的持久记忆架构,结合情景记忆与派生记忆,通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆,已用于 Agent Bricks Memory 和 Genie。
推荐理由:原文给出完整设计、消融和成本数据,读者可以据此评估生产级 Agent 记忆架构的选型与收益。
Google 与 Meta 联合开源 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,模型只需把 .to("cuda") 改成 .to("tpu") 即可开箱运行,无需 JAX 依赖。
推荐理由:原文详述架构、精度模式与多个训练推理案例,读者可据此评估把 PyTorch 工作流迁移到 TPU 的成本。
Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact、RadixArk 合作开发,让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。
推荐理由:原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口,读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。
IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。
推荐理由:原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。
AWS 宣布推出 TorchNeuron,一个面向 Trainium 的开源原生 PyTorch 后端,10 月 20 日以 Apache 2.0 协议在 PyTorch Conference North America 开启公测。
推荐理由:原文给出 TorchNeuron 的架构、执行模式和兼容性测试数据,开发者可据此评估把现有 PyTorch 工作流迁到 Trainium 的成本。
SGLang 团队推出 Low-Latency Mode,通过插件框架引入专用内核,在 NVIDIA GB300 和 AMD MI355X GPU 上显著降低推理延迟。
推荐理由:原文给出 SGLang 低延迟模式的具体内核优化路径和 NVIDIA、AMD 两套实测数字,可帮助读者评估低并发推理场景的收益。
DeepSeek 开放自研搜索 API,底层由 AI 原生的 DeepSeek 搜索引擎提供,每天稳定处理数亿次搜索请求。该引擎索引全球千亿级网页、支持多语言,并通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC,使用方式见网页搜索与抓取指南。
推荐理由:原文给出开放入口、索引规模与过滤机制,接入 RAG 或智能体的开发者可据此评估是否纳入现有工作流。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。
推荐理由:原文给出了 Beam 在 vLLM 上的具体优化数据和部署命令,读者可以直接评估落地配置与吞吐收益。
SGLang 团队宣布原生支持 Reflection 的 Beam 1.0(501B 参数 MoE、每 token 激活 23B),并以其驱动 Reflection 的生产 API。
推荐理由:原文给出 SGLang 对 Beam 的原生支持细节与实测吞吐数据,读者可据此评估该推理栈在智能体负载下的服务性能。
Reflection 首个开源权重模型 Beam 发布,Ollama 作为 day-zero 合作方在 Ollama Cloud 上限时免费提供,且全程零数据保留(ZDR)。
推荐理由:Ollama 作为首发合作方介绍 Beam 的参数结构、上下文窗口和 ZDR 云端接入方式,读者可以据此评估在本机或云端运行该模型的可行性。
Krea 3 图像模型现已在 ComfyUI 通过 Partner Nodes 提供,主打基于参考图的生成与编辑。模型强调更快的迭代速度和更低的单张成本,支持按上传顺序引用多张参考图、保持产品标签形状材质不变的前提下修改环境光影构图,并可将生成结果作为新输入继续编辑。
推荐理由:原文介绍了 Krea 3 在 ComfyUI 的可用方式和参考图编辑能力,读者可以据此评估是否接入现有工作流。