SGLang 修复 PD 分离服务 KVCache 竞态
热点事件观察中
SGLang 修复 PD 分离服务 KVCache 竞态
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
SGLang 团队披露并修复了 PD 分离服务中的跨请求 KVCache 竞态问题,并与 Cloudflare 协调披露:2026 年 8 月 27 日至 9 月 9 日期间,该问题影响 Workers AI 上 @cf/zai-org/glm-5.3 的跨请求 KVCache 暴露。 修复按部署方式区分:v0.5.21 默认保护 Mooncake 和 NIXL 部署,覆盖所有失败类型;MORI 部署及带 generation 标记的 ack 清理需使用包含 #37077 合并(2026-10-03,进入 v0.5.22)或之后的构建。仍运行 v0.5.19 或 v0.5.20 的部署,需在 prefill 和 decode 服务器上同时设置 SGLANG_DISAGGREGATION_DEFERRED_DECODE_KV_RELEASE=1。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 00:00
SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- LMSYS Blog精选SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题
SGLang 团队与 Cloudflare 协调披露 2026 年 8 月 27 日至 9 月 9 日影响 Workers AI 上 @cf/zai-org/glm-5.3 的跨请求 KVCache 暴露问题。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。