跳到正文
热点事件观察中

SGLang 修复 PD 分离服务 KVCache 竞态

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

SGLang 团队披露并修复了 PD 分离服务中的跨请求 KVCache 竞态问题,并与 Cloudflare 协调披露:2026 年 8 月 27 日至 9 月 9 日期间,该问题影响 Workers AI 上 @cf/zai-org/glm-5.3 的跨请求 KVCache 暴露。 修复按部署方式区分:v0.5.21 默认保护 Mooncake 和 NIXL 部署,覆盖所有失败类型;MORI 部署及带 generation 标记的 ack 清理需使用包含 #37077 合并(2026-10-03,进入 v0.5.22)或之后的构建。仍运行 v0.5.19 或 v0.5.20 的部署,需在 prefill 和 decode 服务器上同时设置 SGLANG_DISAGGREGATION_DEFERRED_DECODE_KV_RELEASE=1。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. LMSYS Blog精选
    SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题

    SGLang 团队与 Cloudflare 协调披露 2026 年 8 月 27 日至 9 月 9 日影响 Workers AI 上 @cf/zai-org/glm-5.3 的跨请求 KVCache 暴露问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。