热点事件 历史事件
vLLM支持基于Gumbel-max的无失真文本水印,并集成推测解码与上下文去重
先了解这件事
报道摘要vLLM 宣布支持基于 Gumbel-max 算法的无失真水印,将其集成进 Model Runner v2 的采样管线,并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重,以兼容投机解码并保持输出多样性。
最新进展
历史报道归档。当前热点以新版榜单为准。
报道时间线
沿着报道,了解事件的不同侧面。
显示 1 篇全部报道,最新在前
- vLLM 新增基于 Gumbel-max 的无失真文本水印功能
vLLM 宣布支持基于 Gumbel-max 算法的无失真水印,将其集成进 Model Runner v2 的采样管线,并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重,以兼容投机解码并保持输出多样性。