HuggingFace Daily Papers（社区热门论文）·2026-09-29 08:00· 2 天前AI 评分35

WUSH-KV：用数据自适应变换实现 KV Cache 量化

WUSH-KV: KV Cache Quantization with Data-Adaptive Transforms

AI 导读

WUSH-KV 是一种面向低比特 KV cache 的量化方法，利用矩阵乘积两个因子的二阶统计量构建数据感知变换，为 key 和 value 分别构造变换，其中 value 变换折叠进模型权重、key 变换在 RoPE 之后应用。