HuggingFace Daily Papers（社区热门论文）·· 7 天前AI 评分46
分离式量化：为 LLM Prefill 与 Decode 分别定制量化方案
Disaggregated Quantization: Specializing LLM Prefill and Decode
AI 导读
研究提出"分离式量化"（DQ），针对 prefill 与 decode 两个阶段分别定制计算格式、权重与存储位置。
来源：HuggingFace Daily Papers（社区热门论文） · arxiv.org