HuggingFace Daily Papers（社区热门论文）·2026-09-25 08:00· 5 天前AI 评分36

G^2PTQ：用广义梯度补偿改进 LLM 训练后量化

G^2PTQ: Improving LLM Post-Training Quantization with Generalized Gradient Compensation

AI 导读

论文提出 G^2PTQ，一个在全局监督、逐块优化目标下同时整合一阶与二阶信息的统一 PTQ 框架，通过在量化每个 Transformer 块前刷新梯度与 Hessian 估计，避免以往全局方法的估计过时问题。