热点事件历史事件
Softmax重参数化：输出头量化后训练方法
1 篇报道1 个报道来源4 天前更新
先了解这件事
AI 综述
2026年9月25日，HuggingFace Daily Papers收录一篇社区热门论文，提出名为 softmax 重参数化的后训练方法，用于输出头量化。该方法在量化前选取功能等价的输出头：从每个输出行减去词汇行均值的标量倍数，并按验证 KL 分别为 RTN、激活加权 MSE 和 full-Hessian GPTQ 选择系数。报道未披露作者、实验模型与量化效果等细节，目前仅有这一条进展。
AI 根据报道生成 · 2 小时前更新
最新进展9月25日 08:00
研究者提出 softmax 重参数化后训练方法，用于量化前选取功能等价输出头。报道时间线
沿着报道，了解事件的不同侧面。
9月25日
- HuggingFace Daily Papers（社区热门论文）Softmax 重参数化：面向输出头量化的后训练方法
研究者提出 softmax 重参数化，一种在量化前选取功能等价输出头的后训练方法，通过从每个输出行减去词汇行均值的标量倍数，并按验证 KL 分别为 RTN、激活加权 MSE 和 full-Hessian GPTQ 选择系数。