HuggingFace Daily Papers·· 3 天前AI 评分43
小模型如何通过采样逼近前沿模型：Parallel Power Tempering（PPT）
Explore Broadly, Reason Sharply: Push Small Models toward the Frontier via Sampling
AI 导读
研究者提出 Parallel Power Tempering（PPT），用并行回火实现幂锐化采样，让多个不同锐化程度的副本并行交互，低幂副本负责探索多样推理路径、高幂链负责利用高概率回答，从而缓解探索与利用的权衡。PPT 缓解了此前幂采样器的截断偏差，并研究了有限内存与算力预算下的交换策略。实验显示其显著优于单链幂锐化采样，超过 RL 后训练模型，推理轨迹质量更高，性能甚至可比前沿模型。
来源：HuggingFace Daily Papers · arxiv.org