HuggingFace Daily Papers·· 6 天前AI 评分41
BiasReducer:面向奖励模型的自适应偏见缓解框架
BiasReducer: Adaptive Bias Mitigation for Reward Models
AI 导读
BiasReducer 提出一种轻量框架,仅编辑奖励模型的线性奖励头,并为每个新数据集自动选择相关编辑,无需重训练。它先用 SAE 风格编码器识别奖励模型敏感的属性(如长度、置信度),再学习调整奖励头的方向和幅度,最后按属性影响力排序筛选编辑。
来源:HuggingFace Daily Papers · arxiv.org