Goodfire Research 发布论文,提出 RLFR(Reinforcement Learning from Feature Rewards),用模型内部激活上的轻量探针作为 RL 奖励信号来减少幻觉。
摘自 Goodfire Research
沿着报道,了解事件的不同侧面。