跳到正文
原文
HuggingFace Daily Papers(社区热门论文)·· 4 天前AI 评分43

持续学习中的学习动力学:数据归因、遗忘与可塑性损失的统一视角

Learning Dynamics of Continual Learning: A Unified View of Data Attribution, Forgetting, and Plasticity Loss

AI 导读

研究提出一种 token 级与层级的分解方法,刻画从一个 token 学习如何改变另一个预测,通过分离 softmax 力、共享读出几何与残差连接,揭示两条交互通道并给出可前向计算的近似。

来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org