热点事件持续更新
InternLM 发布 ResOPD 稀疏在线蒸馏方法
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026-09-29，上海人工智能实验室 InternLM 项目发布 ResOPD，一种稀疏在线策略蒸馏（OPD）方法。据该项目介绍，ResOPD 采用尾部残差化思路，仅利用教师模型的 Top-k 概率与学生采样 token 的概率，即可估计全词表的 reverse-KL 梯度；其教师传输量和前向次数与稀疏 OPD 持平。该消息由 InternLM 官方以原创项目形式发布，目前披露内容集中于方法原理与开销对比，尚未见后续实验数据或第三方复现报道。
AI 根据报道生成 · 54 分钟前更新
最新进展9月29日 22:52
InternLM 发布 ResOPD，用 Top-k 概率估计全词表 reverse-KL 梯度。报道时间线
沿着报道，了解事件的不同侧面。
9月29日
- 上海人工智能实验室 InternLM：原创项目InternLM 推出 ResOPD：稀疏在线策略蒸馏的尾部残差化方法
上海人工智能实验室 InternLM 项目发布 ResOPD，一种仅用教师模型 Top-k 概率和学生采样 token 概率即可估计全词表 reverse-KL 梯度的稀疏在线策略蒸馏方法，教师传输量和前向次数与稀疏 OPD 持平。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。