Google Research提出LLM持续学习睡眠框架

Google Research 发布面向持续学习的 sleep 框架，让大语言模型在活跃交互与离线记忆巩固之间循环，把脆弱的短期上下文固化为长期参数。 该框架结合 MoE 参数扩展、GKD 与 RL 模仿学习。Google Research 称，它可让模型持续习得新事实、保留最长 10M tokens 的长上下文知识并提升复杂推理；这些效果来自其博客表述，尚未见独立验证。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。