先了解这件事
Google Research发布SLEEP离线记忆巩固方法。据IT之家·人工智能报道,谷歌研究团队发布“睡眠框架”(Sleep Framework)持续学习研究,把模型运行分为清醒与睡眠两个阶段,以解决大模型知识固化、难以吸收新信息的问题;睡眠阶段通过参数扩展、混合专家记忆块和知识蒸馏把短期上下文写入长期参数,并通过“做梦”生成合成样本做强化学习。实验显示该框架可处理最长约1000万token上下文,在未见语言的多阶段持续学习中性能下降接近零,并在AIME 24/25等数学基准上取得更高准确率。凤凰科技报道称,该研究于10月27日公开,论文题为《Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories》。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
谷歌研究团队提出睡眠框架，让大模型边用边学且不遗忘旧知识事件进展
1 个已确认进展
- 来源：IT之家·人工智能
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月30日
IT之家·人工智能
谷歌研究团队提出睡眠框架，让大模型边用边学且不遗忘旧知识
谷歌研究团队发布“睡眠框架”（Sleep Framework）持续学习研究，把模型运行分为清醒与睡眠两个阶段，以解决大模型知识固化、难以吸收新信息的问题。睡眠阶段通过参数扩展、混合专家记忆块和知识蒸馏把短期上下文写入长期参数，并通过“做梦”生成合成样本做强化学习。实验显示该框架可处理最长约 1000 万 token 上下文，在未见语言的多阶段持续学习中性能下降接近零，并在 AIME 24/25 等数学基准上取得更高准确率。
凤凰科技
谷歌提出睡眠框架，让大模型边用边学且不遗忘旧知识
谷歌研究团队于 10 月 27 日公开一项名为睡眠框架的持续学习研究，论文题为《Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories》。该框架把模型运行分为清醒阶段和睡眠阶段，睡眠阶段通过参数扩展、混合专家记忆块和知识蒸馏把短期上下文写入长期参数，并通过生成合成样本的做梦环节提升推理与泛化。实验显示模型可处理最长约 1000 万 token 的上下文，在未见语言的多阶段持续学习中保持接近零的性能下降，并在 AIME 24/25 等数学基准上取得更高准确率。
10月29日
邵猛
Google Research 发布 SLEEP：用离线睡眠周期减轻大模型灾难性遗忘
Google Research 发布 SLEEP 方法，让 LLM 在清醒交互与睡眠巩固之间周期切换，把短时上下文信息写入可扩展的长时参数，并在做梦阶段用合成数据自我改进。睡眠阶段会解锁预留的 MoE 记忆块，结合广义知识蒸馏与模仿学习完成记忆巩固，再重置高频临时参数。在持续翻译的未见语言评测中 SLEEP 近乎零掉点，BABILong 上称可扩到约 1000 万 token，AIME 24/25 与 HMMT 25 分别约 79.2%、69.0%、46.1%。
本事件热度走势
- 当前
- 10
- 区间峰值
- 14 10月30日 16:00
- 近 24 小时变化
- —
移动指针或点击图表可查看每小时热度；键盘可用左右方向键切换。