先了解这件事
AI 综述
2026年7月14日,Baseten Base Labs 发表研究,将虚构事实写入 Qwen3 模型权重,追踪其在 20 到 100 次后续写入中的保留情况。研究显示,多样复述训练把复述与使用之间的差距从 27.4 分降到 5.4 分;20 次顺序写入后,裸陈述事实的准确率仅 1%,而以广泛学习数据写入的事实保留 46%。研究还发现,事实可被行为性遗忘但未被擦除,被遗忘的学习事实在提示中给出后可恢复到 77–80%。
AI 根据公开报道生成
最新进展 · 正式报道
语言模型能否在权重中持续学习事实?Baseten Base Labs 研究事件进展
1 个已确认进展
- 来源:Baseten Base Labs:模型研究
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
7月14日
Baseten Base Labs:模型研究一手
语言模型能否在权重中持续学习事实?Baseten Base Labs 研究
Baseten Base Labs 研究将虚构事实写入 Qwen3 模型权重,追踪其在 20 到 100 次后续写入中的保留情况。多样复述训练把复述与使用差距从 27.4 分降到 5.4 分,20 次顺序写入后裸陈述事实准确率仅 1%,而广泛学习数据写入的事实保留 46%。研究发现事实可被行为性遗忘但未被擦除,被遗忘的学习事实在提示中给出后可恢复到 77–80%。