先了解这件事
AI 综述
2026年9月29日,清华大学自然语言处理实验室等机构提出One-Shot OPD方法及数据效率研究结论,将on-policy distillation训练集压缩到一条query。在数学任务上,该方法从59.1提升到68.5(第300步),达到全量数据OPD 69.8的87%增益,并在代码、指令遵循和智能体工具使用上跨Qwen、Llama、OLMo成立。研究显示,单条query覆盖全量数据OPD 71.5%的状态,16条多样化query达98.9%并追平全量数据。作者认为OPD的瓶颈不在数据量,而在学生模型吸收对齐信号的速度。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：面壁智能 OpenBMB
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
9月29日
A6 a6-003 · 面壁智能 OpenBMB
清华NLP与OpenBMB提出One-Shot OPD：单条query达全量数据87%增益
清华NLP（OpenBMB成员）联合中科院大学、东北大学、UIUC和约翰霍普金斯大学提出 One-Shot OPD，将 on-policy distillation 训练集压缩到一条 query：数学任务上从 59.1 提升到 68.5（第 300 步），达到全量数据 OPD 69.8 的 87% 增益，并在代码、指令遵循和智能体工具使用上跨 Qwen、Llama、OLMo 成立。单条 query 覆盖全量数据 OPD 71.5% 的状态，16 条多样化 query 达 98.9% 并追平全量数据；作者认为 OPD 的瓶颈不在数据量，而在学生模型吸收对齐信号的速度。