先了解这件事
AI 综述
2026年10月10日,NYU与Amazon研究团队提出基于持续训练信号筛选技能的SGUID方法。该方法只保留训练早期和后期都持续提供有效信号的技能。在数学竞赛测试上,用6个技能让4个模型中的3个追平或超过30至71个技能的完整技能库。研究还发现,按主题匹配挑选时,3个Qwen模型上不足25%的技能能提供有效训练信号;第二轮加入3个新技能后,Qwen3-8B从64.3%提升到66.3%。目前该工作以论文形式公开,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
NYU 与 Amazon 论文提出 SGUID 技能蒸馏选择法事件进展
1 个已确认进展
- 来源:Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月10日
Rohan Paul
NYU 与 Amazon 论文提出 SGUID 技能蒸馏选择法
– https://t.co/Z8ONXwgXeX 标题:“该蒸馏哪项技能?SGUID:为模型-技能协同演化选择紧凑技能库”
Rohan Paul
NYU与Amazon论文:SGUID 精选技能蒸馏,6 个技能媲美 11 倍技能库
NYU 与 Amazon 论文提出 SGUID,只保留训练早期和后期都持续提供有效信号的技能,用 6 个技能在数学竞赛测试上让 4 个模型中的 3 个追平或超过 30 至 71 个技能的完整技能库。按主题匹配挑选时,3 个 Qwen 模型上不足 25% 的技能能提供有效训练信号。第二轮加入 3 个新技能后,Qwen3-8B 从 64.3% 提升到 66.3%。