先了解这件事
AI 综述
2026年10月10日,纽约大学与Amazon研究团队提出SGUID,用于模型技能协同演化中的技能库筛选。研究发现,按主题匹配选取技能时,3个Qwen模型中不足25%的技能能提供有效训练信号。SGUID依据技能在训练早期是否有帮助、后期是否仍然有效进行筛选。实验中,仅使用6项技能,4个模型中有3个在数学竞赛测试上的表现媲美或超过包含30至71项技能的完整技能库;第二轮加入3项新技能后,Qwen3-8B的成绩从64.3%提升至66.3%。
AI 根据公开报道生成
最新进展 · 正式报道
NYU 与 Amazon 论文提出 SGUID 技能蒸馏选择法事件进展
1 个已确认进展
- 来源:Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月10日
Rohan Paul
NYU 与 Amazon 论文提出 SGUID 技能蒸馏选择法
– https://t.co/Z8ONXwgXeX 标题:“该蒸馏哪项技能?SGUID:为模型-技能协同演化选择紧凑技能库”
Rohan Paul
NYU与Amazon论文:SGUID 精选技能蒸馏,6 个技能媲美 11 倍技能库
NYU 与 Amazon 论文提出 SGUID,只保留训练早期和后期都持续提供有效信号的技能,用 6 个技能在数学竞赛测试上让 4 个模型中的 3 个追平或超过 30 至 71 个技能的完整技能库。按主题匹配挑选时,3 个 Qwen 模型上不足 25% 的技能能提供有效训练信号。第二轮加入 3 个新技能后,Qwen3-8B 从 64.3% 提升到 66.3%。