先了解这件事
AI 综述
2026年10月14日,Thinking Machines Lab 提出一种流形版 Muon 优化器,其做法是将神经网络各层权重约束在子流形上,并把权重约束在 Stiefel 流形(条件数为 1 的矩阵流形)上。该机构同时提出“模块化流形”概念,即一种可组合的流形,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。目前该消息来自 Thinking Machines Lab 官方博客,尚无其他独立来源的后续发展或验证报道。
AI 根据公开报道生成
最新进展 · 正式报道
Thinking Machines Lab:模块化流形与流形 Muon 优化器事件进展
1 个已确认进展
- 来源:Thinking Machines Lab:官方博客
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月13日
Thinking Machines Lab:官方博客一手
Thinking Machines Lab:模块化流形与流形 Muon 优化器
Thinking Machines Lab 提出将神经网络各层权重约束在子流形上,并据此设计出流形版 Muon 优化器,把权重约束在 Stiefel 流形(条件数为 1 的矩阵流形)上。文章还提出"模块化流形"概念,即一种可组合的流形,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。