先了解这件事
AI 综述
2026年10月11日,Thinking Machines Lab发布Modular Manifolds研究文章。据其官方博客介绍,该研究提出将神经网络权重矩阵约束在各层的子流形上,并据此提出权重约束在Stiefel流形上的流形版Muon优化器,Stiefel流形即条件数为1的矩阵构成的流形。文章还定义了可组合的“模块化流形”概念,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。目前该研究尚无进一步的有证据发展。
AI 根据公开报道生成
最新进展 · 正式报道
Thinking Machines Lab:模块化流形与流形版 Muon 优化器事件进展
1 个已确认进展
- 来源:Thinking Machines Lab:官方博客
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月11日
Thinking Machines Lab:官方博客一手
Thinking Machines Lab:模块化流形与流形版 Muon 优化器
Thinking Machines Lab 提出将神经网络权重矩阵约束在各层的子流形上,并据此提出权重约束在 Stiefel 流形上的流形版 Muon 优化器,Stiefel 流形即条件数为 1 的矩阵构成的流形。文章还定义了可组合的“模块化流形”概念,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。