←事件详情

热点事件

Thinking Machines Lab 提出流形版 Muon 优化器

1 篇正式报道1 条事件动态更新于 10月13日 20:30

先了解这件事

AI 综述

2026年10月14日,Thinking Machines Lab 提出一种流形版 Muon 优化器,其做法是将神经网络各层权重约束在子流形上,并把权重约束在 Stiefel 流形(条件数为 1 的矩阵流形)上。该机构同时提出“模块化流形”概念,即一种可组合的流形,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。目前该消息来自 Thinking Machines Lab 官方博客,尚无其他独立来源的后续发展或验证报道。

AI 根据公开报道生成

最新进展 · 正式报道

Thinking Machines Lab:模块化流形与流形 Muon 优化器

事件进展

1 个已确认进展

  1. Thinking Machines Lab 提出流形版 Muon 优化器

    来源:Thinking Machines Lab:官方博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月13日

  1. Thinking Machines Lab:官方博客一手

    Thinking Machines Lab:模块化流形与流形 Muon 优化器

    Thinking Machines Lab 提出将神经网络各层权重约束在子流形上,并据此设计出流形版 Muon 优化器,把权重约束在 Stiefel 流形(条件数为 1 的矩阵流形)上。文章还提出"模块化流形"概念,即一种可组合的流形,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。

关联事件

  1. 相关事件LG AI Research 在 ICML 2026 展示 GEAR 与 Sim-GEAR
  2. 相关事件Anthropic可解释性团队分享稀疏自编码器训练改进
  3. 相关事件Anthropic 从 Claude 3 Sonnet 提取高质量可解释特征
  4. 相关事件Apple研究比较双语预训练与超参搜索