←事件详情

热点事件

Thinking Machines Lab发布Modular Manifolds研究

1 篇正式报道1 条事件动态更新于 10月11日 07:18

先了解这件事

AI 综述

2026年10月11日,Thinking Machines Lab发布Modular Manifolds研究文章。据其官方博客介绍,该研究提出将神经网络权重矩阵约束在各层的子流形上,并据此提出权重约束在Stiefel流形上的流形版Muon优化器,Stiefel流形即条件数为1的矩阵构成的流形。文章还定义了可组合的“模块化流形”概念,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。目前该研究尚无进一步的有证据发展。

AI 根据公开报道生成

最新进展 · 正式报道

Thinking Machines Lab:模块化流形与流形版 Muon 优化器

事件进展

1 个已确认进展

  1. Thinking Machines Lab发布Modular Manifolds研究

    来源:Thinking Machines Lab:官方博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月11日

  1. Thinking Machines Lab:官方博客一手

    Thinking Machines Lab:模块化流形与流形版 Muon 优化器

    Thinking Machines Lab 提出将神经网络权重矩阵约束在各层的子流形上,并据此提出权重约束在 Stiefel 流形上的流形版 Muon 优化器,Stiefel 流形即条件数为 1 的矩阵构成的流形。文章还定义了可组合的“模块化流形”概念,目标是让大型网络的扩展与训练更容易,并给出后续研究方向。

关联事件

  1. 相关事件Thinking Machines Lab发布LoRA与全量微调对比研究
  2. 相关事件Thinking Machines Lab介绍on-policy蒸馏方法
  3. 相关事件Goodfire提出基于损失曲率的记忆抑制方法
  4. 相关事件Goodfire Research 提出神经几何研究方向