Thinking Machines Lab 提出模块化流形：用 Stiefel 流形约束权重的 Muon 优化器

Thinking Machines Lab 提出将神经网络各层权重矩阵约束在子流形上的思路，并给出权重约束在 Stiefel 流形（单位条件数矩阵流形）上的 Muon 优化器版本。文章还提出"模块化流形"概念，即一种可组合流形，目标是让大规模网络的扩展与训练更简单，并梳理了该方向的未来研究空间。