通俗解释
对二维权重矩阵，先算动量，再用 Newton–Schulz 迭代把它近似变成正交矩阵，使各方向更新幅度均衡。2024 年由 Keller Jordan 在 nanoGPT 速通中提出，Moonshot 在 2025 年验证其可扩展到大模型。
用在哪里：Moonshot Kimi 系列大模型训练（MuonClip）；i14 Laplace 3B 用 Muon 训练 2D 权重、AdamW 训练嵌入与归一化（AWS 博客 2026-10-20）；TorchTitan 支持分布式 Muon
01原始论文
Muon: An optimizer for hidden layers in neural networks (blog)
Keller Jordan · Blog · 2024
打开 ↗ ✓ 已核实 · 官方页面 HTTP/WebFetch 核实
备注：无同行评审原始论文，原始出处为作者博客；规模化论文见 arXiv:2502.16982
02知识位置
左边先学；右边是学完它之后可以学的。
03学习资料
官方文档、图解、课程和参考实现，链接都核对过。
04在课程里哪里学
给 AI 读 / 数据说明
- 核实状态：已核实，核对于 2026-10-22。
- JSON: /api/learn/algorithms.json (id:
muon)