不同优化器的最优 LR Schedule

一个矩阵 Muon 模型的精确最优 LR Schedule、带动量时的全程求解条件,以及 SGD、AdaGrad 的终点误差上界。

October 31, 2026 · 18 min · Jiwen Jiang