Jiwen's Website
About
Publication
Blog
Home
»
Tags
SGD
不同优化器的最优 LR Schedule
一个矩阵 Muon 模型的精确最优 LR Schedule、带动量时的全程求解条件,以及 SGD、AdaGrad 的终点误差上界。