学习率是优化中最敏感的“超参数之王”

很多人认为模型结构或优化器类型最重要，但书中反复暗示并论证：**学习率及其调度策略**往往对训练成功与否的影响最大。一个糟糕的学习率能让最好的优化器失效，而一个精巧的学习率调度（如预热+余弦退火）能让简单的SGD表现卓越。