这张图比较直观
当学习率设置的过小时，收敛过程将变得十分缓慢。而当学习率设置的过大时，梯度可能会在最小值附近来回震荡，甚至可能无法收敛。
下面来了解一些学习率调整的方法。
2.1 离散下降(discrete staircase)
对于深度学习来说，每
相关文章：
猜你喜欢
相关资源
相似解决方案
热门标签
这张图比较直观
当学习率设置的过小时，收敛过程将变得十分缓慢。而当学习率设置的过大时，梯度可能会在最小值附近来回震荡，甚至可能无法收敛。
下面来了解一些学习率调整的方法。
对于深度学习来说，每
相关文章：