【发布时间】:2017-07-30 20:22:08
【问题描述】:
我正在运行 MNIST 神经网络示例,在训练分类器时,验证损失列(和训练损失)的一些值以绿色突出显示。如果我有 0.01 的学习率,所有都是绿色的,但是如果我将它增加到 0.1,只有一半被突出显示。
如果有的话,这个突出显示是什么意思?
【问题讨论】:
标签: python neural-network lasagne
我正在运行 MNIST 神经网络示例,在训练分类器时,验证损失列(和训练损失)的一些值以绿色突出显示。如果我有 0.01 的学习率,所有都是绿色的,但是如果我将它增加到 0.1,只有一半被突出显示。
如果有的话,这个突出显示是什么意思?
【问题讨论】:
标签: python neural-network lasagne
在不了解内部结构的情况下,我在那里看到了一个模式。
不同的学习率会影响不同的 train-loss / val-loss 路径,因此可能会有一些不同的颜色。
您的示例非常适合那里,因为在降低损失(更蓝,更绿)方面,较低的学习率通常更稳定(从迭代到迭代)。
【讨论】: