【问题标题】:Lasagne - Why is the Validation Loss Highlighted Green?Lasagne - 为什么验证损失以绿色突出显示?
【发布时间】:2017-07-30 20:22:08
【问题描述】:

我正在运行 MNIST 神经网络示例,在训练分类器时,验证损失列(和训练损失)的一些值以绿色突出显示。如果我有 0.01 的学习率,所有都是绿色的,但是如果我将它增加到 0.1,只有一半被突出显示。

如果有的话,这个突出显示是什么意思?

输出示例:

【问题讨论】:

    标签: python neural-network lasagne


    【解决方案1】:

    在不了解内部结构的情况下,我在那里看到了一个模式。

    • 只要有改进,就为每一行着色(最小化 -> 更低)
      • 火车损失蓝色
      • val-loss 绿色
    • 当损失/验证确实增加时停止着色
      • 在此一次性增加后不要再次开始着色

    不同的学习率会影响不同的 train-loss / val-loss 路径,因此可能会有一些不同的颜色。

    您的示例非常适合那里,因为在降低损失(更蓝,更绿)方面,较低的学习率通常更稳定(从迭代到迭代)。

    【讨论】:

      猜你喜欢
      • 2023-03-11
      • 2018-06-08
      • 1970-01-01
      • 2011-08-06
      • 2016-06-07
      • 2022-08-04
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多