【问题标题】:What does patience mean in Deep Learning Terminology?深度学习术语中的耐心是什么意思?
【发布时间】:2020-04-22 14:35:15
【问题描述】:

我正在阅读 Aakash Nain 在 AugMix https://github.com/AakashKumarNain/AugMix_TF2/blob/master/utils.py 上的代码 并在 CTEarlyStopping 类下找到了“耐心”一词。 我不是第一次遇到这个词,但我是这些术语的菜鸟。 寻找一个快速的解释。

【问题讨论】:

    标签: deep-learning tensorflow2.0


    【解决方案1】:

    这不是深度学习中的术语。 在这种情况下,它只是确定提前停止之前的等待时间。

    【讨论】:

      【解决方案2】:

      当你训练某个东西时,它从高损失开始,在训练过程中,损失越来越小(准确度越来越高)。

      在有限数量的 epoch 之后,足够低的损失不会变低(准确度不会变高)。在这种情况下,训练更多的 epoch 似乎是没有用的,因为你的训练快完成了。

      此时此刻,耐心值告诉训练者,在损失停止减少后它必须继续多少个 epoch。如果您没有设置耐心值,那么即使您的训练结果没有变得更好,训练也会持续到您设置的所有 epoch。这个值可以为您节省一些时间和精力(通过让 gpu 休息)。

      【讨论】:

      • 很好解释。谢谢!
      猜你喜欢
      • 2018-02-21
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2018-11-05
      • 1970-01-01
      相关资源
      最近更新 更多