【发布时间】:2020-04-22 14:35:15
【问题描述】:
我正在阅读 Aakash Nain 在 AugMix https://github.com/AakashKumarNain/AugMix_TF2/blob/master/utils.py 上的代码 并在 CTEarlyStopping 类下找到了“耐心”一词。 我不是第一次遇到这个词,但我是这些术语的菜鸟。 寻找一个快速的解释。
【问题讨论】:
标签: deep-learning tensorflow2.0
我正在阅读 Aakash Nain 在 AugMix https://github.com/AakashKumarNain/AugMix_TF2/blob/master/utils.py 上的代码 并在 CTEarlyStopping 类下找到了“耐心”一词。 我不是第一次遇到这个词,但我是这些术语的菜鸟。 寻找一个快速的解释。
【问题讨论】:
标签: deep-learning tensorflow2.0
这不是深度学习中的术语。 在这种情况下,它只是确定提前停止之前的等待时间。
【讨论】:
当你训练某个东西时,它从高损失开始,在训练过程中,损失越来越小(准确度越来越高)。
在有限数量的 epoch 之后,足够低的损失不会变低(准确度不会变高)。在这种情况下,训练更多的 epoch 似乎是没有用的,因为你的训练快完成了。
此时此刻,耐心值告诉训练者,在损失停止减少后它必须继续多少个 epoch。如果您没有设置耐心值,那么即使您的训练结果没有变得更好,训练也会持续到您设置的所有 epoch。这个值可以为您节省一些时间和精力(通过让 gpu 休息)。
【讨论】: