【问题标题】:How big should batch size and number of epochs be when fitting a model in Tensorflow?在 Tensorflow 中拟合模型时,批量大小和 epoch 数应该有多大?
【发布时间】:2017-12-06 12:12:38
【问题描述】:

我正在研究对象检测。我的训练集是 5984,测试集是 1496(KITTI Tracking 训练数据集)。

在 Tensorflow 中拟合模型时,批量大小和 epoch 数应该有多大?是否有任何基于数据输入大小的经验法则?我应该将其拆分为 train/val/test 还是坚持我当前的拆分 train/val?

【问题讨论】:

    标签: dataset deep-learning


    【解决方案1】:

    在内存允许的范围内尝试尽可能大的批量 - 这将在 GPU 上更有效地进行评估,并且您通常可以应对更高的学习率,从而加快学习速度。尝试大量的 epoch 并照看学习过程,直到您看到收敛并在过度拟合之前停止。看看这里:http://cs231n.github.io/neural-networks-3/ 以获取有关如何照看学习过程的想法。

    将您的数据集拆分为 train/val/test - 在每个 epoch 之后在验证集上评估您的模型,并使用测试集来估计您的泛化错误。

    【讨论】:

      猜你喜欢
      • 2016-05-05
      • 2022-11-01
      • 1970-01-01
      • 1970-01-01
      • 2018-06-11
      • 1970-01-01
      • 2018-02-21
      • 2018-12-24
      • 1970-01-01
      相关资源
      最近更新 更多