【问题标题】:Difference between training sets and validation sets?训练集和验证集的区别?
【发布时间】:2018-09-05 08:18:27
【问题描述】:

我正在学习机器学习,我经常遇到有人将他们的数据分为“训练集”和“验证集”。我永远无法弄清楚为什么人们从不使用所有数据进行训练,然后再次使用它进行验证。我失踪有什么原因吗?

【问题讨论】:

  • 这是一个更深层次的问题,绝对不适合 StackOverflow。尝试CrossValidation 堆栈交换。
  • 因为如果您已经知道答案,每个测验都很容易?

标签: python machine-learning artificial-intelligence


【解决方案1】:

这样想,你要参加考试,你正在用练习材料努力练习。你不知道考试会问你什么吗?

另一方面,如果你自己练习考试,当你参加考试时,你会知道所有的答案,所以你甚至不必费心学习。

您的模型就是这种情况,如果您在训练集和测试集上训练模型,您的模型将事先知道所有答案。你需要给他一些他不知道的东西,这样他才能推断出一些答案给你。

【讨论】:

    【解决方案2】:

    基本上,您希望使用训练数据集训练模型,为了测试超参数调整是否正确,您希望使用数据集的一部分对其进行测试。

    如果这是直接在测试数据上完成的,那么过度拟合的可能性就很高。为避免这种情况,您可以使用验证数据集并根据测试数据集衡量模型的性能。

    【讨论】:

      猜你喜欢
      • 2014-09-22
      • 2011-02-27
      • 2017-12-12
      • 1970-01-01
      • 2018-06-03
      • 2021-08-08
      • 2020-06-16
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多