【发布时间】:2013-12-27 09:47:07
【问题描述】:
随着训练次数的增加,感知器的准确率会降低吗?在这种情况下,我多次使用相同的训练集。
【问题讨论】:
标签: machine-learning perceptron
随着训练次数的增加,感知器的准确率会降低吗?在这种情况下,我多次使用相同的训练集。
【问题讨论】:
标签: machine-learning perceptron
是的。
这是一个普遍研究的现象,从未见过的数据(测试数据)的准确度在某个点之后(经过一定次数的训练数据——你所说的 epochs)开始下降。这种现象被称为overfitting,很好理解。您想尽早停止或使用正则化。
【讨论】:
随着 epoch 的增加,训练数据集和测试数据集的准确度都不稳定。实际上experimental data 表明样本内错误或样本外错误的趋势甚至不是单调的。并且经常应用“pocket”策略。与提前停止不同,口袋算法将迄今为止看到的最佳解决方案“放在口袋里”,而不是最后一个解决方案。
【讨论】: