如何知道我是否没有过度拟合我的神经网络？

Question

我正在尝试使用 NNTool 在 MATLAB 上构建神经网络。我有一个庞大的数据集，有超过 2 万个样本。它有3个输入参数和1个输出。

这是一个数据样本：U 以 0.5 步长变化，直到 10 (0.2 ; 0.5 ; 1.0 ... 10)。 n 从 0 变化到 1，m 从 0 变化直到等于 n。

我正在使用 Levenberg-Marquartd 算法，并且一直在研究神经元和隐藏层的数量。鄙视这一点，我在其他参数上什么也没做。

在不过度拟合如此庞大的数据集的情况下，我如何知道自己是否取得了良好的性能？

以下是 MATLAB 告诉我的有关性能的信息：

Answer 1

我建议执行以下操作：

(1) 将您的样本数据分解为训练/测试集。例如，尝试 30% / 70%。

(2) 选择一种配置：隐藏层数和每层神经元数。

(3) 训练您的网络。

(4) 将您的训练错误与测试错误进行比较。

(5) 选择其他网络配置。

(6) 执行步骤 (3) 和 (4)。

继续执行此过程，直到您对数据有更好的感觉。如果您的训练误差相对于测试误差非常小，则可能是您的网络配置过度拟合了您的数据集。