在 R 中预测后对值进行非规范化

Question

我不确定我是否正确地对数据进行了非规范化。我有一个输出变量和几个输入变量。我正在使用RSNNS package 对它们进行标准化。假设x 是一个输入矩阵（NxM），其中N 的每一行都是具有M 特征的对象。而y 是一个向量（N），有对应的答案。

nx <- normalizeData(x, type='0_1')

之后，一些数据用于制作模型，一些用于预测。假设pred.ny 是预测值。这些值是标准化的。

pred.y <- denormalizeData(pred.ny, getNormParameters(nx))

这是正确的吗？它是如何工作的？很明显，一个输入可以使用以前用于标准化的最小值和最大值。但是，如果每个输入都使用自己的最小值和最大值分别进行归一化，它会如何工作呢？

更新 这是一个玩具示例，其中“0_1”看起来比“规范”更好。 'norm' 会产生巨大的训练错误和几乎恒定的预测。

x <- runif(1020, 1, 5000)
y <- sqrt(x)
nx <- normalizeData(x, type='0_1')
ny <- normalizeData(y, type='0_1')
model <- mlp(nx[1:1000], ny[1:1000], size = 1)
plotIterativeError(model)
npy <- predict(model, matrix(nx[1001:1020], ncol=1))
py <- denormalizeData(npy, getNormParameters(ny))
print(cbind(y[1001:1020], py))

Answer 1

这里发生了两件事：

1. 训练您的模型，即在神经网络中设置内部系数。为此，您需要同时使用输入和输出。
2. 使用模型，即使用固定内部系数获得预测。

对于第 1 部分，您已决定对数据进行规范化。所以神经网络对标准化数据起作用。所以你已经训练了神经网络

• 在输入 f_X(X) 而不是 X 上，其中 f_X 是您用于原始输入矩阵的变换生成标准化的输入。
• 在输出 f_y(y) 而不是 y 上，其中 f_y 是您应用于输出向量的变换得到标准化的输出。

就您的原始输入和输出而言，您经过训练的机器现在看起来像这样：

• 对输入应用归一化函数 f_X 以获得归一化的输入 f_X(X)。
• 使用归一化输入运行神经网络以生成归一化输出 f_y(y)。
• 将反规范化函数 f_y^-1 应用于归一化输出 f_y(y) 以获得 y。

注意 f_X(X) 和 f_y，因此 f_y^-1 是在训练集上定义。

因此，在 R 中，您可能会编写类似这样的内容来获取训练数据并将其标准化，前 100 行

tx <- x[1:100,]
ntx <- normalizeData(tx, type='0_1')
ty <- y[1:100]
nty <- normalizeData(ty, type='0_1')

以及类似的东西来对预测结果进行非规范化

pred.y <- denormalizeData(pred.ny, getNormParameters(nty))
                                                       # nty (or ny) not nx here

我稍微担心的是，我更愿意使用我用于训练的相同变换 f_X 对预测中使用的特征进行归一化，但查看 RSNNS documentation 这个工具并没有' 似乎不存在（但是，自己编写会很容易）。使用整个 X 矩阵（即包括训练数据）对预测特征进行归一化可能是可以的。 （我还可以看到，使用 RSNNS 提供的默认 z 分数归一化可能比您使用的“0_1”选项更好。）