【发布时间】：2016-11-30 08:02:41
【问题描述】：
我在区间 (-1,1) 内有一组特征。我正在寻找一个双射函数或一个程序来将数据标准化到某个范围，平均值接近 0，方差接近 1。
函数是双射的非常重要，因为我需要将特征归一化为具有 tanh 激活函数的中性网络的输入。我的过程是在内存中转换数据，将它们馈送到网络并将网络结果转换回初始规模。
【问题讨论】：
标签： machine-learning neural-network normalization
【发布时间】：2016-11-30 08:02:41
【问题描述】：
这种归一化任务在神经网络应用中非常常见。最常见的方法是简单地计算数据的平均值和标准差，并将这些值存储在训练程序中。因此，您的数据管道是：
- 计算输入数据的
mean和sd并将其存储在内存中。 - 应用规范化转换：
normed_data = (data - mean) / sd。 - 训练/评估/使用网络。
- 使用
original_data = (normed_data * sd) + mean对数据进行非规范化处理。
我写了一篇关于数据规范化的较长文章。你可以阅读它here。
【讨论】：
-
感谢您的回答。我刚刚意识到在这种情况下也可以应用转换函数 Phi。之前只知道是用来对正态分布的数据进行变换、标准化，使用正态分布表。
-
您在帖子中说有必要计算均值和标准差。 Ys 的偏差，输出也一样。你能解释一下原因吗？让我们考虑以下示例：样本是特定区间 (x0,x1) 的一组 S 随机数。输入 xi 和目标 yj 始终是 S 的子集。输入由从 n 到 m-1 的序列选择，目标是 m。是否分别计算平均值和标准差。偏差也适用于这个追逐？