TensorFlow per_image_standardization 与整个数据集的平均标准化

Question

我很好奇单独标准化每个图像与标准化整个数据集之间的区别。

我正在使用tensorflow/models/official/resnet，它是使用 tf.estimator 构建的。 tf 估计器支持生成 tf 数据集的输入管道函数。 Dataset 对象应用tf.image.per_image_standardization 操作，该操作通过从每个像素中减去图像本身的平均值来进行标准化并强制执行单位方差。

这与其他基于整个数据集的平均值对图像进行标准化的 ML 预处理不同，例如 sklearn.preprocessing.StandardScaler。

我很困惑这个输入管道的任何方面是否保留在从 tf.estimator.Estimator 导出的 tf SavedModel 中。

所以我想知道在通过 tf.contrib.predictor 或以任何其他 dnn 格式部署模型时，是否仍需要应用特征标准化。

即使我使用的是 per_image_standardization，我是否应该在数据集上应用标准化？如果是这样，我是否应该以某种方式从整个图像集中导出平均值，以便在为模型提供服务时服务器可以从整个数据集中获取平均值并以这种方式应用标准化？

Answer 1

在 StandardScaler 中，我们进行特征标准化。在图像的情况下，我们可以通过考虑整个数据分布来进行逐像素归一化，但这没有帮助，因为分布的可变性。所以 per_image_standardization 是首选，它将整个图像归一化为均值 0 和标准 1。它还可以加快学习速度。

进一步this-link 可能会有所帮助。有another-link，作者已经举例说明了。