Tensorflow - 总变化损失 - reduce_sum 与 reduce_mean？答案

【问题标题】：Tensorflow - Total Variation Loss - reduce_sum vs reduce_mean?Tensorflow - 总变化损失 - reduce_sum 与 reduce_mean？
【发布时间】：2018-05-16 06:24:26
【问题描述】：

为什么Total Variation Loss in Tensorflow 建议使用reduce_sum 而不是reduce_mean 作为损失函数？

这可以在优化过程中用作损失函数，以便抑制图像中的噪声。如果你有一批图像，那么你应该将标量损失值计算为总和：
loss = tf.reduce_sum(tf.image.total_variation(images))

【问题讨论】：

如果你使用tf.reduce_mean，你的损失值将独立于batch_size，据我所知这是理想的效果，但也许使用tf.reduce_mean会产生太低的损失值，这可能是不良影响。

标签： tensorflow loss-function

【解决方案1】：

我联系了作者，似乎根本没有什么重要的原因。他提到也许reduce_sum 比reduce_mean 更适合他的测试用例，但鼓励我测试这两种用例并选择给我最好结果的一种。

【讨论】：