tensorflow 可以单独优化批次中每个元素的损失，而不是优化整个平均损失吗？

Question

张量流如何单独优化批次的元素损失而不是优化批次损失？

在优化每个batch的loss时，常用的方法是求和或取该batch的所有element loss的平均值作为batch loss，然后优化这个batch loss。就我而言，我想单独优化每个元素的损失，而不是将它们作为批量损失一起减少。

例如，在下面的代码中。

losses = tf.nn.nce_loss(<my batch inputs here>)
loss = tf.reduce_mean(losses)
optim = tf.nn.GradientDesentOptimizor(learning_rate = 0.01).minimize(loss)

如何跳过loss = tf.reduce_mean(losses) 并直接最小化张量losses？ （这样mini-batch实际上就缩小到了batch size为1的情况。）

我已经将损失直接最小化为：

optim = tf.nn.GradientDesentOptimizor(learning_rate = 0.01).minimize(losses) # instead of loss

我不确定最小化将如何工作。当我使用它在会话中运行时，损失往往会探索到 nan。

那么在tensorflow中是否可以实现上述目的呢？

Answer 1

tf.reduce_mean(losses) 的梯度计算和losses 的梯度计算之间的区别在于，对于 losses 张量，您将获得梯度的总和（批次中每个样本的梯度总和），而对于 @987654324 @您将获得梯度的平均值（批次中样本的梯度平均值）。这就是为什么你开始得到NaN 值的原因——随着批次大小的增加，梯度的总和变得非常大。

如果您要优化张量损失而不是减少平均损失，您可以通过将学习率除以批量大小来获得精确的等价。

要为每个样本单独优化器，只需每批输入一个样本。