tf.nn.softmax_cross_entropy_with_logits 是否考虑批量大小？答案

【问题标题】：Does tf.nn.softmax_cross_entropy_with_logits account for batch size?tf.nn.softmax_cross_entropy_with_logits 是否考虑批量大小？
【发布时间】：2016-10-04 23:02:51
【问题描述】：

tf.nn.softmax_cross_entropy_with_logits 是否考虑批量大小？

在我的 LSTM 网络中，我提供了不同大小的批次，我想知道在优化之前是否应该根据批次大小对误差进行归一化。

【问题讨论】：

我不认为批量大小与它有任何关系。损失是每个示例（但是您定义示例）。您可以在之后减少均值以获得批次的平均损失

标签： python tensorflow softmax cross-entropy

【解决方案1】：

在documentation 中，它说 softmax_cross_entropy_with_logits 返回一个长度等于批量大小的向量。要获得标量成本，您可以在该向量上执行tf.reduce_mean。那么你的损失就不会受到批量大小的影响。

【讨论】：

请更新文档链接，该链接现已损坏 (404)。