【发布时间】：2018-08-12 13:00:19
【问题描述】：
我想知道为什么在 Tensorflow 版本 1.5.0 及更高版本中，softmax_cross_entropy_with_logits_v2 默认反向传播到标签和 logits。您希望在哪些应用程序/场景中反向传播到标签中？
【问题讨论】：
标签： tensorflow machine-learning neural-network cross-entropy
【发布时间】：2018-08-12 13:00:19
【问题描述】：
我看到下面的 github issue 问了同样的问题，你可能想关注它以获取未来的更新。
https://github.com/tensorflow/minigo/issues/37
我不代表做出此决定的开发人员，但我推测他们会默认这样做，因为它确实经常使用，并且对于大多数您不会反向传播到标签的应用程序，标签无论如何都是常数，不会受到不利影响。
反向传播到标签的两个常见用例是：
- 创建对抗样本
围绕构建能够愚弄神经网络的对抗性示例有一个完整的研究领域。这样做的许多方法涉及训练网络，然后保持网络固定并反向传播到标签（原始图像）中以调整它（通常在某些约束下）以产生欺骗网络错误分类图像的结果。
- 可视化神经网络的内部结构。
我还建议人们观看 youtube 上的 deepviz 工具包视频，你会学到很多关于神经网络学习的内部表示的知识。
https://www.youtube.com/watch?v=AgkfIQ4IGaM
如果您继续深入研究并找到原始论文，您会发现它们还会反向传播到标签中以生成高度激活网络中某些过滤器的图像，以便理解它们。
【讨论】：