如果softmax不包含在训练中，那么在TensorFlow中如何获得softmax的参数？答案

【问题标题】：How the parameters of softmax are obtained in TensorFlow if the softmax is not included in training?如果softmax不包含在训练中，那么在TensorFlow中如何获得softmax的参数？
【发布时间】：2019-03-10 12:34:08
【问题描述】：

Here is a tensorflow graph，我们可以看到交叉熵的输入之一是logit层的输出，而不是图中softmax的输出。

我对其进行了搜索，发现“警告：此操作需要未缩放的 logits，因为它在内部对 logits 执行 softmax 以提高效率。不要使用 softmax 的输出调用此操作，因为它会产生不正确的结果。”在this webpage.

我的问题是，如果这个softmax没有经过训练，softmax的参数是怎么得到的？

【问题讨论】：

如果可以打开张量流图，这里是我从tensorflow.org/guide/graphs 获得图的网页。

标签： tensorflow softmax

【解决方案1】：

Softmax 是像 RELU、Tanh 或 Sigmoid 一样的无参数激活函数：它不需要训练。它只计算每个 logit 的指数，然后通过指数之和对输出向量进行归一化。

【讨论】：

谢谢。这就是我刚刚发现的。