如何解释 TensorFlow 中的预测，它们的形状似乎错误

Question

我有一个具有以下一些特征的 TensorFlow 模型：

    state_size = 800,
    num_classes = 14313,
    batch_size = 10,
    num_steps = 16, # width of the tensor
    num_layers = 3

   x = tf.placeholder(tf.int32, [batch_size, num_steps], name='input_placeholder')
   y = tf.placeholder(tf.int32, [batch_size, num_steps], name='labels_placeholder')
   rnn_inputs = [tf.squeeze(i, squeeze_dims=[1]) for i in
                  tf.split(x_one_hot, num_steps, 1)]  # still a list of tensors (batch_size, num_classes)
   ...
   logits = tf.matmul(rnn_outputs, W) + b

   predictions = tf.nn.softmax(logits)

现在我想给它一个 np.array (shape = batch_size x num_steps, 所以 10 x 16) 我得到一个预测张量。

奇怪的是，它的形状是 160 x 14313。后者是类的数量。但是 160 是从哪里来的呢？我不明白。我想对我的每个班级、批次的每个元素（即 10）都有一个概率。 num_steps 是如何参与其中的，我如何从这个 pred 中阅读。张量是这 16 个数字之后的预期元素？

Answer 1

在这种情况下，160 来自您怀疑的形状。
这意味着对于每批 10 个，有 16 个时间步长，当你做你的形状变量时，这在技术上是扁平的。
此时你有形状为 160 * 类的 logits。所以你可以为每个批次做predictions[i]，然后每个班级都有可能成为所需班级。
这就是为什么要获得所选择的类，你会做类似tf.argmax(predictions, 1) 的事情来获得具有分类的张量
在您的情况下，这将具有 160 的形状，因此它将是预测的 每个批次的类。

为了获得概率，您可以使用logits：

def prob(logit):
    return 1/(1 + np.exp(-logit)