如何在 Tensorflow 中打印出预测概率

Question

我是新来的 tf.我已经使用 tensorflow 训练了一个编码器 - 解码器。该程序将一个单词作为输入并打印出它的音素。

例如：Hello World -> ['h', 'E', 'l', '"', '@U', '', 'w', '"', '3`', 'r ', '5', 'd']

我想访问每个所选音素的预测概率。

在预测部分，我使用的代码如下：

def predict(words, sess):

    if len(words) > hp.batch_size:
        after = predict(words[hp.batch_size:], sess)
        words = words[:hp.batch_size]

    else:
        after = []
    x = np.zeros((len(words), hp.maxlen), np.int32)  # 0: <PAD>
    for i, w in enumerate(words):
        for j, g in enumerate((w + "E")[:hp.maxlen]):
            x[i][j] = g2idx.get(g, 2)         


    preds = np.zeros((len(x), hp.maxlen), np.int32)
    for j in range(hp.maxlen):

        xpreds = sess.run(graph.preds, {graph.x: x, graph.y: preds})
        preds[:, j] = xpreds[:, j]

提前谢谢你！

我的主要问题是这些概率“隐藏”在哪里以及如何访问它们。例如，单词“Hello”中的字母“o”与音素“@U”映射。我想知道“@U”被选为理想音素的概率有多大。

Answer 1

在讨论之后，我想我可以指出应该更改代码的地方。 在 train.py 中，第 104 行：

self.preds = tf.to_int32(tf.argmax(logits, -1))

他们将 preds 变量分配给概率最高的索引。 为了得到softmax预测，你可以修改代码如下：

self.preds = tf.nn.softmax(logits)

我认为应该这样做。

如何查看概率：

preds = np.zeros((len(x), hp.maxlen), np.float32)
for j in range(hp.maxlen):
    xpreds = sess.run(graph.preds, {graph.x: x, graph.y: preds})
    # print shape of output -> batch_size, max_length,number_of_output_options
    print(xpreds.shape)
    # print all predictions of the first output
    print(xpreds[0, 0])
    # print the probabilty of the network prediction
    print(xpreds[0, 0, np.argmax(xpreds[0][0])])
    # preds[:, j] = _preds[:, j]     Need to accumulate the results according to the correct output shape