【问题标题】:How can I select which checkpoint to view in TensorBoard's embeddings tab?如何在 TensorBoard 的嵌入选项卡中选择要查看的检查点?
【发布时间】:2017-07-29 12:08:43
【问题描述】:

小问题:如何在 TensorBoard 的嵌入选项卡中选择要查看的检查点?


问题的加长版本:

我想用 TensorBoard 可视化词嵌入。为此,在阅读了official tutorialmirror)之后,我添加了以下代码:

embedding_writer = tf.summary.FileWriter(model_folder)     
embeddings_projector_config = projector.ProjectorConfig()
embedding = embeddings_projector_config.embeddings.add()
embedding.tensor_name = model.W.name # W corresponds to the embeddings' weights.
projector.visualize_embeddings(embedding_writer, embeddings_projector_config)

# Initialize the model
sess.run(tf.global_variables_initializer())

[...]

# Then, for each training epoch:
model_saver.save(sess, os.path.join(model_folder, 'model_{0:05d}.ckpt'.format(epoch_number)))

查看 TensorFlow 保存日志的文件夹,我确实为每个 epoch 设置了一个检查点:

但是,在 TensorBoard 的嵌入选项卡中,我似乎只能查看最新的检查点:

我有时想查看以前时期的嵌入。如何在 TensorBoard 的嵌入选项卡中选择要查看的检查点?

【问题讨论】:

    标签: python tensorflow tensorboard


    【解决方案1】:

    我是从事嵌入可视化工具的工程师之一。感谢您的反馈。我们计划在 UI 中添加一个下拉菜单,让您可以选择不同的检查点。

    与此同时,有一个解决方法。您可以编辑位于 TensorBoard 保存日志的文件夹中的 projector_config.pbtxt。我假设projector_config.pbtxt 的内容是:

    embeddings {
    ...
    }
    

    在文件末尾添加以下行:

    model_checkpoint_path: "path_to_log_dir/model_0000N.ckpt"
    

    指向您想要可视化的确切检查点,然后删除(如果存在)model_checkpoint_dir: "..." 行。然后刷新页面(并可能重新运行 TensorBoard)。


    例如,如果你用tensorboard --logdir=output启动了TensorBoard,并且模型检查点绝对路径是C:\Users\a\output\en_2017-03-08_17-42-09-310106\model\model_00004.ckpt,那么你应该追加到projector_config.pbtxt

    model_checkpoint_path: "output\en_2017-03-08_17-42-09-310106\model\model_00004.ckpt"
    

    projector_config.pbtxt 的示例:

    embeddings {
      tensor_name: "token_embedding/W:0"
    }
    model_checkpoint_path: "output\en_2017-03-08_17-42-09-310106\model\model_00004.ckpt"
    

    如果点击TensorBoard中的embeddings选项卡没有出现,说明你输入的model_checkpoint_path不正确。

    希望这会有所帮助!

    【讨论】:

    • 是否可以查看多个检查点。例如图像有一个滑块,所以我可以检查不同时期的演变。
    猜你喜欢
    • 1970-01-01
    • 2019-09-19
    • 1970-01-01
    • 1970-01-01
    • 2020-11-30
    • 1970-01-01
    • 1970-01-01
    • 2023-04-02
    • 2012-11-27
    相关资源
    最近更新 更多