如何对张量板的可学习参数进行分组？答案

【问题标题】：How to group learnable parameters for tensorboard?如何对张量板的可学习参数进行分组？
【发布时间】：2019-03-11 12:12:37
【问题描述】：

我通常在 tensorflow 中按以下方式构造我的可学习参数：

learnable_weights = {
  'w1': tf.get_variable(...),
  ...
  'wn': tf.get_variable(...),
} 

learnable_biases = {
  'bc1': tf.get_variable(...),
  ...
  'bd3': tf.get_variable(...)
}

我最近开始遇到的问题是张量板图拥塞，其中辅助节点中有很多权重（这是大图的一部分，这些节点的数量要大得多）：

我尝试将它们与tf.name_scope 分组。像这样的：

with tf.name_scope('learnable_params'):
  learnable_weights = {...}
  learnable_biases = {...}

但这对张量板中的图形没有影响。

有什么理由或更好的建议如何对可学习参数进行分组以便它们不会弄乱张量板？

【问题讨论】：

标签： tensorflow tensorboard

【解决方案1】：

您可以尝试使用variable_scope 而不是name_scope。通过get_variable 创建的AFAIK 变量忽略name_scope，如果这也适用于Tensorboard 中的图形组织，我不会感到惊讶。我只使用variable_scope 来包装任何创建变量的东西，而且我从来没有遇到过“无组织”变量的这些问题。

【讨论】：