TensorFlow 中图形集合的目的是什么？

Question

API 讨论了Graph Collections，从code 判断是通用密钥/数据存储。这些收藏的目的是什么？

Answer 1

请记住，在底层，Tensorflow 是一个用于指定然后执行计算数据流图的系统。图形集合用作跟踪构建的图形以及它们必须如何执行的一部分。例如，当您创建某些类型的操作时，例如tf.train.batch_join，添加操作的代码也会将一些队列运行器添加到QUEUE_RUNNERS 图形集合中。稍后，当你调用start_queue_runners() 时，默认情况下，它会查看QUEUE_RUNNERS 集合以知道要启动哪些跑步者。

Answer 2

到目前为止，我认为至少有两个好处：

1. 当您在多个 GPU 或机器上分发程序时，可以方便地从同一集合中的不同设备收集损失。使用 tf.add_n 将它们相加以累积损失。
2. 以我自己的方式更新一组特定的变量，例如权重和偏差。

例如：

import tensorflow as tf    
w = tf.Variable([1,2,3], collections=[tf.GraphKeys.WEIGHTS], dtype=tf.float32)    
w2 = tf.Variable([11,22,32], collections=[tf.GraphKeys.WEIGHTS], dtype=tf.float32)
weight_init_op = tf.variables_initializer(tf.get_collection_ref(tf.GraphKeys.WEIGHTS))
sess = tf.InteractiveSession()
weight_init_op.run()
for vari in tf.get_collection_ref(tf.GraphKeys.WEIGHTS): 
    tf.add_to_collection(tf.GraphKeys.UPDATE_OPS, vari.assign(0.2 * vari))
weight_update_ops = tf.get_collection_ref(tf.GraphKeys.UPDATE_OPS)
for op in weight_update_ops:
    print(op.eval())

输出：

[0.2 0.4 0.6]
[2.2 4.4 6.4]