是否可以在两个操作都创建后在它们之间创建控制依赖关系？我意识到使用tf.control_dependencies 可以让一个操作在执行之前等待另一个操作，但是必须在tf.control_dependencies 上下文中创建依赖操作。我想先独立构建这两个操作，然后添加依赖。
【问题讨论】：
标签： tensorflow
这可能是一个令人失望的答案，但在创建 TensorFlow Operation 后，无法将控制依赖项（或任何其他输入）添加到它。张量和操作一经创建就不可变。
一种可能性是在适当的控制依赖关系上下文中克隆应该运行的操作。假设您有两个 Operation 对象，op_first 和 op_second，并且您希望 op_first 在 op_second 之前运行：
def first_before_second(op_first, op_second):
"""Sequence `op_first` before `op_second`.
Given two operations, returns a pair of operations with the same behavior
except that the first returned operation will execute before the second
returned operation.
"""
with tf.control_dependencies([op_first]):
g = tf.get_default_graph()
op_second_clone = g.create_op(op_second.type,
[in_t for in_t in op_second.inputs],
[out_t.dtype for out_t in op_second.outputs],
attrs=op_second.node_def.attr,
op_def=op_second.op_def)
return op_first, op_second_clone
类似的修改也可以处理Tensor 对象，但这留给读者作为练习。
【讨论】：
虽然通常不可能，但您可以稍微修改现有的op 以强制执行依赖关系。例如，您可以将零添加到张量：
def first_before_second_num(op_first, op_second):
with tf.control_dependencies([op_first]):
op_second += 0
return op_second
如果您有一个NoOp 和train_step 一样，那么您可能希望将它与另一个NoOp 组合在一起：
def first_before_second_noop(op_first, op_second):
with tf.control_dependencies([op_first]):
op_second tf.group(op_second, tf.no_op())
return op_second
【讨论】：