TensorFlow 服务，得到不同的结果

Question

我正在使用 tensorflow 服务来服务于预训练模型。 奇怪的是，当我为这个模型输入相同的数据时，每次都会得到不同的结果。

我认为这可能是我在变量初始化时的问题，我想知道是否有任何线索可以调试我的模型，或者如何找到原因，谢谢。

Answer 1

两个常见问题：

1. main_op 存在一个已知问题，其中变量被重新初始化为随机变量。
2. 您在预测图中留下了丢弃层。

要解决 (1)，请改用：

def main_op():
  init_local = variables.local_variables_initializer()
  init_tables = lookup_ops.tables_initializer()
  return control_flow_ops.group(init_local, init_tables)

要解决 (2)，请确保您没有直接导出训练图。您需要为预测/服务构建一个新图。如果您使用的是tf.estimator 框架，那么您只会在mode 为tf.estimator.ModeKeys.TRAIN 时有条件地添加dropout 层。