我使用训练数据（作为输入）从tf.contrib.lookup 创建一个查找表。然后，我将每个输入都通过该查找表，然后再通过我的模型。
这适用于训练，但是当涉及到同一模型的在线预测时，它会引发错误：
表未初始化
我正在使用SavedModel 来保存模型。我从这个保存的模型中运行预测。
如何初始化此表以使其保持初始化状态？或者有没有更好的方法来保存模型以便始终初始化表？
【问题讨论】：
标签： python tensorflow tensorflow-serving
当您使用 tf.saved_model.builder.SavedModelBuilder.add_meta_graph 将元图添加到 SavedModel 捆绑包时，您可以使用 main_op 或 legacy_init_op kwarg 指定“初始化”操作。您可以使用单个操作，也可以使用tf.group 将多个操作组合在一起（如果您需要多个操作）。
请注意，在 Cloud ML Engine 中，您必须使用 legacy_init_op。但是在未来runtime_versions 你将能够使用main_op
（IIRC，以runtime_version == 1.2开头）
saved_model 模块提供了一个内置的tf.saved_model.main_op.main_op 以将常见的初始化操作封装在单个操作中（局部变量初始化和表初始化）。
总之，代码应该是这样的（改编自this example）：
exporter = tf.saved_model.builder.SavedModelBuilder(
os.path.join(job_dir, 'export', name))
# signature_def gets constructed here
with tf.Session(graph=prediction_graph) as session:
# Need to be initialized before saved variables are restored
session.run([tf.local_variables_initializer(), tf.tables_initializer()])
# Restore the value of the saved variables
saver.restore(session, latest)
exporter.add_meta_graph_and_variables(
session,
tags=[tf.saved_model.tag_constants.SERVING],
signature_def_map={
tf.saved_model.signature_constants.DEFAULT_SERVING_SIGNATURE_DEF_KEY: signature_def
},
# Relevant change to the linked example is here!
legacy_init_op=tf.saved_model.main_op.main_op()
)
注意：如果您使用高级库（例如tf.estimator），这应该是默认设置，如果您需要指定其他初始化操作，您可以将它们指定为您传递的tf.train.Scaffold 对象的一部分到你的model_fn中的tf.estimator.EstimatorSpec。
【讨论】：
If you are using the high level libraries (such as tf.estimator) this should be the default 是什么意思？如何在构建估算器时传递我的自定义 init_op？
我认为你最好使用tf.tables_initializer() 作为legacy_init_op。
tf.saved_model.main_op.main_op() 除了表初始化之外，还添加了本地和全局初始化操作。
当您加载保存的模型并运行 legacy_init_op 时，它会重置您的变量，这不是您想要的。
【讨论】：