在 GPU 上训练的模型的 TPU 推理（Tensorflow 对象检测 API）

Question

我尝试按照以下指南导出一些经过 GPU 训练的对象检测模型（基于 Tensorflow 对象检测 API）以用于 TPU 进行推理，

https://github.com/tensorflow/models/blob/master/research/object_detection/g3doc/tpu_exporters.md

1. 在其中一项要求中提到：
   “假设用户具有： PIPELINE_CONFIG：一个 pipeline_pb2.TrainEvalPipelineConfig 配置文件” ，但我无法在线或在任何存储库中找到文件 pipeline_pb2.TrainEvalPipelineConfig，请问我该如何获取该文件？

2. 什么是“INPUT_PLACEHOLDER：模型的 signature_def_map 中输入占位符的名称”，我在哪里可以找到它？

3. 什么是“INPUT_TYPE：输入节点的类型，可以是‘image_tensor’、‘encoded_image_string_tensor’或‘tf_example’之一”？我在哪里可以找到它？

4. 我在哪里可以获得与“使用在 GPU 上训练的对象检测模型在 TPU 上执行推理”相关的示例？

最好的问候， 周国华

Answer 1

1. 原型定义在： https://github.com/tensorflow/models/blob/2dfd1e6388c06eb47945f2592d5dad7609172491/research/object_detection/protos/pipeline.proto#L14 您应该使用与训练中相同的配置。

2. 它位于您导出的 SavedModel 的 MetaGraphDef 中。 已保存模型：https://github.com/tensorflow/tensorflow/blob/master/tensorflow/core/protobuf/saved_model.proto MetaGraphDef.signature_def:https://github.com/tensorflow/tensorflow/blob/0bf070c54d015ee86de8328d8bdb5582dc0f6d93/tensorflow/core/protobuf/meta_graph.proto#L89

3. 这取决于您要提供的数据类型。定义在https://github.com/tensorflow/models/blob/2dfd1e6388c06eb47945f2592d5dad7609172491/research/object_detection/exporter.py#L199

4. 您可以在https://github.com/tensorflow/models/blob/2dfd1e6388c06eb47945f2592d5dad7609172491/research/object_detection/tpu_exporters/export_saved_model_tpu_lib_test.py#L56 找到一个示例 这基本上是在给定检查点和管道配置的情况下导出 TPU SavedModel。