Tensorflow Mobile - 推理接口

Question

我对 TensorflowInferenceInterface 有一些问题。加载张量流模型后，我需要输出节点的形状尺寸。在 Tensorboard 仪表板中，正确表示以下形状：[?,?,?,2048] 因为动态图像输入。我已经为推理过程执行了这些指令：

---

TensorFlowInferenceInterface inferenceInterface = new TensorFlowInferenceInterface(assetManager, MODEL_NAME);
Operation operation = inferenceInterface.graph().operation(OUTPUT_NAME);

inferenceInterface.feed(INPUT_NAME, floatValues, 1, bitmapImage.getWidth(), bitmapImage.getHeight(), 3);

String[] outputNames =  new String[] {"activation_43/Relu"};
    inferenceInterface.run(outputNames, true);

float[] outputs = new float[690000];

inferenceInterface.fetch(OUTPUT_NAME, outputs);

---

我的问题是：如何获得输出张量维度？我需要形状向量中每个字段的 int 值而不是问号。

Answer 1

通常在进行推理时，输出形状都是静态的。似乎 TensorflowInferenceInterface 的设计考虑到了这种情况，并且没有办法获得输出形状。

一种选择是复制粘贴源代码（它相当小，只使用其他公共接口）并公开getTensor()。然后，你可以这样做：

Tensor<?> t = inferenceInterface.getTensor(OUTPUT_NAME);
long[] dimensions = t.shape();

或者，您可以提交描述您的用例的 github 问题。人们可能会觉得这是合理的并接受 PR 以更改实际的 getTensor() 方法可见性或提出替代方案。