如何避免 64 位数据类型在 tfjs-node 上本地运行我的 Python Estimator 模型？

Question

我在 Python 中创建了一个 tf.estimator 模型和一个 tf.data 管道，并在 TF 2.1 中将其保存为 tf.saved_model 格式。由于 tfjs-node 不支持 int64 或 float64 类型，因此无法加载模型。

在 Tensorboard 上，我观察到一些输入管道 Python 变量被自动声明为 64 位类型。

例如上面的batch_size 和epochs。如何避免这个问题并在 tfjs-node 中加载tf.estimator 模型而不进行转换？

为了重现，

• 运行托管在https://repl.it/@NitinPasumarthy/BinaryClassificationTFJSNode 的node.js 应用程序
• https://colab.research.google.com/drive/1-EKGUQGKlfm-ok2TqQtHhvbbuUGEIHxr#scrollTo=c05P9g5WjizZ 是创建模型的 Python 代码
• Tensboard.dev 调试链接https://tensorboard.dev/experiment/vMzgbGzzRo6xFV3aYcPovQ/#scalars

Answer 1

由于 tfjs-node 不支持 INT64 和 FLOAT64，如果输入/输出 tensor dtypes 为 INT64/FLOAT64，则无法直接加载和执行模型。一种解决方法是使用张量转换函数包装模型：

1. 在python中，加载原模型，新建一个输入张量为INT32或FLOAT32的模型
2. 在新模型中将输入张量转换为 DTYPE INT64/FLOAT64
3. 将转换后的张量馈送到原始模型，并返回模型输出（如果需要，转换值 dtype）
4. 将此新模型导出为 TF SavedModel

因此，通过这种包装，tfjs-node 支持模型的输入/输出 dtype，尽管它可能会失去一些准确性。