使用 AWS 在虚拟机上部署我自己的 tensorflow 模型

Question

我有一个 Tensorflow 模型，它在我的笔记本电脑上运行良好（OS HighSierra 上的 Tf 1.8）。但是，我想扩大我的运营规模并使用亚马逊的虚拟机来更快地运行预测。使用我保存的模型并对本地存储的 jpeg 格式的图像进行分类的最佳方法是什么？谢谢！

Answer 1

你有两个选择：

1) 在 AWS 上启动虚拟机（称为 Amazon EC2 实例）。您可以从许多不同的实例类型中进行选择，包括 GPU 实例。您将在这台机器上拥有完全的管理权限，这意味着您可以将 TF 模型复制到其中并像在自己的机器上一样进行预测。

更多关于 EC2 入门的详细信息，请点击此处：https://aws.amazon.com/ec2/getting-started/

我还建议使用 Deep Learning Amazon Machine Image，它捆绑了所有流行的 ML/DL 工具以及用于 GPU 训练/预测的 NVIDIA 环境：https://aws.amazon.com/machine-learning/amis/

2) 如果您不想管理虚拟机，我建议您查看 Amazon SageMaker。您将能够导入 TF 模型并将其部署在完全托管的基础架构上以进行预测。

这是一个示例笔记本，向您展示如何将您自己的 TF 模型引入 SageMaker：https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/tensorflow_iris_byom/tensorflow_BYOM_iris.ipynb

希望这会有所帮助。