AWS 托管用于机器学习的大型模型文件

Question

我想公开一个我在本地训练过的模型，其中包含一些有助于通过它评估参数的函数。该模型非常大（10 GB）。我想构建一个可以公开所需功能的 Web 服务。但是，我不知道应该如何托管我的模型（这是一个非常大的文本文件）以及如何访问它。另外，向前迈出一步，我是否将整个模型加载到我的 EC2 实例内存中？处理此类任务的最佳方式是什么？

Answer 1

例如，您始终可以将其保存在 S3 存储桶中，然后将其加载到 R 中。但是，我看不到部分加载模型的方法。我会说你会失去模型概括你的结果的能力。恐怕您需要花一些钱并采取一个能够加载整个事物的大实例。祝你好运！