在 AWS lambda 上部署 POJO 模型

Question

我是 H2O 和 AWS 的新手。 我已经在 H2O 中完成了几个 GLM 模型，并希望将其部署在 AWS lambda 上。这些模型使用或多或少相同的数据源，这些数据将从 API Gateway 注入 JSON。

在一个 Lambda 函数中对这些模型进行并行评分并将每个 GLM 的结果求和的最佳方法是什么？ - 将每个 POJO 类依次放入 Lambda 中可以吗？ - 将需要一些数据转换脚本将数据转换为 POJO 模型所需的形状，并在 Redis 中进行一些表查找 - 完成5个POJO评分后，需要将分数相加并返回给S3

这种设置可行吗？或者有其他方式更适合这个用例。 GLM(s) 模型的评分和结果将实时部署到 Web 应用程序和服务用户。

Answer 1

GLM 模型得分非常快。可以将它们串联在单个 lambda API 调用中。模型预测延迟不会很糟糕。数据库表查找可能会主导延迟。

对于大容量事务问题，重要的是多个事务可以并行发生，使用 AWS lambda 端点是让 Amazon 处理该问题的好方法，而不必发明自己的方式。