如何将 DL 模型部署到云端并在 Android 应用上运行？答案

【问题标题】：How to deploy DL model to the cloud and run it on Android app?如何将 DL 模型部署到云端并在 Android 应用上运行？
【发布时间】：2021-09-11 02:29:00
【问题描述】：

我正在开发一款深度学习的安卓应用。我已经对模型进行了训练和测试，并且该区域的一切都已完成。现在我必须将它部署在云端。

如果用户使用该应用程序，他们的数据将发送到驻留在云端的模型，然后将结果发送回用户的移动应用程序并显示。之所以将模型部署在云端，是因为它是一个“在线学习系统”。

我现在不明白的是如何连接android app用户界面（在android studio中开发）和模型。

我应该使用 Kafka 还是类似的东西？如果是，我需要按照哪些步骤将我的 jupyter notebook 部署到云端，然后将整个系统连接到 android 应用程序用户界面。

【问题讨论】：

【解决方案1】：

你不会使用 Jupyter。您可以将模型嵌入 Web 服务器并与它进行交互，就像您的移动应用程序中的任何其他 HTTP 服务一样

Kafka 本身不是 HTTP 服务，也不托管 ML 模型；它需要与其他工具配对。例如，KSQL 确实有一个 REST 端点。示例 - https://github.com/kaiwaehner/ksql-machine-learning-udf

【讨论】：