【问题标题】:Is it possible to make predictions with a keras/TensorFlow model without downloading TensorFlow and all its dependancies?是否可以在不下载 TensorFlow 及其所有依赖项的情况下使用 keras/TensorFlow 模型进行预测?
【发布时间】:2019-10-05 08:20:51
【问题描述】:

我正在尝试使用我在桌面上使用 tensorflow-gpu 在手机 (Android) 上使用 Python 训练的自定义 keras 模型,但是我还需要在手机上使用 Python 运行它。我查找了 TensorFlow Lite,但它似乎是为 Java 编写的。

是否有 TensorFlow 的 lite (Python) 版本,某种准系统包,刚刚设置用于从 TensorFlow/keras 模型文件进行预测?我正试图专注于节省空间,因此需要 50mb 以下的解决方案。

谢谢

【问题讨论】:

  • 如果您希望在 Android 设备上运行模型,您可以使用 TensorFlow Lite,因为 Android 支持 Java 和 Kotlin。否则,您将无法在 Android 设备上运行 Python(如此轻松)。
  • 我已经有一个我正在做的项目,它完全使用在 Android 上运行的 Python 和 C++ 编写,但我只真正熟悉 Python。我需要已经编写好的 Python 脚本中的数据。不考虑 Android 部分,有没有办法在没有 TensowFlow 的情况下运行 TensorFlow 模型?
  • 您是否考虑过将模型托管在某处(GCP ML-Engine 或类似的)并从设备进行 http 调用以进行预测的可能性?接受它不是每个用例的解决方案,但如果您的案例可以接受,可能更容易实现
  • 你能详细说明用python运行它的要求吗?否则,您可能需要查看 TF Serving。根本不需要那样在本地运行 TF。
  • 感谢您的回复。我确实需要在本地运行它,因为它将通过 CAN 总线控制汽车的制动和油门命令,而通过互联网是不可行的。我正在使用 openpilot,这是一个在 Android 手机上运行的主要基于 Python 的项目。也许我选择了错误的机器学习工具来训练。有没有另一种可以与 python 一起使用且占用空间更小的工具?

标签: python tensorflow keras


【解决方案1】:

TensorFlow Serving 是为服务预训练模型的特定目的而构建的。如果它小于 50MB,我不确定它是否在 Android 上运行(或者让它运行有多困难)或者它的编译足迹是什么。如果你能成功,请在这里报告!

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2018-07-05
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2016-06-26
    • 2016-02-16
    • 1970-01-01
    • 2016-04-22
    相关资源
    最近更新 更多