将机器学习套件与 NNAPI 结合使用答案

【问题标题】：Use ML Kit with NNAPI将机器学习套件与 NNAPI 结合使用
【发布时间】：2019-02-06 15:25:06
【问题描述】：

我正在尝试在运行 Android 9 的 Android 设备上使用新的 Google 机器学习 sdk、ML Kit。来自官网：

ML Kit 通过引入 Google 的 ML 技术，例如 Google Cloud Vision API， TensorFlow Lite 和 Android 神经网络 API 在一个单个 SDK。无论您需要基于云的处理能力，移动优化的设备模型的实时功能，或自定义 TensorFlow Lite 模型的灵活性，ML Kit 使之成为可能只需几行代码。

我认为这意味着在至少具有 Android 8.1 的设备上（根据 nnapi 的文档），SDK 可以使用 NNAPI。但是，当我在装有 Android 7.1（不支持 nnapi）的设备上运行相同的应用程序时，我获得了与使用 Android 9（理论上是 NNAPI）的设备相同的性能。我如何将 ML Kit 与 NNAPI 一起使用？我做错了什么？ mlkit 文档链接：https://firebase.google.com/docs/ml-kit/

【问题讨论】：

标签： android machine-learning firebase-mlkit nnapi

【解决方案1】：

根据 2018 年 10 月的这篇论文：AI Benchmark: Running Deep Neural Networks on Android Smartphones，当没有特定硬件和/或驱动程序可用时，NNAPI 默认为 CPU 路径。在论文的最后，它指出许多设备存在实施问题。

由于该论文的作者包括来自高通、ARM、华为、联发科和苏黎世联邦理工学院的代表，它可能是对 Android 机器学习状态最全面的概述。

2019 年 1 月，Google 宣布了 TensorFlow Lite with GPU acceleration in developer preview，它将解决论文中提出的一些问题。

2020 年 7 月更新：

研究人员有一个网站：http://ai-benchmark.com/

并在 2019 年 10 月更新了他们的论文： AI Benchmark: All About Deep Learning on Smartphones in 2019

【讨论】：

感谢您提供非常全面的答案。