如何让网络在 GPU 上运行答案

【问题标题】：How to make the net run on the GPU如何让网络在 GPU 上运行
【发布时间】：2017-09-26 11:29:59
【问题描述】：

我开始将我公司的 CNN 实现集成到我们的 Android 应用中。

作为参考，我使用了TensorFlow sample for mobile。

不幸的是，我的执行时间很长（大约 10-15 秒）。在我们的服务器上，只需 1 秒。

我尝试使用 Android Studio 中的 Android Profiler 确定此执行是在 CPU 上还是在 GPU 上进行，并注意到它在 CPU 上运行。

我想与社区分享这个问题，以检查是否有人遇到与我相同的问题。

我使用的是三星 Galaxi A5 和 Google Pixel。

【问题讨论】：

【解决方案1】：

您可能只使用 CPU。有两种可能的解释：

推荐的 TensorFlow 构建机制会创建未启用 GPU 支持的静态库；见https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/makefile
我还没有设法找到 TensorFlow 对 NVidia GPU 以外的任何东西的支持。您的 Galaxy A5 和 Google Pixel 没有 NVidia GPU。

【讨论】：

您能否与我分享支持的 GPU 的链接？我能找到一个。关于您共享的链接，它还告知当您使用 Makefile 构建静态库时它不支持 GPU，我很确定它对于 Android 的 Gradle 构建系统是相同的。 Gradle 还构建 .so 可能不支持 GPU。我想知道解决方案是否是构建我自己的与 TensorFlow 服务对话的 .so 库，并尝试自己启用 GPU 功能。
更新：我发现以下链接指定了适用于 iOS 的 TensorFlow 限制。其中之一是不支持 GPU。我确信这也涵盖了 Android，因为 TensorFlow Mobile 核心是跨平台的。 machinethink.net/blog/tensorflow-on-ios
“您能与我分享支持的 GPU 的链接吗？”我没有。但我可以看到有关 TensorFlow 和 NVidia GPU 的页面。