有没有办法在 Raspberry Pi 4 上获得 GPU 加速以进行深度学习？答案

【问题标题】：Is there a way to get GPU acceleration on Raspberry Pi 4 for Deep Learning?有没有办法在 Raspberry Pi 4 上获得 GPU 加速以进行深度学习？
【发布时间】：2020-09-23 21:43:33
【问题描述】：

在 Tensorflow Lite 官方网站上，他们展示了对 Android 和 iOS 的 GPU 加速的支持，但没有说明对 Raspberry Pi 的支持。

【问题讨论】：

标签： python deep-learning gpu tensorflow-lite raspberry-pi4

【解决方案1】：

您不能将树莓派 GPU 用于机器学习。首先，它不满足大多数 DL 模型的硬件要求，其次您可能需要 Nvidia GPU。您正在寻找的是来自 nvidia 的 Jetson Nano，它类似于 RPi，但具有支持 cuda 的 GPU。这些是用来部署机器学习模型的，看看吧！

【讨论】：

如果您自己编写代码，您可以使用它。 ;-)

【解决方案2】：

如果您想在主流框架（例如 TensorFlow 或 PyTorch）中使用 Rasperry Pi 来训练神经网络，您可能无法在短期内获得 GPU 加速。原因是至少这两个是以 GPU 为中心的主流，主要是 NVidia，逐渐启用 AMD 支持（here 用于 TF，here 用于 Torch）。

可以说，对于 Pi 最有希望的选择是 OpenCL support，但是，在撰写本文时，据我所知，还没有针对 Raspberry Pi 4 的 OpenCL 实现。

可能使用TensorFlow.js，您可以获得一些 Raspberry Pi GPU，只要它可以通过 WebGL 着色器使用 GPU。因此，在 Pi 上运行支持 WebGL 的网络浏览器可以启用 GPU 加速训练。

如果您想使用 Raspberry Pi 进行推理，可能更容易从 GPU 加速中受益。

ncnn 是一个使用 Vulkan API 的库，可为 Raspberry Pi 4 启用 GPU 加速。
Beatmup 库支持对所有 Raspberry Pi 模型进行 GPU 加速推理，不仅是 4。它还提供了一些 Keras 模型的转换工具，但在实现的功能方面受到很大限制。

【讨论】：

ncnn 尚未在树莓派 4 中支持 vulkan
这里有很多软件平台的好评：qengineering.eu/… 它说阿里巴巴 MNN 是树莓派 4 最快的框架。