使用 customvision.ai/.NET 5 在 Raspberry PI 上进行对象检测答案

【问题标题】：Object detection on Raspberry PI using customvision.ai/.NET 5使用 customvision.ai/.NET 5 在 Raspberry PI 上进行对象检测
【发布时间】：2021-11-06 22:52:08
【问题描述】：

我们使用 .NET 5 编写了一个 x-plat worker 服务，该服务在 Raspberry PI 4（Raspberry Pi OS）上运行。我们已经在 customvision.ai 上训练了一个自定义视觉对象检测模型，并将其导出到 ONNX，并且在 Windows 上运行良好。

我们现在正努力让它在 Pi 上运行。 ML.NET 位似乎不适用于 Pi。我们得到（目标运行时“linux-arm”）：

Microsoft.ML 当前支持“x64”和“x86”处理器架构。请确保您的应用程序针对“x64”或“x86”

我们已经在 hi 和 low 中搜索了任何有效的示例。我们还尝试导出为 Tensorflow 格式并探索 Tensorflow.NET，但没有任何成功。

谁能指出一个在 Raspberry PI 上使用 .NET Core/5 中的 customvision.ai 生成模型的示例？我们正在扩展现有原型，并希望避免在 Python/C++ 中全部重写或创建进程外调用。

版本：ML.NET 1.6、Microsoft.ML.OnnxRuntime 1.8.1

非常感谢，

曼索斯

【问题讨论】：

标签： ml.net onnxruntime onnx-coreml

【解决方案1】：

以防其他人降落在这里......

ML.Net NuGets 版本（2021 年 12 月中旬）现在支持 linux-aarch64、linux-arm、linux-arm64、Windows-x64 等。

如果您仍然感兴趣，我有几篇关于我的“学习之旅”的博文，介绍了在 RPI4B + Bullseye 和 ASUS PE100A + Ubuntu 上工作的预训练 ONNX 模型

@KiwiBryn

【讨论】：

嗨，Bryn，我也有同样的问题。太好了，您可以在 arm64 上运行 ML.Net。我查看了你的博客文章，但我有问题。我得到了最新的 Microsoft.ML nuget 包版本 1.7。但是我在发布时仍然收到“仅适用于 x64”的错误。另外我听说 arm64 不支持 tensorflow 模型。你是如何得到你的 onnx 模型的，你是从 tensorflow 转换过来的吗？真的会感谢任何帮助:-)
好的，在发布配置文件设置中，我将目标更改为便携式而不是 linux-arm64。现在我可以发布了。我还安装了 onnxruntime nuget 包。但是在 raspi 上，我得到了错误：“Microsoft.ML.OnnxRuntime.NativeMethods”的类型初始化程序引发了异常。 ---> System.DllNotFoundException：无法加载共享库“onnxruntime”或其依赖项之一。如何在 raspi 上安装 libonnxruntime？
好的，解决了。按照此处的说明进行操作：stackoverflow.com/questions/63420533/… 从 arm64 的 nuget 包中获取 arm64 版本的 libonnxruntime
我使用 Visual Studio 2K19（+一些自定义部署胶水），在本地“发布”应用程序后，有一系列子文件夹（我假设从 Microsoft.ML.OnnxRuntime NuGet 中提取）包含支持平台的运行时。然后，我的部分部署过程将所需的运行时复制到应用程序文件夹。对于我的 RPI/ASUS PE100 应用程序，它是 "TheFolderApplicationisPublishedTo">runtimes>linux-aarch64>native>libonnxruntime.so

【解决方案2】：

您是否正在运行 Uno Platform 应用来从 Pi4 中的摄像头模块（或 USB 网络摄像头）捕捉图片并同时运行 ML.Net？

【讨论】：

您好，我们使用的是热像仪，使用 USB 和随附的自定义 sdk