如何在 Android 手机 GPU 上运行 TFLite 网络？答案

【问题标题】：How to run TFLite network on Android phone GPU?如何在 Android 手机 GPU 上运行 TFLite 网络？
【发布时间】：2020-06-22 09:23:40
【问题描述】：

我使用了关于对象检测的 tensorflow 示例教程，它可以工作，但是当我尝试添加 GpuDelegate 时它会中断：

try {
  GpuDelegate delegate = new GpuDelegate();
  Interpreter.Options options = (new Interpreter.Options()).addDelegate(delegate);
  d.tfLite = new Interpreter(loadModelFile(assetManager, modelFilename),options);
} catch (Exception e) {
  throw new RuntimeException(e);
}

出现错误cannot find symbol class GpuDelegate

我对 Java 和 Android 还很陌生，我猜这与导入有关吗？所以这是我的导入：

package org.tensorflow.lite.examples.detection.tflite;

import android.content.res.AssetFileDescriptor;
import android.content.res.AssetManager;
import android.graphics.Bitmap;
import android.graphics.RectF;
import android.os.Trace;
import java.io.BufferedReader;
import java.io.FileInputStream;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.nio.ByteBuffer;
import java.nio.ByteOrder;
import java.nio.MappedByteBuffer;
import java.nio.channels.FileChannel;
import java.util.ArrayList;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.Vector;
import org.tensorflow.lite.Interpreter;
import org.tensorflow.lite.examples.detection.env.Logger;

在org.tensorflow.lite 中没有GpuDelegate

我能否获得有关如何解决此问题的说明？

编辑：这是 build.gradle(:app) 中的依赖项

dependencies {
    implementation fileTree(dir: 'libs', include: ['*.jar','*.aar'])
    implementation 'androidx.appcompat:appcompat:1.0.0'
    implementation 'androidx.coordinatorlayout:coordinatorlayout:1.0.0'
    implementation 'com.google.android.material:material:1.0.0'
    implementation('org.tensorflow:tensorflow-lite:0.0.0-nightly') { changing = true }
    androidTestImplementation 'androidx.test.ext:junit:1.1.1'
    androidTestImplementation 'com.android.support.test:rules:1.0.2'
    androidTestImplementation 'com.google.truth:truth:1.0.1'
}

【问题讨论】：

你在 tf-lite 的 build.gradle 文件中使用了哪些依赖项？

标签： android tensorflow tensorflow-lite

【解决方案1】：

要使用 GpuDelegate 类，您必须在 app build.gradle 文件中导入这些依赖项：

dependencies {
...
implementation 'org.tensorflow:tensorflow-lite:0.0.0-nightly'
implementation 'org.tensorflow:tensorflow-lite-gpu:0.0.0-nightly'
}

【讨论】：