Android 将屏幕捕获到 ImageReader 的表面

Question

我目前正在学习一个github项目ScreenCapture的代码，它可以捕获屏幕并在surfaceview中显示图像，这里是项目https://github.com/Charlesjean/android-ScreenCapture。我尝试使用以下代码将 SurfaceView 的表面替换为 ImageReader 对象的表面：

 mImgReader = ImageReader.newInstance(mWidth, mHeight, ImageFormat.JPEG, 5);
    mSurface = mImgReader.getSurface();// mSurfaceView.getHolder().getSurface();
    mImgReader.setOnImageAvailableListener(new ImageReader.OnImageAvailableListener() {
        @Override
        public void onImageAvailable(ImageReader reader) {
            Log.i(TAG, "in OnImageAvailable");

        }
    }, mHandler);

并像这样创建 VirtualDisplay：

mVirtualDisplay = mMediaProjection.createVirtualDisplay("ScreenCapture",
              mWidth, mHeight, mScreenDensity,
              DisplayManager.VIRTUAL_DISPLAY_FLAG_OWN_CONTENT_ONLY |
                      DisplayManager.VIRTUAL_DISPLAY_FLAG_PUBLIC,
              mSurface, new VirtualDisplay.Callback() {
                  @Override
                  public void onResumed() {
                      Log.i(TAG, "onResumed");
                      super.onResumed();
                  }

                  @Override
                  public void onPaused() {
                      Log.i(TAG, "onPaused");
                      super.onPaused();
                  }
              }, mHandler);

但是onImageAvailable 方法从未被调用过，有没有人有这方面的经验？我不明白为什么这不起作用。

Answer 1

感谢 Simon，我通过将图像格式更改为 PixelFormat.RGBA_8888 解决了这个问题，但是当您执行我所做的操作时，您还需要注意其他一些问题，我将其发布在这里以防它对未来。

Image.Plane的数据缓冲区与Bitmap所需的数据缓冲区并不完全相同：
1.我们创建ImageReader的图像格式是PixelFormat.RGBA_8888，所以Image的缓冲区。平面将首先放置 R(ed) 通道，然后是 G(reen) 通道，依此类推。为了将此缓冲区转换为位图，我们需要像这样创建位图
bitmap = Bitmap.createBitmap(metrics,width, height, Bitmap.Config.ARGB_8888);
并且位图的缓冲区需要将Alpha通道放在第一位。
2.我们从Image.Plane得到的缓冲区每行都有一些填充，我个人认为这是硬件设备用来加速缓冲区操作或对齐的。所以为了复制这个缓冲区，我们需要删除这些填充。

要理解这两点，请看代码一击：

 public void onImageAvailable(ImageReader reader) {
            Log.i(TAG, "in OnImageAvailable");
            FileOutputStream fos = null;
            Bitmap bitmap = null;
            Image img = null;
            try {
                img = reader.acquireLatestImage();
                if (img != null) {
                    Image.Plane[] planes = img.getPlanes();
                    if (planes[0].getBuffer() == null) {
                        return;
                    }
                    int width = img.getWidth();
                    int height = img.getHeight();
                    int pixelStride = planes[0].getPixelStride();
                    int rowStride = planes[0].getRowStride();
                    int rowPadding = rowStride - pixelStride * width;
                    byte[] newData = new byte[width * height * 4];

                    int offset = 0;
                    bitmap = Bitmap.createBitmap(metrics,width, height, Bitmap.Config.ARGB_8888);
                    ByteBuffer buffer = planes[0].getBuffer();
                    for (int i = 0; i < height; ++i) {
                        for (int j = 0; j < width; ++j) {
                            int pixel = 0;
                            pixel |= (buffer.get(offset) & 0xff) << 16;     // R
                            pixel |= (buffer.get(offset + 1) & 0xff) << 8;  // G
                            pixel |= (buffer.get(offset + 2) & 0xff);       // B
                            pixel |= (buffer.get(offset + 3) & 0xff) << 24; // A
                            bitmap.setPixel(j, i, pixel);
                            offset += pixelStride;
                        }
                        offset += rowPadding;
                    }
                    String name = "/myscreen" + count + ".png";
                    count++;
                    File file = new File(Environment.getExternalStorageDirectory(), name);
                    fos = new FileOutputStream(file);
                    bitmap.compress(Bitmap.CompressFormat.JPEG, 100, fos);
                    Log.i(TAG, "image saved in" + Environment.getExternalStorageDirectory() + name);
                    img.close();
                }

            } catch (Exception e) {
                e.printStackTrace();
            } finally {
                if (null != fos) {
                    try {
                        fos.close();
                    } catch (IOException e) {
                        e.printStackTrace();
                    }
                }
                if (null != bitmap) {
                    bitmap.recycle();
                }
                if (null != img) {
                    img.close();
                }

            }
        }

Answer 2

private void createCameraPreviewSession() {
    mPreviewRequestBuilder.addTarget(mImageReader.getSurface());
    mCameraDevice.createCaptureSession(Arrays.asList(surface,mImageReader.getSurface()),
    new CameraCaptureSession.StateCallback() {}
}