如何在媒体基础中有自定义视频媒体/流接收器请求 RGB32 帧？

Question

我正在尝试为 OpenGL 应用程序中的视频播放制作一个自定义媒体接收器（没有各种 WGL_NV_DX_INTEROP，因为我不确定我的所有目标设备是否都支持这个）。

到目前为止，我所做的是编写一个自定义流接收器，它接受 RGB32 样本并使用媒体会话设置播放，但是我在播放 mp4 文件的初始测试时遇到了问题：

• 生成的拓扑中的一个（或多个）MFT不断失败，并出现错误代码MF_E_TRANSFORM_NEED_MORE_INPUT，因此我的流接收器从不接收样本
• 请求了几个样本后，媒体会话收到事件 MF_E_ATTRIBUTENOTFOUND，但我仍然不知道它来自哪里

但是，如果我将流接收器配置为接收 NV12 样本，那么一切似乎都可以正常工作。

我的最佳猜测是 TopologyLoader 生成的颜色转换器 MFT 需要更多配置，但考虑到我需要保持整个过程与原始文件类型无关，我不知道该怎么做。

Answer 1

我制作了一个最小的测试用例，演示了自定义视频渲染器与经典媒体会话的使用。

我使用 big_buck_bunny_720p_50mb.mp4，使用 RGB32 格式没有发现任何问题。

此处的示例代码：https://github.com/mofo7777/Stackoverflow 在 MinimalSinkRenderer 下。

编辑

您的程序适用于 big_buck_bunny_720p_50mb.mp4。我认为您的 mp4 文件是问题所在。如果可以，请分享。

我只是做了一些更改：

您在 MESessionEnded 上停止，并在 MESessionStopped 上关闭。

case MediaEventType.MESessionEnded:
    Debug.WriteLine("MediaSession:SesssionEndedEvent");
    hr = mediaSession.Stop();
    break;
case MediaEventType.MESessionClosed:
    Debug.WriteLine("MediaSession:SessionClosedEvent");
    receiveSessionEvent = false;
    break;
case MediaEventType.MESessionStopped:
    Debug.WriteLine("MediaSession:SesssionStoppedEvent");
    hr = mediaSession.Close();
    break;
default:
    Debug.WriteLine("MediaSession:Event: " + eventType);
    break;

添加这个等待声音，然后检查样本就可以了：

internal HResult ProcessSample(IMFSample s)
{
    //Debug.WriteLine("Received sample!");

    CurrentFrame++;

    if (s != null)
    {
        long llSampleTime = 0;
        HResult hr = s.GetSampleTime(out llSampleTime);

        if (hr == HResult.S_OK && ((CurrentFrame % 50) == 0))
        {
            TimeSpan ts = TimeSpan.FromMilliseconds(llSampleTime / (10000000 / 1000));
            Debug.WriteLine("Frame {0} : {1}", CurrentFrame.ToString(), ts.ToString());
        }

        // Do not call SafeRelease here, it is done by the caller, it is a parameter
        //SafeRelease(s);
    }

    System.Threading.Thread.Sleep(26);

    return HResult.S_OK;
}

在

public HResult SetPresentationClock(IMFPresentationClock pPresentationClock)

添加

SafeRelease(PresentationClock);

之前

if (pPresentationClock != null)
    PresentationClock = pPresentationClock;