【问题标题】:How to improve FPS and overcome memory bandwidth by random access on textures?如何通过对纹理的随机访问来提高 FPS 并克服内存带宽?
【发布时间】:2016-09-27 03:09:54
【问题描述】:

在我的虚拟现实程序中,我受到内存带宽的严重限制:

#version 320 es
precision lowp float;

const int n_pool = 30;

layout(local_size_x = 8, local_size_y = 16, local_size_z = 1) in;
layout(rgba8, binding = 0) writeonly uniform lowp image2D image;
layout(rgba8, binding = 1) readonly uniform lowp image2DArray pool;

uniform mat3 RT[n_pool]; // <- this is a rotation-translation matrix

void main() {
    uint u = gl_GlobalInvocationID.y;
    uint v = gl_GlobalInvocationID.x;
    vec4 Ir = imageLoad(pool, ivec3(u,v,29));
    float cost = 1.0/0.0;

    for (int j = 0; j < 16; j++) {
        float C = 0.0;
            for (int i = 0; i < n_pool; i++) {
                vec3 w = RT[i]*vec3(u,v,j);
                C += length(imageLoad(pool, ivec3(w[0],w[1],i)) - Ir);
            }
        }
        cost = C < cost ? C : cost;
    }
    imageStore(image, ivec2(u,v), vec4(cost, cost, cost, 1.0));
}

您可以看到我在TEXTURE_2D_ARRAY 上有很多随机访问(宽度 = 320,高度 = 240,层数 = 30)。但是,访问不是那么随机的,因为它会在 u,v 附近。

以下是我的想法:

  • 另一种纹理格式,而不是 rgba-floats(可能是 rgba-unsigned byte?)。
  • 共享内存太小,无法存储一张灰度图像。
  • 更改循环顺序。奇怪的是,这种排序更快,尽管另一个应该有更好的缓存行为。
  • 调整工作组的大小以更好地适应纹理。
  • 使用压缩图像(不太可能提高性能的场景)。不过理论上,这应该有助于提高带宽。

你有什么想法?

【问题讨论】:

  • 您实际上是在进行 30 * 16 次纹理查找。我想知道在 OpenGLES 设备上读取如此重的纹理的目的是什么。除非您提供有关代码用途的更多信息,否则优化有点棘手。
  • 您可以蛮力优化场景的深度图(此处为 16 个离散深度值)。通过从一帧到另一帧进行一些矩阵转换,您可以匹配来自后续帧的像素(假设您的深度值是正确的)。查看修改后的版本。
  • “brute force”和“optimize”这个词很少出现在同一个句子中。你的纹理格式 RGBA F32 是什么?
  • ...另外,你在什么 GPU 上运行?
  • 称之为穷举搜索或蛮力搜索...相同的东西,不同的名称

标签: opengl-es textures shader compute-shader


【解决方案1】:

您是否有任何实际数据表明您遇到的问题是纹理 带宽,或者这只是一个假设?

我可以看到许多问题,这意味着这实际上可能不是您的问题。例如:

vec3 w = RT[i]*vec3(u,v,j);

...您的内部循环中有一个 mat3 数组加载,所以在我知道的大多数架构上,您可能是统一的获取绑定,而不是纹理绑定。这应该很好地缓存在 GPU 数据缓存中,但可能仍会在每次循环迭代时重新获取,这闻起来比单个 imageLoad() 贵得多,除非您的纹理格式非常宽...

如果您使用 fp16 或 fp32 RGBA 纹理输入,那么更窄的 8 位 unorm 格式总是会更快(fp32 特别昂贵)。

以下:

cost = C < cost ? C : cost;

...在代码生成方面,使用min() 内置函数可能更可靠。

【讨论】:

  • 在大多数 CPU(我认为是 GPU)上,A = B &lt; C ? E : F 是一条指令,因此速度非常快。剩下的我认为你是对的,看看我的第三次更新。通过在循环之前预先计算一些矩阵,我可以观察到疯狂的性能提升。
  • 是的,大多数编译器会将其转换为一条指令,但 ESSL 有一个内置函数库,它几乎可以保证速度很快(并使代码更具可读性),所以为什么不使用它...
  • 我做到了。 (只是为了可读性)。似乎在 OpenGL 中对 GPU 的优化是很多尝试和错误......经过验证的模式并不总是适用
【解决方案2】:

更新 1

  • 从传统的像素管道转移到计算着色器带来了 3 倍的加速

更新 2

  • 使用压缩格式可提高 5% FPS

更新 3

  • 在这个简化版本中,我没有表明我确实在运行中创建了许多临时向量(在外循环和内循环中)。通过在循环中删除 mat3/vec4/vec3 创建带来了 2 倍的加速。非常令我惊讶的是,在循环中创建向量是如此昂贵。

现在我已经深入实时并实现了我的目标......

【讨论】:

  • 在该循环的上下文中创建向量的成本很高,因为循环太短了。纹理访问可能是单周期,因此即使是一个额外的开销周期(例如,将i 移动到正确的向量寄存器位置)也可能会使代码路径长度加倍
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2019-05-17
  • 1970-01-01
  • 2012-03-15
  • 1970-01-01
  • 1970-01-01
  • 2020-11-10
  • 1970-01-01
相关资源
最近更新 更多