为 GPU 读取和存储大型矩阵文件

Question

目标：在内存中存储一​​个大型矩阵（Radon 矩阵），并将其传输到 GPU 内存中以进行大规模并行操作。

问题：可怕的阅读时间，以及空间的潜在次优使用（但不限制程序的使用）

我可以在 C 或 C++ 中执行此操作。

我收到的文件解析如下：

0.70316,0.71267,0.72221,0.73177,0.74135,0.75094,0.76053,0.77011,0.77967,0.7892,0.79868,0.80811,0.81747

这至少持续 50MB。

我的幼稚实现：

float ** Radon;
Radon = (float **)malloc(HeightxNproj * sizeof(float *));

for (int i = 0; i < Hauteur * Nproj; i++)
    Radon[i] = (float *)malloc(WidthSquared * sizeof(float));

FILE *radonFile;

radonFile = fopen("radon.txt", "r");

if (radonFile == NULL)
{
    printf("Radon file opening failed.");
    return -1;
}

for (int i = 0; i < HeightxNproj; i++) 
{
    for (int j = 0; j < WidthSquared; j++)
    {
        fscanf(radonFile, "%f,", &Radon[i][j]);
    }
}

fclose(radonFile);
printf("Radon loaded.");

我正在为 Windows 编程。我读过一些关于文件内存映射的内容，但我不知道这种实际上并未将矩阵存储在内存中的方法是否与 GPGPU 编程兼容。我正在使用 CUDA，我必须将此矩阵传递到 GPU 内存以进行并行操作。

这种文件读取方法执行得非常糟糕，读取和解析 50MB 文件大约需要一分钟。有没有办法缩短阅读和解析时间？矩阵也是稀疏矩阵，有没有常用的处理方法？

Answer 1

文件的单独访问越多，您损失的性能就越多。您应该采取的第一步是估计需要从文件中读取的信息数量并一次性读取。它将大大提高你的表现。您可以使用内存映射文件。

这至少持续 50MB。

这还不算多。

我收到的文件解析如下： 0.70316,0.71267,0.72221,0.73177,0.74135,0.75094,0.76053,0.77011,0.77967,0.7892,0.79868,0.80811,0.81747

• 以二进制形式保存它可以节省大约一半的内存（甚至更多）。这也将提高阅读速度。
• 一次读取整个文件。

一个例子会让你意识到你的方法是多么幼稚和缓慢：

有一次我正在实现读取.obj 3d 模型的算法。该模型大约为 10 MB，加载大约需要 1-2 分钟。这很奇怪，因为 Blender 可以立即加载它——可能需要 1 或 2 秒。将整个文件映射到内存并预先分配缓冲区使我能够在不到 5 秒的时间内加载文件。

注意：

我可以在 C 或 C++ 中执行此操作，都可以。

在内存管理方面，切勿将 C 与 C++ 混为一谈，除非您确定自己在做什么。如果您不使用 RAII 保护 C 动态分配的内存，C++ 异常可能会导致大量内存泄漏。