如果 C 是行优先顺序，为什么 ARM 内部代码假定列优先顺序？

Question

我不确定在哪里问这个问题的最佳地点，但我目前正在使用 ARM 内部函数并遵循本指南：https://developer.arm.com/documentation/102467/0100/Matrix-multiplication-example

但是，那里的代码是假设数组以列优先顺序存储的。我一直认为 C 数组是按行存储的。他们为什么这么认为？

编辑： 例如，如果不是这样：

void matrix_multiply_c(float32_t *A, float32_t *B, float32_t *C, uint32_t n, uint32_t m, uint32_t k) {
    for (int i_idx=0; i_idx < n; i_idx++) {
        for (int j_idx=0; j_idx < m; j_idx++) {
            for (int k_idx=0; k_idx < k; k_idx++) {
                C[n*j_idx + i_idx] += A[n*k_idx + i_idx]*B[k*j_idx + k_idx];
            }
        }
    }
}

他们这样做了：

void matrix_multiply_c(float32_t *A, float32_t *B, float32_t *C, uint32_t n, uint32_t m, uint32_t k) {
    for (int i_idx=0; i_idx < n; i_idx++) {
        for (int k_idx=0; k_idx < k; k_idx++) {
            for (int j_idx=0; j_idx < m; j_idx++) {
                C[n*j_idx + i_idx] += A[n*k_idx + i_idx]*B[k*j_idx + k_idx];
            }
        }
    }
}

由于按 C[0]、C[1]、C[2]、C[3] 的顺序访问 C 的空间局部性，而不是按 C[0]、C[2 的顺序访问 C，代码将运行得更快]、C[1]、C[3]（其中 C[0]、C[1]、C[2]、C[3] 在内存中是连续的）。

Answer 1

您没有使用像 C[i][j] 这样的 C 2D 数组，所以这不是 C 如何存储任何内容的问题，而是如何在这段代码中使用 n * idx_1 + idx_2 手动完成 2D 索引，可以选择在内部循环和外部循环中循环。

但是两个矩阵都未转置的 matmul 的难点在于，您需要为两个输入矩阵做出相反的选择： 天真的 matmul 必须跨越其中一个矩阵的遥远元素输入矩阵，所以它本质上是错误的。这就是为什么仔细的缓存阻塞/循环平铺对于矩阵乘法很重要的一个主要部分。 （O(n^3) 对 O(n^2) 数据进行处理 - 每次将其放入 L1d 缓存和/或寄存器时，您都希望充分利用它。）

循环交换可以加快速度，以利用最内层循环中的空间局部性，如果你做得对的话。

请参阅What Every Programmer Should Know About Memory? 中的缓存阻塞 matmul 示例，该示例遍历内部几个循环中所有 3 个输入中的连续内存，选择未在 3 个矩阵中的任何一个中缩放的索引作为内部矩阵。看起来像这样：

  for (j_idx)
    for (k_idx)
      for (i_idx)
          C[n*j_idx + i_idx] += A[n*k_idx + i_idx]*B[k*j_idx + k_idx];

请注意，B[k * j_idx + k_idx] 在循环内部循环上是不变的，并且您正在对连续内存进行简单的dst[0..n] += const * src[0..n] 操作（这很容易进行 SIMD 矢量化），尽管您仍在执行 2 次加载 + 1为每个 FMA 存储，所以这不会最大化您的 FP 吞吐量。

与缓存访问模式分开，这也避免了长依赖链到单个累加器（C 的元素）。但这对于优化的实现来说并不是真正的问题：您当然可以使用多个累加器。由于舍入误差，FP 数学不是严格关联的，但多个累加器是 closer to pairwise summation 并且可能比连续添加行 x 列点积的每个元素具有更小的 FP 舍入误差。 按标准简单 C 循环的顺序添加会有不同的结果，但通常更接近准确的答案。

---

您建议的循环顺序 i,k,j 是最差的。

您正在通过内部循环中 3 个矩阵中的 2 个的遥远元素，包括对 C[] 的不连续访问，这与您在上一段中所说的相反。

使用j 作为最内层循环，您将在第一次外部迭代中访问C[0]、C[n]、C[2n] 等。 B[] 也是如此，这真的很糟糕。

交换 i 和 j 循环将使您可以在中间循环中连续访问 C[]，而不是在最里面的循环。所以这将是一个严格的改进：是的，你是对的，这个天真的例子比它需要的更糟糕。

但关键问题是对 inner 循环中某些内容的跨步访问：这是性能灾难；这就是为什么仔细的缓存阻塞/循环平铺对于矩阵乘法很重要的一个主要部分。唯一从未与比例因子一起使用的索引是i。

Answer 2

C 本质上不是行优先或列优先。

在编写a[i][j] 时，由您决定i 是行索引还是列索引。

虽然首先编写行索引（使数组以行为主）是一种常见的约定，但没有什么能阻止您做相反的事情。

另外，请记住A × B = C 等价于Bt × At = Ct（t 表示转置矩阵），并且读取行优先矩阵就像它是列优先（反之亦然）转置它，这意味着如果你想保持你的矩阵行优先，你可以颠倒操作数的顺序。