为什么我在 C 中的向量乘法程序这么慢？ [复制]

Question

我试图找到在 C 中乘以两个 2dim 数组（单精度）的最有效方法，并从天真的想法开始，通过遵循算术规则来实现它：

for (i = 0; i < n; i++) {
sum += a[i] * b[i]; }

它有效，但可能不是地球上最快的例程。切换到指针算法并做一些循环展开速度得到了提高。但是，当应用 SIMD 时，速度又下降了。
更准确地说：在 Intel Core i5-4690, 3.5 GHz 上使用 -O3 在 Intel oneAPI 上编译我看到以下结果：

• 天真的实施：大约。 800 MFlop/s
• 使用指针 - 循环展开：高达 5 GFlop/s
• 应用 SIMD：3,5 - 5 GFlop/s

速度当然会随着向量的大小和不同的测试运行而变化，因此上面的数字更具指示性，但仍然提出了为什么 SIMD 例程没有显着推动的问题：

float hsum_float_avx(float *pt_a, float *pt_b) {
__m256 AVX2_vect1, AVX2_vect2, res_mult, hsum;
float sumAVX;

// load unaligned memory into two vectors

AVX2_vect1 = _mm256_loadu_ps(pt_a);
AVX2_vect2 = _mm256_loadu_ps(pt_b);

// multiply the two vectors

res_mult = _mm256_mul_ps(AVX2_vect1, AVX2_vect2);

// calculate horizontal sum of resulting vector

hsum = _mm256_hadd_ps(res_mult, res_mult);
hsum = _mm256_add_ps(hsum, _mm256_permute2f128_ps(hsum, hsum, 0x1));

// store result

_mm_store_ss(&sumAVX, _mm_hadd_ps(_mm256_castps256_ps128(hsum), _mm256_castps256_ps128(hsum)));

return sumAVX; }

一定有什么问题，但我找不到 - 因此任何提示都将受到高度赞赏。

Answer 1

如果您的编译器支持 OpenMP 4.0 或更高版本，我会使用它来请求编译器对原始循环进行矢量化（如果使用足够高的优化级别，它可能已经这样做了；但是 OpenMP 可以让您给出有关事情的提示如对齐等以改善结果）。与 AVX 内在函数相比，它的优势在于它可以在 ARM 等其他架构或其他 x86 SIMD 指令集（假设你告诉编译器以它们为目标）上工作，只需简单的重新编译，而不必重写你的代码：

float sum = 0.0f;
#pragma omp simd reduction(+:sum) 
for (i = 0; i < n; i++) {
    sum += a[i] * b[i];
}