AVX，SSE 总和比 gcc 自动矢量化慢

Question

我遇到了一个奇怪的现象，无法真正解释。我正在尝试编写一些数字代码，从而对一些实现进行基准测试。我只是想用 SSE 和 AVX 以及 gcc 自动矢量化来对一些矢量添加进行基准测试。为了测试这一点，我使用并修改了下面的代码。

代码：

#include <iostream>
#include <immintrin.h>

#include "../../time/timer.hpp"


void ser(double* a, double* b, double* res, int size){
 for(int i(0); i < size; i++ )
 {
    res[i] = a[i] + b[i];
 }
}

void sse(double* a, double* b, double* res, int size){
 for (int i(0); i < (size & ~0x1); i += 2 )
 {
    const __m128d kA2   = _mm_load_pd( &a[i] );
    const __m128d kB2   = _mm_load_pd( &b[i] );
    const __m128d kRes = _mm_add_pd( kA2, kB2 );
    _mm_store_pd( &res[i], kRes );
 }
}

void avx(double* a, double* b, double* res, int size){
for (int i(0); i < (size & ~0x3); i += 4 )
 {
    const __m256d kA4   = _mm256_load_pd( &a[i] );
    const __m256d kB4   = _mm256_load_pd( &b[i] );
    const __m256d kRes = _mm256_add_pd( kA4, kB4 );
    _mm256_store_pd( &res[i], kRes );
 }
}


#define N 1e7*64

int main(int argc, char const *argv[])
{ 


 double* a = (double*)_mm_malloc(N*sizeof(double), 64);
 double* b = (double*)_mm_malloc(N*sizeof(double), 64);
 double* res = (double*)_mm_malloc(N*sizeof(double), 64);

 Timer tm;

 tm.start();
 avx(a,b,res,N);
 tm.stop();
 std::cout<<"AVX\t"<<tm.elapsed()<<" ms\t"
          <<1e-6*N/tm.elapsed() <<" GFLOP/s"<<std::endl;

 tm.start();
 sse(a,b,res,N);
 tm.stop();
 std::cout<<"SSE\t"<<tm.elapsed()<<" ms\t"
          <<1e-6*N/tm.elapsed() <<" GFLOP/s"<<std::endl;

 tm.start();
 ser(a,b,res,N);
 tm.stop();
 std::cout<<"SER\t"<<tm.elapsed()<<" ms\t"
          <<1e-6*N/tm.elapsed() <<" GFLOP/s"<<std::endl;
 return 0;
}

对于时间和计算的 GFLOP/S，我得到：

./test3
AVX 1892 ms 0.338266 GFLOP/s
SSE 408  ms 1.56863 GFLOP/s
SER 396  ms 1.61616 GFLOP/s

与我的 i5 6600K 大约 170 GFLOP/s 的 peak performance 相比，这显然非常慢。

我在这里遗漏了什么重要的东西吗？我知道在 CPU 上添加向量并不是最好的主意，但这些结果真的很糟糕。感谢您提供任何线索。

Answer 1

您的应用程序可能受内存限制而不是 CPU 限制。换句话说，内存带宽是瓶颈，所以向量化在这里没有多大帮助。

Answer 2

它很可能与分支预测有关（阅读Why is it faster to process a sorted array than an unsorted array? 以获得更详细的解释）。在我的 i5-4200U 上，当按 AVX、SSE、SER 的顺序处理 100000000 双倍时，我得到了这个。

AVX 807 ms 0.123916 GFLOP/s SSE 215 ms 0.465116 GFLOP/s SER 287 ms 0.348432 GFLOP/s

但如果我将其更改为 SER、AVX、SSE，我会得到这个

SER 753 ms 0.132802 GFLOP/s AVX 225 ms 0.444444 GFLOP/s SSE 196 ms 0.510204 GFLOP/s

我不知道为什么它离你的 CPU 的峰值性能这么远。