【问题标题】:Persuading the compiler to set registers outside a loop说服编译器在循环外设置寄存器
【发布时间】:2012-11-01 11:51:22
【问题描述】:

首先,我会说我认为没有必要理解下面代码的功能来做出明智的尝试来解决我的问题。这主要是一个优化问题。代码是为了了解正在做什么。

我有以下经过一些优化的卷积主循环(有效):

for(int i=0; i<length-kernel_length; i+=4){

    acc = _mm_setzero_ps();

    for(int k=0; k<KERNEL_LENGTH; k+=4){

        int data_offset = i + k;

        for (int l = 0; l < 4; l++){

            data_block = _mm_load_ps(in_aligned[l] + data_offset);
            prod = _mm_mul_ps(kernel_reverse[k+l], data_block);

            acc = _mm_add_ps(acc, prod);
        }
    }
    _mm_storeu_ps(out+i, acc);

}

KERNEL_LENGTH 是 4。 in_aligned 是输入数组(在其上执行卷积)重复 4 次,每次重复从其他样本向左移动一个样本。这样每个样本都可以在 16 字节对齐的位置上找到。 kernel_reverse 是反向内核,每个样本重复 4 次以填充 4 向量,并声明和定义为:

float kernel_block[4] __attribute__ ((aligned (16)));
__m128 kernel_reverse[KERNEL_LENGTH] __attribute__ ((aligned (16)));    

// Repeat the kernel across the vector
for(int i=0; i<KERNEL_LENGTH; i++){
    kernel_block[0] = kernel[kernel_length - i - 1];
    kernel_block[1] = kernel[kernel_length - i - 1];
    kernel_block[2] = kernel[kernel_length - i - 1];
    kernel_block[3] = kernel[kernel_length - i - 1];

    kernel_reverse[i] = _mm_load_ps(kernel_block);
}

代码也可以正确且快速地计算算法。

我用gcc -std=c99 -Wall -O3 -msse3 -mtune=core2编译代码

我的问题是: 该循环被编译为下面的机器代码。在这个循环中,每次加载内核都花费了大量的指令。内核在循环的每次迭代中都不会改变,因此原则上可以保存在 SSE 寄存器中。据我了解,有足够多的寄存器来轻松存储内核(实际上,机器代码并没有暗示太大的寄存器压力)。

如何说服编译器不要在每个循环中加载内核?

我希望编译器在内核长度设置为常量时自动执行此操作。

    testl   %edx, %edx
    jle .L79
    leaq    (%rcx,%rcx,2), %rsi
    movaps  -144(%rbp), %xmm6
    xorps   %xmm2, %xmm2
    leal    -1(%rdx), %ecx
    movaps  -128(%rbp), %xmm5
    xorl    %eax, %eax
    movaps  -112(%rbp), %xmm4
    leaq    0(%r13,%rsi,4), %rsi
    shrl    $2, %ecx
    addq    $1, %rcx
    movaps  -96(%rbp), %xmm3
    salq    $4, %rcx
    .p2align 4,,10
    .p2align 3
.L80:
    movaps  0(%r13,%rax), %xmm0
    movaps  (%r14,%rax), %xmm1
    mulps   %xmm6, %xmm0
    mulps   %xmm5, %xmm1
    addps   %xmm2, %xmm0
    addps   %xmm1, %xmm0
    movaps  (%r9,%rax), %xmm1
    mulps   %xmm4, %xmm1
    addps   %xmm1, %xmm0
    movaps  (%rsi,%rax), %xmm1
    mulps   %xmm3, %xmm1
    addps   %xmm1, %xmm0
    movups  %xmm0, (%rbx,%rax)
    addq    $16, %rax
    cmpq    %rcx, %rax
    jne .L80
.L79:

编辑:完整代码清单如下:

#define KERNEL_LENGTH 4
int convolve_sse_in_aligned_fixed_kernel(float* in, float* out, int length,
        float* kernel, int kernel_length)
{
    float kernel_block[4] __attribute__ ((aligned (16)));
    float in_aligned[4][length] __attribute__ ((aligned (16)));

    __m128 kernel_reverse[KERNEL_LENGTH] __attribute__ ((aligned (16)));    
    __m128 data_block __attribute__ ((aligned (16)));

    __m128 prod __attribute__ ((aligned (16)));
    __m128 acc __attribute__ ((aligned (16)));

    // Repeat the kernel across the vector
    for(int i=0; i<KERNEL_LENGTH; i++){
        int index = kernel_length - i - 1;
        kernel_block[0] = kernel[index];
        kernel_block[1] = kernel[index];
        kernel_block[2] = kernel[index];
        kernel_block[3] = kernel[index];

        kernel_reverse[i] = _mm_load_ps(kernel_block);
    }

    /* Create a set of 4 aligned arrays
     * Each array is offset by one sample from the one before
     */
    for(int i=0; i<4; i++){
        memcpy(in_aligned[i], (in+i), (length-i)*sizeof(float));
    }

    for(int i=0; i<length-kernel_length; i+=4){

        acc = _mm_setzero_ps();

        for(int k=0; k<KERNEL_LENGTH; k+=4){

            int data_offset = i + k;

            for (int l = 0; l < 4; l++){

                data_block = _mm_load_ps(in_aligned[l] + data_offset);
                prod = _mm_mul_ps(kernel_reverse[k+l], data_block);

                acc = _mm_add_ps(acc, prod);
            }
        }
        _mm_storeu_ps(out+i, acc);

    }

    // Need to do the last value as a special case
    int i = length - kernel_length;
    out[i] = 0.0;
    for(int k=0; k<kernel_length; k++){
        out[i] += in_aligned[0][i+k] * kernel[kernel_length - k - 1];
    }

    return 0;
}

【问题讨论】:

  • 我发现gcc -S的输出比反汇编目标文件的可读性略高。
  • 由于i不是常数,我会通过预先计算数组索引,在循环开始时设置int index = kernel_length - i - 1;,然后写kernel_block[0] = kernel[index];等等来进行实验。
  • 根据@PascalCuoq cmets,我已更改为使用gcc -S 的输出。现在这向我表明循环 正在 执行我的建议。我真的很感谢有人理智地检查这个断言。

标签: c optimization assembly compiler-optimization micro-optimization


【解决方案1】:

答案是,它正在做我想做的事。问题似乎在于我无法阅读objdump -d 的输出。在修改问题以使用@PascalCuoq 建议的gcc -S 的输出时,循环明显更容易理解。

我留下了这个问题,因为有人可能会重视这一点! (实际上是代码)。

【讨论】:

    猜你喜欢
    • 2021-07-07
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2015-08-11
    • 1970-01-01
    • 2021-04-15
    • 1970-01-01
    相关资源
    最近更新 更多