【问题标题】:GCC optimizing _mm256_setzero_si256 away?GCC 优化 _mm256_setzero_si256 了?
【发布时间】:2022-01-15 16:15:39
【问题描述】:

考虑以下 C 程序。

#include <immintrin.h>
#include <stdio.h>
#include <stdlib.h>

static void do_stuff(void)
{
    const int n = 256;
    int *ar = malloc(n * sizeof(int));
    for (int i = 0; i < n; i++)
        ar[i] = random();
}

int main(void)
{
    do_stuff();

    __m256i sm = _mm256_setzero_si256();
    int sum = 0;
    int *vcadd = (int*)&sm;
    for (size_t l = 0; l < 8; l++)
        sum += vcadd[l];
    printf("sum = %d\n", sum);

    return 0;
}

我希望这个程序打印sum = 0,但是当我用gcc -mavx2 src.c -O2 编译它时,它有时会打印sum = 0,有时会打印sum = 18。

使用-O1 或-O0 编译时,程序按预期运行。它也似乎与-O2 和do_stuff(); 调用一起工作正常。

为main 和-O1 生成的程序集(+ 来自我认为指令的作用):

main:
.LFB5513:
    .cfi_startproc
    endbr64
    pushq   %rbp
    .cfi_def_cfa_offset 16
    .cfi_offset 6, -16
    movq    %rsp, %rbp
    .cfi_def_cfa_register 6
    pushq   %r12
    pushq   %rbx
    andq    $-32, %rsp
    subq    $64, %rsp
    .cfi_offset 12, -24
    .cfi_offset 3, -32
    movq    %fs:40, %rax
    movq    %rax, 56(%rsp)
    xorl    %eax, %eax
    movl    $1024, %edi
    call    malloc@PLT
    movq    %rax, %rbx
    leaq    1024(%rax), %r12
.L2:
    call    random@PLT
    movl    %eax, (%rbx)
    addq    $4, %rbx
    cmpq    %r12, %rbx
    jne .L2
    vpxor   %xmm0, %xmm0, %xmm0 ; zero out %ymm0
    vmovdqa %ymm0, (%rsp)       ; store these zeros at %rsp
    movq    %rsp, %rax          ; add up the 8 ints stored at %rsp,..., %rsp + 32 (upper bound exclusive)
    leaq    32(%rsp), %rcx      ; ^
    movl    $0, %edx            ; ^
.L3:                            ; ^
    addl    (%rax), %edx        ; ^
    addq    $4, %rax            ; ^
    cmpq    %rcx, %rax          ; ^
    jne .L3                     ; ^
    leaq    .LC0(%rip), %rsi
    movl    $1, %edi
    movl    $0, %eax
    call    __printf_chk@PLT
    movq    56(%rsp), %rax
    subq    %fs:40, %rax
    jne .L8
    movl    $0, %eax
    leaq    -16(%rbp), %rsp
    popq    %rbx
    popq    %r12
    popq    %rbp
    .cfi_remember_state
    .cfi_def_cfa 7, 8
    ret
.L8:
    .cfi_restore_state
    call    __stack_chk_fail@PLT
    .cfi_endproc

和-O2:

main:
.LFB5513:
    .cfi_startproc
    endbr64
    pushq   %rbp
    .cfi_def_cfa_offset 16
    .cfi_offset 6, -16
    movl    $1024, %edi
    movq    %rsp, %rbp
    .cfi_def_cfa_register 6
    pushq   %r12
    pushq   %rbx
    andq    $-32, %rsp
    subq    $64, %rsp
    .cfi_offset 12, -24
    .cfi_offset 3, -32
    movq    %fs:40, %rax
    movq    %rax, 56(%rsp)
    xorl    %eax, %eax
    call    malloc@PLT
    movq    %rax, %rbx
    leaq    1024(%rax), %r12
    .p2align 4,,10
    .p2align 3
.L2:
    call    random@PLT
    addq    $4, %rbx
    movl    %eax, -4(%rbx)
    cmpq    %r12, %rbx
    jne .L2
    movq    %rsp, %rax      ; just add up %rsp,..., %rsp + 32 without setting that memory to zero
    leaq    32(%rsp), %rcx  ; ^
    xorl    %edx, %edx      ; ^
    .p2align 4,,10          ; ^
    .p2align 3              ; ^
.L3:                        ; ^
    addl    (%rax), %edx    ; ^
    addq    $4, %rax        ; ^
    cmpq    %rcx, %rax      ; ^
    jne .L3                 ; ^
    xorl    %eax, %eax
    leaq    .LC0(%rip), %rsi
    movl    $1, %edi
    call    __printf_chk@PLT
    movq    56(%rsp), %rax
    subq    %fs:40, %rax
    jne .L9
    leaq    -16(%rbp), %rsp
    xorl    %eax, %eax
    popq    %rbx
    popq    %r12
    popq    %rbp
    .cfi_remember_state
    .cfi_def_cfa 7, 8
    ret
.L9:
    .cfi_restore_state
    call    __stack_chk_fail@PLT
    .cfi_endproc

所以我的问题是:为什么编译器可以进行这种优化?输出不应该总是sum = 0吗?

我正在使用

gcc (Ubuntu 11.2.0-7ubuntu2) 11.2.0

基于 cmets 的解决方案

(以下均使用-O2编译)

将memcpy 用作

    __m256i sm = _mm256_setzero_si256();
    int ar[8];
    memcpy(ar, &sm, 32);

复制数据,虽然方式有些复杂 (?)

    vpxor   %xmm0, %xmm0, %xmm0
    leaq    48(%rsp), %rax
    leaq    80(%rsp), %rcx
    xorl    %edx, %edx
    vmovdqa %ymm0, (%rsp)
    vmovdqa 16(%rsp), %xmm2
    vmovdqa %xmm0, 48(%rsp)
    vmovdqa %xmm2, 64(%rsp)

工会

union conv
{
    __m256i val;
    int ar[8];
};
    union conv c;
    c.val = _mm256_setzero_si256();
    // access c.ar

也可以通过生产来工作

    vpxor   %xmm0, %xmm0, %xmm0
    leaq    4(%rsp), %rax
    leaq    32(%rsp), %rsi
    xorl    %ecx, %ecx
    vmovdqa %ymm0, (%rsp)

另一种选择是使用-fno-strict-aliasing 进行编译。在这种情况下,原始代码按我的预期工作。

【问题讨论】:

  • 你违反了 C 严格的别名规则——你有一个 _m256i,你作为 int 访问。编译器有权假设它们没有别名,因此它可以将 sm 的初始化消除为死(没有合法地读取它)。
  • 您违反了严格的别名规则。尝试用-fno-strict-aliasing编译
  • 它适用于-fno-strict-aliasing。如果我不使用-fno-strict-aliasing 编译,我应该使用联合来读取__m256i 中的值还是我该怎么做?
  • 您可以将memcpy 放入int 数组中。我希望编译器会优化 memcpy 并做你想做的事。
  • 您可以使用int 的GNU C 本机向量,因此您可以使用[] 对其进行索引,或者甚至可以使用int* 对其进行别名。 (__m256i 定义为long long 的向量)。或者便携,有一个内在的_mm256_extract_epi32(__m256i, const int index),但这些都不是特别有效。 (特别是如果索引是 4..7,那么它不能用一个 vpextrd r/m32, xmm, imm8 来完成 - 请注意 xmm 源操作数 not ymm。

标签: c compiler-optimization simd intrinsics avx2


【解决方案1】:

如果您在__m256i 变量中有 8 个整数,并且您想要水平求和,那么最好的方法可能是内在函数。

这是一个未经测试的示例:

// Horizontal sum of all 8 lanes in int32 SIMD vector
inline int hadd_epi32( __m256i vec )
{
    // Add 8 lanes into 4
    __m128i r = _mm256_extracti128_si256( vec, 1 );
    r = _mm_add_epi32( r, _mm256_castsi256_si128( vec ) );
    // Add 4 lanes into 2
    r = _mm_add_epi32( r, _mm_unpackhi_epi64( r, r ) );
    // Extract 2 lowest lanes from the vector into scalar registers, return their sum
    const int i1 = _mm_extract_epi32( r, 1 );
    const int i0 = _mm_cvtsi128_si32( r );
    return i1 + i0;
}

【讨论】:

  • Fastest method to calculate sum of all packed 32-bit integers using AVX512 or AVX2 有其他例子。您可能想要做向量的最终总和,或者使用标量 64 位提取。 (movq / mov+shr 或 rorx / add 具有 32 位操作数大小)。您的方式以movd / pextrd / add 结束,在英特尔上是 p0 + p5+p0 + p0156,而 pshufd/padd/movd 在 Skylake 上是 p5 + p015 + p0,而标量提取以 movq 开头为 p0 +(除 IceLake 外已消除)+p06 + p0156。不过,您的方式并不糟糕,并且确实有一些 ILP。
  • @PeterCordes 我认为我发布的代码在现代处理器上节省了一个延迟周期。 vpextrd 和 vmovd 指令没有数据依赖关系,它们将并行运行,因此其中两条不会比一条花费更长的时间。
  • 您忘记了资源冲突(端口)和/或 vpextrd 不是 Intel 或 AMD 上的单微指令。 vpextrd on 是一个 shuffle uop(英特尔端口 5),为 xmm->integer 数据副本(英特尔端口 0)提供 vmovd uop。或者,如果端口 0 一直忙于较旧的工作,因此在 vmovd 可以分派到端口之前发生了洗牌,那么您将有两个单独的 vmovd 微指令竞争同一个端口,因此可用的指令级并行性不能由于可以运行 xmm->integer uops 的一个端口的资源冲突(Intel p0 ALU,Zen2 FP2 与存储竞争),因此被当前 CPU 使用。
  • 对于延迟,你的方式有一个关键路径 shuffle -> movd -> add。我的建议是 shuffle -> paddd -> movd,这是相同的延迟(但没有 uops 关闭关键路径,因此对吞吐量更好)。或者 movq -> rorx -> add,同样的延迟也只有 3 微秒。你是对的 movq -> mov -> shr -> add 在 Ice Lake 上的延迟会更差,英特尔在微码更新中打破了 mov-elimination 以获得错误解决方法,但它等于你的方式和相同数量的带有工作标量 mov-elim 的 CPU 上的 uops。并且对矢量 ALU 端口的需求更少。
  • @PeterCordes 在 AMD Zen 2 和 Zen 3 上,extract 使用 P12 + P45,movd 使用 P45。两者将并行运行,其中一个在 P4 上,另一个在 P5 上。
猜你喜欢
  • 1970-01-01
  • 2019-02-18
  • 2013-10-13
  • 1970-01-01
  • 2021-12-08
  • 2020-05-13
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多