无法使用英特尔编译器强制内联 C++ 函数

Question

我有一个函数定义为

inline void vec_add(__m512d &v3, const __m512d &v1, const __m512d &v2) {
    v3 = _mm512_add_pd(v1, v2);
}

（__m512d 是一种本地数据类型映射到英特尔 MIC 架构上的 SIMD 寄存器）

由于这个函数相当短并且经常被调用，我希望在每次调用时都内联它。但英特尔的编译器似乎不愿意内联这个函数，即使我使用了-inline-forceinline 和-O3 选项。它在编译时报告“Forceinline 不接受调用 ...”。因为我必须使用一些编译器特定的功能，例如__m512d 类型，Intel 编译器是我唯一的选择。

更多信息：

文件结构非常简单。函数vec_add 定义在头文件mic.h 中，该头文件包含在另一个文件test.cc 中。函数vec_add 只是在循环中重复调用，不涉及函数指针。 test.cc 中代码的简化版如下所示

for (int i = 0; i < LENGTH; i += 8) {
    // a, b, c are arrays of doubles, and each SIMD register can hold 8 doubles
    __mm512d va = _mm512_load_pd(a + i); // load SIMD register from memory
    __mm512d vb = _mm512_load_pd(b + i); // ditto
    __mm512d vc;
    vec_add(vc, va, vb); // store SIMD register to memory
    _mm512_store_pd(c + i, vc);
}

我尝试了各种提示，例如__attribute__((always_inline))、__forceinline 和编译器选项-inline-forceinline，但都没有奏效。

完整代码

我已将所有相关代码以简化的形式放在一起。如果您有英特尔编译器，您可以尝试一下。使用选项-Winline 查看内联报告，使用-inline-forceinline 强制内联。

#include <stdio.h>
#include <stdlib.h>
#include <immintrin.h>

#define LEN (1<<20)

__attribute((target(mic)))
inline void vec_add(__m512d &v3, const __m512d &v1, const __m512d &v2) {
    v3 = _mm512_add_pd(v1, v2);
}

int main() {
    #pragma offload target(mic)
    {
        double *a = (double*)_mm_malloc(LEN*sizeof(double), 64);
        double *b = (double*)_mm_malloc(LEN*sizeof(double), 64);
        double *c = (double*)_mm_malloc(LEN*sizeof(double), 64);

        for (int i = 0; i < LEN; i++) {
            a[i] = (double)rand()/RAND_MAX;
            b[i] = (double)rand()/RAND_MAX;
        }

        for (int i = 0; i < LEN; i += 8) {
            __m512d va = _mm512_load_pd(a + i);
            __m512d vb = _mm512_load_pd(b + i);
            __m512d vc;
            vec_add(vc, va, vb);
            _mm512_store_pd(c + i, vc);
        }

        _mm_free(a);
        _mm_free(b);
        _mm_free(c);
    }
}

配置

• 编译器：英特尔编译器 (ICC) 14.0.2
• 编译选项：-O3 -inline-forceinline -Winline

你知道为什么这个函数不能被内联吗？ 毕竟我怎样才能让它内联（我不想求助于宏）？

Answer 1

由于某种原因，英特尔编译器不会在卸载代码中内联函数（我对这个概念不是很熟悉，所以我不知道这是什么技术原因）。 更多信息请参见effective-use-of-the-intel-compilers-offload-features（只需搜索“inline”）。

引用链接文章：

函数内联到卸载构造

有时内联函数对于优化性能是必要的 生成的代码。 在#pragma offload 中直接调用的函数 即使它们被标记为内联，编译器也不会内联。到 手动启用卸载区域中代码的最佳性能 内联函数，或将整个卸载构造放入自己的 功能。

...

一种解决方法是手动内联函数f，如函数所示 v2.

另一种解决方案是将卸载构造移动到自己的 函数如函数v3所示。

如果我理解正确，对您来说最好的办法是将循环放入一个单独的函数中，该函数也标有 __attribute((target(mic)))。