加载或洗牌一对带有 SIMD 内在函数的浮点数以进行双打？答案

【问题标题】：Load or shuffle a pair of floats with SIMD intrinsics for doubles?加载或洗牌一对带有 SIMD 内在函数的浮点数以进行双打？
【发布时间】：2021-07-11 06:12:26
【问题描述】：

我为处理单精度浮点计算 SIMD 内部函数编写了一些优化。

有时pd 双精度指令比任何ps 单精度指令更容易完成我想要的操作。

示例 1：

我有指针 float prt* 指向浮动块： f0 f1 f2 f3 等

我想用 [ f0, f1, f0, f1, f0, f1, f0, f1 ] 加载 __m256 值。我没有找到 __m256 数据类型的 64 位广播。我可以在浮点数上使用_mm256_broadcast_sd 吗？

float* ptr = ...; // pointer to some memory chunk aligned to 4 bytes
__m256 vat = _mm256_castpd_ps( _mm256_broadcast_sd( ( double* )ptr ) );

示例 2：

我有 __m256 值 [f0, f1, f2, f3, f4, f5, f6, f7]。我可以使用像 _mm256_srl_epi32 这样的移位指令，它以 __m256i 值作为参数来使用我的 __m256 值进行操作吗？

我在实践中检查它并且它有效，但是使用不同类型的指令是正确的方法吗？

【问题讨论】：

标签： c sse simd intrinsics avx

【解决方案1】：

是的，vbroadcastsd 是广播一对浮点数的好 asm 指令，_mm256_broadcast_sd + 强制转换内在函数是在 C 中实现它的安全方法。

请注意，您没有取消引用（在纯 C 中）指向 float 对象的 double*。你只是将它传递给一个内在函数。 _mm256_set1_pd( *(double*)floatp ) 将在 C 中是严格的别名未定义行为，但无论指针实际指向什么，加载/存储内在函数都被定义为工作。正是这样，您可以轻松地对您实际拥有的任何数据进行广泛的加载/存储，而不仅仅是 __int64 或 double。

例如，GCC 的标头将_mm256_broadcastsd(const double*) 定义为__builtin_ia32_vbroadcastsd256 的包装器。并且 GCC 定义 _mm_loadl_epi64 以包含 *(__m64_u *)__P 的取消引用，其中 __m64_u 是它定义为的 __m64 的未对齐的可能别名版本。

typedef int __m64_u __attribute__ ((__vector_size__ (8), __may_alias__, __aligned__ (1)));

（另见Is `reinterpret_cast`ing between hardware SIMD vector pointer and the corresponding type an undefined behavior?）

一般来说，即使是采用float* 或double*（而不是__m128i*）的加载/存储内在函数也是对齐和严格别名安全的。（或者至少我认为他们'应该是。在某些编译器上，可能有一些实际上不是严格别名安全的。因此，让它们从实际上并不指向 @ 的指针安全地发出 vpbroadcastd 可能会很痛苦例如，987654341@；我忘记了是哪个内在函数发现某些编译器不尊重可能的别名。）

您的示例 2 不清楚。你想对浮点数的位模式进行位移吗？是的，您当然可以这样做，这就是为什么当您想将相同的位重新解释为不同的向量类型时，存在 SIMD 转换内在函数以使 C 编译器满意的原因。

作为实现exp() 或log 的一部分，这很常见，例如Fastest Implementation of Exponential Function Using AVX

【讨论】：