【问题标题】:What are reasons for -march=native to be detrimental-march=native 有害的原因是什么
【发布时间】:2021-03-04 20:55:12
【问题描述】:

我正在编写一个 C++ 程序来解决网络上的偏微分方程和代数方程。 Eigen 库承担了大部分工作,通过 LU 分解解决了许多稀疏线性系统。

由于性能总是很好,所以我尝试了一些选项。我正在使用

g++ -O3 -DNDEBUG -flto -fno-fat-lto-objects -std=c++17

作为与性能相关的编译器选项。然后我添加了-march=native 选项并发现 执行时间平均增加了大约 6%(通过 gnu time 测试,每个配置的样本大小约为 10 次运行。两种设置几乎没有差异)。

这种观察的可能(或最好可能)原因是什么。

我猜lscpu的输出在这里可能有用,所以就是这样:

Architecture:                    x86_64
CPU op-mode(s):                  32-bit, 64-bit
Byte Order:                      Little Endian
Address sizes:                   39 bits physical, 48 bits virtual
CPU(s):                          4
On-line CPU(s) list:             0-3
Thread(s) per core:              2
Core(s) per socket:              2
Socket(s):                       1
NUMA node(s):                    1
Vendor ID:                       GenuineIntel
CPU family:                      6
Model:                           78
Model name:                      Intel(R) Core(TM) i7-6500U CPU @ 2.50GHz
Stepping:                        3
CPU MHz:                         800.026
CPU max MHz:                     3100.0000
CPU min MHz:                     400.0000
BogoMIPS:                        5199.98
Virtualization:                  VT-x
L1d cache:                       64 KiB
L1i cache:                       64 KiB
L2 cache:                        512 KiB
L3 cache:                        4 MiB

编辑: 这里要求的是 cpu 标志:

vendor_id   : GenuineIntel
cpu family  : 6
model name  : Intel(R) Core(TM) i7-6500U CPU @ 2.50GHz

flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx pdpe1gb rdtscp lm constant_tsc art arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx est tm2 ssse3 sdbg fma cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic movbe popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm abm 3dnowprefetch cpuid_fault epb invpcid_single pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid ept_ad fsgsbase tsc_adjust bmi1 avx2 smep bmi2 erms invpcid mpx rdseed adx smap clflushopt intel_pt xsaveopt xsavec xgetbv1 xsaves dtherm ida arat pln pts hwp hwp_notify hwp_act_window hwp_epp md_clear flush_l1d
vmx flags   : vnmi preemption_timer invvpid ept_x_only ept_ad ept_1gb flexpriority tsc_offset vtpr mtf vapic ept vpid unrestricted_guest ple pml
bogomips    : 5199.98
clflush size    : 64
cache_alignment : 64
address sizes   : 39 bits physical, 48 bits virtual

【问题讨论】:

  • 听起来不太可能,因为这将是 gcc 方面的一个极其严重的错误。
  • 许多优化都是启发式的,有时它们会出错。如果没有更多细节,实际上没有任何方法可以猜测。如果您可以分析以识别一小部分速度变慢的代码,并比较带有和不带有-march=native 的程序集,那么有人可能会看到编译器的假设在哪里出错(或只是有错误)。
  • 我想您已经排除了系统负载或 CPU 时钟节流等测试之间的变化?
  • @NateEldredge:我所做的是在一台本来不是很忙的计算机上重复运行这两个版本。在前 2 次左右运行后,每个版本的执行时间都趋于稳定。从那时起,我记下了这些值。我不确定这 6%,但我非常确定“使用-march=native 会更慢。也许明天我会找到时间进行更严格的测试。
  • @Eike 好的,这很大。但是仍然:您应该已经预感到哪些代码路径在运行时最昂贵,这些是要检查的。在二进制文件中使用objdump -d filename > filename.S,您可以生成一个程序集文件。在其中,您几乎可以找到每个 C 函数的编译形式。尝试删除 -O 标志;如果速度差异仍然存在,请区分使用和不使用您正在调查的标志生成的未优化 S 文件。寻找你的程序花费最多时间的函数,看看生成的指令是否有明显的相似或不同。

标签: c++ performance gcc eigen


【解决方案1】:

使用-march=native 可以使代码变慢的原因有很多,尽管这是非常特殊的。

话虽如此,在您的具体情况下,一种可能的情况是使用较慢的 SIMD 指令,或者更准确地说是不同的 SIMD 指令最终使程序变慢。实际上,GCC 使用 x86 处理器(例如您的处理器)上的 SSE 指令集使用 -O3 对循环进行矢量化(为了向后兼容)。使用-march=native,GCC 可能会使用更高级和更新的 AVX 指令集(由您的处理器支持,但在许多旧的 x86 处理器上不支持)对循环进行矢量化。虽然使用 AVX 指令应该可以加快程序速度,但在少数病态情况下并非总是如此(编译器启发式生成的代码效率较低、循环太小而无法利用 AVX 指令、SSE 中缺少/较慢的 AVX 指令、对齐、转换惩罚、能量/频率影响等)。

我的猜测是您的程序受内存限制,因此 AVX 指令不会使您的程序更快。

您可以通过使用 -mavx -mavx2 而不是 -march=native 手动启用 AVX 来确认此假设,并查看您的性能问题是否仍然存在。我建议您使用perf 之类的工具仔细对您的应用程序进行基准测试。

【讨论】:

  • 谢谢,我明天试试!
  • 我尝试使用-mavx -mavx2,它与-march=native 的行为相匹配。所以我想就是这样。谢谢!
猜你喜欢
  • 2011-03-02
  • 2019-10-21
  • 2019-03-10
  • 2017-04-10
  • 2013-04-17
  • 1970-01-01
  • 1970-01-01
  • 2016-08-28
  • 2016-09-01
相关资源
最近更新 更多