【问题标题】:Why is IPC lower than one on a modern processor?为什么现代处理器上的 IPC 低于 1?
【发布时间】:2017-05-17 06:11:42
【问题描述】:
    7703.572978 task-clock (msec)         #    0.996 CPUs utilized          
          1,575 context-switches          #    0.204 K/sec                  
             18 cpu-migrations            #    0.002 K/sec                  
         65,975 page-faults               #    0.009 M/sec                  
 25,719,058,036 cycles                    #    3.340 GHz                    
<not supported> stalled-cycles-frontend 
<not supported> stalled-cycles-backend  
 12,323,855,909 instructions              #    0.48  insns per cycle        
  2,337,484,352 branches                  #  303.429 M/sec                  
    200,227,908 branch-misses             #    8.57% of all branches        
  3,167,237,318 L1-dcache-loads           #  411.139 M/sec                  
    454,416,650 L1-dcache-load-misses     #   14.35% of all L1-dcache hits  
    326,345,389 LLC-loads                 #   42.363 M/sec                  
<not supported> LLC-load-misses:HG      

我分析了perf stat 在 C 中使用 libCCC 编写的代码。它对一个双向链表进行排序,这会导致大量的列表遍历操作,这意味着它可能会询问来自不同内存地址的许多数据。然而,现代处理器支持多级流水线、分支预测和乱序执行,因此这些应该会增加在相同时间间隔内执行的平均指令量。事实上,从分析数据来看,每两个周期大约只处理一条指令。什么原因可能导致这种现象?

【问题讨论】:

  • 列表遍历涉及内存访问的依赖链,而 L1 缓存命中在现代高性能内核中通常具有三到四个周期延迟。当存在不依赖于未决结果的数据的操作时,乱序执行会有所帮助。

标签: performance caching cpu hardware perf


【解决方案1】:

您的 CPU 只是在等待内存,仅此而已。正是这种效果证明了超线程是合理的:现代 CPU 可以快速切换,一个内核可以在两个线程上工作,在另一个线程等待内存时执行来自一个线程的指令。

【讨论】:

  • 您的意思是,就我而言,即使我的处理器支持超线程,核心仍然在两个线程上停止(未显示)并且在从主内存获取数据时什么都不做?
  • @KevinDong:嗯,一次主内存访问可能需要 60 个周期左右,所以很可能一个物理内核代表两个线程等待两次内存读取。 IIRC Sun 曾经制造过 T1 处理器,每个内核可以超线程 8 个线程。
  • 在支持更高级别超线程的机器上,遍历链表可能会执行得更好。然后,它可以同时等待数据;-)
  • @KevinDong:链表主要是 Comp.Sci 的东西;工程师倾向于只使用连续数组。 RAM 不再是真正的 RAM。
【解决方案2】:

仅仅因为你有一个管道绝不意味着它总是会被有效地使用。就像添加缓存一样,任何一个都会降低性能而不是提高性能。因此,无论您的处理器多么“现代”,都没有理由假设您总是会获得一些神奇的性能。问题始于您的代码,出于某种原因它是您的应用程序,您如何编写应用程序您使用什么语言您使用什么编译器,您使用的编译器选项是性能的第一步,然后是平台,内存,缓存,磁盘操作系统等都起作用。自从处理器成为瓶颈以来已经有很多年了,假设您可以尽可能快地为处理器提供消耗,并假设指令序列是流水线友好的,并且您基本上没有数据访问,那么您肯定可以尖叫,但现实是处理器花费大量时间等待输入数据或指令。您可以编写非常简单的基准测试,甚至小到两条指令循环,并看到性能因各种因素而有很大差异,处理器获取的性质,对齐导致它获取的比它需要的多得多,移动对齐到缓存行的敏感区域会导致额外的缓存行读取。这只是几个/几个指令,想想你的应用程序使用了多少指令。然后将数据访问与它混合。基准测试除了表明它实际上并没有任何意义之外,它在某种程度上是无用的任务,只是您可以操纵结果以使某些东西看起来好或坏。

在您的情况下,您根本没有编写代码对编译器友好以使其执行,更有可能是您的数据访问,您如何构造数据(可能使用字节数组而不是更大的数组,使用具有不同大小的项目等),上帝禁止将您的数据条带化为缓存线边界的两倍。

开始调整您的数据或代码,重新排列源代码中的支持函数,您可能按顺序定义了函数 a、b、c,更改 a、c、b 的顺序,如果有的话,这对性能有何影响?在项目开始附近添加一个虚拟全局函数(或进入引导带并添加或删除 nop)可能是内联一个然后两个然后三个然后四个,等等 nop 或该虚拟函数中的其他类似安全指令。更改变量的大小,尽可能更改数组元素的大小,重新排列结构中定义的变量的顺序。其中一项或全部以及更多其他因素可能会影响您的绩效结果。

归根结底,拥有现代处理器与任何随机程序的每条指令平均时钟无关。您希望每个时钟获得许多指令,您必须为它工作(并且没有理由假设一旦您在计算机上达到最佳状态,您将该程序带到该程序在那里执行的另一台兼容计算机上,它可能会很慢在其他类似级别的机器上,并且在一台机器上速度很快)。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-12-05
    • 2021-07-28
    • 2016-04-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多