减少 C++ 代码中的循环时间有助于提高速度吗？

Question

我举以下例子来说明我的问题：

void fun(int i, float *pt)
{
    // do something based on i
    std::cout<<*(pt+i)<<std::endl;
}
const unsigned int LOOP = 2000000007;

void fun_without_optmization()
{
    float *example;
    example = new float [LOOP];
    for(unsigned int i=0; i<LOOP; i++)
    {
        fun(i,example);            
    }
    delete []example;
}
void fun_with_optimization()
{
    float *example;
    example = new float [LOOP];
    unsigned int unit_loop = LOOP/10;
    unsigned int left_loop = LOOP%10;
    pt = example;
    for(unsigend int i=0; i<unit_loop; i++)
    {
        fun(0,pt); 
        fun(1,pt);  
        fun(2,pt);
        fun(3,pt);  
        fun(4,pt);
        fun(5,pt);
        fun(6,pt);  
        fun(7,pt);
        fun(8,pt);  
        fun(9,pt);
        pt=pt+10;
    }
    delete []example;
}

据我了解，函数 fun_without_optimization() 和函数 fun_with_optimization() 应该执行相同的操作。第二个函数比第一个更好的唯一理由是fun 中的指针计算变得简单。为什么第二个功能更好的任何其他论点？

Answer 1

展开执行 I/O 的循环就像在肯尼迪机场将 B747 的着陆跑道从伦敦向东移动一英寸。

Answer 2

Re：“还有什么其他论据为什么第二个功能更好？” - 你会接受解释为什么它不更好的答案吗？

1. 手动展开循环容易出错，您的代码清楚地说明了这一点：您忘记处理尾部 left_loop。
2. 至少几十年来，编译器都会为您进行这种优化。
3. 您如何知道在展开的循环中放置的最佳迭代次数？您是否针对特定的缓存大小并以字节为单位计算汇编指令的长度？编译器可能会。
4. 弄乱原本干净的循环可能会妨碍其他优化，例如使用 SIMD。

底线是：如果您知道编译器不知道的某些内容（运行时数据的特定模式、目标执行环境的详细信息等），并且您知道自己在做什么 - 您可以尝试手动循环展开。但即便如此 - 个人资料。

Answer 3

你描述的技术叫做loop unrolling；这可能会提高性能，因为评估控制结构（更新循环变量和检查终止条件）的时间变得更小。但是，体面的编译器可以为您做到这一点，如果手动完成，代码的可维护性会降低。

Answer 4

这是一种用于并行架构（支持 VLIW 指令的架构）的优化技术。根据架构支持的 DALU（最常见的 4 个）和 ALU（最常见的 2 个）单元的数量，以及代码支持的“并行化”级别，一个周期内可以执行多条指令。

所以这段代码：

for (int i=0; i<n;i++) //n multiple of 4, for simplicity
   a+=temp; //just a random instruction

如果重写如下，实际上会在并行架构上执行得更快：

for (int i=0;i<n ;i+=4)
{
    temp0 = temp0 +temp1; //reads and additions can be executed in parallel
    temp1 = temp2 +temp3;
    a=temp0+temp1+a;
}

您可以并行化代码的数量是有限制的，这是由 CPU 所拥有的物理 ALU/DALU 施加的限制。这就是为什么在尝试（正确）优化代码之前了解您的架构很重要的原因。

不止于此：您要优化的代码必须是连续的代码块，这意味着没有跳转（没有函数调用，没有流指令的机会），以实现最高效率。

编写您的代码，例如：

    for(unsigend int i=0; i<unit_loop; i++)
    {
        fun(0,pt); 
        fun(1,pt);  
        fun(2,pt);
        fun(3,pt);  
        fun(4,pt);
        fun(5,pt);
        fun(6,pt);  
        fun(7,pt);
        fun(8,pt);  
        fun(9,pt);
        pt=pt+10;
    } 

不会做太多，除非编译器内联函数调用；无论如何，它看起来像很多指令......

另外一点：虽然在优化代码时您总是必须使用编译器，但您永远不应该只依赖它来最大限度地优化您的代码。请记住，当您可能对特定情况感兴趣时，编译器会处理“一般情况”——这就是为什么有些编译器有特殊指令来帮助优化过程。