OpenCL：为什么这两种情况的性能差异如此之大？

Question

这是我正在处理的 OpenCL 内核中的两段代码；它们显示出截然不同的运行时间。

代码比较复杂，我把它简化了。

这个版本运行不到一秒：

for (int ii=0; ii<someNumber;ii++)
{
    for (int jj=0; ii<someNumber2;jj++)
    {
        value1 = value2 + value3;
        value1 = value1 * someFunction(a,b,c);
        double nothing = value1;
    }
}

这个版本大约需要 38 秒才能运行：

for (int ii=0; ii<someNumber;ii++)
{
    for (int jj=0; ii<someNumber2;jj++)
    {
        value1 = value2 + value3;
        value1 = value1 * someFunction(a,b,c);
    }
    double nothing = value1;
}

正如我所说，代码比这要复杂一些（循环中还有很多其他事情），但变量“nothing”确实会从大括号之前立即移动到大括号之后。

我对 OpenCL 很陌生，我无法弄清楚发生了什么，更不用说如何解决它了。不用说，缓慢的情况实际上是我在实施中所需要的。我试过搞乱地址空间（这里的所有变量都在 __private 中）。

我只能想象，由于某种原因，当大括号关闭时，GPU 会将变量“value1”推到较慢的内存中。这是一个可能的解释吗？我能做什么？

提前致谢！

更新：这也在不到一秒的时间内运行：（但如果取消注释任何一行，它就会恢复到极度缓慢）。这没有对循环进行任何其他更改，并且 value1 仍然声明在与以前相同的位置。

for (int ii=0; ii<someNumber;ii++)
{
    for (int jj=0; ii<someNumber2;jj++)
    {
//        value1 = value2 + value3;
//        value1 = value1 * someFunction(a,b,c);
    }
    double nothing = value1;
}

更新 2：代码实际上嵌套在另一个循环中，如下所示，value1 的声明：

double value1=0;
for (int kk=0; kk<someNumber3;kk++)
{
    for (int ii=0; ii<someNumber;ii++)
    {
        for (int jj=0; ii<someNumber2;jj++)
        {
            value1 = value2 + value3;
            value1 = value1 * someFunction(a,b,c);
        }
        double nothing = value1;
    }
}

移动到声明 value1 的位置也让我们回到快速案例：

for (int kk=0; kk<someNumber3;kk++)
{
    double value1=0;
    for (int ii=0; ii<someNumber;ii++)
    {
        for (int jj=0; ii<someNumber2;jj++)
        {
            value1 = value2 + value3;
            value1 = value1 * someFunction(a,b,c);
        }
        double nothing = value1;
    }
}

OpenCL 似乎是一门非常棘手的艺术！我仍然不明白发生了什么，但至少我现在知道如何解决它！

Answer 1

您使用的是什么实现？我希望“双重无= value1;”在任何情况下都会被任何合理的编译器作为死代码消除。

Answer 2

第一种情况只是一个循环（带有编译器优化） 但第二个是带有嵌套循环的循环。那是个大问题。大量检查全局/局部变量。（确定它们是私有的？你在内核中声明了所有这些？）

我建议您在开始循环之前将其保存为私有变量（somenumber 和 somenumber2）。因为这样你每次都会检查私人数据。 作为个人经验，用作 OpenCL 循环检查用例的每个 var 都必须是私有的。 这可以节省高达 80% 的全局内存访问。 （特别是如果循环很短或很简单）

例如，这应该可以快速运行：

int c_somenumber = someNumber;
for (int ii=0; ii<c_someNumber;ii++)
{
    int c_somenumber2 = someNumber2;    
    for (int jj=0; ii<c_someNumber2;jj++)
    {
        value1 = value2 + value3;
        value1 = value1 * someFunction(a,b,c);
    }
    double nothing = value1;
}

编辑： 此外，value1 应该缓存在私有内存中。 （就像您在上次编辑中所做的那样）