如何使用openmp并行化数组元素的移动

Question

如果 pArray 非常大，下面的代码段是我的程序中最耗时的。 last 是这个数组结束位置的变量，Idx 是数组特定位置的变量，所以我想要的是将部分数组元素从Idx 向后移动1。

for(long i = last; i >= Idx; i--)
{
    pArray[i] = pArray[i-1];
}

我只是尝试使用 parallel for 来并行化它，但它绝对行不通。谁能告诉我这段代码是否可以与openmp并行化？如果是，如何编码？谢谢。

#pragma omp parallel for
for(long i = last; i >= Idx; i--)
{
    pArray[i] = pArray[i-1];
}

Answer 1

您遇到的主要问题是您的代码具有循环携带的依赖关系，即迭代之间存在依赖关系。

所以你的代码是：

for(long i = last; i >= Idx; i--)
{
  pArray[i] = pArray[i-1];
}

现在，假设last = 4 和Idx=1。你会有类似的东西：

  iteration 0: pArray[4] = pArray[3];
  iteration 1: pArray[3] = pArray[2];
  iteration 2: pArray[2] = pArray[1];
  iteration 3: pArray[1] = pArray[0];

如果你用四个线程并行化（假设是静态的）并且线程 0 被分配迭代 0，线程 1 被分配迭代 1，依此类推，你会得到不正确的结果，具体取决于哪个线程首先执行。如果线程 0 执行 before 线程 1，线程 0 将使用旧值 pArray[3]，而如果线程 0 执行 after 线程 1，线程 0 将使用新值为pArray[3]，由线程1计算。

由于您的迭代不是独立的，因此循环不能直接并行化。

由于显然您想要的只是将数组的值向前移动一个位置，我认为更好的方法是使用指针算法或重新组织循环和其他代码片段以尝试消除依赖关系或完全循环。

Answer 2

您想要的是并行执行memmove。这是一个可以满足您需求的示例。

#include <stdio.h>
#include <string.h>
#include <omp.h>

#define N 20

int main() {  
    int x[N+1];
    for(int i=0; i<N; i++) x[i] = i+1;
    for(int i=0; i<N; i++) printf("%d ", x[i]); puts("");
    #pragma omp parallel
    {
        int ithread = omp_get_thread_num(), nthreads = omp_get_num_threads();
        size_t pos = ithread*N/nthreads;
        size_t n = (ithread+1)*N/nthreads - pos - 1;
        int tmp = x[pos+n];
        memmove(&x[pos+1], &x[pos], sizeof *x*n);
        #pragma omp barrier
        x[pos+n+1] = tmp;   
    }
    for(int i=0; i<N+1; i++) printf("%d ", x[i]); puts("");
}

Answer 3

您可以将数组分成多个块。 所以每个线程只能在他的块上工作。

例如，如果您的数组大小为 1000，并且您有 4 个线程，那么第一个线程将移动块 1-198 中的值，第二个线程将移动块 201-398 中的值，依此类推。 不要忘记在边界上移动值的特殊情况（例如 200 到 199）

您不需要创建“平行于”，只有“平行”区域才有用。