【问题标题】:Parallel computing for prefix sum using openMP (c code)使用openMP并行计算前缀和(c代码)
【发布时间】:2015-05-25 21:27:28
【问题描述】:

将并行算法分配给前缀和问题时遇到一些问题。我正在使用 openMP 进行并行实现。我在c中有如下代码。

结果展示:

seqsum[6] = 28 != parallelsum[6] = 34

请指教。谢谢。

#include <stdio.h>
#include <stdlib.h>
#include <time.h>
#include "omp.h"
#include <string.h>
#define N 10 //33554432 // 2 ^ 25
#define NUM_THREADS 4 

void computeparallelprefix(int *iplist, int *_pprefixsum, unsigned long size)
{
  int nthr, *z, *x = _pprefixsum;
  int i, j, tid, work, lo, hi;
#pragma omp parallel shared(nthr,x,z) private(i,j,tid,work,lo,hi)
  {
    int prev_sum;
    memcpy((void *)x, (void *)iplist, sizeof(int)*size);

    // Assume nthr = 2^k
#pragma omp single
    {
      nthr = omp_get_num_threads();
      z = malloc(sizeof(int)*nthr);
    }   
    tid = omp_get_thread_num();
    work = size /nthr + (i = tid < size%nthr ? 1 : 0);
    lo = (size/nthr)*tid + (i==1 ? tid : size%nthr);
    hi = lo + work;
    if (hi > size)
      hi = size;

    // local prefix sum over x
    for(i=lo+1; i<hi; i++)
      x[i] += x[i-1];    

    // local prefix sum for tid
    z[tid] = x[hi-1];
#pragma omp barrier


    // global prefix sum over z
    for(j=1; j<nthr; j=2*j) {
      if (tid >= j)
        z[tid] = z[tid] + z[tid-j];
#pragma omp barrier
    } 

    // Update local prefix sum x
    prev_sum = z[tid] - x[hi-1];
    for(i=lo;i<hi;i++)
      x[i] += prev_sum;
  }
  free(z);
}

void initlist(int *iplist, unsigned long size)
{
  int i;
  for ( i = 0; i < size; i++)
    iplist[i] = i+1;
  //     iplist[i] = rand() % 13;
}

void printlist(int *list, unsigned long size)
{
  int i;
  for(i = 0; i < size; i++) {
    printf("%d ", list[i]);
  }
  printf("\n");
}

void computeseqprefixsum(int *iplist, int *seqprefixsum, unsigned long size)
{
  int i;
  seqprefixsum[0] = iplist[0];
  for(i = 1; i < size; i++) {
    seqprefixsum[i] = seqprefixsum[i-1] + iplist[i];
  }
}

void checkresults(int *seqsum, int *parallelsum, unsigned long size)
{
  int i;
  for(i = 0; i < size; i++)
  {
    if(seqsum[i] != parallelsum[i]) {
      printf("seqsum[%d] = %d != parallelsum[%d] = %d\n", i, seqsum[i], i,
          parallelsum[i]);
      exit(1);
    }
  }
}

int main(int argc, char *argv[])
{
  // seed the rand generator
  srand(time(NULL));
  double seqstart, seqend, parstart, parend, seqtime, partime;

  // initialize list

  int *iplist, *seqprefixsum, *pprefixsum ;

  iplist = (int*) malloc(sizeof(int) * N);
  seqprefixsum = (int*) malloc(sizeof(int) * N);
  pprefixsum = (int*) malloc(sizeof(int) * N);

  if(iplist == NULL || seqprefixsum == NULL || pprefixsum == NULL) {
    printf("memory cannot be allocated\n");
    exit(1);
  }

  initlist(iplist, N);

  seqstart = omp_get_wtime();

  computeseqprefixsum(iplist, seqprefixsum, N);

  seqend = omp_get_wtime();

  seqtime = seqend - seqstart;

  omp_set_num_threads(NUM_THREADS);

  parstart = omp_get_wtime();

  computeparallelprefix(iplist, pprefixsum, N);

  parend= omp_get_wtime();

  partime = parend - parstart;

  checkresults(seqprefixsum, pprefixsum, N);

  printf("Seq Time : %f, Par Time : %f, Speedup : %f\n", seqtime, partime,
      seqtime/partime);

  free(iplist); free(seqprefixsum); free(pprefixsum);

  return 0;
}

【问题讨论】:

  • 由于计算中的数据依赖性,我认为这个问题从一开始就很难并行化
  • 我该如何改进它?谢谢
  • 你真的不能并行化你的 computeseqprefixsum 因为每个值都取决于前一个
  • @dvhh,两遍并行化并不难。第一遍您对每个线程进行部分求和,在第二遍中您使用每个线程的偏移量进行更正。问题不在于获得并行算法,而是该操作受内存带宽限制(就像许多操作一样),因此它不会随着物理内核的数量而扩展。
  • @dvhh,实际上这正是 OP 正在做的事情:两次通过,第一次是部分,第二次是更正。这是一个工作示例stackoverflow.com/questions/18719257/…。我不确定为什么 OPs 代码不起作用,但这是正确的想法。

标签: c parallel-processing cygwin openmp prefix-sum


【解决方案1】:

您对代码的前缀总和有正确的想法。

我不确定你为什么没有得到正确的结果,但我清理了你的代码,我的版本得到了正确的结果。更多详情请查看以下问题parallel-cumulative-prefix-sums-in-openmp-communicating-values-between-thread

#include <stdio.h>
#include <string.h>
#include <stdlib.h>
#include "omp.h"
#define N 11 //33554432 // 2 ^ 25

void computeparallelprefix(int *iplist, int *_pprefixsum, unsigned long size)
{
  int nthr, *z, *x = _pprefixsum;
  #pragma omp parallel
  {
    int i;
    #pragma omp single
    {
      nthr = omp_get_num_threads();
      z = malloc(sizeof(int)*nthr+1);
      z[0] = 0;
    }
    int tid = omp_get_thread_num();
    int sum = 0;
    #pragma omp for schedule(static) 
    for(i=0; i<size; i++) {
      sum += iplist[i];
      x[i] = sum;
    }
    z[tid+1] = sum;
    #pragma omp barrier

    int offset = 0;
    for(i=0; i<(tid+1); i++) {
        offset += z[i];
    }

    #pragma omp for schedule(static)
    for(i=0; i<size; i++) {
      x[i] += offset;
    }
  }
  free(z);
}

int main(void ) {

  int *iplist, *pprefixsum ;

  iplist = (int*) malloc(sizeof(int) * N);
  pprefixsum = (int*) malloc(sizeof(int) * N);

  for(int i=0; i<N; i++) iplist[i] = i+1;
  for(int i=0; i<N; i++) printf("%d ", iplist[i]); printf("\n");

  computeparallelprefix(iplist, pprefixsum, N);
  for(int i=0; i<N; i++) printf("%d ", pprefixsum[i]); printf("\n");
  for(int i=0; i<N; i++) printf("%d ", (i+1)*(i+2)/2); printf("\n");
  return 0;
}

【讨论】:

  • 谢谢!但是,它仍然无法在我的最后工作。所有 progma 命令根本不起作用:错误:无效的预处理指令 #progma
  • @Orangeblue,你在说什么?我的代码中没有#progma。我刚刚用-Wall 编译,我没有收到任何警告。我也为progma 寻找,它什么也没返回。这段代码很好。我用gcc -std=gnu99 -fopenmp -O3 -Wall psum.c 编译
  • 似乎允许一个线程 malloc "z",但每个线程都释放内存 "z"。
  • @Zboson: Orangeblue 有suggested an edit 将所有#pragma 更改为#progma
  • @NisseEngström,他的编辑应该被拒绝。什么是#progma
猜你喜欢
  • 1970-01-01
  • 2016-06-19
  • 1970-01-01
  • 1970-01-01
  • 2012-04-21
  • 2021-11-24
  • 1970-01-01
  • 2018-05-25
  • 2012-03-27
相关资源
最近更新 更多