openmp 并行部分基准测试

Question

我正在尝试使用 openmp 对我的合并排序实现进行基准测试。我已经编写了以下代码。

#include <iostream>
#include <vector>
#include <cstdlib>
#include <ctime>
#include <omp.h>
using namespace std;


class Sorter {
private:
    int* data;
    int size;
    bool isSorted;
public:
    Sorter(int* data, int size){
        this->data = data;
        this->size = size;
        this->isSorted = false;
    }

    void sort(){
        vector<int> v(data,data+size);
        vector<int> ans = merge_sort(v);
        copy(ans.begin(),ans.end(),data);
        isSorted = true;
    }
    vector<int> merge_sort(vector<int>& vec){
        if(vec.size() == 1){
            return vec;
        }
        std::vector<int>::iterator middle = vec.begin() + (vec.size() / 2);

        vector<int> left(vec.begin(), middle);
        vector<int> right(middle, vec.end());

        #pragma omp parallel sections
        { 
            #pragma omp section
            {left = merge_sort(left);}
            #pragma omp section
            {right = merge_sort(right);}

        }
        return merge(vec,left, right);
    }

    vector<int> merge(vector<int> &vec,const vector<int>& left, const vector<int>& right){
        vector<int> result;
        unsigned left_it = 0, right_it = 0;

        while(left_it < left.size() && right_it < right.size()) {
            if(left[left_it] < right[right_it]){
                result.push_back(left[left_it]);
                left_it++;
            }else{
                result.push_back(right[right_it]);
                right_it++;
            }
        }

        while(left_it < left.size()){
            result.push_back(left[left_it]);
            left_it++;
        }

        while(right_it < right.size()){
            result.push_back(right[right_it]);
            right_it++;
        }           
        return result;
    }

    int* getSortedData(){
        if(!isSorted){
            sort();
        }
        return data;
    }
};
void printArray(int* array, int size){
    for(int i=0;i<size;i++){
        cout<<array[i]<<", ";
    }
    cout<<endl;
}
bool isSorted(int* array, int size){
    for(int i=0;i<size-1;i++){
        if(array[i] > array[i+1]) {
            cout<<array[i]<<" > "<<array[i+1]<<endl;
            return false;
        }
    }
    return true;
}
int main(int argc, char** argv){
    if(argc<3){
        cout<<"Specify size and threads"<<endl;
        return -1;
    }

    int size = atoi(argv[1]);
    int threads = atoi(argv[2]);
    //omp_set_nested(1);
    omp_set_num_threads(threads);
    cout<<"Merge Sort of "<<size<<" with "<<omp_get_max_threads()<<endl;
    int *array = new int[size];
    srand(time(NULL));
    for(int i=0;i<size;i++){
        array[i] = rand() % 100;
    }
    //printArray(array,size);
    Sorter* s = new Sorter(array, size);
    cout<<"Starting sort"<<endl;
    double start = omp_get_wtime();
    s->sort();
    double stop = omp_get_wtime();
    cout<<"Time: "<<stop-start<<endl;
    int* array2 = s->getSortedData();
    if(size<=10)
        printArray(array2,size);
    cout<<"Array sorted: "<<(isSorted(array2,size)?"yes":"no")<<endl;
    return 0;
}

程序运行正常，但是当我指定线程数为 4 时，程序仍然只创建 2 个线程。我尝试在 omp_set_num_threads(threads) 之前使用 omp_set_nested(1) ，但这会交给整个终端，直到程序崩溃并说“libgomp：线程创建失败：资源暂时不可用”我认为是因为创建了太多线程？我还没有找到解决办法。

编辑： 程序崩溃后，我检查系统负载，它显示负载超过1000！ 我有一个 4 核 AMD A8 CPU 和 10GB RAM 如果我取消注释 omp_set_nested(1) 并运行程序

$ ./mergeSort 10000000 4 
Merge Sort of 10000000 with 4
Starting sort

libgomp: Thread creation failed: Resource temporarily unavailable
libgomp: Thread creation failed: Resource temporarily unavailable
$ uptime
 02:14:12 up 1 day, 11:13,  4 users,  load average: 482.21, 522.87, 338.75

观察进程，我可以发现 4 个线程正在启​​动。如果我注释掉 omp_set_nested(1) 程序运行正常但只使用 2 个线程

编辑： 如果我使用任务并删除 omp_set_nested 那么它会正确启动线程，但不会加快速度。使用 1 个线程执行比使用 4 个线程更快。使用部分，它会加快速度。但只有不到两倍（因为它一次只启动 2 个线程）

Answer 1

我测试了您的代码，它确实创建了 4 个或更多线程，但没有完全理解您的意思。另外我建议您将 omp 部分更改为 omp 任务，因为根据定义，在一个部分中只有 1 个线程处理给定部分，并且在您的递归调用中，您永远不会使用空闲线程。