如何计算 MPI 应用程序的加速比？

Question

我希望根据并行进程/节点的数量来计算我的 MPI 应用程序的加速。

应用程序主要并行执行巨大的矩阵计算。 我可以使用MPI_Wtime() 来测量经过的时间，就像这样..

double start = MPI_Wtime();  
....
double end = MPI_Wtime();
double elapsed = end - start;

但是我怎样才能在并行化的程度上做到这一点呢？

Answer 1

加速的通常定义是 1 个进程的时间除以 p 进程的时间。

如果您希望展示代码的性能，最好选择从 1 到您有权运行的最大数量的 p 范围，并在加速比与 p 绘图上绘制结果。

请注意，严格来说，加速应该比较p 进程与可能的最佳顺序代码的时间，而不仅仅是顺序运行您的并行代码。这似乎是一个有争议的问题，但在某些领域，并行代码在顺序情况下非常糟糕。例如，在稀疏矩阵世界中，您会发现并行代码比顶级顺序代码慢 10-50 倍。