有没有办法通过使用 cpu 来估计 gpu 的计算时间？答案

【问题标题】：Is there any way to estimate computing time of gpu by using cpu?有没有办法通过使用 cpu 来估计 gpu 的计算时间？
【发布时间】：2018-05-08 15:20:19
【问题描述】：

我制作了简单的深度学习模型。我现在桌面上只有 cpu。但我必须在 gpu 设置中估计模型的训练时间。我不需要完全准确的训练时间估计。大概时间对我来说是可以的。有什么方法或指标吗？我的一个想法是比较 GFLOP，但我计算时也是无意义的..

例如。 cpu：intel e5-2686 v4，gpu：nvidia k80

【问题讨论】：

简而言之 - 不，这是不可能的。 GPU 不是“更快的 CPU”，它们是不同的架构，它们将特定操作加速 20 倍，而对其他人无任何作用；内存复制实际上会使事情变得更慢。有一些经验法则，但没有“正确”的做法。

【解决方案1】：

您可以使用一种非常简单的方法来估算加速，通过近似数据集中的并行度（例如，如果并行度非常高，这可能等于数据集中的维数），假设实现并发的最佳情况，实际传输数据的开销为零，那么数学就变得简单了：

speedup=GPU 上的物理工作项目数（通常是 CUDA 内核数）典型的 nvidia 实现）除以物理工作项的数量在 CPU 上（物理内核数）。

还有一些未考虑到的差异与不同的硬件架构（ISR、设计等）有关。根据您对模型并行度、实现的估计，这些计算将与实际性能有很大差异并发和硬件。

【讨论】：