Tensorflow CIFAR10 示例：GPU 未充分利用答案

【问题标题】：Tensorflow CIFAR10 example: GPUs not fully utilizedTensorflow CIFAR10 示例：GPU 未充分利用
【发布时间】：2017-03-14 16:06:12
【问题描述】：

我正在使用 4x NVIDIA Titan X 的机器上运行 CIFAR 10 (https://www.tensorflow.org/tutorials/deep_cnn) 的 tensorflow 示例。我使用命令

python cifar10_multi_gpu_train.py --num_gpus=4

但是，GPU 的使用率只有 25%。有人可以解释瓶颈是什么以及如何解决它吗？输入管道和从 CPU 到 GPU 的数据传输是否存在问题？

【问题讨论】：

【解决方案1】：

CIFAR10 教程中的模型非常小，因此您可能会看到很多开销。你可以看看增加批量大小是否有助于提高利用率，但如果我想对多 GPU 事物进行基准测试，我会看看更大的数据/模型。

【讨论】：