Colab 中 CPU 和 GPU 和 TPU 使用的运行时间没有差异

Question

我执行了一些预处理问题，大约需要。 Google Colab 中的 CPU 运行时间为 14 分钟。但是当我切换到 GPU 或 TPU 时，运行时间不会改变，尽管它显示：

在以下位置找到 TPU：grpc://10.113.22.130:8470

有没有什么具体的方法可以利用TPU的资源来减少运行时间？

Answer 1

如果您想在 Colab 中实际使用 GPU/TPU，那么您通常需要添加额外的代码（运行时不会自动检测硬件，至少对于 TPU）。

Here 是一个 Colab 示例，您可以按照该示例来使用 TPU。但是我会注意到，无论是在 CPU 还是 GPU 上运行，数据预处理通常都会在 CPU 上运行，并且当您加速实际训练时，加速器的魔力就会发挥作用。

如果您想加快预处理速度，最佳做法是使用tf.data。您可以详细了解如何使用 TF 数据来提高性能here。