是否可以同时开始多个培训？

Question

我刚开始编写 DNN，我想知道是否可以同时启动多个训练？就像使用不同的参数一样。还是会大大减慢训练速度？

这里是上下文：我使用 Ganomaly 架构来发现图片中的异常，我必须改变并尝试一些不同的组合。我使用 Anaconda，在训练期间，它显示大约 20% 的内存正在被使用。我的设置：Nvidia Quadro M6000、Cuda 9.0、cudNN 7.0。

Answer 1

是否可以同时开始多个训练？

是的，可以启动多个实例，但肯定会影响您的训练速度。

一种可能的解决方案是将GridSearchCV 集成到sklearn 和Keras 模型中。为此，Keras 还提供了一个包装器，称为keras.wrappers.scikit_learn，您可以将GridSearchCV 中的作业数设置为-1，以便并行运行它们。详情请见here。

这里是超参数优化方案的列表。

• HyperKeras
• Kopt
• Talos

更多详情请见here。

另一个可能的选项是 Google-hyper-tuning，它当然需要在云上运行。详情请见here。