【问题标题】:How to use multiple GPUs for separate training with Tensorflow?Tensorflow 如何使用多个 GPU 进行单独训练?
【发布时间】:2021-04-24 12:09:40
【问题描述】:

我浏览了许多关于在 TensorFlow 中使用多个 GPU 的文章和帖子。它在“如何使用并行 GPU 训练 NN(神经网络)”方面帮助了我更多 here。但我有一个不同的问题。可以使用单独的 GPU 同时训练不同的神经网络吗?

更多细节:

我有神经网络 ABGPU1GPU2。我想同时在GPU1B NN 上训练A NN GPU2。有可能吗?

【问题讨论】:

标签: tensorflow gpu distributed-computing multi-gpu


【解决方案1】:

我建议使用两个单独的 Python 脚本来训练这两个网络,例如 trainA.pytrainB.py

trainA.py 的前两行中,您选择您喜欢的 GPU。

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"

对于trainB.py,您选择另一个 GPU:

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1"

现在您应该可以同时运行两个训练脚本了。

【讨论】:

    猜你喜欢
    • 2018-03-03
    • 2021-06-13
    • 2017-09-10
    • 1970-01-01
    • 1970-01-01
    • 2016-10-20
    • 2021-10-03
    • 2021-11-09
    相关资源
    最近更新 更多