【问题标题】:How tun run 2 seperate tf.keras models in a single program one on CPU and another on GPUtun 如何在一个程序中运行 2 个单独的 tf.keras 模型,一个在 CPU 上,另一个在 GPU 上
【发布时间】:2022-01-10 20:45:46
【问题描述】:

我正在训练一个深度神经网络模型,我们称之为模型 A,在我的主要训练脚本 train.py 中使用 tf.keras。 此 train.py 导入 utils.py,其中定义了为训练过程提供数据的数据生成器。 utils.py 还导入 other_utils.py,其中创建并初始化了预训练的深度 NN 模型 -MODEL B-,因为数据生成器使用它来处理训练数据。

MODEL B 的初始化已经使用了大部分 GPU 内存,让我没有足够的资源来训练 MODEL A。

导入架构如下:

train.py (MODEL A) --> utils.py (data generator) --> other_utils.py (MODEL B)

所以我想在 CPU 上运行 MODEL B 并生成数据,并在 GPU 上训练 MODEL A。

为了防止MODEL B使用GPU,我尝试在other_utils.py上设置环境变量

os.environ["CUDA_VISIBLE_DEVICES"] = "-1"

然后在 utils.py 和 train.py 上重新设置,然后导入 tensorflow

os.environ["CUDA_VISIBLE_DEVICES"] = "0"
import tensorflow

虽然设置 CUDA_VISIBLE_DEVICES = -1 会禁用 MODEL B 的 GPU,但它也会禁用 GPU 以供进一步使用,并在 train.py 上将其设置回 CUDA_VISIBLE_DEVICES = 0,然后导入 tensorflow 不会重新启用它。

那么如何在 CPU 上使用 MODEL B,在 GPU 上使用 MODEL A?

【问题讨论】:

    标签: python tensorflow keras deep-learning


    【解决方案1】:

    我使用解决方案here 来实现我的程序。

    在 CPU 上执行:

    with tf.device('/cpu:0'):
        a = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])
        b = tf.constant([[1.0, 2.0], [3.0, 4.0], [5.0, 6.0]])
        c = tf.matmul(a, b)
    
        print(c.device)
    

    输出:

    /job:localhost/replica:0/task:0/device:CPU:0
    

    在 GPU 上执行:

    with tf.device('/gpu:0'):
        a = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])
        b = tf.constant([[1.0, 2.0], [3.0, 4.0], [5.0, 6.0]])
        c = tf.matmul(a, b)
    
        print(c.device)
    

    输出:

    /job:localhost/replica:0/task:0/device:GPU:0
    

    尽管对于将使用数据生成器中的预训练模型来训练另一个模型的任何人,我必须说阻止预训练模型使用 GPU 并没有为我提供额外的 GPU 训练速度。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2015-10-17
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-07-20
      • 2021-03-31
      • 2019-06-26
      • 2011-06-07
      相关资源
      最近更新 更多