【问题标题】:Can I create multiple virtual devices from multiple GPUs in Tensorflow?我可以在 Tensorflow 中从多个 GPU 创建多个虚拟设备吗?
【发布时间】:2020-12-07 11:53:47
【问题描述】:
我目前在 Tensorflow 2.3.0 中使用 Local device configuration 来模拟多个 GPU 训练,并且它正在工作。如果我购买另一个 GPU,我是否能够对每个 GPU 使用相同的功能?
现在我有 4 个虚拟 GPU 和一个物理 GPU。我想购买另一个 GPU,并希望拥有 2x4 虚拟 GPU。我还没有找到任何关于它的信息,而且因为我现在没有另一个 GPU,所以我无法测试它。是否支持?恐怕不是。
【问题讨论】:
标签:
tensorflow
machine-learning
multi-gpu
【解决方案1】:
是的,您可以拥有额外的 GPU,因为您可以使用您拥有的所有 GPU 设备的 GPU 数量没有限制。
正如您在文档中看到的那样,
默认情况下,可见的 tf.config.PhysicalDevice 将有一个
tf.config.LogicalDevice 一旦运行时与之关联
初始化。指定 tf.config.LogicalDeviceConfiguration 列表
对象允许在同一个设备上创建多个设备
tf.config.PhysicalDevice
您可以关注this 文档以获取有关使用多个 GPU 的更多详细信息。