指定任务资源：分数 gpu

【问题标题】：Specifying Task Resources: Fractional gpu指定任务资源：分数 gpu
【发布时间】：2021-01-30 12:30:01
【问题描述】：

有没有办法为任务指定分数 gpu 要求？在 Dask 网页的 example 中，它指定了单个 GPU。

from distributed import Client
client = Client('scheduler:8786')

data = [client.submit(load, fn) for fn in filenames]
processed = [client.submit(process, d, resources={'GPU': 1}) for d in data]
final = client.submit(aggregate, processed, resources={'MEMORY': 70e9})

为小型模型分配一个 GPU 将是一种浪费。

Ray库有doing this的方式。

【问题讨论】：

标签： gpu dask

【解决方案1】：

是的，允许使用部分资源。

一般来说，资源是任意的单位，所以如果你用“GPU=2”或一些“foo=10”来实例化调度器，调度器会在任务分配期间跟踪这些资源，但调度器并不真正知道（或关心）什么是“GPU”或“foo”。提交任务时可以通过{"GPU": 0.25}，调度器会分配多个任务分配给GPU worker，例如，如果调度器被告知每个worker有"foo=10"，那么调度器会要求每个worker并发运行最多使用{"foo":1} 提交的十个任务。

【讨论】：