在线程池中分配工作负载的算法

Question

假设我们有 T 个线程，我们想将大小为 N 的问题分配给这些线程。每个线程都会选择该问题的一部分来执行它。每个线程将使用 thread_id（从 0 到 T-1 的数字）、T 和 N 来计算子问题的范围。假设子问题的范围是[S, E)，其中S和E属于[0, N]。

例如。假设我们有一个整数数组。数组的大小为 10。我们希望将该数组的每个元素增加 1，并且我们希望使用 4 个线程并行执行此操作。

• thread_id==0 的第一个线程将使用范围 [0, 3)
• thread_id==1 的第二个线程将使用范围 [3, 6)
• thread_id==2 的第三个线程将使用范围 [6, 8)
• thread_id==3 的第 4 个线程将使用范围 [8, 10)

有人知道计算这些范围的快速算法吗？最好没有原子或分支。

Answer 1

如果我理解正确，您是在寻找这样的等式吗？

S = floor(thread_id * N/T)
E = floor((thread_id + 1) * N/T)

如果您先相乘 (threadId * N) 然后再除 (/N)，您可以使用整数进行计算，而无需使用 floor 函数。

Answer 2

我认为这两个例子应该可行。所有操作都是整数。除了标明不是的那个。

这个逻辑更简单，但它不会按您的要求分配工作。它会将更大的工作分配给所有工作人员，除了最后一个工作份额会显着降低。这在理论上应该不是问题，因为一名工人的最大工作量保持不变。

items_per_thread = ceil(N/T); // This is not an integer division.
start = thread_id*items_per_thread;
stop = min(start+items_per_thread, N);

这个应该根据你的需要分配工作。

items_per_thread = N/T;
start = thread_id*items_per_thread+min(thread_num, N mod T);
stop = start+items_per_thread;
if(thread_num < N mod T) stop += 1;

我认为不可能避免分支。

感觉很冒险，我在python中做了一个live demo，它也包含了ciamej的方法。：

import math
def distribution1(id ,N, T):
    items_per_thread = math.ceil(N/T);
    start = id*items_per_thread;
    stop = min(start+items_per_thread, N);
    return (start, stop)

def distribution2(id ,N, T):
    items_per_thread = math.floor(N/T);
    start = id*items_per_thread+min(id, N % T);
    stop = start+items_per_thread;
    if(id < N % T): stop += 1;
    return (start, stop)

def distribution3(id ,N, T):
    S = math.floor(id * N/T)
    E = math.floor((id + 1) * N/T)
    return (S,E)

def distribute(N, T, method):
    ret = []
    for i in range(T):
        ret.append(method(i, N, T))
    return ret

N=10
T=4
print(distribute(N, T, distribution1))
print(distribute(N, T, distribution2))
print(distribute(N, T, distribution3))

输出：

[(0, 3), (3, 6), (6, 9), (9, 10)]
[(0, 3), (3, 6), (6, 8), (8, 10)]
[(0, 2), (2, 5), (5, 7), (7, 10)]