Parallel ForEach 在不同的场合给出不同的结果

Question

我从未使用过Parallel.ForEach，但我玩过它并发现了这种情况。

我运行一个并行循环（在 msdn https://msdn.microsoft.com/en-us/library/dd997393(v=vs.110).aspx 上找到的代码确实使用 subtotal *=2 对其进行了编辑，以尝试了解它在做什么）首先使用可枚举范围 (0,1) 然后 (0,1,2) 然后我运行第二个再一次，但在线程休眠 200 毫秒后，结果就不同了

如果Thread.sleep(200)没有被注释掉，这就是结果

result 1 = 2
result 2 = 6
result 3 = 4

如果Thread.sleep(200)被注释掉，这就是结果

result 1 = 2 
result 2 = 6
result 3 = 6

这里是代码

Stopwatch timer = new Stopwatch();
int[] nums = Enumerable.Range(0, 1).ToArray();
long total = 0;
for (int i = 0; i < 2; i++)
{
     timer.Restart();
     total = 0;
     if (i == 0) nums = Enumerable.Range(0, 1).ToArray();
     if (i == 1) nums = Enumerable.Range(0, 2).ToArray();
     Parallel.ForEach<int, long>(nums,() => 0,(j, loop, subtotal) =>
     {
       subtotal += 1;
       subtotal *= 2;
       return subtotal;
     },(finalResult) => Interlocked.Add(ref total, finalResult)); 

     Console.WriteLine("The total from Parallel.ForEach is {0:N0} and took {1}", total, timer.Elapsed);
     timer.Stop();
     //Thread.Sleep(200);
}

timer.Restart();
nums = Enumerable.Range(0, 2).ToArray();
total = 0;
Parallel.ForEach<int, long>(nums, () => 0,  (j, loop, subtotal) =>
{
    subtotal += 1;
    subtotal *= 2;
    return subtotal;
},(finalResult) => Interlocked.Add(ref total, finalResult)); 

Console.WriteLine("The total from Parallel.ForEach is {0:N0} and took {1}", total, timer.Elapsed);
timer.Stop();

我认为这与线程相互工作有关，但这似乎是一个错误

注意我确实看过Simulation gives different result with normal for loop Vs Parallel For
为什么会这样？

Answer 1

因为这段代码定义不明确：

 Parallel.ForEach<int, long>(nums,() => 0,(j, loop, subtotal) =>
 {
   subtotal += 1;
   subtotal *= 2;
   return subtotal;
 },(finalResult) => Interlocked.Add(ref total, finalResult));

如果单个线程执行两个迭代，那么你会得到结果 6。实际上，你这样做：

subTotal = 0; //From init
subTotal += 1; //=1 First iteration
subTotal *= 2; //=2 First iteration
subTotal += 1; //=3 Second iteration
subTotal *= 2; //=6 Second iteration
total += subTotal; //=6 End gathering (actually interlocked)

但是如果两个线程共享工作，你会得到

subTotal1 = 0; //From init
subTotal2 = 0; //From init
subTotal2 += 1; //=1
subTotal1 += 1; //=1
subTotal1 *= 2; //=2
subTotal2 *= 2; //=2
total += subTotal1 //=2 End gathering 1 (interlocked)
total += subTotal2 //=4 End gathering 2 (interlocked)