多个 Parallel.ForEach 调用，MemoryBarrier？

Question

我有一堆数据行，我想使用 Parallel.ForEach 像这样计算每一行的一些值...

class DataRow
{
    public double A { get; internal set; }
    public double B { get; internal set; }
    public double C { get; internal set; }

    public DataRow()
    {
        A = double.NaN;
        B = double.NaN;
        C = double.NaN;
    }
}

class Program
{
    static void ParallelForEachToyExample()
    {
        var rnd = new Random();
        var df = new List<DataRow>();

        for (int i = 0; i < 10000000; i++)
        {
            var dr = new DataRow {A = rnd.NextDouble()};
            df.Add(dr);
        }

        // Ever Needed? (I)
        //Thread.MemoryBarrier();

        // Parallel For Each (II)
        Parallel.ForEach(df, dr =>
        {
            dr.B = 2.0*dr.A;
        });

        // Ever Needed? (III)
        //Thread.MemoryBarrier();

        // Parallel For Each 2 (IV)
        Parallel.ForEach(df, dr =>
        {
            dr.C = 2.0 * dr.B;
        });
    }
}

(在这个例子中，没有必要并行化，如果有的话，它可以全部放在一个 Parallel.ForEach 中。但这意味着是一些代码的简化版本，像这样设置它是有意义的)。

是否可以在此处对读取进行重新排序，以便最终得到 B != 2A 或 C != 2B 的数据行？

假设第一个 Parallel.ForEach (II) 分配工作线程 42 处理数据行 0。第二个 Parallel.ForEach (IV) 分配工作线程 43 处理数据行 0（与第一个 Parallel.ForEach 相同） ForEach 完成）。线程 43 上第 0 行的 dr.B 读取是否有可能返回 double.NaN，因为它还没有看到线程 42 的写入？

如果是这样，在 III 处插入内存屏障是否有帮助？这是否会强制第一个 Parallel.ForEach 的更新在第二个 Parallel.ForEach 启动之前对所有线程可见？

Answer 1

Parallel.ForEach() 开始的工作将在它返回之前完成。在内部，ForEach() 为每次迭代生成一个 Task，并在每个迭代上调用 Wait()。因此，您无需在 ForEach() 调用之间同步访问。

您确实需要记住，对于具有ForEach() 重载的单个任务，这些任务允许您访问循环状态、聚合来自任务的结果等。例如，在这个简单的例子中总结1 ≤ x ≤ 100，传递给localFinally的Parallel.For()的Action不得不关注同步问题，

var total = 0;

Parallel.For(0, 101, () => 0,  // <-- localInit
(i, state, localTotal) => { // <-- body
  localTotal += i;
  return localTotal;
}, localTotal => { <-- localFinally
  Interlocked.Add(ref total, localTotal); // Note the use of an `Interlocked` static method
});

// Work of previous `For()` call is guaranteed to be done here

Console.WriteLine(total);

在您的示例中，没有必要在 ForEach() 调用之间插入内存屏障。具体来说，循环IV 可以取决于II 正在完成的结果，并且Parallel.ForEach() 已经为您插入III。

片段来自：Parallel Framework and avoiding false sharing

Answer 2

由于多个线程将访问同一个变量“dr.B”，因此您需要确保您的 C# 代码是线程安全的。

尝试在每个操作中使用“锁定” https://msdn.microsoft.com/en-us/library/c5kehkcz.aspx

例如

private Object thisLock1 = new Object();
...
lock(thisLock1)
{
    dr.C = 2.0 * dr.B;
}

...
lock(thisLock1)
{
    dr.B = 2.0*dr.A;
}

但是，这样做会破坏并行处理。因为每个线程都必须等到下一个线程完成。

请务必阅读并行处理的潜在缺陷： https://msdn.microsoft.com/en-us/library/dd997403%28v=vs.110%29.aspx