即使没有锁，也会存在内存争用吗？

Question

我正在编写一个多线程代码，其中一堆std::async 调用在整个程序期间生成固定数量的线程。每个线程都以只读方式处理相同的const BigData 结构。有来自const BigData 的频繁随机读取，但线程在其他方面是完全独立的。是否可以合理地期望获得完美的扩展，或者是否会因更多的内存访问而减慢？

编辑：经过一些分析，这似乎是罪魁祸首：

class Point {
  friend Point operator+(const Point& lhs, const Point& rhs) noexcept {
    return Point{lhs.x + rhs.x, lhs.y + rhs.y, lhs.z + rhs.z};
  };
  friend Point operator-(const Point& lhs, const Point& rhs) noexcept {
    return Point{lhs.x - rhs.x, lhs.y - rhs.y, lhs.z - rhs.z};
  };

public:
  Point() noexcept;
  Point(const Real& x, const Real& y, const Real& z) noexcept
    : x{x}, y{y}, z{z} {};

private:
  Real x{0};
  Real y{0};
  Real z{0};
};

在重构我的代码以避免对operator+ 和operator- 的不必要调用后，我似乎获得了更好的扩展性。

Answer 1

是的，可能会放缓。主内存 (RAM) 带宽是有限的，如果您有多个内核快速读取大量数据，您可能会使内存总线饱和。最大内存带宽通常为每秒数十 GB（请参阅特定处理器的页面，例如 i9-9900K，显示为 41.6 GB/s）。

同样，一个物理包上的所有内核共享一个 L3 缓存，因此如果您多次读取某些数据，您的线程可能会减少缓存命中次数，因为您的线程将彼此的数据推出 L3（这是最大的缓存）。

如果您想知道某些配置会导致多少减速，您只有一个选择：测试它们。如果您提前知道可能需要什么内存，请考虑在代码中添加预取指令，尤其是在您的访问模式是非顺序的时。