线程池 - CPU 使用率？

Question

我正在开发一个 Windows C++ 应用程序。我们使用 boost 库。我的应用程序中有一个操作可以并行化以在多个线程上运行。线程数每次取决于操作参数，并且可能很大（比如 50 或 70）。我不想产生尽可能多的线程，因为这是应用程序对其他操作无响应的风险（因为所有处理器都可能被占用）。我怎样才能确保我不会造成我所描述的情况？线程池有帮助吗？如果有，如何帮助？

Answer 1

您可以将std::async 与默认启动策略一起使用。但是，这与 线程池 不同。

在 OpenMP 中，您可以设置固定数量的线程，然后使用 OpenMP tasks。不幸的是，C++11 中没有这样的选项。标准说，可以推迟选择是在新线程中异步调用函数还是在对相应std::future 对象调用wait 或get 的线程中同步调用该函数，但是，仍然a选择异步调用时，必须创建新线程。

Answer 2

只需创建一个线程池，例如我在这里发布的boost thread throwing exception "thread_resource_error: resource temporarily unavailable"

这里还有两种口味c++ work queues with blocking（一种使用 Asio，一种仅使用 C++11）

Answer 3

现代硬件上的 70 个线程可以轻松处理，而不会对系统性能产生任何明显影响。线程创建时间、内存使用、调度和上下文切换开销可能是一个问题，但我们不知道在您的特定情况下这是否是一个问题。

如果创建 70 个线程不是一个选项，请考虑使用 OpenMP（所有主要编译器都支持），因为它是一种非常简单且通常非常有效的解决方案：

#pragma omp parallel for
for(int i = 1; i < 100; ++i)
{
   do_task(i);
}

它使用底层的线程池。

如果由于某些原因 OpenMP 不可接受，您可以使用显式线程池。它可以是“自制”线程池（不推荐），或者来自@sehe 的答案，或者由操作系统提供的线程池（正如@Hans Passant 在他的评论中提到的那样），或者来自第 3 方库（例如英特尔线程构建模块）。

是的，线程池有助于提高响应能力，尽管默认情况下典型的线程池实现会创建线程数 == 逻辑 CPU 内核数。这意味着您的所有核心都可能忙于工作，这不一定是问题。 Windows 使用抢占式多线程。这意味着它可以处理比 CPU 数量多得多的线程数，并且仍然具有响应性。

线程池可以提供帮助，因为不可能同时执行多于您拥有的逻辑 CPU 内核数量的任务。由于更好地使用缓存和减少上下文切换次数，线程池可以更高效。或者因为可以使用相同的线程多次执行您的操作。要确定了解您的表现。