Task.StartNew() 与 Parallel.ForEach ：多个 Web 请求场景

Question

我已经阅读了 SO 中的所有相关问题，但对于触发多个 Web 服务调用的场景的最佳方法有点困惑。

我有一个聚合器服务，它接受输入，解析并将其转换为多个 Web 请求，进行 Web 请求调用（不相关，因此可以并行触发）并合并发送回调用者的响应。现在使用下面的代码-

list.ForEach((object obj) =>
{
     tasks.Add(Task.Factory.StartNew((object state) => 
     {
           this.ProcessRequest(obj);
     }, obj, CancellationToken.None,
     TaskCreationOptions.AttachedToParent, TaskScheduler.Default));
});
await Task.WhenAll(tasks);

await Task.WhenAll(tasks) 来自 Scott Hanselman 的 post，据说

“斯蒂芬说，从可扩展性的角度来看，一个更好的解决方案是 利用异步 I/O。当你呼唤对面 网络，没有理由（除了方便）阻止 线程等待响应返回”

现有代码似乎消耗了太多线程，并且处理器时间在生产负载上飙升至 100%，这让我开始思考。

另一种替代方法是使用 Parallel.ForEach，它使用分区器但也“阻止”调用，这对我的场景来说很好。

考虑到这是所有“异步 IO”工作而不是“CPU 绑定”工作，并且 Web 请求运行时间不长（最多 3 秒返回），我倾向于相信现有代码已经足够好。但这会提供比 Parallel.ForEach 更好的吞吐量吗？ Parallel.ForEach 可能使用“最少”数量的任务，因为分区和线程的最佳使用（？）。我确实用一些本地测试测试了 Parallel.ForEach，但它似乎并没有更好。

目标是减少 CPU 时间并提高吞吐量，从而提高可扩展性。是否有更好的方法来并行处理 Web 请求？

感谢任何输入，谢谢。

编辑： 代码示例中显示的 ProcessRequest 方法确实使用 HttpClient 及其异步方法来触发请求（PostAsync、GetAsync、PutAsync）。

Answer 1

进行网络请求调用（不相关，因此可以并行触发）

您真正想要的是同时调用它们，而不是并行。即“同时”，而不是“使用多个线程”。

现有代码似乎消耗了太多线程

是的，我也这么认为。 :)

考虑到这是所有“异步 IO”工作，而不是“CPU 绑定”工作

那么这一切都应该异步完成，并且不使用任务并行或其他并行代码。

正如 Antii 指出的，你应该让你的异步代码异步：

public async Task ProcessRequestAsync(...);

那么你想要做的是使用 异步并发 (Task.WhenAll)，而不是并行并发 (StartNew/Run/Parallel ):

await Task.WhenAll(list.Select(x => ProcessRequestAsync(x)));

Answer 2

如果您受 CPU 限制（您是 - “处理器时间高达 100%”），您需要减少 CPU 使用率。异步 IO 对此没有任何帮助。如果有的话，它会导致更多的 CPU 使用（此处不明显）。

分析应用程序以查看占用如此多 CPU 时间的原因并优化该代码。

您启动并行的方式（并行、任务、异步 IO）对并行操作本身的效率没有任何影响。如果您以异步方式调用它，网络不会变得更快。它仍然是相同的硬件。也不会减少 CPU 使用率。

通过实验确定最佳并行度，并选择适合该度的并行技术。如果是几十个，那么线程就完全没问题了。如果是数百个，请认真考虑异步 IO。

Answer 3

在 Task.Factory.StartNew 中包装同步调用不会给您带来任何异步的好处。您应该使用适当的异步函数以获得更好的可伸缩性。请注意 Scott Hanselman 在您所指的帖子中如何使用异步函数。

例如

public async Task<bool> ValidateUrlAsync(string url)
{
    using(var response = (HttpWebResponse)await WebRequest.Create(url).GetResponseAsync())
    return response.StatusCode == HttpStatusCode.Ok;
}

结帐http://blogs.msdn.com/b/pfxteam/archive/2012/03/24/10287244.aspx

所以， 你的 ProcessRequest 方法应该像异步一样实现

public async Task<bool> ProcessRequestAsync(...)

那么你就可以了

tasks.Add(this.ProcessRequestAsync(obj))

如果您使用 Task.Factory.StartNew 启动任务，即使您的 ProcessRequest 方法在内部进行异步调用，它也不能作为异步工作。如果你想使用 Task.Factory 你应该让你的 lambda 也异步：

tasks.Add(Task.Factory.StartNew(async (object state) => 
{
    await this.ProcessRequestAsync(obj);
}, obj, CancellationToken.None, TaskCreationOptions.AttachedToParent,   TaskScheduler.Default));