在 .net Core、C# 中并行调用 API 调用的最佳方法是什么？

Question

我想并行调用我的 API x 次，以便可以快速完成处理。 我有以下三种方法，我必须并行调用 API。我正在尝试了解执行此操作的最佳方式。

基本代码

var client = new System.Net.Http.HttpClient();
client.DefaultRequestHeaders.Add("Accept", "application/json");

client.BaseAddress = new Uri("https://jsonplaceholder.typicode.com");
var list = new List<int>();

var listResults = new List<string>();
for (int i = 1; i < 5; i++)
{
    list.Add(i);
}

使用 Parallel.ForEach 的第一种方法

Parallel.ForEach(list,new ParallelOptions() { MaxDegreeOfParallelism = 3 }, index =>
{
    var response = client.GetAsync("posts/" + index).Result;

    var contents =  response.Content.ReadAsStringAsync().Result;
    listResults.Add(contents);
    Console.WriteLine(contents);
});

Console.WriteLine("After all parallel tasks are done with Parallel for each");

任务的第二种方法。我不确定这是否并行运行。如果有请告诉我

var loadPosts = new List<Task<string>>();
foreach(var post in list)
{
    var response = await client.GetAsync("posts/" + post);

    var contents = response.Content.ReadAsStringAsync();
    loadPosts.Add(contents);
    Console.WriteLine(contents.Result);
}

await Task.WhenAll(loadPosts);

Console.WriteLine("After all parallel tasks are done with Task When All");

使用动作块的第三种方法 - 这是我认为我应该一直做的，但我想听听来自社区的意见

var responses = new List<string>();

var block = new ActionBlock<int>(
    async x => {
        var response = await client.GetAsync("posts/" + x);
        var contents = await response.Content.ReadAsStringAsync();
        Console.WriteLine(contents);
        responses.Add(contents);                
    },
    new ExecutionDataflowBlockOptions
    {
        MaxDegreeOfParallelism = 6, // Parallelize on all cores
    });

for (int i = 1; i < 5; i++)
{
    block.Post(i);
}

block.Complete();
await block.Completion;

Console.WriteLine("After all parallel tasks are done with Action block");

Answer 1

方法 2 接近。这是一条经验法则：I/O 绑定操作 => 使用 Tasks/WhenAll（异步），计算绑定操作 => 使用并行。 Http 请求是网络 I/O。

            foreach (var post in list)
            {
                async Task<string> func()
                {
                    var response = await client.GetAsync("posts/" + post);
                    return await response.Content.ReadAsStringAsync();
                }

                tasks.Add(func());
            }

            await Task.WhenAll(tasks);

            var postResponses = new List<string>();

            foreach (var t in tasks) {
                var postResponse = await t; //t.Result would be okay too.
                postResponses.Add(postResponse);
                Console.WriteLine(postResponse);
            }

Answer 2

我制作了一个小控制台应用程序来测试 ping API“https://jsonplaceholder.typicode.com/todos/{i}”的所有方法 200 次。 @MikeLimaSierra 方法 1 或 3 是最快的！

Method	DegreeOfParallelism	Time
Not Parallel	n/a	8.4 sec
@LearnAspNet (OP) Method 1	2	5.494 sec
@LearnAspNet (OP) Method 1	30	1.235 sec
@LearnAspNet (OP) Method 3	2	4.750 sec
@LearnAspNet (OP) Method 3	30	1.795 sec
@jamespconnor Method	n/a	21.5 sec
@YuliBonner Method	n/a	21.4 sec

Answer 3

我会使用以下，它无法控制并发（它会并行调度所有 HTTP 请求，与您的第三种方法不同）但它要简单得多 - 它只有一个 await。

var client = new HttpClient();
var list = new[] { 1, 2, 3, 4, 5 };
var postTasks = list.Select(p => client.GetStringAsync("posts/" + p));
var posts = await Task.WhenAll(postTasks);
foreach (var postContent in posts)
{
    Console.WriteLine(postContent);
}