比线程处理程序更多的连接

Question

假设我的 API 中有两个端点（之前在 Spring 中）：

@RequestMapping("/async")
public CompletableFuture<String> g(){
    CompletableFuture<String> f = new CompletableFuture<>();
    f.runAsync(() -> {
        try {
            Thread.sleep(5000);
            f.complete("Finished");
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    });
    Thread.sleep(1000);
    return f;
}

@RequestMapping("/sync")
public String h() throws InterruptedException {
    Thread.sleep(5000);
    Thread.sleep(1000);
    return "Finished";
}

当我发送 2 个 get 请求（只是单个 get 请求）到：

localhost:8080/async --> 回复5024ms

localhost:8080/sync --> '6055ms` 中的响应

这是有道理的，因为我们只发送一个单个请求。现在，当我使用 Siege 进行涉及 255 个并发用户的负载测试时，事情变得有趣了。

在这种情况下，我的 async API 端点无法处理很多连接。

所以async 没有那么可扩展。

这取决于我的硬件吗？假设我有能够处理更多线程处理程序的硬件，然后使用重型硬件，异步处理程序是否能够处理更多事务，因为有更多线程？

Answer 1

您仍在使用 ForkJoinPool.commonPool() 进行异步调用。我告诉过你它很小，它会被填满。试试这个（我也修复了你的CompletableFuture 代码，因为它完全错误，只是在你的示例中没有显示）。

CompletableFuture<Void> f = CompletableFuture.runAsync(() -> {
        try {
            Thread.sleep(5000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    }, Executors.newSingleThreadExecutor());
return f;

现在每个异步调用都有自己的执行程序，因此它不会阻塞公共池。当然，由于所有异步调用都有自己的执行程序，这是一个不好的例子。您想使用共享池，但要比公共池大。

它与您的硬件没有任何关系（嗯，很少）。它与长期运行的操作和短期运行的操作混合在一起。