Ktor、Netty 和增加每个端点的线程数

Question

使用 Ktor 和 Kotlin 1.5 实现由 Netty 支持的 REST 服务。关于这项服务的几点说明：

1. “工作”需要很长时间才能完成。
2. 一个唯一的客户端端点并行向该服务发送多个请求。
3. 只有少数几个独特的客户端端点。

服务未按预期扩展。我们对来自单个客户端的并行请求进行了负载测试，我们注意到服务器上只有两个线程实际处理请求。这不是资源匮乏的问题 - 有大量的网络、内存、CPU 等，我们并行启动多少请求并不重要 - 总是有两个线程保持忙碌，而其他线程则处于空闲状态。

我们是否可以配置一个参数来增加可用于处理特定端点请求的线程数？

Answer 1

Netty 使用所谓的非阻塞 IO 模型 (http://tutorials.jenkov.com/java-concurrency/single-threaded-concurrency.html)。

在这种情况下，你只有一个线程，它可以并行处理很多子进程，只要你遵循最佳实践（不阻塞主线程事件循环）。

Answer 2

您可能需要检查 Netty https://ktor.io/docs/engines.html#configure-engine 的以下配置选项

connectionGroupSize = x
workerGroupSize = y
callGroupSize = z

默认值通常设置得相当低，调整它们可能对耗时的“工作”很有用。确切的值可能会因可用资源而异。