【问题标题】:Do we still need a connection pool for microservices talking HTTP2?我们还需要一个连接池来支持 HTTP2 的微服务吗?
【发布时间】:2019-09-22 22:27:44
【问题描述】:

由于 HTTP2 支持多路复用,我们还需要一个连接池来进行微服务通信吗? 如果是,拥有这样一个游泳池有什么好处?

示例: 服务 A => 服务 B

上述两种服务都只有一个实例可用。

多个连接可能有助于克服每个连接(套接字)的操作系统缓冲区大小限制?还有什么?

【问题讨论】:

  • 第一个问题是微服务如何使用HTTP/2。他们是多路复用请求吗?在我看来,池总是一件好事,可能是所需的分离层。池可以使用多路复用,您的应用仍然需要一个池。
  • 是的,微服务是多路复用请求。除了分离层,还有什么性能优势?
  • 当然我猜,我自己还没用过http2。
  • 我可以看到有一些好处。例如,单个连接(套接字)将对套接字缓冲区大小(提供的操作系统)有一些限制。我只想知道其他好处是什么

标签: microservices connection-pooling rpc http2


【解决方案1】:

是的,您仍然需要在与微服务联系的客户端中使用连接池。

首先,通常是服务器控制多路复用的数量。一个特定的微服务服务器可能决定它不能允许超出非常小的多路复用。
如果客户端想要以更高的负载使用该微服务,则需要准备打开多个连接,这就是连接池派上用场的地方。 这对于处理负载峰值也很有用。

其次,HTTP/2 具有流量控制,这可能会严重限制单个连接上的数据吞吐量。如果流控窗口很小(HTTP/2规范定义的默认是65535字节,这对于微服务来说通常很小),那么客户端和服务器会花费相当多的时间来交换WINDOW_UPDATE帧来放大流控windows,这对吞吐量是不利的。
为了克服这个问题,您要么需要更多的连接(并且客户端应该为此做好准备),要么需要更大的流量控制窗口。

第三,在 HTTP/2 流控制窗口较大的情况下,您可能会遇到 TCP 拥塞(这与套接字缓冲区大小不同),因为消费者比生产者慢。它可能是用于客户端上传的慢速服务器(具有大负载的 REST 请求),或用于服务器下载的慢速客户端(具有大负载的 REST 响应)。
再次为了克服 TCP 拥塞,解决方案是打开多个连接。

比较 HTTP/1.1 和 HTTP/2 的微服务用例,通常 HTTP/1.1 连接池比 HTTP/2 连接池大得多(例如 10x-50x),但您仍然需要 HTTP 中的连接池/2 出于上述原因。

[免责声明我是Jetty 中的 HTTP/2 实施者]。
我们有一个初始实现,其中 Jetty HttpClient 使用 HTTP/2 传输,每个域有一个硬编码的单个连接,因为这就是 HTTP/2 为浏览器所宣扬的。
当接触到现实世界的用例(尤其是微服务)时,我们很快意识到这是多么糟糕的想法,并转而使用 HTTP/2 的连接池(就像 HttpClient 一直为 HTTP/1.1 所做的那样)。

【讨论】:

  • 非常感谢您提供如此详细的答案。您还可以指出任何使用 Jetty HTTP/2 客户端的好例子吗?您是否建议使用 TLS 运行内部微服务? (因为大多数使用 HTTP/2 的服务器默认都有它)由于增加了握手和协商,应该是创建连接的时候了。在实践中是一样的吗?还是不显眼?
  • Jetty HTTP/2 客户端示例:eclipse.org/jetty/documentation/9.4.x/…。通过 TLS 在内部运行内部微服务取决于您想要多少机密性。如果没有 TLS,你会更快,但没有机密性。 Jetty 服务器可以毫无问题地理解明文 HTTP/2(这就是在这种情况下通常部署的方式)。创建 HTTP/2 连接通常成本高昂(使用或不使用 TLS),但通常通过将其用于许多请求来摊销。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2023-03-11
  • 2021-10-22
  • 2011-04-05
  • 2019-08-12
  • 2015-04-18
  • 2019-10-02
  • 1970-01-01
相关资源
最近更新 更多