大小有限的分布式池

Question

有一个系统可以访问各种效率不高的服务。服务被调用作为处理一些消息的结果。 由于这种低效率，系统被限制为每个节点 1 个消息消费者 - 以避免使特定服务“A”过载。处理的消息会有所不同，并且可能会同时处理多条消息，所有消息都需要调用服务“A” - 因此存在限制。假设服务“A”可以处理 3 个并发连接，系统有 3 个节点，因此每个节点允许的最大消费者数为 1。

其他服务也有自己的容量，从说的3到基本无限制。

问题是 - 引入此类限制的最佳方式是什么？如果只有一个节点，只需引入一个服务客户端池就很容易了。当然，它会阻止消息消费者，直到客户端可用，但可以忍受它。但这也意味着每个节点大小为 1 的池（因为所有 3 个节点都可以开始调用服务“A”）。 对于多个节点，需要某种分布式客户端池。有这样的吗？

（我知道，如果将单个消息处理拆分为较小的消息，每个服务调用 1 个，则允许使用 JMS 队列来执行此操作，但由于消息处理的事务性质，它不可行）。

Answer 1

我看到了两种可能的解决方案。两者都基于解决问题的中间件方法，其中简单的解决方案可以解决您的特定问题，而更高级的解决方案需要更大的投资才能获得更大的灵活性和额外的好处。

简单的代理解决方案

在效率不高的服务前创建自己的中间件代理。代理将维护到后端服务的有限连接池。然后，当与后端服务的出站连接被阻塞时，只需阻止或拒绝（而不是队列）。否则只需将来自入站系统节点的请求转发到后端服务，然后用服务的响应响应系统节点。这样后端服务永远不会超载。它允许您的节点由于它们的事务性质而需要的同步通信。

系统架构师解决方案

使用功能齐全的 ESB（企业服务总线）。一种允许您对特定端点的并发连接设置限制，并允许异步和同步消息处理。然后，ESB 成为您的环境范围的流量控制器，可以将其配置为在效率不高的端点阻塞时阻止或拒绝消息。要获得更多好处，请寻找允许服务质量配置的 ESB，以防止在使用有限资源时系统节点出现饥饿，或自动重试连接到不稳定端点的尝试。