Java负载均衡Tcp代理服务器设计

Question

我想设计和实现一个代理服务器，它接受客户端请求，然后从属性文件中读取主机连接配置，并使用循环算法选择可用主机，然后通过在之间创建新套接字将客户端请求传递给选定的主机代理服务器和主机。我的问题是最佳实践应该是什么，以及如果无法访问可用的主机如何处理什么应该是适当的方式。我应该使用什么最合适的设计模式

Answer 1

这是根据某种模式在主机之间平衡负载的传统问题，您提到您的意图是使用“轮询”，但是您可以使用很多负载平衡模式，Apache camel 确实提供了大部分服务，如果你想实现纯负载均衡，试试骆驼源代码，但你可以使用稳定的骆驼实现。

Answer 2

我认为这篇文章实际上是从概念上解释了可以实现的不同负载平衡算法。 load balancing algorithms

使用简单的循环，如果在尝试分派客户端的传入请求时任何主机[i] 不可用，只需将其状态标记为不可用。

1. 一种策略是永远忽略不可用的主机。

2. 另一种选择是下次仍然检查不可用的主机，以防它再次可用。

3. 可以使用另一种更好的主动监控方式，即定期在代理服务器和主机之间发送心跳以确定可用性，而不是在请求调度时。

但使用哪种方式实际上取决于您的性能目标（例如吞吐量、延迟）、每个主机的处理能力等。