如何管理负载平衡

Question

有一个特定组织的10 服务器。给它一些负载平衡算法。还要考虑这样一种情况，其中一台服务器需要 10 秒来处理请求，而其他服务器只需要 1 秒。那么，您将如何管理这个瓶颈？

Answer 1

有几种方法可以做到这一点，但最好的方法之一是按成本进行负载平衡。 在这种类型的平衡中，我们根据它们之间的distance、它们之间的子网络策略、它们之间的数据传输介质等，为从客户端到服务器的每个连接分配一个成本，然后我们尝试将连接重新定位/引用到该服务器，从而使连接的总体成本最低。

Answer 2

可能是一个简单的解决方案：在每 10 个任务中，将第一个任务分配给需要 10 秒的服务器。接下来的 9 个任务会转到需要 1 秒的服务器。

当然，在这里我假设任务以 1 秒的间隔进入。有了这个假设和上述方法，两台服务器都得到了充分利用。