使用 Docker 容器扩展服务

Question

我在 docker 中运行一个 java 服务，它基本上是一个套接字服务器。我能够使用 docker 容器运行它，并且能够在主机上发布和公开端口，并且能够使用客户端进行连接。到目前为止一切正常。

这个 java 服务是单线程的，需要这样。因此，为了能够同时处理多个请求，我需要能够扩展它——通过动态生成多个 docker 容器以在不同的端口上运行

我正在考虑编写一个“监听器”，它将接收来自客户端的请求，在随机端口上生成一个带有 java 服务的 docker 容器，将 ip 和端口共享给客户端，从那时起，客户端将直接连接基于 docker 的 java 服务。所以基本上编写一个代理来使用 docker SDK 来处理这个问题。这种方法听起来正确吗？还有其他更好的方法吗？

谢谢

编辑

我需要的是“按需扩展”——每个客户请求一个新实例。不像为负载平衡或高可用性进行缩放。所以我需要能够将新生成的 docker 容器的 IP 和端口共享给客户端，然后客户端可以直接与容器连接。

编辑#2

我设置了 Kubernetes 并在其上部署了一个虚拟的 java 套接字服务。我有两个节点都具有公共 IP。我确认我能够以两种方式连接到服务器套接字 (1) 通过在所需主机端口上连接服务的负载均衡器 (2)通过在容器获取的随机端口上连接两个节点的公网ip并映射到所需的主机端口

这意味着如果我在容器启动时编写一个脚本来将容器（节点）ip 和它获得的随机端口发布到一些外部实体，如 MongoDB 或类似的东西，我的经纪人可以分享那个与客户端程序开始直接通信。

这听起来可行吗？

Answer 1

您只是在重新发明轮子。已经有可用的工具来实现您想要的。

Docker 原生有Docker swarm。它是 Docker 容器的原生容器编排框架。 Docker swarm 中的容器实例默认是负载均衡的。

您只需指定容器所需的副本数量，传入的请求将在 swarm 中的所有实例之间进行负载平衡。

客户端不应该知道容器的 IP 是什么。客户端只知道主机 IP/DNS 和容器正在侦听的端口。然后，客户端对该主机的请求将以循环方式进行负载平衡。