【发布时间】:2021-07-27 05:51:40
【问题描述】:
我们有一个 AKS 集群,我们希望在我们的架构中实现以下两点:
- 我们有 pod 的副本,我们希望一个 pod 只处理 1 个请求。 基本上是一个吊舱 - 一个请求设计。
- 当所有 pod 都忙时,下一个请求不应在 在 POD 级别排队,而是应该在 服务级别排队,并且一旦任何繁忙的 pod 变为空闲或可用,则只有排队的请求应在空闲 pod 上分派。
如何实现以上的东西?
【问题讨论】:
-
您好,欢迎来到 StackOverflow!您使用的是哪个版本的 Kubernetes?你试图达到#1点是什么?目前状态如何?
-
kubernetes 版本为 1.8.8。没有任何解决方案来设计#1 点
-
您使用的是非常非常旧的 Kubernetes 版本。实际稳定版本是 1.21。查看releases 页面。
-
对不起,我的错误 Kubernetes 版本是 1.18.8 。我错过了 18 位数字中的 1 个。
-
您需要编写一个可以访问 Kubernetes API 的自定义代理,该代理可以按需创建新的 Pod;这不是标准的 Kubernetes 设置。这也是一个非常重量级的设置(如果拉取和部署一个新 pod 需要几十秒,你可以很容易地达到 HTTP 请求超时),并且每个 Web 框架都支持每个进程处理多个请求。
标签: kubernetes devops azure-aks