【问题标题】:Load balancing onto replicas of pods负载均衡到 Pod 的副本
【发布时间】:2021-07-27 05:51:40
【问题描述】:

我们有一个 AKS 集群,我们希望在我们的架构中实现以下两点:

  1. 我们有 pod 的副本,我们希望一个 pod 只处理 1 个请求。 基本上是一个吊舱 - 一个请求设计。
  2. 当所有 pod 都忙时,下一个请求不应在 在 POD 级别排队,而是应该在 服务级别排队,并且一旦任何繁忙的 pod 变为空闲或可用,则只有排队的请求应在空闲 pod 上分派。

如何实现以上的东西?

【问题讨论】:

  • 您好,欢迎来到 StackOverflow!您使用的是哪个版本的 Kubernetes?你试图达到#1点是什么?目前状态如何?
  • kubernetes 版本为 1.8.8。没有任何解决方案来设计#1 点
  • 您使用的是非常非常旧的 Kubernetes 版本。实际稳定版本是 1.21。查看releases 页面。
  • 对不起,我的错误 Kubernetes 版本是 1.18.8 。我错过了 18 位数字中的 1 个。
  • 您需要编写一个可以访问 Kubernetes API 的自定义代理,该代理可以按需创建新的 Pod;这不是标准的 Kubernetes 设置。这也是一个非常重量级的设置(如果拉取和部署一个新 pod 需要几十秒,你可以很容易地达到 HTTP 请求超时),并且每个 Web 框架都支持每个进程处理多个请求。

标签: kubernetes devops azure-aks


【解决方案1】:

通常,这可以通过创建一个按需创建 pod 的自定义代理来实现,但在实践中这将非常困难并且性能会很差。 David Maze 在他的评论中很好地解释了这一点:

您需要编写一个可以访问 Kubernetes API 的自定义代理,该代理可以按需创建新的 Pod;这不是标准的 Kubernetes 设置。这也是一个非常重量级的设置(如果拉取和部署一个新 pod 需要几十秒,您可以很容易地遇到 HTTP 请求超时),并且每个 Web 框架都支持每个进程处理多个请求。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2021-12-07
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-05-02
    • 2021-07-29
    • 1970-01-01
    相关资源
    最近更新 更多