Openshift 4.x - 请求超过并发属性值答案

【问题标题】：Openshift 4.x - Requests more than concurrency property valueOpenshift 4.x - 请求超过并发属性值
【发布时间】：2021-07-29 18:50:59
【问题描述】：

我们使用 Openshift 4.x。对于 API，min pods 为 5，max 为 8。水平自动缩放基于 avg. CPU 利用率百分比。属性 haproxy.router.openshift.io/pod-concurrent-connections = '10' --> 将每个 Pod 的连接数限制为 10。如果我们收到更多对 pod 的请求会怎样？它是在队列中等待还是 Pod 水平扩展？以下是此 API 的 Routes 中的当前配置： haproxy.router.openshift.io/disable_cookies: 'true' haproxy.router.openshift.io/balance: roundrobin haproxy.router.openshift.io/pod-concurrent-connections: '10' haproxy.router.openshift.io/timeout: 50s

【问题讨论】：

标签： concurrency connection openshift

【解决方案1】：

如果达到定义的 CPU 限制，HPA 将生成一个新的 pod，而不是基于连接数
因此，要回答您的问题“如果我们收到更多对 pod 的请求会怎样？”，答案是

是的，如果当时每个 pod 的 10 个连接使 pod 消耗的 CPU 超过 HPA 中定义的 CPU 限制，
否则没有，所以请求将在 HAProxy 中排队

如果 CPU 超过定义的限制，HPA 也可能在此之前生成另一个 pod。这 2 个指标（连接数和 CPU 消耗）在 k8s/OCP 的上下文中不相关

请记住，HPA 中定义的 CPU 限制是当时观察到的所有正在运行的 Pod 的平均 CPU

【讨论】：

感谢您为我提供见解。