Kubernetes HPA。右下比例设置

Question

我在我的项目中使用 Kubernetes，特别是 HPA。因此，在项目中的每一分钟，我们都会启动check-status 请求检查所有微服务是否可用。可用性由每个微服务的一个副本（不是全部）的简单响应来定义。
但我有一个与 HPA 相关的时刻。当 HPA 自动决定从集群中删除一些 pod 并且我的 check-status 请求同时到达服务器时，我的 API 网关服务经常将其推送到已删除的 pod 并且没有得到任何响应。这意味着我们的服务器无法使用微服务。
我的问题是设置自动缩放器以避免这种情况的最佳方法是什么。

Answer 1

在这种情况下，它与 HPA 无关，但更多的是关于您如何优雅地关闭您的 pod。

简而言之，您的服务/LB 不知道您的 pod 是否已准备好接受新请求，因此在 SIGTERM 信号上，您的 pod 应将您的 readiness probe 设置为 false，并为应用程序留出一些时间关掉。如果您的就绪探测不正常，该服务将不会向您的 pod 发送新请求。 然后，您可以在所有请求都得到处理且 pod 不会收到新请求后将其关闭。

我建议您阅读以下资源：

• https://cloud.google.com/blog/products/containers-kubernetes/kubernetes-best-practices-terminating-with-grace
• https://pracucci.com/graceful-shutdown-of-kubernetes-pods.html