并发请求的 GCP 负载平衡器“failed_to_connect_to_backend”

Question

我最近从 nginx 迁移到 GCP 负载均衡器。使用 nginx，我从来没有失败过 “无法连接到后端”。从 nginx 迁移到 GCP 负载均衡器后，我开始多次出现 502 错误，即 连接超时 或 无法连接到后端。当我使用 nginx 时使用类似的后端服务，我从未遇到过这个问题。

502 错误在 GCP 负载均衡器的上下文中非常常见，我相信互联网上有很多关于此的提及，但没有一个可以帮助我解决此问题。

以下是我从 GCP 负载均衡器日志中收集的日志中出现的少数情况的屏幕截图。这个并发请求失败的问题在 nginx 中从来没有出现过。

如果有人能指导我解决这个问题，那将是很大的帮助。

Answer 1

负载平衡器旨在处理多个请求。因此，使用负载均衡器处理多个连接取决于您的架构。如果您有多个后端，则必须使用负载均衡器；如果您使用的是单个后端，那么您的 Web 服务器将完成这项工作。

502 错误信息可能与几件事有关，这里有一些来自Google's page：

backend_connection_closed_before_data_sent_to_client backend_early_response_with_non_error_status backend_interim_response_not_supported backend_response_corrupted backend_response_headers_too_long 后端超时 failed_to_connect_to_backend Failed_to_pick_backend

为了尝试修复 502 消息，您需要使用 Google 在此 documentation 中提到的值来为常见的 Web 服务器软件（如 Apache 和 Nginx）配置 Keep-alive 超时。