Boost Beast 服务器响应延迟 1 秒

Question

我正在尝试使用 boost::beast 创建一个 HTTP 服务器，但我注意到响应时间延迟了一秒。我使用了高级服务器示例和同步客户端示例来对这种行为进行基准测试。

还尝试禁用 Nagle 的算法，但没有效果，似乎不是优化问题。

每隔几秒钟手动发出一个请求，因此服务器端的高负载是不合理的。

这似乎与 boost::asio 套接字有关，因为我前段时间还创建了一个 HTTP 服务器（我认为使用 boost::asio - Boost v1.64，当 Beast 不在时）并且我也有同样的经历高响应时间 - 这就是我改用 Beast 的原因。

我的问题：

这是 boost::asio 套接字的已知行为吗？

这个延迟可以解决吗？

在套接字上设置 no_delay 可能不起作用的原因是什么？

基准测试结果：

示例服务器的平均响应时间在 1005 毫秒到 1020 毫秒之间，如下面的屏幕截图所示。 相比之下，同一客户端在 120 毫秒内收到来自 google.com 的响应。

Here 是对我的本地服务器的请求与对 www.google.com 的请求之间的比较

因此问题又来了：这 900 毫秒的延迟是从哪里来的？ 这不是任何 HTTP 服务器可接受的响应时间。

还尝试了fast example server 和synchronous server example，结果相同：响应时间超过 1000 毫秒。

基准设置

测试系统：

• Windows 10 专业版 x64
• 处理器 Intel i7-7700，16GB RAM
• 提升 1.66
• Visual Studio 2015

在 x86 和 x64 中使用调试和发布版本进行测试。正如预期的那样，唯一的区别是 Debug 构建的额外延迟为 20-30 毫秒。

服务器设置

• 我从 Beast 文档中获取了 advanced server example
• 在 Visual Studio 2015 中创建了一个新的空控制台项目
• 将示例代码添加到新的 cpp 源文件中
• 在项目属性 > VC++ 目录 > 包含目录设置 boost "...boost\include" 包含文件夹
• 在项目属性 > VC++ 目录 > 库目录中设置 boost 库文件夹
• 在 C/C++ 中 > 预处理器添加了“_WIN32_WINNT=0x0601”
• 在“调试”>“命令参数”中，我添加了“0.0.0.0 8080 . 3”，这意味着“将服务器绑定到端口为 8080 的所有本地地址，使用 .（当前目录）作为根文件夹并在 3 个线程上运行服务器”。李>

客户端设置

• 我使用了 Beast 文档中的 synchronous client
• 创建了一个类似的 Visual Studio 项目

为了测量请求时间，我在客户端代码中添加了计时器，并注释掉了对 cout 的响应输出：

auto start = std::chrono::steady_clock::now();
/* client code */

// printing the response to cout can slow the client
//std::cout << res << std::endl;

auto finish = std::chrono::steady_clock::now();
auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
std::cout << "request time: " << ms.count() << "\n";

这是禁用 TCP 延迟的客户端代码：

boost::asio::connect(socket, results.begin(), results.end());
socket.set_option(tcp::no_delay(true));

这是对服务器示例代码的唯一修改。 以及禁用 TCP 延迟的服务器代码：

void
on_accept(boost::system::error_code ec)
{
    if(ec)
    {
        fail(ec, "accept");
    }
    else
    {
        // disable TCP delay
        socket_.set_option(tcp::no_delay(true));

        // Create the http_session and run it
        std::make_shared<http_session>(
                std::move(socket_),
                doc_root_)->run();
        }

        // Accept another connection
        do_accept();
}

这是修改后的客户端：

//
// Copyright (c) 2016-2017 Vinnie Falco (vinnie dot falco at gmail dot com)
//
// Distributed under the Boost Software License, Version 1.0. (See accompanying
// file LICENSE_1_0.txt or copy at http://www.boost.org/LICENSE_1_0.txt)
//
// Official repository: https://github.com/boostorg/beast
//

//------------------------------------------------------------------------------
//
// Example: HTTP client, synchronous
//
//------------------------------------------------------------------------------

//[example_http_client

#include <boost/beast/core.hpp>
#include <boost/beast/http.hpp>
#include <boost/beast/version.hpp>
#include <boost/asio/connect.hpp>
#include <boost/asio/ip/tcp.hpp>
#include <cstdlib>
#include <iostream>
#include <string>
#include <chrono>

using tcp = boost::asio::ip::tcp;       // from <boost/asio/ip/tcp.hpp>
namespace http = boost::beast::http;    // from <boost/beast/http.hpp>

// Performs an HTTP GET and prints the response
int main(int argc, char** argv)
{
    try
    {
        // Check command line arguments.
        if(argc != 4 && argc != 5)
        {
            std::cerr <<
                "Usage: http-client-sync <host> <port> <target> [<HTTP version: 1.0 or 1.1(default)>]\n" <<
                "Example:\n" <<
                "    http-client-sync www.example.com 80 /\n" <<
                "    http-client-sync www.example.com 80 / 1.0\n";
            return EXIT_FAILURE;
        }
        auto const host = argv[1];
        auto const port = argv[2];
        auto const target = argv[3];
        int version = argc == 5 && !std::strcmp("1.0", argv[4]) ? 10 : 11;

        auto start = std::chrono::steady_clock::now();

        // The io_context is required for all I/O
        boost::asio::io_context ioc;

        // These objects perform our I/O
        tcp::resolver resolver{ioc};
        tcp::socket socket{ioc};

        // Look up the domain name
        auto const results = resolver.resolve(host, port);

        // Make the connection on the IP address we get from a lookup
        boost::asio::connect(socket, results.begin(), results.end());
        //socket.set_option(tcp::no_delay(true));

        // Set up an HTTP GET request message
        http::request<http::string_body> req{http::verb::get, target, version};
        req.set(http::field::host, host);
        req.set(http::field::user_agent, BOOST_BEAST_VERSION_STRING);

        // Send the HTTP request to the remote host
        http::write(socket, req);

        // This buffer is used for reading and must be persisted
        boost::beast::flat_buffer buffer;

        // Declare a container to hold the response
        http::response<http::dynamic_body> res;

        // Receive the HTTP response
        http::read(socket, buffer, res);

        // Write the message to standard out
        //std::cout << res << std::endl;

        // Gracefully close the socket
        boost::system::error_code ec;
        socket.shutdown(tcp::socket::shutdown_both, ec);

        // not_connected happens sometimes
        // so don't bother reporting it.
        //
        if(ec && ec != boost::system::errc::not_connected)
            throw boost::system::system_error{ec};

        // If we get here then the connection is closed gracefully
        auto finish = std::chrono::steady_clock::now();
        auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
        std::cout << "request time: " << ms.count() << "\n";

    }
    catch(std::exception const& e)
    {
        std::cerr << "Error: " << e.what() << std::endl;
        return EXIT_FAILURE;
    }
    return EXIT_SUCCESS;
}

//]

Answer 1

现在想想修复是多么容易，这很愚蠢:)

在这里为任何想知道解决方案的人发帖： 将“localhost”替换为 IP，例如从客户端发送请求时为“127.0.0.1”。

Here 是使用 127.0.0.1 而不是“localhost”的新响应时间。

这似乎是 Windows 配置问题。 C:\Windows\System32\drivers\etc\hosts 文件包含

# localhost name resolution is handled within DNS itself.
#   127.0.0.1       localhost

但是解析“localhost”的行被注释掉了，DNS解析很慢。

Answer 2

我尝试在 Visual Studio 2017 和 Windows 10 上针对高级服务器示例的调试版本运行程序的调试版本。这是输出：

request time: 5

我认为 5 毫秒是相当合理的 :)

尝试在调用http::read之前初始化开始时间：

// Receive the HTTP response
auto start = std::chrono::steady_clock::now();
http::read(socket, buffer, res);

这样我们可以发现 DNS 查找是否执行缓慢（有可能）。

我认为 TCP_NODELAY 根本没有帮助，它增加的延迟很小，而且在 Windows 上我相信环回设备没有实现它。您看到的延迟远远大于 Nagle 算法可能施加的任何延迟。

这些服务器应该在所有正确配置的平台上以最小的延迟和相当快的结果运行，我不确定在您的特定情况下发生了什么，但我确信这是与操作系统或环境有关的问题。