【问题标题】:socket send call getting blocked for so long套接字发送调用被阻塞了这么长时间
【发布时间】:2012-06-14 16:56:46
【问题描述】:

我每 10 秒在套接字上发送 2 个字节的应用程序数据(阻塞),但发送调用在最后一个实例中被阻塞超过 40 秒。

  • 2012-06-13 12:02:46.653417|INFO|发送前
  • 2012-06-13 12:02:46.653457|INFO|发送后(​​2)
  • 2012-06-13 12:02:57.566898|INFO|发送前
  • 2012-06-13 12:02:57.566962|INFO|发送后(​​2)
  • 2012-06-13 12:03:08.234060|INFO|发送前
  • 2012-06-13 12:03:08.234101|INFO|发送后(​​2)
  • **2012-06-13 12:03:19.010743|信息|发送前
  • 2012-06-13 12:04:00.969162|INFO|发送后 (2)**

机器(linux)上的 tcp 默认发送缓冲区大小为 65536。

2 字节数据用于与服务器进行心跳,服务器希望客户端至少每 15 秒发送一次 HB。

另外,我没有禁用 naggle 的算法。

问题是 - 发送呼叫能否被阻塞这么长时间(例如 40 秒)?它只是偶尔发生,它是在运行近 12 小时后发生的。

我知道的发送调用应该只是将数据复制到 TCP 发送缓冲区。

publish 每 10 秒调用一次。不,它不会逐渐减慢发送呼叫的速度。它突然发生一次,然后由于另一侧的套接字关闭,因此应用程序退出。

int publish(char* buff, int size) const {
      /* Adds the 0x0A to the end */
      buff[size]=_eolchar;

      if (_debugMode)
      {
          ACE_DEBUG((MY_INFO "before send\n"));
      }

      int ret = _socket.send((void*)buff, size+1);

      if (_debugMode)
      {
          ACE_DEBUG((MY_INFO "after send (%d)\n", ret));
          //std::cout << "after send " << ret << std::endl;
      }

      if (ret < 1)
      {
          ACE_DEBUG((MY_ERROR "Socket error, FH going down\n"));
          ACE_OS::sleep(1);
          abort();
      }
      return ret;
 }

【问题讨论】:

  • 问题到底是什么?有时数据包可能会延迟......
  • 请给出发送调用的代码
  • publish() 多久被调用一次?您是否测试过您的 ACE_DEBUG 调用以查看需要多长时间?您是否注意到随着时间的推移会变慢,或者只是一个 40 秒的块然后它恢复正常?
  • publish 每 10 秒调用一次。不,它不会逐渐减慢发送呼叫的速度。它突然发生一次,然后由于另一侧的套接字关闭,因此应用程序退出。 ACE_DEBUG 只是为了打印跟踪而添加的,没有 ACE_DEBUG 也会出现问题。
  • 我只能说发送可能会阻塞一段时间,这有时取决于数据包丢失等。

标签: c++ linux sockets tcp


【解决方案1】:

当使用阻塞send() 调用时,从你的应用程序的角度来看,你可以将远程TCP 缓冲区、网络和本地发送TCP 缓冲区视为一个大缓冲区。

也就是说,如果远程应用程序在从其 TCP 缓冲区读取新字节时出现延迟,最终您的本地 TCP 缓冲区将变得(几乎)满。如果您尝试send() 一个溢出 TCP 缓冲区的新有效负载,则在 TCP 缓冲区获得足够的空间来存储该有效负载之前,send() 实现(内核系统调用)不会将焦点返回给您的应用程序。

达到该状态的唯一方法是远程应用程序没有读取足够的字节。 test 环境中的典型场景是远程应用程序在断点处暂停... :-)

这就是我们所说的SLOW CONSUMER问题。如果您分享该诊断,则有多种方法可以解决该问题:

  1. 如果您可以控制远程应用程序,请使其足够快,以免本地应用程序被阻塞。
  2. 如果您无法控制远程应用程序,则可能有多个答案:
    • 您可以根据自己的需要阻止长达 40 秒。
    • 如果不是这样,您需要使用send() 系统调用的解锁版本。从这里开始,有多种可能的政策;我在下面描述一个。 (请稍等!:-))

您可以尝试使用一个动态数组,该数组充当假发送 TCP FIFO,并在发送调用返回您EWOULDBLOCK 时增长。在这种情况下,您可能必须使用select() 系统调用来检测远程应用程序何时跟上步伐并首先向其发送看不见的数据。

这里的简单publish() 函数可能有点棘手(虽然在大多数网络应用程序中很常见)。您还必须知道,不能保证动态缓冲区会增长到您不再拥有任何可用内存的程度,然后您的本地应用程序可能会崩溃。 “实时”网络应用程序中的一个典型策略是为缓冲区选择任意最大大小,在达到时关闭 TCP 连接,从而避免本地应用程序耗尽可用内存。明智地选择最大值,因为它取决于潜在的慢速消费者连接的数量。

【讨论】:

  • 附带说明,另一个典型的慢消费者场景是两个应用程序通过非常慢/长的 WAN 进行通信。我曾经通过从日本到澳大利亚的 WAN 遇到这种情况。远程应用程序没问题,但是 WAN 太慢了..
  • 会不会是因为 naggle 的算法没有关闭?我只发送 2 个字节的数据(加上 tcp 标头)。 (但每 10 秒 12 小时,数据以微秒时间发送到远程主机,所以我怀疑 naggle 的算法在这里有问题)。远程主机的接收窗口大小为 8192 字节。
  • @Medicine 可以查看远程应用端的日志文件吗?
  • @Medicine 哦。您在市场准入开发团队工作吗?我愿意。
  • 目前在CACIB,我也在SGCIB工作了三年。:-)
【解决方案2】:

以下(以及我现在不打算提及的更多内容)被认为是阻塞系统调用:
发送、连接、接收、接受。

这意味着他们可以在指定的工作完成之前尽可能地阻塞。 所以是的,send 可以阻塞 40 秒甚至更长时间,具体取决于发送数据所需的时间;尽管我不知道为什么在您的特定情况下它会阻塞那么久。

如果您想避免这种阻塞,我建议您阅读有关异步套接字和 I/O 的内容。 他们可能会证明可以解决您的部分问题。

【讨论】:

  • 谢谢。发送这么长时间应该意味着底层网络链接不好,对吗?丢包严重,可能是?
  • @Medicine 当数据包丢失过多时,我会说(虽然不确定)在某些时候会发生 TCP RESET。然后你应该会看到 send() 返回一个错误。
  • @Adel,不确定非阻塞套接字在这里有什么帮助,因为如果我不能在 5 秒内真正将数据发送到远程主机,连接将被断开。这并不是说我想获得在阻塞套接字中丢失的 cpu 周期。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-01-20
  • 1970-01-01
  • 2011-10-07
  • 1970-01-01
  • 2011-01-26
相关资源
最近更新 更多