Linux TCP 服务器问题 C++

Question

我已经尝试解决这个问题一个多月了。我无处可去。 我有一台服务器可以监听许多多播频道（100ish）。每个套接字都是它自己的线程。然后我有一个客户端侦听器（单线程），它处理同一服务器内的所有传入连接、断开连接和客户端消息传递。这个想法是客户端进来，连接，从多播通道请求数据，然后我将数据发送回客户端。客户端保持连接，我将 UDP 数据转发回客户端。客户端可以请求 UDP 或 TCP 具有用于数据中继的协议。在某一时刻，这在几周内运行良好。我们做了一些代码和内核更改，现在我们无法弄清楚出了什么问题。

服务器将运行数小时，并全天连接数百个客户端。但是在某些时候，服务器会随机停止。停止，我的意思是：所有 UDP 套接字停止接收/处理数据（tcpdump 显示数据仍在进入盒子），client_listener 线程停止接收客户端数据包。但！！！主 client_listener 套接字仍然可以在主套接字上接收新连接和新断开连接。在新连接上，主套接字能够将“连接已建立”数据包发送回客户端，但是当客户端响应时，选择永远不会返回。

如果有人愿意，我可以发布代码。如果有人有任何建议在哪里看，或者这听起来像什么。请告诉我。

如果您有任何问题，请提出。

谢谢。

---

我想分享我的 TCP 服务器代码： 这是一个单线程。几个小时都可以正常工作，然后我只会收到“新连接”和“断开连接”。没有客户数据包进来。

int opt = 1;
  int addrlen;
  int sd;
  int max_sd;
  int valread;
  int activity;
  int new_socket;
  char buffer[MAX_BUFFER_SIZE];
  int client_socket[m_max_clients];
  struct sockaddr_in address;

  fd_set readfds;
  for(int i = 0; i<m_max_clients; i++)
  {
    client_socket[i]=0;
  }

  if((m_master_socket = socket(AF_INET,SOCK_STREAM,0))==0)
    LOG(FATAL)<<"Unable to create master socket";

  if(setsockopt(m_master_socket,SOL_SOCKET,SO_REUSEADDR,(char*)&opt,sizeof(opt))<0)
    LOG(FATAL)<<"Unable to set master socket";

  address.sin_family = AF_INET;
  address.sin_addr.s_addr = INADDR_ANY;
  address.sin_port = htons(m_listenPort);

  if(bind(m_master_socket,(struct sockaddr*)& address, sizeof(address))!=0)
    LOG(FATAL)<<"Unable to bind master socket";

  if(listen(m_master_socket,SOMAXCONN)!=0)
    LOG(FATAL)<<"listen() failed with err";

  addrlen = sizeof(address);
  LOG(INFO)<<"Waiting for connections......";

while(true)
  {
    FD_ZERO(&readfds);

    FD_SET(m_master_socket, &readfds);
    max_sd = m_master_socket;

    for(int i = 0; i<m_max_clients; i++)
    {
      sd = client_socket[i];

      if(sd > 0)
        FD_SET(sd, &readfds);

      if(sd>max_sd)
        max_sd = sd;
    }

    activity = select(max_sd+1,&readfds,NULL,NULL,NULL);

    if((activity<0)&&(errno!=EINTR))
    {
    //  int err = errno;
  //    LOG(ERROR)<<"SELECT ERROR:"<<activity<<" "<<err;
      continue;
    }

    if(FD_ISSET(m_master_socket, &readfds))
    {
      if((new_socket = accept(m_master_socket,(struct sockaddr*)&address, (socklen_t*)&addrlen))<0)
        LOG(FATAL)<<"ERROR:ACCEPT FAILED!";

      LOG(INFO)<<"New Connection, socket fd is (" << new_socket << ") client_addr:" << inet_ntoa(address.sin_addr) << " Port:" << ntohs(address.sin_port);
      for(int i =0;i<m_max_clients;i++)
      {
        if(client_socket[i]==0)
        {
          //try to set the socket to non blocking, tcp nagle and keep alive
          if ( !SetSocketBlockingEnabled(new_socket, false) )
            LOG(INFO)<<"UNABLE TO SET NON-BLOCK: ("<<new_socket<<")" ;
          if ( !SetSocketNoDelay(new_socket,false) )
            LOG(INFO)<<"UNABLE TO SET DELAY: ("<<new_socket<<")" ;
//           if ( !SetSocketKeepAlive(new_socket,true) )
//            LOG(INFO)<<"UNABLE TO SET KeepAlive: ("<<new_socket<<")" ;

          ClientConnection* con = new ClientConnection(m_mocSrv, m_udpPortGenerator, inet_ntoa(address.sin_addr), ntohs(address.sin_port), new_socket);
          if(con->login())
          {
            client_socket[i] = new_socket;
            m_clientConnectionSocketMap[new_socket] = con;
            LOG(INFO)<<"Client Connection Logon Complete";
          }
          else
            delete con;
          break;
        }
      }//for
    }
    else
    {
      try{
        for(int i = 0; i<m_max_clients; i++)
        {
          sd = client_socket[i];
          if(FD_ISSET(sd,&readfds))
          {
            if ( (valread = recv(sd, buffer, sizeof(buffer),MSG_DONTWAIT|MSG_NOSIGNAL)) <= 0 )
            {
             //remove from the fd listening set
              LOG(INFO)<<"RESET CLIENT_SOCKET:("<<sd<<")";
              client_socket[i]=0;
              handleDisconnect(sd,true);
           }
           else
           {
             std::map<int, ClientConnection*>::iterator client_connection_socket_iter = m_clientConnectionSocketMap.find(sd);
             if(client_connection_socket_iter != m_clientConnectionSocketMap.end())
             {
               client_connection_socket_iter->second->handle_message(buffer, valread);
               if(client_connection_socket_iter->second->m_logoff)
               {
                  LOG(INFO)<<"SOCKET LOGGED OFF:"<<sd;
                  client_socket[i]=0;
                  handleDisconnect(sd,true);
               }
             }
             else
             {
                LOG(ERROR)<<"UNABLE TO FIND SOCKET DESCRIPTOR:"<<sd;
             }
           }
          }
        }
      }catch(...)
      {
        LOG(ERROR)<<"EXCEPTION CATCH!!!";
      }
    }
  }

Answer 1

根据所提供的信息，我将声明以下内容：

• 不要为每个连接使用一个线程。由于您在 Linux 上使用 EPOLL 边缘触发多路复用。大多数较新的 Web 框架都使用这种技术。欲了解更多信息，请查看10K Problem。 通过从等式中消除线程，您可以消除死锁的可能性并降低调试的复杂性/担心线程安全变量。
• 确保完成后的每个连接都完全关闭。
• 确保升级后没有在 iptables 中弹出的新防火墙规则。
• 检查网络上的所有防火墙，看看它们是否限制了某些类型的活动（升级后您的服务器是否在新 IP 上？）

简而言之，我会把钱花在线程死锁和/或饥饿上。我亲自进行了实验，其中我创建了一个多线程服务器与使用 Epoll 的单线程服务器。结果无论白天还是黑夜，Epoll 都摒弃了多线程实现（用于 I/O），并使代码更易于编写、调试和维护。