【问题标题】:Webserver socket programmingWeb服务器套接字编程
【发布时间】:2013-07-28 12:10:21
【问题描述】:

当只有一个进程可以侦听和接受给定的 IP 地址和端口组合时,Web 服务器如何扩展以侦听数百万个传入请求? 这个问题与找出用于扩展的套接字编程大纲有关,因此我不是在寻找使用硬件扩展解决方案的负载平衡,我也不是在寻找 web-socket 实现,而是在寻找基本的低级套接字编程。

如果我必须编写一个 Web 服务器来监听传入的 http 请求,那么监听传入请求的线程的设计大纲应该是什么,以便它可以扩展到数百万个传入请求?

【问题讨论】:

    标签: java sockets webserver application-server


    【解决方案1】:

    我为自己编写了一个小型聊天服务器(基本上做同样的事情)。

    我采用的设计是第一个接受连接的线程(基本上是一个while 循环,在ServerSocket 对象实例上迭代accept())。该线程是listening to 连接。

    对于accept() 返回的每个连接,我启动了一个单独的线程来处理和reads from 该连接。所有这些线程引用都存储在同步的List 中以供进一步处理,例如稍后关闭连接等等。

    【讨论】:

      【解决方案2】:

      如果您想要数百万个并发 连接,那么您将无法实现。限额通常为数千。另一方面,如果您希望每秒处理数百万个请求,那么您也许可以侥幸成功,但前提是您的请求处理是最简单的类型并且响应很短。

      通常,如果您在 Java 中执行此操作,则不应使用标准阻塞 java.io API,因为每个连接都会占用两个线程:一个用于读取,一个用于写入。而是使用允许异步 TCP 通信的 Netty 库,这意味着只有中等大小的线程池才能处理大量请求:线程永远不会空闲等待接收输入或发送输出。他们只忙于处理数据。

      【讨论】:

      • java.net 库不会“每个 ... 连接使用两个线程”。那将是一个应用程序设计选择。通过在适当的情况下滥用available(),可以对所有连接使用单个线程,尽管这很荒谬。在适当的硬件上,接受的连接数可以达到数十万。
      • 这不仅仅是应用程序的选择,而是使用阻塞 API 完成事情的常规方式。顺便说一句,我没有说(或意思是)java.net 库每个连接使用 2 个线程,
      • 我说是它的用法做到了。我也很确定这种区别不需要澄清
      【解决方案3】:

      您将“听”和“读”混为一谈。他们不是一回事。 “侦听”意味着服务器创建一个侦听套接字,可以从中接受大量连接。然后读取和写入这些连接中的每一个。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2011-10-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2016-02-06
        • 2013-09-29
        相关资源
        最近更新 更多