Netty HTTP-server，大文件上传，OutOfMemoryError答案

【问题标题】：Netty HTTP-server, big file upload, OutOfMemoryErrorNetty HTTP-server，大文件上传，OutOfMemoryError
【发布时间】：2011-12-27 10:06:31
【问题描述】：

首先对不起我的英语歪了:)

我在编写发送/接收大文件 (~2Gb) 的 Netty http 服务器时遇到了一些问题。我非常感谢任何人的帮助或解释。

我的客户端应用程序（网络浏览器）通过 XMLHttpRequest 发送文件，如下所示：

            var sampleFile = document.getElementById("sampleFile").files[0];  //chosen file by <input type="file" .../>
            var xhr = new XMLHttpRequest();       
            xhr.open("POST","http://127.0.0.1:8091/upload/some_file_name.txt", true);        
            xhr.send(sampleFile);

服务器端是：

类WebSocketServer：

             ServerBootstrap bootstrapHttp = new ServerBootstrap(
            new NioServerSocketChannelFactory(
                              Executors.newCachedThreadPool(),
                              Executors.newCachedThreadPool()));

    bootstrapHttp.setPipelineFactory(new ChannelPipelineFactory() {
        public ChannelPipeline getPipeline() {
            ChannelPipeline pipeline = pipeline();

              pipeline.addLast("decoder", new HttpRequestDecoder());
              pipeline.addLast("aggregator", new HttpChunkAggregator(1024*1024*1024));
              pipeline.addLast("encoder", new HttpResponseEncoder());          
              pipeline.addLast("deflater", new HttpContentCompressor());               
              pipeline.addLast("handler", new HttpRequestServerHandler());
              return pipeline;
        }
    });     
    bootstrapHttp.bind(new InetSocketAddress(port));

类 HttpRequestServerHandler：

public void messageReceived(ChannelHandlerContext ctx, MessageEvent e) throws Exception    {

             Object msg = e.getMessage();

    if (msg instanceof HttpRequest) {

        HttpRequest req = (HttpRequest)msg;             

        if (req.getMethod() != POST) {          
            return;             
        }                   

        if (decodedURI.startsWith(UPLOAD_FILE_PATH)) {

            HttpRequest request = (HttpRequest) e.getMessage(); 

            RandomAccessFile raf = new RandomAccessFile("foobar.tmp", "rw");                
            ChannelBuffer buf = request.getContent();                   
            FileChannel fChannel = raf.getChannel();
            Channel msgChannel= e.getChannel();             

            fChannel.write( buf.toByteBuffer() );                               
            raf.close();
            fChannel.close();
            msgChannel.close();
        }
    }

当我发送中等大小的文件时，一切都很好。问题在于大文件（> 300Mb）。一段时间后出现处理异常：

java.lang.OutOfMemoryError: Java 堆空间在 org.jboss.netty.buffer.HeapChannelBuffer.(HeapChannelBuffer.java:47) 在 org.jboss.netty.buffer.BigEndianHeapChannelBuffer.(BigEndianHeapChannelBuffer.java:39) 在 org.jboss.netty.buffer.ChannelBuffers.buffer(ChannelBuffers.java:139) 在 org.jboss.netty.buffer.HeapChannelBufferFactory.getBuffer(HeapChannelBufferFactory.java:73) 在 org.jboss.netty.buffer.DynamicChannelBuffer.ensureWritableBytes(DynamicChannelBuffer.java:84) 在 org.jboss.netty.buffer.DynamicChannelBuffer.writeBytes(DynamicChannelBuffer.java:239) 在 org.jboss.netty.buffer.AbstractChannelBuffer.writeBytes(AbstractChannelBuffer.java:457) 在 org.jboss.netty.buffer.AbstractChannelBuffer.writeBytes(AbstractChannelBuffer.java:450) 在 org.jboss.netty.handler.codec.http.HttpChunkAggregator.messageReceived(HttpChunkAggregator.java:140) 在 org.jboss.netty.channel.Channels.fireMessageReceived(Channels.java:302) 在 org.jboss.netty.handler.codec.replay.ReplayingDecoder.unfoldAndFireMessageReceived(ReplayingDecoder.java:522) 在 org.jboss.netty.handler.codec.replay.ReplayingDecoder.callDecode(ReplayingDecoder.java:506) 在 org.jboss.netty.handler.codec.replay.ReplayingDecoder.messageReceived(ReplayingDecoder.java:443) 在 org.jboss.netty.channel.Channels.fireMessageReceived(Channels.java:274) 在 org.jboss.netty.channel.Channels.fireMessageReceived(Channels.java:261) 在 org.jboss.netty.channel.socket.nio.NioWorker.read(NioWorker.java:351)

它甚至没有到达我的 messageReceived 处理程序。我可以假设一些内部 ChannelBuffer 溢出。我试图增加 HttpChunkAggregator(1024*1024*1024) 参数。但是，它没有帮助。我只看到一种解决方案 - 在客户端拆分文件（使用 html5），发送这些块，然后将它们粘贴到服务器上。但它似乎相当复杂。有没有更简单的方法来修复它（在 Netty 范围内）？

谢谢！最好的问候。

【问题讨论】：

标签： out-of-memory netty httpserver large-file-upload

【解决方案1】：

我认为你应该不使用HttpChunkAggregator。

这意味着您将不得不手动处理 HTTP 块。

有关详细信息，请参阅 Netty file upload example。

【讨论】：

非常感谢上面的例子——刚开始分析它。看来这正是我需要的:)

【解决方案2】：

是的，一个更好的方法是将 byte[] 块“推送”到 fs 直到上传完成。因此，您无需将所有内容都保存在内存中。请注意，写入 fs 可能会“阻塞”，因此您应该考虑在其前面添加一个 ExecutionHandler。

【讨论】：

【解决方案3】：

它位于名为 HeapChannelBuffer 的东西中这一事实说明了很多 - 你可能希望 org.jboss.netty.buffer.DirectChannelBufferFactory 在那里的某个地方，这样你的数据就不会存储在堆上。

【讨论】：