Jersey 服务文件上传导致 OutOfMemoryError

Question

我正在使用 Jersey 2.0 开发表单提交服务。该表单包括几个 text 字段和一个 file 字段。我需要提取文件、文件名、文件媒体类型和文件内容类型并将它们保存在对象存储中.

@Path("upload")
@Consumes({MediaType.MULTIPART_FORM_DATA})
@Produces({MediaType.APPLICATION_XML, MediaType.APPLICATION_JSON})
public class UploadService {
    @POST
    public BlobDo uploadFile(FormDataMultiPart uploadedBody) {
        String accountSid = uploadedBody.getField("account-sid").getValue();
        String apiToken = uploadedBody.getField("api-token").getValue();
        String checksum = uploadedBody.getField("checksum").getValue();

        FormDataBodyPart bodyPart = uploadedBody.getField("file");
        MySwiftObject obj = new MySwiftObject(bodyPart.getValueAs(InputStream.class));
        obj.setName(bodyPart.getContentDisposition().getFileName());
        obj.setContentType(bodyPart.getMediaType().toString());
        obj.setContentDisposition(bodyPart.getContentDisposition().toString());
   ...
}

pom.xml

<jersey.version>2.17</jersey.version>

<dependency>
    <groupId>org.glassfish.jersey.containers</groupId>
    <artifactId>jersey-container-servlet-core</artifactId>
</dependency>
<dependency>
    <groupId>org.glassfish.jersey.media</groupId>
    <artifactId>jersey-media-json-jackson</artifactId>
</dependency>
<dependency>
    <groupId>org.glassfish.jersey.test-framework.providers</groupId>
    <artifactId>jersey-test-framework-provider-inmemory</artifactId>
</dependency>
<dependency>
    <groupId>org.glassfish.jersey.media</groupId>
    <artifactId>jersey-media-multipart</artifactId>
</dependency>
<dependency>
    <groupId>org.glassfish.jersey.core</groupId>
    <artifactId>jersey-server</artifactId>
</dependency>
<dependency>
    <groupId>org.glassfish.jersey.ext</groupId>
    <artifactId>jersey-bean-validation</artifactId>
</dependency>

表单提交请求

POST /nbs/v2/upload HTTP/1.1
Host: 127.0.0.1:8080
Cache-Control: no-cache
Postman-Token: a4c1d4e9-5f71-2321-3870-e9cac0524f8d
Content-Type: multipart/form-data; boundary=----WebKitFormBoundaryA2Z9pPMA7y3da8BG

------WebKitFormBoundaryA2Z9pPMA7y3da8BG
Content-Disposition: form-data; name="account-sid"

Q45Ppm5ukvdqjTQ6eW0O5ztTXipwnjKQx1p6cf+fbCQ=
------WebKitFormBoundaryA2Z9pPMA7y3da8BG
Content-Disposition: form-data; name="api-token"

6397cd691909fdc14cef67dbc1dc2dc3
------WebKitFormBoundaryA2Z9pPMA7y3da8BG
Content-Disposition: form-data; name="file"; filename="screen_4_100155.jpg"
Content-Type: image/jpeg

......Exif..MM.*.............................b...........j
------WebKitFormBoundaryA2Z9pPMA7y3da8BG
Content-Disposition: form-data; name="checksum"

6a3381b1d16bded4a3dfc325a8bb800e
------WebKitFormBoundaryA2Z9pPMA7y3da8BG

JVM 堆大小

-Xmx=1024mb

---

问题

上传 ~50MB 文件时，会在目录 /tmp/tomcat7-tomcat7-tmp 中创建两个具有相似 MD5 和的临时文件，名称为 FileBackedOutputStream7949386530699987086.tmp 和 MIME8234229766850016150.tmp

上传完成前服务器抛出异常

javax.servlet.ServletException：org.glassfish.jersey.server.ContainerException：java.lang.OutOfMemoryError：Java堆空间 org.glassfish.jersey.servlet.WebComponent.service(WebComponent.java:421) org.glassfish.jersey.servlet.ServletContainer.service(ServletContainer.java:386) org.glassfish.jersey.servlet.ServletContainer.service(ServletContainer.java:335) org.glassfish.jersey.servlet.ServletContainer.service(ServletContainer.java:222)

并删除名称为MIME8234229766850016150.tmp 的文件，但保留另一个文件。未删除的FileBackedOutputStream....tmp 文件填满了整个硬盘空间。

---

我做了什么

1. 将堆空间增加到 7GB，但无法上传 ~200MB 文件。

2. 在服务器上运行作业以删除旧的临时文件。

3. 创建的文件名为 jersey-multipart-config.properties 和内容

   jersey.config.multipart.bufferThreshold = -1

文件MIME[random numbers].tmp 不再创建，但FileBackedOutputStream[random number].tmp 仍然挂在硬盘上，除非重新启动tomcat。

---

问题

1. Jersey 如何处理大文件（可能是 1GB）而不在我的硬盘上留下临时文件？最好的情况是根本不使用硬盘驱动器并通过内存传输小块。

2. 如果输入流由文件支持，为什么会出现堆溢出？

---

我读过的资料

• 到目前为止我找到的关闭解释。 read
• 这家伙有类似的问题，但在客户端。 read
• 可能包含解决方案，但无法理解答案。 read
• 非常接近我的问题，但无法解决。 read
• bufferThreshold 的想法取自这里。 read

Answer 1

似乎问题 #1 已通过在我的 web.xml 中 <servlet> 标记下添加以下行来解决

<multipart-config>
        <location>/tmp</location>
        <max-file-size>1000000000</max-file-size>
        <max-request-size>1500000000</max-request-size>
        <file-size-threshold>0</file-size-threshold>
</multipart-config>

并删除了jersey-multipart-config.properties 文件。

现在我可以上传超过 200Mb 的文件。不再创建临时文件。

但我仍然无法解释问题 #2。