【发布时间】:2014-11-09 17:25:57
【问题描述】:
我正在从 DB 读取不同的数据块并将每个块写入 CSV 文件并将该条目添加到 zip 文件中。以下是我的问题:
我正在处理大量数据,是否建议在开始时打开 zip 流并在交易结束时关闭?如果这样做,它会将所有这些数据保存在 RAM 中并导致任何内存问题吗?
如果我将这些 csv 文件保存在硬盘中并在交易结束时将其压缩,会有什么好处吗?如果是这样,在 java 中最好的方法是什么?
注意:我们的应用程序使用 Java 1.6。
【问题讨论】:
-
保持 zip 流打开不太可能在内存中缓冲(大量)内容,它会定期刷新缓冲区,但您也可以自己手动刷新缓冲区。至于天气有一个优势将归结为您的需求。首先处理所有 CSV 文件然后压缩它们可能会更好,因为从管理的角度来看,这可能更容易,这也意味着如果一个步骤失败,您最终不会得到一些损坏且无意义的文件。 ..
-
“巨大”到底是什么意思?
-
正在处理数百万条记录