【发布时间】:2021-05-13 19:20:04
【问题描述】:
我有点麻烦。我正在尝试将 3GB XML 文件加载到内存中。我已将 JVM 堆大小增加到 10GB,但文件似乎仍然无法加载。有没有办法可以检查我加载的数据的百分比?将 XML 数据加载到缓冲区时,是否可以在代码中添加堆大小检查?我可以使用分析器吗?
这是我使用 FSDataInputStream 加载 XML 文件的方式。
val hdfsPath: Path = new Path("./dblp.xml")
val fs: FileSystem = hdfsPath.getFileSystem(conf)
val inputStream: FSDataInputStream = fs.open(hdfsPath)
val xml_load = XML.load(inputStream)
【问题讨论】: