【问题标题】:Is there a way to check how much data is loaded into a buffer?有没有办法检查有多少数据加载到缓冲区中?
【发布时间】:2021-05-13 19:20:04
【问题描述】:

我有点麻烦。我正在尝试将 3GB XML 文件加载到内存中。我已将 JVM 堆大小增加到 10GB,但文件似乎仍然无法加载。有没有办法可以检查我加载的数据的百分比?将 XML 数据加载到缓冲区时,是否可以在代码中添加堆大小检查?我可以使用分析器吗?

这是我使用 FSDataInputStream 加载 XML 文件的方式。

  val hdfsPath: Path = new Path("./dblp.xml")
  val fs: FileSystem = hdfsPath.getFileSystem(conf)
  val inputStream: FSDataInputStream = fs.open(hdfsPath)

  val xml_load = XML.load(inputStream)

【问题讨论】:

    标签: java scala hadoop


    【解决方案1】:

    是的,您可以为此使用分析器。要么使用VisualVm

    或者你甚至可以使用 eclipse 内存分析器

    【讨论】:

    • 使用分析器可以让我做什么?抱歉,我以前从未使用过。从 Google 的快速搜索中可以看出,分析器用于调试,但不确定这对我有什么帮助。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-01-17
    • 2023-03-08
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多