PDFDomTree 在将 pdf 文件转换为 html 时未检测到空格

Question

我在我的 java 应用程序中使用带有 pdfbox-2.0.9 的 PDFDomTree 将 pdf 文件转换为 html 文件。以下代码我用来转换pdf。

try {   
    PDDocument document = PDDocument.load(new File("some path"));
    PDFDomTree parser = new PDFDomTree(PDFDomTreeConfig.createDefaultConfig());
    Writer output = new PrintWriter(new File("some output path"), "utf-8");

    parser.writeText(document, output);
    output.close();
    document.close();
} catch (IOException | ParserConfigurationException e) {
    throw e;
}

现在我的问题是，当我尝试分析输出 html 时，我意识到转换器无法检测两个单词之间的空格，因此我得到了一些单词连接。

检查下面的比较：

如果需要，可以从here访问相应的pdf文件。

谁能帮我解决这个问题？

Answer 1

手头的文本提取器 Pdf2Dom 的 PDFDomTree 基于 PDFBox 的 PDFTextStripper，但仅使用它来将 PDF 绘图指令解析为具有样式和位置的字符，同时对这些富字符本身进行所有分析。

特别是它会忽略其 PDFBoxTree 父类中的所有传入空白字符：

protected void processTextPosition(TextPosition text)
{
    if (text.isDiacritic())
    {
        lastDia = text;
    }
    else if (!text.getUnicode().trim().isEmpty())
    {
        [...process character...]
    }
}

(org.fit.pdfdom.PDFBoxTree 覆盖processTextPosition)

在那个[...process character...] 块中，它尝试通过硬编码的距离来识别字间距：

        //should we split the boxes?
        boolean split = lastText == null || distx > 1.0f || distx < -6.0f || Math.abs(disty) > 1.0f
                            || isReversed(getTextDirectionality(text)) != isReversed(getTextDirectionality(lastText));

（在上面的 [...process character...] 块内）

由于 PDF 中的文本开头很小（9pt 由 Pdf2Dom 确定）并且在许多行中设置得非常紧密，因此单词之间的间隔通常小于上面假设的 1.0 (distx > 1.0f)。

在我看来这里有两个问题：

• 删除空格意味着丢弃信息； （在某些情况下，这可能是有利的，我见过两次绘制同一行的 PDF，其中一个绘图字符串参数包含空格，而另一个包含可见字符；但这些是例外。）

• 具有硬编码的距离限制distx > 1.0f、distx < -6.0f 等，即使字体大小（以及它们的间隙大小）可能会有很大差异。

这些问题应该在代码中修复。对于像你的 demo.pdf 这样的 PDF 有两种可能的解决方法：

选择不同的距离限制

真正的修复应该尝试使距离限制动态化，这取决于字体大小，甚至可能是当前行中到当前位置的平均字符距离。 PDF 的一种解决方法是将硬编码距离替换为更小的硬编码距离。

例如使用.5f 而不是1.0f 作为单词距离，即将上面的测试替换为

        //should we split the boxes?
        boolean split = lastText == null || distx > .5f || distx < -6.0f || Math.abs(disty) > 1.0f

这会导致 Pdf2Dom 识别出您文档中的单词间隙（或者至少更多，我没有检查所有这些）。

将空格解释为拆分

除了忽略空格之外，您还可以将它们明确解释为单词间隙，例如通过像这样增强processTextPosition 覆盖

protected void processTextPosition(TextPosition text)
{
    if (text.isDiacritic())
    {
        lastDia = text;
    }
    else if (!text.getUnicode().trim().isEmpty())
    {
        [...process character...]
    } else {
//!! process white spaces here
        //finish current box (if any)
        if (lastText != null)
        {
            finishBox();
        }
        //start a new box
        curstyle = new BoxStyle(style);
        lastText = null;
    }
}

我没有深入分析代码，所以我只能称之为解决方法。为了使它成为真正的修复，您必须测试它的副作用并扩展它以查看空白的确切性质：除了正常空间之外，还有其他空白字符，其中一些是零宽度，一些不是-break 等。所有这些不同类型的空白都应该得到特殊处理。

---

PS：由于许多 PDFBoxTree 成员受到保护（而不是私有），因此无需修补 Pdf2Dom 即可轻松应用第二种解决方法：

PDDocument document = PDDocument.load(SOURCE);

PDFDomTree parser = new PDFDomTree(PDFDomTreeConfig.createDefaultConfig()) {
    @Override
    protected void processTextPosition(TextPosition text) {
        if (text.getUnicode().trim().isEmpty()) {
            //finish current box (if any)
            if (lastText != null)
            {
                finishBox();
            }
            //start a new box
            curstyle = new BoxStyle(style);
            lastText = null;
        } else {
            super.processTextPosition(text);
        }
    }
};
Writer output = new PrintWriter(TARGET, "utf-8");

parser.writeText(document, output);
output.close();

(ExtractText 测试testDemoImproved)