在 PHP 中流解析 4 GB XML 文件

Question

我正在尝试并需要一些帮助来执行以下操作：

我想用 PHP 流式解析一个大的 XML 文件（4 GB）。我不能使用简单的 XML 或 DOM，因为它们会将整个文件加载到内存中，所以我需要可以流式传输文件的东西。

我如何在 PHP 中做到这一点？

我想要做的是浏览一系列<doc> 元素。并将他们的一些孩子写入一个新的 xml 文件。

我尝试解析的 XML 文件如下所示：

<feed>
    <doc>
        <title>Title of first doc is here</title>
        <url>URL is here</url>
        <abstract>Abstract is here...</abstract>
        <links>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
       </link>
    </doc>
    <doc>
        <title>Title of second doc is here</title>
        <url>URL is here</url>
        <abstract>Abstract is here...</abstract>
        <links>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
            <sublink>Link is here</sublink>
       </link>
    </doc>
</feed>

我正在尝试将每个 <doc> 元素的所有子元素获取/复制到一个新的 XML 文件中，<links> 元素及其子元素除外。

所以我希望新的 XML 文件看起来像：

<doc>
    <title>Title of first doc is here</title>
    <url>URL is here</url>
    <abstract>Abstract is here...</abstract>
</doc>
<doc>
    <title>Title of second doc is here</title>
    <url>URL is here</url>
    <abstract>Abstract is here...</abstract>
</doc>

非常感谢流式传输/流式解析/流式读取原始 XML 文件，然后将其部分内容写入 PHP 中的新 XML 文件。

Answer 1

这是一个大学尝试。这假设正在使用一个文件，并且您想要写入一个文件：

<?php

$interestingNodes = array('title','url','abstract');
$xmlObject = new XMLReader();
$xmlObject->open('bigolfile.xml');

$xmlOutput = new XMLWriter();
$xmlOutput->openURI('destfile.xml');
$xmlOutput->setIndent(true);
$xmlOutput->setIndentString("   ");
$xmlOutput->startDocument('1.0', 'UTF-8');

while($xmlObject->read()){
    if($xmlObject->name == 'doc'){
        $xmlOutput->startElement('doc');
        $xmlObject->readInnerXML();
        if(array_search($xmlObject->name, $interestingNodes)){
             $xmlOutput->startElement($xmlObject->name);
             $xmlOutput->text($xmlObject->value);
             $xmlOutput->endElement(); //close the current node
        }
        $xmlOutput->endElement(); //close the doc node
    }
}

$xmlObject->close();
$xmlOutput->endDocument();
$xmlOutput->flush();

?>

Answer 2

对于这种情况，您不能使用 DOM 解析器，正如您所说，由于文件大小，它不适合内存，即使可以，它也会很慢，因为它首先加载整个文件，然后您必须遍历它，因此，对于这种情况，您应该尝试 SAX 解析器（面向事件/流），为您感兴趣的那些标签添加一个处理程序（doc，title，@ 987654324@, abstract) 并为每个事件附加在新 XML 文件中找到的节点。

这里有更多信息：

What is the fastest XML parser in PHP?

这是一个（未测试）代码示例：

<?php
    $file = "bigfile.xml";
    $fh = fopen("out.xml", 'a') or die("can't open file");
    $currentNodeTag = "";    
    $tags = array("doc", "title", "url", "abstract");

    function startElement($parser, $name, $attrs) {
        global $tags;

        if (isset($tags[strtolower($name)])) {
            $currentNodeTag = strtolower($name);
            fwrite($fh, sprintf("<%s>\n"));
        }
    }

    function endElement($parser, $name) {
        global $tags;

        if (isset($tags[strtolower($name)])) {
            fwrite($fh, sprintf("</%s>\n"));
            $currentNodeTag = "";
        }
    }

    function characterData($parser, $data) {
        if (!empty($currentNodeTag)) {
            fwrite($fh, $data);
        }
    }    

    $xmlParser = xml_parser_create();
    xml_set_element_handler($xmlParser, "startElement", "endElement");
    xml_set_character_data_handler ($xmlParser, "characterData");

    if (!($fp = fopen($file, "r"))) {
        die("could not open XML input");
    }

    while ($data = fread($fp, 4096)) {
        if (!xml_parse($xmlParser, $data, feof($fp))) {
            die(sprintf("XML error: %s at line %d",
                        xml_error_string(xml_get_error_code($xmlParser)),
                        xml_get_current_line_number($xmlParser)));
        }
    }

    xml_parser_free($xmlParser);
    fclose($fh);
?>