【问题标题】:Performance: XmlReader or LINQ to XML性能:XmlReader 或 LINQ to XML
【发布时间】:2010-04-29 07:20:12
【问题描述】:

我有一个 150 MB 的 XML 文件,在我的项目中用作数据库。目前我正在使用XmlReader 从中读取内容。我想知道在这种情况下使用 XmlReader 或 LINQ to XML 是否更好。

请注意,我正在此 XML 中搜索项目并显示搜索结果,因此可能需要很长时间或片刻。

【问题讨论】:

标签: .net xml performance linq-to-xml xmlreader


【解决方案1】:

如果您想要性能,请使用 XMLReader。它不会读取整个文件并在内存中构建 DOM 树。相反,它会从磁盘中读取文件并将其在途中找到的每个节点返回给您。

通过快速的 google 搜索,我发现了 XMLReader、LinqToXML 和 XDocument.Load 的性能比较。

https://web.archive.org/web/20130517114458/http://www.nearinfinity.com/blogs/joe_ferner/performance_linq_to_sql_vs.html

【讨论】:

    【解决方案2】:

    我个人会考虑利用 Microsoft 帮助文件中概述的流技术来使用 Linq to Xml: http://msdn.microsoft.com/en-us/library/system.xml.linq.xstreamingelement.aspx#Y1392

    这是一个使用简单过滤器从 200mb xml 文件中读取的快速基准测试:

    var xmlFilename = "test.xml";
    
    //create test xml file
    var initMemoryUsage = GC.GetTotalMemory(true);
    var timer = System.Diagnostics.Stopwatch.StartNew();
    var rand = new Random();
    var testDoc = new XStreamingElement("root", //in order to stream xml output XStreamingElement needs to be used for all parent elements of collection so no XDocument
        Enumerable.Range(1, 10000000).Select(idx => new XElement("child", new XAttribute("id", rand.Next(0, 1000))))
    );
    testDoc.Save(xmlFilename);
    var outStat = String.Format("{0:f2} sec {1:n0} kb //linq to xml ouput streamed", timer.Elapsed.TotalSeconds, (GC.GetTotalMemory(false) - initMemoryUsage) / 1024);
    
    //linq to xml not streamed
    initMemoryUsage = GC.GetTotalMemory(true);
    timer.Restart();
    var col1 = XDocument.Load(xmlFilename).Root.Elements("child").Where(e => (int)e.Attribute("id") < 10).Select(e => (int)e.Attribute("id")).ToArray();
    var stat1 = String.Format("{0:f2} sec {1:n0} kb //linq to xml input not streamed", timer.Elapsed.TotalSeconds, (GC.GetTotalMemory(false) - initMemoryUsage) / 1024);
    
    //xmlreader
    initMemoryUsage = GC.GetTotalMemory(true);
    timer.Restart();
    var col2 = new List<int>();
    using (var reader = new XmlTextReader(xmlFilename))
    {
        while (reader.ReadToFollowing("child"))
        {
            reader.MoveToAttribute("id");
            int value = Convert.ToInt32(reader.Value);
            if (value < 10)
                res2.Add(value);
        }
    }
    var stat2 = String.Format("{0:f2} sec {1:n0} kb //xmlreader", timer.Elapsed.TotalSeconds, (GC.GetTotalMemory(false) - initMemoryUsage) / 1024);
    
    //linq to xml streamed
    initMemoryUsage = GC.GetTotalMemory(true);
    timer.Restart();
    var col3 = StreamElements(xmlFilename, "child").Where(e => (int)e.Attribute("id") < 10).Select(e => (int)e.Attribute("id")).ToArray();
    var stat3 = String.Format("{0:f2} sec {1:n0} kb //linq to xml input streamed", timer.Elapsed.TotalSeconds, (GC.GetTotalMemory(false) - initMemoryUsage) / 1024);
    
    //util method
    public static IEnumerable<XElement> StreamElements(string filename, string elementName)
    {
        using (var reader = XmlTextReader.Create(filename))
        {
            while (reader.Name == elementName || reader.ReadToFollowing(elementName))
                yield return (XElement)XElement.ReadFrom(reader);
        }
    }
    

    这是我机器上的处理时间和内存使用情况:

    11.49 sec 225 kb      // linq to xml ouput streamed
    
    17.36 sec 782,312 kb  // linq to xml input not streamed
    6.52 sec 1,825 kb     // xmlreader
    11.74 sec 2,238 kb    // linq to xml input streamed
    

    【讨论】:

      【解决方案3】:

      编写一些基准测试来准确确定适合您的情况,然后从那里着手……Linq2XML 引入了很多灵活性……

      【讨论】:

        猜你喜欢
        • 2010-11-12
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多