递归处理文件夹中文件的快速（低级）方法

Question

我的应用程序索引最终用户计算机上所有硬盘的内容。 我正在使用 Directory.GetFiles 和 Directory.GetDirectories 递归处理整个文件夹结构。我只索引了几个选定的文件类型（最多 10 个文件类型）。

我在分析器中看到，大部分索引时间都花在枚举文件和文件夹上 - 取决于实际索引时间高达 90% 的文件的比例。

我想让索引尽可能快。我已经优化了索引本身和索引文件的处理。

我曾考虑使用 Win32 API 调用，但实际上我在分析器中看到大部分处理时间实际上都花在了 .NET 完成的这些 API 调用上。

是否有可以从 C# 访问的（可能是低级别的）方法可以使文件/文件夹的枚举至少部分更快？

---

根据评论中的要求，我当前的代码（只是一个修剪了不相关部分的方案）：

    private IEnumerable<IndexedEntity> RecurseFolder(string indexedFolder)
    {
        //for a single extension:
        string[] files = Directory.GetFiles(indexedFolder, extensionFilter);
        foreach (string file in files)
        {
            yield return ProcessFile(file);
        }
        foreach (string directory in Directory.GetDirectories(indexedFolder))
        {
            //recursively process all subdirectories
            foreach (var ie in RecurseFolder(directory))
            {
                yield return ie;
            }
        }
    }

Answer 1

在.NET 4.0中，有内置的enumerable file listing methods；因为这不远，我会尝试使用它。如果您有大量填充的任何文件夹（需要大数组分配），这可能是一个特别因素。

如果 depth 是问题，我会考虑将您的方法展平以使用本地堆栈/队列和 single 迭代器块。这将减少用于枚举深层文件夹的代码路径：

    private static IEnumerable<string> WalkFiles(string path, string filter)
    {
        var pending = new Queue<string>();
        pending.Enqueue(path);
        string[] tmp;
        while (pending.Count > 0)
        {
            path = pending.Dequeue();
            tmp = Directory.GetFiles(path, filter);
            for(int i = 0 ; i < tmp.Length ; i++) {
                yield return tmp[i];
            }
            tmp = Directory.GetDirectories(path);
            for (int i = 0; i < tmp.Length; i++) {
                pending.Enqueue(tmp[i]);
            }
        }
    }

重复此操作，根据结果创建您的 ProcessFiles。

Answer 2

如果您认为是 .NET 实现导致了问题，那么我建议您使用 winapi 调用 _findfirst、_findnext 等。

在我看来，.NET 需要大量内存，因为列表完全复制到目录的每一级的数组中 - 所以如果你的目录结构有 10 级深，那么你有 10 个版本的数组文件对于结构中的每个目录，给定时刻和该数组的分配/解除分配。

对 _findfirst 等使用相同的递归技术只需要在每个递归级别都保留目录结构中某个位置的句柄。