通过读取文件创建 map<string,vector<string>> 时如何管理内存

Question

我想知道当不同的文件存储在字符串向量映射中时如何管理内存。 我试图读取每个 10 个月的不同文件以将它们放入内存中，当我使用 KSySGuard 检查内存时，出现的内存是我文件内存的两倍多（约 70 个月）。 我给你一个代码示例： 有一个函数readfile()：

std::vector<std::string> read_file(std::string& path){
    ifstream fichier(path);
    std::vector<std::string> fich;
    if(fichier){
       string ligne;
        while(getline(fichier, ligne)){
           fich.push_back(ligne);
        }
     }
    fichier.close();
    return fich;
}

这个函数在另一个正在构建我的地图中使用：

std::map<std::string, std::vector<std::string>> buildmap(std::string folder){
    std::map<std::string,std::vector<std::string>> evaluations; std::vector<std::string> vecFiles = {"file1","file2","file3"};
    for( auto i = 0; i < vecFiles.size(); i++ )
    {
        std::stringstream strad;
        strad <<vecFiles[i] ;
        std::string path(folder+vecFiles[i]);
        std::vector<std::string> a = read_file(path);
        evaluations[strad.str()]=a;
    }
    return evaluations;   
}

所以，我不明白为什么内存与文件大小相比如此之高。有没有更有效的方法来构建这种容器？

Answer 1

您的场景中有很多内存开销：

1. 您将每个文件行存储为单独的std::string 对象。每个这样的对象本身都会占用一些空间（在 64 位架构上通常为 24 或 32 个字节），但是，存储的字符串（行字符）仅在字符串很短且小/短字符串优化 (SSO) 时才存储在其中应用（通常是来自 C++11 的常见标准库实现）。如果行很长，字符串的空间是动态分配的，每次分配也会有一些额外的内存开销。
2. 您将push_back 这些std::string 对象放入std::vector，这通常会以指数方式增加内部缓冲区的大小（例如在空间不足时将其翻倍）。这就是为什么在您预先知道向量元素的数量时使用保留空间 (std::vector::reserve)。

这是这种“舒适”方法的代价。可能有帮助的是将整个文件内容存储为单个std::string，然后仅将索引/指针存储到单独数组/向量中各个行的开头（尽管您不能将这些指针视为字符串，因为它们不会以空结尾；或者，实际上，如果您用空字符替换换行符，则可以）。

在 C++17 中，您可以将行作为 std::string_view 的实例存储到存储在单个 std::string 中的整个文件内容中。

请注意，std::string_view 可能会比指针/索引大。例如，对于 libstdc++ 和 x86_64，sizeof(std::string_view) 是 16 个字节，但指针/索引将占用 8 个字节。对于小于 4 GB 的文件，您甚至可以使用 32 位索引。如果处理的文件中有很多行，这些差异可能很重要。

更新

这个问题高度相关：C++ Fast way to load large txt file in vector。