std::vector< std::vector<unsigned char> > 还是 std::deque< std::vector<unsigned char> >？

Question

我有一个现有的算法，如果可能的话，我需要对其进行优化。目前无法在此算法中进行大量更改。该算法适用于std::vector< std::vector<unsigned char> > 的实例。它看起来像这样：

typedef std::vector<unsigned char> internal_vector_t;
std::vector< internal_vector_t > internal_vectors; 

while (fetching lots of records) {
   internal_vector_t tmp;
   // reads 1Mb of chars in tmp...
   internal_vectors.push_back(tmp);
   // some more work
}

// use this internal_vectors

该算法使用 push_back() 在 internal_vectors 的 internal_vector_t 实例中插入很多次。 大多数 internal_vector_t 实例的大小为 1 Mb。由于internal_vectors 的大小未知，因此没有预先完成reserve()。

我不明白的第一件事是当internal_vectors 达到其当前容量时会发生什么，需要分配一个新块并将其当前内容复制到更大的内存块中。由于大多数块的大小为 1Mb，因此复制是一个很长的操作。 我是否应该期望编译器（gcc 4.3、MS VC++ 2008）能够对其进行优化以避免复制？

如果无法避免复制，是否将更改为std::deque 帮助？我考虑 std::deque 因为我仍然需要通过像 internal_vectors[10] 这样的索引来访问。像这样：

typedef std::vector<unsigned char> internal_vector_t;
std::deque< internal_vector_t > internal_vectors; 
// the same while

据我了解，std::deque 不需要重新分配曾经分配的位置。我对 std::deque 在这种情况下会要求在 push_backs 上进行更少的分配和复制是对的吗？

---

更新：
1) 根据DeadMG MSVC9 进行此类优化（Swaptimization - TR1 Fixes In VC9 SP1）。 gcc 4.3 可能不做这种优化。

2) 我已经分析了使用std::deque< std::vector<unsigned char> > 的算法版本，我发现它的性能更好。

3) 我还使用了Mark Ransom 建议的swap。使用它可以提高性能：

   internal_vector_t tmp;
   internal_vectors.push_back(empty);
   tmp.swap(internal_vectors.back());

Answer 1

MSVC9 为其标准容器实现了一种称为“swaptimization”的东西。这是移动语义的较弱版本。当外部向量被调整大小时，它不会复制内部向量。

但是，您最好将编译器升级到 MSVC10 或 GCC（我认为是 4.5），这将为您提供移动语义，从而大大提高此类操作的效率。当然，std::deque 可能仍然是更智能的容器，但移动语义在很多很多地方都对性能有益。

Answer 2

每次将internal_vector_t 插入internal_vectors 时，它都会复制internal_vector_t。无论您使用vector 还是deque，这都是正确的。标准容器始终会复制您正在插入的对象。

您可以通过插入一个空的internal_vector_t 和swap 将插入对象的内容与您真正想要插入的对象相匹配来消除复制。

在插入过程中向量空间不足时，有时需要调整自身大小，这会导致对象再次被复制。只要您始终在开头或结尾插入，双端队列就会消除这种情况。

编辑：我上面给出的建议可以用这些代码更改来概括。这段代码应该避免所有大向量的复制。

typedef std::vector<unsigned char> internal_vector_t;
std::deque< internal_vector_t > internal_vectors; 
internal_vector_t empty;

while (fetching lots of records) {
   internal_vector_t tmp;
   // reads 1Mb of chars in tmp...
   internal_vectors.push_back(empty);
   tmp.swap(internal_vectors.back());
   // some more work
}

Answer 3

std::deque 不会连续存储它的元素 - 它将它的存储分成一系列恒定大小的“块”。这意味着当std::deque 容量不足时，它只需要分配一个恒定大小的新块 - 它不需要重新分配整个内部缓冲区并移动所有现有元素。

另一方面，std::vector 确实保持连续存储，因此当它用完容量并重新分配时，它确实需要移动所有现有元素 - 这可能很昂贵。

std::vector 对其重新分配方案“聪明”，根据几何级数分块分配（通常将容量加倍或增加 1.5 等）。这意味着重新分配不会经常发生。

std::deque 在这种情况下可能更有效，因为当重新分配确实发生时，它所做的工作更少。与往常一样，您必须进行基准测试才能获得任何实数。

您的代码可能会在其他方面得到进一步改进。似乎在while 循环的每次迭代中，您都在创建一个新的internal_vector_t tmp。在循环之外声明它可能更有效，并且在每次迭代时只需 ::clear() 它的存储。每次调用 internal_vectors.push_back(tmp) 时，您也会复制整个 tmp 向量 - 您可以通过 internal_vectors.push_back(std::move(tmp)) 移动 tmp 向量来改进这一点 - 这只会复制一些指针。

希望这会有所帮助。

Answer 4

您是否正在索引外部向量？如果没有，std::list<std::vector<unsigned char> > 怎么样？

Answer 5

出队可能更有效，具体取决于实现。与向量不同，出队不能保证连续存储，因此可以分配几个单独的内存块。因此，它可以分配更多内存而无需移动已添加的元素。您应该尝试一下并衡量其影响。