【发布时间】:2019-08-22 15:01:00
【问题描述】:
我有 1,2,...,n 个向量。每个向量都有超过 10000 个元素,我必须得到这些向量的笛卡尔积。我有一个代码,什么有效,但只有不到 1000 个元素和 4 个向量。 我想将笛卡尔积写入文件,但如果输出文件大于 1GB,我得到:“在抛出 'std::bad_alloc' what(): std::bad_alloc 的实例后调用终止”。
我的主要问题是,如何解决这个内存分配错误?
这是我的一段可运行的代码:
#include <iostream>
#include <vector>
#include <algorithm>
#include <time.h>
#include <fstream>
#include <math.h>
using namespace std;
vector<double> makeVectorByRange(double min, double max, double step){
vector<double> out = {};
for( ; min <= max; min+=step){
out.push_back(min);
}
return out;
}
void cart_product_solve_and_write_to_file (const vector<vector<double>>& inpV) {
vector<vector<double>> out = {{}};
std::ofstream outputFile;
std::fixed;
for (auto& u : inpV) {
vector<vector<double>> r;
r.clear();
for (auto& x : out) {
//make/open file, append
outputFile.open ("out.csv", std::ofstream::out | std::ofstream::app);
outputFile.precision(8);
for (auto y : u) {
r.push_back(x);
r.back().push_back(y);
if( r.back().size() == inpV.size() ){
// write the input parameters of griewank to file
for(double asd : r.back()){
outputFile << asd << ";";
}
outputFile << "; \n";
outputFile << std::flush;
r.back().clear();
}
}
//close file
outputFile.close();
}
out.swap(r);
}
}
// Pure cartesian product. This function returns the cartesian product as a vector, but if the input vectors are too big, it has an error
/*
vector < vector<double> > cartesian_product (const vector< vector<double> >& inpV) {
vector< vector<double> > out = {{}};
for (auto& u : inpV) {
vector< vector<double> > r;
for (auto& x : out) {
for (auto y : u) {
r.push_back(x);
r.back().push_back(y);
}
}
out.swap(r);
}
return out;
}
*/
int main(){
clock_t tStart = clock();
// it works
// const vector<vector<int> > test ={ {0,1,2,3,4}, {5,6,7}, {8,9,10,11,12,13} };
// vector<vector<int> > cart_prod = cartesian_product(test);
vector <vector<double> > test = {};
test.push_back( makeVectorByRange( 0, 0.5, 0.001) );
test.push_back( makeVectorByRange( 0, 0.5, 0.001) );
test.push_back( makeVectorByRange( 0, 0.5, 0.001) );
cart_product_solve_and_write_to_file(test);
printf("Time taken: %.6fs\n", (double)(clock() - tStart)/CLOCKS_PER_SEC);
return 0;
}
【问题讨论】:
-
嗯。向量的笛卡尔积通常是您迭代的东西,因此您一次只能看到一个组合。为什么要存储所有组合?
-
如何解决这个内存分配错误? 遍历所有组合并将它们存储在文件中。根本不要将它们留在内存中。
-
此外,您知道向量的目标大小(因为它基于输入向量的大小),因此您应该使用 reserve() 来避免重新分配 - 不仅因为提高了速度,而且为了防止内存碎片(这可能导致大块无法分配,尽管有足够的可用内存可用,但碎片化)。但正如其他人所说,如果可能的话,最好不要将结果存储在内存中,如果需要的话,只需将它们写入文件即可。
-
另外,如果您真的想使用大量内存,请确保将应用程序构建为 64 位而不是 32 位(尽管即使在 64 位中,尝试分配大量内存)如果您有足够的可用虚拟内存,内存分配可能不会失败,但仍会使您的计算机因交换而停止)。
-
[OT]:为什么要反复打开/关闭流?
标签: c++ c++11 cartesian-product bad-alloc