【问题标题】:cpp - large array pass by referencec++ - 大数组按引用传递
【发布时间】:2021-09-14 17:46:30
【问题描述】:

我有一个非常大的数组,其中包含大约 10000000 个双重条目(在下面的代码中,此数字设置为 NX=1000,但实际上在实际情况下它将是 10000000)。我想用这个数组做一些计算,从中得到一个新数组。然后我再次用这个新数组做一些计算,依此类推。我正在寻找对 RAM 进行这些操作的最有效方法(我相信这是这里的限制因素,因为我的 arras 太大了)。我知道由于数组很大,我应该尝试尽可能多地通过每个引用传递数组。但是,我在将数组传递给其他函数时遇到了问题。代码如下:

#include <iostream>
#include <array>


#define NX 1000

////////////////////////
//Function declaration//
////////////////////////
void time_propagation(std::array<double,NX>& X1,std::array<double,NX>& X2, double dt); 

std::array<double,NX> F(std::array<double,NX>& X);

///////////////////////
//operator overloading/
///////////////////////

// double* Array
std::array<double,NX> operator*(double d,std::array<double,NX> X){
  std::array<double,NX> res={};
  for(int i=0;i<NX;i++){
    res[i]=X[i]*d;
  } 
  return res;
}

//Array + Array
std::array<double,NX> operator+(std::array<double,NX> X1,std::array<double,NX> X2){
  std::array<double,NX> res={};
  for(int i=0;i<NX;i++){
    res[i]=X1[i]+X2[i];
  }
  return res;
}

/////////////
//main()/////
/////////////

int main () {
  std::array<double,NX> X0={};  
  std::array<double,NX> X1 = {};
  time_propagation(X0,X1,0.1);
  //Now I will write X0 to a file. Afterwards X0 is not needed anymore. Only X1. Do I have to manually delete X0?
  std::array<double,NX> X2 = {};
  time_propagation(X1,X2,0.1);
  //Now I will write X1 to a file. Afterwards X1 is not needed anymore. Only X2. Do I have to manually delete X1?
  //... I have to do this step very often
 
 
  return 0;
}

///////////////////////
//Function definitons//
///////////////////////

std::array<double,NX> F(std::array<double,NX>& X){
  std::array<double,NX> R={};
  double a=X[NX-2];
  double b=X[NX-1];
  R[NX-1]=-a;
  R[NX-1]=3.0;
  
  return R;
}

void time_propagation(std::array<double,NX>& X1,std::array<double,NX>& X2,double dt){
  
  std::array<double,NX> K1=F(X1);
  std::array<double,NX> K2=F(X1+dt/2.0*K1);
  std::array<double,NX> K3=F(X1+dt/2.0*K2);
  std::array<double,NX> K4=F(X1+dt*K3);      
  X2=X1+1.0/6.0*dt*(K1+2.0*K2+2.0*K3+K4); 
}

我知道我的错误在函数“time_propagation”中。在最后第五行,我用参数“X1+dt/2.0*K1”调用函数“F”。 “X1”是通过引用传递的,“K1”是之前定义的。我是否首先必须创建一个副本并在该副本上调用函数?类似的东西:

 void time_propagation(std::array<double,NX>& X1,std::array<double,NX>& X2,double dt){
      
  std::array<double,NX> argument={};
  for(int i=0;i<NX;i++){argument[i]=X1[i];}      

  std::array<double,NX> K1=F(argument);
  for(int i=0;i<NX;i++){argument[i]=X1[i]+dt/2.0*K1[i];}   
  std::array<double,NX> K2=F(argument);
  for(int i=0;i<NX;i++){argument[i]=X1[i]+dt/2.0*K2[i];}   
  std::array<double,NX> K3=F(argument);
  for(int i=0;i<NX;i++){argument[i]=X1[i]+dt/2.0*K3[i];}   
  std::array<double,NX> K4=F(argument);   
  for(int i=0;i<NX;i++){X2[i]=X1[i]+1.0/6.0*dt*(K1[i]+2.0*K2[i]+2.0*K3[i]+K4[i]); }      
}

如果我使用这个新的“time_propagation”函数,那么我不会再收到任何错误,但我的感觉是这种解决方法非常糟糕,有更好的方法吗?其次,最重要的是,即使使用这个新版本的“time_propagation()”,如果我将 NX 增加到 10000000,我会得到一个“分段错误(核心转储)”。我猜这是因为代码写得非常糟糕?一般来说,我的笔记本电脑应该能够在 RAM 中存储 10000000 双打?我有 16 GB 的 RAM...而 10000000 双打只需要 0.2 GB 的 RAM!?

【问题讨论】:

  • 您很可能遇到堆栈溢出。 std::array 分配在堆栈上 - 而不是堆上。堆栈大小因编译器和操作系统而异(请参阅here)。
  • 我还建议在后处理器定义上使用constexpr size_t NX{1000};。
  • 感谢您的提示!我只是出于懒惰而使用后处理器定义...
  • 我使用的是 std::array,因为这样我就不必关心分配空间的位置了! -- 是否分配了某些东西之间存在巨大差异堆栈或堆分配。不知道或不关心差异不应该发生。堆栈通常限制为 8MB 或更少。
  • 使用std::vector,而不是std::array。

标签: c++ operator-overloading pass-by-reference


【解决方案1】:

根据您的评论,您非常接近答案。您错过的一件事是,除了数组是基于堆栈的,向量是基于堆的之外,array 和 vector 之间还有一个区别:向量需要调用其构造函数(或调整大小)来放大大小。所以切换到vector之后,我们需要稍微修改一下。

  1. 如何减少内存使用?

将不必要的复制参数更改为引用。

  1. 如何手动回收矢量?

使用 lambda 调用 swap 或 clear 和 shrink_to_fit

奖励:要删除operator * 和operator + 中不必要的临时对象,请参阅Expression_templates

一个固定的代码可能是这样的:

#include <array>
#include <iostream>
#include <vector>

#define NX 1000

////////////////////////
// Function declaration//
////////////////////////
void time_propagation(std::vector<double>& X1, std::vector<double>& X2,
                      double dt);

std::vector<double> F(const std::vector<double>& X);

///////////////////////
// operator overloading/
///////////////////////

// double* Array
std::vector<double> operator*(double d, const std::vector<double>& X) {
  std::vector<double> res(NX);
  for (int i = 0; i < NX; i++) {
    res[i] = X[i] * d;
  }
  return res;
}

// Array + Array
std::vector<double> operator+(const std::vector<double>& X1,
                              const std::vector<double>& X2) {
  std::vector<double> res(NX);
  for (int i = 0; i < NX; i++) {
    res[i] = X1[i] + X2[i];
  }
  return res;
}

/////////////
// main()/////
/////////////

int main() {
  auto release_vec = [](auto& vec) {
    vec.clear();
    vec.shrink_to_fit();
  };
  std::vector<double> X0(NX);
  std::vector<double> X1(NX);
  time_propagation(X0, X1, 0.1);
  // Now I will write X0 to a file. Afterwards X0 is not needed anymore. Only
  // X1. Do I have to manually delete X0?
  release_vec(X0);
  std::vector<double> X2(NX);
  time_propagation(X1, X2, 0.1);
  // Now I will write X1 to a file. Afterwards X1 is not needed anymore. Only
  // X2. Do I have to manually delete X1?
  //... I have to do this step very often
  release_vec(X1);

  return 0;
}

///////////////////////
// Function definitons//
///////////////////////

std::vector<double> F(const std::vector<double>& X) {
  std::vector<double> R(NX);
  double a = X[NX - 2];
  double b = X[NX - 1];
  R[NX - 1] = -a;
  R[NX - 1] = 3.0;

  return R;
}

void time_propagation(std::vector<double>& X1, std::vector<double>& X2,
                      double dt) {
  std::vector<double> K1 = F(X1);
  std::vector<double> K2 = F(X1 + dt / 2.0 * K1);
  std::vector<double> K3 = F(X1 + dt / 2.0 * K2);
  std::vector<double> K4 = F(X1 + dt * K3);
  X2 = X1 + 1.0 / 6.0 * dt * (K1 + 2.0 * K2 + 2.0 * K3 + K4);
}

【讨论】:

猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2011-05-08
  • 2023-03-02
  • 2012-07-29
  • 1970-01-01
  • 2012-05-06
  • 1970-01-01
相关资源
最近更新 更多