【问题标题】:new[] doesn't decrease available memory until populatednew[] 在填充之前不会减少可用内存
【发布时间】:2011-07-17 12:25:22
【问题描述】:

这是在 CentOS 64 位上使用 G++ 4.1.2 的 C++。

我们正在编写一个测试应用程序,以将系统上的内存使用量加载 n GB。这个想法是通过 SNMP 等监控整个系统负载。所以这只是一种进行监控的方式。

然而,我们看到的只是简单地做:

char* p = new char[1000000000];

不影响使用的内存,如 top 或 free -m 所示

内存分配似乎只有在内存被写入后才变得“真实”:

memcpy(p, 'a', 1000000000);   //shows an increase in mem usage of 1GB

但我们必须写入所有内存,仅写入第一个元素并不会显示已用内存的增加:

p[0] = 'a';    //does not show an increase of 1GB.

这正常吗,内存真的分配满了吗?我不确定是否是我们正在使用的工具(top 和 free -m)显示不正确的值,或者编译器或运行时和/或内核中是否发生了一些聪明的事情。

即使在关闭优化的调试版本中也会出现这种行为。

我的理解是 new[] 立即分配了内存。 C++ 运行时是否会延迟此实际分配,直到稍后访问它。在这种情况下,内存不足异常是否可以推迟到实际分配内存之后直到访问内存?

这对我们来说不是问题,但很高兴知道为什么会这样!

干杯!

编辑:

我不想知道我们应该如何使用 Vectors,这不是 OO / C++ / 当前的做事方式等等。我只想知道为什么会这样,而不是比有其他尝试方法的建议。

【问题讨论】:

    标签: c++ linux memory-management new-operator memory-overcommitment


    【解决方案1】:

    关于你问题的后半部分:

    语言标准不允许延迟抛出 bad_alloc。这必须作为 new[] 返回指针的替代方法。以后不能再这样了!

    某些操作系统可能会尝试过度使用内存分配,但稍后会失败。这不符合 C++ 语言标准。

    【讨论】:

      【解决方案2】:

      请查找过度使用。默认情况下,Linux 在访问之前不会保留内存。如果您最终需要的内存超出可用内存,您不会收到错误消息,但会终止随机进程。您可以使用/proc/sys/vm/* 控制此行为。

      IMO,过度使用应该是每个进程的设置,而不是全局设置。并且默认应该是 no overcommit。

      【讨论】:

        【解决方案3】:

        当您的库从操作系统分配内存时,操作系统只会在进程的虚拟地址空间中保留一个地址范围。在您使用它之前,操作系统没有理由实际提供此内存 - 正如您所展示的那样。

        如果您查看例如/proc/self/maps 你会看到地址范围。如果你查看 top 的内存 use 你不会看到它——你还没有使用它。

        【讨论】:

        • 我在这方面有一些经验,我认为现代编译器中的内存关联和垃圾收集方法也会影响这个问题。你有这方面的技术信息吗?
        • C++ 中没有垃圾收集 - 这不相关。在 java 或 C# 中,这在理论上可能是一个额外的原因。有关详细信息,请从 虚拟地址空间 上的维基百科页面开始
        • 我认为这是 Unix 的一个共同特点。它可能会导致地狱,因为系统让您的应用程序相信它能够满足其请求,但可能也无法满足要求,但实际上我认为它会产生较低的内存消耗。
        • @Matthieu:它是 Linux 特有的(过度使用),即使在那里也可以禁用它。
        • @Nemanja:您可以在每个进程的基础上禁用它,还是一次性禁用整个系统?
        猜你喜欢
        • 1970-01-01
        • 2020-10-29
        • 1970-01-01
        • 2012-07-07
        • 1970-01-01
        • 2022-10-23
        • 1970-01-01
        • 2015-03-25
        • 1970-01-01
        相关资源
        最近更新 更多