【问题标题】:How to limit CPU and RAM resources for mongodump?如何限制 mongodump 的 CPU 和 RAM 资源?
【发布时间】:2015-01-27 10:23:22
【问题描述】:

我有一个 mongod 服务器正在运行。每天,我都在执行 mongodump 以便进行备份。问题是 mongodump 会占用大量资源,并且会降低服务器速度(顺便说一下,它已经运行了一些其他繁重的任务)。

我的目标是以某种方式限制在 shell 脚本中调用的 mongodump。

谢谢。

【问题讨论】:

  • 你需要google的关键字是cgroup
  • @SergeyKlyaus,非常感谢。您能否在此处提供一个示例作为答案,我会接受。

标签: linux mongodb mongodump


【解决方案1】:

你应该使用 cgroups。发行版和内核上的挂载点和细节是不同的。 IE。带有股票内核的 D​​ebian 7.0 默认不挂载 cgroupfs 并且禁用内存子系统(人们建议使用 cgroup_enabled=memory 重新启动),而 openSUSE 13.1 附带所有这些(主要是由于 systemd)。

首先,如果您的发行版尚未完成,请创建挂载点并挂载 cgroupfs:

mkdir /sys/fs/cgroup/cpu
mount -t cgroup -o cpuacct,cpu cgroup /sys/fs/cgroup/cpu

mkdir /sys/fs/cgroup/memory
mount -t cgroup -o memory cgroup /sys/fs/cgroup/memory

创建一个 cgroup:

mkdir /sys/fs/cgroup/cpu/shell
mkdir /sys/fs/cgroup/memory/shell

设置一个 cgroup。我决定更改 cpu 份额。它的默认值为 1024,因此如果有竞争对手,将其设置为 128 会将 cgroup 限制为所有 CPU 资源的 11%。如果仍有可用的 cpu 资源,它们将被提供给 mongodump。您也可以使用cpuset 来限制可用的内核数。

echo 128 > /sys/fs/cgroup/cpu/shell/cpu.shares
echo 50331648 > /sys/fs/cgroup/memory/shell/memory.limit_in_bytes

现在将 PID 添加到 cgroup 中,它也会影响它们的所有子级。

echo 13065 >  /sys/fs/cgroup/cpu/shell/tasks
echo 13065 >  /sys/fs/cgroup/memory/shell/tasks

我运行了几个测试。试图分配一堆内存的 Python 被 OOM 杀死:

myaut@zenbook:~$ python -c 'l = range(3000000)'
Killed

我还在 cgroup 中运行了四个无限循环和第五个。正如预期的那样,在 cgroup 中运行的循环只获得了大约 45% 的 CPU 时间,而其余的获得了 355%(我有 4 个内核)。

所有更改都无法在重新启动后继续存在!

您可以将此代码添加到运行 mongodump 的脚本中,或使用一些永久解决方案。

【讨论】:

  • 你是否添加了 shell 的 PID,然后产生它的 python 进程继承了 cgroup?
猜你喜欢
  • 2011-04-12
  • 2022-07-16
  • 2012-11-24
  • 2018-09-30
  • 2012-07-21
  • 2021-03-29
  • 2017-07-08
  • 2023-03-24
  • 1970-01-01
相关资源
最近更新 更多