slurm - sbatch 作业数组，用于使用 wrap 命令并行执行填充每个节点的串行作业

Question

我有一个文件，每行一个命令，例如：

myprog.sh <args abc>
myprog.sh <args def>

我正在尝试将这些作为作业提交到数组中。该阵列应使用 1 台主机，以及该主机上的所有 CPU。相反，每个阵列使用 2 台主机，并在两台主机上执行这两个命令。

我想要什么：

host1
  - myprog.sh <args abc> slurm-1_1.out
  - myprog.sh <args def> slurm-1_2.out

slurm-1_1.out 将具有来自作业 1 的标准输出，而 slurm1_2.out 将具有来自作业 2 的标准输出。相反，正在发生的事情是这样的：

host1
  - myprog.sh <args abc> slurm-1_1.out
  - myprog.sh <args def> slurm-1_1.out
host2
  - myprog.sh <args abc> slurm-1_2.out
  - myprog.sh <args def> slurm-1_2.out

所以每个作业都在每个主机上重复。

我的 sbatch 命令如下所示：

sbatch -p small --nodes=1 -w host1 --cpus-per-task=1 --mem-per-cpu=3G --array=1-2 --wrap="myprog.sh <args abc> & myprog.sh <args def> & wait"

任何帮助将不胜感激！

Answer 1

阵列作业适用于完全独立的工作负载。您希望作业在同一台机器上同时运行，因此数组不适合这种情况。不过，您可以只做一份工作并完成两项任务：

#SBATCH -p small
#SBATCH --nodes=1
#SBATCH --ntasks=2
#If you want access to all CPU and memory:
#SBATCH --exclusive

srun -n 1 myprog.sh <args abc> > first.out & 
srun -n 1 myprog.sh <args def> > second.out &
wait

根据您的集群设置，您可能需要--exact 标志和更多srun 的内存规格。这在最近的版本中有所改变。您应该也可以使用 wrap 命令在一行中执行此操作，但由于这不是真正可读的，我更喜欢编写作业脚本。