如何使用 Slurm 在多个节点上发送循环？

Question

我有一个想要在多个节点上执行的 R 脚本。我展示了我的 slurm 代码的循环：

编辑

#!/bin/bash
#SBATCH -o job-%A_task.out
#SBATCH --job-name=paral_cor
#SBATCH --partition=normal
#SBATCH --time=1-00:00:00
#SBATCH --mem=124G                #I want to use 124Go / node
#SBATCH --cpus-per-task=32        #and 32CPUs / node 
#SBATCH --exclude=hpcsmp01


module load gcc/8.1.0 openblas/0.3.3 R

OUTPUT="$HOME"/PROJET_M2/data/$(date +"%Y%m%d")_parallel_nodes_test
mkdir -p "$OUTPUT"

export FILENAME=~/PROJET_M2/bin/RHO_COR.R

echo "Start job :"`date`

for i in $(seq 100)
do
   srun Rscript my_scrit.R --subset $i  
done

echo "Stop job :"`date`

我基本上执行这个

sbatch my_script.sh 

这是我的 R 代码中出现--subset $i 的循环：

res <- foreach(i = opt$subset) %dopar% {      #without argument, that gives
 G1 <- split[[combs[i,1]]]                    i=seq_len(nrow(combs))
 G2 <- split[[combs[i,2]]]                    combs is a vector with several
 dat.i <- cbind(data[,G1], data[,G2])         rows, according to my input 
 rho.i <- cor_rho(dat.i)                      file
}

我想在多个节点上执行i 的不同值。此代码仅在一个节点上执行。在多个节点上运行此代码是否有问题？

谢谢

Answer 1

在您当前的状态下，您要求 SLURM 为该任务提供单个节点、单个任务和 32 个内核。如果你想使用多个节点，你应该告诉 SLURM：

#SBATCH --nodes=10

稍后，在实际的脚本启动中，您应该告诉srun 在单个节点中启动该脚本：

srun --nodes 1 --exclusive Rscript my_scrit.R --subset $i &

如果要在第一个迭代仍在运行时开始下一个迭代，则需要将脚本置于后台。您还需要 --exclusive 标志以避免在已分配的资源上启动额外的脚本。