【问题标题】:What is the best job scheduler policy to prioritize small HPC jobs for weak-scaling tests?为弱扩展测试优先考虑小型 HPC 作业的最佳作业调度程序策略是什么?
【发布时间】:2020-01-25 17:43:34
【问题描述】:

我有兴趣在 HPC 集群上执行弱扩展测试。为了实现这一点,我在 1、2、4、8、16、32、64 个节点上运行了几个小测试,每次模拟需要不到一分钟到最多 1 小时。但是,在测试结果可用之前,作业会在队列中(1 小时队列)等待几天。

我有两个问题:

  1. 鉴于大多数测试不到一分钟,我必须等待几天,有没有办法在作业调度程序中确定作业的优先级?

  2. 这样的作业调度策略会在多大程度上导致滥用 HPC 资源。考虑一个在 32 个节点上进行 HPC 模拟的假设示例,该模拟分为几个小的 1 小时模拟,由于上述第 1 点提供的解决方案,这些模拟得到优先级。

注意:HPC 中心使用的作业调度和管理系统是MOAB。每个集群节点配备 2 个 Xeon 6140 CPU@2.3 GHz (Skylake),每个 18 个内核。

【问题讨论】:

    标签: job-scheduling openmpi hpc intel-mpi


    【解决方案1】:

    Moab 的 fairshare 调度程序可能会执行您想要的操作,或者如果它不是开箱即用的,则可能允许调整以优先处理您感兴趣的范围内的作业:http://docs.adaptivecomputing.com/mwm/7-1-3/help.htm#topics/fairness/6.3fairshare.html

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-04-18
      • 2012-11-22
      • 1970-01-01
      • 2011-06-22
      • 1970-01-01
      相关资源
      最近更新 更多