Slurm：即使资源可用也无法分配资源

Question

我正在尝试使用 SLURM 在集群上执行套接字编程代码进行节点分配。我使用 slurm 脚本如下：

#!/bin/bash
#SBATCH --job-name="abcd"
#SBATCH --ntasks=2
#SBATCH --nodes=2-2
#SBATCH --cpus-per-task=128
#SBATCH --partition=knl
./a.out

当将此脚本作为 sbatch 脚本运行时，我收到错误“sbatch：错误：批处理作业提交失败：请求的节点配置不可用”。

但是，我确实看到一些节点满足上述配置。两个节点的 scontrol 输出如下所示：

NodeName=compute140 Arch=x86_64 CoresPerSocket=64
   CPUAlloc=20 CPUErr=0 CPUTot=256 CPULoad=20.01
   AvailableFeatures=knl
   ActiveFeatures=knl
   Gres=(null)
   NodeAddr=compute140 NodeHostName=compute140 Version=16.05
   OS=Linux RealMemory=96000 AllocMem=81920 FreeMem=102580 Sockets=1 Boards=1
   MemSpecLimit=1024
   State=MIXED ThreadsPerCore=4 TmpDisk=0 Weight=1 Owner=N/A MCS_label=N/A
   BootTime=2018-06-04T12:41:22 SlurmdStartTime=2018-06-04T12:47:01
   CapWatts=n/a
   CurrentWatts=0 LowestJoules=0 ConsumedJoules=0
   ExtSensorsJoules=n/s ExtSensorsWatts=0 ExtSensorsTemp=n/s


NodeName=compute141 Arch=x86_64 CoresPerSocket=64
   CPUAlloc=20 CPUErr=0 CPUTot=256 CPULoad=20.01
   AvailableFeatures=knl
   ActiveFeatures=knl
   Gres=(null)
   NodeAddr=compute141 NodeHostName=compute141 Version=16.05
   OS=Linux RealMemory=96000 AllocMem=81920 FreeMem=87441 Sockets=1 Boards=1
   MemSpecLimit=1024
   State=MIXED ThreadsPerCore=4 TmpDisk=0 Weight=1 Owner=N/A MCS_label=N/A
   BootTime=2018-06-04T12:46:37 SlurmdStartTime=2018-06-04T12:52:11
   CapWatts=n/a
   CurrentWatts=0 LowestJoules=0 ConsumedJoules=0
   ExtSensorsJoules=n/s ExtSensorsWatts=0 ExtSensorsTemp=n/s

我不知道当 slurm 应该为我分配请求的配置时为什么会收到错误。

我想在两个不同的 knl 节点上运行客户端-服务器应用程序，每个任务都是多线程的，每个任务有 128 个线程。

请帮助，因为我尝试了几种方法，但没有任何效果对我有用。

Answer 1

您没有明确指定每个 CPU 的内存要求，因此应用默认值。如果默认值大于RealMemory/ CPUTot，在您的情况下为 96000MB/128=750MB，则任务无法保存在一个节点中。

因此，如果默认值为 4GB/CPU，并且您请求每个节点一个任务，每个任务 128 个 CPU，那么您实际上为每个节点请求 524GB RAM，而您的集群无法提供该内存。