OpenMPI 中的动态节点

Question

在MPI中，启动后是否可以添加新节点？例如，我有 2 台计算机已经在运行并行 MPI 应用程序。我在第三台计算机上启动此应用程序的另一个实例，并将其添加到现有的通信器中。所有计算机都在本地网络中。

Answer 1

不可以，目前无法向正在运行的 MPI 应用程序添加新节点。MPI 旨在在程序启动时了解节点总数。

正在处理发生故障的节点（例如在MPI-3上）。也许如果您可以添加错误的节点回来，那么您可以添加新的节点，但这是我能想到的最接近的事情。有关 MPI 容错方法的更多信息，请参阅此答案。