标签: popart

我正在尝试使用 Graphcore 的PopART 框架（Poplar API 的一部分）来实现一个基本的流水线模型，以加速我的模型，该模型被拆分到多个处理器上。

我正在关注他们的示例代码，但我注意到该示例没有使用在pipelineStage()他们的其他一些应用程序（即Bert）中使用的调用，而是使用virtualGraph()定义操作应该运行的处理器。

以下示例的一小段：

#  Dense 1
W0 = builder.addInitializedInputTensor(
    init_weights(num_features, 512))
b0 = builder.addInitializedInputTensor(init_biases(512))

with builder.virtualGraph(0):
    x1 = builder.aiOnnx.gemm([x0, W0, b0], debugPrefix="gemm_x1")
    x2 = builder.aiOnnx.relu([x1], debugPrefix="relu_x2")

#  Dense 2
W1 = builder.addInitializedInputTensor(init_weights(512, num_classes))
b1 = builder.addInitializedInputTensor(init_biases(num_classes))

with builder.virtualGraph(1):
    x3 = builder.aiOnnx.gemm([x2, W1, b1], debugPrefix="gemm_x3")
    x4 = builder.aiOnnx.relu([x3], debugPrefix="relu_x4")

相反，Bert 示例似乎创建了一个结合virtualGraph()了pipelineStage()以下内容的上下文：

self.stack.enter_context(self.builder.pipelineStage(self.pipelineStage))

我不确定哪种应该是首选样式。只使用有什么影响virtualGraph()吗？

为什么我像下面的命令一样指定ipu4并且ipu4_ex都在 docker 中使用 ipu 设备？

docker run --device=/dev/**ipu4**:/dev/ipu4 --device=/dev/**ipu4_ex**:/dev/ipu4_ex -ti graphcore/tools gc-inventory