pytorch在顺序模型中跳过连接

Question

我试图在顺序模型中绕过跳过连接.使用功能API,我会做一些简单的事情(快速示例,可能不是100%语法正确,但应该得到的想法):

x1 = self.conv1(inp)
x = self.conv2(x)
x = self.conv3(x)
x = self.conv4(x)

x = self.deconv4(x)
x = self.deconv3(x)
x = self.deconv2(x)
x = torch.cat((x, x1), 1))
x = self.deconv1(x)

我现在正在使用顺序模型并尝试执行类似的操作,创建一个跳过连接,将第一个conv层的激活一直带到最后一个convTranspose.我已经看过这里实现的U-net架构,它有点令人困惑,它做了这样的事情:

upconv = nn.ConvTranspose2d(inner_nc * 2, outer_nc,
                                    kernel_size=4, stride=2,
                                    padding=1, bias=use_bias)
down = [downrelu, downconv, downnorm]
up = [uprelu, upconv, upnorm]

if use_dropout:
    model = down + [submodule] + up + [nn.Dropout(0.5)]
else:
    model = down + [submodule] + up

这不仅仅是按顺序向顺序模型添加图层吗？有一个downconv后面跟着submodule(递归地添加内层),然后连接到upupconv层.我可能遗漏了一些关于SequentialAPI 如何工作的重要事项,但是从U-NET剪切的代码实际上是如何实现跳过的呢？

Answer 1

您的观察是正确的，但您可能错过了UnetSkipConnectionBlock.forward()（定义您共享的 U-Net 块）UnetSkipConnectionBlock的Module定义，这可能会阐明此实现：

(来自pytorch-CycleGAN-and-pix2pix/models/networks.py#L259)

# Defines the submodule with skip connection.
# X -------------------identity---------------------- X
#   |-- downsampling -- |submodule| -- upsampling --|
class UnetSkipConnectionBlock(nn.Module):

    # ...

    def forward(self, x):
        if self.outermost:
            return self.model(x)
        else:
            return torch.cat([x, self.model(x)], 1)

最后一行是关键（适用于所有内部块）。跳过层只是通过将输入x和（递归）块输出self.model(x)与self.model您提到的操作列表连接起来来完成的- 所以与Functional您编写的代码没有太大区别。