在 Tensorflow 中，我可以使用 tf.gather() 进行部分连接吗？

Question

我正在尝试实现层之间的部分连接。比方说，我只想使用一些特征图，例如，第一个和第三个。

• 为此目的使用 tf.gather() 是否正确？
• 我可以只使用索引运算符 [ ] 而不是 tf.gather() 如下吗？
• 收集索引是否适用于反向传播？我很难想象 Tensorflow 如何在内部知道连接来自内部反向传播过程中的第一个和第三个（这些信息是硬编码的）。函数 tf.gather 是否记得连接？

代码：

# let say, L1 is layer1 output of shape [batch_size x image_size x image_size x depth1]
partL1 = L1[:, :, :, [0,2]]
# W2 is a tf variable of shape [5, 5, 2, depth2]
conv2 = tf.nn.conv2d(partL1, W2)

Answer 1

是的，不，是的。:-) (a) 是的，您可以按照您的建议使用收集来选择层的子集以传播到下一层。

(b) 不，不幸的是，您不能使用索引运算符。您需要显式调用tf.gather().

(c) 是的，TensorFlow 将存储用于收集的索引副本并将其保存以用于反向传播。如果您好奇如何实现，您可以查看Gather's Gradient 的实现- 它查看操作的输入并使用这些输入传播回来。