我有一个关于带有noise_shape参数的Keras函数Dropout的问题。
问题 1:
是什么意思,如果你的输入有形状(batch_size时,时间步长,功能),你想辍学面膜是所有时间步长一样,你可以使用noise_shape =(batch_size时,1,特点)3,什么是增加的好处这个论点?
这是否意味着随着时间步长被丢弃的神经元数量是相同的?这意味着在每个时间步长 t,都会有 n 个神经元被丢弃?
问题 2: 创建模型时是否必须在 noise_shape 中包含“batch_size”?--> 看下面的例子。
假设我有一个形状为 (10000, 1, 100, 2) -->(数据数量、通道、时间步长、特征数量)的多元时间序列数据。
然后我创建批次大小为 64 --> (64, 1, 100, 2)
如果我想创建一个带有 dropout 的 CNN 模型,我会使用 Keras 函数式 API:
inp = Input([1, 100, 2])
conv1 = Conv2D(64, kernel_size=(11,2), strides(1,1),data_format='channels_first')(inp)
max1 = MaxPooling2D((2,1))(conv1)
max1_shape = max1._keras_shape
drop1 = Dropout((0.1, noise_shape=[**?**, max1._keras_shape[1], 1, 1]))
Run Code Online (Sandbox Code Playgroud)
因为层max1的输出shape应该是(None, 64, 50, 1),我不能给问号赋值None(对应batch_size)
我想知道我应该如何应对这种情况?我应该使用 (64, 1, 1) 作为噪声形状吗?或者我应该定义一个名为“batch_size”的变量,然后将它传递给这个参数,比如 (batch_size, 64, 1, 1)?