在Keras中将复发层与密集层合并

Question

我想建立一个神经网络,其中两个第一层是前馈的,最后一个是循环的.这是我的代码:

model = Sequential()
model.add(Dense(150, input_dim=23,init='normal',activation='relu'))
model.add(Dense(80,activation='relu',init='normal'))
model.add(SimpleRNN(2,init='normal')) 
adam =OP.Adam(lr=0.001, beta_1=0.9, beta_2=0.999, epsilon=1e-08)
model.compile(loss="mean_squared_error", optimizer="rmsprop")  

我收到此错误:

Exception: Input 0 is incompatible with layer simplernn_11: expected  ndim=3, found ndim=2.
model.compile(loss='mse', optimizer=adam)

Answer 1

在Keras中,RNN层期望输入为正确(nb_samples, time_steps, input_dim).但是,如果要在Dense图层之后添加RNN图层,则在重新整形RNN图层的输入后仍可以执行此操作.重塑既可以用作第一层,也可以用作顺序模型中的中间层.示例如下:

重塑为Sequential模型中的第一层

model = Sequential()
model.add(Reshape((3, 4), input_shape=(12,)))
# now: model.output_shape == (None, 3, 4)
# note: `None` is the batch dimension

重塑为Sequential模型中的中间层

model.add(Reshape((6, 2)))
# now: model.output_shape == (None, 6, 2)

例如,如果您以下列方式更改代码,则不会出现错误.我检查了它并编译了模型而没有报告任何错误.您可以根据需要更改尺寸.

from keras.models import Sequential
from keras.layers import Dense, SimpleRNN, Reshape
from keras.optimizers import Adam

model = Sequential()
model.add(Dense(150, input_dim=23,init='normal',activation='relu'))
model.add(Dense(80,activation='relu',init='normal'))
model.add(Reshape((1, 80)))
model.add(SimpleRNN(2,init='normal')) 
adam = Adam(lr=0.001, beta_1=0.9, beta_2=0.999, epsilon=1e-08)
model.compile(loss="mean_squared_error", optimizer="rmsprop")