Keras LSTM:时间序列多步骤多特征预测 - 结果不佳

Question

我有一个包含整年数据的时间序列数据集(日期是索引).每15分钟(全年)测量数据,这导致每天96个步骤.数据已经标准化.变量是相关的.除VAR之外的所有变量都是天气测量.

VAR在一天和一周内是季节性的(因为它在周末看起来有点不同,但每个周末更不一样).VAR值是固定的.我想预测接下来两天(前面192步)和未来七天(未来672步)的VAR值.

以下是数据集的示例:

DateIdx               VAR       dewpt       hum         press       temp
2017-04-17 00:00:00   0.369397  0.155039    0.386792    0.196721    0.238889
2017-04-17 00:15:00   0.363214  0.147287    0.429245    0.196721    0.233333
2017-04-17 00:30:00   0.357032  0.139535    0.471698    0.196721    0.227778
2017-04-17 00:45:00   0.323029  0.127907    0.429245    0.204918    0.219444
2017-04-17 01:00:00   0.347759  0.116279    0.386792    0.213115    0.211111
2017-04-17 01:15:00   0.346213  0.127907    0.476415    0.204918    0.169444
2017-04-17 01:30:00   0.259660  0.139535    0.566038    0.196721    0.127778
2017-04-17 01:45:00   0.205564  0.073643    0.523585    0.172131    0.091667
2017-04-17 02:00:00   0.157650  0.007752    0.481132    0.147541    0.055556
2017-04-17 02:15:00   0.122101  0.003876    0.476415    0.122951    0.091667

输入数据集图

我决定在Keras使用LSTM.有了全年的数据,我使用了过去329天的数据作为培训数据,其余的用于培训期间的验证.train_X - >包含整个措施,包括从329天开始的VAR train_Y - >仅包含329天的VAR.价值向前移动了一步.其余的时间步长转到test_X和test_Y.

这是我准备train_X和train_Y的代码:

#X -> is the whole dataframe
#Y -> is a vector of VAR from whole dataframe, already shifted 1 step ahead

#329 * 96 = 31584
train_X = X[:31584]
train_X = train_X.reshape(train_X.shape[0],1,5)
train_Y = Y[:31584]  
train_Y = train_Y.reshape(train_Y.shape[0],1)

为了预测下一个VAR值,我想使用过去672个时间步(整周测量).出于这个原因,我已经设置了batch_size=672,所以'fit'命令看起来像这样:

history = model.fit(train_X, train_Y, epochs=50, batch_size=672, validation_data=(test_X, test_Y), shuffle=False)  

这是我的网络架构:

model = models.Sequential()
model.add(layers.LSTM(672, input_shape=(None, 672), return_sequences=True))
model.add(layers.Dropout(0.2))
model.add(layers.LSTM(336, return_sequences=True))
model.add(layers.Dropout(0.2))
model.add(layers.LSTM(168, return_sequences=True))
model.add(layers.Dropout(0.2))
model.add(layers.LSTM(84, return_sequences=True))
model.add(layers.Dropout(0.2))
model.add(layers.LSTM(21, return_sequences=False))
model.add(layers.Dense(1))
model.compile(loss='mae', optimizer='adam')
model.summary()

从下面的图中我们可以看到网络在50个时代之后学到了"东西":

从学习过程中汲取灵感

为了预测的目的,我准备了一组数据,其中包含所有值的最后672个步骤和96个没有VAR值的数据 - 这应该被预测.我还使用了自回归,因此我在每次预测后更新了VAR并将其用于下一次预测.

predX数据集(用于预测)如下所示:

print(predX['VAR'][668:677])

DateIdx            VAR
2017-04-23 23:00:00    0.307573
2017-04-23 23:15:00    0.278207
2017-04-23 23:30:00    0.284390
2017-04-23 23:45:00    0.309118
2017-04-24 00:00:00         NaN
2017-04-24 00:15:00         NaN
2017-04-24 00:30:00         NaN
2017-04-24 00:45:00         NaN
2017-04-24 01:00:00         NaN
Name: VAR, dtype: float64

这是我用来预测接下来的96个步骤的代码(自动回归):

stepsAhead = 96
historySteps = 672

for i in range(0,stepsAhead):
    j = i + historySteps
    ypred = model.predict(predX.values[i:j].reshape(1,historySteps,5))
    predX['VAR'][j] = ypred

不幸的是,结果很差,远远超出预期:

具有预测数据的图

结果与前一天相结合:

预测数据与前一天相结合

除了"我做错了什么"这个问题,我想问几个问题:

Q1.在模型推荐期间,我将整个历史分为672个大小.这是对的吗？我该如何组织模型拟合的数据集？我有什么选择？我应该使用"滑动窗口"方法(如链接:https://machinelearningmastery.com/promise-recurrent-neural-networks-time-series-forecasting/)？

Q2.50个时代足够了吗？这里的常见做法是什么？也许网络装备不足导致预测不佳？到目前为止,我尝试了200个具有相同结果的纪元.

Q3.我应该尝试不同的架构吗？建议的网络"足够大"来处理这样的数据吗？也许一个"有状态"的网络是正确的方法吗？

Q4.我是否正确实现了自动回归？有没有其他方法可以预测前面的许多步骤,例如像我这样的192或672？

Answer 1

看起来对于如何组织数据来训练RNN存在困惑.所以我们来讨论这些问题:

1. 拥有2D数据集后,(total_samples, 5)您可以使用TimeseriesGenerator创建将为(batch_size, past_timesteps, 5)您生成的滑动窗口.在这种情况下,您将用于.fit_generator训练网络.
2. 如果你得到相同的结果,50个时期应该没问题.您通常会根据网络的性能进行调整.但是,如果要比较两种不同的网络架构,则应该保持固定.
3. 建筑物非常大,因为您的目标是一次预测所有672个未来值.您可以设计网络,以便它学会一次预测一个测量.在预测时,您可以预测一个点并再次提供该点以预测下一个点,直到您获得672点.
4. 这与答案3相关联,您可以学习一次预测一个,并将预测链接到n训练后的预测数量.

单点预测模型可能如下所示:

model = Sequential()
model.add(LSTM(128, return_sequences=True, input_shape=(past_timesteps, 5))
model.add(LSTM(64))
model.add(Dense(1))

Answer 2

1）批次不是序列。输入X是序列。输入应具有形状[None, sequence_length, number_of_features]。第一个轴将由 Keras 填充批次。但它们不是序列。序列位于第 2 个轴上。第三个轴是特征列。批次大小672可能太大。您可以尝试较小的值128、64、 或32。

2) 几乎可以肯定你的网络过拟合了。网络有太多的 LSTM 层。我会像@nuric 建议的那样只尝试 2 层 LSTM，看看它的表现如何。

3）LSTM 单元（或 LSTM 大小）似乎也存在混淆。它不一定是672。其实672是太大了。一个好的起点是128。

4) NN 架构预测 的单个值VAR。在这种情况下，请确保Y每个X.

5) 或者，您可以使最后一个 LSTM 输出序列。在这种情况下，每个Y条目都是一个VAR向前移动一步的序列。返回到 4)，确保Y具有与X和 NN 架构对应的正确形状。

6) 您的绘图显示 50 个 epoch 足以收敛。调整X、Y和 NN 后，对观察 epoch 数执行相同的操作。

7）最后一个关于日期的想法。如果您想在 中包含日期X，一个想法是将它们一次性编码为工作日。所以你X会[dewpt, hum, press, temp, MON, TUE, ..., SAT, SUN]。