如何结合LSTM和CNN进行时间序列分类

Question

当有图像作为数据时，最常用的是CNN。然而，我已经看到CNN有时被用于timeseries。因此，为了解决时间序列分类问题，我分别尝试了LSTM和CNN模型。我的两个模型如下。

LSTM：

model = Sequential()
model.add(LSTM(200, input_shape=(25,3)))
model.add(Dense(100))
model.add(Dense(1, activation='sigmoid'))
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])

美国有线电视新闻网：

model = Sequential()
model.add(Conv1D(200, kernel_size=3, input_shape=(25,3)))
model.add(Conv1D(200, kernel_size=2))
model.add(GlobalMaxPooling1D())
model.add(Dense(100))
model.add(Dense(1, activation='sigmoid'))
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])

我认为LSTM和CNN有其独特的特点，在我的预测中结合这两者会产生更好的结果。然而，我正在努力寻找适合我的问题的合适资源。

有可能为我的问题这样做吗？如果是的话，我怎么做？它会产生更好的结果吗？

如果需要，我很乐意提供更多细节。

我的问题设置如下。我有一个大约5000个数据点的数据集。每个数据点有3个时间序列数据，大小正好是25。我的标记数据是1或0（即：二分类）。更具体地说，我的数据集如下所示。

node, time-series1, time_series2, time_series3, Label
n1, [1.2, 2.5, 3.7, 4.2, ... 5.6, 8.8], [6.2, 5.2, 4.7, 3.2, ... 2.6, 1.8], [1.0, 2.8, 3.9, 4.1, ... 5.2, 8.6] …, 1
n2, [5.2, 4.5, 3.7, 2.2, ... 1.6, 0.8], [8.2, 7.5, 6.7, 5.2, ... 4.6, 1.8], …, [1.2, 2.5, 3.7, 4.2, ... 5.2, 8.5] 0
and so on.

我将这些数据输入到我的LSTM和CNN模型中。

Answer 1

您可能想看看LSTNet，它正是这样做的-https://arxiv.org/abs/1703.07015 和https://github.com/laiguokun/LSTNet

Answer 2

你试过一层接一层吗？这听起来很标准。。。

model = Sequential()
model.add(Conv1D(200, kernel_size=3, activation = useSomething, input_shape=(25,3)))
model.add(LSTM(200))
model.add(Dense(100))
model.add(Dense(1, activation='sigmoid'))

你想试试相反的吗？

model = Sequential()
model.add(LSTM(200, return_sequences=True, input_shape=(25,3)))
model.add(Conv1D(200, kernel_size=3, activation = useSomething))
model.add(GlobalMaxPooling1D())
model.add(Dense(100))
model.add(Dense(1, activation='sigmoid'))

你想要一个巨大的模型吗？

model = Sequential()
model.add(Conv1D(15, kernel_size=3, activation = useSomething, input_shape=(25,3)))
model.add(LSTM(30, return_sequences=True))
model.add(Conv1D(70, kernel_size=3, activation = useSomething))
............
model.add(LSTM(100))
model.add(Dense(100))
model.add(Dense(1, activation='sigmoid'))

尝试很多事情：

• Conv，LSTM

双面模型？

inputs = Input((25,3))

side1 = Bidirectional(LSTM(100, return_sequences=True))(inputs) #200 total units
side2 = Conv1D(200, activation = 'tanh', padding = 'same')(inputs) #same activation 
                                                                   #same length

merged = Add()([side1, side2]) 
     #or Concatenate()([side1, side2]) if different number of units/channels/features

outputs = Conv1D(200)(merged)
outputs = GlobalMaxPooling1D()(outputs)
outputs = Dense(100)(outputs)
outputs = Dense(1, activation='sigmoid')(outputs)

model = Model(inputs, outputs)