Keras LSTM输入尺寸设置

Question

我试图使用keras训练LSTM模型，但我认为这里出了点问题。

我有一个错误

ValueError：检查输入时出错：预期lstm_17_input具有3个维，但数组的形状为（10000，0，20）

虽然我的代码看起来像

model = Sequential()
model.add(LSTM(256, activation="relu", dropout=0.25, recurrent_dropout=0.25, input_shape=(None, 20, 64)))
model.add(Dense(1, activation="sigmoid"))
model.compile(loss='binary_crossentropy',
          optimizer='adam',
          metrics=['accuracy'])
model.fit(X_train, y_train,
      batch_size=batch_size,
      epochs=10)

其中X_train已的形状(10000, 20)和前几个数据点像

array([[ 0,  0,  0, ..., 40, 40,  9],
   [ 0,  0,  0, ..., 33, 20, 51],
   [ 0,  0,  0, ..., 54, 54, 50],
...

并且y_train具有这样的形状的(10000, )，它是二进制（0/1）标签阵列。

有人可以指出我在哪里错了吗？

Answer 1

为了完整起见，这是发生了什么。

首先LSTM，像Keras中的所有图层一样，接受两个参数：input_shape和batch_input_shape。所不同的是惯例，input_shape
不包含批量大小 ，同时batch_input_shape是 全情投入的形状，包括批量大小 。

因此，规范input_shape=(None, 20, 64)告诉keras期望4维输入，这不是您想要的。正确的本来是正义的(20,)。

但这还不是全部。LSTM层是循环层，因此需要3维输入(batch_size, timesteps, input_dim)。这就是为什么正确的规范是input_shape=(20, 1)或的原因batch_input_shape=(10000, 20, 1)。另外，您的训练数组也应重新设计以表示它具有20时间步长和1每个步长的输入特征。

因此，解决方案：

X_train = np.expand_dims(X_train, 2)  # makes it (10000,20,1)
...
model = Sequential()
model.add(LSTM(..., input_shape=(20, 1)))