在Keras中，TimeDistributed层的作用是什么？

Question

我试图了解TimeDistributed包装器在Keras中的作用。

我得到了TimeDistributed“将层应用于输入的每个时间片”。

但是我做了一些实验，却得到了我无法理解的结果。

简而言之，对于LSTM层，TimeDistributed和Just Dense层的结果相同。

model = Sequential()
model.add(LSTM(5, input_shape = (10, 20), return_sequences = True))
model.add(TimeDistributed(Dense(1)))
print(model.output_shape)

model = Sequential()
model.add(LSTM(5, input_shape = (10, 20), return_sequences = True))
model.add((Dense(1)))
print(model.output_shape)

对于这两个模型，我得到的输出形状为 （None，10，1） 。

在RNN层之后，谁能解释TimeDistributed和Dense层之间的区别？

Answer 1

在keras-建立顺序模型时-通常是第二维（一个样本维之后）与一个time维相关。这意味着，例如，如果您的数据5-dim与(sample, time, width, length, channel)您在一起，则可以沿时间维度使用TimeDistributed（适用于4-dimwith
(sample, width, length, channel)）应用卷积层（将相同的层应用于每个时间片）以获得5-d输出。

随着案情Dense的是，在keras2.0版本Dense默认情况下只应用于最后一个维度（例如，如果你申请Dense(10)输入与形状(n, m, o, p)，你会得到与形状输出(n, m, o, 10)），所以你的情况Dense和TimeDistributed(Dense)是等价的。