Keras序列模型的可变输入形状

Question

我有一个顺序模型定义如下：

model = Sequential([
    BatchNormalization(axis=1,input_shape=(2,4)),
    Flatten(),
    Dense(256, activation='relu'),       
    BatchNormalization(),
    Dropout(0.1),
    Dense(2, activation='softmax')
])

我想更改此模型，以获取可变形状的输入。具体来说，第一个维度需要可变。阅读关于指定输入形状的Keras文档，我发现可以在input\u shape元组中使用None条目，其中None表示可能需要任何正整数。

对于现有模型，如果我将input\u形状从（2,4）更改为（None，4），我将收到以下错误：

---> Dense(2, activation='softmax')
TypeError: an integer is required

我不确定，但我不相信当模型包含一个flatte（）层时，可以指定可变的输入形状。我已经读到，Flatten（）需要知道输入形状，因此变量输入形状与flatte（）不兼容。如果删除flatte（）层，则会收到与上面相同的错误。我不希望这个模型在没有Flatten（）层的情况下工作，因为我认为输入在传递到密集层之前必须被展平。

考虑到这一点，有人能解释我如何能够利用可变输入形状吗？如果这里的问题是Flatten（）层，考虑到输入应该在传递给密集层之前被展平，有什么方法可以解决这个问题？

提前感谢您的建议。

编辑：给出一个潜在训练集的示例——对于上面显示的input\u shape=（2,4）的模型，训练集可能如下所示，其中集合中的每个二维数组都有shape（2,4）：

x_train = np.array([
         [[1, 1.02, 1.3, 0.9], [1.1, 1.2, 0.91, 0.99]], 
         [[1, 1.02, 1.3, 0.9], [1.1, 1.2, 0.91, 0.99]],
         [[1.01 ,1, 1.2, 1.2], [1.3, 1.2, 0.89, 0.98]]
        ])

对于input\u shape=（None，4）的数据，其中每个数据点的第一个维度的形状可以变化，第二个维度的形状固定为4，训练集可能如下所示：

x_train = np.array([
         [[1, 1.02, 1.3, 0.9], [1.1, 1.2, 0.91, 0.99], [1.1, 1.2, 0.91, 0.99]], 
         [[1, 1.02, 1.3, 0.9], [1.1, 1.2, 0.91, 0.99]],
         [[1,1,1,1], [1.3, 1.2, 0.89, 0.98], [1,1,1,1], [1,1,1,1]]
        ])

Answer 1

如果预期的输出具有与输入相对应的变化的第一维度，则第一维度是样本数。在这种情况下，您只需从BatchNormalization中ommit input\u shape参数，然后添加一个具有多个特征的输入层

model = Sequential([
  Input(4),
  BatchNormalization(axis=1),
  Flatten(),
  Dense(256, activation='relu'),       
  BatchNormalization(),
  Dropout(0.1),
  Dense(2, activation='softmax')
])

由于BatchNormalization是在轴=1上定义的，即在特征轴上定义的，因此不需要定义第一个维度，即批次大小。

模型摘要

model.summary()
>>>
Model: "sequential"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
batch_normalization (BatchNo (None, 4)                 16        
_________________________________________________________________
flatten (Flatten)            (None, 4)                 0         
_________________________________________________________________
dense (Dense)                (None, 256)               1280      
_________________________________________________________________
batch_normalization_1 (Batch (None, 256)               1024      
_________________________________________________________________
dropout (Dropout)            (None, 256)               0         
_________________________________________________________________
dense_1 (Dense)              (None, 2)                 514       
=================================================================
Total params: 2,834
Trainable params: 2,314
Non-trainable params: 520

然后你可以在你的输入上运行它

model.predict(x_train[0])
>>> array([[0.36491784, 0.63508224],
   [0.3834786 , 0.61652136],
   [0.3834786 , 0.61652136]], dtype=float32)

model.predict(x_train[1])
>>> array([[0.36491784, 0.63508224],
   [0.38347858, 0.61652136]], dtype=float32)

但是，如果要为x\U列上的每个样本生成形状（1,2）的输出，则x\U列中的每条线都是一个样本，在这种情况下，密集层将需要可变数量的参数，这对渐变下降没有意义。

在这种情况下，你可能正在寻找一个递归神经网络，这是一个不同的野兽，一个例子可能是这样的

model = tf.keras.Sequential()
model.add(Input((None, 4)))

model.add(LSTM(128))

model.add(Dense(2))

模型摘要

model.summary()
>>>
Model: "sequential_5"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
lstm_3 (LSTM)                (None, 128)               68096     
_________________________________________________________________
dense_4 (Dense)              (None, 2)                 258       
=================================================================
Total params: 68,354
Trainable params: 68,354
Non-trainable params: 0

要在数据集上运行它，只需扩展每个样本的第一个维度，假设它是一批大小为1的样本，即单个样本。

model.predict(np.expand_dims(x_train[0],0))
>>>
array([[0.19657324, 0.09764521]], dtype=float32)

model.predict(np.expand_dims(x_train[1],0))
>>>
array([[0.15233153, 0.08189206]], dtype=float32)

Answer 2

Keras中的输入形状必须先验修复，也许你应该使用PyTorch来解决这个问题（动态输入）。

要在Keras中解决它，只需找到第一维的最大长度，然后使用填充（零值）来完成其他示例，直到它们达到最大长度。