Keras中的扁平层是如何工作的？

Question

我正在使用TensorFlow后端。

我正在按顺序应用卷积、最大池、展平和密集层。卷积需要3D输入（高度、宽度、color\u channels\u深度）。

在卷积之后，它变为（高度、宽度、过滤器的数量）。

在应用最大池化高度和宽度变化之后。但是，在应用展平层之后，到底会发生什么？例如，如果展平之前的输入是（24, 24, 32)，那么它是如何展平的？

对于每个过滤器号的高度、重量，它是像（24*24）一样顺序的，还是以其他方式？一个例子将与实际值一起欣赏。

Answer 1

它的顺序类似于24*24*32，并按以下代码所示对其进行重塑。

def batch_flatten(x):
    """Turn a nD tensor into a 2D tensor with same 0th dimension.
    In other words, it flattens each data samples of a batch.
    # Arguments
        x: A tensor or variable.
    # Returns
        A tensor.
    """
    x = tf.reshape(x, tf.stack([-1, prod(shape(x)[1:])]))
    return x

Answer 2

展平张量意味着移除除一个维度以外的所有维度。

Keras中的扁平层重塑张量，使其形状等于张量中包含的元素数量。

这与创建1d元素数组是一样的。

例如，在VGG16模型中，您可能会发现很容易理解：

>>> model.summary()
Layer (type)                     Output Shape          Param #
================================================================
vgg16 (Model)                    (None, 4, 4, 512)     14714688
________________________________________________________________
flatten_1 (Flatten)              (None, 8192)          0
________________________________________________________________
dense_1 (Dense)                  (None, 256)           2097408
________________________________________________________________
dense_2 (Dense)                  (None, 1)             257
===============================================================

注意flatten_1图层形状（无，8192），其中8192实际上是4*4*512。

PS，None表示任何维度（或动态维度），但通常可以将其读取为1。您可以在这里找到更多详细信息。

Answer 3

Flatten（）运算符展开从最后一个维度开始的值（至少对于Theano，它是“通道优先”，而不是像TF那样的“通道最后”。我不能在我的环境中运行TensorFlow）。这相当于numpy.reshape与'C'排序：

“C”表示使用类似C的索引顺序读取/写入元素，最后一个轴索引变化最快，回到第一个轴索引变化最慢。

这是一个独立的示例，说明Flatten运算符和Keras FunctionalAPI。您应该能够轻松适应您的环境。

import numpy as np
from keras.layers import Input, Flatten
from keras.models import Model
inputs = Input(shape=(3,2,4))

# Define a model consisting only of the Flatten operation
prediction = Flatten()(inputs)
model = Model(inputs=inputs, outputs=prediction)

X = np.arange(0,24).reshape(1,3,2,4)
print(X)
#[[[[ 0  1  2  3]
#   [ 4  5  6  7]]
#
#  [[ 8  9 10 11]
#   [12 13 14 15]]
#
#  [[16 17 18 19]
#   [20 21 22 23]]]]
model.predict(X)
#array([[  0.,   1.,   2.,   3.,   4.,   5.,   6.,   7.,   8.,   9.,  10.,
#         11.,  12.,  13.,  14.,  15.,  16.,  17.,  18.,  19.,  20.,  21.,
#         22.,  23.]], dtype=float32)