卷积自动编码器

Question

我正在编写一个代码，用于在CIFAR10数据集上运行autoencoder并查看重建的图像。

要求是创建

具有第一层的编码器

• 输入形状：（32,32,3）
• 具有64个（3,3）过滤器的Conv2D层
• 批量标准化层
• ReLu激活
• 带（2,2）滤波器的2D MaxPoolglayer

第二层编码器

• Conv2D层具有16个过滤器（3,3）
• 批量标准化层
• ReLu激活
• 带有（2,2）过滤器的2D MaxPoolglayer
• 最终编码为MaxPool，带有（2,2）和所有先前层

第一层解码器

• 输入形状：编码器输出
• Conv2D层，具有16个（3,3）
• 批量标准化层
• ReLu激活
• 带（2,2）滤波器的上采样2D

第二层解码器

• 具有32个（3,3）过滤器的Conv2D层

我明白

1. 当我们创建卷积自编码器（或任何AE）时，我们需要将前一层的输出传递给下一层。
2. 所以，当我用ReLu创建第一个Conv2D层，然后执行BatchNormize...
3. 但是当我做MaxPooling2D...我应该通过什么...批处理标准化输出还是Conv2D层输出？

还有，我执行这些操作的顺序是什么？

• Conv2D--

我在下面附上我的代码。。。我尝试了两种不同的方法，因此得到了不同的输出（在模型摘要和模型训练图方面）

谁能帮我解释一下哪种方法是正确的（方法1或方法2）？另外，我如何理解哪个图形显示了更好的模型性能？

方法-1

input_image = Input(shape=(32, 32, 3))

### Encoder
conv1_1 = Conv2D(64, (3, 3), activation='relu', padding='same')(input_image)
bnorm1_1 = BatchNormalization()(conv1_1)
mpool1_1 = MaxPooling2D((2, 2), padding='same')(conv1_1)

conv1_2 = Conv2D(16, (3, 3), activation='relu', padding='same')(mpool1_1)
borm1_2 = BatchNormalization()(conv1_2)

encoder = MaxPooling2D((2, 2), padding='same')(conv1_2)

### Decoder
conv2_1 = Conv2D(16, (3, 3), activation='relu', padding='same')(encoder)
bnorm2_1 = BatchNormalization()(conv2_1)
up1_1 = UpSampling2D((2, 2))(conv2_1)

conv2_2 = Conv2D(32, (3, 3), activation='relu', padding='same')(up1_1)
bnorm2_2 = BatchNormalization()(conv2_2)
up2_1 = UpSampling2D((2, 2))(conv2_2)

decoder = Conv2D(3, (3, 3), activation='sigmoid', padding='same')(up2_1)

model = Model(input_image, decoder)
model.compile(optimizer='adam', loss='binary_crossentropy')
model.summary()

history = model.fit(trainX, trainX, 
                    epochs=50, 
                    batch_size=1000, 
                    shuffle=True,
                    verbose=2,
                    validation_data=(testX, testX)
                    )

作为模型摘要的输出，我得到

总参数：18851

可训练参数： 18,851

不可训练参数：0

plt.plot(history.history['loss'])
plt.plot(history.history['val_loss'])
plt.title('model loss')
plt.ylabel('loss')
plt.xlabel('epoch')
plt.legend(['train', 'test'], loc='upper right')
plt.show()

方法2

input_image = Input(shape=(32, 32, 3))

### Encoder
x = Conv2D(64, (3, 3), activation='relu', padding='same')(input_image)
x = BatchNormalization()(x)
x = MaxPooling2D((2, 2), padding='same')(x)

x = Conv2D(16, (3, 3), activation='relu', padding='same')(x)
x = BatchNormalization()(x)

encoder = MaxPooling2D((2, 2), padding='same')(x)

### Decoder

x = Conv2D(16, (3, 3), activation='relu', padding='same')(encoder)
x = BatchNormalization()(x)
x = UpSampling2D((2, 2))(x)

x = Conv2D(32, (3, 3), activation='relu', padding='same')(x)
x = BatchNormalization()(x)
x = UpSampling2D((2, 2))(x)

decoder = Conv2D(3, (3, 3), activation='sigmoid', padding='same')(x)

model = Model(input_image, decoder)
model.compile(optimizer='adam', loss='binary_crossentropy')
model.summary()

history = model.fit(trainX, trainX, 
                        epochs=50, 
                        batch_size=1000, 
                        shuffle=True,
                        verbose=2,
                        validation_data=(testX, testX)
                        )

作为模型摘要的输出，我得到

总参数：19363

可培训参数：19107

不可训练参数：256

plt.plot(history.history['loss'])
plt.plot(history.history['val_loss'])
plt.title('model loss')
plt.ylabel('loss')
plt.xlabel('epoch')
plt.legend(['train', 'test'], loc='upper right')
plt.show()

Answer 1

要有效地使用BatchNormation层，您应该始终在激活前使用它。

而不是：

conv1_1 = Conv2D(64, (3, 3), activation='relu', padding='same')(input_image)
bnorm1_1 = BatchNormalization()(conv1_1)
mpool1_1 = MaxPooling2D((2, 2), padding='same')(bnorm1_1)

像这样使用它：

conv1_1 = Conv2D(64, (3, 3), padding='same')(input_image)
bnorm1_1 = BatchNormalization()(conv1_1)
act_1 = Activation('relu')(bnorm1_1)
mpool1_1 = MaxPooling2D((2, 2), padding='same')(act_1)

有关更多详细信息，请查看此处：在Keras中，我在哪里调用BatchNormalization函数？

Answer 2

在方法1中，BatchNormation层不存在于编译的模型中，因为这些层的输出在任何地方都不使用。你可以通过运行model1.summary（）来检查

方法2完全可以。

操作顺序：Conv2D-

编辑：

对于Conv2D--

conv1_1=Conv2D（64，（3,3），激活='relu'，填充='相同'）（input_image）bnorm1_1=BatchNormize（）（conv1_1）mpool1_1=MaxPooling2D（（2,2），填充='相同'）（bnorm1_1），然后使用mpool1_1作为下一层的输入。

对于Conv2D--

conv1\u 1=Conv2D（64，（3，3），activation='relu'，padding='same'）（输入图像）mpool1\u 1=maxpoolig2d（（2，2），padding='same'）（conv1\u 1）bnorm1\u 1=BatchNormalization（）（mpool1\u 1）然后使用bnorm1\u 1作为下一层的输入。