为什么我的模型在第二个纪元时过度拟合？

Question

我是一名深度学习的初学者，我正在尝试使用Mobilenet_v2和Inception训练一个深度学习模型，以对不同的ASL手势进行分类。

下面是我的代码创建一个ImageDataGenerator，用于创建培训和验证集。

# Reformat Images and Create Batches

IMAGE_RES = 224
BATCH_SIZE = 32

datagen = tf.keras.preprocessing.image.ImageDataGenerator(
    rescale=1./255,
    validation_split = 0.4
)

train_generator = datagen.flow_from_directory(
    base_dir,
    target_size = (IMAGE_RES,IMAGE_RES),
    batch_size = BATCH_SIZE,
    subset = 'training'
)

val_generator = datagen.flow_from_directory(
    base_dir,
    target_size= (IMAGE_RES, IMAGE_RES),
    batch_size = BATCH_SIZE,
    subset = 'validation'
)

以下是培训模型的代码：

# Do transfer learning with Tensorflow Hub
URL = "https://tfhub.dev/google/tf2-preview/mobilenet_v2/feature_vector/4"
feature_extractor = hub.KerasLayer(URL,
                                   input_shape=(IMAGE_RES, IMAGE_RES, 3))
# Freeze pre-trained model
feature_extractor.trainable = False

# Attach a classification head
model = tf.keras.Sequential([
  feature_extractor,
  layers.Dense(5, activation='softmax')
])

model.summary()

# Train the model
model.compile(
  optimizer='adam',
  loss='categorical_crossentropy',
  metrics=['accuracy'])

EPOCHS = 5

history = model.fit(train_generator,
                    steps_per_epoch=len(train_generator),
                    epochs=EPOCHS,
                    validation_data = val_generator,
                     validation_steps=len(val_generator)
                    )

纪元1/5 94/94[===========================================================================-19s 199ms/步长-损耗：0.7333-精度：0.7730-val_损耗：0.6276-val_精度：0.7705

纪元2/5 94/94 [==============================] - 18s 190ms/步损： 0.1574-精度： 0.9893-val_loss： 0.5118-val_accuracy： 0.8145

纪元3/5 94/94[=====================================================================-18s 191ms/步长-损耗：0.0783-精度：0.9980-val\u损耗：0.4850-val\u精度：0.8235

纪元4/5 94/94 [==============================] - 18s 196毫秒/步损： 0.0492-精度： 0.9997-val_loss： 0.4541-val_accuracy： 0.8395

纪元5/5 94/94 [==============================] - 18s 193ms/阶跃-损耗： 0.0349-精度： 0.9997-val_loss： 0.4590-val_accuracy： 0.8365

我尝试过使用数据增强，但是模型仍然过适合，所以我想知道我的代码是否有错误。

Answer 1

您的数据非常小。尝试使用随机种子进行分割，并检查问题是否仍然存在。

如果是，那么使用正则化，降低神经网络的复杂性。

还可以尝试使用不同的优化器和较小的学习率（尝试lr scheduler）