val_loss没有改善从inf损失：南错误而训练

Question

当我开始训练我的模型时，出现了一个问题。该错误表示val_损失没有从inf和loss:nan得到改善。一开始我以为这是因为学习率，但现在我不确定这是什么，因为我尝试了几种不同的学习率，但没有一种对我有效。我希望有人能帮助我。

我的首选项optimizer=adam，学习率=0.01（我已经尝试了一系列不同的学习率，例如：0.0005、0.001、0.00146、0.005、0.5、0.6、0.7、0.8，但这些都不适用于我）EarlyStop=enabled（训练正在停止，因为在第3纪元出现了提前停止，因为没有任何改进。我还禁用了每次模型在第3纪元停止训练时的提前停止，并让它在未启用提前停止的情况下创建100个纪元。）ReduceLR=禁用

关于我试图训练我的模型，我试图在我的gpu上训练这个模型（EVGA RTX 3080 FTW3 ULTRA）

model = Sequential()


model.add(Conv2D(32,(3,3),padding='same',kernel_initializer='he_normal',input_shape=(img_rows, img_cols,1)))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(Conv2D(32,(3,3),padding='same',kernel_initializer='he_normal',input_shape=(img_rows,img_cols,1)))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2,2)))
model.add(Dropout(0.2))


model.add(Conv2D(64,(3,3),padding='same',kernel_initializer='he_normal'))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(Conv2D(64,(3,3),padding='same',kernel_initializer='he_normal'))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2,2)))
model.add(Dropout(0.2))


model.add(Conv2D(128,(3,3),padding='same',kernel_initializer='he_normal'))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(Conv2D(128,(3,3),padding='same',kernel_initializer='he_normal'))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2,2)))
model.add(Dropout(0.2))


model.add(Conv2D(256,(3,3),padding='same',kernel_initializer='he_normal'))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(Conv2D(256,(3,3),padding='same',kernel_initializer='he_normal'))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2,2)))
model.add(Dropout(0.2))


model.add(Flatten())
model.add(Dense(64,kernel_initializer='he_normal'))
model.add(BatchNormalization())
model.add(Dropout(0.5))


model.add(Dense(64,kernel_initializer='he_normal'))
model.add(Activation('elu'))
model.add(BatchNormalization())
model.add(Dropout(0.5))


model.add(Dense(num_classes,kernel_initializer='he_normal'))
model.add(Activation('softmax'))


print(model.summary())


from keras.optimizers import RMSprop,SGD,Adam
from keras.callbacks import ModelCheckpoint,EarlyStopping,ReduceLROnPlateau 


checkpoint = ModelCheckpoint('Wave.h5',
                             monitor='val_loss',
                             mode='min',
                             save_best_only=True,
                             verbose=1)


earlystop = EarlyStopping(monitor='val_loss',
                              min_delta=0,
                              patience=3,
                              verbose=1,
                              restore_best_weights=True)


'''reduce_lr = ReduceLROnPlateau(monitor='val_loss',
                              factor=0.2,
                              patience=3,
                              verbose=1,
                              min_delta=0.0001)'''


callbacks = [earlystop,checkpoint] #reduce_lr


model.compile(loss='categorical_crossentropy',
              optimizer= Adam(lr=0.01),   
              metrics=['accuracy'])

Answer 1

很少有评论。。。

在这种情况下，最好采用试错法。看起来你的参数在训练时出现了偏差。很多可能性可能是问题所在。此外，你似乎也在规范你的人际网络（辍学、BatchNorm等）

• 在馈入网络之前将输入数据规范化
• 注释掉/删除所有的退出（正则化）/kernel_initializer（使用默认初始化）/提前停止等，你正在使用从你的首选项，并让网络是一个简单的CNN网络，只有conv层，池，batch规范和密集层。如果你看到了改进，然后开始一个接一个地取消评论，你就会明白是什么导致了问题。
• 尝试在密集层中使用更大的单位，例如1000，因为密集层提取了CNN层压缩的所有（图像特征）。