当达到特定验证精度时，如何停止培训？

Question

我正在训练卷积网络，一旦验证错误达到90%，我想停止训练。我想过使用EarlyStop并将基线设置为0.90，但是每当给定时代数的验证精度低于该基线时，它就会停止训练（此处仅为0）。所以我的代码是：

es=EarlyStopping(monitor='val_acc',mode='auto',verbose=1,baseline=.90,patience=0)
history = model.fit(training_images, training_labels, validation_data=(test_images, test_labels), epochs=30, verbose=2,callbacks=[es])

当我使用此代码时，我的训练将在第一个历元后停止，并显示给定的结果：

培训60000个样本，验证10000个样本

纪元1/30 60000/60000 - 7s-损失： 0.4600-acc： 0.8330-val_loss： 0.3426-val_acc： 0.8787

一旦验证准确率达到90%或以上，我还可以尝试停止培训吗？

下面是代码的其余部分：

  tf.keras.layers.Conv2D(64, (3,3), activation='relu', input_shape=(28, 28, 1)),
  tf.keras.layers.MaxPooling2D(2, 2),
  tf.keras.layers.Conv2D(32, (3,3), activation='relu', input_shape=(28, 28, 1)),
  tf.keras.layers.MaxPooling2D(2, 2),
  tf.keras.layers.Flatten(),
  tf.keras.layers.Dense(152, activation='relu'),
  tf.keras.layers.Dense(10, activation='softmax')
])

model.compile(optimizer=Adam(learning_rate=0.001),loss='sparse_categorical_crossentropy', metrics=['accuracy'])
es=EarlyStopping(monitor='val_acc',mode='auto',verbose=1,baseline=.90,patience=0)
history = model.fit(training_images, training_labels, validation_data=(test_images, test_labels), epochs=30, verbose=2,callbacks=[es])

谢谢你！

Answer 1

现有答案看起来不错，但我在过去使用了一个较短的版本：

class CustomCallback(tf.keras.callbacks.Callback):
    def on_epoch_end(self, epoch, logs=None):
        if logs.get('accuracy') >= 9e-1:
            self.model.stop_training = True

您可以这样实现它：

callback = CustomCallback()

history = model.fit(..., callbacks=[callback])

Answer 2

早期停止回调将搜索停止增加（或减少）的值，因此它不适合您的问题。但是tf.keras允许您使用自定义回调。

例如：

class MyThresholdCallback(tf.keras.callbacks.Callback):
    def __init__(self, threshold):
        super(MyThresholdCallback, self).__init__()
        self.threshold = threshold

    def on_epoch_end(self, epoch, logs=None): 
        val_acc = logs["val_acc"]
        if val_acc >= self.threshold:
            self.model.stop_training = True

对于TF版本2.3或更高版本，您可能必须使用“val\u acc”而不是“val\u acc”。感谢Christian Westbrook在评论中的注释。

上面的回调，在每个纪元结束时，将从所有可用的日志中提取验证精度。然后它将与用户定义的阈值（在您的情况下为90%）进行比较。如果符合标准，训练将停止。

有了它，你可以简单地调用：

my_callback = MyThresholdCallback(threshold=0.9)
history = model.fit(training_images, training_labels, validation_data=(test_images, test_labels), epochs=30, verbose=2, callbacks=[my_callback])

或者，您可以在批处理端（…）上使用def 如果要立即停止。但是，这需要参数batch，logs，而不是epoch，logs。