内置sagemaker算法的增量学习

Question

我正在训练DeepAR AWS SageMaker的内置算法。使用sagemaker SDK，我可以使用特定的超参数训练模型：

estimator = sagemaker.estimator.Estimator(
    sagemaker_session=sagemaker_session,
    image_name=image_name,
    role=role,
    train_instance_count=1,
    train_instance_type='ml.c4.2xlarge',
    base_job_name='wfp-deepar',
    output_path=join(s3_path, 'output')
)

estimator.set_hyperparameters(**{
    'time_freq': 'M',
    'epochs': '50',
    'mini_batch_size': '96',
    'learning_rate': '1E-3',
    'context_length': '12',
    'dropout_rate': 0,
    'prediction_length': '12'
})

estimator.fit(inputs=data_channels, wait=True, job_name='wfp-deepar-job-level-5')

我想以较小的学习率再次训练生成的模型。我遵循此处描述的增量培训方法：https://docs.aws.amazon.com/en_pv/sagemaker/latest/dg/incremental-training.html，但它不起作用，显然（根据链接），只有两个内置模型支持增量学习。

是否有人找到了一个解决方法，以便他们能够以预定的学习速率训练内置算法？

Answer 1

不幸的是，SageMaker内置的DeepAR模型既不支持学习速率调度，也不支持增量学习。如果您想在DeepAR体系结构上实施学习率平台计划，我建议您考虑：

• 使用开源的DeepAR实现（代码，演示）
• 或者使用亚马逊预测服务的DeepAR算法，该算法具有学习率调度能力。