如何在亚马逊SageMaker与TensorFlow估计得到可复制的结果？

Question

我目前正在使用AWS SageMaker Python SDK来训练EfficientNet模型(https://github.com/qubvel/efficientnet)我的数据。具体来说，我使用张量流估计器如下。此代码位于SageMaker笔记本实例中

import sagemaker
from sagemaker.tensorflow.estimator import TensorFlow
### sagemaker version = 1.50.17, python version = 3.6

estimator = TensorFlow("train.py", py_version = "py3", framework_version = "2.1.0",
                       role = sagemaker.get_execution_role(), 
                       train_instance_type = "ml.m5.xlarge", 
                       train_instance_count = 1,
                       image_name = 'xxx.dkr.ecr.xxx.amazonaws.com/xxx',
                       hyperparameters = {list of hyperparameters here: epochs, batch size},
                       subnets = [xxx], 
                       security_group_ids = [xxx]
estimator.fit({
   'class_1': 's3_path_class_1',
   'class_2': 's3_path_class_2'
})

火车的代码。py包含通常的训练过程，从S3中获取图像和标签，将它们转换为正确的数组形状以进行EfficientNet输入，并拆分为训练集、验证集和测试集。为了得到可再现的结果，我使用了以下重置随机种子函数（如果Keras结果不可再现，比较模型和选择超参数的最佳实践是什么？）在调用EfficientNet模型本身之前。

### code of train.py

import os
os.environ['PYTHONHASHSEED']=str(1)
import numpy as np
import tensorflow as tf
import efficientnet.tfkeras as efn
import random

### tensorflow version = 2.1.0
### tf.keras version = 2.2.4-tf
### efficientnet version = 1.1.0

def reset_random_seeds():
   os.environ['PYTHONHASHSEED']=str(1)
   tf.random.set_seed(1)
   np.random.seed(1)
   random.seed(1)

if __name__ == "__main__":

   ### code for getting training data
   ### ... (I have made sure that the training input is the same every time i re-run the code)
   ### end of code

   reset_random_seeds()
   model = efn.EfficientNetB5(include_top = False, 
      weights = 'imagenet', 
      input_shape = (80, 80, 3),
      pooling = 'avg',
      classes = 3)
   model.compile(optimizer = 'Adam', loss = 'categorical_crossentropy')
   model.fit(X_train, Y_train, batch_size = 64, epochs = 30, shuffle = True, verbose = 2)

   ### Prediction section here

但是，每次运行notebook实例时，都会得到与上次运行不同的结果。当我将train_instance_type切换为“local”时，每次运行笔记本时都会得到相同的结果。因此，不可再现的结果是由我选择的训练实例类型引起的吗？这个实例（ml.m5.xlarge）有4个vCPU、16个Mem（GiB）并且没有GPU。如果是这样，如何在这种培训情况下获得可重复的结果？

Answer 1

有没有可能你不一致的结果是从

tf。随机的设定种子（）

在这里遇到了一个帖子： Tensorflow：同一个随机种子的不同结果