入口点脚本存储在定制Sagemaker框架培训作业容器中的何处？

Question

我正在尝试创建自己的定制Sagemaker框架，该框架运行定制python脚本，以使用entry_point参数训练ML模型。

遵循pythonsdk文档(https://sagemaker.readthedocs.io/en/stable/estimators.html)，我编写了运行培训作业的最简单代码，只是为了了解它的行为以及Sagemaker框架的工作方式。

我的问题是，我不知道如何正确构建Docker容器以运行入口点脚本。

我添加了列车。py将脚本写入容器中，该容器仅记录文件夹和文件路径以及容器环境中的变量。

我能够运行培训作业，但在环境变量和容器中的文件中都找不到入口点脚本的任何引用。

下面是我使用的代码：

• 自定义Sagemaker框架类：

from sagemaker.estimator import Framework

class Doc2VecEstimator(Framework):
    def create_model():
        pass

• 火车。py:

import argparse
import os
from datetime import datetime


def log(*_args):
    print('[log-{}]'.format(datetime.now().isoformat()), *_args)


def listdir_rec(path):
    ls = os.listdir(path)
    print(path, ls)

    for ls_path in ls:
        if os.path.isdir(os.path.join(path, ls_path)):
            listdir_rec(os.path.join(path, ls_path))


if __name__ == '__main__':
    parser = argparse.ArgumentParser()
    parser.add_argument('--epochs', type=int, default=5)
    parser.add_argument('--debug_size', type=int, default=None)

    # # I commented the lines bellow since I haven't configured the environment variables in my container
    #     # Sagemaker specific arguments. Defaults are set in the environment variables.
    #     parser.add_argument('--output-data-dir', type=str, default=os.environ['SM_OUTPUT_DATA_DIR'])
    #     parser.add_argument('--model-dir', type=str, default=os.environ['SM_MODEL_DIR'])
    #     parser.add_argument('--train', type=str, default=os.environ['SM_CHANNEL_TRAIN'])

    args, _ = parser.parse_known_args()

    log('Received arguments {}'.format(args))

    log(os.environ)

    listdir_rec('.')

• Dockerfile：

FROM ubuntu:18.04

RUN apt-get -y update \
    && \
    apt-get install -y --no-install-recommends \
        wget \
        python3 \
        python3-pip \
        nginx \
        ca-certificates \
    && \
    rm -rf /var/lib/apt/lists/*

RUN pip3 install --upgrade pip setuptools \
    && \
    pip3 install \
        numpy \
        scipy \
        scikit-learn \
        pandas \
        flask \
        gevent \
        gunicorn \
        joblib \
        pyAthena \
        pandarallel \
        nltk \
        gensim \
    && \
    rm -rf /root/.cache

ENV PYTHONUNBUFFERED=TRUE
ENV PYTHONDONTWRITEBYTECODE=TRUE

COPY train.py /train.py

ENTRYPOINT ["python3", "-u", "train.py"]

• 培训作业执行脚本：

framework = Doc2VecEstimator(
    image_name=image,
    entry_point='train_doc2vec_model.py',
    output_path='s3://{bucket_prefix}'.format(bucket_prefix=bucket_prefix),

    train_instance_count=1,
    train_instance_type='ml.m5.xlarge',
    train_volume_size=5,

    role=role,
    sagemaker_session=sagemaker_session,
    base_job_name='gensim-doc2vec-train-100-epochs-test',

    hyperparameters={
        'epochs': '100',
        'debug_size': '100',
    },
)

framework.fit(s3_input_data_path, wait=True)

我还没有找到一种方法来完成运行train\u doc2vec\u模型的培训工作。py。那么，如何创建自己的自定义框架类/容器呢？

谢谢

Answer 1

SageMaker团队创建了一个python包SageMaker training，安装在您的docker中，以便您的客户容器能够处理外部入口点脚本。请参见此处，以获取使用Catboost执行您想要执行的操作的示例：）

https://github.com/aws-samples/sagemaker-byo-catboost-container-demo