Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Tutorial zur Vorbereitung auf SageMaker Trainingsjobs bei Trainium

Dieses Tutorial führt Sie durch den Prozess der Einrichtung und Ausführung eines Vorbereitungsjobs mithilfe von SageMaker Trainingsjobs mit Trainium-Instances. AWS

Bevor Sie beginnen, stellen Sie sicher, dass Sie die folgenden Voraussetzungen erfüllen.

Richte deine Umgebung für Trainingsjobs bei SageMaker Trainium ein

Bevor Sie einen SageMaker Trainingsjob ausführen, verwenden Sie den aws configure Befehl, um Ihre AWS Anmeldeinformationen und Ihre bevorzugte Region zu konfigurieren. Als Alternative können Sie Ihre Anmeldeinformationen auch über Umgebungsvariablen wie AWS_ACCESS_KEY_ID, AWS_SECRET_ACCESS_KEY und AWS_SESSION_TOKEN angeben. Weitere Informationen finden Sie unter SageMaker AI Python SDK.

Wir empfehlen dringend, ein SageMaker AI-Jupyter-Notebook in SageMaker AI JupyterLab zu verwenden, um einen SageMaker Trainingsjob zu starten. Weitere Informationen finden Sie unter SageMaker JupyterLab.

Starten des Trainingsjobs mit einem Jupyter Notebook

Sie können den folgenden Python-Code verwenden, um einen SageMaker Trainingsjob mit Ihrem Rezept auszuführen. Es nutzt das PyTorch ModelTrainer aus dem SageMaker AI Python SDK, um das Rezept einzureichen. Im folgenden Beispiel wird das llama3-8b-Rezept als KI-Trainingsjob gestartet. SageMaker

import os
import boto3
from sagemaker.core.debugger import TensorBoardOutputConfig
from sagemaker.core.helper.session_helper import Session, get_execution_role
from sagemaker.train import ModelTrainer
from sagemaker.train.configs import Compute, InputData, OutputDataConfig

sagemaker_session = Session()
role = get_execution_role()

bucket = sagemaker_session.default_bucket() 
output = os.path.join(f"s3://{bucket}", "output")
output_path = "<s3-URI>"

recipe_overrides = {
    "run": {
        "results_dir": "/opt/ml/model",
    },
    "exp_manager": {
        "explicit_log_dir": "/opt/ml/output/tensorboard",
    },
    "data": {
        "train_dir": "/opt/ml/input/data/train",
    },
    "model": {
        "model_config": "/opt/ml/input/data/train/config.json",
    },
    "compiler_cache_url": "<compiler_cache_url>"
} 

tensorboard_output_config = TensorBoardOutputConfig(
    s3_output_path=os.path.join(output, 'tensorboard'),
    container_local_output_path=recipe_overrides["exp_manager"]["explicit_log_dir"]
)

model_trainer = ModelTrainer(
    output_data_config=OutputDataConfig(s3_output_path=output_path),
    base_job_name=f"llama-trn",
    role=role,
    compute=Compute(instance_type="ml.trn1.32xlarge", instance_count=1),
    training_recipe="training/llama/hf_llama3_70b_seq8k_trn1x16_pretrain",
    recipe_overrides=recipe_overrides,
)

model_trainer.train(input_data_config=[
    InputData(channel_name="train", data_source="your-inputs")
], wait=True)

Der vorhergehende Code erstellt ein ModelTrainer Objekt mit dem Trainingsrezept und trainiert dann das Modell mit der Methode. train() Verwenden Sie den Parameter training_recipe, um das Rezept anzugeben, das Sie für das Training verwenden möchten.

Starten des Trainingsjobs mit dem Launcher für Rezepte

Weitere Hinweise zur Konfiguration von SageMaker Trainingsjobs finden Sie unterSageMaker Tutorial für Trainingsjobs vor dem Training (GPU).