Come Amazon SageMaker AI fornisce informazioni di addestramento

Questa sezione spiega come SageMaker AI rende disponibili informazioni di addestramento, come dati di addestramento, iperparametri e altre informazioni di configurazione, per il container Docker.

Quando invii una richiesta CreateTrainingJob a SageMaker AI per avviare l’addestramento dei modelli, specifichi il percorso Amazon Elastic Container Registry (Amazon ECR) dell’immagine Docker che contiene l’algoritmo di addestramento. Specifichi anche il percorso Amazon Simple Storage Service (Amazon S3), dove sono archiviati i dati di addestramento, e i parametri specifici dell'algoritmo. SageMaker AI rende disponibili queste informazioni per il container Docker in modo che il tuo algoritmo di addestramento possa utilizzarle. Questa sezione spiega come rendere queste informazioni disponibili al tuo container Docker. Per informazioni sulla creazione di un processo di addestramento, consulta CreateTrainingJob. Per ulteriori informazioni sul modo in cui i container SageMaker AI organizzano le informazioni, consulta Toolkit di addestramento e inferenza SageMaker.

Iperparametri

SageMaker AI rende disponibili gli iperparametri in una richiesta CreateTrainingJob nel container Docker nel file /opt/ml/input/config/hyperparameters.json.

Di seguito è riportato un esempio di configurazione iperparametri in hyperparameters.json per specificare gli iperparametri num_round e eta nell’operazione CreateTrainingJob per XGBoost.

{
    "num_round": "128",
    "eta": "0.001"
}            

Per un elenco completo degli iperparametri che possono essere utilizzati per l’algoritmo XGBoost integrato di SageMaker AI, consulta Iperparametri XGBoost.

Gli iperparametri che puoi ottimizzare dipendono dall'algoritmo che stai addestrando. Un elenco degli iperparametri disponibili per un algoritmo integrato SageMaker AI è disponibile in Hyperparameters sotto il link dell’algoritmo in Use Amazon SageMaker AI Built-in Algorithms or Pre-trained Models.

Variabili di ambiente

SageMaker AI imposta le seguenti variabili di ambiente nel container:

Configurazione dei dati di input

SageMaker AI specifica le informazioni del canale di dati nel parametro InputDataConfig dalla richiesta CreateTrainingJob disponibile nel file /opt/ml/input/config/inputdataconfig.json nel container Docker.

Ad esempio, supponiamo che specifichi tre canali di dati (train, evaluation e validation) nella tua richiesta. SageMaker AI fornisce il seguente JSON:

{
  "train" : {"ContentType":  "trainingContentType",
             "TrainingInputMode": "File",
             "S3DistributionType": "FullyReplicated",
             "RecordWrapperType": "None"},
  "evaluation" : {"ContentType":  "evalContentType",
                  "TrainingInputMode": "File",
                  "S3DistributionType": "FullyReplicated",
                  "RecordWrapperType": "None"},
  "validation" : {"TrainingInputMode": "File",
                  "S3DistributionType": "FullyReplicated",
                  "RecordWrapperType": "None"}
} 

Dati di addestramento

Il parametro TrainingInputMode nella AlgorithmSpecification della richiesta CreateTrainingJob specifica in che modo il set di dati di addestramento viene reso disponibile per il container. Sono disponibili le modalità di input seguenti:

L’addestramento dei modelli di SageMaker AI supporta i bucket di directory S3 Express One Zone ad alte prestazioni come posizione di input dei dati per la modalità File, FastFile e Pipe. Per utilizzare S3 Express One Zone, inserisci la posizione del bucket di directory S3 Express One Zone anziché un bucket Amazon S3 per uso generico. Fornisci l’ARN per il ruolo IAM con la policy di controllo degli accessi e delle autorizzazioni richiesta. Per i dettagli, fai riferimento ad AmazonSageMakerFullAccesspolicy. Puoi crittografare i dati di output SageMaker AI solo in bucket di directory con crittografia lato server con chiavi gestite da Amazon S3 (SSE-S3). La crittografia lato server con chiavi AWS KMS (SSE-KMS) non è attualmente supportata per l’archiviazione dei dati di output SageMaker AI in bucket di directory. Per ulteriori informazioni, consulta S3 Express One Zone.

Configurazione dell’addestramento distribuito

Se stai eseguendo un addestramento distribuito con più container, SageMaker AI rende disponibili le informazioni su tutti i container nel file /opt/ml/input/config/resourceconfig.json.

Per abilitare la comunicazione tra container, questo file JSON contiene le informazioni per tutti i container. SageMaker AI rende questo file disponibile per gli algoritmi delle modalità File e Pipe. Il file fornisce le informazioni che seguono:

Di seguito è riportato un file di esempio sul nodo 1 in un cluster a tre nodi.

{
    "current_host": "algo-1",
    "hosts": ["algo-1","algo-2","algo-3"],
    "network_interface_name":"eth1"
}