Framework supportati, Regioni AWS, tipi di istanze e modelli testati

Prima di utilizzare SageMaker Training Compiler, verificare se il framework desiderato è supportato, se i tipi di istanza sono disponibili nell'account AWS e se l'account AWS figura tra le Regioni AWS supportate.

Framework supportati

SageMaker Training Compiler supporta i seguenti framework di deep learning ed è disponibile tramite i container di deep learning di AWS.

PyTorch

TensorFlow

Per ulteriori informazioni, consultare Available Images in AWS Deep Learning Containers GitHub repository.

Regioni AWS

I container SageMaker Training Compiler sono disponibili nelle Regioni AWS in cui sono in servizio i AWS Deep Learning Containers, ad eccezione delle Regioni della Cina.

Tipi di istanze supportati

SageMaker Training Compiler è testato e supporta i seguenti tipi di istanze ML.

Per le specifiche dei tipi di istanza, consultare la sezione Accelerated Computing nella pagina Amazon EC2 Instance Types. Per informazioni sui prezzi in base all'istanza, consultare Amazon SageMaker Pricing.

Se hai ricevuto un messaggio di errore simile al seguente, segui le istruzioni in Richiesta di aumento della quota di servizio per le risorse SageMaker AI.

ResourceLimitExceeded: An error occurred (ResourceLimitExceeded) when calling
the CreateTrainingJob operation: The account-level service limit 'ml.p3dn.24xlarge
for training job usage' is 0 Instances, with current utilization of 0 Instances
and a request delta of 1 Instances.
Please contact AWS support to request an increase for this limit.

Modelli testati

La tabella seguente include un elenco dei modelli che sono stati testati con SageMaker Training Compiler. A titolo di riferimento, oltre ad altri parametri di addestramento, sono incluse anche le dimensioni del batch più grande che è possibile inserire nella memoria. SageMaker Training Compiler può modificare l'impronta di memoria del processo di addestramento del modello; di conseguenza, durante il processo di addestramento è spesso possibile utilizzare un batch di dimensioni maggiori, riducendo ulteriormente il tempo di addestramento totale. In alcuni casi, SageMaker Training Compiler promuove in modo intelligente la memorizzazione nella cache, il che determina una riduzione delle dimensioni del batch più grande che può contenere la GPU. È necessario ottimizzare nuovamente gli iperparametri del modello e trovare dimensioni del batch ottimale per il proprio caso. Per risparmiare tempo, utilizzare le seguenti tabelle di riferimento per cercare dimensioni del batch che possa essere un buon punto di partenza per il proprio caso d'uso.