Caratteristiche principali della libreria di parallelismo dei SageMaker modelli v2

La libreria di parallelismo dei modelli Amazon SageMaker AI v2 (SMP v2) offre strategie di distribuzione e tecniche di risparmio della memoria, come il parallelismo dei dati condivisi, il parallelismo tensoriale e il checkpoint. Le strategie e le tecniche di parallelizzazione dei modelli offerte da SMP v2 aiutano a distribuire modelli di grandi dimensioni su più dispositivi, ottimizzando al contempo la velocità di addestramento e il consumo di memoria. SMP v2 fornisce inoltre un pacchetto Python torch.sagemaker per contribuire ad adattare lo script di addestramento con poche righe di modifica del codice.

Questa guida segue il flusso di base in due fasi introdotto in Utilizzo della libreria SageMaker Model Parallelism v2. Per approfondire la conoscenza delle funzionalità principali di SMP v2 e come utilizzarle, consulta i seguenti argomenti.