Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Réservez des plans de formation flexibles pour les charges de travail de machine learning
Les plans de SageMaker formation Amazon sont une fonctionnalité qui vous permet de réserver et d'optimiser l'utilisation de la capacité du processeur graphique pour les charges de travail de machine learning. Cette fonctionnalité permet d'accéder à des types d'instances très recherchés qui couvrent de nombreuses options GPU-accelerated informatiques, notamment les dernières technologies GPU NVIDIA et les puces AWS Trainium. Grâce aux plans de SageMaker formation, vous pouvez garantir un accès prévisible à ces ressources informatiques hautes performances et très demandées dans les délais et les budgets que vous avez spécifiés, sans avoir à gérer l'infrastructure sous-jacente. Cette flexibilité est particulièrement utile pour les entreprises confrontées aux défis liés à l’acquisition et à la planification de ces instances de calcul avec trop d’abonnements pour leurs charges de travail critiques liées à l’IA.
Que sont les plans SageMaker de formation
SageMaker les plans de formation vous permettent de réserver une capacité de calcul adaptée à vos besoins en ressources cibles, tels que les tâches de SageMaker formation, les SageMaker HyperPod clusters, les points de terminaison d' SageMaker inférence ou les applications SageMaker Studio. Le service gère automatiquement la réservation, le provisionnement de ressources de calcul accélérées, la configuration de l’infrastructure, l’exécution des charges de travail et la récupération en cas de défaillance de l’infrastructure.
SageMaker les plans de formation se composent d'un ou de plusieurs blocs de capacité réservée, chacun étant défini par les paramètres suivants :
-
Type d’instance spécifique
-
Quantité d’instances
-
Zone de disponibilité
-
Duration
-
Horaires de début et de fin
Note
-
Les plans de formation sont spécifiques à leur ressource cible (SageMaker Training Job SageMaker HyperPod, points de terminaison d' SageMakerinférence ou applications SageMaker Studio) et ne peuvent pas être échangés.
-
Plusieurs blocs de capacité réservée dans un même plan d’entraînement peuvent être discontinus. Cela signifie qu’il peut y avoir des écarts entre les blocs de capacité réservée.
Avantages des plans SageMaker de formation
SageMaker les plans de formation offrent les avantages suivants :
-
Accès prévisible : réservez la capacité GPU pour vos charges de travail de machine learning dans des périodes spécifiées.
-
Gestion des coûts : planifiez et budgétisez à l'avance vos exigences en matière de charge de travail en matière de machine learning.
-
Gestion automatisée des ressources : les plans de SageMaker formation gèrent le provisionnement et la gestion de l'infrastructure.
-
Flexibilité : créez des plans de formation pour diverses ressources, notamment des tâches de SageMaker formation, des SageMaker HyperPod clusters, des points de terminaison d' SageMaker inférence et des applications SageMaker Studio.
-
Tolérance aux pannes : profitez de la restauration automatique en cas de panne d'infrastructure et de la migration de la charge de travail entre les zones de disponibilité pour les tâches de SageMaker formation.
SageMaker plans de formation, réservation à l'avance et horaires de départ flexibles
SageMaker les plans de formation vous permettent de réserver la capacité de calcul à l'avance, avec des heures de début et des durées flexibles.
-
Réservation à l’avance : vous pouvez réserver un plan d’entraînement jusqu’à 8 semaines (56 jours) avant la date de début.
-
Délai minimum : les offres de plans de SageMaker formation peuvent être disponibles pour commencer dans les 30 minutes suivant la réservation, sous réserve de disponibilité.
Note
Vous pouvez rechercher et acheter un plan qui sera accessible dans les 30 minutes. Pour garantir une activation rapide, la transaction de paiement doit être terminée avec succès au moins 5 minutes avant l’horaire de début souhaité. Par exemple, si vous souhaitez qu'un forfait commence à 14 h 00, vous pouvez effectuer une recherche de dernière minute jusqu'à 13 h 30 et terminer votre achat avant 13 h 55 pour vous assurer que le plan est prêt à 14 h.
-
Durée de réservation et quantité d'instances : les plans de SageMaker formation vous permettent de réserver des instances avec des options de durée et de quantité spécifiques. Pour les types d'instances disponibles dans des options de durée et de quantité données Région AWS, consultezTypes d'instances pris en charge, Régions AWS, et tarification.
-
Heure de fin : les plans d’entraînement se terminent toujours à 11h30 UTC le dernier jour de la réservation.
-
Résiliation du plan de formation : si vous utilisez des tâches de formation, des points de terminaison d'inférence et des applications Studio comme ressource cible et qu'il reste 30 minutes dans une capacité réservée, les plans de SageMaker formation lancent le processus de fermeture de toutes les instances en cours d'exécution au sein de ce bloc jusqu'à ce que la prochaine capacité réservée soit active. Vous conservez un accès complet à votre plan d’entraînement jusqu’à 30 minutes avant l’heure de fin du dernier bloc de capacité réservée.
Si votre ressource cible est un SageMaker HyperPod cluster, cette limite de temps est d'une heure.
Types d'instances pris en charge, Régions AWS, et tarification
Les plans d’entraînement prennent en charge les réservations pour les types d’instances hautes performances spécifiques suivants, chacun étant disponible dans certaines Régions AWS :
-
ml.p4d.24xlarge
-
ml.p 5,4 x large
-
ml.p5.48xlarge
-
ml.p5e.48xlarge
-
ml.p5en.48xlarge
-
ml.trn1.32xlarge
-
ml.trn2.48xlarge
-
ml.p6-b200.48xlarge
-
ml.p6-b 300,48 x large
-
ml.g6.xlarge (contactez votre responsable de compte)
-
ml.g6.4xlarge (contactez votre responsable de compte)
UltraServers(Ne peut actuellement pas être acheté en libre-service ; contactez votre responsable de compte.)
-
ml.p6e-gb200.36xlarge
-
ml.p6e-gb200.72xlarge
Note
La disponibilité des types d’instances peut changer au fil du temps. Pour obtenir les informations les plus récentes sur les types d'instances disponibles par région, ainsi que leurs prix respectifs, consultez la rubrique SageMaker Tarification
La disponibilité dans plusieurs régions permet de choisir l’emplacement le plus adapté aux charges de travail, en tenant compte de facteurs tels que les exigences en matière de résidence des données et la proximité des autres services AWS .
Important
-
Vous pouvez utiliser des plans de SageMaker formation pour réserver des instances avec les options de durée de réservation et de quantité d'instances suivantes.
-
Les durées de réservation sont disponibles par incréments de 1 jour, de 1 à 182 jours.
-
Les options de quantité d’instances de réservation sont de 1, 2, 4, 8, 16, 32 ou 64 instances.
-
-
Assurez-vous que vos jobs de formation ou vos quotas de HyperPod service autorisent un nombre maximum d'instances par type d'instance supérieur au nombre d'instances spécifié dans votre plan. Pour consulter vos quotas actuels ou demander une augmentation des quotas, consultez Consultez les quotas SageMaker des plans de formation à l'aide du AWS console de gestion.
UltraServers dans SageMaker AI
UltraServers in SageMaker AI propose un ensemble d'instances interconnectées via un domaine réseau à haut débit. Par exemple, il P6e-GB200 UltraServer connecte jusqu'à 18 p6e-gb200.36xlarge instances sous un même domaine NVIDIA NVLink. Avec 4 GPU NVIDIA Blackwell par instance, chacun P6e-GB200 UltraServer prenant en charge 72 GPU, vous pouvez exécuter vos charges de travail d'IA les plus importantes avec des performances élevées sur l'IA. SageMaker
Lorsque vous utilisez l' UltraServers SageMaker IA, vous bénéficiez de performances associées à l'infrastructure gérée de l' SageMaker IA, à ses fonctionnalités intégrées de résilience aux pannes, à ses capacités de surveillance intégrées et à son intégration native avec d'autres SageMaker IA et AWS services. Cette intégration vous permet de vous concentrer sur le développement et le déploiement de modèles pendant que l' SageMaker IA gère les tâches indifférenciées que représente la gestion de l'infrastructure d'IA.
Note
UltraServers sont disponibles uniquement dans la zone locale de Dallas (us-east-1-dfw-2a), qui est une extension de la région USA Est (Virginie du Nord). Pour plus d'informations, voir Premiers pas avec Zone locale AWS s
Considérations
Tenez compte des points suivants lors de l'utilisation UltraServers avec SageMaker l'IA :
-
Vous pouvez l'utiliser à la fois UltraServers pour des tâches de SageMaker formation SageMaker HyperPod et pour des tâches de formation.
-
Vous ne pouvez acheter qu' UltraServers en unités complètes. Pour plus d'informations sur les instances et les informations tarifaires, consultez les plans de formation SageMaker HyperPod flexibles d'Amazon dans la rubrique Tarification d'Amazon SageMaker AI
. -
Si vous utilisez UltraServers with HyperPod, ajoute HyperPod automatiquement des étiquettes de topologie à vos ressources pour vous aider à allouer les ressources. Pour plus d'informations, consultez la section Utilisation de la planification tenant compte de la topologie dans Amazon. SageMaker HyperPod
-
SageMaker IA et UltraServers offrent diverses fonctionnalités qui améliorent la résilience de vos charges de travail, notamment des contrôles préventifs ainsi que la détection et l'atténuation automatiques des pannes. En fonction du problème, l' SageMaker IA peut exécuter des actions pour récupérer vos charges de travail, telles que le redémarrage des instances, le remplacement des instances défaillantes par des pièces de rechange et le remplacement des instances défaillantes. UltraServers
-
Pour une résilience accrue, vous pouvez configurer des instances au sein d'une instance UltraServer pour les utiliser comme pièces de rechange. Le fait de conserver une instance de rechange UltraServer permet à l' SageMaker IA de réagir rapidement en cas de défaillance d'une instance tout en minimisant l'impact sur vos tâches. Nous vous recommandons de conserver une instance de rechange par instance UltraServer. Il n’est pas nécessaire de réserver des instances de rechange, mais cela peut entraver les options de support et ralentir la récupération en cas de défaillance. Vous achetez UltraServers en gros, donc le nombre de pièces de rechange que vous réservez n'a aucune incidence sur les prix.
-
Pour voir l'état et les instances d'un UltraServer, utilisez le fonctionnement de l' ListTrainingPlansAPI ou la AWS console pour consulter les plans de formation. À l’aide de ces outils, vous pouvez voir le nombre total d’instances disponibles, les instances actuellement utilisées, les instances défectueuses, le nombre de pièces de rechange configurées et d’autres informations. Les statuts d’intégrité possibles sont
ok,impairedetinsufficient-data.
SageMaker comportements de recherche de plans de formation
Lorsque vous recherchez une offre de plan de formation, les plans de SageMaker formation utilisent l'approche suivante afin de maximiser la disponibilité des ressources et la flexibilité pour les utilisateurs, même lorsque la demande est élevée et que les blocs de capacité réservée sont rares :
-
Recherche continue initiale : les plans de SageMaker formation tentent d'abord de trouver un seul bloc continu de capacité réservée correspondant à la durée spécifiée entre les dates de début et de fin, tout en répondant à tous les autres critères spécifiés, notamment la ressource cible, le type d'instance demandé et le nombre d'instances.
-
Two-block recherche : les plans de SageMaker formation ne renvoient pas de résultat « aucune capacité » si un seul bloc continu de capacité réservée répondant à tous les critères n'est pas disponible. Au lieu de cela, ils tentent automatiquement de répondre à la demande en utilisant deux blocs de capacité réservée distincts, divisant ainsi la durée totale sur deux segments temporels.
Cette approche à deux blocs offre une plus grande flexibilité d’allocation des ressources, sécurisant potentiellement les instances hautement demandées, qui ne seraient autrement pas disponibles.
Note
SageMaker les plans de formation proposent jusqu'à trois offres d'un ou deux segments. Par exemple, pour un plan d'une durée de 48 heures, les plans de SageMaker formation peuvent proposer un plan comportant deux blocs de 24 heures, un bloc continu de 48 heures et deux blocs de durée inégale.
Considérations
Important
-
Les achats de plans de formation sont définitifs et ne peuvent pas être annulés.
-
Les plans de formation ne peuvent pas être modifiés pour ajouter ou supprimer des instances ; ils peuvent uniquement être prolongés jusqu'à une nouvelle date de fin.
-
Les plans de formation ne peuvent pas être partagés entre AWS les comptes ou au sein de votre AWS organisation.
-
Lors de la recherche d'offres de plans de SageMaker formation, Training Plans adapte sa stratégie de recherche en fonction des éléments target resources suivants :
Pour les SageMaker HyperPod clusters :
-
Les offres sont limitées à une seule zone de disponibilité (AZ).
-
Cela garantit des performances réseau et une localisation des données cohérentes au sein du cluster.
Pour les emplois de SageMaker formation :
-
Les offres peuvent s’étendre sur plusieurs zones de disponibilité.
-
Cela est particulièrement pertinent lorsque l’offre du plan contient plusieurs capacités réservées discontinues.
-
Par exemple, un plan peut inclure de la capacité AZ-A pour un bloc de capacité réservée et AZ-B pour un autre. SageMaker les plans de formation peuvent déplacer automatiquement les charges de travail entre les zones de disponibilité (AZ) en fonction de la disponibilité des ressources.
Cette approche multi-AZ pour les tâches d’entraînement offre une plus grande flexibilité d’allocation des ressources, augmentant ainsi les chances de trouver la capacité adaptée à votre charge de travail. Toutefois, vous devez savoir que vos tâches peuvent être exécutées dans différentes zones de disponibilité au cours de différentes périodes de votre période de réservation.
-
-
Lorsqu’une offre à deux blocs est présentée, les utilisateurs doivent examiner attentivement si cette allocation divisée répond à leurs exigences en matière de charge de travail. Cela peut nécessiter un ajustement de la planification des tâches ou de la répartition des charges de travail pour tenir compte de la nature non continue de la réservation.
SageMaker plans de formation, flux de travail des utilisateurs
SageMaker les plans de formation comportent les étapes suivantes :
Étapes d’administration :
-
Recherche et révision : recherchez les offres de plans disponibles qui répondent à vos besoins en matière de calcul, tels que le type d’instance, le nombre, l’heure de début et la durée.
-
Création d’un plan : réservez un plan d’entraînement qui répond à vos besoins en utilisant l’identifiant de l’offre de plan que vous avez choisie.
-
Paiement et planification : une fois le paiement initial réussi, le statut du plan devient
Scheduled.
Étapes à suivre pour les utilisateurs du plan et les ingénieurs ML :
-
Allocation des ressources : utilisez votre plan pour les affecter à des tâches de formation à l' SageMaker IA, à des groupes d'instances de SageMaker HyperPod cluster, à des points de terminaison d' SageMaker inférence ou à des espaces dans les applications SageMaker Studio.
-
Activation : lorsque la date de début du plan arrive, elle devient
Active. En fonction de la capacité réservée disponible, les plans de SageMaker formation fournissent automatiquement des tâches de formation, des groupes d'instances, des points de terminaison d'inférence ou des applications Studio.
Note
Le statut du plan d’entraînement passe de Scheduled à Active au début d’une période de capacité réservée, puis revient à Scheduled en attendant le début de la période de capacité réservée suivante.
Les diagrammes suivants fournissent un aperçu complet de la manière dont les plans de SageMaker formation interagissent avec les différentstarget resources, illustrant le cycle de vie d'un plan et son rôle dans l'allocation des ressources pour les tâches de SageMaker formation et les SageMaker HyperPod clusters.
-
Plans de SageMaker formation pour Training Job : Le premier diagramme illustre le flux de travail de bout en bout de l'interaction entre un plan de formation et SageMaker Training Job.
-
Plans de formation pour les SageMaker HyperPod clusters : le deuxième diagramme illustre le flux de travail de bout en bout de l'interaction entre un plan de formation et un groupe d' SageMaker HyperPod instances.
