Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Déploiement de modèles de fondation et de modèles personnalisés et peaufinés
Que vous déployiez des modèles de base ouverts ou fermés préentraînés d'Amazon SageMaker JumpStart ou que vous déployiez vos propres modèles personnalisés ou affinés stockés dans Amazon S3 ou Amazon FSx, SageMaker HyperPod vous disposez de l'infrastructure flexible et évolutive dont vous avez besoin pour les charges de travail d'inférence de production.
| Déployez des modèles de fondations ouvertes et fermées à partir de JumpStart | Déploiement de modèles personnalisés et peaufinés depuis Amazon S3 et Amazon FSx | Déployez des modèles à partir d'un stockage NVMe local | |
|---|---|---|---|
| Description |
Déployez à partir d’un catalogue complet de modèles de fondation pré-entraînés avec des politiques d’optimisation et de mise à l’échelle automatiques adaptées à chaque famille de modèles. |
Apportez vos propres modèles personnalisés et affinés et utilisez l'infrastructure d'entreprise pour des SageMaker HyperPod inférences à l'échelle de production. Choisissez entre un stockage rentable avec Amazon S3 ou un système de fichiers hautes performances avec Amazon FSx. | Chargez les pondérations des modèles à partir du stockage NVMe local d'un nœud afin d'éliminer la latence du réseau lors du démarrage du pod. Utile pour le dimensionnement automatique des événements, la mise à l'échelle des charges de travail à partir de zéro et les basculements sensibles à la latence. |
| Principaux avantages |
|
|
|
| Options de déploiement |
|
|
|
Les sections suivantes vous expliquent comment déployer des modèles depuis Amazon SageMaker JumpStart, Amazon S3 et Amazon FSx, ainsi que depuis un stockage NVMe local.
Rubriques
