Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Implementación de modelos fundacionales y modelos de ajuste fino personalizados
Ya sea que esté implementando modelos básicos de peso abierto o cerrados previamente entrenados de Amazon SageMaker JumpStart o sus propios modelos personalizados o ajustados almacenados en Amazon S3 o Amazon FSx, SageMaker HyperPod proporciona la infraestructura flexible y escalable que necesita para las cargas de trabajo de inferencia de producción.
| Implemente modelos de bases abiertas y cerradas desde JumpStart | Implementación de modelos personalizados y de ajuste fino de Amazon S3 y Amazon FSx | Implemente modelos desde el almacenamiento NVMe local | |
|---|---|---|---|
| Descripción |
Implemente desde un catálogo completo de modelos fundacionales previamente entrenados con políticas de escalado y optimización automáticas adaptadas a cada familia de modelos. |
Traiga sus propios modelos personalizados y ajustados y utilice la infraestructura empresarial para realizar inferencias a escala SageMaker HyperPod de producción. Elija entre un almacenamiento rentable con Amazon S3 o un sistema de archivos de alto rendimiento con Amazon FSx. | Cargue los pesos de los modelos desde el almacenamiento NVMe local de un nodo para eliminar la latencia de la red durante el arranque del pod. Útil para eventos de escalado automático, cargas de trabajo que se escalan desde cero y conmutaciones por error sensibles a la latencia. |
| Ventajas principales |
|
|
|
| Opciones de implementación |
|
|
|
En las siguientes secciones, se explica cómo implementar modelos de Amazon SageMaker JumpStart, Amazon S3 y Amazon FSx, y del almacenamiento NVMe local.
Temas
