Cómo empezar a SageMaker HyperPod usar la consola de SageMaker IA - Amazon SageMaker AI
Creación de un clústerImplementación de recursosEliminación del clúster y limpieza de recursos

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Cómo empezar a SageMaker HyperPod usar la consola de SageMaker IA

El siguiente tutorial muestra cómo crear un SageMaker HyperPod clúster nuevo y configurarlo con Slurm a través de la interfaz de usuario de la consola SageMaker AI. Tras el tutorial, crearás un HyperPod clúster con tres nodos de Slurm,, ymy-controller-group. my-login-group worker-group-1

Creación de un clúster

Para ir a la página de SageMaker HyperPod clústeres y elegir la orquestación de Slurm, sigue estos pasos.

  1. Abre la consola Amazon SageMaker AI en https://console.aws.amazon.com/sagemaker/.

  2. Seleccione HyperPod Clusters en el panel de navegación izquierdo y, a continuación, Cluster Management.

  3. En la página SageMaker HyperPod Clústeres, elija Crear HyperPod clúster.

  4. En el menú desplegable Crear HyperPod clúster, selecciona Orchestrated by Slurm.

  5. En la página de creación de clústeres de Slurm, verá dos opciones. Elija la opción que mejor se adapte a sus necesidades.

    1. Configuración rápida: para comenzar de inmediato con la configuración predeterminada, seleccione Configuración rápida. Con esta opción, la SageMaker IA creará nuevos recursos, como VPC, subredes, grupos de seguridad, un bucket de Amazon S3, una función de IAM y FSx para Lustre, durante el proceso de creación del clúster.

    2. Configuración personalizada: para integrarse con los recursos de AWS existentes o tener requisitos específicos de red, seguridad o almacenamiento, seleccione Configuración personalizada. Con esta opción, puede optar por utilizar los recursos existentes o crear unos nuevos. Además, puede personalizar la configuración que mejor se adapte a sus necesidades.

En la sección Configuración rápida, sigue estos pasos para crear tu HyperPod clúster con la orquestación de Slurm.

Configuración general

Especifique un nombre para el nuevo clúster. Después de crear el clúster no puede cambiarle el nombre.

Grupos de instancias

Para añadir un grupo de instancias, elija Agregar grupo. Cada grupo de instancias se puede configurar de una forma diferente y se puede crear un clúster heterogéneo que conste de varios grupos de instancias con diversos tipos de instancias. Para implementar un clúster, debe añadir al menos un grupo de instancias para los tipos de grupo Controlador y Computación.

importante

Puede añadir un grupo de instancias cada vez. Si desea crear varios grupos de instancias, repita el proceso para cada uno de ellos.

Siga estos pasos para agregar un grupo de instancias.

  1. En Tipo del grupo de instancias, elija un tipo de instancia para su grupo de instancias. Para este tutorial, seleccione Controlador (principal) para my-controller-group, Inicio de sesión para my-login-group y Computación (de trabajo) para worker-group-1.

  2. En Nombre, especifique un nombre para el grupo de instancias. Para este tutorial, cree tres grupos de instancias llamados my-controller-group, my-login-group y worker-group-1.

  3. En Capacidad de instancia, elija la capacidad bajo demanda o un plan de entrenamiento para reservar recursos de computación.

  4. En Tipo de instancia, elija la instancia del grupo de instancias. Para este tutorial, seleccione ml.c5.xlarge para my-controller-group, ml.m5.4xlarge para my-login-group y ml.trn1.32xlarge para worker-group-1.

    importante

    Asegúrese de elegir un tipo de instancia con bastantes cuotas y que tenga suficientes direcciones IP sin asignar para su cuenta. Para ver o solicitar cuotas adicionales, consulte SageMaker HyperPod cuotas.

  5. En Cantidad de instancias, especifique un número entero que no supere la cuota de instancias de uso del clúster. Para este tutorial, introduzca 1 para los tres grupos.

  6. En Zona de disponibilidad de destino, elija la zona de disponibilidad en la que se aprovisionarán las instancias. La zona de disponibilidad debe corresponder a la ubicación de la capacidad de computación acelerada.

  7. En Volumen de almacenamiento adicional por instancia (GB) - opcional, especifique un número entero entre 1 y 16 384 para establecer el tamaño de un volumen adicional de Elastic Block Store (EBS) en gigabytes (GB). El volumen de EBS está asociado a cada instancia del grupo de instancias. La ruta de montaje predeterminada para el volumen de EBS adicional es /opt/sagemaker. Una vez que el clúster se haya creado correctamente, puede utilizar SSH en las instancias del clúster (nodos) y verificar si el volumen de EBS está montado correctamente ejecutando el comando df -h. La conexión de un volumen de EBS adicional proporciona un almacenamiento estable, fuera de la instancia y persistente de forma independiente, tal y como se describe en la sección Amazon EBS volumes de la Guía del usuario de Amazon Elastic Block Store.

  8. Elija Agregar grupo de instancias.

Valores predeterminados de la configuración rápida

En esta sección se enumeran todos los ajustes predeterminados para la creación del clúster, incluidos todos los AWS recursos nuevos que se crearán durante el proceso de creación del clúster. Revise la configuración predeterminada.

En la sección Configuración personalizada, sigue estos pasos para crear tu HyperPod clúster con la orquestación de Slurm.

Configuración general

Especifique un nombre para el nuevo clúster. Después de crear el clúster no puede cambiarle el nombre.

En Recuperación de instancias, elija Automática - recomendado o Ninguna.

Red

Configure los ajustes de red para crear el clúster. Los ajustes no se puede modificar una vez creado el clúster.

  1. En el caso de la VPC, elige tu propia VPC si ya tienes una que dé acceso de SageMaker IA a tu VPC. Para crear una VPC nueva, siga las instrucciones de la sección Creación de una VPC de la Guía del usuario de Amazon Virtual Private Cloud. Puedes dejarlo como Ninguno para usar la VPC de SageMaker IA predeterminada.

  2. Para el bloque IPv4 CIDR de VPC, introduzca la IP de inicio de la VPC.

  3. En el caso de las zonas de disponibilidad, elija las zonas de disponibilidad (AZ) en las que se HyperPod crearán las subredes para el clúster. Elija una AZs que coincida con la ubicación de su capacidad informática acelerada.

  4. En Grupos de seguridad, cree un grupo de seguridad o elija hasta cinco grupos de seguridad configurados con reglas que permitan la comunicación entre recursos dentro de la VPC.

Grupos de instancias

Para añadir un grupo de instancias, elija Agregar grupo. Cada grupo de instancias se puede configurar de una forma diferente y se puede crear un clúster heterogéneo que conste de varios grupos de instancias con diversos tipos de instancias. Para implementar un clúster, debe agregar al menos un grupo de instancias.

importante

Puede añadir un grupo de instancias cada vez. Si desea crear varios grupos de instancias, repita el proceso para cada uno de ellos.

Siga estos pasos para agregar un grupo de instancias.

  1. En Tipo del grupo de instancias, elija un tipo de instancia para su grupo de instancias. Para este tutorial, seleccione Controlador (principal) para my-controller-group, Inicio de sesión para my-login-group y Computación (de trabajo) para worker-group-1.

  2. En Nombre, especifique un nombre para el grupo de instancias. Para este tutorial, cree tres grupos de instancias llamados my-controller-group, my-login-group y worker-group-1.

  3. En Capacidad de instancia, elija la capacidad bajo demanda o un plan de entrenamiento para reservar recursos de computación.

  4. En Tipo de instancia, elija la instancia del grupo de instancias. Para este tutorial, seleccione ml.c5.xlarge para my-controller-group, ml.m5.4xlarge para my-login-group y ml.trn1.32xlarge para worker-group-1.

    importante

    Asegúrese de elegir un tipo de instancia con bastantes cuotas y que tenga suficientes direcciones IP sin asignar para su cuenta. Para ver o solicitar cuotas adicionales, consulte SageMaker HyperPod cuotas.

  5. En Cantidad de instancias, especifique un número entero que no supere la cuota de instancias de uso del clúster. Para este tutorial, introduzca 1 para los tres grupos.

  6. En Zona de disponibilidad de destino, elija la zona de disponibilidad en la que se aprovisionarán las instancias. La zona de disponibilidad debe corresponder a la ubicación de la capacidad de computación acelerada.

  7. En Volumen de almacenamiento adicional por instancia (GB) - opcional, especifique un número entero entre 1 y 16 384 para establecer el tamaño de un volumen adicional de Elastic Block Store (EBS) en gigabytes (GB). El volumen de EBS está asociado a cada instancia del grupo de instancias. La ruta de montaje predeterminada para el volumen de EBS adicional es /opt/sagemaker. Una vez que el clúster se haya creado correctamente, puede utilizar SSH en las instancias del clúster (nodos) y verificar si el volumen de EBS está montado correctamente ejecutando el comando df -h. La conexión de un volumen de EBS adicional proporciona un almacenamiento estable, fuera de la instancia y persistente de forma independiente, tal y como se describe en la sección Amazon EBS volumes de la Guía del usuario de Amazon Elastic Block Store.

  8. Elija Agregar grupo de instancias.

Scripts de ciclo de vida

Puede optar por utilizar los scripts de ciclo de vida predeterminados o los scripts de ciclo de vida personalizados, que se almacenarán en su bucket de Amazon S3. Puede ver los scripts de ciclo de vida predeterminados en el GitHub repositorio de Awesome Distributed Training. Para obtener más información sobre los scripts de ciclo de vida, consulte Personalización de SageMaker HyperPod clústeres mediante scripts de ciclo de vida.

  1. En Scripts de ciclo de vida, elija usar scripts de ciclo de vida predeterminados o personalizados.

  2. En bucket de S3 para scripts de ciclo de vida, elija crear un nuevo bucket o utilizar un bucket existente para almacenar los scripts de ciclo de vida.

Permisos

Elija o cree un rol de IAM que le permita HyperPod ejecutar y acceder a AWS los recursos necesarios en su nombre.

Almacenamiento

Configure el sistema FSx de archivos de Lustre para que se aprovisione en el clúster. HyperPod

  1. Para el sistema de archivos, elija un sistema de archivos existente FSx para Lustre, cree uno nuevo FSx para Lustre o no aprovisione uno FSx para Lustre.

  2. En Rendimiento por unidad de almacenamiento, elija el rendimiento que estará disponible por TiB de almacenamiento aprovisionado.

  3. En Capacidad de almacenamiento, introduzca un valor de capacidad en TB.

  4. En el tipo de compresión de datos, seleccione habilitar LZ4la compresión de datos.

  5. En Versión Lustre, consulte el valor recomendado para los nuevos sistemas de archivos.

Etiquetas: opcional

En el caso de las etiquetas (opcional), añada pares de claves y valores al nuevo clúster y administre el clúster como un AWS recurso. Para obtener más información, consulte Tagging your AWS resources.

Implementación de recursos

Después de completar las configuraciones del clúster desde Configuración rápida o Configuración personalizada, elija la siguiente opción para iniciar el aprovisionamiento de recursos y la creación del clúster.

  • Enviar: SageMaker AI empezará a aprovisionar los recursos de configuración predeterminados y a crear el clúster.

  • Descargar los parámetros de la CloudFormation plantilla: descargará el archivo JSON de los parámetros de configuración y ejecutará el AWS CLI comando para implementar la CloudFormation pila, aprovisionar los recursos de configuración y crear el clúster. Si es necesario, puede editar el archivo JSON de parámetros descargado. Si elige esta opción, puede ver más instrucciones en Creación de clústeres mediante plantillas SageMaker HyperPod CloudFormation.

Eliminación del clúster y limpieza de recursos

Una vez que haya probado correctamente la creación de un SageMaker HyperPod clúster, seguirá ejecutándose en ese InService estado hasta que lo elimine. Te recomendamos que elimines los clústeres creados con instancias de SageMaker IA bajo demanda cuando no estén en uso para evitar incurrir en cargos de servicio continuos en función de los precios bajo demanda. En este tutorial, ha creado un clúster que consta de dos grupos de instancias. Uno de ellos utiliza una instancia C5, así que asegúrese de eliminar el clúster siguiendo las instrucciones que aparecen en Elimina un SageMaker HyperPod clúster.

Sin embargo, si ha creado un clúster con una capacidad de computación reservada, el estado de los clústeres no afecta a la facturación de los servicios.

Para limpiar los scripts de ciclo de vida del bucket de S3 utilizado para este tutorial, vaya al bucket de S3 que utilizó durante la creación del clúster y elimine todos los archivos.

Si ha probado la ejecución de alguna carga de trabajo en el clúster, asegúrese de haber cargado datos o de haber guardado algún artefacto en distintos buckets de S3 o servicios de sistema de archivos, como Amazon FSx for Lustre y Amazon Elastic File System. Para evitar incurrir en gastos, elimine todos los artefactos y datos del almacenamiento o del sistema de archivos.