View a markdown version of this page

Gestion des charges de travail Ray avec Studio - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Gestion des charges de travail Ray avec Studio

Amazon SageMaker Studio gère les charges de travail Ray depuis une interface Web. Ouvrez votre cluster dans la HyperPod console, puis choisissez l'onglet Tâches. L'onglet répertorie les ressources Ray dans les espaces de noms auxquels vous avez accès, et le filtre de type de tâche bascule entre RayCluster RayJobRayCronJob, etRayService.

Studio lit et écrit les mêmes ressources KubeRay personnalisées que celles que l'opérateur réconcilie. Une ressource que vous créez dans Studio est identique à une ressource avec laquelle vous postulezkubectl. Vous pouvez vous déplacer entre les deux surfaces sur la même charge de travail.

Avant que quiconque n'utilise l'onglet Tâches, configurez un domaine d' SageMaker IA et accordez-lui l'accès à votre cluster. Pour de plus amples informations, veuillez consulter Configuration de Studio pour Ray.

Création d’un cluster

Choisissez Create Ray cluster et complétez le formulaire ou collez un RayCluster manifeste dans la vue YAML. Le formulaire couvre les champs communs. La vue YAML accepte tous les champs pris en charge par l' KubeRay opérateur. Utilisez-le lorsque vous avez besoin d'un champ que le formulaire n'expose pas.

Le sélecteur d'espace de noms du formulaire indique l'allocation de calcul et l'utilisation actuelle pour chaque espace de noms auquel vous avez accès. Utilisez-le pour dimensionner le cluster par rapport à la capacité réellement disponible avant de le soumettre, au lieu de vous rendre compte par la suite que le quota est en attente. Cela est particulièrement important dans un espace de noms géré par HyperPod Task Governance, où le cluster n'est pas admis tant que le quota n'est pas atteint pour sa taille totale déclarée. Pour de plus amples informations, veuillez consulter Comportement en matière de quotas et de planification pour les charges de travail Ray.

Attachez un espace au cluster lorsque vous souhaitez vous développer par rapport à celui-ci de manière interactive. Un espace est un environnement JupyterLab d'éditeur de code dans Amazon SageMaker Studio. Le code que vous y exécutez, dans un bloc-notes ou un terminal, atteint le cluster viaray.init().

Un espace possède sa propre version Ray, à partir de l'image SageMaker AI Distribution qu'il exécute. Faites correspondre cette version à la version Ray du cluster. Une incompatibilité produit des erreurs d'exécution difficiles à diagnostiquer. Pour de plus amples informations, veuillez consulter Attacher un cluster de rayons à l'espace.

Actions sur un cluster

Choisissez Actions sur une ligne pour agir sur cette ressource sans quitter Studio.

Action Ce qu'il fait
Développement interactif Ouvre un JupyterLab espace éditeur de code attaché au cluster, ray.init() afin de s'y connecter. Nécessite le module complémentaire SageMaker AI Spaces. Pour de plus amples informations, veuillez consulter Attacher un cluster de rayons à l'espace.
Soumettre une offre Soumet une tâche au cluster en cours d'exécution.
Tableau de bord Open Ray Ouvre le Ray Dashboard pour le cluster. Nécessite l'opérateur Ray Endpoint. Pour de plus amples informations, veuillez consulter Installation du HyperPod Ray Endpoint Operator.
Ouvrez Grafana Ouvre les tableaux de bord Grafana pour le cluster. Nécessite le module complémentaire d'observabilité. Pour de plus amples informations, veuillez consulter Configuration de la collecte de métriques Ray.
Modifier le cluster de rayons Modifie le cluster, y compris le nombre de répliques de travail.
Cluster Suspendre Ray Arrête les pods du cluster et conserve la ressource. Libère le calculateur.
Resume Ray cluster Redémarre les modules d'un cluster suspendu avec leur configuration existante. Disponible lorsque le cluster est suspendu.
Supprimer un cluster de rayons Supprime le cluster et ses modules.

Afficher les détails et les événements

Choisissez un nom de ressource pour l'ouvrir. L'onglet Événements répertorie les pods du cluster Ray ainsi que leurs événements Kubernetes. Commencez par là lorsqu'un cluster n'atteint pas l'état de fonctionnement. Cela est également utile lorsqu'un pod redémarre de manière inattendue ou qu'une tâche échoue pour une raison que ses journaux n'expliquent pas. Les événements indiquent le nom du pod défaillant et la raison, telle qu'un échec d'extraction d'image ou une capacité allouable insuffisante. Pour de plus amples informations, veuillez consulter Résolution des problèmes liés à Ray on HyperPod.

Pour voir l'utilisation du cluster, choisissez Actions, puis Ouvrez Grafana. Pour en savoir plus sur le comportement en matière de quota, de priorité et de préemption dans un espace de noms géré par HyperPod Task Governance, consultez. Comportement en matière de quotas et de planification pour les charges de travail Ray