View a markdown version of this page

Soumettre des offres d'emploi à distance via la bibliothèque de boîtes à outils - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Soumettre des offres d'emploi à distance via la bibliothèque de boîtes à outils

Lorsque le toolkit-for-ray-on-sagemaker-ai package est installé, la CLI Jobs standard de Ray et le SDK Python s'authentifient via le point de terminaison sécurisé du cluster en utilisant le schéma d'sagemaker_ray://adresses enregistré par le package. Vous soumettez et suivez les tâches à partir d'un ordinateur portable, d'un CI/CD pipeline ou de tout autre environnement doté AWS d'informations d'identification, sans aucun chemin réseau direct vers le cluster. kubectl port-forward Le package est préinstallé dans SageMaker Distribution images.

Conditions préalables

  • Un point de terminaison authentifié sur le cluster. Pour de plus amples informations, veuillez consulter Installation du HyperPod Ray Endpoint Operator.

  • Le package de la boîte à outils, si vous ne vous trouvez pas dans une image SageMaker de distribution :

    pip install toolkit-for-ray-on-sagemaker-ai

Adressez le cluster

Le package ajoute un schéma d'sagemaker_rayadresses. Vous le transmettez à n'importe quelle ray job commande avec --address :

sagemaker_ray://my-cluster/my-namespace

Soumettre et répertorier les tâches depuis l'interface de ligne de commande

Répertoriez les tâches d'un cluster, puis soumettez un répertoire de travail avec un script de saisie.

ray job list --address sagemaker_ray://my-cluster/my-namespace ray job submit \ --address sagemaker_ray://my-cluster/my-namespace \ --working-dir ./src \ -- python my-script.py

Le point de terminaison authentifie la demande par rapport à votre identité, de sorte que vous atteignez le cluster sans VPN ni port transféré.

Soumettre depuis Python

Pour soumettre depuis Python, utilisez le standard de Ray JobSubmissionClient avec l'sagemaker_rayadresse. Lorsque le toolkit-for-ray-on-sagemaker-ai package est installé, il enregistre le schéma d'adresses, aucune autre modification n'est donc nécessaire.

from ray.job_submission import JobSubmissionClient client = JobSubmissionClient("sagemaker_ray://my-cluster/my-namespace") job_id = client.submit_job( entrypoint="python my-script.py", runtime_env={"working_dir": "./src"}, ) print(job_id)

Suivi d'une offre d'emploi soumise

La même adresse gère la tâche, de sorte qu'une tâche que vous avez soumise à distance est suivie à distance. Chaque commande utilise l'ID de tâche renvoyé lors de la soumission.

ray job status my-job-id --address sagemaker_ray://my-cluster/my-namespace ray job logs my-job-id --address sagemaker_ray://my-cluster/my-namespace --follow ray job stop my-job-id --address sagemaker_ray://my-cluster/my-namespace

ray job logs --followdiffuse la sortie jusqu'à la fin de la tâche. ray job stopdemande une halte gracieuse.

La vue Ray Dashboard Jobs répertorie chaque tâche du cluster avec son statut, son heure de début et ses journaux. Dans Studio, l'onglet Tâches répertorie les charges de travail Ray, y compris les tâches soumises. Pour de plus amples informations, veuillez consulter Gestion des charges de travail Ray avec Studio.

Pour consulter l'ensemble complet des commandes et options de la CLI Ray Jobs, voir Démarrage rapide à l'aide de la CLI Ray Jobs dans la documentation Ray.