View a markdown version of this page

Invio di lavori in remoto con la libreria del toolkit - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Invio di lavori in remoto con la libreria del toolkit

Quando il toolkit-for-ray-on-sagemaker-ai pacchetto è installato, la CLI Jobs standard di Ray e l'SDK Python si autenticano tramite l'endpoint protetto del cluster utilizzando lo schema di indirizzi registrato dal pacchetto. sagemaker_ray:// Puoi inviare e tracciare i lavori da un laptop, una CI/CD pipeline o qualsiasi ambiente con AWS credenziali, senza kubectl port-forward o senza alcun percorso di rete diretto verso il cluster. Il pacchetto è preinstallato nelle SageMaker immagini di distribuzione.

Prerequisiti

  • Un endpoint autenticato nel cluster. Per ulteriori informazioni, consulta Installazione di HyperPod Ray Endpoint Operator.

  • Il pacchetto del toolkit, se non sei in un' SageMaker immagine di distribuzione:

    pip install toolkit-for-ray-on-sagemaker-ai

Indirizza il cluster

Il pacchetto aggiunge uno schema di sagemaker_ray indirizzi. Lo si passa a qualsiasi ray job comando con--address:

sagemaker_ray://my-cluster/my-namespace

Invia ed elenca i lavori dalla CLI

Elenca i lavori su un cluster, quindi invia una directory di lavoro con uno script di immissione.

ray job list --address sagemaker_ray://my-cluster/my-namespace ray job submit \ --address sagemaker_ray://my-cluster/my-namespace \ --working-dir ./src \ -- python my-script.py

L'endpoint autentica la richiesta in base alla tua identità, in modo da raggiungere il cluster senza una VPN o una porta inoltrata.

Invia da Python

Per inviare da Python, usa lo standard di Ray JobSubmissionClient con l'sagemaker_rayindirizzo. Quando il toolkit-for-ray-on-sagemaker-ai pacchetto è installato, registra lo schema degli indirizzi, quindi non sono necessarie altre modifiche.

from ray.job_submission import JobSubmissionClient client = JobSubmissionClient("sagemaker_ray://my-cluster/my-namespace") job_id = client.submit_job( entrypoint="python my-script.py", runtime_env={"working_dir": "./src"}, ) print(job_id)

Monitoraggio di un lavoro inviato

Lo stesso indirizzo gestisce il lavoro, quindi un lavoro inviato in remoto viene tracciato in remoto. Ogni comando utilizza l'ID del lavoro restituito al momento dell'invio.

ray job status my-job-id --address sagemaker_ray://my-cluster/my-namespace ray job logs my-job-id --address sagemaker_ray://my-cluster/my-namespace --follow ray job stop my-job-id --address sagemaker_ray://my-cluster/my-namespace

ray job logs --followtrasmette l'output fino al termine del processo. ray job stoprichiede una sosta graziosa.

La vista Ray Dashboard Jobs elenca tutti i job del cluster con il relativo stato, ora di inizio e log. In Studio, la scheda Attività elenca i carichi di lavoro di Ray, inclusi i lavori inviati. Per ulteriori informazioni, consulta Gestione dei carichi di lavoro di Ray con Studio.

Per il set completo di comandi e opzioni della CLI di Ray Jobs, vedete Quickstart using the Ray Jobs CLI nella documentazione di Ray Jobs.