Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Invio di lavori in remoto con la libreria del toolkit
Quando il toolkit-for-ray-on-sagemaker-ai pacchetto è installato, la CLI Jobs standard di Ray e l'SDK Python si autenticano tramite l'endpoint protetto del cluster utilizzando lo schema di indirizzi registrato dal pacchetto. sagemaker_ray:// Puoi inviare e tracciare i lavori da un laptop, una CI/CD pipeline o qualsiasi ambiente con AWS credenziali, senza kubectl port-forward o senza alcun percorso di rete diretto verso il cluster. Il pacchetto è preinstallato nelle SageMaker immagini di distribuzione.
Prerequisiti
-
Un endpoint autenticato nel cluster. Per ulteriori informazioni, consulta Installazione di HyperPod Ray Endpoint Operator.
-
Il pacchetto del toolkit, se non sei in un' SageMaker immagine di distribuzione:
pip install toolkit-for-ray-on-sagemaker-ai
Indirizza il cluster
Il pacchetto aggiunge uno schema di sagemaker_ray indirizzi. Lo si passa a qualsiasi ray job comando con--address:
sagemaker_ray://my-cluster/my-namespace
Invia ed elenca i lavori dalla CLI
Elenca i lavori su un cluster, quindi invia una directory di lavoro con uno script di immissione.
ray job list --address sagemaker_ray://my-cluster/my-namespaceray job submit \ --address sagemaker_ray://my-cluster/my-namespace\ --working-dir ./src \ -- pythonmy-script.py
L'endpoint autentica la richiesta in base alla tua identità, in modo da raggiungere il cluster senza una VPN o una porta inoltrata.
Invia da Python
Per inviare da Python, usa lo standard di Ray JobSubmissionClient con l'sagemaker_rayindirizzo. Quando il toolkit-for-ray-on-sagemaker-ai pacchetto è installato, registra lo schema degli indirizzi, quindi non sono necessarie altre modifiche.
from ray.job_submission import JobSubmissionClient client = JobSubmissionClient("sagemaker_ray://my-cluster/my-namespace") job_id = client.submit_job( entrypoint="python my-script.py", runtime_env={"working_dir": "./src"}, ) print(job_id)
Monitoraggio di un lavoro inviato
Lo stesso indirizzo gestisce il lavoro, quindi un lavoro inviato in remoto viene tracciato in remoto. Ogni comando utilizza l'ID del lavoro restituito al momento dell'invio.
ray job statusmy-job-id--address sagemaker_ray://my-cluster/my-namespaceray job logsmy-job-id--address sagemaker_ray://my-cluster/my-namespace--follow ray job stopmy-job-id--address sagemaker_ray://my-cluster/my-namespace
ray job logs --followtrasmette l'output fino al termine del processo. ray job
stoprichiede una sosta graziosa.
La vista Ray Dashboard Jobs elenca tutti i job del cluster con il relativo stato, ora di inizio e log. In Studio, la scheda Attività elenca i carichi di lavoro di Ray, inclusi i lavori inviati. Per ulteriori informazioni, consulta Gestione dei carichi di lavoro di Ray con Studio.
Per il set completo di comandi e opzioni della CLI di Ray Jobs, vedete Quickstart using the Ray Jobs CLI