Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Senden von Aufträgen aus der Ferne mit der Toolkit-Bibliothek

Wenn das toolkit-for-ray-on-sagemaker-ai Paket installiert ist, authentifizieren sich Rays Standard-Jobs-CLI und das Python-SDK über den gesicherten Endpunkt des Clusters unter Verwendung des Adressschemas, das das Paket registriert. sagemaker_ray:// Sie senden und verfolgen Jobs von einem Laptop, einer CI/CD Pipeline oder einer beliebigen Umgebung mit AWS Anmeldeinformationen aus, ohne kubectl port-forward und ohne direkten Netzwerkpfad zum Cluster. Das Paket ist in SageMaker Distribution Images vorinstalliert.

Voraussetzungen

Adressieren Sie den Cluster

Das Paket fügt ein sagemaker_ray Adressschema hinzu. Sie übergeben es an einen beliebigen ray job Befehl mit--address:

sagemaker_ray://my-cluster/my-namespace

Jobs über die CLI senden und auflisten

Listen Sie die Jobs in einem Cluster auf und senden Sie dann ein Arbeitsverzeichnis mit einem Eingabeskript.

ray job list --address sagemaker_ray://my-cluster/my-namespace

ray job submit \
    --address sagemaker_ray://my-cluster/my-namespace \
    --working-dir ./src \
    -- python my-script.py

Der Endpunkt authentifiziert die Anfrage anhand Ihrer Identität, sodass Sie den Cluster ohne VPN oder weitergeleiteten Port erreichen.

Von Python aus einreichen

Um von Python aus zu senden, verwenden Sie Rays Standard JobSubmissionClient mit der sagemaker_ray Adresse. Wenn das toolkit-for-ray-on-sagemaker-ai Paket installiert ist, registriert es das Adressschema, sodass keine weitere Änderung erforderlich ist.

from ray.job_submission import JobSubmissionClient

client = JobSubmissionClient("sagemaker_ray://my-cluster/my-namespace")
job_id = client.submit_job(
    entrypoint="python my-script.py",
    runtime_env={"working_dir": "./src"},
)
print(job_id)

Einen übermittelten Job verfolgen

Der Auftrag wird von derselben Adresse verwaltet, sodass ein Auftrag, den Sie per Fernzugriff eingereicht haben, aus der Ferne nachverfolgt wird. Jeder Befehl verwendet die Job-ID, die bei der Einreichung zurückgegeben wurde.

ray job status my-job-id --address sagemaker_ray://my-cluster/my-namespace

ray job logs my-job-id --address sagemaker_ray://my-cluster/my-namespace --follow

ray job stop my-job-id --address sagemaker_ray://my-cluster/my-namespace

ray job logs --followstreamt die Ausgabe, bis der Job beendet ist. ray job stopfordert einen würdevollen Stopp an.

In der Ray Dashboard-Jobs-Ansicht werden alle Jobs auf dem Cluster mit Status, Startzeit und Protokollen aufgeführt. In Studio listet die Registerkarte „Aufgaben“ die Ray-Workloads einschließlich der übermittelten Jobs auf. Weitere Informationen finden Sie unter Verwaltung von Ray-Workloads mit Studio.

Den vollständigen Satz der Ray Jobs CLI-Befehle und -Optionen finden Sie unter Schnellstart mit der Ray Jobs CLI in der Ray-Dokumentation.