View a markdown version of this page

Verwaltung von Ray-Workloads mit Studio - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwaltung von Ray-Workloads mit Studio

Amazon SageMaker Studio verwaltet Ray-Workloads über eine Weboberfläche. Öffnen Sie Ihren Cluster in der HyperPod Konsole und wählen Sie dann den Tab Aufgaben. Die Registerkarte listet die Ray-Ressourcen in den Namespaces auf, auf die Sie Zugriff haben, und der Task-Typ-Filter wechselt zwischen RayClusterRayJob, RayCronJob und. RayService

Studio liest und schreibt dieselben KubeRay benutzerdefinierten Ressourcen, die der Operator abgleicht. Eine Ressource, die Sie in Studio erstellen, ist identisch mit einer Ressource, mit kubectl der Sie sich bewerben. Sie können mit derselben Arbeitslast zwischen den beiden Oberflächen wechseln.

Bevor jemand die Registerkarte „Aufgaben“ verwendet, konfigurieren Sie eine SageMaker AI-Domäne und gewähren Sie ihr Zugriff auf Ihren Cluster. Weitere Informationen finden Sie unter Studio für Ray einrichten.

Einen Cluster erstellen

Wählen Sie Create Ray Cluster und füllen Sie entweder das Formular aus oder fügen Sie ein RayCluster Manifest in die YAML-Ansicht ein. Das Formular deckt die allgemeinen Felder ab. Die YAML-Ansicht akzeptiert jedes Feld, das der KubeRay Operator unterstützt. Verwenden Sie es, wenn Sie ein Feld benötigen, das das Formular nicht verfügbar macht.

Der Namespace-Selektor im Formular zeigt die Rechenzuweisung und die aktuelle Auslastung für jeden Namespace, auf den Sie Zugriff haben. Verwenden Sie ihn, um den Cluster vor dem Absenden anhand der tatsächlich freien Kapazität zu dimensionieren, anstatt im Nachhinein herauszufinden, dass der Cluster auf ein Kontingent wartet. Dies ist vor allem in einem von HyperPod Task Governance verwalteten Namespace wichtig, in dem der Cluster erst zugelassen wird, wenn das Kontingent für seine gesamte deklarierte Größe vorhanden ist. Weitere Informationen finden Sie unter Kontingent- und Planungsverhalten für Ray-Workloads.

Ordnen Sie dem Cluster einen Space zu, wenn Sie interaktiv gegen ihn entwickeln möchten. Ein Space ist eine JupyterLab oder Code-Editor-Umgebung in Amazon SageMaker Studio. Code, den Sie dort, in einem Notizbuch oder einem Terminal, ausführen, erreicht den Cluster überray.init().

Ein Space hat seine eigene Ray-Version, die auf dem SageMaker AI Distribution-Image basiert, auf dem er ausgeführt wird. Ordnen Sie diese Version der Ray-Version des Clusters zu. Eine Nichtübereinstimmung führt zu Laufzeitfehlern, die schwer zu diagnostizieren sind. Weitere Informationen finden Sie unter Raycluster an Space anhängen.

Aktionen auf einem Cluster

Wählen Sie Aktionen in einer Zeile aus, um auf diese Ressource zuzugreifen, ohne Studio zu verlassen.

Action Was macht es
Interaktive Entwicklung Öffnet einen Bereich JupyterLab oder den Code-Editor, der an den Cluster angehängt ist, sodass ray.init() in diesem Bereich eine Verbindung zum Cluster hergestellt wird. Erfordert das SageMaker AI Spaces-Add-on. Weitere Informationen finden Sie unter Raycluster an Space anhängen.
Job einreichen Sendet einen Job an den laufenden Cluster.
Öffnen Sie das Ray-Dashboard Öffnet das Ray-Dashboard für den Cluster. Erfordert den Ray Endpoint Operator. Weitere Informationen finden Sie unter Den HyperPod Ray Endpoint Operator installieren.
Öffnen Sie Grafana Öffnet die Grafana-Dashboards für den Cluster. Erfordert das Observability-Add-on. Weitere Informationen finden Sie unter Erfassung von Ray-Metriken einrichten.
Ray-Cluster bearbeiten Ändert den Cluster, einschließlich der Anzahl der Worker-Replikate.
Ray-Cluster aussetzen Stoppt die Pods des Clusters und behält die Ressource bei. Gibt die Berechnung frei.
Startet den Ray-Cluster Startet die Pods eines unterbrochenen Clusters mit der vorhandenen Konfiguration neu. Verfügbar, wenn der Cluster angehalten ist.
Ray-Cluster löschen Löscht den Cluster und seine Pods.

Details und Ereignisse anzeigen

Wählen Sie einen Ressourcennamen, um sie zu öffnen. Auf der Registerkarte Ereignisse werden die Pods des Ray-Clusters zusammen mit ihren Kubernetes-Ereignissen aufgeführt. Fangen Sie dort an, wenn ein Cluster keinen Betriebszustand erreicht. Es hilft auch, wenn ein Pod unerwartet neu gestartet wird oder ein Job aus einem Grund fehlschlägt, der in den Protokollen nicht erklärt wird. In den Ereignissen werden der ausfallende Pod und der Grund genannt, z. B. ein Fehler beim Image-Pull oder unzureichende zuweisbare Kapazität. Weitere Informationen finden Sie unter Problembehebung bei Ray on HyperPod.

Um die Auslastung des Clusters zu sehen, wählen Sie „Aktionen“ und dann „Grafana öffnen“. Informationen zum Kontingent-, Prioritäts- und Präemptionsverhalten in einem Namespace, der von HyperPod Task Governance verwaltet wird, finden Sie unter. Kontingent- und Planungsverhalten für Ray-Workloads