View a markdown version of this page

Ray sulle domande frequenti HyperPod - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Ray sulle domande frequenti HyperPod

HyperPod Modifica Ray o? KubeRay

HyperPod esegue l'upstream, open source Ray e KubeRay senza modifiche. Il codice Ray, le API Ray e le risorseRayCluster, RayJobRayCronJob, e RayService personalizzate si comportano come nell'open source. HyperPod aggiunge funzionalità a Ray, come un'esperienza Studio gestita, accesso sicuro alla dashboard, osservabilità e resilienza.

Posso mantenere la mia installazione esistente KubeRay ?

Puoi mantenere l' KubeRay operatore che hai già utilizzato. HyperPod Le funzionalità vengono installate insieme ad esso e i manifesti che hai già applicato continuano a funzionare. Se il cluster non ha ancora un KubeRay operatore, installalo come descritto inInstallazione KubeRay su HyperPod Amazon EKS.

Ho bisogno di SageMaker Studio?

Amazon SageMaker Studio è richiesto solo per l'esperienza gestita, in cui i data scientist creano e gestiscono cluster Ray senza conoscere Kubernetes. Su una piattaforma Ray esistentekubectl, utilizzi Helm e la libreria del toolkit e niente richiede Studio. Per ulteriori informazioni, consulta Nozioni di base.

Posso usare i miei Prometheus e Grafana?

Puoi tenere i tuoi Prometheus e Grafana. L'add-on HyperPod Observability è un'opzione che viene fornita configurata, ma puoi invece raccogliere le metriche di Ray con il tuo stack. Per ulteriori informazioni, consulta Impostazione della raccolta di metriche Ray.

Come funziona la quota con un cluster Ray di lunga durata?

HyperPod La Task Governance tiene conto delle quote a RayCluster livello, quindi un cluster di lunga durata mantiene la sua piena capacità dichiarata per tutto il tempo in cui viene eseguito. Dimensiona un cluster persistente in base alla capacità che intendi riservare e utilizzalo RayJob per il lavoro che acquisisce e rilascia capacità per processo. Per ulteriori informazioni, consulta Coda con governance delle attività.

Cosa succede al mio Ray job quando un nodo GPU si guasta?

HyperPod rileva il guasto tramite controlli di integrità e riavvia o sostituisce il nodo e ripianifica i Ray KubeRay pod interessati. Il tuo lavoro riprende dall'ultimo checkpoint, quindi scrivi dei checkpoint per recuperare il lavoro in corso. Per ulteriori informazioni, consulta Ripristino automatico dei nodi con Ray.

Quali librerie Ray sono supportate?

HyperPod supporta le librerie Ray open source, tra cui Ray Core, Ray Train, Ray Data e Ray Serve, perché esegue Ray senza modifiche. Abbina spec.rayVersion alla versione Ray nell'immagine del contenitore. Per le API della libreria, consulta la documentazione di Ray sul sito Web di Ray.

Posso adottare una funzionalità senza le altre?

Ogni HyperPod funzionalità si installa indipendentemente come componente aggiuntivo o pacchetto Python, quindi puoi adottarne una e smettere. Un team con una propria piattaforma Ray può aggiungere osservabilità o accesso autenticato al dashboard senza modificare il resto. Per l'elenco completo e le dipendenze, vedi. Nozioni di base