Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Ray on SageMaker HyperPod
Ray è un framework unificato open source per scalare le applicazioni AI e Python. Fornisce il livello di elaborazione per l'elaborazione parallela, quindi non è necessario essere esperti di sistemi distribuiti per eseguire il lavoro su un cluster. Ray Core distribuisce il lavoro e le librerie Ray AI coprono l'elaborazione dei dati, il training distribuito, l'ottimizzazione degli iperparametri, l'apprendimento per rinforzo e la gestione dei modelli. Per ulteriori informazioni, consulta la panoramica
Ray on SageMaker HyperPod esegue i carichi di lavoro Ray su HyperPod elaborazione orchestrata da Amazon EKS, utilizzando l'operatore open source. KubeRay Il codice Ray, le API Ray e le risorse personalizzate rimangono invariati KubeRay.
Rimanendo completamente in linea con l'open source Ray, si HyperPod aggiungono funzionalità aggiuntive anziché sostituirne alcuna parte:
-
Un'interfaccia web creata appositamente per gestire i carichi di lavoro Ray in Amazon SageMaker Studio che riunisce tutte le funzionalità elencate di seguito in un'unica interfaccia.
-
Sviluppo interattivo, in cui un JupyterLab editor di codice o una sessione IDE remota si collega a un cluster Ray e si connette.
ray.init() -
Accesso sicuro a Ray Dashboard tramite un collegamento al browser autenticato, senza.
kubectl port-forward -
Una cache KV gestita su più livelli che riduce i tempi di installazione del primo token, l'implementazione del JumpStart modello e la scalabilità automatica gestita da Karpenter per Ray Serve.
-
Allocazioni di calcolo del team, pianificazione basata sulle priorità e prestito e prestito del calcolo inattivo tramite Task Governance. HyperPod
-
Ray metrics e dashboard Grafana forniti dal componente aggiuntivo Observability. HyperPod
-
Formazione resiliente con ripristino automatico dei nodi, rilevamento dei lavori interrotti e checkpoint su più livelli a livello di infrastruttura.
Puoi adottare tutto questo o installare solo le funzionalità che ti mancano. Per ulteriori informazioni sui due approcci, vedereNozioni di base.
Prerequisiti
Ray on HyperPod richiede un HyperPod cluster orchestrato da Amazon EKS. Per ulteriori informazioni sulla creazione di uno, consulta. Creazione di un SageMaker HyperPod cluster con l'orchestrazione di Amazon EKS
Regioni
Ray on HyperPod è disponibile Regioni AWS ovunque SageMaker HyperPod supporta l'orchestrazione di Amazon EKS. Per l'elenco delle regioni, consulta. Regioni AWS supportato da SageMaker HyperPod
Argomenti
