Funzionalità di Amazon SageMaker AI

È possibile eseguire ricette all’interno di Amazon SageMaker HyperPod o come job di addestramento SageMaker. Utilizza l’adattatore di addestramento HyperPod come framework per supporto nell’esecuzione di flussi di lavoro di addestramento end-to-end. L’adattatore di formazione è basato sul framework NVIDIA NeMo e sul pacchetto Neuronx Distributed Training.

In Amazon SageMaker Studio puoi avviare carichi di lavoro di machine learning sui cluster HyperPod e visualizzare le informazioni sui cluster HyperPod. La maggiore visibilità dei dettagli del cluster e delle metriche hardware può aiutare il team a identificare il candidato giusto per i carichi di lavoro di preaddestramento o fine-tuning.

La governance delle attività Amazon SageMaker HyperPod è un robusto sistema di gestione progettato per semplificare l’allocazione delle risorse e garantire un utilizzo efficiente delle risorse di calcolo tra team e progetti per i cluster Amazon EKS. La governance delle attività HyperPod fornisce anche una funzionalità di osservabilità per i cluster Amazon EKS, offrendo visibilità in tempo reale sulla capacità del cluster, sulla disponibilità e sull’utilizzo delle risorse di calcolo, sull’allocazione e sull’utilizzo dei team, nonché sulle informazioni relative ai tempi di esecuzione e di attesa delle attività.

Con Amazon SageMaker Partner AI Apps, gli utenti hanno accesso ad applicazioni di sviluppo di intelligenza artificiale (IA) generativa e machine learning (ML) create, pubblicate e distribuite da fornitori di applicazioni leader del settore. Le Partner AI Apps sono certificate per funzionare su SageMaker AI. Con Partner AI Apps, gli utenti possono accelerare e migliorare il modo in cui creano soluzioni basate su modelli di fondazione (FM) e modelli ML classici senza compromettere la sicurezza dei dati sensibili, che rimangono completamente all’interno della loro configurazione di sicurezza attendibile e non vengono mai condivisi con terze parti.

Puoi chattare con Amazon Q Developer in Amazon SageMaker Canvas utilizzando il linguaggio naturale per ottenere assistenza basata sull’IA generativa nella risoluzione dei problemi di machine learning. Puoi conversare con Q Developer per discutere le fasi di un flusso di lavoro di machine learning e sfruttare funzionalità di Canvas come la trasformazione dei dati, la creazione di modelli e l’implementazione.

I piani di addestramento Amazon SageMaker sono una funzionalità di prenotazione di calcolo progettata per carichi di lavoro di addestramento dei modelli di IA su larga scala in esecuzione su job di addestramento SageMaker e cluster HyperPod. Forniscono un accesso prevedibile a risorse di calcolo accelerate da GPU ad alta richiesta entro sequenze temporali specificate. È possibile specificare una sequenza temporale, la durata e il numero massimo di risorse di calcolo desiderati; i piani di addestramento di SageMaker gestiscono automaticamente la configurazione dell’infrastruttura, l’esecuzione dei carichi di lavoro e il ripristino in caso di guasto. Ciò consente di pianificare ed eseguire in modo efficiente progetti di IA cruciali con un modello di costo prevedibile.

Un servizio di machine learning automatico che offre alle persone senza esperienza di programmazione la possibilità di creare modelli e fare previsioni con essi.

Editor di codice estende Studio in modo da consentirti di scrivere, testare, eseguire il debug ed eseguire il codice di analisi e machine learning in un ambiente basato su Visual Studio Code - Open Source (“Code-OSS”).

Crea, addestra e distribuisci modelli di machine learning utilizzando dati geospaziali.

Amazon SageMaker HyperPod è una funzionalità di SageMaker AI che fornisce un ambiente di machine learning sempre attivo su cluster resilienti in cui è possibile eseguire qualsiasi carico di lavoro di machine learning per lo sviluppo di modelli di machine learning di grandi dimensioni, come i modelli linguistici di grandi dimensioni (LLM) e i modelli di diffusione.

JupyterLab in Studio migliora la latenza e l’affidabilità dei Notebook Studio

Studio è l’esperienza basata sul web più recente per l’esecuzione di flussi di lavoro ML. Studio offre una suite di IDE, tra cui Editor di codice, una nuova applicazione JupyterLab, RStudio e Studio Classic.

Un ambiente di machine learning integrato in cui è possibile creare, addestrare, distribuire e analizzare i modelli nella stessa applicazione.

Un servizio gratuito che consente ai clienti di accedere alle risorse di calcolo AWS in un ambiente basato su JupyterLab open source.

Un ambiente di sviluppo integrato per R, con una console, un editor di evidenziazione della sintassi che supporta l'esecuzione diretta del codice e strumenti per il plottaggio, la cronologia, il debug e la gestione dello spazio di lavoro.

Crea i flussi di lavoro necessari per la revisione umana delle previsioni di machine learning. Amazon A2I porta la revisione umana a tutti gli sviluppatori, rimuovendo il sollevamento pesante indifferenziato associato alla costruzione di sistemi di revisione umana o alla gestione di un gran numero di revisori umani.

Crea un processo AutoML per addestrare automaticamente un modello in Pipelines.

Gli utenti privi di competenze di machine learning possono creare rapidamente modelli di classificazione e regressione.

Preelabora set di dati, esegue l'inferenza quando non è necessario un endpoint persistente e associa i record di input alle inferenze per facilitare l'interpretazione dei risultati.

Migliora i modelli di machine learning grazie all'individuazione di potenziali distorsioni e alla spiegazione delle previsioni effettuate dai modelli stessi.

Uno spazio condiviso è costituito da un'applicazione JupyterServer condivisa e da una directory condivisa. Tutti i profili utente di un dominio Amazon SageMaker AI hanno accesso a tutti gli spazi condivisi del dominio.

Importa, analizza, prepara e personalizza i dati in SageMaker Studio. Puoi integrare Data Wrangler nei tuoi flussi di lavoro di machine learning per semplificare e ottimizzare la preelaborazione dei dati e la progettazione delle funzionalità utilizzando poca o nessuna codifica. Puoi anche aggiungere i tuoi script e trasformazioni Python per personalizzare il flusso di lavoro di preparazione dei dati.

Interagisci con i tuoi dati, ottenere visualizzazioni, esplorare informazioni utili e risolvere problemi di qualità dei dati.

Controlla i parametri e i dati di addestramento nel processo di addestramento. Rileva e avvisa automaticamente gli utenti di errori comuni, come i valori dei parametri che diventano troppo grandi o piccoli.

Ottimizza i modelli personalizzati per i dispositivi edge, crea e gestisci flotte ed esegui modelli con un runtime efficiente.

Gestione e monitoraggio degli esperimenti È possibile utilizzare i dati tracciati per ricostruire un esperimento, costruire in modo incrementale su esperimenti condotti da peer e tracciare il modello per verifiche di conformità e audit.

Un archivio centralizzato per le funzionalità e i metadati associati in modo che le funzionalità possano essere facilmente scoperte e riutilizzate. Puoi creare due tipi di archivi, un archivio online o uno offline. L'archivio online può essere utilizzato per casi d'uso di inferenza in tempo reale a bassa latenza, mentre l’archivio offline può essere utilizzato per l’inferenza di addestramento e batch.

Set di dati di addestramento di alta qualità utilizzando i worker e il machine learning per creare set di dati etichettati.

Una funzionalità di etichettatura dei dati chiavi in mano per creare set di dati di addestramento di alta qualità senza dover creare applicazioni di etichettatura e gestire autonomamente la forza lavoro addetta all'etichettatura.

Ottieni i suggerimenti sui tipi e sulle configurazioni delle istanze di inferenza (ad esempio numero di istanze, parametri dei container e ottimizzazioni dei modelli) per utilizzare i tuoi modelli e carichi di lavoro ML.

Valuta eventuali modifiche alla tua infrastruttura di model-service confrontandone le prestazioni con l'infrastruttura attualmente implementata.

Scopri le caratteristiche e le funzionalità di SageMaker AI attraverso soluzioni curate in 1 clic, notebook di esempio e modelli preaddestrati che puoi implementare. Puoi anche perfezionare i modelli e distribuirli.

Monitora il lineage dei flussi di lavoro di machine learning.

Crea e gestisci pipeline di machine learning integrate direttamente con i processi di SageMaker AI.

Documenta le informazioni sui tuoi modelli di machine learning in un unico posto per una governance e un reporting semplificati durante l'intero ciclo di vita del machine learning.

Una panoramica visiva predefinita di tutti i modelli del tuo account. Pannello di controllo dei modelli integra le informazioni di SageMaker Model Monitor, trasforma lavori, endpoint, tracciamento della linea e CloudWatch in modo da poter accedere a informazioni di alto livello sul modello e monitorare le prestazioni del modello in un'unica visualizzazione unificata.

Monitora e analizza i modelli in produzione (endpoint) per rilevare il drift dei dati e le deviazioni nella qualità del modello.

Controllo delle versioni, tracciamento degli artefatti e della lineage, flusso di lavoro di approvazione e supporto interaccount per l'implementazione dei modelli di machine learning.

Addestra i modelli di machine learning una volta, quindi li esegue a livello di cloud e di edge.

Esegui il tuo notebook SageMaker Studio come un lavoro pianificato non interattivo.

Analizza e preelabora i dati, affronta l'engineering delle funzionalità e valuta i modelli.

Crea soluzioni di ML complete con CI/CD utilizzando SageMaker Projects.

Massimizza le gratificazioni a lungo termine che un agente riceve come risultato delle sue operazioni.

Gli amministratori possono definire le autorizzazioni con privilegi minimi per le attività di machine learning comuni utilizzando ruoli IAM personalizzati e preconfigurati basati sulla persona.

Un'opzione di endpoint serverless per ospitare il tuo modello di machine learning. Dimensionamento automatico della capacità per soddisfare il traffico degli endpoint. Elimina la necessità di selezionare i tipi di istanza o gestire le policy di scalabilità su un endpoint.

Un'estensione Git per inserire l'URL di un repository Git, clonarlo nel tuo ambiente, inviare modifiche e visualizzare la cronologia dei commit.

La nuova generazione di notebook SageMaker che includono AWS IAM Identity Center (Centro identità IAM), tempi di avvio rapidi e condivisione con un solo clic.

Scopri, connettiti, crea, termina e gestisci facilmente i cluster Amazon EMR in configurazioni con account singolo e multiaccount direttamente da SageMaker Studio.

Addestra modelli di deep learning più velocemente su istanze di GPU scalabili gestite da SageMaker AI.