Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Accelera l'avvio dei container con SOCI
L'indicizzazione SOCI (Seekable Open Container Initiative) consente il caricamento lento di immagini di container personalizzate in Amazon Unified Studio. Amazon SageMaker Studio SageMaker SOCI riduce in modo significativo i tempi di avvio di circa il 30-70% per i contenitori personalizzati. Bring Your Own Image (BYOI) Il miglioramento della latenza varia a seconda delle dimensioni dell'immagine, della disponibilità dell'istanza di hosting e di altre dipendenze dell'applicazione. SOCI crea un indice che consente l'avvio dei contenitori solo con i componenti necessari, recuperando file aggiuntivi su richiesta, se necessario.
SOCI risolve i tempi lenti di avvio dei container, che interrompono i flussi di lavoro di sviluppo iterativo di machine learning (ML), per immagini personalizzate. Man mano che i carichi di lavoro ML diventano più complessi, le immagini dei container sono aumentate, creando ritardi all'avvio che ostacolano i cicli di sviluppo.
Argomenti
Vantaggi principali
-
Cicli di iterazione più rapidi: riduci l'avvio dei container, a seconda dei tipi di immagine e istanza
-
Ottimizzazione universale: estendi i vantaggi prestazionali a tutti i contenitori BYOI personalizzati in Studio
Come funziona l'indicizzazione SOCI
SOCI crea un indice di metadati specializzato che mappa la struttura dei file interni dell'immagine del contenitore. Questo indice consente l'accesso ai singoli file senza scaricare l'intera immagine. L'indice SOCI viene archiviato come elemento conforme a OCI (Open Container Initiative) in Amazon ECR e collegato all'immagine originale del contenitore, preservando i digest delle immagini e la validità della firma.
Quando avvii un contenitore in Studio, il sistema utilizza l'indice SOCI per identificare e scaricare solo i file essenziali necessari all'avvio. I componenti aggiuntivi vengono recuperati in parallelo quando l'applicazione li richiede.
Componenti dell'architettura
-
Immagine originale del contenitore: il tuo contenitore di base archiviato in Amazon ECR
-
Elemento dell'indice SOCI: metadati che mappano la struttura del file dell'immagine
-
Manifesto dell'indice di immagini OCI: collega l'immagine originale e l'indice SOCI
-
Finch Container Runtime: consente l'integrazione del lazy loading con Studio
Strumenti supportati
| Strumento | Integrazione |
|---|---|
| nerdctl | Richiede la configurazione containerd |
| CLI Finch | Supporto SOCI nativo |
| CLI Docker + SOCI | Sono necessari strumenti aggiuntivi |