View a markdown version of this page

Velocizza l'avvio dei container con SOCI - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Velocizza l'avvio dei container con SOCI

L'indicizzazione SOCI (Seekable Open Container Initiative) consente il caricamento lento di immagini personalizzate dei contenitori in Amazon Unified Studio. Amazon Studio SageMaker SageMaker SOCI riduce significativamente i tempi di avvio di circa il 30-70% per i contenitori personalizzati. Bring Your Own Image (BYOI) Il miglioramento della latenza varia in base alle dimensioni dell'immagine, alla disponibilità dell'istanza di hosting e ad altre dipendenze delle applicazioni. SOCI crea un indice che consente l'avvio dei contenitori con solo i componenti necessari, recuperando file aggiuntivi su richiesta, se necessario.

SOCI risolve i tempi lenti di avvio dei container, che interrompono i flussi di lavoro di sviluppo iterativi con machine learning (ML), per immagini personalizzate. Man mano che i carichi di lavoro ML diventano più complessi, le immagini dei container sono diventate più grandi, creando ritardi di avvio che ostacolano i cicli di sviluppo.

Vantaggi principali

  • Cicli di iterazione più rapidi: riduci l'avvio del contenitore, a seconda dei tipi di immagine e istanza

  • Ottimizzazione universale: estendi i vantaggi prestazionali a tutti i contenitori BYOI personalizzati in Studio

Come funziona l'indicizzazione SOCI

SOCI crea un indice di metadati specializzato che mappa la struttura interna dei file dell'immagine del contenitore. Questo indice consente l'accesso a singoli file senza scaricare l'intera immagine. L'indice SOCI viene archiviato come elemento conforme a OCI (Open Container Initiative) in Amazon ECR e collegato all'immagine del contenitore originale, preservando i digest delle immagini e la validità della firma.

Quando avvii un contenitore in Studio, il sistema utilizza l'indice SOCI per identificare e scaricare solo i file essenziali necessari per l'avvio. I componenti aggiuntivi vengono recuperati in parallelo quando l'applicazione li richiede.

Componenti dell'architettura

  • Immagine originale del contenitore: il contenitore di base archiviato in Amazon ECR

  • Artefatto dell'indice SOCI: metadati che mappano la struttura dei file dell'immagine

  • Manifesto OCI Image Index: collega l'immagine originale all'indice SOCI

  • Runtime del contenitore Finch: consente l'integrazione del lazy loading con Studio

Strumenti supportati

Strumento Integrazione
nerdctl Richiede la configurazione dei contenitori
CLI Finch Supporto SOCI nativo
Docker + SOCI CLI Sono necessari strumenti aggiuntivi