AI generativa in ambienti notebook SageMaker - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

AI generativa in ambienti notebook SageMaker

Jupyter AI è un'estensione open source dell' JupyterLab integrazione di funzionalità di intelligenza artificiale generativa nei notebook Jupyter. Tramite l’interfaccia della chat di Jupyter AI e i comandi magic, gli utenti conducono esperimenti sul codice generato da istruzioni in linguaggio naturale, spiegano il codice esistente, pongono domande sui file locali, generano interi notebook e altro ancora. L'estensione collega i notebook Jupyter con modelli linguistici di grandi dimensioni (LLMs) che gli utenti possono utilizzare per generare testo, codice o immagini e per porre domande sui propri dati. Jupyter AI supporta fornitori di modelli generativi come AI21 Anthropic (AWSe JumpStart Amazon Bedrock), Cohere e OpenAI.

Puoi utilizzare Amazon Q Developer anche come soluzione pronta all’uso. Invece di configurare manualmente una connessione in un modello, puoi iniziare a utilizzare Amazon Q Developer con una configurazione minima. Quando lo abiliti, Amazon Q Developer diventa il provider di soluzioni predefinito all’interno di Jupyter AI. Per ulteriori informazioni sull’utilizzo di Amazon Q Developer, consulta SageMaker JupyterLab.

Il pacchetto dell'estensione è incluso nella versione 1.2 e successive di Amazon SageMaker Distribution. Amazon SageMaker Distribution è un ambiente Docker per la scienza dei dati e il calcolo scientifico utilizzato come immagine predefinita delle istanze di JupyterLab notebook. Gli utenti di IPython ambienti diversi possono installare Jupyter AI manualmente.

In questa sezione, forniamo una panoramica delle funzionalità di intelligenza artificiale di Jupyter e dimostriamo come configurare i modelli forniti da JumpStart Amazon Bedrock dai JupyterLabnostri notebook Studio Classic. Per informazioni approfondite sul progetto Jupyter AI, consulta la relativa documentazione. In alternativa, puoi fare riferimento al post di blog Generative AI in Jupyter per una panoramica ed esempi delle principali funzionalità di Jupyter AI.

Prima di utilizzare Jupyter AI e interagire con il tuo, assicurati di soddisfare i seguenti prerequisiti: LLMs

  • Per i modelli ospitati daAWS, dovresti disporre dell'ARN del tuo endpoint SageMaker AI o avere accesso ad Amazon Bedrock. Per gli altri provider di modelli, devi disporre della chiave API utilizzata per autenticare e autorizzare le richieste nel modello. Jupyter AI supporta un’ampia gamma di provider di modelli e modelli linguistici, consulta l’elenco dei modelli supportati per aggiornamenti sugli ultimi modelli disponibili. Per informazioni su come implementare un modello in JumpStart, consulta Deploy a Model nella documentazione. JumpStart Devi richiedere l’accesso ad Amazon Bedrock per utilizzarlo come provider di modelli.

  • Assicurati che nel tuo ambiente siano presenti le librerie di Jupyter AI. In caso contrario, installa il pacchetto richiesto seguendo le istruzioni riportate in Installazione di Jupyter AI.

  • Acquisisci familiarità con le funzionalità di Jupyter AI in Accesso alle funzionalità di Jupyter AI.

  • Configura i modelli di destinazione da utilizzare seguendo le istruzioni riportate in Configurazione del provider di modelli.

Dopo aver completato le fasi preliminari, puoi procedere alla sezione Usa Jupyter AI nel nostro Studio Classic JupyterLab .

Argomenti