Démarrage rapide : création d'un domaine sandbox SageMaker AI pour lancer des clusters Amazon EMR dans Studio

Suivez ces étapes pour configurer un domaine SageMaker AI afin de lancer des clusters Amazon EMR depuis Studio.

1. Téléchargez le fichier brut de ce CloudFormationmodèle depuis le sagemaker-studio-emr GitHub référentiel.

2. Accédez à la CloudFormation console : https://console.aws.amazon.com/cloudformation

3. Choisissez Créer une pile et sélectionnez Avec de nouvelles ressources (standard) dans le menu déroulant.

4. À l’Étape 1 :

   1. Dans la section Préparer le modèle, sélectionnez Choisir un modèle existant.

   2. Dans la section Spécifier un modèle, sélectionnez Charger un modèle de fichier.

   3. Téléchargez le CloudFormation modèle téléchargé et choisissez Next.

5. À l'étape 2, entrez un nom de pile SageMakerDomainName, puis choisissez Next.

6. À l’Étape 3, conservez toutes les valeurs par défaut et choisissez Suivant.

7. À l’Étape 4, cochez la case pour accuser réception de la création de ressources et choisissez Créer une pile. Cela crée un domaine Studio dans votre compte et dans votre région.

1. Accédez à la console SageMaker AI https://console.aws.amazon.com/sagemaker/et choisissez Domaines dans le menu de gauche.

2. Cliquez sur votre nom de domaine Generative AIDomain pour ouvrir la page des détails du domaine.

3. Lancez Studio depuis le profil utilisateur genai-user.

4. Dans le volet de navigation de gauche, accédez à Données puis à Clusters Amazon EMR.

5. Sur la page Clusters Amazon EMR, choisissez Créer. Sélectionnez le modèle SageMaker Studio Domain No Auth EMR créé par CloudFormation la pile, puis choisissez Next.

6. Entrez un nom pour le nouveau cluster Amazon EMR. Mettez éventuellement à jour d’autres paramètres tels que le type d’instance des nœuds principaux, le délai d’inactivité ou le nombre de nœuds principaux.

7. Choisissez Créer une ressource pour lancer le nouveau cluster Amazon EMR.

   Après avoir créé le cluster Amazon EMR, suivez le statut sur la page Clusters EMR. Lorsque le statut passe à Running/Waiting, votre cluster Amazon EMR est prêt à être utilisé dans Studio.

1. Lancement JupyterLab

   Depuis Studio, lancez l' JupyterLab application.

2. Création d’un espace privé

   Si vous n'avez pas créé d'espace pour votre JupyterLab application, choisissez Créer un JupyterLab espace. Entrez un nom pour cet espace et conservez l’espace comme Privé. Laissez tous les autres paramètres à leurs valeurs par défaut, puis choisissez Créer un espace.

   Sinon, exécutez votre JupyterLab espace pour lancer une JupyterLab application.

3. Déploiement de votre LLM et de vos modèles de vectorisation à des fins d’inférence

   • Dans le menu supérieur, choisissez Fichier, Nouveau, puis Terminal.

   • Dans le terminal, exécutez la commande suivante.

     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-00-setup/Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb
     mkdir AWSGuides
     cd AWSGuides
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/AmazonSageMakerDeveloperGuide.pdf
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/EC2DeveloperGuide.pdf
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/S3DeveloperGuide.pdf

     Cela permet d’extraire le bloc-notes Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb dans votre répertoire local et de télécharger trois fichiers PDF dans un dossier AWSGuides local.

   • Ouvrez lab-00-setup/Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb, conservez le noyau Python 3 (ipykernel) et exécutez chaque cellule.

     Avertissement

     Dans la section Contrat de licence Llama 2, veillez à accepter le CLUF Llama2 avant de continuer.

     Le bloc-notes déploie deux modèles, Llama 2 et all-MiniLM-L6-v2 Models, sur ml.g5.2xlarge pour inférence.

     Le déploiement des modèles et la création des points de terminaison peuvent prendre un certain temps.

4. Ouverture de votre bloc-notes principal

   Dans JupyterLab, ouvrez votre terminal et exécutez la commande suivante.

   cd ..
   wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb
   

   Vous devriez voir le Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb bloc-notes supplémentaire dans le panneau de gauche de JupyterLab.

5. Choix d’un noyau PySpark

   Ouvrez votre bloc-notes Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb et assurez-vous d’utiliser le noyau SparkMagic PySpark. Vous pouvez changer de noyau en haut à droite de votre bloc-notes. Choisissez le nom actuel du noyau pour ouvrir une fenêtre modale de sélection de noyau, puis choisissez SparkMagic PySpark.

6. Connexion de votre bloc-notes au cluster

   1. En haut à droite de votre bloc-notes, choisissez Cluster. Cette action ouvre une fenêtre modale qui répertorie tous les clusters en cours d’exécution auxquels vous avez l’autorisation d’accéder.

   2. Sélectionnez votre cluster, puis choisissez Se connecter. Une nouvelle fenêtre modale de sélection du type d’informations d’identification s’ouvre.

   3. Choisissez Aucune information d’identification, puis Se connecter.

      

   4. Une cellule de bloc-notes est remplie et exécutée automatiquement. La cellule de bloc-notes charge l’extension sagemaker_studio_analytics_extension.magics, qui fournit des fonctionnalités permettant de se connecter au cluster Amazon EMR. Elle utilise ensuite la commande magique %sm_analytics pour établir la connexion à votre cluster Amazon EMR et à l’application Spark.

      Note

      Assurez-vous que le type d’authentification de la chaîne de connexion à votre cluster Amazon EMR est défini sur None. Ceci est illustré par la valeur --auth-type None dans l’exemple suivant. Vous pouvez modifier le champ, si nécessaire.

      %load_ext sagemaker_studio_analytics_extension.magics
      %sm_analytics emr connect --verify-certificate False --cluster-id your-cluster-id --auth-type None --language python 

   5. Une fois que vous avez établi la connexion, le message de sortie de votre cellule de connexion devrait afficher vos informations SparkSession, notamment l’identifiant de votre cluster, l’identifiant de l’application YARN et un lien vers l’interface utilisateur Spark pour surveiller vos tâches Spark.

Pour supprimer votre CloudFormation pile lorsque vous en avez terminé

1. Accédez à la CloudFormation console : https://console.aws.amazon.com/cloudformation

2. Sélectionnez la pile que vous voulez supprimer. Vous pouvez la rechercher par son nom ou la trouver dans la liste des piles.

3. Cliquez sur le bouton Supprimer pour finaliser la suppression de la pile, puis sur Supprimer à nouveau pour confirmer que toutes les ressources créées par la pile seront supprimées.

   Attendez que la suppression de la pile se termine. Cela peut prendre quelques minutes. CloudFormation nettoie automatiquement toutes les ressources définies dans le modèle de pile.

4. Vérifiez que toutes les ressources créées par la pile ont été supprimées. Par exemple, vérifiez s’il n’y a pas de cluster Amazon EMR restant.

Pour supprimer les points de terminaison d’API d’un modèle

1. Accédez à la console SageMaker AI : https://console.aws.amazon.com/sagemaker/.

2. Dans le volet de navigation, choisissez Inférence, puis Points de terminaison.

3. Sélectionnez le point de terminaison hf-allminil6v2-embedding-ep, puis choisissez Supprimer dans la liste déroulante Actions. Répétez l’étape pour le point de terminaison meta-llama2-7b-chat-tg-ep.