Generative KI in SageMaker-Notebook-Umgebungen - Amazon SageMaker AI

Generative KI in SageMaker-Notebook-Umgebungen

Jupyter AI ist eine Open-Source-Erweiterung von JupyterLab, die Funktionen der generativen KI in Jupyter Notebooks integriert. Über die Chat-Oberfläche von Jupyter AI und Magic-Befehle können Benutzer mit Code experimentieren, der aus Anweisungen in natürlicher Sprache generiert wurde, vorhandenen Code erklären, Fragen zu ihren lokalen Dateien stellen, ganze Notebooks erstellen und vieles mehr. Die Erweiterung verbindet Jupyter-Notebooks mit großen Sprachmodellen (LLMs), mit denen Benutzer Text, Code oder Bilder generieren und Fragen zu ihren eigenen Daten stellen können. Jupyter AI unterstützt Anbieter generativer Modelle wie AI21, Anthropic AWS (JumpStart und Amazon Bedrock), Cohere und OpenAI.

Sie können Amazon Q Developer auch als sofort einsatzbereite Lösung verwenden. Anstatt manuell eine Verbindung zu einem Modell einrichten zu müssen, können Sie Amazon Q Developer mit minimaler Konfiguration verwenden. Wenn Sie Amazon Q Developer aktivieren, wird es zum Standardlösungsanbieter in Jupyter AI. Weitere Informationen über die Verwendung von Amazon Q Developer finden Sie unter SageMaker JupyterLab.

Das Erweiterungspaket ist in Amazon SageMaker Distribution Version 1.2 und höher enthalten. Amazon SageMaker Distribution ist eine Docker-Umgebung für Datenwissenschaft und wissenschaftliches Rechnen, die als Standard-Image von JupyterLab-Notebook-Instances verwendet wird. Benutzer verschiedener IPython-Umgebungen können Jupyter AI manuell installieren.

In diesem Abschnitt geben wir einen Überblick über die Funktionen von Jupyter AI und zeigen, wie Sie Modelle von JumpStart oder Amazon Bedrock aus JupyterLab- oder Studio-Classic-Notebooks konfigurieren können. Ausführlichere Informationen zum Jupyter-AI-Projekt finden Sie in der zugehörigen Dokumentation. Alternativ finden Sie im Blogbeitrag Generative KI in Jupyter einen Überblick und Beispiele der wichtigsten Funktionen von Jupyter AI.

Stellen Sie sicher, dass die folgenden Voraussetzungen erfüllt sind, bevor Sie Jupyter AI verwenden und mit Ihren LLMs interagieren:

  • Für Modelle, die von gehostet werdenAWS, sollten Sie den ARN Ihres SageMaker AI-Endpunkts haben oder Zugriff auf Amazon Bedrock haben. Bei anderen Modellanbietern sollten Sie über den API-Schlüssel verfügen, der zur Authentifizierung und Autorisierung von Anfragen an Ihr Modell verwendet wird. Jupyter AI unterstützt eine Vielzahl von Modellanbietern und Sprachmodellen. Informieren Sie sich in der Liste der unterstützten Modelle über die neuesten verfügbaren Modelle. Informationen zur Bereitstellung eines Modells in JumpStart finden Sie unter Bereitstellen eines Modells in der JumpStart-Dokumentation. Sie müssen Zugriff auf Amazon Bedrock beantragen, um es als Ihren Modellanbieter verwenden zu können.

  • Stellen Sie sicher, dass Jupyter-AI-Bibliotheken in Ihrer Umgebung vorhanden sind. Falls nicht, installieren Sie das erforderliche Paket, indem Sie den Anweisungen unter folgen. Installation von Jupyter AI

  • Machen Sie sich mit den Funktionen von Jupyter AI in Greifen Sie auf die Funktionen von Jupyter AI zu vertraut.

  • Konfigurieren Sie die Zielmodelle, die Sie verwenden möchten, indem Sie den Anweisungen unter folgen. Konfigurieren Sie Ihren Modellanbieter

Nachdem Sie die erforderlichen Schritte abgeschlossen haben, können Sie mit fortfahrenVerwenden Sie Jupyter AI in JupyterLab oder Studio Classic.

Themen