Installation von Jupyter AI - Amazon SageMaker AI

Installation von Jupyter AI

Um Jupyter AI verwenden zu können, müssen Sie zuerst das Jupyter-AI-Paket installieren. Benutzern von Amazon SageMaker AI Distribution empfehlen wir, das SageMaker Distribution-Image Version 1.2 oder höher auszuwählen. Es ist keine weitere Installation erforderlich. Benutzer von JupyterLab in Studio können bei der Erstellung eines Bereichs die Version ihrer Amazon SageMaker SageMaker-Distribution auswählen.

Für Benutzer anderer IPython-Umgebungen hängt die empfohlene Version des Jupyter-AI-Pakets von der verwendeten Version von JupyterLab ab.

Die Jupyter AI-Distribution besteht aus zwei Paketen.

  • jupyter_ai: Dieses Paket bietet eine JupyterLab-Erweiterung und eine native Chat-Benutzerschnittstelle (UI). Es fungiert als Konversationsassistent und verwendet das große Sprachmodell Ihrer Wahl.

  • jupyter_ai_magics: Dieses Paket enthält die Befehle IPython %%ai und %ai Magic, mit denen Sie ein Large Language Model (LLM) von Ihren Notebookzellen aus aufrufen können.

Anmerkung

Durch die Installation wird auch installiert. jupyter_ai jupyter_ai_magics Sie können jedoch jupyter_ai_magics unabhängig ohne JupyterLab oder installieren. jupyter_ai Die magischen Befehle %ai funktionieren in jeder %%ai IPython-Kernel-Umgebung. Wenn Sie nur installierenjupyter_ai_magics, können Sie die Chat-Benutzeroberfläche nicht verwenden.

Benutzern von JupyterLab 3, insbesondere Studio Classic-Benutzern, empfehlen wir die Installation von jupyter-ai Version 1.5.x oder einer späteren 1.x-Version. Wir empfehlen jedoch dringend, Jupyter AI mit JupyterLab 4 zu verwenden. Die mit JupyterLab 3 kompatible jupyter-ai Version ermöglicht es Benutzern möglicherweise nicht, zusätzliche Modellparameter wie Temperatur, Top-K- und Top-P-Sampling, maximale Tokens oder maximale Länge oder Benutzerakzeptanzlizenzvereinbarungen festzulegen.

Für Benutzer von JupyterLab 4-Umgebungen, die SageMaker Distribution nicht verwenden, empfehlen wir die Installation von Version 2.5.x oder einer späteren jupyter-ai 2.x-Version.

Die Installationsanweisungen finden Sie im Abschnitt Installation der Jupyter AI-Dokumentation.