Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Modellquellen und Lizenzvereinbarungen
Amazon SageMaker JumpStart bietet Zugriff auf Hunderte von öffentlich verfügbaren und proprietären Stiftungsmodellen von Drittanbietern und Partnern. Sie können die Auswahl des JumpStart Fundamentmodells direkt in der SageMaker AI-Konsole, Studio oder Studio Classic erkunden.
Lizenzen und Modellquellen
Amazon SageMaker JumpStart bietet Zugriff sowohl auf öffentlich verfügbare als auch auf firmeneigene Stiftungsmodelle. Grundlagenmodelle werden von externen Open-Source-Anbietern und proprietären Anbietern integriert und verwaltet. Daher werden sie unter verschiedenen Lizenzen veröffentlicht, die von der Modellquelle angegeben wurden. Achten Sie darauf, die Lizenz für jedes von Ihnen verwendete Grundlagenmodell zu überprüfen. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie den Inhalt herunterladen oder verwenden. Einige Beispiele für gängige Grundlagenmodell-Lizenzen:
-
Alexa Teacher Model
-
Apache 2.0
-
BigScience Lizenz für verantwortungsvolle KI v1.0
-
CreativeML Open RAIL++-M-Lizenz
Achten Sie auch bei allen proprietären Grundlagenmodellen darauf, die Nutzungsbedingungen und Nutzungsrichtlinien des Modellanbieters zu überprüfen und einzuhalten. Wenn Sie Fragen zu den Lizenzinformationen für ein bestimmtes proprietäres Modell haben, wenden Sie sich direkt an den Modellanbieter. Die Kontaktinformationen des Modellanbieters finden Sie auf der Registerkarte Support auf jeder Modellseite in AWS Marketplace.
Endbenutzer-Lizenzvereinbarungen
Einige JumpStart Foundation-Modelle erfordern vor der Verwendung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA).
EULA-Akzeptanz in Amazon Studio SageMaker
Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein Basismodell in Studio optimieren, bereitstellen oder evaluieren JumpStart können. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio finden Sie unter. Verwenden von Basismodellen in Studio
Wichtig
Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich auf die Verwendung der aktualisierten Studio-Erfahrung. Informationen zur Verwendung der Studio-Classic-Anwendung finden Sie unter Amazon SageMaker Studio Klassisch.
Einige JumpStart Basismodelle erfordern vor der Bereitstellung die Annahme einer Endbenutzer-Lizenzvereinbarung. Wenn dies auf das Basismodell zutrifft, das Sie verwenden möchten, zeigt Studio ein Fenster an, das den Inhalt der Endbenutzer-Lizenzvereinbarung enthält. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.
EULA-Akzeptanz in Amazon SageMaker Studio Classic
Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart Foundation-Modell bereitstellen oder ein JumpStart Foundation-Model-Notizbuch in Studio Classic öffnen. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio Classic finden Sie unterVerwenden Sie Fundamentmodelle in Amazon SageMaker Studio Classic.
Wichtig
Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich konkret auf die Verwendung der Studio-Classic-Anwendung. Informationen zur Verwendung der aktualisierten Studio-Konfiguration finden Sie unter Amazon SageMaker Studio.
Studio Classic wird weiterhin für bestehende Workloads beibehalten, ist aber nicht mehr für das Onboarding verfügbar. Sie können nur vorhandene Studio Classic-Anwendungen beenden oder löschen und keine neuen erstellen. Wir empfehlen Ihnen, Ihren Workload auf das neue Studio-Erlebnis zu migrieren.
Bei einigen JumpStart Basismodellen ist vor der Bereitstellung die Annahme einer Endbenutzer-Lizenzvereinbarung erforderlich. Wenn dies auf das Basismodell zutrifft, das Sie verwenden möchten, werden Sie von Studio Classic in einem Fenster mit dem Titel Endbenutzer-Lizenzvereinbarung (EULA) und Acceptable Use Policy (AUP) unten prüfen dazu aufgefordert, nachdem Sie entweder Bereitstellen oder Notebook öffnen ausgewählt haben. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.
Annahme der Endbenutzer-Lizenzvereinbarung mit dem SDK SageMaker Python
In den folgenden Abschnitten erfahren Sie, wie Sie bei der Bereitstellung oder Feinabstimmung eines JumpStart Modells mit dem SDK explizit die EULA-Akzeptanz deklarieren. SageMaker Python Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen mithilfe des SageMaker Python SDK finden Sie unter. Verwenden Sie Foundation-Modelle mit dem SDK SageMaker Python
Führen Sie Folgendes aus, bevor Sie beginnen:
-
Aktualisieren Sie auf die neueste Version des verwendeten Modells.
-
Installieren Sie die neueste Version des SageMaker Python SDK.
Wichtig
Um den folgenden Workflow verwenden zu können, muss Version 2.198.0
Akzeptanz der Endbenutzer-Lizenzvereinbarung bei der Bereitstellung eines Modells JumpStart
Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Bereitstellung Ihres Modells ausdrücklich die Zustimmung zur EULA erklären. JumpStart
from sagemaker.jumpstart.model import JumpStartModel model_id ="meta-textgeneration-llama-2-13b"my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)
Der accept_eula-Wert ist standardmäßig None und muss explizit als True neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartModel
Annahme der EULA bei der Feinabstimmung eines Modells JumpStart
Bei der Feinabstimmung von Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Ausführung der Methode für Ihren Kalkulator ausdrücklich die fit() Zustimmung zur Endbenutzer-Lizenzvereinbarung erklären. JumpStart Nach der Optimierung eines vortrainierten Modells werden die Gewichtungen des ursprünglichen Modells geändert. Wenn Sie das optimierte Modell später bereitstellen, müssen Sie daher keine EULA akzeptieren.
Anmerkung
Im folgenden Beispiel wird accept_eula=False festgelegt. Sie sollten den Wert manuell auf True ändern, um die EULA zu akzeptieren.
from sagemaker.jumpstart.estimator import JumpStartEstimator model_id ="meta-textgeneration-llama-2-13b"# Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id) estimator.fit(accept_eula=False, {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )
Der accept_eula-Wert ist standardmäßig None und muss innerhalb der fit()-Methode explizit als "true" neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartEstimator
Versionen des EULA Acceptance SageMaker Python SDK vor 2.198.0
Wichtig
Wenn Sie Versionen des SageMaker Python SDK vor 2.198.0Predictor Klasse verwenden, um eine Modell-EULA zu akzeptieren.
Nachdem Sie ein JumpStart Foundation-Modell mithilfe des SageMaker Python SDK programmgesteuert bereitgestellt haben, können Sie mit der Klasse Inferenz für Ihren bereitgestellten Endpunkt ausführen. SageMaker Predictor Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie in Ihrem Aufruf zur Predictor-Klasse ausdrücklich die Annahme der EULA erklären:
predictor.predict(payload, custom_attributes="accept_eula=true")
Der accept_eula-Wert ist standardmäßig false und muss explizit als true neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Der Predictor gibt einen Fehler zurück, wenn Sie versuchen, eine Inferenz auszuführen, wenn accept_eula auf false gesetzt ist. Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen mithilfe des SageMaker Python SDK finden Sie unter. Verwenden Sie Foundation-Modelle mit dem SDK SageMaker Python
Wichtig
Der Parameter custom_attributes akzeptiert Schlüssel-Wert-Paare im Format "key1=value1;key2=value2". Wenn Sie denselben Schlüssel mehrmals verwenden, verwendet der Inferenzserver den letzten Wert, der dem Schlüssel zugeordnet ist. Wenn Sie beispielsweise "accept_eula=false;accept_eula=true" an den Parameter custom_attributes übergeben, ordnet der Inferenzserver den Wert true dem Schlüssel accept_eula zu.