Modellquellen und Lizenzvereinbarungen

Amazon SageMaker JumpStart bietet Zugriff auf Hunderte von öffentlich verfügbaren und proprietären Grundlagenmodellen von Drittanbietern und Partnern. Sie können die Modellauswahl des JumpStart-Basismodells direkt in der SageMaker-AI-Konsole, in Studio oder in Studio Classic erkunden.

Lizenzen und Modellquellen

Amazon SageMaker JumpStart bietet Zugriff auf öffentlich verfügbare und proprietäre Grundlagenmodelle. Grundlagenmodelle werden von externen Open-Source-Anbietern und proprietären Anbietern integriert und verwaltet. Daher werden sie unter verschiedenen Lizenzen veröffentlicht, die von der Modellquelle angegeben wurden. Achten Sie darauf, die Lizenz für jedes von Ihnen verwendete Grundlagenmodell zu überprüfen. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie den Inhalt herunterladen oder verwenden. Einige Beispiele für gängige Grundlagenmodell-Lizenzen:

Achten Sie auch bei allen proprietären Grundlagenmodellen darauf, die Nutzungsbedingungen und Nutzungsrichtlinien des Modellanbieters zu überprüfen und einzuhalten. Wenn Sie Fragen zu den Lizenzinformationen für ein bestimmtes proprietäres Modell haben, wenden Sie sich direkt an den Modellanbieter. Die Kontaktinformationen des Modellanbieters finden Sie auf der Registerkarte Support auf jeder Modellseite in AWS Marketplace.

Endbenutzer-Lizenzvereinbarungen

Einige JumpStart-Basismodelle erfordern vor der Verwendung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA).

Annahme der EULA in Amazon SageMaker Studio

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart-Basismodell in Studio optimieren, bereitstellen oder auswerten. Informationen zu den ersten Schritten mit JumpStart-Grundlagenmodellen in Studio finden Sie unter Verwenden von Basismodellen in Studio.

Einige JumpStart-Grundlagenmodelle erfordern vor der Bereitstellung die Annahme einer Endbenutzer-Lizenzvereinbarung. Wenn dies auf das Basismodell zutrifft, das Sie verwenden möchten, zeigt Studio ein Fenster an, das den Inhalt der Endbenutzer-Lizenzvereinbarung enthält. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

Annahme der EULA in Amazon SageMaker Studio Classic

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart-Basismodell bereitstellen oder ein Notebook für ein JumpStart-Basismodell in Studio Classic öffnen. Informationen zu den ersten Schritten mit JumpStart-Basismodellen in Studio Classic finden Sie unter Verwenden von Basismodellen in Amazon SageMaker Studio Classic.

Einige JumpStart-Grundlagenmodelle erfordern vor der Bereitstellung die Annahme einer Endbenutzer-Lizenzvereinbarung. Wenn dies auf das Basismodell zutrifft, das Sie verwenden möchten, werden Sie von Studio Classic in einem Fenster mit dem Titel Endbenutzer-Lizenzvereinbarung (EULA) und Acceptable Use Policy (AUP) unten prüfen dazu aufgefordert, nachdem Sie entweder Bereitstellen oder Notebook öffnen ausgewählt haben. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

EULA-Annahme mit dem SageMaker Python SDK

In den folgenden Abschnitten erfahren Sie, wie Sie bei der Bereitstellung oder Optimierung eines JumpStart-Modells mit dem SageMaker Python SDK ausdrücklich die Annahme der EULA erklären. Weitere Informationen zu den ersten Schritten mit JumpStart-Basismodellen mit dem SageMaker Python SDK finden Sie unter Verwenden von Basismodellen mit dem SageMaker Python SDK.

Führen Sie Folgendes aus, bevor Sie beginnen:

Akzeptanz der EULA bei der Bereitstellung eines JumpStart-Modells

Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Bereitstellung Ihres JumpStart-Modells ausdrücklich die Annahme der EULA erklären.

from sagemaker.jumpstart.model import JumpStartModel
model_id = "meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id)

# Declare EULA acceptance when deploying your JumpStart model
predictor = my_model.deploy(accept_eula=True)

Der accept_eula-Wert ist standardmäßig None und muss explizit als True neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartModel.

Akzeptanz der EULA bei der Optimierung eines JumpStart-Modells

Bei Modellen für die Optimierung, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie beim Ausführen der fit()-Methode für Ihren JumpStart-Schätzer ausdrücklich die Annahme der EULA erklären. Nach der Optimierung eines vortrainierten Modells werden die Gewichtungen des ursprünglichen Modells geändert. Wenn Sie das optimierte Modell später bereitstellen, müssen Sie daher keine EULA akzeptieren.

from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "meta-textgeneration-llama-2-13b"

# Declare EULA acceptance when defining your JumpStart estimator
estimator = JumpStartEstimator(model_id=model_id)
estimator.fit(accept_eula=False,
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)

Der accept_eula-Wert ist standardmäßig None und muss innerhalb der fit()-Methode explizit als "true" neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartEstimator.

EULA-Akzeptanz SageMaker Python SDK Versionen vor 2.198.0

Nachdem Sie ein JumpStart-Basismodell mithilfe des SageMaker Python SDK programmgesteuert bereitgestellt haben, können Sie mit der SageMaker-Predictor-Klasse Inferenz gegen Ihren bereitgestellten Endpunkt laufen lassen. Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie in Ihrem Aufruf zur Predictor-Klasse ausdrücklich die Annahme der EULA erklären:

predictor.predict(payload, custom_attributes="accept_eula=true")

Der accept_eula-Wert ist standardmäßig false und muss explizit als true neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Der Predictor gibt einen Fehler zurück, wenn Sie versuchen, eine Inferenz auszuführen, wenn accept_eula auf false gesetzt ist. Weitere Informationen zu den ersten Schritten mit JumpStart-Basismodellen mit dem SageMaker Python SDK finden Sie unter Verwenden von Basismodellen mit dem SageMaker Python SDK.