Bereitstellen proprietärer Basismodelle mit der ModelPackage-Klasse

Proprietäre Modelle müssen nach dem Abonnieren des Modells in AWS Marketplace unter Verwendung der Modellpaketinformationen bereitgestellt werden. Weitere Informationen zu SageMaker KI und AWS Marketplace finden Sie unter Amazon SageMaker AI-Algorithmen und -Modelle kaufen und verkaufen unter AWS Marketplace. AWS Marketplace Links zu den neuesten proprietären Modellen finden Sie unter Erste Schritte mit Amazon SageMaker JumpStart.

Nachdem Sie das Modell Ihrer Wahl abonniert haben AWS Marketplace, können Sie das Foundation-Modell mithilfe des SageMaker Python SDK und des mit dem Modellanbieter verknüpften SDK bereitstellen. Verwenden Sie beispielsweise AI21 Labs, Cohere und LightOn verwenden Sie die lightonsage Pakete"ai21[SM]",cohere-sagemaker, und.

Um beispielsweise ein JumpStart Modell mit Jurassic-2 Jumbo Instruct von AI21 Labs zu definieren, verwenden Sie den folgenden Code:

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Schrittweise Beispiele finden Sie, wenn Sie in Studio Classic das Notebook suchen und ausführen, das dem proprietären Foundation-Modell Ihrer Wahl zugeordnet ist. SageMaker Weitere Informationen finden Sie unter Verwenden Sie Fundamentmodelle in Amazon SageMaker Studio Classic. Weitere Informationen zum SageMaker Python SDK finden Sie unter ModelPackage.