Verwenden Sie Ihre SageMaker JumpStart Modelle in Amazon Bedrock - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwenden Sie Ihre SageMaker JumpStart Modelle in Amazon Bedrock

Sie können die Modelle registrieren, die Sie von Amazon SageMaker JumpStart auf Amazon Bedrock bereitgestellt haben. Mit Amazon Bedrock können Sie Ihr Modell hinter mehreren Endpunkten hosten. Sie können auch Features von Amazon Bedrock wie Agenten und Wissensdatenbanken verwenden. Weitere Informationen zur Verwendung von Amazon-Bedrock-Modellen finden Sie unter https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html.

Wichtig

Um Ihre Modelle zu Amazon Bedrock zu migrieren, empfehlen wir, Ihrer IAM-Rolle eine AmazonBedrockFullAccessRichtlinie beizufügen. Wenn Sie die verwaltete Richtlinie nicht anfügen können, stellen Sie sicher, dass Ihre IAM-Rolle über folgende Berechtigungen verfügt:

JSON
{
    	"Version":"2012-10-17",		 	 	 
    	"Statement": [
    		{
    			"Sid": "BedrockAll",
    			"Effect": "Allow",
    			"Action": [
    				"bedrock:*"
    			],
    			"Resource": "*"
    		},
    		{
    			"Sid": "DescribeKey",
    			"Effect": "Allow",
    			"Action": [
    				"kms:DescribeKey"
    			],
    			"Resource": "arn:*:kms:*:::*"
    		},
    		{
    			"Sid": "APIsWithAllResourceAccess",
    			"Effect": "Allow",
    			"Action": [
    				"iam:ListRoles",
    				"ec2:DescribeVpcs",
    				"ec2:DescribeSubnets",
    				"ec2:DescribeSecurityGroups"
    			],
    			"Resource": "*"
    		},
    		{
    			"Sid": "MarketplaceModelEndpointMutatingAPIs",
    			"Effect": "Allow",
    			"Action": [
    				"sagemaker:CreateEndpoint",
    				"sagemaker:CreateEndpointConfig",
    				"sagemaker:CreateModel",
    				"sagemaker:CreateInferenceComponent",
    				"sagemaker:DeleteInferenceComponent",
    				"sagemaker:DeleteEndpoint",
    				"sagemaker:UpdateEndpoint"
    			],
    			"Resource": [
    				"arn:aws:sagemaker:*:*:endpoint/*",
    				"arn:aws:sagemaker:*:*:endpoint-config/*",
    				"arn:aws:sagemaker:*:*:model/*"
    			],
    			"Condition": {
    				"StringEquals": {
    					"aws:CalledViaLast": "bedrock.amazonaws.com"
    				}
    			}
    		},
    		{
    			"Sid": "BedrockEndpointTaggingOperations",
    			"Effect": "Allow",
    			"Action": [
    				"sagemaker:AddTags",
    				"sagemaker:DeleteTags"
    			],
    			"Resource": [
    				"arn:aws:sagemaker:*:*:endpoint/*",
    				"arn:aws:sagemaker:*:*:endpoint-config/*",
    				"arn:aws:sagemaker:*:*:model/*"
    			]
    		},
    		{
    			"Sid": "MarketplaceModelEndpointNonMutatingAPIs",
    			"Effect": "Allow",
    			"Action": [
    				"sagemaker:DescribeEndpoint",
    				"sagemaker:DescribeEndpointConfig",
    				"sagemaker:DescribeModel",
    				"sagemaker:DescribeInferenceComponent",
    				"sagemaker:ListEndpoints",
    				"sagemaker:ListTags"
    			],
    			"Resource": [
    				"arn:aws:sagemaker:*:*:endpoint/*",
    				"arn:aws:sagemaker:*:*:endpoint-config/*",
    				"arn:aws:sagemaker:*:*:model/*"
    			],
    			"Condition": {
    				"StringEquals": {
    					"aws:CalledViaLast": "bedrock.amazonaws.com"
    				}
    			}
    		},
    		{
    			"Sid": "BedrockEndpointInvokingOperations",
    			"Effect": "Allow",
    			"Action": [
    				"sagemaker:InvokeEndpoint",
    				"sagemaker:InvokeEndpointWithResponseStream"
    			],
    			"Resource": [
    				"arn:aws:sagemaker:*:*:endpoint/*"
    			],
    			"Condition": {
    				"StringEquals": {
    					"aws:CalledViaLast": "bedrock.amazonaws.com"
    				}
    			}
    		},
    		{
    			"Sid": "DiscoveringMarketplaceModel",
    			"Effect": "Allow",
    			"Action": [
    				"sagemaker:DescribeHubContent"
    			],
    			"Resource": [
    				"arn:aws:sagemaker:*:aws:hub-content/SageMakerPublicHub/Model/*",
    				"arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
    			]
    		},
    		{
    			"Sid": "AllowMarketplaceModelsListing",
    			"Effect": "Allow",
    			"Action": [
    				"sagemaker:ListHubContents"
    			],
    			"Resource": "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
    		},
    		{
    			"Sid": "RetrieveSubscribedMarketplaceLicenses",
    			"Effect": "Allow",
    			"Action": [
    				"license-manager:ListReceivedLicenses"
    			],
    			"Resource": [
    				"*"
    			]
    		},
    		{
    			"Sid": "PassRoleToSageMaker",
    			"Effect": "Allow",
    			"Action": [
    				"iam:PassRole"
    			],
    			"Resource": [
    				"arn:aws:iam::*:role/*Sagemaker*ForBedrock*"
    			],
    			"Condition": {
    				"StringEquals": {
    					"iam:PassedToService": [
    						"sagemaker.amazonaws.com",
    						"bedrock.amazonaws.com"
    					]
    				}
    			}
    		},
    		{
    			"Sid": "PassRoleToBedrock",
    			"Effect": "Allow",
    			"Action": [
    				"iam:PassRole"
    			],
    			"Resource": "arn:aws:iam::*:role/*AmazonBedrock*",
    			"Condition": {
    				"StringEquals": {
    					"iam:PassedToService": [
    						"bedrock.amazonaws.com"
    					]
    				}
    			}
    		}
    	]
    }
Wichtig

Die Richtlinie „Amazon Bedrock Full Access“ gewährt nur Berechtigungen für die Amazon Bedrock API. Um Amazon Bedrock in der verwenden zu könnenAWS-Managementkonsole, muss Ihre IAM-Rolle außerdem über die folgenden Berechtigungen verfügen:

{
        "Sid": "AllowConsoleS3AccessForBedrockMarketplace",
        "Effect": "Allow",
        "Action": [
          "s3:GetObject",
          "s3:GetBucketCORS",
          "s3:ListBucket",
          "s3:ListBucketVersions",
          "s3:GetBucketLocation"
        ],
        "Resource": "*"
    }

Wenn Sie Ihre eigene Richtlinie erstellen, müssen Sie die Richtlinienerklärung beifügen, die Aktionen in Amazon Bedrock Marketplace für die Ressource ermöglicht. Die folgende Richtlinie ermöglicht es Amazon Bedrock beispielsweise, den InvokeModel-Vorgang für ein Modell zu verwenden, das Sie auf einem Endpunkt bereitgestellt haben.

JSON
{
    
        "Version":"2012-10-17",		 	 	 
        "Statement": [
            {
                "Sid": "BedrockAll",
                "Effect": "Allow",
                "Action": [
                    "bedrock:InvokeModel"
                ],
                "Resource": [
                "arn:aws:bedrock:us-east-1:111122223333:marketplace/model-endpoint/all-access"
                ]
            },
            {
                "Sid": "VisualEditor1",
                "Effect": "Allow",
                "Action": ["sagemaker:InvokeEndpoint"],
                "Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/*",
                "Condition": {
                    "StringEquals": {
                        "aws:ResourceTag/project": "example-project-id",
                        "aws:CalledViaLast": "bedrock.amazonaws.com"
                    }
                }
            }
        ]
    
}

Nachdem Sie ein Modell bereitgestellt haben, können Sie es möglicherweise in Amazon Bedrock verwenden. Um zu sehen, ob Sie es in Amazon Bedrock verwenden können, navigieren Sie zur Modelldetailkarte auf der Studio-Benutzeroberfläche. Wenn auf der Modellkarte steht, dass es für Bedrock bereit ist, können Sie das Modell bei Amazon Bedrock registrieren.

Wichtig

Standardmäßig SageMaker JumpStart deaktiviert Amazon den Netzwerkzugriff für die Modelle, die Sie bereitstellen. Wenn Sie den Netzwerkzugriff aktiviert haben, können Sie das Modell nicht mit Amazon Bedrock verwenden. Wenn Sie das Modell mit Amazon Bedrock verwenden möchten, müssen Sie es mit deaktiviertem Netzwerkzugriff erneut bereitstellen.

Um es mit Amazon Bedrock zu verwenden, navigieren Sie zur Seite mit den Endpunktdetails und wählen Sie in der oberen rechten Ecke der Studio-Benutzeroberfläche die Option Mit Bedrock verwenden aus. Nachdem das Pop-up angezeigt wurde, wählen Sie Für Bedrock registrieren aus.