Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Einrichtung der Aufgaben-Governance

Dieser Abschnitt enthält Informationen zur Einrichtung des EKS-Add-ons für Amazon SageMaker HyperPod Task Governance. Dies umfasst die Erteilung von Berechtigungen, mit denen Sie die Priorisierung von Aufgaben, die Zuweisung von Rechenkapazitäten für Teams, die Verteilung ungenutzter Rechenkapazitäten und die Vorrangigkeit von Aufgaben für Teams festlegen können.

Falls Sie Schwierigkeiten bei der Einrichtung haben, finden Sie unter Fehlerbehebung bekannte Lösungen zur Fehlerbehebung.

Kueue-Einstellungen

HyperPod Das Task Governance EKS-Add-on installiert Kueue für Ihre HyperPod EKS-Cluster. Kueue ist ein Kubernetes-natives System, das Kontingente verwaltet und deren Verbrauch durch Aufträge regelt.

HyperPod Task Governance nutzt Kueue für die Kubernetes-native Warteschleife, Terminplanung und Kontingentverwaltung und wird zusammen mit dem EKS-Add-on für die HyperPod Aufgabenverwaltung installiert. Bei der Installation werden SageMaker AI-managed Kubernetes-Ressourcen wieKueueManagerConfig,,, ClusterQueues und HyperPod erstellt und geändert. LocalQueues WorkloadPriorityClasses ResourceFlavors ValidatingAdmissionPolicies Kubernetes-Administratoren haben zwar die Flexibilität, den Status dieser Ressourcen zu ändern, es ist jedoch möglich, dass alle an einer SageMaker AI-managed Ressource vorgenommenen Änderungen vom Dienst aktualisiert und überschrieben werden.

Die folgenden Informationen beschreiben die Konfigurationseinstellungen, die das HyperPod Task-Governance-Add-on für die Einrichtung von Kueue verwendet.

  apiVersion: config.kueue.x-k8s.io/v1beta2
    kind: Configuration
    health:
      healthProbeBindAddress: :8081
    metrics:
      bindAddress: :8443
      enableClusterQueueResources: true
    webhook:
      port: 9443
    manageJobsWithoutQueueName: false
    leaderElection:
      leaderElect: true
      resourceName: c1f6bfd2.kueue.x-k8s.io
    controller:
      groupKindConcurrency:
        Job.batch: 5
        Pod: 5
        Workload.kueue.x-k8s.io: 5
        LocalQueue.kueue.x-k8s.io: 1
        ClusterQueue.kueue.x-k8s.io: 1
        ResourceFlavor.kueue.x-k8s.io: 1
    clientConnection:
      qps: 50
      burst: 100
    integrations:
      frameworks:
      - "batch/job"
      - "kubeflow.org/mpijob"
      - "ray.io/rayjob"
      - "ray.io/raycluster"
      - "jobset.x-k8s.io/jobset"
      - "kubeflow.org/paddlejob"
      - "kubeflow.org/pytorchjob"
      - "kubeflow.org/tfjob"
      - "kubeflow.org/xgboostjob"
      - "kubeflow.org/jaxjob"
      - "workload.codeflare.dev/appwrapper"
      - "pod"
      - "deployment"
      - "statefulset"
      - "leaderworkerset.x-k8s.io/leaderworkerset"
      externalFrameworks:
      - "HyperPodPyTorchJob.v1.sagemaker.amazonaws.com"
    managedJobsNamespaceSelector:
      matchExpressions:
        - key: kubernetes.io/metadata.name
          operator: NotIn
          values: [ kube-system, kueue-system ]
    fairSharing:
      preemptionStrategies: [LessThanOrEqualToFinalShare, LessThanInitialShare]
    resources:
      excludeResourcePrefixes: []

Weitere Informationen zu den einzelnen Konfigurationseinträgen finden Sie unter Konfiguration in der Kueue-Dokumentation.

HyperPod Voraussetzungen für die Aufgabenverwaltung

HyperPod Einrichtung der Task-Governance

Im Folgenden finden Sie Informationen zur Einrichtung der HyperPod Aufgabenverwaltung.

Setup using the SageMaker AI console

Im Folgenden finden Sie Informationen zur Einrichtung der HyperPod Aufgabenverwaltung mithilfe der SageMaker HyperPod Konsole.

Ihnen sind bereits alle folgenden Berechtigungen zugeordnet, wenn Sie bereits Berechtigungen zur Verwaltung von Amazon CloudWatch Observability EKS und zum Anzeigen des HyperPod Cluster-Dashboards über die SageMaker AI-Konsole in der HyperPod Einrichtung des Amazon CloudWatch Observability EKS-Zusatzmoduls erteilt haben. Wenn Sie dies nicht eingerichtet haben, verwenden Sie die unten stehende Beispielrichtlinie, um Berechtigungen für die Verwaltung des HyperPod Task-Governance-Add-ons zu gewähren und das HyperPod Cluster-Dashboard über die SageMaker AI-Konsole anzuzeigen.

JSON

JSON

{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "eks:ListAddons",
                "eks:CreateAddon",
                "eks:UpdateAddon",
                "eks:DescribeAddon",
                "eks:DescribeAddonVersions",
                "sagemaker:DescribeCluster",
                "sagemaker:DescribeClusterNode",
                "sagemaker:ListClusterNodes",
                "sagemaker:ListClusters",
                "eks:DescribeCluster",
                "eks:AccessKubernetesApi"
            ],
            "Resource": "*"
        }
    ]
}

Navigieren Sie in der SageMaker HyperPod Konsole zum Tab Dashboard, um die Amazon SageMaker HyperPod Task Governance zu installieren Add-on.

Setup using the Amazon EKS AWS CLI

Verwenden Sie den create-addon AWS CLI EKS-Beispielbefehl, um die Amazon EKS-API und die Benutzeroberfläche der HyperPod Task-Governance einzurichten. Verwenden Sie dazu den folgenden Befehl AWS CLI:

aws eks create-addon --region region --cluster-name cluster-name --addon-name amazon-sagemaker-hyperpod-taskgovernance

Sie können die Registerkarte „Richtlinien“ in der HyperPod SageMaker AI-Konsole anzeigen, wenn die Installation erfolgreich war. Sie können auch den folgenden describe-addon AWS CLI EKS-Beispielbefehl verwenden, um den Status zu überprüfen.

aws eks describe-addon --region region --cluster-name cluster-name --addon-name amazon-sagemaker-hyperpod-taskgovernance