Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Crea un GPU-based Kubernetes clúster en Amazon EKS
Antes de crear un GPU-based Kubernetes un clúster en Amazon EKS, debe haber completado los pasos descritos en Introducción al AWS Batch en Amazon EKS. Además, tenga en cuenta lo siguiente:
-
AWS Batch admite tipos de instancias con GPU NVIDIA.
-
De forma predeterminada, AWS Batch selecciona la AMI acelerada de Amazon EKS con el Kubernetes versión que coincide con la versión del plano de control del clúster de Amazon EKS.
$cat <<EOF > ./batch-eks-gpu-ce.json { "computeEnvironmentName": "My-Eks-GPU-CE1", "type": "MANAGED", "state": "ENABLED", "eksConfiguration": { "eksClusterArn": "arn:aws:eks:<region>:<account>:cluster/<cluster-name>", "kubernetesNamespace": "my-aws-batch-namespace" }, "computeResources": { "type": "EC2", "allocationStrategy": "BEST_FIT_PROGRESSIVE", "minvCpus": 0, "maxvCpus": 1024, "instanceTypes": [ "p3dn.24xlarge", "p4d.24xlarge" ], "subnets": [ "<eks-cluster-subnets-with-access-to-internet-for-image-pull>" ], "securityGroupIds": [ "<eks-cluster-sg>" ], "instanceRole": "<eks-instance-profile>" } } EOF$aws batch create-compute-environment --cli-input-json file://./batch-eks-gpu-ce.json
AWS Batch no gestiona la NVIDIA complemento de dispositivo GPU en tu nombre. Debe instalar este complemento en su clúster de Amazon EKS y permitir que se dirija a AWS Batch nodos. Para obtener más información, consulte Habilitar la compatibilidad con GPU en Kubernetes
Para configurar el NVIDIA complemento de dispositivo (DaemonSet) para apuntar al AWS Batch nodos, ejecute los siguientes comandos.
# pull nvidia daemonset spec$curl -O https://raw.githubusercontent.com/NVIDIA/k8s-device-plugin/v0.12.2/nvidia-device-plugin.yml# using your favorite editor, add Batch node toleration # this will allow the DaemonSet to run on Batch nodes - key: "batch.amazonaws.com/batch-node" operator: "Exists"$kubectl apply -f nvidia-device-plugin.yml
No se recomienda mezclar cargas de trabajo basadas en computación (CPU y memoria) con GPU-based cargas de trabajo en las mismas combinaciones de entorno informático y cola de trabajos. Esto se debe a que las tareas informáticas pueden consumir la capacidad de la GPU.
Para adjuntar colas de trabajos, ejecute los siguientes comandos.
$cat <<EOF > ./batch-eks-gpu-jq.json { "jobQueueName": "My-Eks-GPU-JQ1", "priority": 10, "computeEnvironmentOrder": [ { "order": 1, "computeEnvironment": "My-Eks-GPU-CE1" } ] } EOF$aws batch create-job-queue --cli-input-json file://./batch-eks-gpu-jq.json