Disattivare temporaneamente le policy di dimensionamento - Amazon SageMaker AI

Disattivare temporaneamente le policy di dimensionamento

Dopo aver configurato il dimensionamento automatico, sono disponibili le seguenti opzioni se è necessario esaminare un problema senza interferenze dovute alle policy di dimensionamento dinamico:

  • Sospendi temporaneamente e quindi riprendi le attività di dimensionamento chiamando il comando register-scalable-target della CLI o l’azione RegisterScalableTarget dell’API, specificando un valore booleano per DynamicScalingInSuspended e DynamicScalingOutSuspended.

    L’esempio seguente mostra come sospendere le policy di dimensionamento per una variante denominata my-variant, in esecuzione sull’endpoint my-endpoint.

    aws application-autoscaling register-scalable-target \
  --service-namespace sagemaker \
  --resource-id endpoint/my-endpoint/variant/my-variant \
  --scalable-dimension sagemaker:variant:DesiredInstanceCount \
  --suspended-state '{"DynamicScalingInSuspended":true,"DynamicScalingOutSuspended":true}'

  • Impedisci che specifiche policy di dimensionamento con monitoraggio delle destinazioni riducano orizzontalmente una variante disabilitando la parte di riduzione orizzontale della policy. Questo metodo impedisce alla policy di dimensionamento di eliminare istanze, consentendo tuttavia di crearle in base alle esigenze.

    Disabilita temporaneamente e quindi abilita attività di riduzione orizzontale modificando la policy mediante il comando put-scaling-policy della CLI o l’azione PutScalingPolicy dell’API, specificando un valore booleano per DisableScaleIn.

    Di seguito è riportato un esempio di configurazione con monitoraggio delle destinazioni per una policy di dimensionamento con aumento orizzontale, ma non riduzione orizzontale. 

    {
    "TargetValue": 70.0,
    "PredefinedMetricSpecification":
    {
        "PredefinedMetricType": "SageMakerVariantInvocationsPerInstance"
    },
    "DisableScaleIn": true
}