View a markdown version of this page

Scala i servizi Amazon ECS in base a una coda Amazon SQS - Amazon Elastic Container Service

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Scala i servizi Amazon ECS in base a una coda Amazon SQS

Puoi scalare il tuo servizio Amazon ECS in risposta al carico in una coda Amazon Simple Queue Service (Amazon SQS). Ciò è utile per le applicazioni asincrone in cui le attività del servizio agiscono come lavoratori che consumano ed elaborano messaggi da una coda. Man mano che la frequenza dei messaggi in arrivo cambia, Amazon ECS Service Auto Scaling aggiunge attività quando la coda si accumula e rimuove attività quando si esaurisce. Ciò mantiene la latenza per i messaggi in attesa in coda a un livello accettabile senza un provisioning eccessivo.

Utilizza la metrica del backlog per attività

Amazon SQS pubblica la profondità di una coda su CloudWatch era ApproximateNumberOfMessagesVisible metrica, che riporta il numero di messaggi disponibili per il recupero. La profondità della coda indica che c'è del lavoro da fare, ma non è una metrica affidabile su cui scalare direttamente. Il numero di messaggi in coda non cambia proporzionalmente al numero di operazioni che li elaborano. Il numero di operazioni necessarie dipende anche da altri fattori, ad esempio il tempo impiegato da un'operazione per elaborare un messaggio e la latenza accettabile (ritardo nella coda). Una politica di tracciamento degli obiettivi che tiene traccia della profondità della coda interpreta una coda di grandi dimensioni come una richiesta proporzionalmente maggiore di attività. Ciò può far sì che il servizio si espanda ben oltre quanto richiesto dal carico di lavoro e aumentare i costi.

Invece, scalate su arretrato per attività: la profondità della coda divisa per il numero di attività in esecuzione. Si calcola questo valore con un CloudWatch espressione matematica metrica che divide la profondità della coda per il numero di attività in esecuzione. Il backlog per attività normalizza la profondità della coda in base al numero di attività in esecuzione. Ciò lo rende proporzionale al carico di ogni attività, quindi è adatto alla scalabilità.

Imposta il valore obiettivo su arretrato accettabile per attività. Per calcolarlo, dividi la latenza che l'applicazione può accettare per il tempo medio impiegato da un'attività per elaborare un messaggio.

Ad esempio, se la latenza accettabile è di 10 secondi e un'attività impiega 0,1 secondi per elaborare un messaggio, il backlog accettabile per attività è 10 diviso 0,1, che equivale a 100 messaggi per attività. Questo è il valore target per la tua policy. Se la coda contiene attualmente 1.500 messaggi e sono in esecuzione 10 attività, il backlog per operazione è di 150 (1.500 divisi per 10), il che supera l'obiettivo. Il servizio è scalabile di cinque attività per riportare l'arretrato per attività in proporzione al valore target.

Usa la matematica metrica per calcolare la metrica

Supporto delle politiche di tracciamento degli obiettivi di Application Auto Scaling CloudWatch matematica metrica. La matematica metrica consente di interrogare più CloudWatch metriche e usa espressioni matematiche per creare una nuova serie temporale basata su tali metriche. Si utilizza un'espressione matematica metrica per calcolare il backlog per attività direttamente nella politica di scalabilità. Application Auto Scaling valuta l'espressione e gestisce CloudWatch allarmi che avviano il ridimensionamento delle attività. Per ulteriori informazioni, vedere Usa la matematica metrica nel CloudWatch Guida per l'utente.

Per calcolare il backlog per attività, si utilizzano i due seguenti CloudWatch metriche:

  • ApproximateNumberOfMessagesVisible (il Sum statistica) dal AWS/SQS namespace, per il numero di messaggi in attesa in coda.

  • RunningTaskCount (il Average statistica) dal ECS/ContainerInsights namespace, per il numero di attività in esecuzione nel servizio. Per utilizzare questa metrica, devi attivare CloudWatch Container Insights per il tuo cluster. Per ulteriori informazioni, consulta Monitora i container di Amazon ECS utilizzando Container Insights con osservabilità migliorata..

Nel seguente esempio, m1 è la profondità della coda e m2 è il numero delle attività in esecuzione. L'espressione matematica metrica m1 / m2 produce il backlog per attività. Application Auto Scaling regola il numero di attività del servizio per mantenere questo valore al valore target.

Usa il ridimensionamento a gradini per un maggiore controllo

Consigliamo il tracciamento degli obiettivi per la maggior parte dei carichi di lavoro basati sulle code perché è l'approccio più semplice. Tu imposti un singolo valore target e Amazon ECS Service Auto Scaling crea e gestisce CloudWatch gli allarmi e le regolazioni del ridimensionamento per te.

Usa il ridimensionamento graduale quando desideri il pieno controllo del comportamento di ridimensionamento. Con il ridimensionamento a gradini, puoi crearne uno tuo CloudWatch allarmi e definire politiche separate di scalabilità orizzontale e scalabile in entrata, ciascuna con le proprie regolazioni. Si inserisce l'espressione matematica metrica del backlog per attività negli allarmi e si imposta l'azione di ogni allarme sulla policy corrispondente. Questo ti dà il controllo su quanto segue:

  • La dimensione di ogni fase di ridimensionamento — È possibile definire aggiustamenti delle fasi che aggiungano più attività man mano che il backlog cresce, in modo che una piccola violazione aggiunga alcune attività e una violazione di grandi dimensioni ne aggiunga molte. È possibile scalare in base a una percentuale del numero di attività in esecuzione o in base a un numero fisso di attività.

  • Quanto velocemente risponde il ridimensionamento — È possibile controllare la reattività tramite la frequenza di pubblicazione delle metriche e le impostazioni di valutazione degli allarmi. Ad esempio, puoi pubblicare una metrica di coda ad alta risoluzione ogni 10 secondi e configurare un allarme di scalabilità orizzontale in caso di violazione su un singolo punto dati, in modo che il servizio reagisca a un arretrato crescente più velocemente di quanto consenta la risoluzione predefinita di un minuto.

  • Comportamento diverso in termini di scalabilità orizzontale e verticale — Poiché scale-out e scale-in sono politiche e allarmi separati, è possibile reagire rapidamente a un arretrato crescente aumentando al contempo la scalabilità in modo conservativo. Ad esempio, puoi richiedere che il backlog rimanga basso per diversi minuti prima di rimuovere le attività.

Per ulteriori informazioni, consulta Usa incrementi predefiniti in base a CloudWatch allarmi per scalare i servizi Amazon ECS.

Proteggi le attività che elaborano i messaggi

Quando il servizio si espande, Amazon ECS Service Auto Scaling può interrompere un'attività che sta ancora elaborando un messaggio. Per lavori di lunga durata o non idempotenti, ciò può causare la rielaborazione del messaggio o la perdita del suo avanzamento. Per evitare che ciò accada, utilizza la protezione scalabile delle attività per contrassegnare un'attività come protetta mentre sta svolgendo un lavoro attivo.

Per chi lavora in coda, consigliamo che l'attività si protegga da sola tramite l'endpoint dell'agente container Amazon ECS. Quando l'attività inizia a elaborare un messaggio, imposta il ProtectionEnabled attribuire a true in modo che Amazon ECS non lo interrompa durante un evento di scalabilità. Una volta terminato il messaggio, l'operazione viene impostata ProtectionEnabled a false in modo che l'attività sia nuovamente idonea alla risoluzione. Per ulteriori informazioni, consulta Proteggere le attività di Amazon ECS dall'interruzione causata da eventi di riduzione orizzontale.

Considerazioni

Quando configuri il ridimensionamento basato sulle code per il tuo servizio Amazon ECS, considera quanto segue:

  • Poiché Application Auto Scaling valuta l'espressione matematica della metrica per te, non è necessario pubblicare una metrica personalizzata o eseguire codice aggiuntivo per calcolare il backlog per attività.

  • L' RunningTaskCount la metrica è disponibile solo quando CloudWatch Container Insights è attivato per il tuo cluster. In caso contrario, l'espressione matematica metrica non contiene dati per il divisore e il ridimensionamento non avviene.

  • Scegliete un valore target in base alla latenza consentita dal contratto di servizio (SLA) dell'applicazione. Un valore target più basso riduce il ritardo della coda ma esegue più attività. Un valore target più elevato riduce i costi ma aumenta il tempo di attesa dei messaggi in coda.

  • I messaggi che non hanno terminato l'elaborazione quando un'attività viene interrotta vengono restituiti alla coda di Amazon SQS. Un'altra attività in esecuzione può elaborarli se si configura il timeout di visibilità in modo appropriato. Per evitare che un'attività venga interrotta durante l'elaborazione di un messaggio, utilizza la protezione scalabile delle attività, come descritto in Proteggi le attività che elaborano i messaggi.

  • Le considerazioni generali per Amazon ECS Service Auto Scaling e il tracciamento dei target si applicano anche al ridimensionamento basato sulle code.

Configura il ridimensionamento basato sulle code

I passaggi seguenti mostrano come creare una policy di scalabilità del tracciamento degli obiettivi che utilizzi un'espressione matematica metrica per scalare il servizio Amazon ECS in base al backlog per attività. Tu usi il AWS CLI per queste attività.

  1. Conferma di disporre delle autorizzazioni IAM necessarie per creare e aggiornare i servizi e per registrare obiettivi e policy di scalabilità scalabili. Per ulteriori informazioni, consulta Autorizzazioni IAM richieste per il dimensionamento automatico dei servizi Amazon ECS.

  2. Attiva CloudWatch Container Insights per il tuo cluster in modo che RunningTaskCount la metrica è disponibile. Per ulteriori informazioni, consulta Monitora i container di Amazon ECS utilizzando Container Insights con osservabilità migliorata..

  3. Registra il tuo servizio Amazon ECS come destinazione scalabile utilizzando register-scalable-target comando. La dimensione scalabile è ecs:service:DesiredCount.

    aws application-autoscaling register-scalable-target \ --service-namespace ecs \ --scalable-dimension ecs:service:DesiredCount \ --resource-id service/my-cluster/my-service \ --min-capacity 1 \ --max-capacity 10
  4. Memorizza l'espressione matematica metrica in una specifica metrica personalizzata in un file JSON denominato config.json. Sostituisci il nome della coda, il nome del cluster e il nome del servizio con i tuoi valori e imposta TargetValue fino al backlog accettabile per attività calcolato.

    { "CustomizedMetricSpecification": { "Metrics": [ { "Label": "Get the queue depth", "Id": "m1", "MetricStat": { "Metric": { "MetricName": "ApproximateNumberOfMessagesVisible", "Namespace": "AWS/SQS", "Dimensions": [ { "Name": "QueueName", "Value": "my-queue" } ] }, "Stat": "Sum" }, "ReturnData": false }, { "Label": "Get the running task count", "Id": "m2", "MetricStat": { "Metric": { "MetricName": "RunningTaskCount", "Namespace": "ECS/ContainerInsights", "Dimensions": [ { "Name": "ClusterName", "Value": "my-cluster" }, { "Name": "ServiceName", "Value": "my-service" } ] }, "Stat": "Average" }, "ReturnData": false }, { "Label": "Calculate the backlog per task", "Id": "e1", "Expression": "m1 / m2", "ReturnData": true } ] }, "TargetValue": 100 }
  5. Crea la politica di ridimensionamento del tracciamento degli obiettivi utilizzando put-scaling-policy comando con il file JSON come input. Application Auto Scaling crea e gestisce i due CloudWatch allarmi (uno per lo scale-out e uno per lo scale-in) che richiamano la policy.

    aws application-autoscaling put-scaling-policy \ --policy-name sqs-backlog-target-tracking-policy \ --service-namespace ecs \ --resource-id service/my-cluster/my-service \ --scalable-dimension ecs:service:DesiredCount \ --policy-type TargetTrackingScaling \ --target-tracking-scaling-policy-configuration file://config.json

Per ulteriori informazioni sulle policy di dimensionamento di tracciamento target, consulta la sezione relativa alle policy di dimensionamento di tracciamento target nella Guida per l'utente di Application Auto Scaling.