Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Skalieren Sie Amazon ECS-Services auf der Grundlage einer Amazon SQS-Warteschlange
Sie können Ihren Amazon ECS-Service als Reaktion auf die Last in einer Amazon Simple Queue Service (Amazon SQS) -Warteschlange skalieren. Dies ist nützlich für asynchrone Anwendungen, bei denen die Aufgaben in Ihrem Service als Worker agieren, die Nachrichten aus einer Warteschlange verarbeiten und verarbeiten. Wenn sich die Rate der eingehenden Nachrichten ändert, fügt Amazon ECS Service Auto Scaling Aufgaben hinzu, wenn sich die Warteschlange ansammelt, und entfernt Aufgaben, wenn sie leer ist. Dadurch wird die Latenz für Nachrichten, die in der Warteschlange warten, auf einem akzeptablen Niveau gehalten, ohne dass eine Überversorgung erforderlich ist.
Verwenden Sie die Metrik „Backlog pro Aufgabe“
Amazon SQS veröffentlicht die Tiefe einer Warteschlange an CloudWatch wie ApproximateNumberOfMessagesVisible Metrik, die die Anzahl der Nachrichten angibt, die zum Abrufen verfügbar sind. Die Warteschlangentiefe gibt an, dass noch viel zu tun ist, aber es handelt sich nicht um eine zuverlässige Metrik, auf die man direkt skalieren könnte. Die Anzahl der Nachrichten in der Warteschlange ändert sich nicht proportional zur Anzahl der Aufgaben, die sie verarbeiten. Die Anzahl der Aufgaben, die Sie benötigen, hängt auch von anderen Faktoren ab, z. B. davon, wie lange eine Aufgabe benötigt, um eine Nachricht zu verarbeiten, und von der akzeptablen Latenz (Warteschlangenverzögerung). Eine Zielverfolgungsrichtlinie, die die Warteschlangentiefe verfolgt, interpretiert eine große Warteschlange als Nachfrage nach proportional mehr Aufgaben. Dies kann dazu führen, dass Ihr Service weit über die Anforderungen der Arbeitslast hinaus skaliert wird und die Kosten steigen.
Skalieren Sie stattdessen auf Backlog pro Aufgabe: Die Warteschlangentiefe geteilt durch die Anzahl der laufenden Aufgaben. Sie berechnen diesen Wert mit einem CloudWatch metrischer mathematischer Ausdruck, der die Warteschlangentiefe durch die Anzahl der laufenden Aufgaben dividiert. Der Rückstand pro Aufgabe normalisiert die Warteschlangentiefe anhand der Anzahl der laufenden Aufgaben. Dadurch ist es proportional zur Belastung der einzelnen Aufgaben und eignet sich daher für die Skalierung.
Setzen Sie Ihren Zielwert auf akzeptabler Rückstand pro Aufgabe. Um es zu berechnen, teilen Sie die Latenz, die Ihre Anwendung akzeptieren kann, durch die durchschnittliche Zeit, die eine Aufgabe benötigt, um eine Nachricht zu verarbeiten.
Wenn die akzeptable Latenz beispielsweise 10 Sekunden beträgt und eine Aufgabe 0,1 Sekunden benötigt, um eine Nachricht zu verarbeiten, ist der akzeptable Rückstand pro Aufgabe 10 geteilt durch 0,1, was 100 Nachrichten pro Aufgabe entspricht. Dies ist der Zielwert für Ihre Richtlinie. Wenn die Warteschlange derzeit 1.500 Nachrichten enthält und 10 Aufgaben ausgeführt werden, beträgt der Backlog pro Aufgabe 150 (1.500 geteilt durch 10), was über dem Zielwert liegt. Ihr Service skaliert um fünf Aufgaben, um den Backlog pro Aufgabe wieder proportional zum Zielwert zu erhöhen.
Verwenden Sie metrische Mathematik, um die Metrik zu berechnen
Unterstützung der Richtlinien zur Zielverfolgung von Auto Scaling-Anwendungen CloudWatch metrische Mathematik. Mit metrischer Mathematik können Sie mehrere abfragen CloudWatch Metriken und verwenden Sie mathematische Ausdrücke, um auf der Grundlage dieser Metriken eine neue Zeitreihe zu erstellen. Sie verwenden einen mathematischen Ausdruck für Metriken, um den Rückstand pro Aufgabe direkt in der Skalierungsrichtlinie zu berechnen. Application Auto Scaling wertet den Ausdruck aus und verwaltet den CloudWatch Alarme, die mit der Skalierung von Aktivitäten beginnen. Weitere Informationen finden Sie unter Verwenden Sie metrische Mathematik in der CloudWatch Benutzerleitfaden.
Um den Backlog pro Aufgabe zu berechnen, verwenden Sie die folgenden zwei CloudWatch Metriken:
-
ApproximateNumberOfMessagesVisible(dasSumStatistik) aus demAWS/SQSNamespace, für die Anzahl der Nachrichten, die in der Warteschlange warten. -
RunningTaskCount(derAverageStatistik) aus demECS/ContainerInsightsNamespace, für die Anzahl der laufenden Aufgaben in Ihrem Service. Um diese Metrik verwenden zu können, müssen Sie Folgendes aktivieren CloudWatch Container Insights für Ihren Cluster. Weitere Informationen finden Sie unter Amazon-ECS-Container mithilfe von Container Insights mit verbesserter Beobachtbarkeit überwachen.
Im folgenden Beispiel m1 ist die Warteschlangentiefe und m2 ist die Anzahl der laufenden Aufgaben. Der metrische mathematische Ausdruck m1 / m2 erzeugt den Backlog pro Aufgabe. Application Auto Scaling passt die Anzahl der Aufgaben in Ihrem Service an, um diesen Wert auf Ihrem Zielwert zu halten.
Verwenden Sie die schrittweise Skalierung für mehr Kontrolle
Wir empfehlen die Zielverfolgung für die meisten warteschlangenbasierten Workloads, da dies der einfachste Ansatz ist. Sie legen einen einzelnen Zielwert fest, und Amazon ECS Service Auto Scaling erstellt und verwaltet den CloudWatch Alarme und die Skalierungsanpassungen für Sie.
Verwenden Sie die schrittweise Skalierung, wenn Sie die volle Kontrolle über das Skalierungsverhalten haben möchten. Mit der schrittweisen Skalierung erstellen Sie Ihre eigenen CloudWatch Alarme und definieren separate Scale-Out- und Scale-In-Richtlinien mit jeweils eigenen schrittweisen Anpassungen. Sie geben den mathematischen Ausdruck für den Rückstand pro Aufgabenmetrik in die Alarme ein und stellen die Aktion jedes Alarms auf die entsprechende Richtlinie ein. Dadurch haben Sie die Kontrolle über Folgendes:
-
Die Größe jedes Skalierungsschritts — Sie können schrittweise Anpassungen definieren, bei denen mit steigendem Backlog weitere Aufgaben hinzugefügt werden, sodass bei einer kleinen Sicherheitsverletzung einige Aufgaben hinzukommen und bei einer großen Verletzung viele weitere. Sie können nach einem Prozentsatz der Anzahl laufender Aufgaben oder nach einer festen Anzahl von Aufgaben skalieren.
-
Wie schnell reagiert die Skalierung — Sie steuern die Reaktionsfähigkeit über die Häufigkeit der Veröffentlichung von Metriken und die Einstellungen für die Alarmauswertung. Sie können beispielsweise alle 10 Sekunden eine hochauflösende Warteschlangenmetrik veröffentlichen und einen Scale-Out-Alarm so konfigurieren, dass ein Verstoß an einem einzelnen Datenpunkt ausgelöst wird, sodass der Service schneller auf einen wachsenden Backlog reagiert, als es die Standardauflösung von einer Minute zulässt.
-
Unterschiedliches Scale-Out- und Scale-In-Verhalten — Da es sich bei Scale-Out und Scale-In um separate Richtlinien und Alarme handelt, können Sie schnell auf einen steigenden Rückstand reagieren und gleichzeitig konservativ skalieren. Sie können beispielsweise festlegen, dass der Rückstand mehrere Minuten lang niedrig bleibt, bevor Sie Aufgaben entfernen.
Weitere Informationen finden Sie unter Verwenden Sie vordefinierte Inkremente auf der Grundlage von CloudWatch Alarme zur Skalierung der Amazon ECS-Services.
Schützen Sie Aufgaben, die Nachrichten verarbeiten
Wenn Ihr Service skaliert wird, kann Amazon ECS Service Auto Scaling eine Aufgabe stoppen, die noch eine Nachricht verarbeitet. Bei lang andauernden oder nicht idempotenten Aufgaben kann dies dazu führen, dass die Nachricht erneut verarbeitet wird oder ihr Fortschritt verloren geht. Um dies zu verhindern, verwenden Sie den Task-Scale-In-Schutz, um eine Aufgabe als geschützt zu kennzeichnen, während sie gerade aktiv arbeitet.
Für Warteschlangenarbeiter empfehlen wir, dass sich die Aufgabe über den Amazon ECS-Container-Agent-Endpunkt selbst schützt. Wenn die Aufgabe mit der Verarbeitung einer Nachricht beginnt, legt sie Folgendes fest ProtectionEnabled attributieren zu true damit Amazon ECS ihn während eines Scale-In-Ereignisses nicht stoppt. Nachdem die Aufgabe die Nachricht abgeschlossen hat, wird sie festgelegt ProtectionEnabled zu false damit die Aufgabe wieder kündigungsfähig ist. Weitere Informationen finden Sie unter Schützen Sie Ihre Amazon-ECS-Aufgaben davor, durch Abskalierungsereignisse beendet zu werden.
Überlegungen
Beachten Sie Folgendes, wenn Sie die warteschlangenbasierte Skalierung für Ihren Amazon ECS-Service konfigurieren:
-
Da Application Auto Scaling den mathematischen Ausdruck für die Metrik für Sie auswertet, müssen Sie keine benutzerdefinierte Metrik veröffentlichen oder zusätzlichen Code ausführen, um den Backlog pro Aufgabe zu berechnen.
-
Der
RunningTaskCountDie Metrik ist nur verfügbar, wenn CloudWatch Container Insights ist für Ihren Cluster aktiviert. Ist dies nicht der Fall, enthält der metrische mathematische Ausdruck keine Daten für den Divisor und eine Skalierung findet nicht statt. -
Wählen Sie einen Zielwert, der auf der Latenz basiert, die das Service Level Agreement (SLA) Ihrer Anwendung zulässt. Ein niedrigerer Zielwert reduziert die Wartezeit in der Warteschlange, aber es werden mehr Aufgaben ausgeführt. Ein höherer Zielwert reduziert die Kosten, erhöht jedoch die Wartezeit von Nachrichten in der Warteschlange.
-
Nachrichten, deren Verarbeitung beim Beenden einer Aufgabe noch nicht abgeschlossen ist, kehren in die Amazon SQS-Warteschlange zurück. Eine andere laufende Aufgabe kann sie verarbeiten, wenn Sie das Sichtbarkeits-Timeout entsprechend konfigurieren. Um zu verhindern, dass eine Aufgabe gestoppt wird, während sie eine Nachricht verarbeitet, verwenden Sie den Task-Scale-In-Schutz, wie unter beschrieben Schützen Sie Aufgaben, die Nachrichten verarbeiten.
-
Die allgemeinen Überlegungen für Amazon ECS Service Auto Scaling und Target Tracking gelten auch für die warteschlangenbasierte Skalierung.
Konfigurieren Sie die warteschlangenbasierte Skalierung
Die folgenden Schritte zeigen, wie Sie eine Ziel-Tracking-Skalierungsrichtlinie erstellen, die einen metrischen mathematischen Ausdruck verwendet, um Ihren Amazon ECS-Service im Backlog pro Aufgabe zu skalieren. Sie verwenden den AWS CLI für diese Aufgaben.
-
Vergewissern Sie sich, dass Sie über die erforderlichen IAM-Berechtigungen verfügen, um Dienste zu erstellen und zu aktualisieren und skalierbare Ziele und Skalierungsrichtlinien zu registrieren. Weitere Informationen finden Sie unter Erforderliche IAM-Berechtigungen für Service-Auto-Scaling von Amazon ECS.
-
Schalten Sie ein CloudWatch Container Insights für Ihren Cluster, sodass
RunningTaskCountMetrik ist verfügbar. Weitere Informationen finden Sie unter Amazon-ECS-Container mithilfe von Container Insights mit verbesserter Beobachtbarkeit überwachen. -
Registrieren Sie Ihren Amazon ECS-Service als skalierbares Ziel, indem Sie den registrieren-skalierbares Ziel Befehl. Die skalierbare Dimension ist
ecs:service:DesiredCount.aws application-autoscaling register-scalable-target \ --service-namespace ecs \ --scalable-dimension ecs:service:DesiredCount \ --resource-id service/my-cluster/my-service \ --min-capacity 1 \ --max-capacity 10 -
Speichern Sie den mathematischen Ausdruck der Metrik in einer benutzerdefinierten Metrikspezifikation in einer JSON-Datei mit dem Namen
config.json. Ersetzen Sie den Warteschlangennamen, den Clusternamen und den Dienstnamen durch Ihre eigenen Werte und legen Sie festTargetValueauf den akzeptablen Backlog pro Aufgabe, den Sie berechnet haben.{ "CustomizedMetricSpecification": { "Metrics": [ { "Label": "Get the queue depth", "Id": "m1", "MetricStat": { "Metric": { "MetricName": "ApproximateNumberOfMessagesVisible", "Namespace": "AWS/SQS", "Dimensions": [ { "Name": "QueueName", "Value": "my-queue" } ] }, "Stat": "Sum" }, "ReturnData": false }, { "Label": "Get the running task count", "Id": "m2", "MetricStat": { "Metric": { "MetricName": "RunningTaskCount", "Namespace": "ECS/ContainerInsights", "Dimensions": [ { "Name": "ClusterName", "Value": "my-cluster" }, { "Name": "ServiceName", "Value": "my-service" } ] }, "Stat": "Average" }, "ReturnData": false }, { "Label": "Calculate the backlog per task", "Id": "e1", "Expression": "m1 / m2", "ReturnData": true } ] }, "TargetValue": 100 } -
Erstellen Sie die Ziel-Tracking-Skalierungsrichtlinie mithilfe der Put-Scaling-Richtlinie Befehl mit der JSON-Datei als Eingabe. Application Auto Scaling erstellt und verwaltet die beiden CloudWatch Alarme (einer für Scale-Out und einer für Scale-In), die die Richtlinie aufrufen.
aws application-autoscaling put-scaling-policy \ --policy-name sqs-backlog-target-tracking-policy \ --service-namespace ecs \ --resource-id service/my-cluster/my-service \ --scalable-dimension ecs:service:DesiredCount \ --policy-type TargetTrackingScaling \ --target-tracking-scaling-policy-configuration file://config.json
Weitere Informationen zu Skalierungsrichtlinien für die Ziel-Nachverfolgung finden Sie unter Skalierungsrichtlinien für die Ziel-Nachverfolgung im Benutzerhandbuch zum Auto Scaling von Anwendungen.