Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Drosselung für die Amazon ECS-API anfordern
Amazon Elastic Container Service drosselt alle API-Anfragen für jede AWS Konto pro Region. Wir tun dies, um eine gleichbleibende Leistung und eine faire Nutzung des Dienstes für alle Amazon ECS-Kunden sicherzustellen. Durch die Drosselung wird sichergestellt, dass Aufrufe der Amazon ECS-API die maximal zulässigen API-Anforderungsquoten sowohl für Amazon ECS als auch für Amazon ECS nicht überschreiten AWS Dienste, in die es integriert ist. API-Aufrufe unterliegen den Anforderungsquoten, unabhängig davon, ob sie von folgenden Quellen stammen:
-
Eine Drittanbieteranwendung
-
Ein Befehlszeilentool
-
Die Amazon ECS-Konsole
Wenn Sie eine API-Drosselungsquote überschreiten, erhalten Sie ThrottlingException Fehlercode.
An error occurred (ThrottlingException) when calling the DescribeClusters operation (reached max retries: 4): Rate exceeded.
com.amazonaws.services.ecs.model.AmazonECSException: Rate exceeded (Service: AmazonECS; Status Code: 400; Error
Code: ThrottlingException; Request ID: 5ed90669-e454-464d-9b2f-6523bc86f537; Proxy: null)
Wie wird die Drosselung angewendet
Amazon ECS verwendet die Token-Bucket-Algorithmus
Amazon ECS untersucht die Rate der eingereichten API-Anfragen für alle Amazon ECS-APIs in Ihrem Konto pro Region und wendet zwei Arten von API-Drosselungsquoten an: nachhaltig und platzen. Die Dauerrate ist die durchschnittliche Anzahl der API-Anfragen, die pro Sekunde im Laufe der Zeit für einen Vorgang zulässig sind. Die Burst-Rate ist die maximale Anzahl von API-Anfragen, die in einer Sekunde zulässig sind. Mit Burst können Sie in regelmäßigen Abständen eine höhere Anzahl von API-Anfragen stellen als die Dauerrate. Im Anschluss daran drosselt Amazon ECS nachfolgende API-Anfragen, bis sich die Rate der zulässigen API-Anfragen im Laufe der Zeit auf die konstante Rate stabilisiert hat. Im Token-Bucket-Algorithmus ist maximale Kapazität des Eimers steht für die Burst-Rate und Nachfüllrate des Eimers ist die anhaltende Rate. Im folgenden Beispiel verwenden wir diese Begriffe, um Ihnen die Drosselung von Amazon ECS-API-Anfragen zu veranschaulichen.
Die Anzahl der API-Anfragen, die Sie stellen, wird gedrosselt, und jede Anfrage entfernt ein Token aus dem Token-Bucket. Zum Beispiel die Bucketgröße für Cluster-Leseaktionen, wie zum Beispiel DescribeClusters Die API besteht aus 50 Token, sodass Sie bis zu 50 verdienen können DescribeClusters Anfragen in einer Sekunde. Wenn Sie 50 Anfragen in einer Sekunde überschreiten, werden Sie gedrosselt und die verbleibenden Anfragen innerhalb dieser Sekunde schlagen fehl.
Eimer werden automatisch mit einer festgelegten Rate aufgefüllt. Wenn der Bucket seine maximale Kapazität unterschreitet, wird ihm jede Sekunde eine festgelegte Anzahl von Tokens hinzugefügt, bis er seine maximale Kapazität erreicht hat. Wenn der Eimer voll ist, wenn die Nachfüllmarken ankommen, werden sie verworfen. Der Eimer kann nicht mehr als die maximale Anzahl an Tokens aufnehmen. Zum Beispiel die Bucketgröße für Cluster-Leseaktionen, wie zum Beispiel DescribeClusters Die API beträgt 50 Token und die Nachfüllrate beträgt 20 Token pro Sekunde. Wenn du 50 verdienst DescribeClusters API-Anfragen in einer Sekunde, der Bucket wird sofort auf null Token reduziert. Der Bucket wird dann jede Sekunde um 20 Token aufgefüllt, bis er seine maximale Kapazität von 50 Token erreicht hat. Das bedeutet, dass der zuvor leere Eimer nach 2,5 Sekunden seine maximale Kapazität erreicht.
Sie müssen nicht warten, bis der Bucket vollständig voll ist, bevor Sie API-Anfragen stellen können. Sie können Token verwenden, wenn sie dem Bucket hinzugefügt werden. Wenn Sie die Refill-Token sofort verwenden, erreicht der Bucket seine maximale Kapazität nicht. Zum Beispiel die Eimergröße für Cluster-Leseaktionen, wie zum Beispiel DescribeClusters Die API beträgt 50 Token und die Nachfüllrate beträgt 20 Token pro Sekunde. Wenn Sie den Bucket leeren, indem Sie 50 API-Anfragen in einer Sekunde stellen, können Sie weiterhin 20 API-Anfragen pro Sekunde stellen. Der Bucket kann nur dann bis zur maximalen Kapazität aufgefüllt werden, wenn Sie weniger als 20 API-Anfragen pro Sekunde stellen.
Größen und Nachfüllraten von Token-Buckets anfordern
Zur Begrenzung der Anforderungsrate werden API-Aktionen in Kategorien gruppiert. Alle API-Aktionen in einer Kategorie verwenden denselben Token-Bucket. Zum Beispiel DescribeClusters und ListClusters APIs teilen sich die Cluster-Leseaktionen Eimer, für den das Fassungsvermögen 50 und die Nachfüllrate 20 beträgt. Dies bedeutet, dass die kumulierte Anzahl von API-Anfragen für alle Cluster-Leseaktionen wird durch das gleiche Burst-Rate-Kontingent von 50 API-Anfragen gedrosselt. Somit kannst du 25 machen DescribeClusters und 25 ListClusters API-Anfragen in einer Sekunde oder 30 DescribeClusters und 20 ListClusters, oder 50 DescribeClusters und 0 ListClusters, oder 0 DescribeClusters und 50 ListClusters, aber du kannst nicht 50 machen DescribeClusters und 50 ListClusters Anfragen gleichzeitig. Die konstante Rate wird in ähnlicher Weise kumulativ auf alle API-Anfragen innerhalb eines Buckets angewendet.
Die folgende Tabelle zeigt die Bucket-Kapazität (oder Burst) und die Nachfüllrate (oder Dauerbetrieb) für alle AWS Regionen. Alle API-Aktionskategorien setzen Preiskontingente für jede einzelne Kategorie durch AWS Konto pro Region.
| API-Aktionskategorie | Aktionen | Maximale Kapazität des Buckets (oder Burst-Rate) | Nachfüllrate des Buckets (oder konstante Rate) |
|---|---|---|---|
| Aktionen zum Ändern von Clustern |
|
20 | 1 |
| Leseaktionen gruppieren |
|
50 | 20 |
| Aktionen zum Ändern der Aufgabendefinition |
|
20 | 1 |
| Aktionen zum Lesen von Aufgabendefinitionen |
|
50 | 20 |
| Aktionen zum Löschen von Aufgabendefinitionen |
|
5 | 1 |
| Aktionen zum Ändern von Kapazitäten durch den Kapazitätsanbieter |
|
10 | 1 |
| Aktionen zum Lesen durch den Kapazitätsanbieter |
|
50 | 20 |
| Aktionen zum Ändern kennzeichnen |
|
20 | 10 |
| Aktionen zum Lesen taggen |
|
50 | 20 |
| Aktionen zum Ändern festlegen |
|
10 | 1 |
| Leseaktionen einrichten |
|
50 | 20 |
| Aktionen zum Ändern von Clusterressourcen |
|
100 | 40 |
| Aktionen zum Lesen von Clusterressourcen |
|
100 | 20 |
| Aktionen zum Ändern von Agenten |
|
200 | 120 |
| Aktionen zum Ändern des Dienstes |
|
50 | 5 |
| Aktionen zum Lesen von Diensten |
|
100 | 20 |
| Aktionen zur Servicebereitstellung |
|
50 | 20 |
| Maßnahmen zur Überarbeitung des Dienstes |
|
50 | 20 |
|
Maßnahmen zum Schutz von Aufgaben |
|
200 | 80 |
| Leseaktionen für Ressourcen des Clusterdienstes |
|
10 | 1 |
1 AWS Fargate drosselt zusätzlich Amazon ECS RunTask API zu den aufgeführten Tarifen hier in der Amazon ECS-Entwicklerhandbuch.
Anpassung der API-Drosselungsquoten
Sie können eine Erhöhung der API-Drosselungskontingente für Ihre beantragen AWS Konto. Um eine Kontingentanpassung anzufordern, kontaktieren Sie das AWS Support -Center
Umgang mit API-Drosselung
Sie können eine Strategie zur Wiederholung von Fehlern und eine exponentielle Back-Off-Strategie implementieren, um die Auswirkungen von Drosselungsfehlern auf Ihre Workloads zu vermeiden. Wenn Sie verwenden AWS SDK, die automatische Wiederholungslogik ist bereits integriert und konfigurierbar. Weitere Informationen finden Sie in den folgenden Ressourcen:
-
Wiederholte Fehler und exponentielles Backoff in AWS in der AWS Allgemeines Referenzhandbuch
-
Exponentieller Backoff und Jitter
Blog-Beitrag -
Timeouts, Wiederholungsversuche und Backoff mit Jitter
Artikel in der Amazon Builder's Library
Wiederholungen und Back-off helfen Ihrer Anwendung, sich von der Drosselung zu erholen, aber sie reduzieren nicht die Anzahl der API-Anfragen, die Sie stellen. Wenn Sie ständig gedrosselt werden, besteht das wirksamste Mittel darin, Ihre Anforderungsrate an der Quelle zu senken. Erwägen Sie die folgenden Praktiken, bevor Sie eine Kontingenterhöhung beantragen:
-
Verteilen Sie die geplante Arbeit. Vermeiden Sie es, Batch-Jobs, Bereitstellungen oder Abfrageschleifen für viele Ressourcen gleichzeitig auszuführen (z. B. in derselben Cron-Minute). Verteilen Sie die Arbeit auf ein größeres Zeitfenster und fügen Sie den Startzeiten Jitter hinzu, sodass Anfragen nicht in einem einzigen Burst eingehen.
-
Fragen Sie seltener ab und reagieren Sie auf Ereignisse. Anstatt wiederholt anzurufen
DescribeundListAktionen, um Änderungen zu erkennen, Ihr Abfrageintervall zu verlängern oder Amazon ECS-Statusänderungen über Amazon zu abonnieren EventBridge und reagieren Sie auf Änderungen, sobald sie eintreten. -
Ergebnisse zwischenspeichern und wiederverwenden. Zwischenspeichern Sie die Antworten von Leseaktionen wie
DescribeTasksundListTasksund verwenden Sie sie in Ihrer gesamten Anwendung wieder, anstatt die API für jede Aufgabe oder jede Anfrage aufzurufen. -
Stapeln Sie Ihre Anfragen. Wenn eine API mehrere Ressourcen in einem einzigen Aufruf akzeptiert (z. B. die Übergabe mehrerer Aufgaben-IDs an
DescribeTasks), verwenden Sie es, anstatt eine Anfrage pro Ressource zu stellen. -
Rufen Sie Aufgabenmetadaten lokal ab. Informationen zu einer laufenden Aufgabe finden Sie im Endpunkt für Aufgaben-Metadaten aus der Aufgabe heraus statt aufzurufen
DescribeTasks.
Request-rate Kontingente schützen die Serviceleistung und die faire Nutzung durch alle Kunden. Wenn Sie diese Verfahren angewendet haben und immer noch eine höhere Anforderungsrate für eine legitime Arbeitslast benötigen, können Sie eine Erhöhung beantragen, wie unter beschrieben Anpassung der API-Drosselungsquoten.