View a markdown version of this page

Drosselung für die Amazon ECS-API anfordern - Amazon Elastic Container Service

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Drosselung für die Amazon ECS-API anfordern

Amazon Elastic Container Service drosselt alle API-Anfragen für jede AWS Konto pro Region. Wir tun dies, um eine gleichbleibende Leistung und eine faire Nutzung des Dienstes für alle Amazon ECS-Kunden sicherzustellen. Durch die Drosselung wird sichergestellt, dass Aufrufe der Amazon ECS-API die maximal zulässigen API-Anforderungsquoten sowohl für Amazon ECS als auch für Amazon ECS nicht überschreiten AWS Dienste, in die es integriert ist. API-Aufrufe unterliegen den Anforderungsquoten, unabhängig davon, ob sie von folgenden Quellen stammen:

  • Eine Drittanbieteranwendung

  • Ein Befehlszeilentool

  • Die Amazon ECS-Konsole

Wenn Sie eine API-Drosselungsquote überschreiten, erhalten Sie ThrottlingException Fehlercode.

An error occurred (ThrottlingException) when calling the DescribeClusters operation (reached max retries: 4): Rate exceeded. com.amazonaws.services.ecs.model.AmazonECSException: Rate exceeded (Service: AmazonECS; Status Code: 400; Error Code: ThrottlingException; Request ID: 5ed90669-e454-464d-9b2f-6523bc86f537; Proxy: null)

Wie wird die Drosselung angewendet

Amazon ECS verwendet die Token-Bucket-Algorithmus um API-Drosselung zu implementieren. Mit diesem Algorithmus verfügt Ihr Konto über einen Bucket, welcher eine bestimmte Anzahl von Tokens enthält. Die Anzahl der Tokens im Bucket entspricht Ihrem Drosselungskontingent zu jedem beliebigen Zeitpunkt.

Amazon ECS untersucht die Rate der eingereichten API-Anfragen für alle Amazon ECS-APIs in Ihrem Konto pro Region und wendet zwei Arten von API-Drosselungsquoten an: nachhaltig und platzen. Die Dauerrate ist die durchschnittliche Anzahl der API-Anfragen, die pro Sekunde im Laufe der Zeit für einen Vorgang zulässig sind. Die Burst-Rate ist die maximale Anzahl von API-Anfragen, die in einer Sekunde zulässig sind. Mit Burst können Sie in regelmäßigen Abständen eine höhere Anzahl von API-Anfragen stellen als die Dauerrate. Im Anschluss daran drosselt Amazon ECS nachfolgende API-Anfragen, bis sich die Rate der zulässigen API-Anfragen im Laufe der Zeit auf die konstante Rate stabilisiert hat. Im Token-Bucket-Algorithmus ist maximale Kapazität des Eimers steht für die Burst-Rate und Nachfüllrate des Eimers ist die anhaltende Rate. Im folgenden Beispiel verwenden wir diese Begriffe, um Ihnen die Drosselung von Amazon ECS-API-Anfragen zu veranschaulichen.

Die Anzahl der API-Anfragen, die Sie stellen, wird gedrosselt, und jede Anfrage entfernt ein Token aus dem Token-Bucket. Zum Beispiel die Bucketgröße für Cluster-Leseaktionen, wie zum Beispiel DescribeClusters Die API besteht aus 50 Token, sodass Sie bis zu 50 verdienen können DescribeClusters Anfragen in einer Sekunde. Wenn Sie 50 Anfragen in einer Sekunde überschreiten, werden Sie gedrosselt und die verbleibenden Anfragen innerhalb dieser Sekunde schlagen fehl.

Eimer werden automatisch mit einer festgelegten Rate aufgefüllt. Wenn der Bucket seine maximale Kapazität unterschreitet, wird ihm jede Sekunde eine festgelegte Anzahl von Tokens hinzugefügt, bis er seine maximale Kapazität erreicht hat. Wenn der Eimer voll ist, wenn die Nachfüllmarken ankommen, werden sie verworfen. Der Eimer kann nicht mehr als die maximale Anzahl an Tokens aufnehmen. Zum Beispiel die Bucketgröße für Cluster-Leseaktionen, wie zum Beispiel DescribeClusters Die API beträgt 50 Token und die Nachfüllrate beträgt 20 Token pro Sekunde. Wenn du 50 verdienst DescribeClusters API-Anfragen in einer Sekunde, der Bucket wird sofort auf null Token reduziert. Der Bucket wird dann jede Sekunde um 20 Token aufgefüllt, bis er seine maximale Kapazität von 50 Token erreicht hat. Das bedeutet, dass der zuvor leere Eimer nach 2,5 Sekunden seine maximale Kapazität erreicht.

Sie müssen nicht warten, bis der Bucket vollständig voll ist, bevor Sie API-Anfragen stellen können. Sie können Token verwenden, wenn sie dem Bucket hinzugefügt werden. Wenn Sie die Refill-Token sofort verwenden, erreicht der Bucket seine maximale Kapazität nicht. Zum Beispiel die Eimergröße für Cluster-Leseaktionen, wie zum Beispiel DescribeClusters Die API beträgt 50 Token und die Nachfüllrate beträgt 20 Token pro Sekunde. Wenn Sie den Bucket leeren, indem Sie 50 API-Anfragen in einer Sekunde stellen, können Sie weiterhin 20 API-Anfragen pro Sekunde stellen. Der Bucket kann nur dann bis zur maximalen Kapazität aufgefüllt werden, wenn Sie weniger als 20 API-Anfragen pro Sekunde stellen.

Größen und Nachfüllraten von Token-Buckets anfordern

Zur Begrenzung der Anforderungsrate werden API-Aktionen in Kategorien gruppiert. Alle API-Aktionen in einer Kategorie verwenden denselben Token-Bucket. Zum Beispiel DescribeClusters und ListClusters APIs teilen sich die Cluster-Leseaktionen Eimer, für den das Fassungsvermögen 50 und die Nachfüllrate 20 beträgt. Dies bedeutet, dass die kumulierte Anzahl von API-Anfragen für alle Cluster-Leseaktionen wird durch das gleiche Burst-Rate-Kontingent von 50 API-Anfragen gedrosselt. Somit kannst du 25 machen DescribeClusters und 25 ListClusters API-Anfragen in einer Sekunde oder 30 DescribeClusters und 20 ListClusters, oder 50 DescribeClusters und 0 ListClusters, oder 0 DescribeClusters und 50 ListClusters, aber du kannst nicht 50 machen DescribeClusters und 50 ListClusters Anfragen gleichzeitig. Die konstante Rate wird in ähnlicher Weise kumulativ auf alle API-Anfragen innerhalb eines Buckets angewendet.

Die folgende Tabelle zeigt die Bucket-Kapazität (oder Burst) und die Nachfüllrate (oder Dauerbetrieb) für alle AWS Regionen. Alle API-Aktionskategorien setzen Preiskontingente für jede einzelne Kategorie durch AWS Konto pro Region.

API-Aktionskategorie Aktionen Maximale Kapazität des Buckets (oder Burst-Rate) Nachfüllrate des Buckets (oder konstante Rate)
Aktionen zum Ändern von Clustern
  • CreateCluster

  • DeleteCluster

  • PutClusterCapacityProviders

  • UpdateCluster

  • UpdateClusterSettings

20 1
Leseaktionen gruppieren
  • DescribeClusters

  • ListClusters

50 20
Aktionen zum Ändern der Aufgabendefinition
  • DeregisterTaskDefinition

  • RegisterDaemonTaskDefinition

  • RegisterTaskDefinition

20 1
Aktionen zum Lesen von Aufgabendefinitionen
  • DescribeDaemonTaskDefinition

  • DescribeTaskDefinition

  • ListDaemonTaskDefinitions

  • ListTaskDefinitions

  • ListTaskDefinitionFamilies

50 20
Aktionen zum Löschen von Aufgabendefinitionen
  • DeleteDaemonTaskDefinition

  • DeleteTaskDefinitions

5 1
Aktionen zum Ändern von Kapazitäten durch den Kapazitätsanbieter
  • CreateCapacityProvider

  • DeleteCapacityProvider

  • UpdateCapacityProvider

10 1
Aktionen zum Lesen durch den Kapazitätsanbieter
  • DescribeCapacityProviders

50 20
Aktionen zum Ändern kennzeichnen
  • TagResource

  • UntagResource

20 10
Aktionen zum Lesen taggen
  • ListTagsForResource

50 20
Aktionen zum Ändern festlegen
  • DeleteAccountSetting

  • PutAccountSetting

  • PutAccountSettingDefault

10 1
Leseaktionen einrichten
  • ListAccountSettings

50 20
Aktionen zum Ändern von Clusterressourcen
  • DeleteAttributes

  • DeregisterContainerInstance

  • ExecuteCommand

  • PutAttributes

  • RunTask1

  • StartTask

  • StopTask

  • UpdateContainerAgent

  • UpdateContainerInstancesStates

100 40
Aktionen zum Lesen von Clusterressourcen
  • DescribeContainerInstances

  • DescribeTasks

  • ListAttributes

  • ListContainerInstances

  • ListTasks

100 20
Aktionen zum Ändern von Agenten
  • RegisterContainerInstance

  • SubmitAttachmentStateChanges

  • SubmitContainerStateChange

  • SubmitTaskStateChange

200 120
Aktionen zum Ändern des Dienstes
  • CreateDaemon

  • CreateExpressGatewayService

  • CreateService

  • DeleteDaemon

  • DeleteExpressGatewayService

  • DeleteService

  • UpdateDaemon

  • UpdateExpressGatewayService

  • UpdateService

50 5
Aktionen zum Lesen von Diensten
  • DescribeDaemon

  • DescribeExpressGatewayService

  • DescribeServices

  • ListDaemons

  • ListServices

100 20
Aktionen zur Servicebereitstellung
  • DescribeDaemonDeployments

  • DescribeServiceDeployments

  • ListDaemonDeployments

  • ListServiceDeployments

50 20
Maßnahmen zur Überarbeitung des Dienstes
  • DescribeDaemonRevisions

  • DescribeServiceRevisions

50 20

Maßnahmen zum Schutz von Aufgaben

  • UpdateTaskProtection

  • GetTaskProtection

200 80
Leseaktionen für Ressourcen des Clusterdienstes
  • ListServicesByNamespace

10 1

1 AWS Fargate drosselt zusätzlich Amazon ECS RunTask API zu den aufgeführten Tarifen hier in der Amazon ECS-Entwicklerhandbuch.

Anpassung der API-Drosselungsquoten

Sie können eine Erhöhung der API-Drosselungskontingente für Ihre beantragen AWS Konto. Um eine Kontingentanpassung anzufordern, kontaktieren Sie das AWS Support -Center.

Umgang mit API-Drosselung

Sie können eine Strategie zur Wiederholung von Fehlern und eine exponentielle Back-Off-Strategie implementieren, um die Auswirkungen von Drosselungsfehlern auf Ihre Workloads zu vermeiden. Wenn Sie verwenden AWS SDK, die automatische Wiederholungslogik ist bereits integriert und konfigurierbar. Weitere Informationen finden Sie in den folgenden Ressourcen:

Wiederholungen und Back-off helfen Ihrer Anwendung, sich von der Drosselung zu erholen, aber sie reduzieren nicht die Anzahl der API-Anfragen, die Sie stellen. Wenn Sie ständig gedrosselt werden, besteht das wirksamste Mittel darin, Ihre Anforderungsrate an der Quelle zu senken. Erwägen Sie die folgenden Praktiken, bevor Sie eine Kontingenterhöhung beantragen:

  • Verteilen Sie die geplante Arbeit. Vermeiden Sie es, Batch-Jobs, Bereitstellungen oder Abfrageschleifen für viele Ressourcen gleichzeitig auszuführen (z. B. in derselben Cron-Minute). Verteilen Sie die Arbeit auf ein größeres Zeitfenster und fügen Sie den Startzeiten Jitter hinzu, sodass Anfragen nicht in einem einzigen Burst eingehen.

  • Fragen Sie seltener ab und reagieren Sie auf Ereignisse. Anstatt wiederholt anzurufen Describe und List Aktionen, um Änderungen zu erkennen, Ihr Abfrageintervall zu verlängern oder Amazon ECS-Statusänderungen über Amazon zu abonnieren EventBridge und reagieren Sie auf Änderungen, sobald sie eintreten.

  • Ergebnisse zwischenspeichern und wiederverwenden. Zwischenspeichern Sie die Antworten von Leseaktionen wie DescribeTasks und ListTasks und verwenden Sie sie in Ihrer gesamten Anwendung wieder, anstatt die API für jede Aufgabe oder jede Anfrage aufzurufen.

  • Stapeln Sie Ihre Anfragen. Wenn eine API mehrere Ressourcen in einem einzigen Aufruf akzeptiert (z. B. die Übergabe mehrerer Aufgaben-IDs an DescribeTasks), verwenden Sie es, anstatt eine Anfrage pro Ressource zu stellen.

  • Rufen Sie Aufgabenmetadaten lokal ab. Informationen zu einer laufenden Aufgabe finden Sie im Endpunkt für Aufgaben-Metadaten aus der Aufgabe heraus statt aufzurufen DescribeTasks.

Request-rate Kontingente schützen die Serviceleistung und die faire Nutzung durch alle Kunden. Wenn Sie diese Verfahren angewendet haben und immer noch eine höhere Anforderungsrate für eine legitime Arbeitslast benötigen, können Sie eine Erhöhung beantragen, wie unter beschrieben Anpassung der API-Drosselungsquoten.