View a markdown version of this page

Richiedi la limitazione delle richieste per l'API Amazon ECS - Amazon Elastic Container Service

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Richiedi la limitazione delle richieste per l'API Amazon ECS

Amazon Elastic Container Service limita tutte le richieste API per ciascuna AWS account per regione. Lo facciamo per garantire prestazioni costanti e un uso corretto del servizio per tutti i clienti Amazon ECS. La limitazione garantisce che le chiamate all'API Amazon ECS non superino le quote massime di richieste API consentite sia per Amazon ECS che per gli altri AWS servizi con cui si integra. Le chiamate API sono soggette alle quote di richiesta indipendentemente dal fatto che provengano da:

  • Un'applicazione di terze parti

  • Uno strumento a riga di comando

  • La console Amazon ECS

Se superi una quota di limitazione delle API, ottieni ThrottlingException codice di errore.

An error occurred (ThrottlingException) when calling the DescribeClusters operation (reached max retries: 4): Rate exceeded. com.amazonaws.services.ecs.model.AmazonECSException: Rate exceeded (Service: AmazonECS; Status Code: 400; Error Code: ThrottlingException; Request ID: 5ed90669-e454-464d-9b2f-6523bc86f537; Proxy: null)

Come viene applicata la limitazione

Amazon ECS utilizza algoritmo token bucket per implementare la limitazione delle API. Con questo algoritmo, il tuo account ha un secchio che contiene un numero specifico di gettoni. Il numero di token nel bucket rappresenta la tua quota di limitazione in un dato secondo.

Amazon ECS esamina il tasso di invio di richieste API per tutte le API Amazon ECS presenti nel tuo account, per regione, e applica due tipi di quote di limitazione delle API: sostenuti e scoppio. La frequenza sostenuta è il numero medio di richieste API consentite al secondo nel tempo per un'operazione. La frequenza di burst è il numero massimo di richieste API consentite in un secondo. Con il burst, puoi effettuare periodicamente un numero di richieste API superiore alla frequenza sostenuta. Dopodiché, Amazon ECS limita le richieste API successive fino a quando la frequenza di richieste API consentite nel tempo non si stabilizza su una frequenza sostenuta. Nell'algoritmo token bucket, capacità massima del secchio indica la velocità di scoppio e il velocità di ricarica del secchio è il tasso sostenuto. Utilizzeremo questi termini per fornirti un'illustrazione della limitazione delle richieste dell'API Amazon ECS nell'esempio seguente.

Il numero di richieste API effettuate è limitato e ogni richiesta rimuove un token dal bucket di token. Ad esempio, la dimensione del bucket per Azioni di lettura del cluster, come DescribeClusters API, è composto da 50 token, quindi puoi crearne fino a 50 DescribeClusters richieste in un secondo. Se si superano le 50 richieste in un secondo, si viene limitati e le richieste rimanenti entro quel secondo hanno esito negativo.

I bucket si riempiono automaticamente a una velocità prestabilita. Se il bucket è al di sotto della sua capacità massima, gli viene aggiunto un determinato numero di token ogni secondo fino a raggiungere la sua capacità massima. Se il bucket è pieno quando arrivano i gettoni di ricarica, vengono scartati. Il bucket non può contenere più del numero massimo di token. Ad esempio, la dimensione del secchio per Azioni di lettura del cluster, come DescribeClusters L'API è di 50 token e la velocità di ricarica è di 20 token al secondo. Se ne guadagni 50 DescribeClusters Richieste API in un secondo, il bucket viene immediatamente ridotto a zero token. Il bucket viene quindi riempito di 20 token ogni secondo, fino a raggiungere la sua capacità massima di 50 token. Ciò significa che il secchio precedentemente vuoto raggiunge la sua capacità massima dopo 2,5 secondi.

Non è necessario attendere che il bucket sia completamente pieno prima di poter effettuare richieste API. Puoi usare i token man mano che vengono aggiunti al bucket. Se utilizzi immediatamente i gettoni di ricarica, il secchio non raggiunge la sua capacità massima. Ad esempio, la dimensione del secchio per Azioni di lettura del cluster, come DescribeClusters L'API è di 50 token e la velocità di ricarica è di 20 token al secondo. Se esaurisci il bucket effettuando 50 richieste API in un secondo, puoi continuare a effettuare 20 richieste API al secondo. Il bucket può riempirsi fino alla capacità massima solo se effettui meno di 20 richieste API al secondo.

Dimensioni del bucket e tariffe di ricarica dei token

Ai fini della limitazione della frequenza delle richieste, le azioni API sono raggruppate in categorie. Tutte le azioni API in una categoria condividono lo stesso bucket di token. Ad esempio, DescribeClusters e ListClusters Le API condividono Azioni di lettura del cluster secchio, per cui la capacità è 50 e la velocità di ricarica è 20. Ciò significa che il numero cumulativo di richieste API per tutte Azioni di lettura del cluster è limitato dalla stessa quota di burst rate di 50 richieste API. Quindi, puoi fare 25 DescribeClusters e 25 ListClusters richieste API in un secondo o 30 DescribeClusters e 20 ListClusters, o 50 DescribeClusters e 0 ListClusters, o 0 DescribeClusters e 50 ListClusters, ma non puoi farne 50 DescribeClusters e 50 ListClusters richieste contemporaneamente. La velocità sostenuta viene applicata in modo simile cumulativamente a tutte le richieste API all'interno di un bucket.

La tabella seguente mostra la capacità (o burst) del bucket e la velocità di ricarica (o sostenuta) per tutti AWS Regioni. Tutte le categorie di azioni API applicano quote tariffarie per ciascuna AWS account per regione.

Categoria di azione API Azioni Capacità massima del bucket (o velocità di espansione) Velocità di ricarica del bucket (o velocità sostenuta)
Azioni di modifica del cluster
  • CreateCluster

  • DeleteCluster

  • PutClusterCapacityProviders

  • UpdateCluster

  • UpdateClusterSettings

20 1
Azioni di lettura del cluster
  • DescribeClusters

  • ListClusters

50 20
Definizione delle attività: azioni di modifica
  • DeregisterTaskDefinition

  • RegisterDaemonTaskDefinition

  • RegisterTaskDefinition

20 1
Azioni di lettura della definizione dell'attività
  • DescribeDaemonTaskDefinition

  • DescribeTaskDefinition

  • ListDaemonTaskDefinitions

  • ListTaskDefinitions

  • ListTaskDefinitionFamilies

50 20
Azioni di eliminazione della definizione delle attività
  • DeleteDaemonTaskDefinition

  • DeleteTaskDefinitions

5 1
Azioni di modifica del fornitore di capacità
  • CreateCapacityProvider

  • DeleteCapacityProvider

  • UpdateCapacityProvider

10 1
Le azioni di lettura del fornitore di capacità
  • DescribeCapacityProviders

50 20
Contrassegna le azioni di modifica
  • TagResource

  • UntagResource

20 10
Contrassegna le azioni di lettura
  • ListTagsForResource

50 20
Impostazione delle azioni di modifica
  • DeleteAccountSetting

  • PutAccountSetting

  • PutAccountSettingDefault

10 1
Impostazione delle azioni di lettura
  • ListAccountSettings

50 20
Azioni di modifica delle risorse del cluster
  • DeleteAttributes

  • DeregisterContainerInstance

  • ExecuteCommand

  • PutAttributes

  • RunTask1

  • StartTask

  • StopTask

  • UpdateContainerAgent

  • UpdateContainerInstancesStates

100 40
Azioni di lettura delle risorse del cluster
  • DescribeContainerInstances

  • DescribeTasks

  • ListAttributes

  • ListContainerInstances

  • ListTasks

100 20
Azioni di modifica dell'agente
  • RegisterContainerInstance

  • SubmitAttachmentStateChanges

  • SubmitContainerStateChange

  • SubmitTaskStateChange

200 120
Azioni di modifica del servizio
  • CreateDaemon

  • CreateExpressGatewayService

  • CreateService

  • DeleteDaemon

  • DeleteExpressGatewayService

  • DeleteService

  • UpdateDaemon

  • UpdateExpressGatewayService

  • UpdateService

50 5
Azioni di lettura del servizio
  • DescribeDaemon

  • DescribeExpressGatewayService

  • DescribeServices

  • ListDaemons

  • ListServices

100 20
Azioni di distribuzione del servizio
  • DescribeDaemonDeployments

  • DescribeServiceDeployments

  • ListDaemonDeployments

  • ListServiceDeployments

50 20
Azioni di revisione del servizio
  • DescribeDaemonRevisions

  • DescribeServiceRevisions

50 20

Azioni di protezione delle attività

  • UpdateTaskProtection

  • GetTaskProtection

200 80
Azioni di lettura delle risorse del servizio cluster
  • ListServicesByNamespace

10 1

1 AWS Fargate limita inoltre Amazon ECS RunTask API per le tariffe elencate qui nel Guida per gli sviluppatori di Amazon ECS.

Regolazione delle quote di limitazione delle API

Puoi richiedere un aumento delle quote di limitazione delle API per i tuoi AWS account. Per richiedere un adeguamento delle quote, contatta il centro Supporto AWS.

Gestione della limitazione delle API

Puoi implementare un nuovo tentativo di errore e una strategia di back-off esponenziale per evitare l'impatto degli errori di limitazione sui tuoi carichi di lavoro. Se usi AWS SDK, la logica di riprova automatica è già integrata e configurabile. Puoi fare riferimento alle seguenti risorse per maggiori dettagli:

I tentativi e il back-off aiutano l'applicazione a riprendersi dalla limitazione, ma non riducono il numero di richieste API effettuate. Se la limitazione è costante, la soluzione più efficace è ridurre il tasso di richieste alla fonte. Considerate le seguenti pratiche prima di richiedere un aumento della quota:

  • Distribuisci il lavoro programmato. Evita di eseguire processi in batch, distribuzioni o cicli di polling per molte risorse contemporaneamente (ad esempio, nello stesso cron minute). Distribuisci il lavoro su una finestra temporale più ampia e aggiungi tremolio agli orari di inizio in modo che le richieste non arrivino in un'unica sequenza.

  • Effettua sondaggi meno frequentemente e reagisci agli eventi. Invece di chiamare ripetutamente Describe e List azioni per rilevare modifiche, allungare l'intervallo di polling o sottoscrivere le modifiche di stato di Amazon ECS tramite Amazon EventBridge e reagisci ai cambiamenti man mano che si verificano.

  • Memorizza e riutilizza i risultati. Memorizza nella cache le risposte delle azioni lette, ad esempio DescribeTasks e ListTasks e riutilizzali nell'applicazione, anziché chiamare l'API per ogni attività o per ogni richiesta.

  • Raggruppa le tue richieste. Dove un'API accetta più risorse in una singola chiamata (ad esempio, passando più ID di attività a DescribeTasks), usala invece di effettuare una richiesta per risorsa.

  • Recupera i metadati delle attività localmente. Per informazioni su un'attività in esecuzione, usa endpoint dei metadati dell'attività dall'interno dell'attività invece di chiamare DescribeTasks.

Request-rate le quote proteggono le prestazioni del servizio e il fair use tra i clienti. Se hai applicato queste pratiche e desideri comunque una percentuale di richieste più elevata per un carico di lavoro legittimo, puoi richiedere un aumento come descritto in Regolazione delle quote di limitazione delle API.