Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Richiedi la limitazione delle richieste per l'API Amazon ECS
Amazon Elastic Container Service limita tutte le richieste API per ciascuna AWS account per regione. Lo facciamo per garantire prestazioni costanti e un uso corretto del servizio per tutti i clienti Amazon ECS. La limitazione garantisce che le chiamate all'API Amazon ECS non superino le quote massime di richieste API consentite sia per Amazon ECS che per gli altri AWS servizi con cui si integra. Le chiamate API sono soggette alle quote di richiesta indipendentemente dal fatto che provengano da:
-
Un'applicazione di terze parti
-
Uno strumento a riga di comando
-
La console Amazon ECS
Se superi una quota di limitazione delle API, ottieni ThrottlingException codice di errore.
An error occurred (ThrottlingException) when calling the DescribeClusters operation (reached max retries: 4): Rate exceeded.
com.amazonaws.services.ecs.model.AmazonECSException: Rate exceeded (Service: AmazonECS; Status Code: 400; Error
Code: ThrottlingException; Request ID: 5ed90669-e454-464d-9b2f-6523bc86f537; Proxy: null)
Come viene applicata la limitazione
Amazon ECS utilizza algoritmo token bucket
Amazon ECS esamina il tasso di invio di richieste API per tutte le API Amazon ECS presenti nel tuo account, per regione, e applica due tipi di quote di limitazione delle API: sostenuti e scoppio. La frequenza sostenuta è il numero medio di richieste API consentite al secondo nel tempo per un'operazione. La frequenza di burst è il numero massimo di richieste API consentite in un secondo. Con il burst, puoi effettuare periodicamente un numero di richieste API superiore alla frequenza sostenuta. Dopodiché, Amazon ECS limita le richieste API successive fino a quando la frequenza di richieste API consentite nel tempo non si stabilizza su una frequenza sostenuta. Nell'algoritmo token bucket, capacità massima del secchio indica la velocità di scoppio e il velocità di ricarica del secchio è il tasso sostenuto. Utilizzeremo questi termini per fornirti un'illustrazione della limitazione delle richieste dell'API Amazon ECS nell'esempio seguente.
Il numero di richieste API effettuate è limitato e ogni richiesta rimuove un token dal bucket di token. Ad esempio, la dimensione del bucket per Azioni di lettura del cluster, come DescribeClusters API, è composto da 50 token, quindi puoi crearne fino a 50 DescribeClusters richieste in un secondo. Se si superano le 50 richieste in un secondo, si viene limitati e le richieste rimanenti entro quel secondo hanno esito negativo.
I bucket si riempiono automaticamente a una velocità prestabilita. Se il bucket è al di sotto della sua capacità massima, gli viene aggiunto un determinato numero di token ogni secondo fino a raggiungere la sua capacità massima. Se il bucket è pieno quando arrivano i gettoni di ricarica, vengono scartati. Il bucket non può contenere più del numero massimo di token. Ad esempio, la dimensione del secchio per Azioni di lettura del cluster, come DescribeClusters L'API è di 50 token e la velocità di ricarica è di 20 token al secondo. Se ne guadagni 50 DescribeClusters Richieste API in un secondo, il bucket viene immediatamente ridotto a zero token. Il bucket viene quindi riempito di 20 token ogni secondo, fino a raggiungere la sua capacità massima di 50 token. Ciò significa che il secchio precedentemente vuoto raggiunge la sua capacità massima dopo 2,5 secondi.
Non è necessario attendere che il bucket sia completamente pieno prima di poter effettuare richieste API. Puoi usare i token man mano che vengono aggiunti al bucket. Se utilizzi immediatamente i gettoni di ricarica, il secchio non raggiunge la sua capacità massima. Ad esempio, la dimensione del secchio per Azioni di lettura del cluster, come DescribeClusters L'API è di 50 token e la velocità di ricarica è di 20 token al secondo. Se esaurisci il bucket effettuando 50 richieste API in un secondo, puoi continuare a effettuare 20 richieste API al secondo. Il bucket può riempirsi fino alla capacità massima solo se effettui meno di 20 richieste API al secondo.
Dimensioni del bucket e tariffe di ricarica dei token
Ai fini della limitazione della frequenza delle richieste, le azioni API sono raggruppate in categorie. Tutte le azioni API in una categoria condividono lo stesso bucket di token. Ad esempio, DescribeClusters e ListClusters Le API condividono Azioni di lettura del cluster secchio, per cui la capacità è 50 e la velocità di ricarica è 20. Ciò significa che il numero cumulativo di richieste API per tutte Azioni di lettura del cluster è limitato dalla stessa quota di burst rate di 50 richieste API. Quindi, puoi fare 25 DescribeClusters e 25 ListClusters richieste API in un secondo o 30 DescribeClusters e 20 ListClusters, o 50 DescribeClusters e 0 ListClusters, o 0 DescribeClusters e 50 ListClusters, ma non puoi farne 50 DescribeClusters e 50 ListClusters richieste contemporaneamente. La velocità sostenuta viene applicata in modo simile cumulativamente a tutte le richieste API all'interno di un bucket.
La tabella seguente mostra la capacità (o burst) del bucket e la velocità di ricarica (o sostenuta) per tutti AWS Regioni. Tutte le categorie di azioni API applicano quote tariffarie per ciascuna AWS account per regione.
| Categoria di azione API | Azioni | Capacità massima del bucket (o velocità di espansione) | Velocità di ricarica del bucket (o velocità sostenuta) |
|---|---|---|---|
| Azioni di modifica del cluster |
|
20 | 1 |
| Azioni di lettura del cluster |
|
50 | 20 |
| Definizione delle attività: azioni di modifica |
|
20 | 1 |
| Azioni di lettura della definizione dell'attività |
|
50 | 20 |
| Azioni di eliminazione della definizione delle attività |
|
5 | 1 |
| Azioni di modifica del fornitore di capacità |
|
10 | 1 |
| Le azioni di lettura del fornitore di capacità |
|
50 | 20 |
| Contrassegna le azioni di modifica |
|
20 | 10 |
| Contrassegna le azioni di lettura |
|
50 | 20 |
| Impostazione delle azioni di modifica |
|
10 | 1 |
| Impostazione delle azioni di lettura |
|
50 | 20 |
| Azioni di modifica delle risorse del cluster |
|
100 | 40 |
| Azioni di lettura delle risorse del cluster |
|
100 | 20 |
| Azioni di modifica dell'agente |
|
200 | 120 |
| Azioni di modifica del servizio |
|
50 | 5 |
| Azioni di lettura del servizio |
|
100 | 20 |
| Azioni di distribuzione del servizio |
|
50 | 20 |
| Azioni di revisione del servizio |
|
50 | 20 |
|
Azioni di protezione delle attività |
|
200 | 80 |
| Azioni di lettura delle risorse del servizio cluster |
|
10 | 1 |
1 AWS Fargate limita inoltre Amazon ECS RunTask API per le tariffe elencate qui nel Guida per gli sviluppatori di Amazon ECS.
Regolazione delle quote di limitazione delle API
Puoi richiedere un aumento delle quote di limitazione delle API per i tuoi AWS account. Per richiedere un adeguamento delle quote, contatta il centro Supporto AWS
Gestione della limitazione delle API
Puoi implementare un nuovo tentativo di errore e una strategia di back-off esponenziale per evitare l'impatto degli errori di limitazione sui tuoi carichi di lavoro. Se usi AWS SDK, la logica di riprova automatica è già integrata e configurabile. Puoi fare riferimento alle seguenti risorse per maggiori dettagli:
-
Ritentativi di errore e backoff esponenziale in AWS nel AWS Guida di riferimento generale
-
Backoff e jitter esponenziali
post sul blog -
Timeout, tentativi e backoff con jitter
articolo nella libreria di Amazon Builder
I tentativi e il back-off aiutano l'applicazione a riprendersi dalla limitazione, ma non riducono il numero di richieste API effettuate. Se la limitazione è costante, la soluzione più efficace è ridurre il tasso di richieste alla fonte. Considerate le seguenti pratiche prima di richiedere un aumento della quota:
-
Distribuisci il lavoro programmato. Evita di eseguire processi in batch, distribuzioni o cicli di polling per molte risorse contemporaneamente (ad esempio, nello stesso cron minute). Distribuisci il lavoro su una finestra temporale più ampia e aggiungi tremolio agli orari di inizio in modo che le richieste non arrivino in un'unica sequenza.
-
Effettua sondaggi meno frequentemente e reagisci agli eventi. Invece di chiamare ripetutamente
DescribeeListazioni per rilevare modifiche, allungare l'intervallo di polling o sottoscrivere le modifiche di stato di Amazon ECS tramite Amazon EventBridge e reagisci ai cambiamenti man mano che si verificano. -
Memorizza e riutilizza i risultati. Memorizza nella cache le risposte delle azioni lette, ad esempio
DescribeTaskseListTaskse riutilizzali nell'applicazione, anziché chiamare l'API per ogni attività o per ogni richiesta. -
Raggruppa le tue richieste. Dove un'API accetta più risorse in una singola chiamata (ad esempio, passando più ID di attività a
DescribeTasks), usala invece di effettuare una richiesta per risorsa. -
Recupera i metadati delle attività localmente. Per informazioni su un'attività in esecuzione, usa endpoint dei metadati dell'attività dall'interno dell'attività invece di chiamare
DescribeTasks.
Request-rate le quote proteggono le prestazioni del servizio e il fair use tra i clienti. Se hai applicato queste pratiche e desideri comunque una percentuale di richieste più elevata per un carico di lavoro legittimo, puoi richiedere un aumento come descritto in Regolazione delle quote di limitazione delle API.