Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Limitation des demandes pour l'API Amazon ECS
Amazon Elastic Container Service limite toutes les demandes d'API pour chacune AWS compte par région. Nous procédons ainsi pour garantir des performances constantes et une utilisation équitable du service pour tous les clients Amazon ECS. La limitation garantit que les appels à l'API Amazon ECS ne dépassent pas les quotas de demandes d'API maximum autorisés pour Amazon ECS et les autres AWS services auxquels il s'intègre. Les appels d'API sont soumis aux quotas de demandes, qu'ils proviennent de :
-
Une application tierce
-
Un outil en ligne de commande
-
La console Amazon ECS
Si vous dépassez un quota de limitation de l'API, vous obtenez le ThrottlingException code d'erreur.
An error occurred (ThrottlingException) when calling the DescribeClusters operation (reached max retries: 4): Rate exceeded.
com.amazonaws.services.ecs.model.AmazonECSException: Rate exceeded (Service: AmazonECS; Status Code: 400; Error
Code: ThrottlingException; Request ID: 5ed90669-e454-464d-9b2f-6523bc86f537; Proxy: null)
Comment l'étranglement est-il appliqué
Amazon ECS utilise le algorithme de bucket de jetons
Amazon ECS examine le taux de soumission de demandes d'API pour toutes les API Amazon ECS de votre compte, par région, et applique deux types de quotas de limitation des API : subi et éclater. Le taux soutenu est le nombre moyen de requêtes d'API autorisées par seconde au fil du temps pour une opération. Le taux de rafale est le nombre maximum de requêtes d'API autorisées par seconde. Avec burst, vous pouvez périodiquement effectuer un nombre de requêtes d'API supérieur au taux soutenu. Amazon ECS limite ensuite les demandes d'API suivantes jusqu'à ce que le taux de demandes d'API autorisées au fil du temps se stabilise pour atteindre le taux soutenu. Dans l'algorithme du bucket de jetons, le capacité maximale du seau signifie la fréquence de rafale et le taux de remplissage du seau est le taux soutenu. Nous utiliserons ces termes pour vous fournir une illustration de la limitation des requêtes d'API Amazon ECS dans l'exemple suivant.
Le nombre de demandes d'API que vous effectuez est limité et chaque demande supprime un jeton du compartiment de jetons. Par exemple, la taille du seau pour Actions de lecture groupées, comme le DescribeClusters API, c'est 50 jetons, vous pouvez donc en créer jusqu'à 50 DescribeClusters demandes en une seconde. Si vous dépassez 50 demandes en une seconde, vous êtes limité et les demandes restantes au cours de cette seconde échouent.
Les seaux se rechargent automatiquement à un taux défini. Si le compartiment est inférieur à sa capacité maximale, un nombre défini de jetons y est rajouté toutes les secondes jusqu'à ce qu'il atteigne sa capacité maximale. Si le seau est plein à l'arrivée des jetons de recharge, ils sont jetés. Le compartiment ne peut pas contenir plus que son nombre maximum de jetons. Par exemple, la taille du seau pour Actions de lecture groupées, comme le DescribeClusters L'API est de 50 jetons et le taux de recharge est de 20 jetons par seconde. Si vous gagnez 50 DescribeClusters Demandes d'API en une seconde, le compartiment est immédiatement réduit à zéro jeton. Le seau est ensuite rempli de 20 jetons par seconde, jusqu'à ce qu'il atteigne sa capacité maximale de 50 jetons. Cela signifie que le seau précédemment vide atteint sa capacité maximale au bout de 2,5 secondes.
Il n'est pas nécessaire d'attendre que le compartiment soit complètement plein pour pouvoir effectuer des requêtes d'API. Vous pouvez utiliser des jetons au fur et à mesure qu'ils sont ajoutés au bucket. Si vous utilisez immédiatement les jetons de recharge, le seau n'atteindra pas sa capacité maximale. Par exemple, la taille du seau pour Actions de lecture groupées, comme le DescribeClusters L'API est de 50 jetons et le taux de recharge est de 20 jetons par seconde. Si vous épuisez le compartiment en effectuant 50 demandes d'API par seconde, vous pouvez continuer à effectuer 20 demandes d'API par seconde. Le compartiment ne peut être rempli à sa capacité maximale que si vous effectuez moins de 20 demandes d'API par seconde.
Demandez la taille des seaux de jetons et les tarifs de recharge
À des fins de limitation du taux de demandes, les actions d'API sont regroupées en catégories. Toutes les actions d'API d'une catégorie partagent le même compartiment de jetons. Par exemple, DescribeClusters et ListClusters Les API partagent Actions de lecture groupées seau, dont la capacité est de 50 et le taux de remplissage est de 20. Cela signifie que le nombre cumulé de demandes d'API pour toutes Actions de lecture groupées est limité par le même quota de fréquence de rafale de 50 requêtes d'API. Ainsi, vous pouvez faire 25 DescribeClusters et 25 ListClusters Demandes d'API en une seconde, soit 30 DescribeClusters et 20 ListClusters, soit 50 DescribeClusters et 0 ListClusters, ou 0 DescribeClusters et 50 ListClusters, mais tu ne peux pas faire 50 DescribeClusters et 50 ListClusters demandes en même temps. Le taux soutenu est appliqué de la même manière de manière cumulative à toutes les demandes d'API d'un bucket.
Le tableau suivant indique la capacité du seau (ou rafale) et le taux de remplissage (ou continu) pour tous AWS Régions. Toutes les catégories d'actions d'API appliquent des quotas tarifaires pour chacune AWS compte par région.
| Catégorie d'action d'API | Actions | Capacité maximale du compartiment (ou taux en rafale) | Taux de recharge du compartiment (ou taux soutenu) |
|---|---|---|---|
| Actions de modification du cluster |
|
20 | 1 |
| Actions de lecture groupées |
|
50 | 20 |
| Définition des tâches, modification des actions |
|
20 | 1 |
| Définition de la tâche : lire les actions |
|
50 | 20 |
| Actions de suppression de définitions de tâches |
|
5 | 1 |
| Actions de modification du fournisseur de capacité |
|
10 | 1 |
| Le fournisseur de capacité lit les actions |
|
50 | 20 |
| Marquer les actions de modification |
|
20 | 10 |
| Marquer les actions de lecture |
|
50 | 20 |
| Configuration des actions de modification |
|
10 | 1 |
| Configuration des actions de lecture |
|
50 | 20 |
| Actions de modification des ressources du cluster |
|
100 | 40 |
| Actions de lecture des ressources du cluster |
|
100 | 20 |
| Actions de modification de l'agent |
|
200 | 120 |
| Actions de modification du service |
|
50 | 5 |
| Actions de lecture du service |
|
100 | 20 |
| Actions de déploiement de services |
|
50 | 20 |
| Actions de révision des services |
|
50 | 20 |
|
Actions de protection des tâches |
|
200 | 80 |
| Actions de lecture des ressources du service de cluster |
|
10 | 1 |
1 AWS Fargate limite également Amazon ECS RunTask API pour les tarifs indiqués ici dans le Guide du développeur Amazon ECS.
Ajustement des quotas de limitation des API
Vous pouvez demander une augmentation des quotas de limitation des API pour votre AWS compte. Pour demander un ajustement de quota, contactezAWS Support Center
Gestion de la limitation des API
Vous pouvez implémenter une stratégie de nouvelle tentative d'erreur et d'annulation exponentielle pour éviter l'impact des erreurs de limitation sur vos charges de travail. Si vous utilisez AWS SDK, la logique de nouvelle tentative automatique est déjà intégrée et configurable. Vous pouvez consulter les ressources suivantes pour plus de détails :
-
Réessais d'erreur et retard exponentiel dans AWS dans le AWS Guide de référence général
-
Retard exponentiel et gigue
billet de blog -
Délais d'attente, nouvelles tentatives et arrêts avec gigue
article dans la bibliothèque Amazon Builder
Les nouvelles tentatives et les annulations aident votre application à se remettre de la limitation, mais elles ne réduisent pas le nombre de requêtes d'API que vous effectuez. Si vous êtes constamment limité, la solution la plus efficace consiste à réduire votre taux de demandes à la source. Prenez en compte les pratiques suivantes avant de demander une augmentation de quota :
-
Répartissez le travail prévu. Évitez d'exécuter des tâches par lots, des déploiements ou des boucles d'interrogation pour de nombreuses ressources au même instant (par exemple, au cours de la même minute de cron). Répartissez le travail sur une période plus large et modifiez les heures de début afin que les demandes n'arrivent pas en une seule rafale.
-
Interrogez moins fréquemment et réagissez aux événements. Au lieu d'appeler à plusieurs reprises
DescribeetListactions pour détecter les changements, allonger votre intervalle d'interrogation ou vous abonner aux changements d'état d'Amazon ECS via Amazon EventBridge et réagir aux changements au fur et à mesure qu'ils se produisent. -
Mettez en cache et réutilisez les résultats. Mettez en cache les réponses des actions de lecture telles que
DescribeTasksetListTaskset réutilisez-les dans l'ensemble de votre application, plutôt que d'appeler l'API pour chaque tâche ou demande. -
Regroupez vos demandes. Lorsqu'une API accepte plusieurs ressources en un seul appel (par exemple, en transmettant plusieurs ID de tâches à
DescribeTasks), utilisez-le au lieu de faire une demande par ressource. -
Récupérez les métadonnées des tâches localement. Pour plus d'informations sur une tâche en cours d'exécution, utilisez point final des métadonnées des tâches depuis l'intérieur de la tâche au lieu d'appeler
DescribeTasks.
Request-rate les quotas protègent les performances du service et une utilisation équitable pour les clients. Si vous avez appliqué ces pratiques et que vous avez toujours besoin d'un taux de demandes plus élevé pour une charge de travail légitime, vous pouvez demander une augmentation comme décrit dans Ajustement des quotas de limitation des API.