View a markdown version of this page

Comprendre la stratégie et les scénarios d'allocation de nœuds Amazon EMR - Amazon EMR
Stratégie d'allocation de nœudConsidérations concernant l'allocation de nœudsScénarios d'allocation de nœuds

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Comprendre la stratégie et les scénarios d'allocation de nœuds Amazon EMR

Cette section donne un aperçu de la stratégie d'allocation des nœuds et des scénarios de mise à l'échelle courants que vous pouvez utiliser avec la mise à l'échelle gérée par Amazon EMR.

Stratégie d'allocation de nœud

La mise à l'échelle gérée par Amazon EMR alloue les nœuds principaux et les nœuds de tâches en fonction des stratégies d'augmentation et de réduction d'échelle suivantes :

Scale-up stratégie

  • Pour les versions 7.2 et supérieures d'Amazon EMR, Managed Scaling ajoute d'abord des nœuds en fonction des étiquettes des nœuds et de la propriété YARN de restriction du processus d'application.

  • Pour les versions 7.2 et supérieures d'Amazon EMR, si vous avez activé les libellés de nœuds et restreint les processus d'application pour CORE nœuds, la mise à l'échelle gérée par Amazon EMR fait évoluer les nœuds principaux et les nœuds de tâches si la demande des processus applicatifs augmente et que la demande des exécuteurs augmente. De même, si vous avez activé les libellés des nœuds et restreint les processus d'application à ON_DEMAND nœuds, la mise à l'échelle gérée augmente les nœuds à la demande si la demande des processus applicatifs augmente et augmente les nœuds ponctuels si la demande de l'exécuteur augmente.

  • Si les étiquettes de nœud ne sont pas activées, le placement du processus de candidature n'est limité à aucun nœud ou type de marché.

  • En utilisant des étiquettes de nœuds, la mise à l'échelle gérée peut augmenter et réduire différents groupes d'instances et parcs d'instances au cours d'une même opération de redimensionnement. Par exemple, dans un scénario dans lequel instance_group1 a ON_DEMAND nœud et instance_group2 possède un SPOT nœud, et les étiquettes de nœud sont activées et les processus d'application sont limités aux nœuds dotés du ON_DEMAND étiquette. La mise à l'échelle gérée sera réduite instance_group1 et passez à l'échelle instance_group2 si la demande du processus de demande diminue et que la demande des exécuteurs augmente.

  • Lorsque Amazon EMR subit un retard dans l'augmentation avec le groupe d'instances actuel, les clusters qui utilisent la mise à l'échelle gérée basculent automatiquement vers un autre groupe d'instances de tâches.

  • Si le paramètre MaximumCoreCapacityUnits est défini, Amazon EMR adapte les nœuds principaux jusqu'à ce que les unités principales atteignent la limite maximale autorisée. Toute la capacité restante est ajoutée aux nœuds de tâches.

  • Si le MaximumOnDemandCapacityUnits le paramètre est défini, puis Amazon EMR redimensionne le cluster à l'aide du On-Demand Instances jusqu'au On-Demand les unités atteignent la limite maximale autorisée. Toute la capacité restante est ajoutée à l'aide d'instances Spot.

  • Si les paramètres MaximumCoreCapacityUnits et MaximumOnDemandCapacityUnits sont définis, Amazon EMR prend en compte les deux limites lors de la mise à l'échelle.

    Par exemple, si MaximumCoreCapacityUnits est inférieur à MaximumOnDemandCapacityUnits, Amazon EMR augmente d'abord les nœuds principaux jusqu'à ce que la limite de capacité principale soit atteinte. Pour la capacité restante, Amazon EMR utilise d'abord On-Demand Instances permettant de dimensionner les nœuds de tâches jusqu'à On-Demand la limite est atteinte, puis utilise des instances Spot pour les nœuds de tâches.

Scale-down stratégie

  • À l'instar de la stratégie de mise à l'échelle, Amazon EMR supprime des nœuds en fonction de leurs étiquettes. Pour plus d'informations sur les libellés des nœuds, consultez Comprendre les types de nœuds : nœuds principaux, principaux et de tâches.

  • Si vous n'avez pas activé les étiquettes de nœuds, la mise à l'échelle gérée supprime les nœuds de tâche, puis les nœuds principaux jusqu'à ce que la capacité cible de réduction souhaitée soit atteinte. Le dimensionnement géré ne réduit jamais le cluster en dessous des contraintes minimales spécifiées dans la politique de dimensionnement géré.

  • Les versions 5.34.0 et supérieures d'Amazon EMR et les versions 6.4.0 et supérieures d'Amazon EMR prennent en charge Spark shuffle data awareness, qui empêche une instance de réduire la taille alors que Managed Scaling prend connaissance des données de shuffle existantes. Pour plus d'informations sur les opérations de réorganisation, consultez le Guide de programmation Spark. Managed Scaling met tout en œuvre pour empêcher la réduction de la taille des nœuds en mélangeant les données de l'étape actuelle et de la phase précédente de toute application Spark active, pendant une durée maximale de 30 minutes. Cela permet de minimiser les pertes involontaires de données dues au remaniement, évitant ainsi de devoir recommencer les tâches et de recalculer les données intermédiaires. Cependant, la prévention de la perte de données due au shuffle n'est pas garantie. Pour améliorer la protection contre le shuffle dans Spark, nous recommandons de prendre en compte le shuffle sur les clusters dotés de l'étiquette de version 7.4 ou supérieure. Ajoutez les indicateurs suivants à la configuration du cluster pour améliorer la protection contre Spark shuffle.

    • Si l'un ou l'autre yarn.nodemanager.shuffledata-monitor.interval-ms drapeau (30 000 ms par défaut) ou le spark.dynamicAllocation.executorIdleTimeout (60 secondes par défaut) a été modifiée par rapport aux valeurs par défaut, assurez-vous que la condition spark.dynamicAllocation.executorIdleTimeout > yarn.nodemanager.shuffledata-monitor.interval-ms reste true en mettant à jour le drapeau nécessaire.

      [
	{
		"Classification": "yarn-site",
		"Properties": { 
		"yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-shuffle-data": "true"
		}
	},
	{
		"Classification": "spark-defaults",
		"Properties": {
		"spark.dynamicAllocation.enabled": "true",
		"spark.shuffle.service.removeShuffle": "true"
		}
	}
]

  • La mise à l'échelle gérée supprime d'abord les nœuds de tâches, puis les nœuds principaux jusqu'à atteindre la capacité cible de réduction souhaitée. Le cluster n'évolue jamais en dessous des contraintes minimales spécifiées dans la politique de dimensionnement gérée.

  • Pour les clusters lancés avec Amazon EMR 5.x versions 5.34.0 et supérieures, et 6.x versions 6.4.0 et supérieures, Amazon EMR Managed Scaling ne réduit pas la taille des nœuds qui ont ApplicationMaster pour Apache Spark, s'il existe des étapes actives dans les applications qui y sont exécutées. Cela permet de minimiser les échecs et les nouvelles tentatives, ce qui contribue à améliorer les performances de tâche et à réduire les coûts. Pour vérifier quels nœuds de votre cluster exécutent ApplicationMaster, rendez-vous sur le serveur d'historique Spark et filtrez le pilote sous l'onglet Exécuteurs de l'ID de votre application Spark.

  • Bien que la mise à l'échelle intelligente avec EMR Managed Scaling minimise les pertes de données liées au shuffle pour Spark, il peut arriver que les données de shuffle transitoire ne soient pas protégées lors d'une réduction d'échelle. Pour améliorer la résilience des données mélangées lors de la réduction d'échelle, nous vous recommandons d'activer Mise hors service gracieuse pour Shuffle Data dans YARN. Quand Mise hors service gracieuse pour Shuffle Data est activé dans YARN, les nœuds sélectionnés pour la réduction d'échelle qui contiennent des données mélangées entreront dans le Démantèlement énoncez et continuez à servir les fichiers shuffle. Le FIL ResourceManager attend que les nœuds signalent la présence d'aucun fichier aléatoire avant de supprimer les nœuds du cluster.

    • Prise en charge d'Amazon EMR version 6.11.0 et versions supérieures Yarn-based mise hors service gracieuse pour Ruche mélanger les données pour le Tez et MapReduce Shuffle Handlers.

      • Activez la mise hors service gracieuse pour Shuffle Data en réglant yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-shuffle-data pour true.

    • Prise en charge d'Amazon EMR version 7.4.0 et versions supérieures Yarn-based mise hors service progressive des données Spark shuffle lorsque le service de shuffle externe est activé (activé par défaut dans EMR sur EC2).

      • Le comportement par défaut du service de shuffle externe de Spark, lors de l'exécution de Spark sur Yarn, est pour le Yarn NodeManager pour supprimer les fichiers de sélection des applications au moment de la fermeture de l'application. Cela peut avoir un impact sur la vitesse de mise hors service des nœuds et sur l'utilisation du calcul. Pour les applications de longue durée, pensez à configurer spark.shuffle.service.removeShuffle pour true pour supprimer les fichiers shuffle qui ne sont plus utilisés afin de permettre une mise hors service plus rapide des nœuds sans données de shuffle actives.

    • Pour minimiser la perte de données Spark shuffle dans Amazon EMR version 7.4.0 et versions ultérieures, pensez à définir les indicateurs suivants.

      • Si l'un ou l'autre yarn.nodemanager.shuffledata-monitor.interval-ms drapeau (30 000 ms par défaut) ou le spark.dynamicAllocation.executorIdleTimeout (60 secondes par défaut) a été modifiée par rapport aux valeurs par défaut, assurez-vous que la condition spark.dynamicAllocation.executorIdleTimeout > yarn.nodemanager.shuffledata-monitor.interval-ms reste true en mettant à jour le drapeau nécessaire.

        [
	{
		"Classification": "yarn-site",
		"Properties": { 
		"yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-shuffle-data": "true"
		}
	},
	{
		"Classification": "spark-defaults",
		"Properties": {
		"spark.dynamicAllocation.enabled": "true",
		"spark.shuffle.service.removeShuffle": "true"
		}
	}
]

Si le cluster n'est pas chargé, Amazon EMR annule l'ajout de nouvelles instances issues d'une évaluation précédente et effectue des opérations de réduction. Si le cluster est soumis à une charge importante, Amazon EMR annule la suppression des instances et effectue des opérations d'augmentation.

Considérations concernant l'allocation de nœuds

Nous vous recommandons d'utiliser le On-Demand option d'achat pour les nœuds principaux afin d'éviter la perte de données HDFS en cas de récupération ponctuelle. Vous pouvez utiliser l'option d'achat Spot pour les nœuds de tâches afin de réduire les coûts et d'accélérer l'exécution des tâches lorsque davantage d'instances Spot sont ajoutées aux nœuds de tâches.

Scénarios d'allocation de nœuds

Vous pouvez créer différents scénarios de dimensionnement en fonction de vos besoins en configurant le maximum, le minimum, On-Demand limite et paramètres maximum du nœud principal dans différentes combinaisons.

Scénario 1 : mise à l'échelle des nœuds principaux uniquement

Pour mettre à l'échelle les nœuds principaux uniquement, les paramètres de mise à l'échelle gérée doivent répondre aux exigences suivantes :

  • Le On-Demand limite est égale à la limite maximale.

  • Le nœud principal maximal est égal à la limite maximale.

Quand le On-Demand les paramètres limit et maximum du nœud central ne sont pas spécifiés, les deux paramètres sont définis par défaut sur la limite maximale.

Ce scénario ne s'applique pas si vous utilisez une mise à l'échelle gérée avec des étiquettes de nœud et si vous limitez les processus de votre application à ne s'exécuter que sur CORE nœuds, car la mise à l'échelle gérée fait évoluer les nœuds de tâches pour répondre à la demande de l'exécuteur.

Les exemples suivants montrent le scénario de mise à l'échelle des nœuds principaux uniquement.

État initial du cluster Paramètres de dimensionnement Comportement de mise à l'échelle.

Groupes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand et 1 place

UnitType : Instances

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 20

MaximumCoreCapacityUnits : 20

Passez de 1 à 20 instances ou unités de parc d'instances sur les nœuds principaux à l'aide de On-Demand type. Aucune mise à l'échelle sur les nœuds de tâches.

Lorsque vous utilisez une mise à l'échelle gérée avec des étiquettes de nœuds et que vous limitez les processus de votre application à ON_DEMAND nœuds, le cluster fera évoluer de 1 à 20 instances ou unités de parc d'instances sur CORE nœuds à l'aide du On-Demand ou Spot type, en fonction du type de demande.

Flottes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand et 1 place

UnitType: InstanceFleetUnits

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 20

MaximumCoreCapacityUnits : 20

Scénario 2 : mettre à l'échelle les nœuds de tâches uniquement

Pour mettre à l'échelle les nœuds de tâches uniquement, les paramètres de mise à l'échelle gérée doivent répondre aux exigences suivantes :

  • Le nœud principal maximal doit être égal à la limite minimale.

Les exemples suivants montrent le scénario de mise à l'échelle des nœuds de tâches uniquement.

État initial du cluster Paramètres de dimensionnement Comportement de mise à l'échelle.

Groupes d'instances

Noyau : 2 On-Demand

De tâche : 1 Spot

UnitType : Instances

MinimumCapacityUnits : 2

MaximumCapacityUnits : 20

MaximumCoreCapacityUnits : 2

Maintenez la stabilité des nœuds principaux à 2 et mettez à l'échelle uniquement les nœuds de tâches entre 0 et 18 instances ou unités de flotte d'instances. La capacité entre les limites minimale et maximale est ajoutée aux nœuds de tâches uniquement.

Lorsque vous utilisez une mise à l'échelle gérée avec des étiquettes de nœuds et que vous limitez vos processus d'application aux nœuds ON_DEMAND, le cluster maintient les nœuds principaux stables à 2 et ne fait dimensionner que les nœuds de tâches compris entre 0 et 18 instances ou les unités du parc d'instances qui utilisent le On-demand ou Spot type, en fonction du type de demande.

Flottes d'instances

Noyau : 2 On-Demand

De tâche : 1 Spot

UnitType: InstanceFleetUnits

MinimumCapacityUnits : 2

MaximumCapacityUnits : 20

MaximumCoreCapacityUnits : 2

Scénario 3 : Uniquement On-Demand Instances du cluster

Avoir On-Demand Instances uniquement, votre cluster et les paramètres de dimensionnement gérés doivent répondre aux exigences suivantes :

  • Le On-Demand limite est égale à la limite maximale.

    Quand le On-Demand la limite n'est pas spécifiée, la valeur du paramètre est par défaut la limite maximale. La valeur par défaut indique qu'Amazon EMR évolue On-Demand Instances uniquement.

Si le nœud principal maximal est inférieur à la limite maximale, le paramètre du nœud principal maximal peut être utilisé pour répartir l'allocation de capacité entre le nœud principal et le nœud de tâche.

Pour activer ce scénario dans un cluster composé de groupes d'instances, tous les groupes de nœuds du cluster doivent utiliser le On-Demand type de marché lors de la configuration initiale.

Ce scénario ne s'applique pas si vous utilisez une mise à l'échelle gérée avec des étiquettes de nœud et si vous limitez les processus de votre application à ne s'exécuter que sur ON_DEMAND nœuds, car la mise à l'échelle gérée évolue Spot nœuds pour répondre à la demande de l'exécuteur.

Les exemples suivants illustrent le scénario dans lequel On-Demand Instances de l'ensemble du cluster.

État initial du cluster Paramètres de dimensionnement Comportement de mise à l'échelle.

Groupes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand

UnitType : Instances

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 20

MaximumCoreCapacityUnits : 12

Passez de 1 à 12 instances ou unités de parc d'instances sur les nœuds principaux à l'aide de On-Demand type. Augmentez la capacité restante en utilisant On-Demand sur les nœuds de tâches. Aucune mise à l'échelle avec les instances Spot.

Lorsque vous utilisez une mise à l'échelle gérée avec des étiquettes de nœuds et que vous limitez les processus de votre application à CORE nœuds, le cluster évolue entre 1 et 20 instances ou unités de parc d'instances sur CORE nœuds ou task nœuds à l'aide du ON_DEMANDtype, en fonction du type de demande. La mise à l'échelle sur les nœuds principaux ne dépassera pas 12 instances ou unités de parc d'instances.

Flottes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand

UnitType: InstanceFleetUnits

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 20

MaximumCoreCapacityUnits : 12

Scénario 4 : uniquement les instances Spot du cluster

Pour disposer uniquement d'instances Spot, les paramètres de mise à l'échelle gérée doivent répondre aux exigences suivantes :

  • On-Demand la limite est fixée à 0.

Si le nœud principal maximal est inférieur à la limite maximale, le paramètre du nœud principal maximal peut être utilisé pour répartir l'allocation de capacité entre le nœud principal et le nœud de tâche.

Pour activer ce scénario dans un cluster composé de groupes d'instances, le groupe d'instances principal doit utiliser l'option d'achat Spot lors de la configuration initiale. S'il n'y a aucune instance Spot dans le groupe d'instances de tâches, la mise à l'échelle gérée par Amazon EMR crée un groupe de tâches utilisant des instances Spot en cas de besoin.

Ce scénario ne s'applique pas si vous utilisez une mise à l'échelle gérée avec des étiquettes de nœud et si vous limitez les processus de votre application à ne s'exécuter que sur ON_DEMAND nœuds, car la mise à l'échelle gérée évolue ON_DEMAND nœuds pour répondre à la demande du processus de candidature.

Les exemples suivants illustrent le scénario consistant à disposer d'instances Spot dans l'ensemble du cluster.

État initial du cluster Paramètres de dimensionnement Comportement de mise à l'échelle.

Groupes d'instances

Principal : 1 Spot

De tâche : 1 Spot

UnitType : Instances

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 0

Mettre à l'échelle entre 1 et 20 instances ou unités de flotte d'instances sur les nœuds principaux en utilisant Spot. Aucune mise à l'échelle en utilisant On-Demand type.

Lorsque vous utilisez une mise à l'échelle gérée avec des étiquettes de nœuds et que vous limitez les processus de votre application à CORE nœuds, le cluster évolue entre 1 et 20 instances ou unités de parc d'instances sur CORE ou TASK nœuds utilisant Spot, en fonction du type de demande. Amazon EMR n'est pas évolutif à l'aide du ON_DEMAND type.

Flottes d'instances

Principal : 1 Spot

De tâche : 1 Spot

UnitType: InstanceFleetUnits

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 0

Scénario 5 : échelle On-Demand Instances sur les nœuds principaux et instances ponctuelles sur les nœuds de tâches

À l'échelle On-Demand Instances sur les nœuds principaux et instances Spot sur les nœuds tâches, les paramètres de dimensionnement gérés doivent répondre aux exigences suivantes :

  • Le On-Demand la limite doit être égale au maximum du nœud central.

  • À la fois les On-Demand limite et le nœud central maximal doit être inférieur à la limite maximale.

Pour activer ce scénario dans un cluster composé de groupes d'instances, le groupe de nœuds principal doit utiliser le On-Demand option d'achat.

Ce scénario ne s'applique pas si vous utilisez une mise à l'échelle gérée avec des étiquettes de nœud et si vous limitez les processus de votre application à ne s'exécuter que sur ON_DEMAND nœuds ou CORE nœuds.

Les exemples suivants illustrent le scénario de mise à l'échelle On-Demand Instances sur les nœuds principaux et instances Spot sur les nœuds de tâches.

État initial du cluster Paramètres de dimensionnement Comportement de mise à l'échelle.

Groupes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand et 1 place

UnitType : Instances

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 7

MaximumCoreCapacityUnits : 7

Echelle jusqu'à 6 On-Demand unités sur le nœud principal puisqu'il y en a déjà 1 On-Demand unité sur le nœud de tâche et la limite maximale pour On-Demand est de 7. Augmentez ensuite à 13 unités Spot sur les nœuds de tâches.

Flottes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand et 1 place

UnitType: InstanceFleetUnits

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 7

MaximumCoreCapacityUnits : 7

Scénario 6 : échelle CORE les instances pour la demande liée au processus de candidature et TASK instances pour la demande de l'exécuteur testamentaire.

Ce scénario ne s'applique que si vous utilisez une mise à l'échelle gérée avec des étiquettes de nœud et si vous limitez les processus d'application à ne s'exécuter que sur CORE nœuds.

À l'échelle CORE nœuds en fonction de la demande du processus d'application et TASK nœuds en fonction de la demande de l'exécuteur, vous devez définir les configurations suivantes lors du lancement du cluster :

  • yarn.node-labels.enabled:true

  • yarn.node-labels.am.default-node-label-expression: 'CORE'

Si vous ne spécifiez pas ON_DEMAND limite et maximum CORE paramètres de nœud, les deux paramètres sont définis par défaut sur la limite maximale.

Si le maximum ON_DEMAND le nœud est inférieur à la limite maximale, la mise à l'échelle gérée utilise la limite maximale ON_DEMAND paramètre de nœud pour répartir l'allocation de capacité entre ON_DEMAND et SPOT nœuds. Si vous définissez le maximum CORE paramètre de nœud inférieur ou égal au paramètre de capacité minimale, CORE les nœuds restent statiques à la capacité maximale du cœur.

Les exemples suivants illustrent le scénario de dimensionnement des instances CORE en fonction de la demande du processus d'application et des instances TASK en fonction de la demande de l'exécuteur.

État initial du cluster Paramètres de dimensionnement Comportement de mise à l'échelle.

Groupes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand

UnitType : Instances

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 10

MaximumCoreCapacityUnits : 20

Balances CORE nœuds compris entre 1 et 20 nœuds en fonction de la demande de processus d'application du cluster à l'aide du On-Demand ou type de marché au comptant. Balances TASK nœuds en fonction de la demande de l'exécuteur et de la capacité disponible restante après l'allocation par Amazon EMR CORE nœuds.

La somme demandée CORE et TASK les nœuds ne dépasseront pas maximumCapacity de 20. La somme des nœuds principaux à la demande et des nœuds de tâches à la demande ne dépassera pas maximumOnDemandCapacity de 10. Les nœuds principaux ou de tâches supplémentaires utilisent le type de marché au comptant.

Flottes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand

UnitType: InstanceFleetUnits

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 10

MaximumCoreCapacityUnits : 20

Scénario 7 : échelle ON_DEMAND les instances pour la demande liée au processus de candidature et SPOT instances pour la demande de l'exécuteur testamentaire.

Ce scénario ne s'applique que si vous utilisez une mise à l'échelle gérée avec des étiquettes de nœud et si vous limitez les processus d'application à ne s'exécuter que sur ON_DEMAND nœuds.

À l'échelle ON_DEMAND nœuds en fonction de la demande du processus d'application et SPOT nœuds en fonction de la demande de l'exécuteur, vous devez définir les configurations suivantes lors du lancement du cluster :

  • yarn.node-labels.enabled:true

  • yarn.node-labels.am.default-node-label-expression: 'ON_DEMAND'

Si vous ne spécifiez pas ON_DEMAND limite et maximum CORE paramètres de nœud, les deux paramètres sont définis par défaut sur la limite maximale.

Si le maximum CORE le nœud est inférieur à la limite maximale, la mise à l'échelle gérée utilise la limite maximale CORE paramètre de nœud pour répartir l'allocation de capacité entre CORE et TASK nœuds. Si vous définissez le maximum CORE paramètre de nœud inférieur ou égal au paramètre de capacité minimale, CORE les nœuds restent statiques à la capacité maximale du cœur.

Les exemples suivants illustrent le scénario de mise à l'échelle On-Demand Instances basées sur la demande du processus d'application et instances Spot basées sur la demande de l'exécuteur.

État initial du cluster Paramètres de dimensionnement Comportement de mise à l'échelle.

Groupes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand

UnitType : Instances

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 20

MaximumCoreCapacityUnits : 10

Balances ON_DEMAND nœuds compris entre 1 et 20 nœuds en fonction de la demande de processus d'application du cluster à l'aide du CORE ou TASK type de nœud. Balances SPOT nœuds en fonction de la demande de l'exécuteur et de la capacité disponible restante après l'allocation par Amazon EMR ON_DEMAND nœuds.

La somme demandée ON_DEMAND et SPOT les nœuds ne dépasseront pas maximumCapacity de 20. La somme des nœuds principaux à la demande et des nœuds principaux ponctuels demandés ne dépassera pas maximumCoreCapacity de 10. Les nœuds à la demande ou ponctuels supplémentaires utilisent le TASK type de nœud.

Flottes d'instances

Noyau : 1 On-Demand

Tâche : 1 On-Demand

UnitType: InstanceFleetUnits

MinimumCapacityUnits : 1

MaximumCapacityUnits : 20

MaximumOnDemandCapacityUnits : 20

MaximumCoreCapacityUnits : 10