Escalado automático de modelos de Amazon SageMaker AI - Amazon SageMaker AI

Escalado automático de modelos de Amazon SageMaker AI

Amazon SageMaker AI admite escalado automático para los modelos alojados. El escalado automático ajusta dinámicamente el número de instancias aprovisionadas para un modelo en respuesta a los cambios en su carga de trabajo. Cuando la carga de trabajo aumenta, el escalado automático proporciona más instancias en línea. Cuando la carga de trabajo desciende, el escalado automático quita las instancias innecesarias, a fin de que no pague por las instancias aprovisionadas que no utiliza.