Implementaciones azul/verde - Amazon SageMaker AI

Implementaciones azul/verde

Al actualizar su punto de conexión, Amazon SageMaker AI utiliza automáticamente una implementación azul/verde para maximizar la disponibilidad de sus puntos de conexión. En una implementación azul/verde, SageMaker AI aprovisiona una nueva flota con las actualizaciones (flota verde). A continuación, SageMaker AI desplaza el tráfico de la flota antigua (flota azul) a la flota verde. Una vez que la flota verde empiece a funcionar sin problemas durante un período de evaluación establecido (denominado período de cocción), SageMaker AI pondrá fin a la flota azul. Con las capacidades adicionales de las implementaciones azul/verde, puede utilizar los modos de cambio de tráfico y la monitorización de la reversión automática para proteger su punto de conexión de un impacto significativo en la producción.

La siguiente lista describe las características clave de las implementaciones azul/verde en SageMaker AI:

  • Modos de cambio de tráfico. Los modos de cambio de tráfico para las barreras de protección de implementación le permiten controlar el volumen de tráfico y el número de pasos que se desplazan entre la flota azul y la flota verde. Esta capacidad le permite evaluar progresivamente el rendimiento de la flota verde sin tener que comprometerse totalmente con un cambio de tráfico al 100 %.

  • Período de cocción. El período de cocción es un período de tiempo establecido para monitorizar la flota verde antes de pasar a la siguiente fase de implementación. Si alguna de las alarmas preespecificadas se activa durante un período de cocción, todo el tráfico de los puntos de conexión se transfiere a la flota azul. El período de cocción le ayuda a aumentar la confianza en su actualización antes de hacer que el cambio de tráfico sea permanente.

  • Reversiones automáticas. Puede especificar las alarmas de Amazon CloudWatch que SageMaker AI utiliza para monitorizar la flota verde. Si un problema con el código actualizado activa alguna de las alarmas, SageMaker AI inicia una reversión automática a la flota azul para mantener la disponibilidad y minimizar así el riesgo.

Modos de cambio de tráfico

Los distintos modos de cambio de tráfico de las implementaciones azul/verde le ofrecen un control más detallado de los cambios de tráfico entre la flota azul y la flota verde. Los modos de cambio de tráfico disponibles para las implementaciones azul/verde son simultáneas, valor controlado y lineales. La siguiente tabla muestra una comparación entre las diferentes opciones.

importante

En el caso de las implementaciones azul/verde que impliquen cambios de tráfico o períodos de interrupción en varias etapas, se le facturará por ambas flotas durante la actualización, independientemente del tráfico que llegue a la flota. Esto contrasta con las implementaciones azul/verde en las que el tráfico cambia al mismo tiempo y no hay períodos de espera, donde solo se le factura una flota durante el proceso de actualización.

Nombre ¿Qué es? Ventajas Desventajas Recomendación

Todo a la vez

Cambia todo el tráfico a la nueva flota en un solo paso.

Minimiza la duración total de la actualización.

Las actualizaciones regresivas afectan al 100 % del tráfico.

Utilice esta opción para minimizar el tiempo y el costo de las actualizaciones.

Valor controlado

El tráfico cambia en dos pasos. El primer paso (valor controlado) desplaza una pequeña parte del tráfico, seguido del segundo paso, que desplaza el resto del tráfico.

Limita el radio de expansión de las actualizaciones regresivas únicamente a la flota de valor controlado.

Ambas flotas funcionan en paralelo durante todo la implementación.

Utilice esta opción para lograr un equilibrio entre minimizar el radio de expansión de las actualizaciones regresivas y minimizar el tiempo de funcionamiento de dos flotas.

Lineal

Una parte fija del tráfico se desplaza en un número predeterminado de pasos equidistantes.

Minimiza el riesgo de actualizaciones regresivas al desplazar el tráfico en varios pasos.

La duración y el costo de la actualización son proporcionales al número de pasos.

Utilice esta opción para minimizar el riesgo distribuyendo la implementación en varios pasos.

Introducción

Una vez que especifique la configuración de implementación deseada, SageMaker AI se encargará de aprovisionar nuevas instancias, terminar las antiguas y cambiar el tráfico por usted. Puede crear y gestionar su implementación mediante las API de SageMaker existentes UpdateEndpoint y CreateEndpoint, así como los comandos AWS Command Line Interface. Tenga en cuenta que si su punto de conexión utiliza alguna de las funciones enumeradas en la página Exclusiones, no podrá utilizar las barreras de protección de implementación. Consulte las páginas de implementación individuales para obtener más información sobre cómo configurar su implementación:

Para seguir los ejemplos guiados que muestran cómo utilizar las barreras de protección de implementación, consulte nuestros ejemplos de cuadernos de Jupyter para los modos de cambio de tráfico lineal y de valor controlado.