Características de Amazon SageMaker AI

Puede ejecutar fórmulas en Amazon SageMaker HyperPod o como trabajos de entrenamiento de SageMaker. Utilice el adaptador de entrenamiento HyperPod como marco para ejecutar flujos de trabajo de entrenamiento integrales. El adaptador de entrenamiento se basa en el marco NVIDIA NeMo y en el paquete de entrenamiento distribuido Neuronx.

En Amazon SageMaker Studio, puede iniciar cargas de trabajo de machine learning en clústeres de HyperPod y ver la información de los clústeres de HyperPod. La mayor visibilidad de los detalles del clúster y de las métricas del hardware puede ayudar a su equipo a identificar al candidato adecuado para las cargas de trabajo entrenadas previamente o para el refinamiento de las cargas de trabajo.

La gobernanza de tareas de Amazon SageMaker HyperPod es un sistema de administración sólido, diseñado para optimizar la asignación de recursos y garantizar un uso eficiente de los recursos de computación en todos los equipos y proyectos dentro de los clústeres de Amazon EKS. Además, la gobernanza de tareas de HyperPod brinda la capacidad de observabilidad de clústeres de Amazon EKS, que ofrece visibilidad en tiempo real de la capacidad de los clústeres, la disponibilidad y el uso de computación, la asignación y el uso de los equipos, y la información sobre tiempo de ejecución y espera de las tareas.

Con Aplicaciones de IA para socios de Amazon SageMaker, los usuarios tienen acceso a aplicaciones de desarrollo de inteligencia artificial (IA) generativas y machine learning (ML) creadas, publicadas y distribuidas por proveedores de aplicaciones líderes del sector. Las aplicaciones de IA de socios están certificadas para ejecutarse en SageMaker AI. Con las aplicaciones de IA de socios, los usuarios pueden acelerar y mejorar la forma en que crean soluciones basadas en modelos fundacionales (FM) y modelos clásicos de ML sin comprometer la seguridad de su información confidencial, que permanece completamente dentro de su configuración de seguridad de confianza y nunca se comparte con terceros.

Puede chatear con un Amazon Q Developer en Amazon SageMaker Canvas utilizando un lenguaje natural para obtener asistencia de IA generativa a la hora de resolver sus problemas de machine learning. Puede conversar con Q Developer para analizar los pasos de un flujo de trabajo de machine learning y aprovechar las funciones de Canvas, como transformación de datos, creación de modelos e implementación.

Los planes de entrenamiento de Amazon SageMaker son una capacidad de reserva de computación diseñada para cargas de trabajo de entrenamiento de modelos de IA a gran escala que se ejecutan en trabajos de entrenamiento de SageMaker y clústeres de HyperPod. Proporcionan un acceso predecible a recursos de computación acelerados por GPU de alta demanda dentro de plazos específicos. Puede especificar el cronograma, la duración y los recursos de computación máximos deseados, y los planes de formación de SageMaker administran automáticamente la configuración de la infraestructura, la ejecución de la carga de trabajo y la recuperación de errores. Esto permite planificar y ejecutar de manera eficiente proyectos de IA críticos para la misión con un modelo de costos predecible.

Un servicio de ML automático que ofrece a personas sin experiencia en codificación la posibilidad de crear modelos y hacer predicciones con ellos.

El Editor de código amplía Studio para que pueda escribir, probar, depurar y ejecutar su código de análisis y machine learning en un entorno basado en Visual Studio Code: código abierto (“Code-OSS”).

Cree, entrene e implemente modelos de ML utilizando datos geoespaciales.

Amazon SageMaker HyperPod es una capacidad de SageMaker AI que proporciona un entorno de machine learning siempre activo en clústeres resilientes en el que puede ejecutar cualquier carga de trabajo de machine learning para desarrollar modelos de machine learning de gran tamaño, como modelos de lenguaje de gran tamaño (LLM) y modelos de difusión.

JupyterLab en Studio mejora la latencia y la fiabilidad de los cuadernos de Studio

Studio es la experiencia web más reciente para ejecutar flujos de trabajo de ML. Studio ofrece un conjunto de IDE, que incluye el editor de código, una nueva aplicación de Jupyterlab, RStudio y Studio Classic.

Un entorno de machine learning integrado donde puede crear, entrenar, implementar y analizar sus modelos en la misma aplicación.

Un servicio gratuito que ofrece a los clientes acceso a recursos de computación de AWS en un entorno basado en JupyterLab de código abierto.

Entorno de desarrollo integrado para R, con una consola, editor de resaltado de sintaxis que admite la ejecución directa de código y herramientas para trazar, historial, depuración y administración del espacio de trabajo.

Cree los flujos de trabajo necesarios para la revisión humana de las predicciones de ML. Amazon A2I facilita la creación de los flujos de trabajo necesarios para la revisión humana de las predicciones de ML. pone la revisión humana al alcance de todos los desarrolladores, eliminando el trabajo pesado indiferenciado vinculado a la creación de sistemas de revisión humana o la administración de un gran número de revisores humanos.

Cree un trabajo de AutoML para entrenar automáticamente un modelo en canalizaciones.

Los usuarios sin conocimientos de machine learning pueden crear rápidamente modelos de clasificación y regresión.

Procese previamente los conjuntos de datos, ejecute inferencia cuando no necesite un punto de enlace persistente y asocie registros de entrada con inferencias para ayudar a interpretar los resultados.

Mejore sus modelos de machine learning detectando posibles sesgos y ayude a explicar las predicciones que hacen los modelos.

Un espacio compartido consiste en una aplicación JupyterServer y un directorio compartidos. Todos los perfiles de usuario de un dominio de Amazon SageMaker AI tienen acceso a todos los espacios compartidos del dominio.

Importe, analice, prepare y caracterice datos en SageMaker Studio. Puede integrar Data Wrangler en sus flujos de trabajo de machine learning para simplificar y agilizar el preprocesamiento de datos y la ingeniería de características con poca o ninguna codificación. También puede añadir sus propios scripts y transformaciones de Python para personalizar su flujo de trabajo de preparación de datos.

Interactúe con sus datos, obtenga visualizaciones, explore perspectivas procesables y solucione los problemas de calidad de los datos.

Inspeccione los parámetros y los datos del entrenamiento durante todo el proceso de entrenamiento. Detecte y avise automáticamente a los usuarios de errores frecuentes, como que los valores de los parámetros son demasiado grandes o pequeños.

Optimice modelos personalizados para dispositivos de borde, cree y gestione flotas y ejecute modelos con un tiempo de ejecución eficiente.

Administración y seguimiento de experimentos Puede utilizar los datos de seguimiento para reconstruir un experimento, crear de forma incremental experimentos realizados por pares y trazar el linaje del modelo para verificaciones de cumplimiento y auditoría.

Un almacén centralizado de características y metadatos asociados para que las características puedan descubrirse y reutilizarse fácilmente. Puede crear dos tipos de tiendas, un almacenamiento en línea o sin conexión. El almacenamiento en línea puede utilizarse para casos de baja latencia e inferencia en tiempo real, mientras que el almacenamiento sin conexión puede emplearse para entrenamiento e inferencia por lotes.

Conjuntos de datos de entrenamiento de alta calidad mediante el uso de trabajadores junto con machine learning para crear conjuntos de datos etiquetados.

Una característica de etiquetado de datos llave en mano para crear conjuntos de datos de entrenamiento de alta calidad sin tener que crear aplicaciones de etiquetado y gestionar el personal de etiquetado por su cuenta.

Obtenga recomendaciones sobre tipos de instancias de inferencia y configuraciones (por ejemplo, recuento de instancias, parámetros de contenedores y optimizaciones de modelos) para utilizar sus modelos y cargas de trabajo de ML.

Evalúe cualquier cambio en su infraestructura de servicio de modelos comparando su rendimiento con el de la infraestructura desplegada actualmente.

Conozca las características y capacidades de SageMaker AI a través de soluciones curadas de 1 clic, cuadernos de ejemplo y modelos preentrenados que puede implementar. También puede ajustar los modelos e implantarlos.

haga un seguimiento de la jerarquía de los flujos de trabajo de machine learning.

Cree y administre canalizaciones de machine learning integradas directamente con los trabajos de SageMaker AI.

Documente la información sobre sus modelos de ML en un único lugar para agilizar la gobernanza y la elaboración de informes durante todo el ciclo de vida del ML.

Una visión general preconfigurada y visual de todos los modelos de su cuenta. Model Dashboard integra información del monitor de modelos de SageMaker, trabajos de transformación, puntos de conexión, seguimiento de jerarquía y CloudWatch para que pueda acceder a información de alto nivel del modelo y realizar un seguimiento del rendimiento del modelo en una vista unificada.

Monitorizar y analizar modelos en producción (puntos de enlace) para detectar la deriva de datos y desviaciones en la calidad del modelo.

Control de versiones, seguimiento de artefactos y jerarquía, flujo de trabajo de aprobación y compatibilidad entre cuentas para la implementación de modelos de machine learning.

Entrene modelos de machine learning una vez y, a continuación, ejecútelos en cualquier lugar de la nube y en el borde.

Ejecute su cuaderno de SageMaker Studio como un trabajo programado no interactivo.

Analice y preprocese datos, aborde la ingeniería de características y evalúe modelos.

Cree soluciones de ML integrales con CI/CD utilizando proyectos de SageMaker.

Maximice la compensación a largo plazo que el agente recibe como consecuencia de sus acciones.

Los administradores pueden definir permisos de privilegio mínimo para actividades comunes de ML utilizando roles de IAM personalizados y preconfigurados basados en personas.

Una opción de punto de conexión sin servidor para alojar su modelo ML. Aumenta automáticamente su capacidad para atender el tráfico de su punto de conexión. Elimina la necesidad de seleccionar tipos de instancia o gestionar políticas de escalado en un punto de conexión.

Una extensión Git para introducir la URL de un repositorio Git, clonarlo en su entorno, insertar cambios y ver el historial de confirmaciones.

La próxima generación de cuadernos de SageMaker que incluyen AWS IAM Identity Center (IAM Identity Center) integración de SSO, tiempos de inicio rápidos y uso compartido con un solo clic.

Descubra, conéctese, cree, finalice y administre fácilmente clústeres de Amazon EMR en configuraciones de cuenta única y multicuenta directamente desde SageMaker Studio.

Entrene modelos de aprendizaje profundo más rápido en instancias de GPU escalables administradas por SageMaker AI.