Accélérez le développement de l'IA générative à l'aide de l' SageMaker IA gérée MLflow sur Amazon

La MLflow version 3.0 entièrement gérée sur Amazon SageMaker AI vous permet d'accélérer l'IA générative en facilitant le suivi des expériences et en surveillant les performances des modèles et des applications d'IA à l'aide d'un seul outil.

Développement de l'IA générative avec MLflow 3.0

Alors que les clients de tous les secteurs accélèrent le développement de l’IA générative, ils ont besoin de capacités pour suivre les expériences, observer le comportement et évaluer les performances des modèles et des applications d’IA. Les scientifiques des données et les développeurs manquent d’outils pour analyser les performances des modèles et des applications d’IA, de l’expérimentation à la production, ce qui complique l’identification des causes et la résolution des problèmes. Les équipes passent plus de temps à intégrer des outils qu’à améliorer leurs modèles ou leurs applications d’IA générative.

L’entraînement ou le peaufinage de l’IA générative et du machine learning est un processus itératif qui nécessite d’expérimenter diverses combinaisons de données, d’algorithmes et de paramètres, tout en observant leur impact sur la précision du modèle. La nature itérative de l’expérimentation se traduit par de nombreuses exécutions et versions d’entraînement des modèles, ce qui complique le suivi des modèles les plus performants et de leurs configurations. La complexité de la gestion et de la comparaison des exécutions d’entraînement itératives augmente avec l’IA générative, où l’expérimentation implique non seulement le peaufinage des modèles, mais également l’exploration des sorties créatives et diverses. Les chercheurs doivent ajuster les hyperparamètres, sélectionner les architectures de modèles adaptées et organiser divers jeux de données afin d’optimiser à la fois la qualité et la créativité du contenu généré. L’évaluation des modèles d’IA générative nécessite des métriques à la fois quantitatives et qualitatives, ce qui ajoute une couche de complexité supplémentaire au processus d’expérimentation. Les fonctionnalités de suivi des expérimentations de la MLflow version 3.0 sur Amazon SageMaker AI vous permettent de suivre, d'organiser, de visualiser, d'analyser et de comparer des expériences de machine learning itératives afin d'obtenir des informations comparatives et d'enregistrer et de déployer vos modèles les plus performants.

Les fonctionnalités de suivi de la MLflow version 3.0 entièrement gérée vous permettent d'enregistrer les entrées, les sorties et les métadonnées à chaque étape d'une application d'IA générative, ce qui vous permet d'identifier rapidement la source de bogues ou de comportements inattendus. En conservant des enregistrements de chaque modèle et version d'application, Fully Managed MLflow 3.0 offre une traçabilité permettant de relier les réponses de l'IA à leurs composants sources, ce qui vous permet de retracer rapidement un problème directement jusqu'au code, aux données ou aux paramètres spécifiques qui l'ont généré. Cela réduit considérablement le temps de résolution des problèmes et permet aux équipes de se concentrer davantage sur l’innovation.

MLflow intégrations

À utiliser MLflow lors de la formation et de l'évaluation des modèles afin de trouver les meilleurs candidats pour votre cas d'utilisation. Vous pouvez comparer les performances, les paramètres et les mesures des modèles entre les expériences dans l' MLflow interface utilisateur, suivre vos meilleurs modèles dans le MLflow registre des modèles, les enregistrer automatiquement en tant que modèle d' SageMaker IA et déployer des modèles enregistrés sur des points de terminaison d' SageMaker IA.

Amazon SageMaker AI avec MLflow

MLflow À utiliser pour suivre et gérer la phase d'expérimentation du cycle de vie de l'apprentissage automatique (ML) grâce à AWS des intégrations pour le développement, la gestion, le déploiement et le suivi des modèles.

Amazon SageMaker Studio

Créez et gérez des serveurs de suivi, exécutez des blocs-notes pour créer des expériences et accédez à l' MLflow interface utilisateur pour visualiser et comparer les séries d'expériences dans Studio.

SageMaker Registre des modèles

Gérez les versions des modèles et les modèles de catalogue destinés à la production en enregistrant automatiquement les modèles du MLflow Model Registry au SageMaker Model Registry. Pour de plus amples informations, veuillez consulter Enregistrement automatique de modèles SageMaker AI auprès du registre de modèles SageMaker.

SageMaker Inférence basée sur l'IA

Préparez vos meilleurs modèles pour le déploiement sur un point de terminaison d' SageMaker IA à l'aide deModelBuilder. Pour de plus amples informations, veuillez consulter Déploiement de modèles MLflow avec ModelBuilder.

Gestion des identités et des accès AWS

Configurez l'accès à MLflow l'aide du contrôle d'accès basé sur les rôles (RBAC) avec IAM. Rédigez des politiques d'identité IAM pour autoriser MLflow APIs ce qui peut être appelé par un client d'un serveur de MLflow suivi. Toutes les actions MLflow REST APIs sont représentées sous forme d'actions IAM sous le préfixe sagemaker-mlflow de service. Pour de plus amples informations, veuillez consulter Configurer les autorisations IAM pour MLflow.

AWS CloudTrail

Consultez les connexions pour vous aider AWS CloudTrail à activer l'audit des opérations et des risques, la gouvernance et la conformité de votre AWS compte. Pour de plus amples informations, veuillez consulter AWS CloudTrailjournaux.

Amazon EventBridge

Automatisez la révision des modèles et le cycle de vie du déploiement à l'aide d' MLflow événements capturés par Amazon EventBridge. Pour de plus amples informations, veuillez consulter EventBridge Événements Amazon.

Soutenu Régions AWS

Amazon SageMaker AI with MLflow est généralement disponible dans toutes les régions AWS commerciales où Amazon SageMaker Studio est disponible, à l'exception de la Chine. SageMaker AI with MLflow est disponible uniquement AWS CLI dans les régions Europe (Zurich), Asie-Pacifique (Hyderabad), Asie-Pacifique (Melbourne) et Canada Ouest (Calgary).

Les serveurs de suivi sont lancés dans une seule zone de disponibilité au sein de la région spécifiée.

Comment ça marche

Un serveur MLflow de suivi comporte trois composants principaux : le calcul, le stockage des métadonnées principales et le stockage des artefacts. Le calcul qui héberge le serveur de suivi et le stockage des métadonnées du backend sont hébergés de manière sécurisée dans le compte de service SageMaker AI. Le stockage des artefacts se trouve dans un compartiment Amazon S3 de votre propre AWS compte.

Un serveur de suivi possède un ARN. Vous pouvez utiliser cet ARN pour connecter le MLflow SDK à votre serveur de suivi et commencer à y enregistrer vos sessions d' MLflowentraînement.

Pour plus d’informations sur les concepts clés suivants, cliquez sur les liens correspondants :

Stockage des métadonnées du système dorsal

Lorsque vous créez un serveur de MLflow suivi, un magasin principal, qui conserve diverses métadonnées pour chaque exécution, telles que l'ID d'exécution, les heures de début et de fin, les paramètres et les mesures, est automatiquement configuré dans le compte de service SageMaker AI et entièrement géré pour vous.

Stockage d’artefacts

Pour MLflow fournir un stockage permanent des métadonnées pour chaque exécution, telles que les poids des modèles, les images, les fichiers modèles et les fichiers de données pour vos essais, vous devez créer un magasin d'artefacts à l'aide d'Amazon S3. Le magasin d'artefacts doit être configuré dans votre AWS compte et vous devez explicitement donner MLflow accès à Amazon S3 afin d'accéder à votre magasin d'artefacts. Pour plus d'informations, consultez Artifact Stores dans la MLflow documentation.

MLflow versions de l'application

Les MLflow versions suivantes peuvent être utilisées avec les MLflow applications SageMaker AI :

La dernière version de l' MLflow application propose les dernières fonctionnalités, correctifs de sécurité et corrections de bogues. Lorsque vous créez une nouvelle MLflow application, elle est automatiquement mise à jour vers la dernière version prise en charge. Pour plus d'informations sur la création d'une MLflow application, consultezMLflow Configuration de l'application.

MLflow Les applications utilisent le versionnement sémantique. Les versions sont au format major-version.minor-version.patch-version.

MLflow Tailles des serveurs de suivi

Vous pouvez éventuellement spécifier la taille de votre serveur de suivi dans l'interface utilisateur de Studio ou à l'aide du AWS CLI paramètre--tracking-server-size. Vous pouvez choisir entre "Small", "Medium" et "Large". La taille de configuration du serveur de MLflow suivi par défaut est"Small". Vous pouvez choisir une taille en fonction de l’utilisation prévue du serveur de suivi, telle que le volume de données journalisées, le nombre d’utilisateurs et la fréquence d’utilisation.

Nous recommandons d’utiliser un petit serveur de suivi pour les équipes dénombrant jusqu’a 25 utilisateurs, un serveur de suivi de taille moyenne pour les équipes jusqu’à 50 utilisateurs et un grand serveur de suivi pour les équipes jusqu’à 100 utilisateurs. Nous partons du principe que tous les utilisateurs adresseront des demandes simultanées à votre serveur de MLflow suivi pour faire ces recommandations. Vous devez sélectionner la taille du serveur de suivi en fonction de votre modèle d’utilisation attendu et du nombre de transactions par seconde (TPS) pris en charge par chaque serveur de suivi.

Versions de serveur de suivi

Les MLflow versions suivantes peuvent être utilisées avec l' SageMaker IA :

La dernière version du serveur de suivi possède les dernières caractéristiques, correctifs de sécurité et correctifs de bogues. Lorsque vous créez un serveur de suivi, nous vous recommandons d’utiliser la dernière version. Pour plus d’informations sur la création d’un serveur de suivi, consultez MLflow Serveurs de suivi.

MLflow les serveurs de suivi utilisent le versionnement sémantique. Les versions sont au format major-version.minor-version.patch-version.

Les dernières caractéristiques, telles que les nouveaux éléments de l’interface utilisateur et les fonctionnalités de l’API, sont disponibles dans la version mineure.

AWS CloudTrailjournaux

AWS CloudTrailenregistre automatiquement les activités liées à votre serveur MLflow de suivi. Les appels d'API du plan de contrôle suivants sont enregistrés CloudTrail :

AWS CloudTrailenregistre également automatiquement les activités liées à votre plan MLflow de données. Les appels d'API du plan de données suivants sont enregistrés CloudTrail. Pour les noms d’événements, ajoutez le préfixe Mlflow (par exemple, MlflowCreateExperiment).

Pour plus d'informations CloudTrail, consultez le guide de AWS CloudTrail l'utilisateur.

EventBridge Événements Amazon

EventBridge À utiliser pour acheminer les événements de l'utilisation MLflow avec l' SageMaker IA vers les applications grand public au sein de votre organisation. Les événements suivants sont émis vers EventBridge :

Pour plus d'informations EventBridge, consultez le guide de EventBridge l'utilisateur Amazon.