Fonctionnalité d’Amazon SageMaker AI

Vous pouvez exécuter des recettes dans Amazon SageMaker HyperPod ou sous forme de tâche d’entraînement SageMaker. Vous utilisez l’adaptateur d’entraînement HyperPod comme cadre pour vous aider à exécuter des flux d’entraînement de bout en bout. L’adaptateur d’entraînement est basé sur le cadre NVIDIA NeMo et le package Neuronx Distributed Training.

Dans Amazon SageMaker Studio, vous pouvez lancer des charges de travail de machine learning sur des clusters HyperPod et consulter les informations relatives aux clusters HyperPod. La visibilité accrue sur les détails du cluster et les métriques matérielles peuvent aider votre équipe à identifier le bon candidat pour vos charges de travail de pré-entraînement ou de peaufinage.

La gouvernance des tâches Amazon SageMaker HyperPod est un système de gestion robuste conçu pour rationaliser l’allocation des ressources et garantir une utilisation efficace des ressources informatiques au sein des équipes et des projets pour vos clusters Amazon EKS. La gouvernance des tâches HyperPod fournit également l’observabilité du cluster Amazon EKS, offrant une visibilité en temps réel sur la capacité du cluster, la disponibilité et l’utilisation du calcul, l’allocation et l’utilisation des équipes, ainsi que les informations sur l’exécution des tâches et les temps d’attente.

Avec les applications d’IA des partenaires Amazon SageMaker, les utilisateurs ont accès à des applications de développement d’intelligence artificielle (IA) générative et de machine learning (ML) conçues, publiées et distribuées par des fournisseurs d’applications de pointe. Les applications d’IA des partenaires sont certifiées pour fonctionner sur SageMaker AI. Avec les applications d’IA des partenaires, les utilisateurs peuvent accélérer et améliorer la façon dont ils créent des solutions basées sur des modèle de fondation (FM) et des modèles classiques de ML sans compromettre la sécurité de leurs données sensibles, qui restent totalement conformes à leur configuration de sécurité fiable et ne sont jamais partagées avec un tiers.

Vous pouvez discuter avec Amazon Q Developer dans Amazon SageMaker Canvas en langage naturel pour vous aider à résoudre vos problèmes de machine learning grâce à l’IA générative. Vous pouvez discuter avec Q Developer des étapes d’un flux de travail de machine learning et tirer parti des fonctionnalités de Canvas telles que la transformation des données, la création de modèles et le déploiement.

Les plans d’entraînement Amazon SageMaker sont une fonctionnalité de réservation de capacité de calcul conçue pour les charges de travail d’entraînement des modèles d’IA à grande échelle exécutées sur des tâches d’entraînement SageMaker et des clusters HyperPod. Ils fournissent un accès prévisible à des ressources informatiques accélérées par GPU très demandées dans des délais précis. Vous pouvez spécifier la chronologie, la durée et les ressources de calcul maximales souhaitées, et les plans d’entraînement SageMaker gèrent automatiquement la configuration de l’infrastructure, l’exécution de la charge de travail et la restauration après panne. Cela permet de planifier et d’exécuter efficacement des projets d’IA critiques avec un modèle de coûts prévisible.

Un service de ML automatique qui offre aux utilisateurs sans expérience de codage la possibilité de créer des modèles et d’établir des prédictions grâce à ces derniers.

L’éditeur de code étend Studio afin que vous puissiez écrire, tester, déboguer et exécuter votre code d’analytique et de machine learning dans un environnement basé sur Visual Studio Code - Open Source (« Code-OSS »).

Créez, entraînez et déployez des modèles de ML à l’aide de données géospatiales.

Amazon SageMaker HyperPod est une fonctionnalité de SageMaker AI qui fournit un environnement de machine learning permanent sur des clusters résilients dans lequel vous pouvez exécuter n’importe quelle charge de travail de machine learning pour développer de grands modèles de machine learning tels que les grands modèles de langage (LLM) et les modèles de diffusion.

JupyterLab dans Studio améliore la latence et la fiabilité des blocs-notes Studio

Studio est la toute dernière expérience Web pour exécuter des flux de travail ML. Studio propose une suite d’IDE, y compris un éditeur de code, une nouvelle application Jupyterlab, RStudio et Studio Classic.

Environnement de machine learning intégré qui vous permet de générer, entraîner, déployer et analyser vos modèles dans la même application.

Un service gratuit qui permet aux clients d’accéder aux ressources de calcul AWS dans un environnement basé sur l’open source JupyterLab.

Un environnement de développement intégré pour R avec une console, un éditeur de coloration syntaxique qui prend en charge l’exécution directe de code et des outils de traçage, d’historique, de débogage et de gestion de l’espace de travail.

Créez les flux requis pour la vérification humaine des prédictions ML. Amazon A2I offre à tous les développeurs une capacité de vérification humaine des prédictions ML, sans la charge lourde non différenciée associée à la création de systèmes de vérification humaine ou la gestion d’un grand nombre de vérificateurs humains.

Créez une tâche AutoML pour entraîner automatiquement un modèle dans Pipelines.

Les utilisateurs qui ne connaissent pas le machine learning peuvent rapidement construire des modèles de classification et de régression.

Prétraitez les jeux de données, exécutez l’inférence lorsque vous n’avez pas besoin d’un point de terminaison persistant et associez les enregistrements d’entrée à des inférences pour faciliter l’interprétation des résultats.

Améliorez vos modèles de machine learning en détectant le biais potentiel et en expliquant les prédictions réalisées par les modèles.

Un espace partagé se compose d’une application JupyterServer partagée et d’un répertoire partagé. Tous les profils utilisateur du domaine Amazon SageMaker AI ont accès à tous les espaces partagés du domaine.

Importez, analysez, préparez et caractérisez les données dans SageMaker Studio. Vous pouvez intégrer Data Wrangler à vos flux de machine learning afin de simplifier et rationaliser le prétraitement des données et l’ingénierie des caractéristiques avec peu ou pas de codage. Vous pouvez également ajouter vos propres scripts et transformations Python afin de personnaliser votre flux de préparation des données.

Interagissez avec vos données, obtenez des visualisations, explorez des informations exploitables et résolvez les problèmes de qualité des données.

Inspecter les paramètres et les données d’entraînement tout au long du processus d’entraînement. Détectez et alertez automatiquement les utilisateurs en cas d’erreurs courantes telles que des valeurs de paramètres qui deviennent trop grandes ou trop petites.

Optimisez les modèles personnalisés pour les appareils en périphérie, créez et gérez des flottes, et exécutez des modèles avec un runtime efficace.

Gestion et suivi des expériences. Vous pouvez utiliser les données suivies pour reconstruire une expérience, construire progressivement sur des expériences menées par des pairs et suivre la lignée des modèles pour des vérifications de conformité et d’audit.

Une boutique centralisée pour les fonctions et les métadonnées associées, qui facilite la découverte et la réutilisation des fonctions. Vous pouvez créer deux types de boutiques, en ligne ou hors ligne. Le magasin en ligne peut être utilisé pour les cas d’utilisation d’inférence en temps réel à faible latence, et le magasin hors ligne peut être utilisé pour les cas d’utilisation d’entraînement et d’inférence par lots.

Entraînement de haute qualité des jeux de données à l’aide d’employés et du machine learning dans le but de créer des jeux de données étiquetés.

Une fonctionnalité d’étiquetage des données clé en main pour créer des jeux de données d’entraînement de haute qualité sans avoir à créer des applications d’étiquetage et à gérer vous-même la main-d’œuvre en charge de l’étiquetage.

Obtenez des recommandations sur les types et les configurations d’instances d’inférence (par exemple, le nombre d’instances, les paramètres de conteneur et les optimisations de modèle) pour utiliser vos modèles et charges de travail de ML.

Évaluez toute modification apportée à votre infrastructure de modèle en comparant ses performances à celles de son infrastructure actuellement déployée.

Découvrez les fonctionnalités et les capacités de SageMaker AI grâce à des solutions en un clic organisées, des exemples de blocs-notes et des modèles pré-entraînés que vous pouvez déployer. Vous pouvez également affiner les modèles et les déployer.

Suivez la lignée des flux de machine learning.

Créez et gérez des pipelines de machine learning intégrés directement aux tâches SageMaker AI.

Documentez les informations relatives à vos modèles de ML en un seul endroit pour une gouvernance et des rapports rationalisés tout au long du cycle de vie du ML.

Un aperçu visuel prédéfini de tous les modèles de votre compte. Le tableau de bord des modèles intègre les informations issues de SageMaker Model Monitor, des tâches de transformation, des points de terminaison, du suivi de lignée et de CloudWatch afin que vous puissiez accéder à des informations de haut niveau sur les modèles et suivre leurs performances dans une vue unifiée.

Surveillez et analysez les modèles en production (points de terminaison) pour détecter une dérive des données et des écarts dans la qualité des modèles.

Gestion des versions, suivi des artefacts et de la lignée, flux d’approbation et prise en charge inter-compte pour le déploiement de vos modèles de machine learning.

Entraînez une fois des modèles Machine Learning, puis exécutez-les n’importe où dans le cloud et en périphérie.

Exécutez votre bloc-notes SageMaker Studio en tant que tâche planifiée non interactive.

Analysez et prétraitez les données, embrassez l’ingénierie des caractéristiques et évaluez les modèles.

Créez des solutions de ML de bout en bout avec CI/CD à l’aide de projets SageMaker.

Augmentez au maximum la récompense à long terme qu’un agent reçoit en raison de ses actions.

Les administrateurs peuvent définir des autorisations de moindre privilège pour les activités de ML courantes à l’aide de rôles IAM personnalisés et préconfigurés.

Une option de point de terminaison sans serveur pour héberger votre modèle de ML. Met automatiquement à l’échelle la capacité pour servir le trafic de votre point de terminaison. Supprime la nécessité de sélectionner des types d’instances ou de gérer des politiques de mise à l’échelle sur un point de terminaison.

Une extension Git permettant de saisir l’URL d’un référentiel Git, de le cloner dans votre environnement, de publier des modifications et de consulter l’historique des validations.

Génération suivante de blocs-notes SageMaker incluant l’intégration AWS IAM Identity Center (IAM Identity Center), les temps de démarrage rapide et le partage en un clic.

Découvrez, créez, résiliez et gérez facilement les clusters Amazon EMR et connectez-vous à eux dans des configurations de compte unique et multicompte directement depuis SageMaker Studio.

Entraînez des modèles de deep learning plus rapidement sur des instances GPU évolutives gérées par SageMaker AI.