Features von Amazon SageMaker AI

Sie können Rezepte in Amazon SageMaker HyperPod oder als SageMaker-Trainingsjobs ausführen. Sie verwenden den HyperPod-Trainingsadapter als Framework für die Durchführung durchgängiger Trainingsworkflows. Der Trainingsadapter basiert auf dem NVIDIA-NeMO-Framework und dem Neuronx-Distributed-Trainingspaket.

In Amazon SageMaker Studio können Sie Machine-Learning-Workloads auf HyperPod-Clustern starten und HyperPod-Clusterinformationen anzeigen. Der bessere Einblick in Cluster-Details und Hardware-Metriken kann Ihrem Team helfen, den richtigen Kandidaten für Ihre Workloads zum Vortraining oder zur Feinabstimmung zu finden.

Die Aufgaben-Governance in Amazon SageMaker HyperPod ist ein ausfallsicheres Managementsystem, das entwickelt wurde, um die Ressourcenzuweisung zu optimieren und eine effiziente Nutzung der Rechenressourcen über Teams und Projekte hinweg für Ihre Amazon-EKS-Cluster sicherzustellen. Die Aufgaben-Governance in HyperPod bietet auch Beobachtbarkeit für den Amazon-EKS-Cluster mit Echtzeiteinblicken in die Clusterkapazität, Rechenverfügbarkeit und -nutzung, Teamzuweisung und -auslastung sowie Informationen zur Ausführung und Wartezeit von Aufgaben.

Mit den Partner-KI-Apps für Amazon SageMaker erhalten Benutzer Zugriff auf Entwicklungsanwendungen für generative künstliche Intelligenz (KI) und Machine Learning (ML), die von branchenführenden Anwendungsanbietern entwickelt, veröffentlicht und vertrieben werden. Die Partner-KI-Apps sind für die Ausführung auf SageMaker AI zertifiziert. Mit Partner-KI-Apps können Benutzer die Entwicklung von Lösungen auf der Grundlage von Basismodellen (FM) und klassischen ML-Modellen beschleunigen und verbessern, ohne die Sicherheit ihrer sensiblen Daten zu gefährden, die vollständig innerhalb ihrer vertrauenswürdigen Sicherheitskonfiguration bleiben und niemals an Dritte weitergegeben werden.

Sie können mit Amazon Q Developer in Amazon SageMaker Canvas chatten und dabei natürliche Sprache verwenden, um Unterstützung durch generative KI bei der Lösung Ihrer Machine-Learning-Probleme zu erhalten. Sie können sich mit Q Developer unterhalten, um die Schritte eines Machine-Learning-Workflows zu besprechen und die Canvas-Funktionen wie Datentransformationen, Modellerstellung und Bereitstellung zu nutzen.

Die Trainingspläne von Amazon SageMaker sind eine Rechenreservierungsfunktion, die für umfangreiche KI-Modelltrainings-Workloads konzipiert wurde, die auf SageMaker-Trainingsjobs und HyperPod-Clustern ausgeführt werden. Sie bieten einen vorhersehbaren Zugriff auf stark beanspruchte GPU-beschleunigte Rechenressourcen innerhalb festgelegter Zeitpläne. Sie können einen gewünschten Zeitplan, eine Dauer und maximale Rechenressourcen angeben und die SageMaker-Trainingspläne verwalten automatisch die Einrichtung der Infrastruktur, die Workload-Ausführung und die Fehlerbehebung. Dies ermöglicht die effiziente Planung und Ausführung unternehmenskritischer KI-Projekte mit einem vorhersehbaren Kostenmodell.

Ein Auto-ML-Service, der Menschen ohne Programmiererfahrung die Möglichkeit gibt, Modelle zu erstellen und damit Vorhersagen zu treffen.

Code Editor erweitert Studio, sodass Sie Ihren Analyse- und Machine-Learning-Code in einer Umgebung schreiben, testen, debuggen und ausführen können, die auf der Open-Source-Erweiterung für Visual Studio Code („Code-OSS“) basiert.

Erstellen, trainieren und implementieren Sie ML-Modelle mithilfe von Geodaten.

Amazon SageMaker HyperPod ist eine Funktion von SageMaker AI, die eine kontinuierlich verfügbare Machine-Learning-Umgebung auf resilienten Clustern bietet, in der Sie beliebige Machine-Learning-Workloads ausführen können, um große Machine-Learning-Modelle wie große Sprachmodelle (LLMs) und Diffusionsmodelle zu entwickeln.

JupyterLab in Studio verbessert die Latenz und Zuverlässigkeit von Studio-Notebooks.

Studio ist das neueste webbasierte Erlebnis für die Ausführung von ML-Workflows. Studio bietet eine Suite von IDEs, darunter den Code Editor, eine neue Jupyterlab-Anwendung, RStudio und Studio Classic.

Eine integrierte Umgebung für das maschinelle Lernen, in der Sie Ihre Modelle in derselben Anwendung erstellen, trainieren, bereitstellen und analysieren können.

Ein kostenloser Service, der Kunden Zugriff auf AWS Rechenressourcen in einer Umgebung bietet, die auf Open-Source-JupyterLab basiert.

Eine integrierte Entwicklungsumgebung für R mit einer Konsole, einem Syntaxhervorhebungseditor, der die direkte Codeausführung unterstützt, und Tools für Plotten, Verlauf, Debugging und Workspace-Management.

Erstellen Sie die Workflows, die für die Überprüfung von ML-Vorhersagen durch Menschen erforderlich sind. Amazon A2I bietet allen Entwicklern die Möglichkeit, menschliche Überprüfungen vorzunehmen. Damit entfällt der undifferenzierte Aufwand, der mit dem Aufbau menschlicher Überprüfungssysteme oder der Verwaltung einer großen Anzahl menschlicher Prüfer verbunden ist.

Erstellen Sie einen AutoML-Job, um ein Modell in Pipelines automatisch zu trainieren.

Benutzer ohne Kenntnisse auf dem Gebiet des maschinellen Lernens können schnell Klassifizierungs- und Regressionsmodelle erstellen.

Führen Sie eine Vorverarbeitung von Datensätzen durch, führen Sie eine Inferenz aus, wenn Sie keinen persistenten Endpunkt benötigen, und ordnen Sie Eingabedatensätze Inferenzen zu, um die Interpretation von Ergebnissen zu unterstützen.

Verbessern Sie Ihre Modelle für Machine Learning, indem Sie potenzielle Verzerrungen erkennen und Ihnen helfen, die Vorhersagen der Modelle zu erklären.

Ein Shared Space besteht aus einer gemeinsam genutzten JupyterServer-Anwendung und einem gemeinsamen Verzeichnis. Alle Benutzerprofile in einer Domain von Amazon SageMaker AI haben Zugriff auf alle gemeinsam genutzten Bereiche in der Domain.

Daten in SageMaker Studio importieren, analysieren, aufbereiten und mit Funktionen versehen. Sie können Data Wrangler in Ihre Workflows für Machine Learning integrieren, um die Datenvorverarbeitung und das Feature-Engineering mit wenig bis gar keiner Codierung zu vereinfachen und zu optimieren. Sie können auch Ihre eigenen Python-Skripte und Transformationen hinzufügen, um Ihren Datenvorbereitungsworkflow anzupassen.

Interagieren Sie mit Ihren Daten, erhalten Sie Visualisierungen, gewinnen Sie umsetzbare Erkenntnisse und beheben Sie Probleme mit der Datenqualität.

Untersuchen Sie Trainingsparameter und -daten während des gesamten Trainingsprozesses. Automatisches Erkennen und Hinweisen von Benutzern auf häufig auftretende Fehler, z. B. auf zu groß oder zu klein werdende Parameterwerte.

Optimieren Sie benutzerdefinierte Modelle für Edge-Geräte, erstellen und verwalten Sie Flotten und führen Sie Modelle mit einer effizienten Laufzeit aus.

Verwaltung und Nachverfolgung von Experimenten. Sie können anhand der verfolgten Daten ein Experiment rekonstruieren, inkrementell auf von Peers durchgeführten Experimenten aufbauen und die Herkunft von Modellen für Compliance- und Audit-Überprüfungen nachverfolgen.

Ein zentraler Speicher für Funktionen und zugehörige Metadaten, sodass Funktionen einfach gefunden und wiederverwendet werden können. Sie können zwei Arten von Geschäften erstellen: einen Online- oder einen Offline-Speicher. Der Online-Speicher kann für Anwendungsfälle mit niedriger Latenz und Echtzeit-Inferenzen verwendet werden, und der Offline-Speicher kann für Trainings und Batch-Inferenz verwendet werden.

Qualitativ hochwertige Training-Datensätze durch den Einsatz von Arbeitskräften zusammen mit Machine Learning, um mit Labels versehene Datensätze zu erstellen.

Eine sofort einsatzbereite Funktion zum Daten-Labeling, mit der Sie hochwertige Trainingsdatensätze erstellen können, ohne Kennzeichnungsanwendungen erstellen und das Labeling-Personal selbst verwalten zu müssen.

Holen Sie sich Empfehlungen zu Typen und Konfigurationen von Inferenz-Instances (z. B. Anzahl der Instances, Container-Parameter und Modelloptimierungen), um Ihre ML-Modelle und Workloads zu verwenden.

Evaluieren Sie alle Änderungen an Ihrer Model-Server-Infrastruktur, indem Sie deren Leistung mit der aktuell bereitgestellten Infrastruktur vergleichen.

Erfahren Sie mehr über die Funktionen und Möglichkeiten von SageMaker AI anhand von kuratierten 1-Klick-Lösungen, Beispiel-Notebooks und vortrainierten Modellen, die Sie einsetzen können. Sie können die Modelle auch verfeinern und bereitstellen.

Verfolgen Sie die Herkunft der Workflows für Machine Learning.

Erstellen und verwalten Sie Pipelines für Machine Learning, die direkt in SageMaker-AI-Jobs integriert sind.

Dokumentieren Sie Informationen zu Ihren ML-Modellen an einem zentralen Ort, um die Verwaltung und Berichterstattung während des gesamten ML-Lebenszyklus zu optimieren.

Eine vorgefertigte, visuelle Übersicht über alle Modelle in Ihrem Konto. Model Dashboard integriert Informationen aus SageMaker Model Monitor, Transformationsjobs, Endpunkten, Lineage Tracking und CloudWatch, sodass Sie auf allgemeine Modellinformationen zugreifen und die Modellleistung in einer einheitlichen Ansicht verfolgen können.

Überwachen und analysieren Sie Modelle in der Produktion (Endpunkte), um Datendrift und Abweichungen in der Modellqualität zu erkennen.

Versionierung, Nachverfolgung von Artefakten und Herkunft, Genehmigungsworkflow und kontenübergreifende Unterstützung für den Einsatz Ihrer Machine-Learning-Modelle.

Trainieren Sie Machine-Learning-Modelle einmal und führen Sie sie dann an einer beliebigen Stelle in der Cloud oder am Edge aus.

Führen Sie Ihr SageMaker Studio-Notebook als nicht interaktiven, geplanten Job aus.

Analysieren und Vorverarbeiten von Daten, Entwickeln von Merkmalen und Bewerten von Modellen.

Erstellen Sie mithilfe von SageMaker-Projekten umfassende ML-Lösungen mit CI/CD.

Maximieren Sie die langfristige Belohnung, die ein Agent infolge seiner Aktionen erhält.

Administratoren können mithilfe von benutzerdefinierten und vorkonfigurierten persona-basierten IAM-Rollen Berechtigungen mit den geringsten Rechten für gängige ML-Aktivitäten definieren.

Eine serverlose Endpunktoption zum Hosten Ihres ML-Modells. Die Kapazität wird automatisch skaliert, um Ihren Endpunktdatenverkehr zu bedienen. Macht die Auswahl von Instance-Typen oder die Verwaltung von Skalierungsrichtlinien auf einem Endpunkt überflüssig.

Eine Git-Erweiterung, um die URL eines Git-Repositorys einzugeben, es in deine Umgebung zu klonen, Änderungen zu übertragen und den Commit-Verlauf anzusehen.

Die nächste Generation von SageMaker-Notebooks mit AWS IAM Identity Center (IAM Identity Center)-Integration, schnellen Startzeiten und Single-Click-Sharing.

Entdecken Sie Amazon EMR-Cluster, stellen Sie eine Verbindung zu ihnen her, erstellen, beenden und verwalten Sie sie in Konfigurationen mit einem oder mehreren Konten direkt von SageMaker Studio aus.

Trainieren Sie Deep-Learning-Modelle schneller auf skalierbaren GPU-Instances, die von SageMaker AI verwaltet werden.