Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Amazon SageMaker Inference Recommender
Amazon SageMaker Inference Recommender ist eine Funktion von Amazon AI. SageMaker Es reduziert die Zeit, die erforderlich ist, um Modelle für maschinelles Lernen (ML) in die Produktion zu bringen, indem Lasttests und Modelloptimierung für alle SageMaker KI-ML-Instances automatisiert werden. Sie können Inference Recommender verwenden, um Ihr Modell auf einem Endpoint- oder serverlosen Inferenzendpunkt bereitzustellen, der die beste Leistung zu den niedrigsten Kosten bietet. Inference Recommender hilft Ihnen bei der Auswahl des besten Instance-Typs und der besten Konfiguration für Ihre ML-Modelle und Workloads. Dabei werden Faktoren wie die Anzahl der Instances, Containerparameter, Modelloptimierungen, maximale Parallelität und Speichergröße berücksichtigt.
Amazon SageMaker Inference Recommender berechnet Ihnen nur die Instances, die während der Ausführung Ihrer Jobs verwendet werden.
Funktionsweise
Um Amazon SageMaker Inference Recommender zu verwenden, können Sie entweder ein SageMaker KI-Modell erstellen oder ein Modell mit Ihren Modellartefakten in der SageMaker Modellregistrierung registrieren. Verwenden Sie die AWS SDK for Python (Boto3) oder die SageMaker AI-Konsole, um Benchmarking-Jobs für verschiedene SageMaker KI-Endpunktkonfigurationen auszuführen. Inference Recommender-Jobs helfen Ihnen dabei, Kennzahlen zu Leistung und Ressourcennutzung zu sammeln und zu visualisieren, damit Sie entscheiden können, welchen Endpunkttyp und welche Konfiguration Sie wählen sollten.
Erste Schritte
Wenn Sie Amazon SageMaker Inference Recommender zum ersten Mal verwenden, empfehlen wir Ihnen, Folgendes zu tun:
-
Lesen Sie den Voraussetzungen für die Verwendung von Amazon Inference Recommender SageMaker Abschnitt durch, um sicherzustellen, dass Sie die Anforderungen für die Verwendung von Amazon SageMaker Inference Recommender erfüllt haben.
-
Lesen Sie sich den Stellenangebote mit Amazon SageMaker Inference Recommender Abschnitt durch, um Ihre ersten Inference Recommender-Empfehlungsjobs zu starten.
-
Erkunden Sie das einführende Beispiel für ein Jupyter-Notizbuch von Amazon SageMaker Inference Recommender oder sehen Sie sich die
Beispiel-Notizbücher im folgenden Abschnitt an.
Beispiel-Notebooks
Die folgenden Beispiel-Jupyter-Notebooks können Ihnen bei den Workflows für mehrere Anwendungsfälle in Inference Recommender helfen:
-
Wenn Sie ein Einführungsnotizbuch suchen, das ein Modell testet, schauen Sie sich das Inference Recommender-Notizbuch an. TensorFlow SageMaker TensorFlow
-
Wenn Sie ein HuggingFace Modell vergleichen möchten, schauen Sie sich das SageMaker Inference Recommender für Notebooks an. HuggingFace
-
Wenn Sie ein XGBoost-Modell vergleichen möchten, schauen Sie sich das SageMaker Inference Recommender XGBoost-Notebook an.
-
Wenn Sie die CloudWatch Metriken für Ihre Inference Recommender-Jobs überprüfen möchten, schauen Sie im Notizbuch zu den Inference Recommender-Metriken nach. SageMaker CloudWatch
