Textklassifizierungs- TensorFlow Hyperparameter - Amazon SageMaker AI

Textklassifizierungs- TensorFlow Hyperparameter

Hyperparameter sind Parameter, die festgelegt werden, bevor ein Machine-Learning-Modell mit dem Lernen beginnt. Die folgenden Hyperparameter werden von dem in Amazon SageMaker AI integrierten Algorithmus Objekterkennung – TensorFlow unterstützt. Weitere Informationen zur Hyperparameter-Optimierung finden Sie unter Optimieren Sie eine Textklassifizierung – TensorFlow-Modell.

Name des Parameters Beschreibung
batch_size

Die Batch-Größe für das Training. Für das Training auf Instances mit mehreren GPUs wird diese Batchgröße für alle GPUs verwendet.

Gültige Werte: positive Ganzzahl.

Standardwert: 32.
beta_1

Die Beta1-Version für die"adam" und die "adamw" Optimierer. Stellt die exponentielle Zerfallsrate für die Schätzungen des ersten Moments dar. Wird für andere Optimierer ignoriert.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.9.
beta_2

Die Beta2 für die Optimierer sind "adam" und "adamw". Stellt die exponentielle Abklingrate für die Schätzungen des zweiten Moments dar. Wird für andere Optimierer ignoriert.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.999.
dropout_rate

Die Dropout-Rate für die Dropout-Schicht in der obersten Klassifizierungsschicht. Wird nur verwendet, wenn für reinitialize_top_layer der Wert "True" festgelegt ist.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.2
early_stopping

Setz auf "True", um die Logik zum Early-Stopping während des Trainings zu verwenden. Falls "False", wird vorzeitiges Abbrechen nicht verwendet.

Gültige Werte: Zeichenfolge, entweder: ("True" oder "False").

Standardwert: "False".
early_stopping_min_delta Die geringste Änderung, die erforderlich ist, um als Verbesserung zu gelten. Eine absolute Änderung, die unter dem Wert von early_stopping_min_delta liegt, gilt nicht als Verbesserung. Wird nur verwendet, wenn für early_stopping der Wert "True" festgelegt ist.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.0.
early_stopping_patience

Die Anzahl der Epochen, in denen die Ausbildung ohne Verbesserung fortgesetzt wird. Wird nur verwendet, wenn für early_stopping der Wert "True" festgelegt ist.

Gültige Werte: positive Ganzzahl.

Standardwert: 5.
epochs

Die Anzahl der Trainingsepochen.

Gültige Werte: positive Ganzzahl.

Standardwert: 10.
epsilon

Das Epsilon für "adam", "rmsprop", "adadelta", und "adagrad". Normalerweise auf einen kleinen Wert eingestellt, um eine Division durch 0 zu vermeiden. Wird für andere Optimierer ignoriert.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 1e-7.
initial_accumulator_value

Der Startwert für die Akkumulatoren oder die Impulswerte pro Parameter für den "adagrad" Optimierer. Wird für andere Optimierer ignoriert.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.0001.
learning_rate Die Lernrate des Optimierers.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.001.
momentum

Der Schwung für die "sgd" und "nesterov" Optimierer. Wird für andere Optimierer ignoriert.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.9.
optimizer

Der Optimierer-Typ. Weitere Informationen finden Sie unter Optimierern in der TensorFlow-Dokumentation.

Gültige Werte: Zeichenfolge, einer der folgenden Werte: ("adamw", "adam", "sgd", "nesterov", "rmsprop", "adagrad" , "adadelta").

Standardwert: "adam".
regularizers_l2

Der L2-Regularisierungsfaktor für die dichte Schicht in der Klassifizierungsschicht. Wird nur verwendet, wenn für reinitialize_top_layer der Wert "True" festgelegt ist.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.0001.
reinitialize_top_layer

Wenn dieser Wert auf "Auto" gesetzt ist, werden die Parameter der obersten Klassifikationsschicht während der Feinabstimmung neu initialisiert. Beim inkrementellen Training werden die Parameter der obersten Klassifikationsschicht nur dann neu initialisiert, wenn sie auf "True" gesetzt sind.

Gültige Werte: Zeichenfolge, einer der folgenden Werte: ("Auto", "True" oder "False").

Standardwert: "Auto".
rho

Der Abzinsungsfaktor für den Gradienten der "adadelta" und "rmsprop" Optimierer. Wird für andere Optimierer ignoriert.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.95.
train_only_on_top_layer

Falls "True", werden nur die Parameter der obersten Klassifikationsschicht fein abgestimmt. Falls "False", werden alle Modellparameter fein abgestimmt.

Gültige Werte: Zeichenfolge, entweder: ("True" or "False").

Standardwert: "False".
validation_split_ratio

Der Anteil der Trainingsdaten, der nach dem Zufallsprinzip aufgeteilt werden soll, um Validierungsdaten zu erstellen. Wird nur verwendet, wenn keine Validierungsdaten über den validation Kanal bereitgestellt werden.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.2.
warmup_steps_fraction

Der Bruchteil der Gesamtzahl der Gradientenaktualisierungsschritte, bei denen die Lernrate beim Aufwärmen von 0 auf die anfängliche Lernrate ansteigt. Wird nur mit dem adamw Optimizer verwendet.

Gültige Werte: Float, Bereich: [0.0, 1.0].

Standardwert: 0.1.