Ricette Amazon Nova - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Ricette Amazon Nova

Puoi ottenere una ricetta Amazon Nova dall'archivio delle SageMaker HyperPod ricette. Una ricetta Nova è un file di configurazione YAML che fornisce dettagli all' SageMaker IA su come eseguire il processo di personalizzazione del modello. Fornisce il nome del modello di base, imposta gli iperparametri di addestramento, definisce le impostazioni di ottimizzazione e include tutte le opzioni aggiuntive necessarie per eseguire il fine-tuning o addestrare correttamente il modello.

Puoi anche accedere alle ricette Nova tramite Amazon SageMaker Studio e Amazon SageMaker Unified Studio accedendo all'hub del JumpStart modelloAWS, selezionando e sfogliando i modelli Amazon Nova per trovare le ricette associate. Sia Amazon SageMaker Studio che Amazon SageMaker Unified Studio forniscono taccuini di esempio per ogni ricetta, che includono tutti i passaggi necessari per modificare le ricette ed eseguire lavori di personalizzazione utilizzando lavori di SageMaker formazione sull'intelligenza artificiale o ambienti Amazon. SageMaker HyperPod

Per accedere alle pagine delle ricette in Amazon SageMaker Studio, il ruolo di esecuzione deve disporre delle seguenti autorizzazioni.

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

Per eseguire i taccuini di esempio durante i lavori di SageMaker formazione SageMaker HyperPod, utilizza una delle seguenti versioni delle immagini di SageMaker distribuzione:2.7.1+,,,. 2.8.0+ 3.2.1+ 3.3.0+ Questo vale sia per Amazon SageMaker Studio che per Amazon SageMaker Unified Studio.

Recupero di ricette Amazon Nova

Per ottenere una ricetta base di Amazon Nova, clona l'archivio delle SageMaker HyperPod ricette eseguendo il comando seguente.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

Le ricette di base sono disponibili in recipes_collection/recipes/.

cd recipes_collection/recipes/

Le ricette di personalizzazione di Amazon Nova si trovano nelle seguenti cartelle.

Recipe type Cartella
SFT (a dimensionalità completa e PEFT), PPO, DPO (a dimensionalità completa e PEFT) fine-tuning/nova
Valutazione evaluation/nova
CPT training/nova

Modelli e algoritmi disponibili

La tabella seguente riassume la disponibilità della personalizzazione per i modelli Amazon Nova e gli algoritmi supportati utilizzando l'intelligenza artificiale. SageMaker

Nome modello

ID modello

Fine-tuning

Note

Amazon Nova Micro

amazon. nova-micro-v1:01:28 K

Per SFT, DPO e RFT, questo modello accetta testo come input e produce testo solo come output.

Amazon Nova Lite

amazon. nova-lite-v1:0:300 k

  • SFT: accetta testo, and/or immagine o testo and/or video come input e produce testo come output. Un singolo job non può combinare testo, immagini e video nella stessa esecuzione.

  • DPO - Accetta testo e immagini come input e produce testo come output.

  • RFT: accetta testo e immagini come input per conversazioni a turno singolo e produce testo come output.

Amazon Nova Pro

amazon. nova-pro-v1:0:300 k

  • SFT: accetta testo, and/or immagine o testo and/or video come input e produce testo come output. Un singolo job non può combinare testo, immagini e video nella stessa esecuzione.

  • DPO - Accetta testo e immagini come input e produce testo come output.

  • RFT: accetta testo e immagini come input per conversazioni a turno singolo e produce testo come output.

Amazon Nova Lite 2.0

amazzone. nova-lite-v2:00:300 k

  • SFT: accetta testo, and/or immagine o testo and/or video come input e produce testo come output. Un singolo job non può combinare testo, immagini e video nella stessa esecuzione.

  • DPO - Accetta testo e immagini come input e produce testo come output.

  • RFT: accetta testo e immagini come input per conversazioni a turno singolo e produce testo come output. Funzionalità di ottimizzazione delle ricompense migliorate.

Riferimento per le ricette di Amazon Nova

Le tabelle seguenti elencano informazioni dettagliate sulle ricette di riferimento di Amazon Nova.

La tabella seguente elenca informazioni dettagliate sul riferimento alle ricette di Amazon Nova Lite.

Modello Categoria/Sottocategoria Tecnica Nome della ricetta URI dell'immagine (Training Jobs) URI dell'immagine (HyperPod) Istanza di calcolo
Nova Lite Training/Fine-tuning

Fine-tuning supervisionato (LoRA)

nova_lite_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge
Nova Lite Training/Fine-tuning

Fine-tuning supervisionato (completo)

nova_lite_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge
Nova Lite Training/Fine-tuning

Ottimizzazione diretta delle preferenze (completa)

nova_lite_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-V2-latest ml.p5.48xlarge
Nova Lite Training/Fine-tuning

Ottimizzazione diretta delle preferenze (LoRA)

nova_lite_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-V2-latest ml.p5.48xlarge
Nova Lite Training/Reinforcement learning

Ottimizzazione precisa del rinforzo (RFT)

nova_lite_rft.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Lite Training/Continued Pre-Training Preaddestramento continuo (modello di base) nova_lite_gpu_p5x16_pretrain.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Benchmark testuali standard nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate

Valutazione dei set di dati personalizzati

nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate

Benchmark multimodali

nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate

LLM-as-a-judge

nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Training/Fine-tuning

Fine-tuning supervisionato (LoRA)

nova_lite_g5_g6_12x_gpu_lora_sft.yaml nova_lite_g5_g6_48x_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest N/A ml.g5.12xlarge, ml.g6.12xlarge, ml.g5.48xlarge, ml.g6.48xlarge
Nova Lite Training/Fine-tuning DPO (LoRa) nova_lite_g5_g6_48x_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest N/A ml.g5.48xlarge, ml.g6.48xlarge

La tabella seguente elenca informazioni dettagliate sul riferimento alle ricette Nova 2.0 Lite.

Modello Categoria/Sottocategoria Tecnica Nome della ricetta URI dell'immagine (Training Jobs) URI dell'immagine (HyperPod) Istanza di calcolo
Nova 2.0 Lite Addestramento Formazione preliminare continua nova_lite_2_0_p5x8_gpu_pretrain.yaml N/D 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Regolazione precisa efficiente dei parametri Fine-tuning nova_lite_2_0_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Fine Tuning completo Fine-tuning nova_lite_2_0_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Parametro RFT efficiente Fine-tuning nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite RFT di rango completo Fine-tuning nova_lite_v2_smtj_p5en_gpu_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Porta i tuoi dati Valutazione nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Benchmark testuale generale Valutazione nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Valutazione RFT Valutazione nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Giudice basato su LLM Rubric Valutazione nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge

La tabella seguente elenca informazioni dettagliate sul riferimento alle ricette di Amazon Nova Micro.

Modello Categoria/Sottocategoria Tecnica Nome della ricetta URI dell'immagine (Training Jobs) URI dell'immagine (HyperPod) Istanza di calcolo
Nova Micro Training/Fine-tuning

Fine-tuning supervisionato (LoRA)

nova_micro_g5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest N/A ml.g5.12xlarge
Nova Micro Training/Fine-tuning

Fine-tuning supervisionato (LoRA)

nova_micro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge
Nova Micro Training/Fine-tuning

Fine-tuning supervisionato (completo)

nova_micro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge
Nova Micro Training/Fine-tuning

Ottimizzazione diretta delle preferenze (completa)

nova_micro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-V2-latest ml.p5.48xlarge
Nova Micro Training/Fine-tuning

Ottimizzazione diretta delle preferenze (LoRA)

nova_micro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-V2-latest ml.p5.48xlarge
Nova Micro Training/Reinforcement learning

Ottimizzazione precisa del rinforzo (RFT)

nova_micro_rft.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Micro Training/Continued Pre-Training Preaddestramento continuo (modello di base) nova_micro_gpu_p5x8_pretrain.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate Benchmark testuale generale nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate

Benchmark Bring Your Own Dataset (gen_qa)

nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate

LLM-as-a-judge

nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Training/Fine-tuning

Fine-tuning supervisionato (LoRA)

nova_micro_g5_g6_12x_gpu_lora_sft.yaml nova_micro_g5_g6_48x_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest N/A ml.g5.12xlarge, ml.g6.12xlarge, ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning

Ottimizzazione di precisione supervisionata (FFT)

nova_micro_g5_g6_48x_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest N/A ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning DPO (LoRa) nova_micro_g5_g6_12x_gpu_lora_dpo.yaml nova_micro_g5_g6_48x_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest N/A ml.g5.12xlarge, ml.g6.12xlarge, ml.g5.48xlarge, ml.g6.48xlarge

La tabella seguente elenca informazioni dettagliate sul riferimento alle ricette di Amazon Nova Pro.

Modello Categoria/Sottocategoria Tecnica Nome della ricetta URI dell'immagine (Training Jobs) URI dell'immagine (HyperPod) Istanza di calcolo
Nova Pro Training/Fine-tuning

Fine-tuning supervisionato (LoRA)

nova_pro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge
Nova Pro Training/Fine-tuning

Fine-tuning supervisionato (completo)

nova_pro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge
Nova Pro Training/Fine-tuning

Ottimizzazione diretta delle preferenze (completa)

nova_pro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-V2-latest ml.p5.48xlarge
Nova Pro Training/Fine-tuning

Ottimizzazione diretta delle preferenze (LoRA)

nova_pro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-V2-latest ml.p5.48xlarge
Nova Pro Training/Reinforcement learning

Ottimizzazione precisa del rinforzo (RFT)

nova_pro_rft.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Pro Training/Continued Pre-Training Preaddestramento continuo (modello di base) nova_pro_gpu_p5x24_pretrain.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro Training/Data augmentation Distillazione di modelli per il post-addestramento nova_pro_r5_cpu_distill.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro Evaluation/Evaluate Benchmark testuali standard nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Valutazione dei set di dati personalizzati nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Benchmark multimodali nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate LLM-as-a-judge nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

La tabella seguente elenca informazioni dettagliate sul riferimento alle ricette di Amazon Nova Premier.

Modello Categoria/Sottocategoria Tecnica Nome della ricetta URI dell'immagine (Training Jobs) URI dell'immagine (SageMaker HyperPod) Istanza di calcolo
Nova Premier Addestramento Distillazione di modelli per il post-addestramento

nova_premier_r5_cpu_distill.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST N/A ml.r5.24xlarge