Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

SDK de personalización de Nova

El SDK de personalización de Nova es un completo SDK de Python para personalizar los modelos de Amazon Nova. El SDK proporciona una interfaz unificada para el entrenamiento, la evaluación, el monitoreo, la implementación y la inferencia de los modelos de Amazon Nova en diferentes plataformas, incluidas SageMaker AI y Amazon Bedrock. Ya sea que esté adaptando los modelos a tareas específicas de un dominio u optimizando el rendimiento para su caso de uso, este SDK proporciona todo lo que necesita en una interfaz unificada.

Ventajas

Requisitos

El SDK requiere al menos Python 3.12.

Instalación

Para instalar este SDK, sigue el siguiente comando.

pip install amzn-nova-customization-sdk

Modelos y técnicas compatibles

El SDK admite los siguientes modelos y técnicas de la familia Amazon Nova:

Introducción

1. Prepare sus datos

Carga tu conjunto de datos desde archivos locales o desde S3 y deja que el SDK se encargue de la transformación al formato correcto para el método de entrenamiento que hayas elegido. O bien, proporciona datos formateados y comienza de inmediato.

from amzn_nova_customization_sdk.dataset.dataset_loader import JSONLDatasetLoader
from amzn_nova_customization_sdk.model.model_enums import Model, TrainingMethod

loader = JSONLDatasetLoader(question="input", answer="output")
loader.load("s3://your-bucket/training-data.jsonl")
loader.transform(method=TrainingMethod.SFT_LORA, model=Model.NOVA_LITE)

2. Configure su infraestructura

Elija sus recursos informáticos: el SDK valida las configuraciones y garantiza una configuración óptima.

from amzn_nova_customization_sdk.manager.runtime_manager import SMTJRuntimeManager, SMHPRuntimeManager


# SageMaker Training Jobs
runtime = SMTJRuntimeManager(
    instance_type="ml.p5.48xlarge",
    instance_count=4
)

# SageMaker HyperPod
runtime = SMHPRuntimeManager(
    instance_type="ml.p5.48xlarge",
    instance_count=4,
    cluster_name="my-hyperpod-cluster",
    namespace="kubeflow"
)

3. Entrenamiento

Comience a entrenar con solo unas pocas líneas de código.

from amzn_nova_customization_sdk.model import NovaModelCustomizer
from amzn_nova_customization_sdk.model.model_enums import Model, TrainingMethod

customizer = NovaModelCustomizer(
    model=Model.NOVA_LITE_2,
    method=TrainingMethod.SFT_LORA,
    infra=runtime,
    data_s3_path="s3://your-bucket/prepared-data.jsonl"
)

result = customizer.train(job_name="my-training-job")

4. Supervisión

Realiza un seguimiento del progreso de tu entrenamiento directamente desde el SDK.

from amzn_nova_customization_sdk.monitor.log_monitor import CloudWatchLogMonitor

# Monitor training logs
customizer.get_logs()

# Or monitor directly via CloudWatchLogMonitor
monitor = CloudWatchLogMonitor.from_job_result(result)
monitor.show_logs(limit=10)

# Check job status
result.get_job_status() # InProgress, Completed, Failed

5. Evalúa

Evalúe el rendimiento del modelo con una variedad de puntos de referencia integrados o diseñe sus propias evaluaciones.

from amzn_nova_customization_sdk.recipe_config.eval_config import EvaluationTask

# Evaluate on benchmark tasks
eval_result = customizer.evaluate(
    job_name="model-eval",
    eval_task=EvaluationTask.MMLU,
    model_path=result.model_artifacts.checkpoint_s3_path
)

6. Implementación

Implemente su modelo personalizado en producción con el soporte integrado para Amazon Bedrock.

from amzn_nova_customization_sdk.model.model_enums import DeployPlatform

# Bedrock provisioned throughput
deployment = customizer.deploy(
    model_artifact_path=result.model_artifacts.checkpoint_s3_path,
    deploy_platform=DeployPlatform.BEDROCK_PT,
    pt_units=10
)

# Bedrock On-Demand
deployment = customizer.deploy(
    model_artifact_path=result.model_artifacts.checkpoint_s3_path,
    deploy_platform=DeployPlatform.BEDROCK_OD,
    pt_units=10
)

Capacidades clave

Creación de recetas sobre la marcha

El SDK elimina la necesidad de buscar las recetas o el URI del contenedor adecuados para técnicas específicas.

Procesamiento inteligente de datos

El SDK transforma automáticamente los datos en el formato correcto para el entrenamiento. Ya sea que trabajes con archivos JSON, JSONL o CSV, el cargador de datos gestiona la conversión sin problemas. El cargador de datos admite texto y datos multimodales (imágenes y vídeos).

Enterprise Infrastructure Support

El SDK funciona tanto con los trabajos SageMaker de formación como con SageMaker HyperPod la administración automática de:

Evaluación integral

Evalúe sus modelos personalizados comparándolos con puntos de referencia estándar, que incluyen:

Utilice los valores predeterminados del punto de referencia o modifíquelos para que se ajusten a sus necesidades:

Despliegue en producción

Implemente sus modelos en Amazon Bedrock con opciones para:

Inferencia en lotes

Ejecute trabajos de inferencia a gran escala de manera eficiente:

Más información

¿Está preparado para empezar a personalizar los modelos de Nova con el SDK de personalización de Nova? Consulte nuestro GitHub repositorio para obtener guías detalladas, referencias de API y ejemplos adicionales:/https://github.com/aws-samples/sample-nova-customization-sdk