Creación de un trabajo de AutoML para refinar modelos de generación de texto mediante la API

Los modelos de lenguaje de gran tamaño (LLM) se destacan en múltiples tareas generativas, como la generación de textos, el resumen, la finalización, la respuesta a preguntas, etc. Su rendimiento se puede atribuir a su considerable tamaño y a su amplio entrenamiento en diversos conjuntos de datos y tareas. Sin embargo, algunos dominios específicos, como los servicios sanitarios y el sector financiero, pueden requerir ajustes personalizados para adaptarse a sus datos y casos de uso particulares. Al adaptar el entrenamiento a su dominio particular, los LLM pueden mejorar su rendimiento y proporcionar resultados más exactos para aplicaciones específicas.

Piloto automático ofrece la capacidad de ajustar una selección de modelos de texto generativo previamente entrenados. En concreto, Piloto automático permite el ajuste fino basado en instrucciones de una serie de modelos de lenguaje de gran tamaño (LLM) genéricos con la tecnología JumpStart.

A fin de ajustar un modelo prentrenado, se requiere un conjunto de datos específico de instrucciones claras que le digan al modelo cómo generar resultados o cómo comportarse para esa tarea. El modelo aprende del conjunto de datos y ajusta sus parámetros para adaptarse a las instrucciones proporcionadas. El refinamiento basado en instrucciones implica el uso de ejemplos etiquetados con formato de pares de petición-respuesta y redactados como instrucciones. Para obtener más información sobre el refinamiento, consulte Fine-tune a foundation model.

Las siguientes pautas describen el proceso de creación de un trabajo de Piloto automático de Amazon SageMaker como prueba para ajustar los LLM de generación de texto usando la documentación de referencia de las API de SageMaker.

Para crear un experimento de Piloto automático mediante programación para refinar un LLM, puede llamar a la API CreateAutoMLJobV2 en cualquier lenguaje compatible con Piloto automático de Amazon SageMaker o la AWS CLI.

Para obtener información sobre cómo se traduce esta acción de API en una función en el lenguaje de su elección, consulte la sección Véase también de CreateAutoMLJobV2 y seleccione un SDK. Como ejemplo, para los usuarios de Python, consulte la sintaxis de solicitud completa de create_auto_ml_job_v2 en AWS SDK para Python (Boto3).

Tras refinar el LLM, podrá evaluar su rendimiento accediendo a varias puntuaciones de ROUGE mediante el BestCandidate al hacer una llamada a la API de DescribeAutoMLJobV2. El modelo también proporciona información sobre su pérdida de entrenamiento y validación, así como sobre la perplejidad. A fin de obtener una lista completa de métricas para evaluar la calidad del texto generado por los modelos de ajuste fino, consulte Métricas para ajustar modelos de lenguaje grandes en Piloto automático.

Requisitos previos

Antes de utilizar Piloto automático para crear un experimento de refinamiento en SageMaker AI, siga estos pasos:

Una vez hecho esto, puede usar el ARN de este rol de ejecución en las solicitudes de la API de Piloto automático.

Parámetros necesarios

Al llamar a CreateAutoMLJobV2 para crear un experimento de Piloto automático con el fin de refinar LLM, debe proporcionar los siguientes valores:

A continuación, se muestra un ejemplo del formato de solicitud completo que se utiliza al realizar una llamada a la API para CreateAutoMLJobV2 con el fin de refinar un modelo (Falcon7BInstruct).

{
   "AutoMLJobName": "<job_name>",
   "AutoMLJobInputDataConfig": [ 
      { 
         "ChannelType": "training",
         "CompressionType": "None",
         "ContentType": "text/csv", 
         "DataSource": { 
            "S3DataSource": { 
               "S3DataType": "S3Prefix",
               "S3Uri": "s3://<bucket_name>/<input_data>.csv"
            }
         }
      }
   ],
  "OutputDataConfig": {
      "S3OutputPath": "s3://<bucket_name>/output",
      "KmsKeyId": "arn:aws:kms:<region>:<account_id>:key/<key_value>"
   },
   "RoleArn":"arn:aws:iam::<account_id>:role/<sagemaker_execution_role_name>",
   "AutoMLProblemTypeConfig": {
        "TextGenerationJobConfig": {
            "BaseModelName": "Falcon7BInstruct"
       }
   }
}

Todos los demás parámetros son opcionales.

Parámetros opcionales

En las siguientes secciones, se proporcionan detalles de algunos parámetros opcionales que puede pasar al trabajo de ajuste de AutoML.

"AutoMLProblemTypeConfig": {
  "TextGenerationJobConfig": {
    "BaseModelName": "Falcon7B",
    "TextGenerationHyperParameters": {"epochCount":"5", "learningRate":"0.000001", "batchSize": "32", "learningRateWarmupSteps": "10"}
  }
}