Solucionar errores de inferencia de Neo - Amazon SageMaker AI

Solucionar errores de inferencia de Neo

Esta sección contiene información sobre cómo prevenir y resolver algunos de los errores más comunes que se pueden producir al implementar o invocar el dispositivo de punto de conexión. Esta sección se aplica a PyTorch 1.4.0 o posterior y MXNet v1.7.0 o posterior.

  • Asegúrese de que la primera inferencia (inferencia de calentamiento) sobre un dato de entrada válido se haya realizado en model_fn(), si ha definido un model_fn en el guión de inferencia; de lo contrario, podría aparecer el siguiente mensaje de error en la terminal cuando se llame a predict API: 

    An error occurred (ModelError) when calling the InvokeEndpoint operation: Received server error (0) from <users-sagemaker-endpoint> with message "Your invocation timed out while waiting for a response from container model. Review the latency metrics for each container in Amazon CloudWatch, resolve the issue, and try again."

  • Establezca las variables de entorno como se muestra en la siguiente tabla. Si no están configurados, puede aparecer el siguiente mensaje de error:

    En la terminal:

    An error occurred (ModelError) when calling the InvokeEndpoint operation: Received server error (503) from <users-sagemaker-endpoint> with message "{ "code": 503, "type": "InternalServerException", "message": "Prediction failed" } ".

    En CloudWatch:

    W-9001-model-stdout com.amazonaws.ml.mms.wlm.WorkerLifeCycle - AttributeError: 'NoneType' object has no attribute 'transform'
    Clave Valor
    SAGEMAKER_PROGRAM inference.py
    SAGEMAKER_SUBMIT_DIRECTORY /opt/ml/model/code
    SAGEMAKER_CONTAINER_LOG_LEVEL 20
    SAGEMAKER_REGION <su región>

  • Asegúrese de que la variable de entorno MMS_DEFAULT_RESPONSE_TIMEOUT esté establecida en 500 o un valor superior al crear el modelo de Amazon SageMaker AI; de lo contrario, podría aparecer el siguiente mensaje de error en el terminal: 

    An error occurred (ModelError) when calling the InvokeEndpoint operation: Received server error (0) from <users-sagemaker-endpoint> with message "Your invocation timed out while waiting for a response from container model. Review the latency metrics for each container in Amazon CloudWatch, resolve the issue, and try again."