Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

GuardDuty Tipos de búsqueda de AI Protection

Al habilitar la protección con IA, GuardDuty analiza los eventos AWS CloudTrail de administración y los eventos de datos de Amazon Bedrock y Amazon SageMaker AI. GuardDuty utiliza estos datos para detectar actividades potencialmente sospechosas dirigidas a sus cargas de trabajo de IA. Cuando GuardDuty detecta una amenaza potencial, genera uno de los siguientes tipos de búsqueda. Resource typePara estos hallazgos esAccessKey, y el hallazgo identifica la identidad de IAM que invocó el modelo.

Cada hallazgo también incluye detalles sobre los recursos de IA afectados en el resource objeto del hallazgo. Impact:IAMUser/CostHarvestingLos resultados incluyen una resource.modelDetails lista que identifica los modelos de Amazon Bedrock o Amazon SageMaker AI invocados. Impact:IAMUser/AnomalousModelInvocation El Impact:IAMUser/PromptInjection.Direct hallazgo incluye un resource.bedrockGuardrailDetails objeto que describe la barrera Amazon Bedrock que intervino. Puede ver estos detalles en la GuardDuty consola o en el JSON de búsqueda.

Los tipos de Impact:IAMUser/CostHarvesting búsqueda Impact:IAMUser/AnomalousModelInvocation y búsqueda se aplican tanto a las invocaciones de modelos de Amazon Bedrock como a las de Amazon SageMaker AI. El tipo de Impact:IAMUser/PromptInjection.Direct búsqueda se aplica a las cargas de trabajo de Amazon Bedrock que utilizan Amazon Bedrock Guardrails.

Impact:IAMUser/AnomalousModelInvocation

Una identidad de IAM invocó un modelo de Amazon Bedrock o Amazon SageMaker AI de un modo que se desvía del punto de referencia establecido para la identidad o la cuenta.

Gravedad predeterminada: baja

Este resultado indica que una identidad de IAM invocó un modelo de Amazon Bedrock o Amazon SageMaker AI de un modo que se desvía de la actividad histórica de la identidad o la cuenta. Esta actividad puede indicar que un agente de amenazas está utilizando credenciales comprometidas para acceder a los modelos básicos de su cuenta. Por ejemplo, el actor podría investigar un modelo, elaborar datos contradictorios o ejecutar solicitudes automatizadas.

GuardDuty establece una base de referencia para la actividad normal de invocación del modelo para cada identidad de IAM y Cuenta de AWS eso invoca Amazon Bedrock o Amazon AI. SageMaker GuardDuty describe las características de la actividad de invocación, incluidas las siguientes:

Cuando GuardDuty observa una actividad que se desvía significativamente de esta línea de base, genera este hallazgo. Entre los ejemplos se incluyen las invocaciones desde una dirección IP desconocida, un agente de usuario que no se ha visto anteriormente o un modelo al que la identidad nunca ha invocado. El hallazgo incluye una resource.modelDetails lista que identifica los modelos involucrados en la actividad sospechosa. Cada entrada contiene un modelo básico modelId de Amazon Bedrock, un perfil de inferencia, un ARN de modelo aprovisionado, personalizado o importado, un punto final de Amazon Bedrock Marketplace, un recurso rápido o un nombre de punto final de Amazon AI. SageMaker

Este hallazgo se debe a la técnica MITRE ATLAS (acceso a la API de inferencia de modelos de IA AML.T0040 ) del sitio web de MITRE ATLAS.

Recomendaciones de corrección:

Si esta actividad es inesperada, sus credenciales pueden verse afectadas. Para obtener más información, consulte Solución que podría estar comprometida AWS credentials.

Para reducir el riesgo de invocaciones de modelos no autorizadas, restrinja las identidades que pueden invocar modelos. Limite el acceso a las siguientes API de invocación de modelos únicamente a los directores y modelos que las requieran:

Para denegar la inferencia de modelos en tu organización cuando no sea necesaria, puedes usar una política de control de servicios (SCP). Para obtener más información, consulte los ejemplos de Identity-based políticas de Amazon Bedrock en la Guía del usuario de Amazon Bedrock y los ejemplos de políticas basadas en la identidad de la SageMaker IA de Amazon en la Guía para desarrolladores de Amazon AI. SageMaker

Impact:IAMUser/CostHarvesting

Una identidad de IAM invocaba un modelo de Amazon Bedrock o Amazon SageMaker AI con volúmenes de tokens anómalos que podían indicar un ataque de recolección de costes.

Gravedad predeterminada: baja

Este resultado indica que una identidad de IAM invoca un modelo de Amazon Bedrock o Amazon SageMaker AI con volúmenes de tokens de entrada o salida que se desvían considerablemente del valor de referencia de la identidad o la cuenta. En un ataque de recolección de costos, un actor de amenazas envía entradas costosas desde el punto de vista computacional a un modelo para aumentar los costos operativos de la carga de trabajo de la IA, sin necesidad de sustraer datos. Estas entradas pueden incluir peticiones excesivamente largas o deliberadamente mal formadas.

GuardDuty establece una base de referencia para el volumen medio de tokens de entrada y el volumen medio de tokens de salida para cada identidad y cuenta de IAM que invoca los modelos Amazon Bedrock o Amazon AI. SageMaker Cuando GuardDuty observa las invocaciones con recuentos de tokens que superan este valor de referencia y correlaciona la anomalía del volumen con otras señales inusuales, se obtiene este resultado. GuardDuty El resultado indica la actividad anómala del service.detection objeto, incluidos los volúmenes de invocaciones y símbolos observados que se desviaron del valor de referencia. También incluye una resource.modelDetails lista que identifica los modelos objetivo. Cada entrada contiene un modelo básico modelId de Amazon Bedrock, un perfil de inferencia, un ARN de modelo aprovisionado, personalizado o importado, un punto final de Amazon Bedrock Marketplace, un recurso rápido o un nombre de punto final de Amazon AI. SageMaker

Este hallazgo se corresponde con la técnica AML.T0034 MITRE ATLAS (recolección de costos) publicada en el sitio web de MITRE ATLAS.

Recomendaciones de corrección:

Si esta actividad es inesperada para la identidad asociada, es posible que las credenciales se hayan visto comprometidas y se hayan utilizado para aumentar el coste de las cargas de trabajo de IA. Para obtener más información, consulte Solución que podría estar comprometida AWS credentials. Revisa las invocaciones de modelos asociadas a la identidad y restringe el acceso a los modelos afectados; para ello, limita el acceso a las siguientes API de invocación de modelos únicamente a los principales que las requieran:

Para detectar y contener los gastos anormales, puedes utilizar AWS los presupuestos, que incluyen las acciones presupuestarias que aplican una política de IAM restrictiva cuando se supera un límite presupuestario, y la detección de anomalías en los costes. AWS Para atribuir los costos de Amazon Bedrock a cargas de trabajo específicas, puede adjuntar etiquetas de asignación de costos al perfil de inferencia de una aplicación.

Impact:IAMUser/PromptInjection.Direct

Una barrera de protección de Amazon Bedrock detectó un intento de inyección de peticiones directa en una invocación realizada por una identidad de IAM.

Gravedad predeterminada: baja

Este resultado le informa de que una barrera de protección de Amazon Bedrock configurada para una carga de trabajo de Amazon Bedrock en su cuenta detectó un intento de inyección de peticiones directa. En un ataque con inyección inmediata directa, un agente de amenazas crea un mensaje malintencionado como entrada a un modelo básico. El mensaje hace que el modelo ignore sus instrucciones originales y, en su lugar, siga las instrucciones del atacante. La inyección de peticiones puede dar al atacante un acceso inicial para realizar acciones adicionales contra una aplicación de IA, como sustraer datos, hacer llamadas a herramientas no autorizadas o saltarse los controles de seguridad.

GuardDuty genera este resultado cuando un Amazon Bedrock Guardrail interviene en una invocación porque ha detectado un ataque rápido con mucha confianza. GuardDuty Para poder detectar la inyección inmediata directa, configure un Amazon Bedrock Guardrail con un filtro de contenido de ataque rápido. https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-prompt-attack.html Para garantizar que la barrera evalúe las invocaciones en todo su entorno, aplíquela de manera amplia en lugar de depender de aplicaciones individuales para adjuntarla a cada solicitud. Puede aplicar una protección a todas las invocaciones del modelo Amazon Bedrock en una cuenta o en toda su organización mediante las políticas de Amazon Bedrock en. AWS Organizations Para obtener más información, consulte Aplicar medidas de protección entre cuentas al aplicar las normas de Amazon Bedrock Guardrails en la guía del usuario de Amazon Bedrock. Cuando una barrera evalúa una invocación, Amazon Bedrock registra la evaluación en eventos de datos y los analiza para generar este resultado. AWS CloudTrail GuardDuty Si la barrera también aplicó un filtro de información confidencial al evaluar la invocación, el resultado incluye detalles sobre el tipo de información confidencial detectada.

El resultado incluye un objeto resource.bedrockGuardrailDetails que describe la barrera de protección que intervino. En la tabla siguiente se describen los campos de este objeto.

Este hallazgo corresponde a la técnica AML.T0051 MITRE ATLAS (LLM Prompt Injection) publicada en el sitio web de MITRE ATLAS.

Recomendaciones de corrección:

Revise la solicitud que provocó la intervención de la barandilla y la identidad del IAM que la envió. Si la actividad es inesperada para la identidad asociada, es posible que las credenciales se hayan visto comprometidas. Para obtener más información, consulte Solución que podría estar comprometida AWS credentials. Si la barrera detectó el ataque inmediato, pero no lo bloqueó, considere la posibilidad de configurar la acción del filtro de contenido para atacar rápidamente en Bloquear en lugar de Detectar para que bloquee el contenido. Para obtener más información, consulte las opciones para gestionar el contenido dañino detectado por Amazon Bedrock Guardrails en la guía del usuario de Amazon Bedrock. También puede restringir el acceso a las API de invocación de Amazon Bedrock para la identidad afectada.