Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

GuardDuty Tipi di risultati di AI Protection

Quando abiliti AI Protection, GuardDuty analizza gli eventi di AWS CloudTrail gestione e gli eventi relativi ai dati di Amazon Bedrock e Amazon AI. SageMaker GuardDuty utilizza questi dati per rilevare attività potenzialmente sospette destinate ai tuoi carichi di lavoro di intelligenza artificiale. Quando GuardDuty rileva una potenziale minaccia, genera uno dei seguenti tipi di risultati. Il Resource type motivo di questi risultati è e AccessKey il risultato identifica l'identità IAM che ha richiamato il modello.

Ogni risultato include anche dettagli sulle risorse di intelligenza artificiale interessate nell'resourceoggetto della scoperta. Impact:IAMUser/CostHarvestingI risultati Impact:IAMUser/AnomalousModelInvocation e i risultati includono un resource.modelDetails elenco che identifica i modelli Amazon Bedrock o Amazon SageMaker AI richiamati. La Impact:IAMUser/PromptInjection.Direct scoperta include un resource.bedrockGuardrailDetails oggetto che descrive l'Amazon Bedrock Guardrail che è intervenuto. Puoi visualizzare questi dettagli nella GuardDuty console o nel JSON di ricerca.

I tipi di Impact:IAMUser/CostHarvesting ricerca Impact:IAMUser/AnomalousModelInvocation e risposta si applicano sia alle invocazioni di modelli Amazon Bedrock che Amazon SageMaker AI. Il tipo di Impact:IAMUser/PromptInjection.Direct risultato si applica ai carichi di lavoro Amazon Bedrock che utilizzano Amazon Bedrock Guardrails.

Impact:IAMUser/AnomalousModelInvocation

Un'identità IAM ha richiamato un modello Amazon Bedrock o Amazon SageMaker AI in un modo che si discosta dalla linea di base stabilita per l'identità o l'account.

Gravità predefinita: bassa

Questo risultato ti informa che un'identità IAM ha richiamato un modello Amazon Bedrock o Amazon SageMaker AI in un modo che si discosta dall'attività storica dell'identità o dell'account. Questa attività potrebbe indicare che un autore della minaccia sta utilizzando credenziali compromesse per accedere ai modelli di base del tuo account. Ad esempio, l'attore potrebbe sondare un modello, creare input contraddittori o eseguire richieste automatiche.

GuardDuty stabilisce una linea di base della normale attività di richiamo del modello per ogni identità IAM e Account AWS che richiama Amazon Bedrock o Amazon AI. SageMaker GuardDuty delinea le caratteristiche dell'attività di richiamo, tra cui:

Quando GuardDuty osserva un'attività che si discosta significativamente da questa linea di base, genera questo risultato. Gli esempi includono invocazioni da un indirizzo IP mai visto in precedenza, un agente utente mai visto in precedenza o un modello che l'identità non ha mai richiamato. La scoperta include un resource.modelDetails elenco che identifica i modelli coinvolti nell'attività sospetta. Ogni voce contiene un modello base modelId di Amazon Bedrock, un profilo di inferenza, un ARN del modello fornito, personalizzato o importato, un endpoint Amazon Bedrock Marketplace, una risorsa prompt o il nome dell'endpoint Amazon AI. SageMaker

Questa scoperta è riconducibile alla tecnica MITRE ATLAS AML.T0040 - AI Model Inference API Access sul sito web MITRE ATLAS.

Raccomandazioni per la correzione:

Se questa attività non è prevista, le credenziali potrebbero essere compromesse. Per ulteriori informazioni, consulta Correzione potenzialmente compromessa AWS credenziali.

Per ridurre il rischio di invocazioni non autorizzate di modelli, limita le identità che possono richiamare i modelli. Ambite l'accesso alle seguenti API di richiamo dei modelli solo ai principali e ai modelli che le richiedono:

Per negare l'inferenza dei modelli all'interno dell'organizzazione laddove non sia necessaria, puoi utilizzare una policy di controllo dei servizi (SCP). Per ulteriori informazioni, consulta gli esempi di Identity-based policy per Amazon Bedrock nella Amazon Bedrock User Guide e gli esempi di policy basate sull'identità di Amazon SageMaker AI nella Amazon AI Developer Guide. SageMaker

Impact:IAMUser/CostHarvesting

Un'identità IAM richiamava un modello Amazon Bedrock o Amazon SageMaker AI con volumi di token anomali che potrebbero indicare un attacco di raccolta dei costi.

Gravità predefinita: bassa

Questo risultato ti informa che un'identità IAM ha richiamato un modello Amazon Bedrock o Amazon SageMaker AI con volumi di token di input o output che si discostano significativamente dalla linea di base dell'identità o dell'account. In un attacco di raccolta dei costi, un autore delle minacce invia input computazionalmente costosi a un modello per gonfiare i costi operativi del carico di lavoro dell’IA, senza necessariamente esfiltrare i dati. Questi input potrebbero includere prompt eccessivamente lunghi o volutamente malformati.

GuardDuty stabilisce una linea di base tra il volume medio dei token di input e il volume medio dei token di output per ogni identità e account IAM che richiama i modelli Amazon Bedrock o Amazon AI. SageMaker Genera questo risultato quando GuardDuty osserva le chiamate con un numero di token superiore a questa linea di base e correla l'anomalia del volume con altri segnali insoliti. GuardDuty Il risultato riporta l'attività anomala nell'service.detectionoggetto, comprese le chiamate osservate e i volumi di token che si sono discostati dalla linea di base. Include anche un elenco che identifica i modelli miratiresource.modelDetails. Ogni voce contiene un modello base modelId di Amazon Bedrock, un profilo di inferenza, un ARN del modello fornito, personalizzato o importato, un endpoint Amazon Bedrock Marketplace, una risorsa prompt o il nome dell'endpoint Amazon AI. SageMaker

Questa scoperta è riconducibile alla tecnica MITRE ATLAS AML.T0034 - Cost Harvesting sul sito web MITRE ATLAS.

Raccomandazioni per la correzione:

Se questa attività è inaspettata per l'identità associata, le credenziali potrebbero essere state compromesse e utilizzate per aumentare il costo dei carichi di lavoro di intelligenza artificiale. Per ulteriori informazioni, consulta Correzione potenzialmente compromessa AWS credenziali. Esamina le chiamate ai modelli associate all'identità e limita l'accesso ai modelli interessati assegnando l'accesso alle seguenti API di richiamo dei modelli solo ai principali che le richiedono:

Per rilevare e contenere spese anomale, puoi utilizzare AWS Budgets, incluse le azioni di budget che applicano una politica IAM restrittiva quando viene superata una soglia di budget e Cost Anomaly Detection. AWS Per attribuire i costi di Amazon Bedrock a carichi di lavoro specifici, puoi allegare tag di allocazione dei costi a un profilo di inferenza dell'applicazione. https://docs.aws.amazon.com/bedrock/latest/userguide/inference-profiles.html

Impact:IAMUser/PromptInjection.Direct

Un Amazon Bedrock Guardrail ha rilevato un tentativo di iniezione diretta di prompt in un’invocazione effettuata da un’identità IAM.

Gravità predefinita: bassa

Questo esito ti informa che un Amazon Bedrock Guardrail configurato per un carico di lavoro Amazon Bedrock nel tuo account ha rilevato un tentativo di iniezione diretta di prompt. In un attacco di tipo direct prompt injection, un malintenzionato crea un prompt dannoso come input per un modello di base. Il prompt fa sì che il modello ignori le istruzioni originali e segua invece le istruzioni dell'aggressore. L’iniezione di prompt può consentire a un aggressore l’accesso iniziale per eseguire ulteriori azioni contro un’applicazione di IA, come l’esfiltrazione di dati, la chiamata a strumenti non autorizzati o il tentativo di aggirare i controlli di sicurezza.

GuardDuty genera questo risultato quando un Amazon Bedrock Guardrail interviene su una chiamata perché ha rilevato un attacco immediato con elevata sicurezza. GuardDuty Per consentire il rilevamento dell'iniezione immediata diretta, configura un Amazon Bedrock Guardrail con un filtro per i contenuti degli attacchi tempestivi. https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-prompt-attack.html Per garantire che il guardrail valuti le chiamate in tutto l'ambiente, applicalo su larga scala invece di affidarti a singole applicazioni per allegarlo a ciascuna richiesta. Puoi applicare un guardrail per tutte le chiamate ai modelli Amazon Bedrock in un account o in tutta la tua organizzazione utilizzando le politiche di Amazon Bedrock in. AWS Organizations Per ulteriori informazioni, consulta Applica misure di protezione tra account con l'applicazione di Amazon Bedrock Guardrails nella Amazon Bedrock User Guide. Quando un guardrail valuta una chiamata, Amazon Bedrock registra la valutazione in eventi di dati, che la analizzano per generare questo risultato. AWS CloudTrail GuardDuty Se il guardrail ha applicato anche un filtro per le informazioni sensibili durante la valutazione della chiamata, il risultato include dettagli sul tipo di informazioni sensibili rilevate.

Il risultato include un oggetto resource.bedrockGuardrailDetails che descrive il guardrail che è intervenuto. La tabella seguente descrive i campi di questo oggetto.

Questa scoperta è riconducibile alla tecnica MITRE ATLAS AML.T0051 - LLM Prompt Injection sul sito web MITRE ATLAS.

Raccomandazioni per la correzione:

Esamina il prompt che ha attivato l'intervento del guardrail e l'identità IAM che ha inviato il prompt. Se l'attività è imprevista per l'identità associata, le credenziali potrebbero essere state compromesse. Per ulteriori informazioni, consulta Correzione potenzialmente compromessa AWS credenziali. Se il guardrail ha rilevato ma non ha bloccato l'attacco di prompt, valuta la possibilità di impostare l'azione del filtro del contenuto del prompt attack su Blocca anziché su Detect in modo che il guardrail blocchi il contenuto. Per ulteriori informazioni, consulta Opzioni per la gestione dei contenuti dannosi rilevati da Amazon Bedrock Guardrails nella Amazon Bedrock User Guide. Puoi anche limitare l'accesso alle API di richiamo di Amazon Bedrock per l'identità interessata.