View a markdown version of this page

GuardDuty Protezione AI - Amazon GuardDuty
Come funziona AI ProtectionPrezzi per AI ProtectionRilevamenti aggiuntivi di minacce per i carichi di lavoro di intelligenza artificiale

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

GuardDuty Protezione AI

GuardDuty AI Protection estende il rilevamento delle GuardDuty minacce di Amazon ai carichi di lavoro AI basati su AWS di esso. Quando abiliti AI Protection, GuardDuty analizza gli eventi AWS CloudTrail relativi ai dati di Amazon Bedrock, Amazon Bedrock e Amazon SageMaker AI AgentCore, insieme agli eventi di gestione. AWS CloudTrail GuardDuty utilizza questi dati per rilevare attività potenzialmente sospette destinate ai modelli di base e alle applicazioni che li richiamano. Quando GuardDuty identifica una potenziale minaccia, ne genera una o più. Tipi di risultati sulla protezione dell'IA

Quando abiliti AI Protection, GuardDuty puoi rilevare i seguenti tipi di minacce:

  • Richiami anomali dei modelli Amazon Bedrock o Amazon SageMaker AI che si discostano dalla linea di base stabilita per un'identità o un account, ad esempio richiami da un indirizzo IP insolito, un'API insolita o un modello insolito.

  • Attacchi di raccolta dei costi, in cui un autore di minacce invia input computazionalmente costosi a un modello Amazon Bedrock o Amazon SageMaker AI per aumentare il consumo di token e i costi operativi dell'account.

  • Tentativi di invio immediato diretto, in cui un aggressore crea un prompt dannoso per far sì che un modello di base ignori le istruzioni originali. Questo rilevamento richiede Amazon Bedrock Guardrails e si applica solo ai carichi di lavoro Amazon Bedrock.

Nota

I tipi di risultati che GuardDuty possono essere generati Regione AWS dipendono dai servizi di intelligenza artificiale disponibili in quella regione:

Per l'elenco delle regioni in cui è supportato ogni tipo di ricerca, consulta. Region-specific disponibilità delle funzionalità

Suggerimento

Per ottenere il massimo valore in termini di sicurezza da AI Protection, applica Amazon Bedrock Guardrails per attacchi tempestivi su tutti gli account della tua organizzazione. AWS Usa le policy di AWS Organizations Amazon Bedrock per gestire centralmente queste impostazioni guardrail. Ciò consente una protezione uniforme per tutti gli account con controllo e gestione centralizzati. Quando viene applicato un parapetto d'attacco tempestivo, vengono rilevati tempestivamente GuardDuty i risultati. Per ulteriori informazioni, consulta Impact:IAMUser/PromptInjection.Direct.

Per rilevare le minacce ai carichi di lavoro dell'IA, devi abilitare AI Protection nel tuo account. GuardDuty Per informazioni sull'attivazione di AI Protection, consulta Abilitare la protezione dell'IA in ambienti con più account per ambienti con più account o. Attivazione della protezione AI per un account autonomo

Argomenti

Come funziona AI Protection

Quando abiliti AI Protection per un account o in tutta l'organizzazione, inizia GuardDuty automaticamente a raccogliere gli eventi AWS CloudTrail relativi ai dati dai servizi di intelligenza artificiale negli account monitorati. Non è necessario creare un percorso, abilitare la registrazione degli eventi relativi ai dati o apportare modifiche alle applicazioni AI.

Per raccogliere gli eventi relativi ai dati, GuardDuty crea un canale AWS CloudTrail collegato al servizio in ogni account monitorato. Il canale collegato al servizio trasmette gli eventi di AWS CloudTrail dati per Amazon Bedrock, Amazon Bedrock e Amazon AI e le AgentCore relative risorse di SageMaker intelligenza artificiale per l'analisi. GuardDuty Perché GuardDuty crea e gestisce questo canale:

  • GuardDuty configura le impostazioni degli eventi relativi ai dati del canale e il proprietario dell'account non può modificarle. Ciò significa che il rilevamento delle minacce non dipende dalla configurazione o dal mantenimento di un percorso da parte del proprietario dell'account.

  • Ogni account monitorato può confermare che il canale è attivo nella CloudTrail console (in Impostazioni, Service-linked canali) o richiamando l'operazione AWS CloudTrail ListChannels API.

GuardDuty utilizza due metodi di rilevamento per generare i risultati di AI Protection, a seconda del tipo di risultato:

  • Per i tipi di dati Impact:IAMUser/AnomalousModelInvocation e Impact:IAMUser/CostHarvesting risultati, GuardDuty utilizza un modello di machine learning (ML) per il rilevamento delle anomalie per analizzare gli eventi raccolti e stabilire una linea di base della normale attività di richiamo del modello per ciascuna identità IAM e. Account AWS GuardDuty genera un risultato quando rileva un'attività che si discosta significativamente da questa linea di base.

  • Per quanto riguarda il tipo di Impact:IAMUser/PromptInjection.Direct risultato, GuardDuty genera un risultato quando Amazon Bedrock Guardrails valuta un prompt e rileva un immediato attacco, in base all'evento di dati risultante. AWS CloudTrail

Per ulteriori informazioni sugli eventi AWS CloudTrail relativi ai dati, consulta la sezione Registrazione degli eventi relativi ai dati nella Guida per l'utente. AWS CloudTrail

Prezzi per AI Protection

Quando si abilita GuardDuty AI Protection, viene GuardDuty addebitato il volume degli eventi di AWS CloudTrail dati analizzati, misurati in GB. GuardDuty crea il canale collegato al servizio senza CloudTrail costi aggiuntivi per te. Il costo della raccolta di questi eventi di dati è incluso nel costo di utilizzo di AI Protection. Inoltre, continui a sostenere i costi di utilizzo standard GuardDuty e di qualsiasi altro piano di protezione abilitato. Per i prezzi attuali e gli esempi, consulta i GuardDuty prezzi di Amazon.

Rilevamenti aggiuntivi di minacce per i carichi di lavoro di intelligenza artificiale

Oltre al piano di protezione AI, i piani Amazon GuardDuty Foundational e Lambda Protection offrono rilevamenti per aiutarti a proteggere e rilevare le minacce ai carichi di lavoro di intelligenza artificiale basati su di essi. AWS

Il piano GuardDuty Foundational monitora gli eventi di AWS CloudTrail gestione per rilevare attività sospette e dannose nei carichi di lavoro AI creati utilizzando AWS servizi, tra cui Amazon Bedrock e Amazon AI. https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html SageMaker Ad esempio, GuardDuty può identificare attività come:

  • Rimozione insolita dei guardrail di sicurezza di Amazon Bedrock

  • Una modifica a una fonte di dati di addestramento del modello che può potenzialmente portare a un attacco di avvelenamento dei dati

  • Registrazione disattivata per le chiamate ai modelli Amazon Bedrock che potrebbero indicare tentativi di elusione del rilevamento

  • Creazione insolita di un'istanza di notebook o di formazione in Amazon AI SageMaker

  • Credenziali Amazon Elastic Compute Cloud esfiltrate che potrebbero essere state utilizzate per chiamare API in Amazon Bedrock, Amazon AI o carichi di lavoro SageMaker AI autogestiti su istanze Amazon EC2, cluster Amazon EKS o attività Amazon ECS.

GuardDuty Lambda Protection può aiutare a rilevare potenziali minacce legate agli agenti Amazon Bedrock. Ciò potrebbe includere attività di rete sospette come il cryptomining e la comunicazione con server di comando e controllo dannosi. Queste minacce possono essere causate da un attacco alla catena di fornitura o da richieste complesse.