Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

GuardDuty Suchtypen für KI-Schutz

Wenn Sie den KI-Schutz aktivieren, GuardDuty werden AWS CloudTrail Verwaltungsereignisse und Datenereignisse von Amazon Bedrock und Amazon SageMaker AI analysiert. GuardDuty verwendet diese Daten, um potenziell verdächtige Aktivitäten zu erkennen, die auf Ihre KI-Workloads abzielen. Wenn eine potenzielle Bedrohung GuardDuty erkannt wird, generiert es einen der folgenden Erkennungstypen. Der Resource type Grund für diese Ergebnisse istAccessKey, und das Ergebnis identifiziert die IAM-Identität, die das Modell aufgerufen hat.

Jedes Ergebnis enthält auch Details zu den betroffenen KI-Ressourcen im resource Objekt des Ergebnisses. Die Impact:IAMUser/AnomalousModelInvocation Impact:IAMUser/CostHarvesting Ergebnisse enthalten eine resource.modelDetails Liste, in der die aufgerufenen Amazon Bedrock- oder Amazon SageMaker AI-Modelle identifiziert werden. Das Impact:IAMUser/PromptInjection.Direct Ergebnis beinhaltet ein resource.bedrockGuardrailDetails Objekt, das die Amazon Bedrock Guardrail beschreibt, die eingegriffen hat. Sie können diese Details in der GuardDuty Konsole oder im Finding-JSON einsehen.

Die Typen Impact:IAMUser/AnomalousModelInvocation und Impact:IAMUser/CostHarvesting Finding gelten sowohl für Amazon Bedrock- als auch für Amazon SageMaker AI-Modellaufrufe. Der Impact:IAMUser/PromptInjection.Direct Ergebnistyp gilt für Amazon Bedrock-Workloads, die Amazon Bedrock Guardrails verwenden.

Impact:IAMUser/AnomalousModelInvocation

Eine IAM-Identität hat ein Amazon Bedrock- oder Amazon SageMaker AI-Modell auf eine Weise aufgerufen, die von der festgelegten Basislinie für die Identität oder das Konto abweicht.

Standard-Schweregrad: Niedrig

Dieses Ergebnis informiert Sie darüber, dass eine IAM-Identität ein Amazon Bedrock- oder Amazon SageMaker AI-Modell auf eine Weise aufgerufen hat, die von der historischen Aktivität der Identität oder des Kontos abweicht. Diese Aktivität könnte darauf hindeuten, dass ein Bedrohungsakteur kompromittierte Anmeldeinformationen verwendet, um auf die Foundation-Modelle in Ihrem Konto zuzugreifen. Beispielsweise könnte der Akteur ein Modell untersuchen, gegnerische Eingaben erstellen oder automatische Anfragen ausführen.

GuardDuty legt für jede IAM-Identität eine Basis für normale Modellaufrufaktivitäten fest und ruft Amazon Bedrock oder AWS-Konto Amazon AI auf. SageMaker GuardDuty profiliert die Merkmale der Aufrufaktivität, einschließlich der folgenden:

Wenn Aktivitäten GuardDuty beobachtet werden, die erheblich von diesem Ausgangswert abweichen, wird dieses Ergebnis generiert. Beispiele hierfür sind Aufrufe von einer zuvor unbekannten IP-Adresse, einem zuvor unbekannten Benutzeragenten oder einem Modell, das die Identität noch nie aufgerufen hat. Das Ergebnis umfasst eine resource.modelDetails Liste mit den Modellen, die an der verdächtigen Aktivität beteiligt waren. Jeder Eintrag enthält einen ARN, der ein Amazon Bedrock Foundation-Modell, ein Inferenzprofil, ein bereitgestelltes, benutzerdefiniertes oder importiertes Modell, einen Amazon Bedrock Marketplace-Endpunkt, eine Prompt-Ressource oder einen Amazon SageMaker AI-Endpunkt modelId darstellt.

Dieses Ergebnis entspricht der MITRE ATLAS-Technik AML.T0040 — AI Model Inference API Access auf der MITRE ATLAS-Website.

Empfehlungen zur Abhilfe:

Wenn solche Aktivitäten unerwartet auftreten, können Ihre Anmeldeinformationen kompromittiert sein. Weitere Informationen finden Sie unter Behebung potenziell kompromittierter Bedrohungen AWS Anmeldedaten.

Um das Risiko unberechtigter Modellaufrufe zu verringern, schränken Sie ein, welche Identitäten Modelle aufrufen können. Gewähren Sie den Zugriff auf die folgenden Modellaufruf-APIs nur auf die Prinzipale und Modelle, die sie benötigen:

Um Modellinferenzen in Ihrer gesamten Organisation zu verhindern, wenn sie nicht benötigt werden, können Sie eine Service Control Policy (SCP) verwenden. Weitere Informationen finden Sie unter Identity-based Richtlinienbeispielen für Amazon Bedrock im Amazon Bedrock-Benutzerhandbuch und Beispiele für identitätsbasierte Amazon SageMaker AI-Richtlinien im Amazon AI Developer Guide. SageMaker

Impact:IAMUser/CostHarvesting

Eine IAM-Identität rief ein Amazon Bedrock- oder Amazon SageMaker AI-Modell mit anomalen Token-Volumina auf, was auf einen Cost-Harvesting-Angriff hindeuten könnte.

Standard-Schweregrad: Niedrig

Dieses Ergebnis informiert Sie darüber, dass eine IAM-Identität ein Amazon Bedrock- oder Amazon SageMaker AI-Modell aufgerufen hat, dessen Eingabe- oder Ausgabe-Token-Volumen erheblich vom Basiswert für die Identität oder das Konto abweichen. Bei einem Cost-Harvesting-Angriff sendet ein Angreifer rechenintensive Eingaben an ein Modell, um die Betriebskosten der KI-Workload in die Höhe zu treiben, ohne dabei notwendigerweise Daten zu exfiltrieren. Zu diesen Eingaben können übermäßig lange oder absichtlich fehlerhaft formatierte Prompts gehören.

GuardDuty legt einen Basiswert für das durchschnittliche Eingabe-Token-Volumen und das durchschnittliche Ausgabe-Token-Volumen für jede IAM-Identität und jedes Konto fest, das Amazon Bedrock- oder Amazon AI-Modelle aufruft. SageMaker Wenn Aufrufe mit Token-Zahlen GuardDuty beobachtet werden, die diesen Ausgangswert überschreiten, und die Volumenanomalie mit anderen ungewöhnlichen Signalen korreliert, wird dieser Befund generiert. GuardDuty Das Ergebnis berichtet über die anomale Aktivität im service.detection Objekt, einschließlich der beobachteten Aufrufe und der Token-Volumina, die vom Ausgangswert abwichen. Es enthält auch eine resource.modelDetails Liste, in der die Zielmodelle identifiziert werden. Jeder Eintrag enthält einen ARN, der ein Amazon Bedrock Foundation-Modell, ein Inferenzprofil, ein bereitgestelltes, benutzerdefiniertes oder importiertes Modell, einen Amazon Bedrock Marketplace-Endpunkt, eine Eingabeaufforderungsressource oder einen Amazon SageMaker AI-Endpunktnamen modelId darstellt.

Dieses Ergebnis entspricht der MITRE ATLAS-Technik AML.T0034 — Cost Harvesting auf der MITRE ATLAS-Website.

Empfehlungen zur Abhilfe:

Wenn diese Aktivität für die zugehörige Identität unerwartet ist, wurden die Anmeldeinformationen möglicherweise kompromittiert und dazu verwendet, die Kosten Ihrer KI-Workloads in die Höhe zu treiben. Weitere Informationen finden Sie unter Behebung potenziell kompromittierter Bedrohungen AWS Anmeldedaten. Prüfen Sie die mit der Identität verknüpften Modellaufrufe und schränken Sie den Zugriff auf die betroffenen Modelle ein, indem Sie den Zugriff auf die folgenden Modellaufruf-APIs auf die Principals beschränken, die sie benötigen:

Um ungewöhnliche Ausgaben zu erkennen und einzudämmen, können Sie AWS Budgets verwenden, einschließlich Budgetmaßnahmen, die eine restriktive IAM-Richtlinie anwenden, wenn ein Budgetschwellenwert überschritten wird, und die Erkennung von Kostenanomalien. AWS Um die Amazon Bedrock-Kosten bestimmten Workloads zuzuordnen, können Sie einem Anwendungsinferenzprofil Tags für die Kostenzuweisung hinzufügen.

Impact:IAMUser/PromptInjection.Direct

Ein Amazon-Bedrock-Integritätsschutz hat einen direkten Versuch einer Promptinjektion bei einem Aufruf durch eine IAM-Identität erkannt.

Standard-Schweregrad: Niedrig

Diese Erkenntnis informiert Sie darüber, dass ein für einen Amazon-Bedrock-Workload in Ihrem Konto konfigurierten Amazon-Bedrock-Integritätsschutz einen Versuch einer direkten Promptinjektion erkannt hat. Bei einem direkten Prompt-Injection-Angriff erstellt ein Bedrohungsakteur eine böswillige Aufforderung als Eingabe für ein Basismodell. Die Aufforderung veranlasst das Modell, die ursprünglichen Anweisungen zu ignorieren und stattdessen den Anweisungen des Angreifers zu folgen. Die Promptinjektion kann einem Angreifer einen ersten Zugriff verschaffen, um weitere Schritte gegen eine KI-Anwendung durchzuführen, wie beispielsweise das Exfiltrieren von Daten, das Aufrufen nicht autorisierter Tools oder das Umgehen von Sicherheitskontrollen.

GuardDuty generiert dieses Ergebnis, wenn ein Amazon Bedrock Guardrail bei einem Aufruf eingreift, weil es einen sofortigen Angriff mit hoher Sicherheit erkannt hat. Um eine direkte Eingabeaufforderung erkennen GuardDuty zu können, konfigurieren Sie ein Amazon Bedrock Guardrail mit einem Inhaltsfilter für sofortige Angriffe. https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-prompt-attack.html Um sicherzustellen, dass das Guardrail Aufrufe in Ihrer gesamten Umgebung auswertet, sollten Sie es allgemein durchsetzen, anstatt sich darauf zu verlassen, dass einzelne Anwendungen es an jede Anfrage anhängen. Sie können eine Leitplanke für alle Aufrufe des Amazon Bedrock-Modells in einem Konto oder in Ihrer gesamten Organisation durchsetzen, indem Sie die Amazon Bedrock-Richtlinien unter verwenden. AWS Organizations Weitere Informationen finden Sie im Amazon Bedrock-Benutzerhandbuch unter Anwenden kontoübergreifender Schutzmaßnahmen durch Amazon Bedrock Guardrails. Wenn ein Guardrail einen Aufruf auswertet, zeichnet Amazon Bedrock die Auswertung in Form von Datenereignissen auf, die dann analysiert werden, um zu diesem Ergebnis zu gelangen. AWS CloudTrail GuardDuty Wenn die Leitplanke bei der Auswertung des Aufrufs auch einen Filter für vertrauliche Informationen angewendet hat, enthält das Ergebnis Details über die Art der erkannten vertraulichen Informationen.

Die Erkenntnis enthält ein resource.bedrockGuardrailDetails-Objekt, das den Integrationsschutz beschreibt, der eingegriffen hat. In der folgenden Tabelle werden die Felder in diesem Objekt beschrieben.

Dieses Ergebnis entspricht der MITRE ATLAS-Technik AML.T0051 — LLM Prompt Injection auf der MITRE ATLAS-Website.

Empfehlungen zur Abhilfe:

Überprüfen Sie den Prompt, der die Leitplankenintervention ausgelöst hat, und die IAM-Identität, die den Prompt übermittelt hat. Wenn die Aktivität für die zugehörige Identität unerwartet ist, wurden möglicherweise die Anmeldeinformationen kompromittiert. Weitere Informationen finden Sie unter Behebung potenziell kompromittierter Bedrohungen AWS Anmeldedaten. Wenn die Leitplanke den Sofortangriff erkannt, aber nicht blockiert hat, sollten Sie erwägen, die Aktion des Inhaltsfilters für Sofortangriffe auf Blockieren statt auf Erkennen zu setzen, sodass die Leitplanke den Inhalt blockiert. Weitere Informationen finden Sie im Amazon Bedrock-Benutzerhandbuch unter Optionen für den Umgang mit schädlichen Inhalten, die von Amazon Bedrock Guardrails erkannt wurden. Sie können auch den Zugriff auf die Amazon Bedrock-Aufruf-APIs für die betroffene Identität einschränken.