View a markdown version of this page

GuardDuty KI-Schutz - Amazon GuardDuty
So funktioniert der KI-SchutzPreisgestaltung für KI-SchutzZusätzliche Bedrohungserkennung für KI-Workloads

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

GuardDuty KI-Schutz

GuardDuty AI Protection erweitert die GuardDuty Bedrohungserkennung von Amazon auf darauf AWS aufbauende KI-Workloads. Wenn Sie den KI-Schutz aktivieren, GuardDuty werden AWS CloudTrail Datenereignisse von Amazon Bedrock, Amazon Bedrock AgentCore und Amazon SageMaker AI sowie Verwaltungsereignisse analysiert. AWS CloudTrail GuardDuty verwendet diese Daten, um potenziell verdächtige Aktivitäten zu erkennen, die auf Foundation-Modelle und die Anwendungen, die sie aufrufen, abzielen. Wenn GuardDuty eine potenzielle Bedrohung erkannt wird, generiert es eine oder mehrereArten der Suche nach KI-Schutz.

Wenn Sie den KI-Schutz aktivieren, GuardDuty kann es die folgenden Arten von Bedrohungen erkennen:

  • Anomale Aufrufe von Amazon Bedrock- oder Amazon SageMaker AI-Modellen, die von der etablierten Basislinie für eine Identität oder ein Konto abweichen, z. B. Aufrufe von einer ungewöhnlichen IP-Adresse, einer ungewöhnlichen API oder einem ungewöhnlichen Modell.

  • Cost-Harvesting-Angriffe, bei denen ein Bedrohungsakteur rechenintensive Eingaben an ein Amazon Bedrock- oder SageMaker Amazon-KI-Modell sendet, um den Token-Verbrauch und die Betriebskosten des Kontos in die Höhe zu treiben.

  • Direkte Prompt-Injection-Versuche, bei denen ein Bedrohungsakteur eine böswillige Aufforderung erstellt, um ein Foundation-Modell dazu zu bringen, seine ursprünglichen Anweisungen zu ignorieren. Diese Erkennung erfordert Amazon Bedrock Guardrails und gilt nur für Amazon Bedrock-Workloads.

Anmerkung

Die Ergebnisarten, die in und generiert GuardDuty werden können, AWS-Region hängen davon ab, welche KI-Dienste in dieser Region verfügbar sind:

Die Liste der Regionen, in denen die einzelnen Suchtypen unterstützt werden, finden Sie unter. Region-specific Verfügbarkeit von Funktionen

Tipp

Um den größtmöglichen Sicherheitsnutzen aus dem KI-Schutz herauszuholen, sollten Sie Amazon Bedrock Guardrails für schnelle Angriffe auf alle Konten in Ihrem Unternehmen durchsetzen. AWS Verwenden Sie die Richtlinien AWS Organizations von Amazon Bedrock, um diese Guardrail-Einstellungen zentral zu verwalten. Dies ermöglicht einen einheitlichen Schutz für alle Konten mit zentraler Steuerung und Verwaltung. Wenn eine Leitplanke für schnelle Angriffe durchgesetzt wird, werden umgehend GuardDuty Injection-Ergebnisse erzielt. Weitere Informationen finden Sie unter Impact:IAMUser/PromptInjection.Direct.

Um Bedrohungen für Ihre KI-Workloads zu erkennen, müssen Sie den KI-Schutz in Ihrem Konto aktivieren. GuardDuty Informationen zur Aktivierung des KI-Schutzes finden Sie unter Aktivierung des KI-Schutzes in Umgebungen mit mehreren Konten Für Umgebungen mit mehreren Konten oder. KI-Schutz für ein eigenständiges Konto aktivieren

Themen

So funktioniert der KI-Schutz

Wenn Sie den KI-Schutz für ein Konto oder für Ihr gesamtes Unternehmen aktivieren, beginnt GuardDuty automatisch mit der Erfassung von AWS CloudTrail Datenereignissen aus den KI-Diensten in den überwachten Konten. Sie müssen keinen Trail erstellen, die Protokollierung von Datenereignissen aktivieren oder Änderungen an Ihren KI-Anwendungen vornehmen.

Um die Datenereignisse zu erfassen, GuardDuty wird in jedem AWS CloudTrail überwachten Konto ein dienstbezogener Kanal erstellt. Der serviceverknüpfte Kanal streamt AWS CloudTrail Datenereignisse für Amazon Bedrock, Amazon Bedrock AgentCore und Amazon SageMaker AI sowie zugehörige KI-Ressourcen zur Analyse. GuardDuty Weil diesen GuardDuty Kanal erstellt und verwaltet:

  • GuardDuty konfiguriert die Datenereigniseinstellungen des Kanals und der Kontoinhaber kann sie nicht ändern. Das bedeutet, dass die Erkennung von Bedrohungen nicht davon abhängt, dass der Kontoinhaber einen Trail konfiguriert oder verwaltet.

  • Jedes überwachte Konto kann in der CloudTrail Konsole (unter Einstellungen, Service-linked Kanäle) oder durch Aufrufen der AWS CloudTrail ListChannels API-Operation bestätigen, dass der Kanal aktiv ist.

GuardDuty verwendet je nach Art des Ergebnisses zwei Erkennungsmethoden, um AI Protection-Ergebnisse zu generieren:

  • GuardDuty Verwendet für die Typen Impact:IAMUser/AnomalousModelInvocation und Impact:IAMUser/CostHarvesting Auffinden ein Modell für maschinelles Lernen (ML) zur Erkennung von Anomalien, um die gesammelten Ereignisse zu analysieren und eine Grundlage für die normalen Modellaufrufaktivitäten für jede IAM-Identität zu erstellen und AWS-Konto GuardDuty generiert ein Ergebnis, wenn Aktivitäten erkannt werden, die erheblich von diesem Ausgangswert abweichen.

  • GuardDutyGeneriert für den Impact:IAMUser/PromptInjection.Direct Ergebnistyp ein Ergebnis, wenn Amazon Bedrock Guardrails eine Aufforderung auswertet und auf der Grundlage des resultierenden Datenereignisses einen Prompt-Angriff erkennt. AWS CloudTrail

Weitere Informationen zu AWS CloudTrail Datenereignissen finden Sie im Benutzerhandbuch unter Protokollieren von Datenereignissen. AWS CloudTrail

Preisgestaltung für KI-Schutz

Wenn Sie den GuardDuty KI-Schutz aktivieren, GuardDuty fallen Gebühren für das Volumen der AWS CloudTrail analysierten Datenereignisse an, gemessen in GB. GuardDuty erstellt den mit dem Dienst verknüpften Kanal, ohne dass Ihnen CloudTrail zusätzliche Kosten entstehen. Die Kosten für die Erfassung dieser Datenereignisse sind in Ihren Nutzungskosten für AI Protection enthalten. Außerdem fallen weiterhin Standardnutzungskosten für GuardDuty und alle anderen aktivierten Schutzpläne an. Aktuelle Preise und Beispiele finden Sie unter GuardDuty Amazon-Preise.

Zusätzliche Bedrohungserkennung für KI-Workloads

Zusätzlich zum AI Protection-Plan bieten die Amazon GuardDuty Foundational- und Lambda Protection-Pläne Erkennungen, mit denen Sie Bedrohungen für darauf aufbauende KI-Workloads schützen und erkennen können. AWS

Der GuardDuty Foundation-Plan überwacht AWS CloudTrail Verwaltungsereignisse, um verdächtige und böswillige Aktivitäten in KI-Workloads zu erkennen, die mithilfe von AWS Diensten wie Amazon Bedrock und Amazon AI erstellt wurden. SageMaker GuardDuty Kann beispielsweise Aktivitäten wie die folgenden identifizieren:

  • Ungewöhnliches Entfernen der Amazon Bedrock-Sicherheitsleitplanken

  • Eine Änderung an einer Datenquelle für das Modelltraining, die möglicherweise zu einem Datenvergiftungsangriff führen kann

  • Die Protokollierung von Amazon Bedrock-Modellaufrufen, die auf Versuche hinweisen könnten, sich der Erkennung zu entziehen, wurde deaktiviert

  • Ungewöhnliche Notebook-Instance oder Erstellung von Trainingsaufträgen in Amazon AI SageMaker

  • Exfiltrierte Amazon Elastic Compute Cloud-Anmeldeinformationen, die möglicherweise zum Aufrufen von APIs in Amazon Bedrock, Amazon SageMaker AI oder selbstverwalteten KI-Workloads auf Amazon EC2-Instances, Amazon EKS-Clustern oder Amazon ECS-Aufgaben verwendet wurden.

GuardDuty Lambda Protection kann helfen, potenzielle Bedrohungen im Zusammenhang mit Amazon Bedrock-Agenten zu erkennen. Dazu können verdächtige Netzwerkaktivitäten wie Cryptomining und Kommunikation mit böswilligen Command-and-Control-Servern gehören. Diese Bedrohungen können durch einen Angriff auf die Lieferkette oder durch komplexe Aufforderungen verursacht werden.