View a markdown version of this page

GuardDuty Protection de l'IA - Amazon GuardDuty
Comment fonctionne la protection de l'IATarification de la protection contre l'IADétections de menaces supplémentaires pour les charges de travail liées à l'IA

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

GuardDuty Protection de l'IA

GuardDuty AI Protection étend la détection des GuardDuty menaces d'Amazon aux charges de travail basées sur AWS l'IA. Lorsque vous activez AI Protection, GuardDuty analyse les événements de AWS CloudTrail données provenant d'Amazon Bedrock, Amazon Bedrock et Amazon SageMaker AI AgentCore, ainsi que les événements de AWS CloudTrail gestion. GuardDuty utilise ces données pour détecter les activités potentiellement suspectes qui ciblent les modèles de base et les applications qui les invoquent. Lorsqu' GuardDuty une menace potentielle est identifiée, elle en génère une ou plusieursTypes de détection de la protection par l'IA.

Lorsque vous activez AI Protection, vous GuardDuty pouvez détecter les types de menaces suivants :

  • Invocations anormales des modèles Amazon Bedrock ou Amazon SageMaker AI qui s'écartent de la référence établie pour une identité ou un compte, telles que des appels provenant d'une adresse IP inhabituelle, d'une API inhabituelle ou d'un modèle inhabituel.

  • Les attaques par collecte de coûts, dans le cadre desquelles un acteur de la menace envoie des données informatiques coûteuses à un modèle Amazon Bedrock ou Amazon SageMaker AI afin d'augmenter la consommation de jetons et les coûts d'exploitation du compte.

  • Tentatives d'injection directe, au cours desquelles un acteur de la menace crée une invite malveillante pour empêcher un modèle de base d'ignorer ses instructions d'origine. Cette détection nécessite Amazon Bedrock Guardrails et s'applique uniquement aux charges de travail Amazon Bedrock.

Note

Les types de résultats qui GuardDuty peuvent être générés dans et Région AWS dépendent des services d'IA disponibles dans cette région :

Pour la liste des régions où chaque type de recherche est pris en charge, consultezRegion-specific disponibilité des fonctionnalités.

Astuce

Pour tirer le meilleur parti de la protection de l'IA, appliquez Amazon Bedrock Guardrails pour lancer des attaques rapides sur tous les comptes de votre organisation. AWS Utilisez les politiques AWS Organizations Amazon Bedrock pour gérer ces paramètres de garde-corps de manière centralisée. Cela permet une protection uniforme de tous les comptes avec un contrôle et une gestion centralisés. Lorsqu'une barrière d'attaque rapide est appliquée, GuardDuty crée des résultats d'injection rapides. Pour de plus amples informations, veuillez consulter Impact:IAMUser/PromptInjection.Direct.

Pour détecter les menaces qui pèsent sur vos charges de travail d'IA, vous devez activer la protection contre l'IA dans votre GuardDuty compte. Pour plus d'informations sur l'activation de la protection contre l'IA, consultez Activer la protection de l'IA dans les environnements comportant plusieurs comptes pour les environnements à comptes multiples ou. Activation de la protection contre l'IA pour un compte autonome

Rubriques

Comment fonctionne la protection de l'IA

Lorsque vous activez la protection contre l'IA pour un compte ou dans l'ensemble de votre organisation, la collecte des événements AWS CloudTrail liés aux données provenant des services d'IA des comptes surveillés commence GuardDuty automatiquement. Vous n'avez pas besoin de créer une trace, d'activer la journalisation des événements de données ou d'apporter des modifications à vos applications d'IA.

Pour collecter les événements AWS CloudTrail liés aux données, GuardDuty crée un canal lié à un service dans chaque compte surveillé. La chaîne liée au service diffuse AWS CloudTrail des événements de données pour Amazon Bedrock, Amazon Bedrock et Amazon SageMaker AI AgentCore, ainsi que des ressources d'IA associées à des fins d'analyse. GuardDuty Parce que GuardDuty crée et gère cette chaîne :

  • GuardDuty configure les paramètres des événements de données de la chaîne, mais le propriétaire du compte ne peut pas les modifier. Cela signifie que la détection des menaces ne dépend pas de la configuration ou de la gestion d'une trace par le propriétaire du compte.

  • Chaque compte surveillé peut confirmer que le canal est actif dans la CloudTrail console (sous Paramètres, Service-linked canaux) ou en appelant l'opération AWS CloudTrail ListChannels API.

GuardDuty utilise deux méthodes de détection pour générer des résultats de protection contre l'IA, en fonction du type de détection :

  • Pour les types de Impact:IAMUser/CostHarvesting recherche Impact:IAMUser/AnomalousModelInvocation et, GuardDuty utilise un modèle d'apprentissage automatique (ML) de détection d'anomalies pour analyser les événements collectés et établir une base de référence de l'activité d'invocation normale du modèle pour chaque identité IAM et. Compte AWS GuardDuty génère un résultat lorsqu'il détecte une activité qui s'écarte de manière significative de cette base de référence.

  • Pour le type de Impact:IAMUser/PromptInjection.Direct découverte, GuardDuty génère une découverte lorsqu'Amazon Bedrock Guardrails évalue une invite et détecte une attaque rapide, en fonction de l'événement de données qui en résulte. AWS CloudTrail

Pour plus d'informations sur les événements AWS CloudTrail liés aux données, consultez la section Enregistrement des événements liés aux données dans le Guide de AWS CloudTrail l'utilisateur.

Tarification de la protection contre l'IA

Lorsque vous activez GuardDuty AI Protection, des GuardDuty frais sont facturés en fonction du volume d'événements de AWS CloudTrail données qu'elle analyse, mesuré en Go. GuardDuty crée la chaîne liée au service sans CloudTrail frais supplémentaires pour vous. Le coût de la collecte de ces événements de données est inclus dans votre coût d'utilisation d'AI Protection. Vous continuez également à payer des frais d'utilisation standard pour GuardDuty tout autre plan de protection activé. Pour consulter les tarifs actuels et des exemples, consultez la page GuardDuty Tarification Amazon.

Détections de menaces supplémentaires pour les charges de travail liées à l'IA

Outre le plan de protection contre l'IA, les plans Amazon GuardDuty Foundation et Lambda Protection proposent des détections pour vous aider à sécuriser et à détecter les menaces qui pèsent sur les charges de travail basées sur l'IA. AWS

Le plan GuardDuty fondamental surveille les événements de AWS CloudTrail gestion afin de détecter les activités suspectes et malveillantes dans les charges de travail d'IA créées à l'aide de AWS services tels qu'Amazon Bedrock et Amazon AI. SageMaker Par exemple, GuardDuty peut identifier des activités telles que :

  • Suppression inhabituelle des garde-corps de sécurité Amazon Bedrock

  • Modification de la source de données d'entraînement d'un modèle susceptible d'entraîner une attaque d'empoisonnement des données

  • Journalisation désactivée pour les appels de modèles Amazon Bedrock susceptibles d'indiquer des tentatives d'échapper à la détection

  • Instance de bloc-notes inhabituelle ou création d'emplois de formation dans Amazon SageMaker AI

  • Informations d'identification Amazon Elastic Compute Cloud exfiltrées qui auraient pu être utilisées pour appeler des API dans Amazon Bedrock, Amazon SageMaker AI ou des charges de travail d'IA autogérées sur des instances Amazon EC2, des clusters Amazon EKS ou des tâches Amazon ECS.

GuardDuty Lambda Protection peut vous aider à détecter les menaces potentielles liées aux agents Amazon Bedrock. Cela peut inclure des activités réseau suspectes telles que le minage de cryptomonnaies et des communications avec des serveurs de commande et de contrôle malveillants. Ces menaces peuvent être provoquées par une attaque de la chaîne d'approvisionnement ou par une incitation complexe.