Magasin en ligne - Amazon SageMaker AI

Magasin en ligne

Le magasin en ligne est un magasin de données à faible latence et à haute disponibilité qui permet de rechercher des fonctionnalités en temps réel. Il est généralement utilisé pour le service de modèles de machine learning (ML). Vous pouvez choisir entre le magasin en ligne standard (Standard) et un magasin en ligne de niveau En mémoire (InMemory) au moment de créer un groupe de fonctionnalités. De cette façon, vous pouvez sélectionner le type de stockage qui correspond le mieux aux schémas de lecture et d’écriture d’une application particulière, tout en tenant compte des performances et des coûts. Pour plus d’informations sur la tarification, consultez Tarification d’Amazon SageMaker.

Le magasin en ligne contient les options StorageType suivantes. Pour plus d’informations sur le contenu du magasin en ligne, consultez OnlineStoreConfig.

Type de stockage de niveau Standard

Le niveau Standard est un magasin de données géré à faible latence pour les groupes de fonctionnalités des magasins en ligne. Il fournit une récupération rapide des données pour le service de modèle ML pour vos applications. Standard est le type de stockage par défaut.

Type de stockage de niveau En mémoire

Le niveau InMemory est un magasin de données géré pour les groupes de fonctionnalités des magasins en ligne qui permet une récupération à très faible latence. Il fournit une récupération de données en temps réel à grande échelle pour le modèle ML utilisé pour les applications à haut débit. Le niveau InMemory est alimenté par Amazon ElastiCache (Redis OSS). Pour plus d’informations, consultez Qu’est-ce qu’Amazon ElastiCache (Redis OSS) ?.

Le niveau InMemory des magasins en ligne prend en charge les types de collection, à savoir liste, ensemble et vecteur. Pour plus d’informations sur les types de collections InMemory, consultez Types de collections.

Feature Store permet une lecture à faible latence et une écriture dans le magasin en ligne. La latence des applications est principalement constituée de deux composants principaux : la latence de l'infrastructure et du réseau et la latence des API Feature Store. La réduction de la latence du réseau permet d'obtenir la plus faible latence des lectures et écritures dans Feature Store. Vous pouvez réduire la latence du réseau vers Feature Store en déployant AWS PrivateLink sur le point de terminaison d'exécution de Feature Store. Avec AWS PrivateLink, vous pouvez accéder en privé à toutes les opérations d'API d'exécution de Feature Store depuis votre cloud privé virtuel (VPC) Amazon de manière évolutive à l'aide de points de terminaison de VPC d'interface. Déploiement AWS PrivateLink avec l'option privateDNSEnabled définie sur true :

  • Il conserve l'ensemble du trafic de lecture/écriture de Feature Store au sein de votre VPC.

  • Il conserve le trafic dans la même zone de disponibilité que le client qui l'a créé en utilisant Feature Store. Cela évite les « sauts » entre les zones de disponibilité, ce qui réduit la latence réseau.

Suivez les étapes exposées dans Accédez à un service AWS à l'aide d'un point de terminaison de VPC d'interface pour configurer AWS PrivateLink dans Feature Store. Le nom de service pour l’exécution de Feature Store dans AWS PrivateLink est com.amazonaws.region.sagemaker.featurestore-runtime.

Le magasin en ligne de niveau InMemory est mis à l’échelle automatiquement en fonction des demandes et de l’utilisation du stockage. La mise à l’échelle automatique peut prendre quelques minutes pour s’adapter à un nouveau modèle d’utilisation s’il change rapidement. Lors de la mise à l'échelle automatique :

  • Les opérations d'écriture dans le groupe de fonctionnalités peuvent recevoir des erreurs de limitation. Vous devriez réessayer vos demandes quelques minutes plus tard.

  • Les opérations de lecture dans le groupe de fonctionnalités peuvent recevoir des erreurs de limitation. Les stratégies de nouvelle tentative standard conviennent dans ce cas.

  • Les opérations de lecture peuvent présenter une latence élevée.

La taille maximale du groupe de fonctionnalités de niveau InMemory par défaut est de 50 Gio.

Notez que le niveau InMemory prend actuellement en charge uniquement les groupes de fonctionnalités en ligne, et non les groupes de fonctionnalités en ligne et hors connexion. Il n'y a donc pas de réplication entre les magasins en ligne et hors connexion pour le niveau InMemory. En outre, le niveau InMemory ne prend actuellement pas en charge les clés KMS gérées par le client.