Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Descripción general de las aplicaciones de IA de Amazon SageMaker Partner
Con Amazon SageMaker Partner AI Apps, los usuarios tienen acceso a aplicaciones de desarrollo generativas de IA y aprendizaje automático (ML) creadas, publicadas y distribuidas por proveedores de aplicaciones líderes del sector. Las aplicaciones de IA asociadas están certificadas para funcionar con IA. SageMaker Con las aplicaciones de IA para socios, los usuarios pueden acelerar y mejorar la forma en que crean soluciones basadas en modelos fundacionales (FM) y modelos clásicos de ML sin comprometer la seguridad de su información confidencial. Los datos permanecen completamente dentro de su configuración de seguridad de confianza y nunca se comparten con terceros.
Funcionamiento
Las aplicaciones de IA para socios son pilas de aplicaciones completas que incluyen un clúster de Amazon Elastic Kubernetes Service y una serie de servicios complementarios que pueden incluir Equilibrador de carga de aplicación, Amazon Relational Database Service, buckets de Amazon Simple Storage Service, colas de Amazon Simple Queue Service y cachés de Redis.
Estas aplicaciones de servicio se pueden compartir entre todos los usuarios de un dominio de SageMaker IA y las aprovisiona un administrador. Tras aprovisionar la aplicación mediante la compra de una suscripción a través deAWS Marketplace, el administrador puede conceder a los usuarios del dominio de SageMaker IA permisos para acceder a la aplicación de IA asociada directamente desde Amazon SageMaker Studio, Amazon SageMaker Unified Studio (versión preliminar) o mediante una URL prefirmada. Para obtener más información sobre cómo lanzar una aplicación desde Studio, consulte Inicie Amazon SageMaker Studio.
Aplicaciones de IA para socios ofrece las siguientes ventajas a los administradores y usuarios.
-
Los administradores utilizan la consola de SageMaker IA para explorar, descubrir, seleccionar y aprovisionar las aplicaciones de IA asociadas para que las utilicen sus equipos de ciencia de datos y aprendizaje automático. Una vez implementadas las aplicaciones de IA asociadas, la SageMaker IA las ejecuta en un servicio Cuentas de AWS gestionado. Esto reduce considerablemente la sobrecarga operativa asociada a la creación y el funcionamiento de estas aplicaciones, y contribuye a la seguridad y privacidad de los datos de los clientes.
-
Los científicos de datos y los desarrolladores de aprendizaje automático pueden acceder a las aplicaciones de IA asociadas desde su entorno de desarrollo de aprendizaje automático en Amazon SageMaker Studio o Amazon SageMaker Unified Studio (versión preliminar). Pueden usar las aplicaciones de IA asociadas para analizar sus datos, experimentos y modelos creados con SageMaker IA. Esto minimiza el cambio de contexto y ayuda a acelerar la creación de modelos fundacionales y la introducción en el mercado de nuevas capacidades de IA generativa.
Integración con Servicios de AWS
Partner AI Apps utiliza la configuración existente AWS Identity and Access Management (IAM) para la autorización y la autenticación. Como resultado, los usuarios no necesitan proporcionar credenciales independientes para acceder a cada aplicación de IA asociada desde Amazon SageMaker Studio. Para obtener más información sobre las opciones de autorización y autenticación con aplicaciones de IA para socios, consulte Configuración de aplicaciones de IA para socios.
Las aplicaciones de IA asociadas también se integran Amazon CloudWatch para proporcionar supervisión y gestión operativas. Los clientes también pueden explorar las aplicaciones de IA para socios y obtener información al respecto, como las características, la experiencia de los clientes y los precios, en la Consola de administración de AWS. Para obtener más informaciónAmazon CloudWatch, consulte Cómo Amazon CloudWatch funciona.
Las aplicaciones de IA asociadas, como Deepchecks, admiten la integración con Amazon Bedrock para habilitar funciones de evaluación basadas en LLM, como las evaluaciones «LLM as a Judge» y las capacidades de anotación automatizadas. Cuando la integración de Amazon Bedrock está habilitada, la aplicación Partner AI utiliza su cuenta de Amazon Bedrock gestionada por el cliente para acceder a los modelos básicos, lo que garantiza que sus datos permanezcan dentro de su configuración de seguridad de confianza. Para obtener más información sobre la configuración de la integración de Amazon Bedrock, consulteConfigurar la integración de Amazon Bedrock.
Tipos admitidos
Las aplicaciones de IA para socios admiten los siguientes tipos:
-
Comet
-
Deepchecks
-
Fiddler
-
Lakera Guard
Cuando el administrador lanza una aplicación de IA para socios, debe seleccionar la configuración del clúster de instancias con el que se lanza la aplicación de IA para socios. Esta configuración se conoce como el nivel de la aplicación de IA para socios. El nivel de una aplicación de IA para socios puede tener uno de los siguientes valores:
-
small -
medium -
large
En las siguientes secciones se proporciona información sobre cada uno de los tipos de aplicaciones de IA para socios y detalles sobre los valores de los niveles de la aplicación de IA para socios.
Cometproporciona una plataforma de evaluación de end-to-end modelos para desarrolladores de IA, con evaluaciones de LLM, seguimiento de experimentos y supervisión de la producción.
Recomendamos los siguientes niveles de aplicaciones de IA para socios en función de la carga de trabajo:
-
small: se recomienda para un máximo de 5 usuarios y 20 trabajos en ejecución. -
medium: se recomienda para un máximo de 50 usuarios y 100 trabajos en ejecución. -
large: se recomienda para un máximo de 500 usuarios y más de 100 trabajos en ejecución.
nota
SageMaker La IA no permite ver la Comet interfaz de usuario como parte de la salida de un cuaderno Jupyter.
Los desarrolladores de aplicaciones de IA y las partes interesadas pueden usar Deepchecks para validar continuamente las aplicaciones basadas en LLM, como las características, las métricas de rendimiento y los posibles problemas a lo largo de todo su ciclo de vida, desde la fase previa a la implementación y la experimentación interna hasta la producción.
Recomendamos los siguientes niveles de aplicaciones de IA para socios en función de a velocidad deseada para la carga de trabajo:
-
small: procesa 200 tokens por segundo. -
medium: procesa 500 tokens por segundo. -
large: procesa 1300 tokens por segundo.
La plataforma de observabilidad de IA de Fiddler permite validar, supervisar y analizar los modelos de ML en producción, incluidos los modelos tabulares, de aprendizaje profundo, de visión artificial y de procesamiento de lenguaje natural.
Recomendamos los siguientes niveles de aplicaciones de IA para socios en función de a velocidad deseada para la carga de trabajo:
-
small: el procesamiento de 10 millones de eventos en 5 modelos, 100 características y 20 iteraciones dura unos 53 minutos. -
medium: el procesamiento de 10 millones de eventos en 5 modelos, 100 características y 20 iteraciones dura unos 23 minutos. -
large: el procesamiento de 10 millones de eventos en 5 modelos, 100 características y 100 iteraciones dura unos 27 minutos.
Lakera Guard es un firewall de aplicaciones de IA de baja latencia que protege las aplicaciones de IA generativas frente a las amenazas específicas de la IA generativa.
Recomendamos los siguientes niveles de aplicaciones de IA para socios en función de la carga de trabajo:
-
small— Recomendado para un máximo de 20 automatizaciones de procesos robóticos (). RPAs -
medium— Recomendado para un máximo de 100 RPAs. -
large— Recomendado para un máximo de 200 personas RPAs.
