Amazon Bedrock - Converse API Fuente de analítica
El conector de análisis de Amazon Bedrock - Converse API proporciona acceso a la API universal de Amazon Bedrock para LLM (grandes modelos lingüísticos) que ofrece capacidades de generación de texto. Utilice este conector para enriquecer sus aplicaciones de análisis con la profundidad contextual y analítica de los modelos de IA generativa alojados en Amazon Bedrock.
Este conector se comunica con la API de Converse, que proporciona acceso a numerosos modelos de generación de texto, incluida la familia de modelos de base Amazon Nova. La API de Converse le permite hacer uso de varias funciones avanzadas disponibles en Amazon Bedrock, incluidos los perfiles de inferencia entre regiones (CRIS) y las barreras. Para obtener una lista de los modelos y funciones compatibles con la API de Converse, consulte Modelos compatibles y funciones de los modelos.
Con el conector analítico de Amazon Bedrock - Converse API, puede enviar datos a Amazon Bedrock desde la entrada misma del consumidor de la app o desde datos cargados en su script. Puede conectarse a esta fuente de análisis desde la página Crear del centro de actividades Analítica, la página Script o dentro de una app.
Requisitos previos
Para trabajar con este conector es necesario ser usuario de AWS con clave de acceso y clave secreta. También debe tener el permiso bedrock:invokemodel.
Habilitar extremos de conexión de ML en Qlik Cloud
Para trabajar con este conector, los puntos de conexión de aprendizaje automático o Machine Learning deben estar habilitados en el centro de actividades Administración. La opción se encuentra bajo el Control de funciones en la sección Configuración.
Para más información, vea Habilitar conexiones analíticas para puntos de conexión de aprendizaje automático.
Limitaciones
-
Este conector tiene un límite de solicitudes de 25 filas por solicitud, con un tamaño de lote máximo de una fila enviada a la vez.
-
Los recursos disponibles en los servicios donde se ha implementado el modelo afectarán y limitarán el rendimiento en la carga de Qlik Sense y la capacidad de respuesta del gráfico.
-
En un escenario en el que una aplicación se recarga con regularidad, es una buena práctica almacenar en caché las predicciones de aprendizaje automático mediante un archivo QVD y solo enviar las nuevas filas al punto de conexión. Esto mejorará el rendimiento de la recarga de la aplicación de Qlik Sense y reducirá la carga en el punto de conexión del modelo.
-
Si está utilizando un nombre de conexión relativo y si decide mover su app desde un espacio compartido a otro espacio compartido, o si mueve su app de un espacio compartido a su espacio privado, la conexión analítica tardará algún tiempo en actualizarse para reflejar la nueva ubicación del espacio.