Meta (Amazon Bedrock)-Analysequelle

Verwenden Sie den Meta (Amazon Bedrock)-Analysekonnektor für die Kommunikation mit Meta und nutzen Sie in Ihren Qlik Sense Apps die kontextuelle und analytische Tiefe der generativen KI und der LLM-Technologie (Large Language Model).

Mit dem Meta (Amazon Bedrock)-Analysekonnektor können Sie Daten von der App-Nutzereingabe oder von in Ihrem Skript geladenen Daten an Meta senden. Sie können über den Hub, den Skript-Editor oder von einer App aus eine Verbindung zu dieser Analysequelle herstellen.

Dieser Analysekonnektor unterstützt die folgenden Modellvarianten:

• Llama 2 Chat 13B

• Llama 2 Chat 70B

Einführung in Llama 2

Voraussetzungen

Um mit diesem Konnektor zu arbeiten, müssen Sie ein AWS-Benutzer mit einem Zugriffsschlüssel und einem geheimen Schlüssel sein. Zudem benötigen Sie die Berechtigung bedrock:invokemodel.

Aktivieren von ML-Endpunkten in Qlik Cloud

Für die Arbeit mit diesem Konnektor müssen ML-Endpunkte in der Verwaltungskonsole aktiviert werden. Der Schalter befindet sich im Abschnitt Einstellungen unter Funktionssteuerung.

Weitere Informationen finden Sie unter Aktivieren von Analyseverbindungen für Endpunkte für maschinelles Lernen.

Beschränkungen

• Der Konnektor hat ein Anfragelimit von 25 Zeilen pro Anfrage mit einer maximalen Batchgröße von jeweils einer gesendeten Zeile.

• Die verfügbaren Ressourcen in den Qlik Sense-Diensten, in denen das Modell bereitgestellt wurde, beeinflussen und beschränken die Leistung beim Ladevorgang und den Diagrammantwortzeiten.

• In einem Szenario, in dem eine Anwendung regelmäßig geladen wird, besteht die Best Practice darin, die Prognosen für maschinelles Lernen anhand einer QVD-Datei zwischenzuspeichern und nur die neuen Zeilen an den Endpunkt zu senden. Dies verbessert die Leistung des Ladevorgangs der Qlik Sense Anwendung und reduziert die Last am Modellendpunkt.

• Wenn Sie einen relativen Verbindungsnamen verwenden und entscheiden, Ihre App aus einem freigegebenen Bereich in einen anderen freigegebenen Bereich bzw. in Ihren privaten Bereich zu verschieben, dauert es eine bestimmte Zeit, bis die Analyseverbindung aktualisiert wird und den neuen Bereichsspeicherort angibt.