Cohere (Amazon Bedrock) -analysebron
Gebruik de Cohere (Amazon Bedrock)-analyseconnector om te communiceren met Cohere en breidt uw Qlik Sense-apps uit met context en analyses van generatieve AI-technologie en LLM-technologie (Large Language Model).
Met de Amazon Bedrock - Converse API-connector kunt u verbinding maken met Amazon Bedrock's universele API voor tekstgeneratiemodellen, inclusief een of meer modellen die via deze connector beschikbaar zijn. Voor meer geavanceerde functionaliteit kunt u overwegen om verbindingen die de Cohere - Generate-configuratie van deze verbinding gebruiken, te vervangen door Amazon Bedrock - Converse API-verbindingen.
Ga voor meer informatie naar Amazon Bedrock - Converse API-analysebron.
Met de Cohere (Amazon Bedrock)-analyseconnector kunt u gegevens verzenden van gebruikersinvoer in apps of van gegevens die zijn geladen in uw script naar Cohere. U kunt vanaf de pagina Maken in het Analyse-activiteitencentrum, het Script of in een app verbinding maken met deze analysebron.
Vereisten
Om te werken met deze connector moet u een AWS-gebruiker zijn met een toegangssleutel en geheime sleutel. U moet ook beschikken over de machtiging bedrock:invokemodel.
ML-eindpunten inschakelen in Qlik Cloud
U moet machine learning-eindpunten inschakelen in het Beheer-activiteitencentrum om deze connector te kunnen gebruiken. U vindt de schakelaar onder Functiebeheer in de sectie Instellingen.
Ga voor meer informatie naar Analytische verbindingen inschakelen voor machine learning-eindpunten..
Beperkingen
Deze connector heeft een aanvraaglimiet van 25 rijen per aanvraag, met een maximum batchgrootte van 1 rij die per keer verstuurd kan worden.
De beschikbare resources in de services waarin het model is geïmplementeerd, beïnvloeden en beperken de prestaties bij het opnieuw laden van Qlik Sense en bij diagramresponsiviteit.
In een scenario waarbij een applicatie regelmatig opnieuw wordt geladen, is het handig om de machine learning-prognoses met behulp van een QVD-bestand op te slaan in cache en alleen de nieuwe rijen naar het eindpunt te sturen. Dit verbetert de prestaties van het opnieuw laden van de Qlik Sense-applicatie en beperkt de belasting van het modeleindpunt.
Als u een relatieve verbindingsnaam gebruikt en u besluit uw app van een gedeelde ruimte naar een andere gedeelde ruimte te verplaatsen, of als u uw app van een gedeelde ruimte naar uw privéruimte verplaatst, duurt het even voordat de analytische verbinding is bijgewerkt en de nieuwe locatie weerspiegelt.