Utilizzo delle connessioni Azure OpenAI nelle espressioni di visualizzazione
Oltre ad aggiungere le domande e le risposte di Azure OpenAI al modello dati della propria app utilizzando lo script di caricamento, è possibile anche eseguire queste operazioni direttamente in un grafico della propria app. I dati per un singolo campo vengono inviati avanti e indietro tra l'utente e il servizio Azure OpenAI.
In molti casi, il codice usato per la connessione di uno script di caricamento può essere riutilizzato in un grafico, con alcune differenze.
Se il caso di utilizzo si basa sull'input dell'utente, è possibile utilizzare una connessione di analisi e la sintassi corrispondente di estensione lato server nell'espressione del grafico dell'utente al fine di creare grafici interattivi che visualizzino i dati ricevuti dagli endpoint modello.
Considerazioni relative al volume dati delle richieste
Per le espressioni del grafico per una o alcune righe di dati, si consiglia di utilizzare esclusivamente le connessioni Azure OpenAI. L'utilizzo di espressioni del grafico per inviare grandi quantità di dati al servizio è sconsigliato.
È importante verificare il numero di righe che si inviano con ogni richiesta. Gli errori nella configurazione della connessione Azure OpenAI in un'espressione del grafico possono portare a richieste accidentalmente grandi (ad esempio, a causa di righe identiche con la stessa domanda a causa dell'utilizzo scorretto del modello dati in un grafico). Quanto più grandi sono le richieste inviate ad Azure OpenAI, maggiore sarà il costo finanziario che sarà necessario sostenere per l'utilizzo di Microsoft Azure. Nonostante per questo connettore vi sia un limite di 25 righe per ogni richiesta, è importante verificare che venga rispettato.
Seguire queste linee guida per controllare e limitare le dimensioni delle richieste Azure OpenAI:
-
Utilizzare solo connessioni Azure OpenAI in un'espressione del graficoTesto e immagini. Si sconsiglia vivamente l'utilizzo di una connessione Azure OpenAI in un oggetto Tabella, soprattutto se si desidera aggiungere l'espressione a una tabella con una o più dimensioni preesistente.
-
Se l'espressione del grafico è collegata al modello dati della propria app, utilizzare un'istruzione if nell'espressione esclusivamente per calcolare il grafico quando si effettua un'unica selezione nell'app. In questo modo, il numero di righe viene ridotto notevolmente nelle richieste che il grafico invia al servizio Azure OpenAI.
-
Se si usa una connessione Azure OpenAI per inviare richieste di grandi dimensioni, usare la connessione nello script di caricamento anziché in un'espressione del grafico, in modo che i dati vengano pre-caricati del modello dati.
Esempi rapidi
In questa sezione vengono elencate alcune espressioni di esempio che è possibile utilizzare quando con il connettore Azure OpenAI. Tenere presente le seguenti indicazioni:
-
Utilizzare unicamente espressioni con un oggetto Testo e immagine.
-
Considerare di aggiungere un'istruzione if alle espressioni per controllare quando bisogna ricalcolare e aggiornare il grafico, a seconda delle selezioni dell'utente nell'app.
-
Per fare in modo che le espressioni funzioni correttamente, è necessario sostituire il valore connectionname e i nomi di qualsiasi campo in modo che corrispondano alle connessioni e app utilizzate dall'utente.
Per ulteriori esempi, vedere Tutorial – Utilizzo del connettore di analisi OpenAI in Qlik Cloud.
| Configurazione del connettore | Espressione | Riepilogo |
|---|---|---|
| API completamenti di OpenAI (GPT-3) – Righe | endpoints.ScriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"OpenAI Connection for Rows Completions (GPT-3)","column":"choices.text"}}', 'Translate this text from english to spanish: The sun was rising over the new tomorrow with a tinge of excitement.') |
Questa istruzione restituirà la risposta a una singola domanda, inserita nell'espressione. Nota di avviso
Questa espressione non utilizza un'istruzione if, quindi non è idonea per essere utilizzata se vincolata a un campo nel modello dati dell'utente. È adatta per l'uso solo in un'espressione indipendente con un'unica cella di input contenente un valore codificato. |
| API completamenti di OpenAI (GPT-3) – Righe | if(vQuestion <> '', endpoints.scriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Rows_3","column":"choices.text"}}',vQuestion)) |
Questa è un'istruzione che può essere utilizzata in un oggetto Testo e immagine collegato a un Controllo input variabile. Il grafico viene calcolato solo dopo che viene inserito l'input. Quando l'utente digita l'input nell'oggetto e preme Invio, il grafico visualizza la risposta al testo inserito. Per la procedura dettagliata, vedere Esercizio: Creazione di una casella di testo di input che utilizza una variabile. |
| API completamenti chat OpenAI (GPT-3.5, GPT-4) – Righe | if(GetSelectedCount(BusinessTopic)=1, endpoints.ScriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Rows_3", "column":"choices.message.content"}}', 'What are people saying about ' & 'BusinessTopic'), 'Please select a single value for BusinessTopic.') | Questa è un'istruzione complessa if nella quale il grafico viene calcolato solo se l'utente seleziona un valore per il campo BusinessTopic. Il grafico si aggiorna solo se l'utente effettua tale selezione nell'app; in caso contrario, il grafico visualizzerà il seguente messaggio alternativo: Please select a single value for BusinessTopic. |
| API completamenti chat OpenAI (GPT-3.5, GPT-4) – Righe | if(vQuestion <> '', endpoints.scriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Rows_3","column":"choices.message.content"}}',vQuestion)) |
Questa è un'istruzione che può essere utilizzata in un oggetto Testo e immagine collegato a un Controllo input variabile. Il grafico viene calcolato solo dopo che viene inserito l'input. Quando l'utente digita l'input nell'oggetto e preme Invio, il grafico visualizza la risposta al testo inserito. Per la procedura dettagliata, vedere Esercizio: Creazione di una casella di testo di input che utilizza una variabile. |
| API completamenti chat OpenAI (GPT-3.5, GPT-4) – Righe | if( count(distinct [IssueCategory]) = 1, endpoints.ScriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Chat_3_5","column":"choices.message.content"}}', 'write me a sample response from a technical support department for a customer complaint about ' & [IssueCategory])) | In questo esempio, il grafico viene calcolato solo se un valore distinto viene selezionato dal campo IssueCategory nel modello dati dell'app. Una richiesta viene inviata per richiedere una risposta di esempio da un dipartimento di supporto tecnico riguardante un tipo generale di problema, un elenco dei quali è incluso nel campo IssueCategory. Il grafico viene aggiornato a seconda del valore selezionato dall'utente. |
Esempi dettagliati
Gli esempi che mostrano come utilizzare la connessione Azure OpenAI nelle espressioni del grafico sono disponibili nel tutorial del connettore OpenAI. Notare che il connettore Azure OpenAI comunica con i modelli attraverso la piattaforma Microsoft Azure anziché la piattaforma OpenAI.
Tutorial – Utilizzo del connettore di analisi OpenAI in Qlik Cloud
Esempio 1: configurazione 'API completamenti di OpenAI (GPT-3) – Righe
Esempio 3: configurazione 'API completamenti chat di OpenAI (GPT-3.5, GPT-4) – Righe
Connettore di analisi OpenAI – Esempio interattivo