Używanie połączeń Azure OpenAI w wyrażeniach wizualizacji
Oprócz dodawania pytań i odpowiedzi Azure OpenAI do modelu danych aplikacji za pomocą skryptu ładowania można także wykonywać te operacje bezpośrednio na wykresie w aplikacji. Dane pojedynczego pola są przesyłane między Tobą a usługą Azure OpenAI.
W wielu przypadkach kod używany do połączenia skryptu ładowania można ponownie wykorzystać na wykresie, ale z pewnymi różnicami.
Jeśli zastosowanie bazuje na danych wejściowych użytkownika, można użyć połączenia analitycznego i odpowiedniej składni rozszerzenia po stronie serwera w wyrażeniu wykresu, aby tworzyć interaktywne wykresy, które wizualizują dane otrzymane z punktów końcowych modelu.
Uwagi dotyczące wolumenów żądań danych
Zaleca się używanie połączeń Azure OpenAI w wyrażeniach wykresu tylko dla jednego lub kilku wierszy danych. Używanie wyrażeń wykresu do wysyłania dużych ilości danych do usługi nie jest zalecane.
Ważne jest, aby mieć świadomość, ile wierszy wysyła się z każdym żądaniem. Błędy w konfiguracji połączenia Azure OpenAI w wyrażeniu wykresu mogą prowadzić do nieumyślnie dużych żądań (na przykład z identycznymi wierszami z tym samym pytaniem z powodu niewłaściwego użycia modelu danych na wykresie). Im większe żądanie wyślesz do Azure OpenAI, tym większy możesz ponieść koszt finansowy na rzecz Microsoft Azure. Chociaż dla tego łącznika istnieje limit żądań wynoszący 25 wierszy na żądanie, nadal należy o tym pamiętać.
Aby moderować i ograniczać rozmiar żądań Azure OpenAI, postępuj zgodnie z tymi wskazówkami:
-
Używaj połączeń Azure OpenAI tylko w wyrażeniu wykresu typu Tekst i grafika. Zdecydowanie odradza się używanie połączenia Azure OpenAI w obiekcie Tabela, zwłaszcza jeśli dodajesz wyrażenie do tabeli z dodanym już co najmniej jednym wymiarem.
-
Jeśli wyrażenie wykresu jest połączone z modelem danych Twojej aplikacji, użyj w nim instrukcji if, aby obliczać wykres tylko wtedy, gdy w aplikacji zostanie dokonany pojedynczy wybór. Zmniejsza to znacznie liczbę wierszy w żądaniach, które Twój wykres wysyła do usługi Azure OpenAI.
-
Jeśli używasz połączenia Azure OpenAI do wysyłania dużych żądań, użyj połączenia w skrypcie ładowania zamiast w wyrażeniu wykresu, aby dane zostały wstępnie załadowane do modelu danych.
Szybkie przykłady
Tutaj znajdziesz przykładowe wyrażenia, których można używać podczas rozpoczynania pracy z łącznikiem OpenAI platformy Azure. Uwzględnij następujące szczegóły:
-
Używaj tych wyrażeń wyłącznie z obiektem Tekst i grafika.
-
Rozważ dodanie instrukcji if do wyrażeń, aby kontrolować moment przeliczenia wykresu i aktualizować w zależności od wyborów dokonanych przez użytkownika w aplikacji.
-
Aby wyrażenia działały, musisz zastąpić wartość connectionname oraz nazwy pól tak, aby odpowiadały Twoim własnym połączeniom i aplikacjom.
Dodatkowe przykłady zawiera temat Samouczek — Korzystanie z łącznika analityki OpenAI w Qlik Cloud.
| Konfiguracja łącznika | Wyrażenie | Podsumowanie |
|---|---|---|
| OpenAI Completions API (GPT-3) — wiersze | endpoints.ScriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"OpenAI Connection for Rows Completions (GPT-3)","column":"choices.text"}}', 'Translate this text from english to spanish: The sun was rising over the new tomorrow with a tinge of excitement.') |
Ta instrukcja zwróci odpowiedź na pojedyncze pytanie, które zostało wprowadzone do wyrażenia. Ostrzeżenie
To wyrażenie nie używa instrukcji if i dlatego nie nadaje się do użycia, jeśli jest powiązane z polem w modelu danych. Nadaje się tylko do użycia w samodzielnym wyrażeniu z pojedynczą komórką wejściową zawierającą zakodowaną na stałe wartość. |
| OpenAI Completions API (GPT-3) — wiersze | if(vQuestion <> '', endpoints.scriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Rows_3","column":"choices.text"}}',vQuestion)) |
Jest to instrukcja, której można użyć w obiekcie Tekst i grafika połączonym z elementem sterującym Wprowadzanie zmiennych. Wykres jest obliczany dopiero po wprowadzeniu danych wejściowych. Gdy użytkownik wprowadzi dane wejściowe do obiektu i naciśnie klawisz Enter, na wykresie zostanie wyświetlona odpowiedź na dane wejściowe. Instrukcję zawiera Ćwiczenie: tworzenie pola wprowadzania tekstu przy użyciu zmiennej. |
| OpenAI Chat Completions API (GPT-3.5, GPT-4) — wiersze | if(GetSelectedCount(BusinessTopic)=1, endpoints.ScriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Rows_3", "column":"choices.message.content"}}', 'What are people saying about ' & 'BusinessTopic'), 'Please select a single value for BusinessTopic.') | Jest to złożona instrukcja if, w której wykres jest obliczany tylko wtedy, gdy użytkownik wybrał jedną wartość dla pola BusinessTopic. Wykres jest aktualizowany tylko wtedy, gdy użytkownik dokona tego wyboru w aplikacji. W przeciwnym razie wyświetla następujący komunikat alternatywny: Please select a single value for BusinessTopic. |
| OpenAI Chat Completions API (GPT-3.5, GPT-4) — wiersze | if(vQuestion <> '', endpoints.scriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Rows_3","column":"choices.message.content"}}',vQuestion)) |
Jest to instrukcja, której można użyć w obiekcie Tekst i grafika połączonym z elementem sterującym Wprowadzanie zmiennych. Wykres jest obliczany dopiero po wprowadzeniu danych wejściowych. Gdy użytkownik wprowadzi dane wejściowe do obiektu i naciśnie klawisz Enter, na wykresie zostanie wyświetlona odpowiedź na dane wejściowe. Instrukcję zawiera Ćwiczenie: tworzenie pola wprowadzania tekstu przy użyciu zmiennej. |
| OpenAI Chat Completions API (GPT-3.5, GPT-4) — wiersze | if( count(distinct [IssueCategory]) = 1, endpoints.ScriptAggrStr('{"RequestType":"endpoint", "endpoint":{"connectionname":"My_OpenAI_Connection_Chat_3_5","column":"choices.message.content"}}', 'write me a sample response from a technical support department for a customer complaint about ' & [IssueCategory])) | W tym przykładzie wykres jest obliczany tylko wtedy, gdy z pola IssueCategory w modelu danych aplikacji wybrano jedną odrębną wartość. Wysyłana jest prośba o przykładową odpowiedź działu pomocy technicznej dotyczącą ogólnego rodzaju problemu z listy problemów w polu IssueCategory. Wykres jest aktualizowany na podstawie wartości wybranej przez użytkownika. |
Szczegółowe przykłady
Przykłady pokazujące, jak używać Azure OpenAI w wyrażeniach wykresu, można znaleźć w samouczku dotyczącym łącznika OpenAI. Należy zauważyć, że łącznik Azure OpenAI komunikuje się z modelami za pośrednictwem platformy Microsoft Azure zamiast platformy OpenAI.
Samouczek — Korzystanie z łącznika analityki OpenAI w Qlik Cloud
Przykład 1: Konfiguracja „OpenAI Completions API (GPT-3) — wiersze”
Przykład 3: konfiguracja „OpenAI Chat Completions API (GPT-3.5, GPT-4) — wiersze”
Łącznik analityczny OpenAI — przykład interaktywny