Google BigQuery

Sie können Google BigQuery als eine Zieldatenplattform in einer Daten-Pipeline. In einer Daten-Pipeline können verschiedene Vorgänge auf der Zielplattform durchgeführt werden, wie das Bereitstellen, Speichern oder Umwandeln von Daten, die Erstellung von Data Marts und die Datenregistrierung. verwenden.

Dies bedeutet:

• Erfüllen der Voraussetzungen
• Konfigurieren einer Verbindung zu Google BigQuery

Konfigurieren einer Verbindung zu Google BigQuery

Wählen Sie den Google BigQuery-Zielkonnektor aus und konfigurieren Sie die folgenden Einstellungen.

Datenziel

Daten-Gateway: Ein Data Movement Gateway ist nur erforderlich, wenn die Zieldatenbank nicht über Qlik Cloud, sondern nur über einen privaten Link erreichbar ist (wenn sie sich z. B. in einer Virtual Private Cloud befindet). Wählen Sie in diesem Fall das Data Movement Gateway aus, über das Sie auf die Zieldatenbank zugreifen möchten.

Abhängig von Ihrem Anwendungsfall ist dies das gleiche Data Movement Gateway, das zum Bereitstellen von Daten aus der Datenquelle bereitgestellt wurde, oder ein anderes. Informationen zu den Bereitstellungsmöglichkeiten für Data Movement Gateway finden Sie unter Häufige Anwendungsfälle.

Wenn auf die Zieldatenbank direkt über Qlik Cloud zugegriffen werden kann, wählen Sie Keine aus.

Verbindungseigenschaften

Dienstkontoschlüssel: Laden Sie die JSON-Datei hoch, die beim Erstellen des BigQuery-Dienstkontoschlüssels heruntergeladen wurde.

Standort: Ort, an den der von Qlik erstellte Datensatz hochgeladen wird. Wenn Sie Sonstige auswählen, geben Sie den Regionsnamen in das Feld Regionsname ein. Eine Liste der unterstützen Regionsnamen finden Sie unter BigQuery-Standorte.

Name

Der Anzeigename für die Verbindung.

Voraussetzungen

Für Bereitstellungsdaten erforderliche Berechtigungen

Erforderliche Berechtigungen zur automatischen Erstellung des Ziel-Datasets:

Wenn das Dataset automatisch erstellt werden soll, sind die folgenden Berechtigungen nötig:

BigQuery > BigQuery Job User

BigQuery > BigQuery Data Editor

Erforderlichen Berechtigungen, wenn das Ziel-Dataset bereits vorhanden ist:

Wenn der Datensatz bereit vorhanden ist, müssen Sie folgende Schritte durchführen:

1. Erstellen Sie ein Dienstkonto mit der folgenden Berechtigung:

   BigQuery > BigQuery Job User

2. Navigieren Sie zum Dataset, das Sie verwenden möchten, und führen Sie dann Folgendes aus:

   1. Fügen Sie das Dienstkonto hinzu, das Sie gerade als Prinzipal erstellt haben.

   2. Weisen Sie die Rolle BigQuery Data Editor zu.

Treibereinrichtung

Ein Treiber ist nur erforderlich, wenn Sie über Data Movement Gateway auf die Datenbank zugreifen. Installieren Sie in diesem Fall den Treiber auf dem Data Movement Gateway-Rechner.

Sie können den driver mit dem Treiberinstallations-Dienstprogramm (empfohlen) oder manuell installieren. Eine manuelle Installation sollte nur in dem unwahrscheinlichen Fall versucht werden, dass Sie beim Verwenden des Treiberinstallations-Dienstprogramms auf Probleme stoßen.

Verwenden des Treiberinstallations-Dienstprogramms zum Installieren des Treibers

In diesem Abschnitt wird die Installation des erforderlichen driver beschrieben. Der Prozess umfasst das Ausführen eines Skripts, das den erforderlichen driver automatisch herunterlädt, installiert und konfiguriert. Sie können auch Skripte ausführen, um den driver bei Bedarf zu aktualisieren und zu deinstallieren.

Vorbereiten der Installation

• Vergewissern Sie sich, dass Python 3.6 oder höher auf dem Data Movement-Gateway-Server installiert ist.

  Python ist in den meisten Linux-Distributionen vorinstalliert. Führen Sie den folgenden Befehl aus, um zu prüfen, welche Python-Version auf Ihrem System installiert ist.

  python3 --version

Installieren von driver

So laden Sie den driver herunter und installieren ihn:

1. Halten Sie den Data Movement Gateway-Dienst an:

   sudo systemctl stop repagent

2. Bestätigen Sie optional, dass der Dienst angehalten wurde:

   sudo systemctl status repagent

   Der Status lautet wie folgt:

   Active: inactive (dead) since <timestamp> ago

3. Ändern Sie auf dem Data Movement-Gateway-Computer das Arbeitsverzeichnis zu:

   opt/qlik/gateway/movement/drivers/bin

4. Führen Sie den folgenden Befehl aus:

   Syntax:

   ./install gbq

   Wenn der driver (aufgrund von Zugriffsbeschränkungen oder technischen Fehlern) nicht heruntergeladen werden kann, wird eine Meldung mit Anleitungen dazu angezeigt, wo Sie den driver herunterladen können und wohin er im Data Movement-Gateway-Computer kopiert werden muss. Führen Sie dann den Befehl install gbq erneut aus.

   Andernfalls wird die Endbenutzer-Lizenzvereinbarung für den driver angezeigt.

5. Gehen Sie folgendermaßen vor:

   • Drücken Sie mehrmals die [Eingabetaste], um langsam durch die Endbenutzer-Lizenzvereinbarung zu scrollen.
   • Drücken Sie mehrmals die Leertaste, um schnell durch die Endbenutzer-Lizenzvereinbarung zu scrollen.
   • Drücken Sie q, um den Lizenztext zu schließen und die Optionen zum Akzeptieren der Endbenutzer-Lizenzvereinbarung anzuzeigen.

6. Gehen Sie folgendermaßen vor:

   • Geben Sie „y“ ein und drücken Sie die [Eingabetaste], um die Endbenutzer-Lizenzvereinbarung zu akzeptieren und mit der Installation zu beginnen.
   • Geben Sie „n“ ein und drücken Sie die [Eingabetaste], um die Endbenutzer-Lizenzvereinbarung abzulehnen und den Installationsvorgang abzubrechen.

   • Geben Sie „v“ ein und drücken Sie die [Eingabetaste], um die Endbenutzer-Lizenzvereinbarung erneut anzuzeigen.

Der driver wird installiert.

7. Warten Sie, bis die Installation abgeschlossen ist („Complete!“ wird angezeigt) und starten Sie dann den Data Movement Gateway-Dienst:

   sudo systemctl start repagent

8. Bestätigen Sie optional, dass der Dienst gestartet wurde:

   sudo systemctl status repagent

   Der Status lautet wie folgt:

   Active: active (running) since <timestamp> ago

Aktualisieren des driver

Führen Sie den Befehl „update“ aus, wenn Sie vorherige Versionen des driver deinstallieren möchten, bevor Sie den bereitgestellten driver installieren.

So laden Sie den driver herunter und aktualisieren ihn:

1. Halten Sie den Data Movement Gateway-Dienst an:

   sudo systemctl stop repagent

2. Bestätigen Sie optional, dass der Dienst angehalten wurde:

   sudo systemctl status repagent

   Der Status lautet wie folgt:

   Active: inactive (dead) since <timestamp> ago

3. Ändern Sie auf dem Data Movement-Gateway-Computer das Arbeitsverzeichnis zu:

   opt/qlik/gateway/movement/drivers/bin

4. Führen Sie den folgenden Befehl aus:

   Syntax:

   ./update gbq

   Wenn der driver (aufgrund von Zugriffsbeschränkungen oder technischen Fehlern) nicht heruntergeladen werden kann, wird eine Meldung mit Anleitungen dazu angezeigt, wo Sie den driver herunterladen können und wohin er im Data Movement-Gateway-Computer kopiert werden muss. Führen Sie dann den Befehl update gbq erneut aus.

   Andernfalls wird die Endbenutzer-Lizenzvereinbarung für den driver angezeigt.

5. Gehen Sie folgendermaßen vor:

   • Drücken Sie mehrmals die [Eingabetaste], um langsam durch die Endbenutzer-Lizenzvereinbarung zu scrollen.
   • Drücken Sie mehrmals die Leertaste, um schnell durch die Endbenutzer-Lizenzvereinbarung zu scrollen.
   • Drücken Sie q, um den Lizenztext zu schließen und die Optionen zum Akzeptieren der Endbenutzer-Lizenzvereinbarung anzuzeigen.

6. Gehen Sie folgendermaßen vor:

   • Geben Sie „y“ ein und drücken Sie die [Eingabetaste], um die Endbenutzer-Lizenzvereinbarung zu akzeptieren und mit der Installation zu beginnen.
   • Geben Sie „n“ ein und drücken Sie die [Eingabetaste], um die Endbenutzer-Lizenzvereinbarung abzulehnen und den Installationsvorgang abzubrechen.
   • Geben Sie „v“ ein und drücken Sie die [Eingabetaste], um die Endbenutzer-Lizenzvereinbarung von Anfang an anzuzeigen.

Der alte driver wird deinstalliert und der neue driver installiert.

7. Warten Sie, bis die Installation abgeschlossen ist („Complete!“ wird angezeigt) und starten Sie dann den Data Movement Gateway-Dienst:

   sudo systemctl start repagent

8. Bestätigen Sie optional, dass der Dienst gestartet wurde:

   sudo systemctl status repagent

   Der Status lautet wie folgt:

   Active: active (running) since <timestamp> ago

Deinstallieren des driver

Führen Sie den Befehl „uninstall“ aus, wenn Sie den driver deinstallieren möchten.

So deinstallieren Sie den driver:

1. Halten Sie alle Aufgaben an, die für die Verwendung dieses Konnektors konfiguriert sind.

2. Ändern Sie auf dem Data Movement-Gateway-Computer das Arbeitsverzeichnis zu:

   opt/qlik/gateway/movement/drivers/bin

3. Führen Sie den folgenden Befehl aus:

   Syntax:

   ./uninstall gbq

   Der driver wird deinstalliert.

Manuelles Installieren des Treibers

Nehmen Sie nur dann eine manuelle Installation des driver vor, wenn die automatische Treiberinstallation nicht erfolgreich abgeschlossen werden konnte.

Sie müssen sowohl einen ODBC-Treiber als auch einen JDBC-Treiber installieren.

Installieren des ODBC-Treibers

Nachdem Data Movement Gateway installiert ist, laden Sie die Dateien SimbaODBCDriverforGoogleBigQuery_<version>-Linux.tar.gz und google-cloud-sdk-<version>-linux-x86_64.tar.gz herunter. Direkte Download-Links für diese Dateien finden Sie unter binary-artifacts in /opt/qlik/gateway/movement/drivers/manifests/gbq.yaml. Kopieren Sie nach Abschluss des Downloads die Dateien auf den Data Movement Gateway-Rechner.

1. Halten Sie den Data Movement Gateway-Dienst an:

   sudo systemctl stop repagent

2. Bestätigen Sie optional, dass der Dienst angehalten wurde:

   sudo systemctl status repagent

Der Status lautet wie folgt:

Active: inactive (dead) since <timestamp> ago

3. Extrahieren:

   SimbaODBCDriverforGoogleBigQuery_<version>.tar.gz

   zu:

   /opt/SimbaODBCDriverforGoogleBigQuery_<version>-Linux

4. Verschieben Sie die Dateien GoogleBigQueryODBC.did und simba.googlebigqueryodbc.ini in das Verzeichnis lib unter dem Simba ODBC-Treiberverzeichnis.

   Beispiel:

   Verschieben Sie die Dateien aus:

   /opt/SimbaODBCDriverforGoogleBigQuery_<version>-Linux/setup

   zu:

   /opt/SimbaODBCDriverforGoogleBigQuery_<version>-Linux/SimbaODBCDriverforGoogleBigQuery64_<version>/lib

5. Bearbeiten Sie die Datei simba.googlebigqueryodbc.ini wie folgt:

   1. Ändern Sie den ErrorMessagesPath in den Pfad der XML-Datei mit den ODBC-Nachrichten. Der Standardspeicherort lautet:

      ErrorMessagesPath=/opt/SimbaODBCDriverforGoogleBigQuery_<version>-Linux/SimbaODBCDriverforGoogleBigQuery64_<version>/ErrorMessages

   2. Ändern Sie DriverManagerEncoding in UTF-16.

6. Fügen Sie den folgenden Pfad zu der Datei site_arep_login.sh hinzu, die sich im Data Movement Gateway-Bin-Verzeichnis befindet:

   export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/opt/SimbaODBCDriverforGoogleBigQuery_<version>-Linux/SimbaODBCDriverforGoogleBigQuery64_<version>/lib

7. Bearbeiten Sie die Datei /etc/odbcinst.ini und fügen Sie den Treiberpfad hinzu (also den Pfad, in dem der Treiber installiert wird):

   [ODBC Drivers]

   Simba= Installed

   Simba ODBC Driver for Google BigQuery = Installed

   [Simba ODBC Driver for Google BigQuery]

   Description=Simba ODBC Driver for Google BigQuery(64-bit)

   Driver=/opt/SimbaODBCDriverforGoogleBigQuery_<version>-Linux/SimbaODBCDriverforGoogleBigQuery64_<version>/lib/libgooglebigqueryodbc_sb64.so

8. Installieren Sie google-cloud-sdk-<version>-linux-x86_64.tar.gz.

9. Starten Sie den Data Movement Gateway-Dienst:

   sudo systemctl start repagent

10. Bestätigen Sie optional, dass der Dienst gestartet wurde:

    sudo systemctl status repagent

    Der Status lautet wie folgt:

    Active: active (running) since <timestamp> ago

Installieren des JDBC-Treibers und seiner Abhängigkeiten

1. Laden Sie die folgende ZIP-Datei und die JAR-Dateien herunter, die Sie unter binary-artifacts in /opt/qlik/gateway/movement/drivers/manifests/gbq.yaml finden:

   • https://repo1.maven.org/maven2/com/google/cloud/google-cloud-bigquery/<version>/google-cloud-bigquery-<version>.jar
   • https://repo1.maven.org/maven2/com/google/cloud/google-cloud-storage/<version>/google-cloud-storage-<version>.jar
   • https://storage.googleapis.com/simba-bq-release/jdbc/SimbaJDBCDriverforGoogleBigQuery<version>.zip

   Kopieren Sie die JAR-Dateien in den folgenden Ordner auf dem Data Movement Gateway-Rechner und extrahieren Sie die JAR-Dateien in SimbaJDBCDriverforGoogleBigQuery<version>.zip in den gleichen Ordner:

   /opt/qlik/gateway/movement/qcs_agents/qdi-db-commands/lib

2. Starten Sie den Data Movement Gateway-Dienst neu, indem Sie den in Neustarten des Diensts beschriebenen Befehl ausführen.

Port

Der Firewall-Port 443 muss für die ausgehende Kommunikation geöffnet werden.

Datentypen

Die parametrisierte Datentypenlänge wird auf Standardwerte gesetzt:

• STRING: 8192 (Länge)

• BYTES: 8192 (Länge)

• NUMERIC Genauigkeit: 38, Dezimalstellen: 9

• BIGDECIMAL: Genauigkeit: 76, Dezimalstellen: 38

Die folgende Tabelle zeigt die Google BigQuery-Datentypen, die bei der Verwendung von Qlik Cloud unterstützt werden, sowie die Standardzuordnung von Qlik Cloud-Datentypen.

Informationen zum nativen Datentyp werden beibehalten und in der Spalte Nativer Datentyp in Datensatzansichten angezeigt. Wenn die Spalte nicht angezeigt wird, müssen Sie die Spaltenauswahl in der Datensatzansicht öffnen und die Spalte Nativer Datentyp auswählen.

Die folgenden Datentypen werden in STRING konvertiert:

• ARRAY

• STRUCT

• JSON

• GEOGRAPHY

Nehmen Sie nur dann eine manuelle Installation des driver vor, wenn die automatische Treiberinstallation nicht erfolgreich abgeschlossen werden konnte.