Vai al contenuto principale Passa a contenuto complementare

Snowflake

È possibile utilizzare Snowflake come piattaforma dati di destinazione in una pipeline di dati o in un'attività di replica. In una pipeline di dati, è possibile eseguire diverse operazioni ELT nella piattaforma di destinazione, tra cui archiviare i dati, trasformarli, creare data mart e registrare i dati. Un'attività di replica, d'altra parte, include la replica dei dati direttamente da un sistema di origine a un sistema di destinazione con funzionalità di trasformazione di base, ma senza il supporto delle operazioni ELT.

Per l'impostazione di Snowflake come destinazione sono necessari i seguenti elementi:

  • Configurazione di Autorizzazioni richieste sul database.
  • Installazione del driver richiesto. Notare che ciò è richiesto solo se ci si sta connettendo a Snowflake via Data Movement gateway.
  • Configurazione di una connessione a Snowflake

Impostazione delle proprietà di connessione

Per configurare il connettore, procedere come segue:

  1. In Connessioni, fare clic su Crea connessione.

  2. Selezionare il connettore Snowflake di destinazione, quindi fornire le seguenti impostazioni:

Gateway di Data Movement

Nota informaticaQuesto campo non è disponibile con la sottoscrizione a Avvio Qlik Talend Cloud, poiché il Data Movement gateway non è supportato con i livelli di sottoscrizione.

È richiesto un Data Movement gateway solo se non è possibile accedere al database di destinazione da Qlik Cloud ed è possibile accedervi solo utilizzando un Private Link (ad esempio, se è posizionato o in un Virtual Private Cloud). In questo caso, selezionare il Data Movement gateway che si desidera utilizzare per accedere al database di destinazione.

A seconda del caso di utilizzo, questo sarà lo stesso Data Movement gateway distribuito per spostare i dati da una sorgente dati, oppure uno differente.

Per informazioni sui casi di utilizzo del Data Movement gateway, vedere Quando è richiesto il Data Movement gateway? e Casi d'uso comuni.

Se il database di destinazione è accessibile direttamente da Qlik Cloud, selezionare Nessuno.

Nota informaticaQuando si accede al database di destinazione tramite Data Movement gateway, è necessario anche installare il driver appropriato sul computer Data Movement gateway. Per dettagli, vedere Configurazione del driver qui sotto.

Proprietà di connessione

  • Server: l'URL per accedere a Snowflake. Ad esempio, myaccount.snowflakecomputing.com.

  • Porta: la porta che si desidera utilizzare per accedere al database Snowflake. La porta predefinita è la 443.

Autenticazione

Scegliere un metodo di autenticazione:

  • Nome utente e password

    Nota informaticaQuando questo metodo è selezionato, il metodo di caricamento Snowpipe Streaming nella scheda Generali delle impostazioni dell'attività non è supportato.
  • Coppia di chiavi

    Il database Snowflake deve essere configurato per utilizzare l'autenticazione a coppia di chiavi. Il processo è descritto in Configurazione dell'autenticazione a coppie di chiavi.

    Nota informaticaSe si usa Data Movement gateway, per usare l'autenticazione a coppia di chiavi è necessaria la versione 2024.5.14 oppure una versione superiore.

Proprietà dell'account

Nome utente e password

Nome utente e Password: il nome utente e la password di un utente autorizzato ad accedere al database di Snowflake.

Coppia di chiavi

Proprietà della coppia di chiavi
Proprietà dell'account Descrizione
Utente Utente in Snowflake.
File della chiave privata Fare clic su Sfoglia per selezionare il file della chiave privata.
Password del file della chiave privata La password per decifrare la chiave privata, se è criptata.

Proprietà del database

  • Data warehouse predefinito: il nome del warehouse Snowflake. È possibile sostituirlo nelle impostazioni del progetto.
  • Nome database: per specificare un database, è possibile utilizzare i due metodi descritti di seguito.

    • Metodo 1 - Selezione da un elenco: Fare clic su Carica database, quindi selezionare un database.

    • Metodo 2 - Manualmente: selezionare Inserisci nome database manualmente, quindi inserire il nome del database.

Proprietà di connessione aggiuntive

È possibile specificare ulteriori proprietà di connessione ODBC e JDBC, in base alle esigenze. Le proprietà che sono rilevanti sia per le connessioni ODBC che per quelle JDBC - ad esempio, "Ruolo" - devono essere aggiunte a entrambe.

Nota informatica
  • Se si utilizza Data Movement gateway, le Proprietà di connessione aggiuntive sono supportate dalla versione 2024.5.54.
  • Le proprietà sicure (ad esempio, le chiavi di crittografia) non sono supportate.
  • Non aggiungere proprietà che hanno campi dedicati nelle impostazioni di connessione.

Proprietà ODBC

È possibile specificare ulteriori proprietà di connessione che saranno utilizzate dalle attività di spostamento dei dati (trasferimento, replica e trasferimento su un data lake) quando ci si connette tramite un driver ODBC.

Usare i pulsanti Crea nuovo e Annulla a destra del campo per aggiungere o rimuovere proprietà in base alle esigenze.

Proprietà JDBC

È possibile specificare ulteriori proprietà di connessione che saranno utilizzate dalle attività ELT (registro, archiviazione, trasformazione e data mart) quando ci si connette tramite un driver JDBC.

Usare i pulsanti Crea nuovo e Annulla a destra del campo per aggiungere o rimuovere proprietà in base alle esigenze.

Proprietà interne

Le proprietà interne servono per casi d'uso speciali e pertanto non vengono visualizzate nella finestra di dialogo. Gli utenti devono utilizzarle solo se indicato dal Supporto di Qlik.

Usare i pulsanti Crea nuovo e Annulla a destra del campo per aggiungere o rimuovere proprietà in base alle esigenze.

Nome

Il nome visualizzato per la connessione.

Prerequisiti

Autorizzazioni richieste

Sono necessarie le seguenti autorizzazioni:

  • UTILIZZO SU DATABASE
  • CREA SCHEMA SU DATABASE
  • UTILIZZO SU DATABASE
  • UTILIZZO SU SCHEMA
  • CREA FORMATO FILE SU SCHEMA
  • CREA FASE SU SCHEMA
  • CREA TABELLA SU SCHEMA

Configurazione del driver

Un driver è necessario solo se si accede al database tramite Data Movement gateway.

È possibile installare driver utilizzando l'utilità di installazione dei driver (procedura consigliata) oppure manualmente. Si consiglia di utilizzate l'installazione manuale nel caso improbabile che si riscontrasse un problema con l'utilità di installazione dei driver.

Utilizzo dell'utilità di installazione dei driver per installare il driver

Questa sezione descrive come installare il driver richiesto. Per questo processo è necessario scaricare il driver, copiarlo nella cartella richiesta (vedere sotto) ed eseguire uno script che lo installerà e configurerà automaticamente. È inoltre possibile eseguire script per aggiornare e disinstallare il driver secondo le necessità.

  • Assicurarsi che Python 3.6.x o versione successiva sia installato sul server del gateway di Data Movement.

    Python è preinstallato nella maggior parte delle distribuzioni Linux. È possibile verificare quale versione di Python è installata sul sistema, eseguendo il seguente comando:

    python3 --version

  • Scaricare il driver ODBC Snowflake "snowflake-odbc-<version>.x86_64.rpm". È possibile trovare un collegamento di download diretto alla versione supportata in binary-artifacts in /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml. Una volta completato il download, copiare il file in:

    /opt/qlik/gateway/movement/drivers/snowflake

installare driver:

  1. Arrestare il servizio gateway di Data Movement:

    sudo systemctl stop repagent

  2. Facoltativamente, confermare che il servizio è stato interrotto:

    sudo systemctl status repagent

    Lo stato dovrebbe essere il seguente:

    Active: inactive (dead) since <timestamp> ago

  3. Sul computer gateway Data Movement, cambiare la directory di lavoro in:

    opt/qlik/gateway/movement/drivers/bin

  4. Eseguire il comando seguente:

    Sintassi:

    ./install snowflake

    Altrimenti, verrà visualizzato l'EULA del driver.

  5. Effettuare una delle seguenti operazioni:

    • Premere ripetutamente [Invio] per scorrere lentamente l'EULA.
    • Premere ripetutamente la barra spaziatrice per scorrere rapidamente l'EULA.
    • Premere q per uscire dal testo della licenza e visualizzare le opzioni di accettazione dell'EULA.
  6. Effettuare una delle seguenti operazioni:

    • Digitare "y" e premere [Invio] per accettare l'EULA e avviare l'installazione.
    • Digitare "n" e premere [Invio] per rifiutare l'EULA e uscire dall'installazione.
    • Digitare "v" e premere [Invio] per visualizzare nuovamente l'EULA.

  7. Il driver verrà installato.

  8. Attendere il completamento dell'installazione (indicato dal messaggio "Operazione completata"), quindi avviare il servizio gateway di Data Movement:

    sudo systemctl start repagent

  9. Facoltativamente, conferma che il servizio si è avviato:

    sudo systemctl status repagent

    Lo stato dovrebbe essere il seguente:

    Active: active (running) since <timestamp> ago

Eseguire il comando aggiorna se si desidera disinstallare le versioni precedenti del driver prima di installare il driver fornito.

Per e aggiornare driver:

  1. Arrestare il servizio gateway di Data Movement:

    sudo systemctl stop repagent

  2. Facoltativamente, confermare che il servizio è stato interrotto:

    sudo systemctl status repagent

    Lo stato dovrebbe essere il seguente:

    Active: inactive (dead) since <timestamp> ago

  3. Sul computer gateway Data Movement, cambiare la directory di lavoro in:

    opt/qlik/gateway/movement/drivers/bin

  4. Eseguire il comando seguente:

    Sintassi:

    ./update snowflake

    Altrimenti, verrà visualizzato l'EULA del driver.

  5. Effettuare una delle seguenti operazioni:

    • Premere ripetutamente [Invio] per scorrere lentamente l'EULA.
    • Premere ripetutamente la barra spaziatrice per scorrere rapidamente l'EULA.
    • Premere q per uscire dal testo della licenza e visualizzare le opzioni di accettazione dell'EULA.
  6. Effettuare una delle seguenti operazioni:

    • Digitare "y" e premere [Invio] per accettare l'EULA e avviare l'installazione.
    • Digitare "n" e premere [Invio] per rifiutare l'EULA e uscire dall'installazione.
    • Digitare "v" e premere [Invio] per rivedere l'EULA dall'inizio.
  7. Il vecchio driver verrà disinstallato e il nuovo driver verrà installato.

  8. Attendere il completamento dell'installazione (indicato dal messaggio "Operazione completata"), quindi avviare il servizio gateway di Data Movement:

    sudo systemctl start repagent

  9. Facoltativamente, conferma che il servizio si è avviato:

    sudo systemctl status repagent

    Lo stato dovrebbe essere il seguente:

    Active: active (running) since <timestamp> ago

Eseguire il comando di disinstallazione se si desidera disinstallare il driver.

Per disinstallare il driver:

  1. interrompere tutte le attività configurate per utilizzare il connettore.

  2. Sul computer gateway Data Movement, cambiare la directory di lavoro in:

    opt/qlik/gateway/movement/drivers/bin

  3. Eseguire il comando seguente:

    Sintassi:

    ./uninstall snowflake

    Il driver verrà disinstallato.

Installazione manuale del driver

Si consiglia di tentare l'installazione manuale di driver nel caso in cui l'installazione automatizzata non venissa completata.

È necessario installare un ODBC e un driver JDBC.

  1. Una volta installato Data Movement gateway, scaricare il file del driver snowflake-odbc-<version>x86_64.rpm elencato in binary-artifacts in /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml, quindi copiarlo nel computer di Data Movement gateway.
  2. Installare il driver sulla macchina Data Movement gateway.
  1. Scaricare il file snowflake-jdbc-<version>.jar elencato in binary-artifacts in /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml, quindi copiarlo nel computer di Data Movement gateway.

    /opt/qlik/gateway/movement/qcs_agents/qdi-db-commands/lib

  2. Riavviare il servizio Data Movement gateway e verificare che sia stato avviato eseguendo i comandi descritti nella sezione Comandi di servizio del Data Movement gateway

Porta

La porta 443 del firewall deve essere aperta per la comunicazione in uscita.

Limiti e considerazioni

Quando si spostano i dati su una destinazione Snowflake, si applicano le seguenti limitazioni:

  • La replica delle tabelle che contengono barre rovesciate nel nome (ad es. SPECIAL\\TABLE\N) non è supportata.

Limitazioni e considerazioni sull'utilizzo del metodo di caricamento Snowpipe Streaming

  • Quando utilizza Snowpipe Streaming come metodo di caricamento, si applicano le seguenti limitazioni:
    • Solo per le attività di trasferimento:

      • Poiché Snowpipe supporta solo le operazioni INSERT, il metodo di aggiornamento Ricarica e confronta non è supportato.

    • Solo per le attività di replica:

      • Poiché Snowpipe supporta solo le operazioni INSERT, la modalità di replica Applica modifiche non è supportata.

      • Se si interrompe la replica di Archivia modifiche durante una transazione e la si riprende dopo 30 giorni o più, potrebbero venire generati record duplicati nella destinazione. Snowflake elimina automaticamente i canali dopo 30 giorni.
    • Per le attività di trasferimento e di replica:

      • L'autenticazione con nome utente e password non è supportata.
      • Il sottotipo di dati XML non è supportato.
  • Tipi di dati

    La tabella seguente mostra i tipi di dati Snowflake supportati al momento di utilizzare Qlik Cloud e il mapping predefinito dai tipi di dati Qlik Cloud.

    La informazioni relative tipo di dati nativo vengono mantenute e vengono visualizzate nella colonna Tipo di dati nativo nelle visualizzazioni del set di dati. Se la colonna non è visibile, è necessario aprire lo strumento di selezione delle colonne della visualizzazione del set di dati e selezionare la colonna Tipo di dati nativo.

    Tipi di dati supportati
    Tipi di dati Qlik Cloud Tipi di dati Snowflake

    BOOLEAN

    BOOLEAN

    BYTES

    BINARY (lunghezza in Byte)

    DATE

    DATE

    TIME

    TIME (precisione)

    DATETIME

    Snowflake:

    • TIMESTAMP

    Per Snowflake Iceberg :

    • TIMESTAMP

    • Se la scala > 7: STRING(37)

    INT1

    BYTEINT

    INT2

    SMALLINT

    INT4

    INTEGER

    INT8

    BIGINT

    NUMERIC

    NUMBER (precisione, scala)

    REAL4

    FLOAT4

    REAL8

    FLOAT8

    UINT1

    BYTEINT

    UINT2

    INTEGER

    UINT4

    INTEGER

    UINT8

    BIGINT

    STRING

    VARCHAR (lunghezza in byte)

    WSTRING

    NVARCHAR (lunghezza in Byte)

    BLOB

    BINARY (8388608)

    NCLOB

    NVARCHAR (8388608)

    CLOB

    VARCHAR (8388608)

    JSON VARIANT

    Quando si utilizzano i tipi di dati array, oggetto o TIMESTAMP_TZ in Snowflake, è necessario convertirli in BINARY, se:

    • Si dispone di un'attività dati registrata con uno di questi tipi, e poi un'attività che memorizza le tabelle in formato Iceberg.

    • Si dispone di un'attività Iceberg con uno di questi tipi, e poi un'attività senza Iceberg.

    Hai trovato utile questa pagina?

    Se riscontri problemi con questa pagina o con il suo contenuto – un errore di battitura, un passaggio mancante o un errore tecnico – ti pregiamo di farcelo sapere!