Google Cloud Storage
Ultimo aggiornamento: 20/10/2026Google Cloud Storage è il servizio di object storage unificato di Google per archiviare e accedere ai dati sull'infrastruttura di Google Cloud. Offre alta disponibilità, ridondanza globale e si integra con il più ampio ecosistema Google Cloud.
Qlik Talend Cloud utilizza un account di servizio Google Cloud con accesso in lettura al bucket di destinazione per connettersi a Google Cloud Storage (GCS). Il connettore recupera i file dal bucket specificato, rileva automaticamente gli schemi campionando il contenuto dei file ed esegue la replica incrementale dei dati in base ai timestamp di modifica dei file.
Preparazione per il processo di autenticazione
Per accedere ai dati, è necessario autenticare la connessione con le credenziali del proprio account.
Per configurare il tuo account Google Cloud Storage, è necessario:
- Un progetto Google Cloud Platform (GCP) con l'API Cloud Storage abilitata.
- Un bucket di Google Cloud Storage (GCS) che contiene i file da replicare.
- Un account di servizio con accesso in lettura al bucket.
Il ruolo consigliato è Visualizzatore di oggetti di archiviazione (
roles/storage.objectViewer), che concede le autorizzazioni richiestestorage.objects.getestorage.objects.list." Per ulteriori informazioni, vedere la documentazione sui ruoli IAM di Google Cloud Storage . - Un file di chiave JSON dell'account di servizio scaricato per l'account di servizio.
Per creare un account di servizio e recuperare le tue credenziali:
- Accedi al tuo account Google Cloud.
- Vai a IAM e amministrazione > Account di servizio.
- Fare clic su Crea account di servizio.
- Inserisci un nome e una descrizione per l'account di servizio, quindi fai clic su Crea e continua.
- Assegna all'account di servizio il ruolo Storage Object Viewer o un ruolo personalizzato con le autorizzazioni
storage.objects.getestorage.objects.list. - Fai clic su Continua e Fine.
- Nel tuo account di servizio appena creato, fai clic sul menu Azioni.
- Passare a Gestisci chiavi > Aggiungi chiave > Crea nuova chiave.
- Seleziona JSON e fai clic su Crea.
Il file della chiave JSON viene scaricato direttamente sul tuo computer. Questo file include i campi
project_id,client_emaileprivate_keynecessari per stabilire la connessione.È possibile effettuare il download del file della chiave solo una volta. Assicurati di conservarlo in modo sicuro e di eseguirne il backup, poiché fornisce l'accesso alle tue risorse Google Cloud.
Formati di file non supportati
- Testo delimitato: CSV, TSV, PSV, TXT (con delimitatore configurabile)
- JSON Lines (
.jsonl) - Parquet (
.parquet) - Avro (
.avro) - File compressi con Gzip (
.gz) contenenti uno qualsiasi dei formati sopra indicati - Archivi ZIP contenenti file CSV, JSON Lines, TXT, TSV, PSV o Gzip
Creazione della connessione
Per ulteriori informazioni, vedere Connessione alle applicazioni SaaS.
- Inserire le proprietà di connessione richieste.
-
Fornire un nome per la connessione in Nome connessione.
-
Selezionare Apri metadati di connessione per definire i metadati della connessione al momento della creazione.
-
Fare clic su Crea.
| Impostazione | Descrizione |
|---|---|
| Gateway dati |
Selezionare un Gateway Data Movement se richiesto dal proprio caso di utilizzo. Nota informatica
Questo campo non è disponibile con la sottoscrizione a Avvio Qlik Talend Cloud, poiché non supporta il Gateway Data Movement. Se si dispone di un altro livello di sottoscrizione e non si desidera utilizzare il Gateway Data Movement, selezionare Nessuno. Per informazioni sui vantaggi del Gateway Data Movement e quando è richiesto, vedere Qlik Data Gateway - Movimento dati. |
| Data di inizio |
Inserire la data, nel formato |
| Email del cliente | Email del client dal file della chiave JSON dell'account di servizio. |
| ID progetto | ID progetto dal file della chiave JSON dell'account di servizio. |
| Bucket | Nome del bucket Google Cloud Storage (GCS) in cui sono archiviati i file, ad esempio my-gcs-bucket.
Non includere il prefisso |
| Tabelle | Configurare le tabelle per controllare quali file vengono letti e come viene interpretato il loro contenuto. Ogni definizione di tabella include un pattern di ricerca file, un nome di tabella e impostazioni facoltative per il comportamento avanzato. |
| Chiave privata | Chiave privata dal file della chiave JSON dell'account di servizio. |
Configurazione della tabella
Ogni voce nella configurazione della tabella specifica una tabella logica creata a partire dai file nel bucket di destinazione. È possibile configurare le seguenti proprietà per ciascuna tabella:
| Proprietà | Obbligatorio o facoltativo | Descrizione |
|---|---|---|
| Nome tabella | Obbligatorio |
Specificare un nome per la tabella logica, ad esempio my_orders_csv. Questo nome verrà visualizzato come nome del flusso in Qlik Talend Cloud.
|
| Modello di ricerca | Obbligatorio |
Immettere un'espressione regolare per trovare la corrispondenza dei nomi dei file, ad esempio .*\.csv$ per selezionare tutti i file CSV. Il connettore utilizza la sintassi dei pattern di ricerca regex e glob. Nelle regex, *.csv non corrisponde ai nomi dei file CSV perché * deve seguire un'espressione da ripetere. Utilizzare pattern come \.csv$ o .*\.csv$ per trovare corrispondenze con nomi di file come report.csv e my.data.csv.
|
| Prefisso di ricerca | Opzionale | Fornisci un prefisso di percorso all'interno del bucket per restringere la ricerca dei file, ad esempio exports/orders/. L'utilizzo di un prefisso migliora le prestazioni limitando il numero di file analizzati.
|
| Proprietà della chiave | Opzionale |
Elencare uno o più nomi di colonna, separati da virgole, per definire la chiave primaria. Ad esempio: id o id,date.
|
| Sostituzioni di data | Opzionale | Elenca i nomi delle colonne, separati da virgole, da considerare come campi data/ora. Utilizzare questa opzione se questi campi non vengono rilevati automaticamente durante l'individuazione dello schema. |
| Delimitatore | Opzionale |
Specificare il carattere che separa i valori nei tuoi file. Il valore predefinito è , (virgola). Utilizzare \t per i file delimitati da tabulazioni (TSV) o | per i file separati da pipe (PSV). Se lasciato vuoto, il sistema rileva automaticamente il delimitatore in base all'estensione del file.
|
Tabelle replicate
Le tabelle vengono create in base alla configurazione della tabella (vedere sopra). Ogni tabella corrisponde a un insieme di file nel bucket di Google Cloud Storage (GCS) che soddisfano sia il pattern di ricerca specificato sia qualsiasi prefisso facoltativo. Il connettore rileva automaticamente gli schemi campionando fino a 5 file per tabella, leggendo ogni quinta riga, con un massimo di 1.000 record per file.
La replica è incrementale e utilizza i timestamp di modifica dei file per tracciare le modifiche. Durante ogni estrazione, il connettore elabora solo i file che sono stati modificati dall'ultima sincronizzazione riuscita, come registrato dal segnalibro di sincronizzazione.
Le seguenti colonne di sistema vengono aggiunte a ogni tabella per impostazione predefinita:
| Colonna | Descrizione |
|---|---|
_sdc_source_bucket
|
Il nome del bucket Google Cloud Storage (GCS) da cui è stato letto il record. |
_sdc_source_file
|
Il percorso completo del file contenente il record. |
_sdc_source_lineno
|
Il numero di riga del record all'interno del file. |
_sdc_extra
|
Eventuali colonne aggiuntive trovate durante l'analisi che non corrispondono allo schema rilevato. Si applica solo ai file JSONL. |
Limiti e considerazioni
-
Le credenziali dell'account di servizio (
project_id,client_email,private_key) devono essere fornite come singoli valori estratti dal file della chiave JSON; il caricamento del file non è supportato. -
I file compressi con Gzip (
.gz) sono supportati. Il connettore legge il nome del file originale dall'intestazione gzip per determinare il formato del file interno. I file Gzip creati con--no-name(nessun nome file memorizzato nell'intestazione) vengono ignorati. -
La compressione nidificata (ad esempio, un
.gzall'interno di un altro.gzo un.zipall'interno di un.zip) non è supportata. Questi file vengono ignorati. -
I file con estensioni
.csv,.txt,.tsv,.psvo.jsonlvengono controllati per verificare la presenza di magic byte gzip e decompressi se compressi con gzip—anche quando il file non ha un'estensione.gz. -
Il campo
search_patternutilizza la sintassi dei pattern di ricerca regex e glob. Nelle regex,*.csvnon corrisponde ai nomi dei file CSV perché*deve seguire un'espressione da ripetere. Utilizzare.*\.csv$per trovare corrispondenze con nomi di file comereport.csvemy.data.csv. -
Il connettore dispone di una logica di nuovo tentativo integrata con backoff esponenziale per i limiti di frequenza delle API di Google Cloud Storage (GCS) (
429) e per gli errori temporanei del server (500,502,503,504). Vengono effettuati fino a cinque tentativi prima che l'operazione fallisca. - I file senza un'estensione riconosciuta vengono ignorati e viene generato un avviso.