Google Cloud Storage
Son güncelleme: 20.10.2026Google Cloud Storage, Google Cloud altyapısında verileri depolamak ve verilere erişmek için Google'ın birleşik nesne depolama hizmetidir. Yüksek kullanılabilirlik ve küresel yedeklilik sunar, ayrıca daha geniş Google Cloud ekosistemiyle entegre olur.
Qlik Talend Cloud, Google Cloud Storage'a (GCS) bağlanmak için hedef demete okuma erişimi olan bir Google Cloud hizmet hesabı kullanır. Bağlayıcı, belirtilen demetten dosyaları alır, dosya içeriklerini örnekleyerek şemaları otomatik olarak keşfeder ve dosya değiştirilme zaman damgalarına göre artımlı veri çoğaltması gerçekleştirir.
Kimlik doğrulaması için hazırlanma
Verilerinize erişmek için hesap oturum bilgilerinizle bağlantının kimliğini doğrulamanız gerekir.
Google Cloud Storage hesabınızı ayarlamak için şunlara ihtiyacınız vardır:
- Cloud Storage API'si etkinleştirilmiş bir Google Cloud Platform (GCP) projesi.
- Çoğaltılacak dosyaları içeren bir Google Cloud Storage (GCS) demeti.
- Demete okuma erişimi olan bir hizmet hesabı.
Önerilen rol, gerekli
storage.objects.getvestorage.objects.listizinlerini veren Storage Object Viewer (roles/storage.objectViewer) rolüdür. Daha fazla bilgi için bk. Google Cloud Storage IAM rolleri belgeleri . - Hizmet hesabı için indirilen bir hizmet hesabı JSON anahtar dosyası.
Bir hizmet hesabı oluşturmak ve kimlik bilgilerinizi almak için:
- Google Cloud hesabınızda oturum açın.
- IAM ve Yönetici > Hizmet Hesapları bölümüne gidin.
- Hizmet Hesabı Oluştur'a tıklayın.
- Hizmet hesabı için bir ad ve açıklama girin, ardından Oluştur ve Devam Et'e tıklayın.
- Hizmet hesabına Storage Object Viewer rolünü veya
storage.objects.getvestorage.objects.listizinlerine sahip özel bir rol verin. - Devam ve Bitti'ye tıklayın.
- Yeni oluşturduğunuz hizmet hesabında İşlemler menüsüne tıklayın.
- Anahtarları yönet > Anahtar ekle > Yeni anahtar oluştur bölümüne gidin.
- JSON'ı seçin ve Oluştur'a tıklayın.
JSON anahtar dosyası doğrudan makinenize indirilir. Bu dosya, Bağlantı kurmak için gereken
project_id,client_emailveprivate_keyalanlarını içerir.Anahtar dosyasını yalnızca bir kez indirebilirsiniz. Google Cloud kaynaklarınıza erişim sağladığından, bunu güvenli bir şekilde sakladığınızdan ve yedeklediğinizden emin olun.
Desteklenmeyen dosya biçimleri
- Sınırlandırılmış metin: CSV, TSV, PSV, TXT (yapılandırılabilir ayırıcı ile)
- JSON Lines (
.jsonl) - Parquet (
.parquet) - Avro (
.avro) - Yukarıdaki biçimlerden herhangi birini içeren Gzip ile sıkıştırılmış dosyalar (
.gz) - CSV, JSON Lines, TXT, TSV, PSV veya Gzip dosyaları içeren ZIP arşivleri
Bağlantı oluşturma
Daha fazla bilgi için bk. SaaS uygulamalarına bağlanma.
- Zorunlu bağlantı özelliklerini doldurun.
-
Bağlantı adı kısmında bağlantı için bir ad sağlayın.
-
Oluşturulduğu zaman bağlantı için meta verileri tanımlamak üzere Bağlantı meta verilerini aç'ı seçin.
-
Oluştur'a tıklayın.
| Ayar | Açıklama |
|---|---|
| Veri ağ geçidi |
Kullanım durumunuz gerektiriyorsa bir Data Movement gateway seçin. Bilgi notu
Qlik Talend Cloud Başlangıç Kılavuzu aboneliği Data Movement gateway desteklenmediğinden bu alan, söz konusu abonelikle kullanılamaz. Başka bir abonelik kademeniz varsa ve Data Movement gateway kullanmak istemiyorsanız Hiçbiri'ni seçin. Data Movement gateway avantajları ve bunu gerektiren kullanım durumları hakkında bilgi için bkz. Qlik Data Gateway - Data Movement. |
| Başlangıç Tarihi |
Verilerin kaynağınızdan hedefinize çoğaltılması gereken tarihi |
| Müşteri E-postası | Hizmet hesabı JSON anahtar dosyasındaki istemci e-postası. |
| Proje Kimliği | Hizmet hesabı JSON anahtar dosyasındaki Proje Kimliği. |
| Kova | Dosyaların depolandığı Google Cloud Storage (GCS) demetinin adı, örneğin my-gcs-bucket.
|
| Tablolar | Hangi dosyaların okunacağını ve içeriklerinin nasıl yorumlanacağını kontrol etmek için tabloları yapılandırın. Her tablo tanımı bir dosya arama deseni, bir tablo adı ve gelişmiş davranışlar için isteğe bağlı ayarlar içerir. |
| Özel Anahtar | Hizmet hesabı JSON anahtar dosyasındaki özel anahtar. |
Tablo yapılandırması
Tablo yapılandırmasındaki her girdi, hedef demetteki dosyalardan oluşturulan bir mantıksal tablo belirtir. Her tablo için aşağıdaki özellikleri yapılandırabilirsiniz:
| Özellik | Zorunlu veya İsteğe Bağlı | Açıklama |
|---|---|---|
| Tablo adı | Gerekli |
Mantıksal tablo için bir ad belirtin, örneğin my_orders_csv. Bu ad, Qlik Talend Cloud içinde klasör adı olarak görünecektir.
|
| Arama deseni | Gerekli |
Dosya adlarını eşleştirmek için bir normal ifade girin; örneğin, tüm CSV dosyalarını seçmek için .*\.csv$. Bağlayıcı, regex ve glob arama deseni söz dizimini kullanır. Regex'te *.csv, CSV dosya adlarıyla eşleşmez çünkü * tekrarlanacak bir ifadeden sonra gelmelidir. report.csv ve my.data.csv gibi dosya adlarını eşleştirmek için \.csv$ veya .*\.csv$ gibi desenler kullanın.
|
| Arama Ön Eki | İsteğe bağlı | Dosya aramasını daraltmak için demet içinde bir yol ön eki belirtin, örneğin exports/orders/. Bir ön ek kullanmak, taranan dosya sayısını sınırlayarak performansı artırır.
|
| Temel Özellikler | İsteğe bağlı |
Birincil anahtarı tanımlamak için virgülle ayrılmış bir veya daha fazla sütun adı listeleyin. Örneğin: id veya id,date.
|
| Tarih Geçersiz Kılmaları | İsteğe bağlı | Tarih-saat alanları olarak değerlendirilecek sütun adlarını virgülle ayırarak listeleyin. Bu alanlar şema keşfi sırasında otomatik olarak algılanmazsa bu seçeneği kullanın. |
| Sınırlayıcı | İsteğe bağlı |
Dosyalarınızdaki değerleri ayıran karakteri belirtin. Varsayılan değer , (virgül) karakteridir. Sekmeyle ayrılmış (TSV) dosyalar için \t veya dikey çubukla ayrılmış (PSV) dosyalar için | kullanın. Boş bırakılırsa sistem, sınırlayıcıyı dosya genişlemesine göre otomatik olarak algılar.
|
Çoğaltılan tablolar
Tablolar, tablo yapılandırmasına göre oluşturulur (yukarıya bakın). Her tablo, Google Cloud Storage (GCS) demetinde hem belirtilen arama deseni hem de isteğe bağlı herhangi bir ön ek ile eşleşen bir dosya kümesine karşılık gelir. Bağlayıcı, tablo başına en fazla 5 dosyayı örnekleyerek, her beşinci satırı okuyarak ve dosya başına maksimum 1.000 kayıtla şemaları otomatik olarak keşfeder.
Replikasyon artımlıdır ve değişiklikleri izlemek için dosya değiştirme zaman damgalarını kullanır. Her ayıklama sırasında bağlayıcı, yalnızca eşitleme yer işareti tarafından kaydedildiği üzere son başarılı eşitlemeden bu yana değiştirilmiş olan dosyaları işler.
Aşağıdaki sistem sütunları varsayılan olarak her tabloya eklenir:
| Sütun | Açıklama |
|---|---|
_sdc_source_bucket
|
Kaydın okunduğu Google Cloud Storage (GCS) demetinin adı. |
_sdc_source_file
|
Kaydı içeren dosyanın tam yolu. |
_sdc_source_lineno
|
Dosya içindeki kaydın satır numarası. |
_sdc_extra
|
Ayrıştırma sırasında bulunan ve keşfedilen şemayla eşleşmeyen fazladan sütunlar. Yalnızca JSONL dosyaları için geçerlidir. |
Sınırlamalar ve dikkate alınacak noktalar
-
Service account kimlik bilgileri (
project_id,client_email,private_key), JSON anahtar dosyasından ayıklanan ayrı değerler olarak sağlanmalıdır; dosya yükleme desteklenmez. -
Gzip ile sıkıştırılmış dosyalar (
.gz) desteklenmektedir. Bağlayıcı, iç dosya biçimini belirlemek için gzip üst bilgisinden orijinal dosya adını okur.--no-nameile oluşturulan (başlıkta dosya adı saklanmayan) Gzip dosyaları atlanır. -
İç içe sıkıştırma (örneğin, başka bir
.gziçindeki bir.gzveya bir.zipiçindeki bir.zip) desteklenmez. Bu dosyalar atlandı. .csv,.txt,.tsv,.psvveya.jsonlgenişlemelerine sahip dosyalar gzip sihirli baytları için kontrol edilir ve gzip ile sıkıştırılmışsa sıkıştırması açılır—dosyanın bir.gzgenişlemesi olmasa bile.search_patternalanı regex ve glob arama deseni söz dizimini kullanır. Regex'te*.csv, CSV dosya adlarıyla eşleşmez çünkü*tekrarlanacak bir ifadeden sonra gelmelidir.report.csvvemy.data.csvgibi dosya adlarını eşleştirmek için.*\.csv$kullanın.-
Bağlayıcı, Google Cloud Storage (GCS) API hız sınırları (
429) ve geçici sunucu hataları (500,502,503,504) için üstel geri çekilme içeren yerleşik yeniden deneme mantığına sahiptir. Başarısız olmadan önce en fazla beş deneme yapılır. - Tanınan bir genişlemesi olmayan dosyalar atlanır ve bir uyarı verilir.