Snowflake
Snowflake bir veri işlem hattında veya çoğaltma görevinde hedef veri platformu olarak kullanılabilir. Bir veri işlem hattında, verileri saklama, verileri dönüştürme, veri ambarları oluşturma ve veri kaydetme dahil olmak üzere hedef platformda çeşitli ELT işlemleri gerçekleştirilebilir. Diğer yandan çoğaltma görevi, temel dönüştürme yetenekleriyle ancak ELT işlemleri için destek olmadan, verilerin doğrudan bir kaynak sistemden bir hedef sisteme çoğaltılmasını içerir.
Hedef olarak Snowflake ayarlamak şunları içerir:
- Veritabanında Gerekli izinler öğesini yapılandırma.
- Gerekli sürücüyü yükleme. Bunun yalnızca Data Movement gateway üzerinden Snowflake'e bağlanıyorsanız zorunlu olduğunu unutmayın.
- öğesine bağlantı yapılandırmaSnowflake
Bağlantı özelliklerini ayarlama
Bağlayıcıyı yapılandırmak için aşağıdakileri yapın:
-
Bağlantılar'da Bağlantı oluştur'a tıklayın.
-
Snowflake hedef bağlayıcısını seçin ve ardından aşağıdaki ayarları sağlayın:
Veri Hareketi ağ geçidi
Veri ağ geçidi
Bir Data Movement gateway yalnızca hedef veritabanına Qlik Cloud öğesinden erişilemiyorsa ve yalnızca bir Özel Bağlantı kullanılarak erişilebiliyorsa gereklidir (örneğin, bir Sanal Özel Bulutta bulunuyorsa). Bu durumda, hedef veritabanına erişmek istediğiniz Data Movement gateway öğesini seçin.
Kullanım durumunuza bağlı olarak, bu ya veri kaynağından veri taşımak için dağıtılanData Movement gateway ile aynı ya da farklı bir veri kaynağı olacaktır.
Data Movement gateway kullanım durumları hakkında bilgi için bkz. Data Movement gateway ne zaman gereklidir? ve Yaygın kullanım durumları.
Hedef veritabanına Qlik Cloud uygulamasından doğrudan erişilebiliyorsa Yok seçeneğini belirleyin.
Bağlantı özellikleri
-
Sunucu: Snowflake'e erişim URL'niz. Örneğin, myaccount.snowflakecomputing.com.
-
Bağlantı Noktası: Snowflake veritabanınıza erişmek istediğiniz bağlantı noktası. Varsayılan 443'tür.
Kimlik doğrulaması
Bir bağlantının kimliğini doğrulamanın farklı yolları vardır:
-
Kullanıcı adı ve parola
-
Anahtar Çifti
Snowflake veritabanınız, anahtar çifti kimlik doğrulamasını kullanacak şekilde yapılandırılmış olmalıdır. İşlem, Snowflake belgesinde açıklanmaktadır:
Bilgi notuData Movement gateway kullanıyorsanız anahtar çifti kimlik doğrulamasını kullanmak için sürüm 2024.5.14 veya üstü gereklidir.
Hesap özellikleri
Kullanıcı adı ve parola
Kullanıcı Adı ve Parola: Snowflake veritabanına erişim yetkisi olan bir kullanıcının kullanıcı adı ve parolası.
Anahtar Çifti
Hesap özelliği | Açıklama |
---|---|
Kullanıcı | Snowflake'teki kullanıcı. |
Özel Anahtar Dosyası | Özel anahtar dosyanızı seçmek için Gözat'a tıklayın. |
Özel Anahtar Dosyası Parolası | Şifrelenmişse özel anahtarınızın şifresini çözmek için kullanılan parola. |
Veritabanı özellikleri
- Varsayılan Ambar: Snowflake deponuzun adı. Bunu proje ayarlarınızda geçersiz kılabilirsiniz.
-
Veritabanı adı: Bir veritabanını belirtmek için kullanabileceğiniz iki yöntem vardır:
-
1. Yöntem - Bir listeden seç: Veritabanı yükle'ye tıklayın ve ardından bir veritabanı seçin.
- 2. Yöntem - Manuel olarak: Veritabanı adını manuel olarak gir'i seçin ve ardından veritabanı adını girin.
-
Ek bağlantı özellikleri
Gerektiğinde ek ODBC ve JDBC bağlantı özellikleri belirtebilirsiniz. Hem ODBC hem de JDBC bağlantıları için geçerli olan özellikler (örneğin, "Rol") her ikisine de eklenmelidir.
- Data Movement gateway kullanıyorsanız Ek bağlantı özellikleri 2024.5.54 sürümünden itibaren desteklenmektedir.
- Güvenli özellikler (örneğin, şifreleme anahtarları) desteklenmez.
- Bağlantı ayarlarında özel alanları olan özellikleri eklemeyin.
ODBC özellikleri
Bir ODBC sürücüsü aracılığıyla bağlanırken veri hareketi görevleri (Yerleştirme, Çoğaltma ve Veri Gölüne Yerleştirme) tarafından kullanılacak ek bağlantı özelliklerini belirtebilirsiniz.
Gerektiği takdirde özellik eklemek veya kaldırmak için alanların sağındaki ve
düğmelerini kullanın.
JDBC özellikleri
Bir JDBC sürücüsü aracılığıyla bağlanırken ELT görevleri (Kayıt, Depolama, Dönüştürme ve Veri ambarları) tarafından kullanılacak ek bağlantı özelliklerini belirtebilirsiniz.
Gerektiği takdirde özellik eklemek veya kaldırmak için alanların sağındaki ve
düğmelerini kullanın.
Dahili özellikler
Dahili özellikler özel kullanım durumları içindir ve bu nedenle diyalog penceresinde gösterilmez. Bunları yalnızca Qlik Desteği tarafından talimat verildiği takdirde kullanmalısınız.
Gerektiği takdirde özellik eklemek veya kaldırmak için alanların sağındaki ve
düğmelerini kullanın.
Ad
Bağlantının görünen adı.
Önkoşullar
Gerekli izinler
Şu izinler gereklidir:
Mevcut olmayan şemaların otomatik olarak oluşturulmasını istiyorsanız izinler gereklidir
- USAGE ON DATABASE
- CREATE SCHEMA ON DATABASE
Şema mevcutsat gereken izinler
- USAGE ON DATABASE
- USAGE ON SCHEMA
- CREATE FILE FORMAT ON SCHEMA
- CREATE STAGE ON SCHEMA
- CREATE TABLE ON SCHEMA
Sürücü kurulumu
Bir sürücü yalnızca veritabanına Data Movement gateway üzerinden erişiyorsanız gereklidir.
driver öğesini, sürücü yükleme yardımcı programını kullanarak (önerilir) veya manuel olarak yükleyebilirsiniz. Manuel yükleme, nadir görülen şekilde sürücü yükleme yardımcı programında bir sorunla karşılaşmanız durumunda denenmelidir.
Sürücüyü yüklemek için sürücü yükleme yardımcı programı kullanma
Bu bölümde, gerekli driver öğesinin nasıl yükleneceği açıklanmıştır. Sürece; driver öğesini indirme, gerekli klasöre (aşağıya bakın) kopyalama ve otomatik olarak yükleyecek ve yapılandıracak bir komut dosyası çalıştırma işlemleri dahildir. Gerektiğinde driver öğesini güncellemek ve kaldırmak için de komut dosyaları çalıştırabilirsiniz.
Yüklemeyi hazırlama
-
Python 3.6 veya daha yeni bir sürümünün Data Movement ağ geçidi sunucusunda yüklü olduğundan emin olun.
Python, çoğu Linux dağıtımında önceden yüklenmiş şekilde sunulur. Aşağıdaki komutu çalıştırarak sisteminizde yüklü olan Python sürümünü öğrenebilirsiniz:
python3 --version
-
Snowflake ODBC sürücüsünü "snowflake-odbc-<version>.x86_64.rpm" indirin. /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml dizininde binary-artifacts altında desteklenen bir sürümün doğrudan indirme bağlantısını bulabilirsiniz. İndirme işlemi tamamlandığında dosyayı şuraya kopyalayın:
/opt/qlik/gateway/movement/drivers/snowflake
driver uygulamasını yükleme
driver öğesini yüklemek için:
-
Veri Hareketi ağ geçidi hizmetini durdurun:
sudo systemctl stop repagent
-
İsteğe bağlı olarak hizmetin durduğunu doğrulayın:
sudo systemctl status repagent
Durum aşağıdaki gibi olmalıdır:
Active: inactive (dead) since <timestamp> ago
-
Data Movement ağ geçidi makinesinde, çalışan dizini şu şekilde değiştirin:
opt/qlik/gateway/movement/drivers/bin
-
Şu komutu çalıştırın:
Söz Dizimi:
./install snowflake
Aksi durumda, driver öğesinin EULA'sı görünür.
-
Şunlardan birini yapın:
- EULA'da yavaşça gezinmek için [Enter] tuşuna tekrar tekrar basın.
- EULA'da hızlı bir şekilde gezinmek için Boşluk tuşuna tekrar tekrar basın.
- Lisans metninden çıkmak ve EULA kabul seçeneklerine ulaşmak için q tuşuna basın.
-
Şunlardan birini yapın:
- EULA'yı kabul etmek ve yükleme işlemini başlatmak için "y" yazıp [Enter] tuşuna basın.
- EULA'yı reddetmek ve yükleme işleminden çıkmak için "n" yazıp [Enter] tuşuna basın.
-
EULA'yı tekrar görüntülemek için "v" yazıp [Enter] tuşuna basın.
-
Yüklemenin tamamlanmasını ("Tamamlandı!" ifadesiyle belirtilir) bekleyin ve ardından Veri Hareketi ağ geçidi hizmetini başlatın:
sudo systemctl start repagent
-
İsteğe bağlı olarak hizmetin başladığını doğrulayın:
sudo systemctl status repagent
Durum aşağıdaki gibi olmalıdır:
Active: active (running) since <timestamp> ago
driver yüklenir.
driver öğesini güncelleme
Sağlanan driver öğesini yüklemeden önce driver öğesinin eski sürümlerini kaldırmak istiyorsanız güncelleme komutunu çalıştırın.
driver öğesini güncellemek için:
-
Veri Hareketi ağ geçidi hizmetini durdurun:
sudo systemctl stop repagent
-
İsteğe bağlı olarak hizmetin durduğunu doğrulayın:
sudo systemctl status repagent
Durum aşağıdaki gibi olmalıdır:
Active: inactive (dead) since <timestamp> ago
-
Data Movement ağ geçidi makinesinde, çalışan dizini şu şekilde değiştirin:
opt/qlik/gateway/movement/drivers/bin
-
Şu komutu çalıştırın:
Söz Dizimi:
./update snowflake
Aksi durumda, driver öğesinin EULA'sı görünür.
-
Şunlardan birini yapın:
- EULA'da yavaşça gezinmek için [Enter] tuşuna tekrar tekrar basın.
- EULA'da hızlı bir şekilde gezinmek için Boşluk tuşuna tekrar tekrar basın.
- Lisans metninden çıkmak ve EULA kabul seçeneklerine ulaşmak için q tuşuna basın.
-
Şunlardan birini yapın:
- EULA'yı kabul etmek ve yükleme işlemini başlatmak için "y" yazıp [Enter] tuşuna basın.
- EULA'yı reddetmek ve yükleme işleminden çıkmak için "n" yazıp [Enter] tuşuna basın.
- EULA'yı baştan incelemek için "v" yazıp [Enter] tuşuna basın.
-
Yüklemenin tamamlanmasını ("Tamamlandı!" ifadesiyle belirtilir) bekleyin ve ardından Veri Hareketi ağ geçidi hizmetini başlatın:
sudo systemctl start repagent
-
İsteğe bağlı olarak hizmetin başladığını doğrulayın:
sudo systemctl status repagent
Durum aşağıdaki gibi olmalıdır:
Active: active (running) since <timestamp> ago
Eski driver kaldırılacak ve yeni driver yüklenecektir.
driver öğesini kaldırma
driver öğesini kaldırmak istiyorsanız kaldırma komutunu çalıştırın.
driver öğesini kaldırmak için:
-
Bu bağlayıcıyı kullanmak için yapılandırılan tüm görevleri durdurun.
-
Data Movement ağ geçidi makinesinde, çalışan dizini şu şekilde değiştirin:
opt/qlik/gateway/movement/drivers/bin
-
Şu komutu çalıştırın:
Söz Dizimi:
./uninstall snowflake
driver kaldırılacaktır.
Sürücüyü manuel olarak yükleme
driver öğesini manuel olarak yüklemeyi yalnızca otomatik sürücü yükleme başarıyla tamamlanmadığında denemelisiniz.
Hem bir ODBC sürücüsü hem de bir JDBC sürücüsü yüklemeniz gerekir.
ODBC sürücüsünün yüklenmesi
- Data Movement gateway yüklendikten sonra /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml dizininde binary-artifacts altında listelenen snowflake-odbc-<version>x86_64.rpm sürücü dosyasını Data Movement gateway makinesine indirin.
- Sürücüyü Data Movement gateway makinesine yükleyin.
JDBC sürücüsünün yüklenmesi
-
/opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml dizininde binary-artifacts altında listelenen snowflake-jdbc-<version>.jar dosyasını indirin ve Data Movement gateway makinesinde aşağıdaki klasöre kopyalayın:
/opt/qlik/gateway/movement/qcs_agents/qdi-db-commands/lib
-
Data Movement gateway hizmet komutları bölümünde açıklanan komutlarını çalıştırarak Data Movement gateway hizmetini yeniden başlatın ve başladığını kontrol edin
Bağlantı noktası
Giden iletişim için güvenlik duvarı bağlantı noktası 443'ün açılması gerekir.
Sınırlamalar ve dikkate alınacak noktalar
Verileri bir Snowflake hedefine taşırken aşağıdaki sınırlamalar geçerlidir:
- Adlarında ters eğik çizgi bulunan tabloların (ör. SPECIAL\\TABLE\N) çoğaltılması desteklenmez.
Veri türleri
Aşağıdaki tabloda Qlik Cloud kullanırken desteklenen Snowflake veri türleri ve Qlik Cloud veri türlerine ait varsayılan eşlemeler gösterilmektedir.
Yerel veri türü bilgileri korunur ve veri kümesi görünümlerinde Yerel veri türü sütununda görüntülenir. Sütun görünür değilse veri kümesi görünümünün sütun seçicisini açmanız ve Yerel veri türü sütununu seçmeniz gerekir.
Qlik Cloud veri türleri | Snowflake veri türleri |
---|---|
BOOLEAN |
BOOLEAN |
BYTES |
BINARY (Bayt olarak uzunluk) |
DATE |
DATE |
TIME |
TIME (kesinlik) |
DATETIME |
TIMESTAMP_NTZ (kesinlik) |
INT1 |
BYTEINT |
INT2 |
SMALLINT |
INT4 |
INTEGER |
INT8 |
BIGINT |
NUMERIC |
NUMBER (kesinlik, ölçek) |
REAL4 |
FLOAT4 |
REAL8 |
FLOAT8 |
UINT1 |
BYTEINT |
UINT2 |
INTEGER |
UINT4 |
INTEGER |
UINT8 |
BIGINT |
STRING |
VARCHAR (Bayt olarak uzunluk) |
WSTRING |
NVARCHAR (Bayt olarak uzunluk) |
BLOB |
BINARY (8388608) |
NCLOB |
NVARCHAR (8388608) |
CLOB |
VARCHAR (8388608) |