Snowflake

Snowflake Bir veri işlem hattında veya çoğaltma görevinde hedef veri platformu olarak. Bir veri işlem hattında, verileri saklama, verileri dönüştürme, veri ambarları oluşturma ve veri kaydetme dahil olmak üzere hedef platformda çeşitli ELT işlemleri gerçekleştirilebilir. Diğer yandan çoğaltma görevi, temel dönüştürme yetenekleriyle ancak ELT işlemleri için destek olmadan, verilerin doğrudan bir kaynak sistemden bir hedef sisteme çoğaltılmasını içerir. kullanabilirsiniz.

Hedef olarak Snowflake ayarlamak şunları içerir:

• Veritabanında Gerekli izinler öğesini yapılandırma.
• Gerekli sürücüyü yükleme. Bunun yalnızca Veri Hareketi ağ geçidi üzerinden Snowflake'e bağlanıyorsanız zorunlu olduğunu unutmayın.
• öğesine bağlantı yapılandırmaSnowflake

Bağlantı özelliklerini ayarlama

Bağlayıcıyı yapılandırmak için aşağıdakileri yapın:

1. Bağlantılar'da Bağlantı oluştur'a tıklayın.

2. Snowflake hedef bağlayıcısını seçin ve ardından aşağıdaki ayarları sağlayın:

Veri Hareketi ağ geçidi

Veri ağ geçidi

Bir Veri Hareketi ağ geçidi yalnızca hedef veritabanına Qlik Cloud öğesinden erişilemiyorsa ve yalnızca bir Özel Bağlantı kullanılarak erişilebiliyorsa gereklidir (örneğin, bir Sanal Özel Bulutta bulunuyorsa). Bu durumda, hedef veritabanına erişmek istediğiniz Veri Hareketi ağ geçidi öğesini seçin.

Kullanım durumunuza bağlı olarak, bu ya veri kaynağından veri taşımak için dağıtılanVeri Hareketi ağ geçidi ile aynı ya da farklı bir veri kaynağı olacaktır.

Veri Hareketi ağ geçidi kullanım durumları hakkında bilgi için bkz. Veri Hareketi ağ geçidi ne zaman gereklidir? ve Yaygın kullanım durumları.

Hedef veritabanına Qlik Cloud uygulamasından doğrudan erişilebiliyorsa Yok seçeneğini belirleyin.

Bağlantı özellikleri

• Sunucu: Snowflake'e erişim URL'niz. Örneğin, myaccount.snowflakecomputing.com.

• Bağlantı Noktası: Snowflake veritabanınıza erişmek istediğiniz bağlantı noktası. Varsayılan 443'tür.

Kimlik doğrulaması

Bir bağlantının kimliğini doğrulamanın farklı yolları vardır:

• Kullanıcı adı ve parola

• Anahtar Çifti

  Snowflake veritabanınız, anahtar çifti kimlik doğrulamasını kullanacak şekilde yapılandırılmış olmalıdır. İşlem, Snowflake belgesinde açıklanmaktadır:

  • Anahtar Çifti Kimlik Doğrulamasını Yapılandırması

  Bilgi notuVeri Hareketi ağ geçidi kullanıyorsanız anahtar çifti kimlik doğrulamasını kullanmak için sürüm 2024.5.14 veya üstü gereklidir.

Hesap özellikleri

Kullanıcı adı ve parola

Kullanıcı Adı ve Parola: Snowflake veritabanına erişim yetkisi olan bir kullanıcının kullanıcı adı ve parolası.

Anahtar Çifti

Veritabanı özellikleri

• Varsayılan Ambar: Snowflake deponuzun adı. Bunu proje ayarlarınızda geçersiz kılabilirsiniz.

• Veritabanı adı: Bir veritabanını belirtmek için kullanabileceğiniz iki yöntem vardır:

  • 1. Yöntem - Bir listeden seç: Veritabanı yükle'ye tıklayın ve ardından bir veritabanı seçin.

  • 2. Yöntem - Manuel olarak: Veritabanı adını manuel olarak gir'i seçin ve ardından veritabanı adını girin.

Dahili özellikler

Dahili özellikler özel kullanım durumları içindir ve bu nedenle diyalog penceresinde gösterilmez. Bunları yalnızca Qlik Desteği tarafından talimat verildiği takdirde kullanmalısınız.

Gerektiği takdirde özellik eklemek veya kaldırmak için alanların sağındaki ve düğmelerini kullanın.

Ad

Bağlantının görünen adı.

Önkoşullar

Gerekli izinler

Şu izinler gereklidir:

Mevcut olmayan şemaların otomatik olarak oluşturulmasını istiyorsanız izinler gereklidir

• USAGE ON DATABASE
• CREATE SCHEMA ON DATABASE

Şema mevcutsat gereken izinler

• USAGE ON DATABASE
• USAGE ON SCHEMA
• CREATE FILE FORMAT ON SCHEMA
• CREATE STAGE ON SCHEMA
• CREATE TABLE ON SCHEMA

Sürücü kurulumu

Bir sürücü yalnızca veritabanına Veri Hareketi ağ geçidi üzerinden erişiyorsanız gereklidir.

driver öğesini, sürücü yükleme yardımcı programını kullanarak (önerilir) veya manuel olarak yükleyebilirsiniz. Manuel yükleme, nadir görülen şekilde sürücü yükleme yardımcı programında bir sorunla karşılaşmanız durumunda denenmelidir.

Sürücüyü yüklemek için sürücü yükleme yardımcı programı kullanma

Bu bölümde, gerekli driver öğesinin nasıl yükleneceği açıklanmıştır. Sürece; driver öğesini indirme, gerekli klasöre (aşağıya bakın) kopyalama ve otomatik olarak yükleyecek ve yapılandıracak bir komut dosyası çalıştırma işlemleri dahildir. Gerektiğinde driver öğesini güncellemek ve kaldırmak için de komut dosyaları çalıştırabilirsiniz.

Yüklemeyi hazırlama

• Python 3.6 veya daha yeni bir sürümünün Veri Hareketi ağ geçidi sunucusunda yüklü olduğundan emin olun.

  Python, çoğu Linux dağıtımında önceden yüklenmiş şekilde sunulur. Aşağıdaki komutu çalıştırarak sisteminizde yüklü olan Python sürümünü öğrenebilirsiniz:

  python3 --version

• Snowflake ODBC sürücüsünü "snowflake-odbc-<version>.x86_64.rpm" indirin. /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml dizininde binary-artifacts altında desteklenen bir sürümün doğrudan indirme bağlantısını bulabilirsiniz. İndirme işlemi tamamlandığında dosyayı şuraya kopyalayın:

  /opt/qlik/gateway/movement/drivers/snowflake

driver uygulamasını yükleme

driver öğesini yüklemek için:

1. Veri Hareketi ağ geçidi hizmetini durdurun:

   sudo systemctl stop repagent

2. İsteğe bağlı olarak hizmetin durduğunu doğrulayın:

   sudo systemctl status repagent

   Durum aşağıdaki gibi olmalıdır:

   Active: inactive (dead) since <timestamp> ago

3. Veri Hareketi ağ geçidi makinesinde, çalışan dizini şu şekilde değiştirin:

   opt/qlik/gateway/movement/drivers/bin

4. Şu komutu çalıştırın:

   Söz Dizimi:

   ./install snowflake

   Aksi durumda, driver öğesinin EULA'sı görünür.

5. Şunlardan birini yapın:

   • EULA'da yavaşça gezinmek için [Enter] tuşuna tekrar tekrar basın.
   • EULA'da hızlı bir şekilde gezinmek için Boşluk tuşuna tekrar tekrar basın.
   • Lisans metninden çıkmak ve EULA kabul seçeneklerine ulaşmak için q tuşuna basın.

6. Şunlardan birini yapın:

   • EULA'yı kabul etmek ve yükleme işlemini başlatmak için "y" yazıp [Enter] tuşuna basın.
   • EULA'yı reddetmek ve yükleme işleminden çıkmak için "n" yazıp [Enter] tuşuna basın.

   • EULA'yı tekrar görüntülemek için "v" yazıp [Enter] tuşuna basın.

driver yüklenir.

7. Yüklemenin tamamlanmasını ("Tamamlandı!" ifadesiyle belirtilir) bekleyin ve ardından Veri Hareketi ağ geçidi hizmetini başlatın:

   sudo systemctl start repagent

8. İsteğe bağlı olarak hizmetin başladığını doğrulayın:

   sudo systemctl status repagent

   Durum aşağıdaki gibi olmalıdır:

   Active: active (running) since <timestamp> ago

driver öğesini güncelleme

Sağlanan driver öğesini yüklemeden önce driver öğesinin eski sürümlerini kaldırmak istiyorsanız güncelleme komutunu çalıştırın.

driver öğesini güncellemek için:

1. Veri Hareketi ağ geçidi hizmetini durdurun:

   sudo systemctl stop repagent

2. İsteğe bağlı olarak hizmetin durduğunu doğrulayın:

   sudo systemctl status repagent

   Durum aşağıdaki gibi olmalıdır:

   Active: inactive (dead) since <timestamp> ago

3. Veri Hareketi ağ geçidi makinesinde, çalışan dizini şu şekilde değiştirin:

   opt/qlik/gateway/movement/drivers/bin

4. Şu komutu çalıştırın:

   Söz Dizimi:

   ./update snowflake

   Aksi durumda, driver öğesinin EULA'sı görünür.

5. Şunlardan birini yapın:

   • EULA'da yavaşça gezinmek için [Enter] tuşuna tekrar tekrar basın.
   • EULA'da hızlı bir şekilde gezinmek için Boşluk tuşuna tekrar tekrar basın.
   • Lisans metninden çıkmak ve EULA kabul seçeneklerine ulaşmak için q tuşuna basın.

6. Şunlardan birini yapın:

   • EULA'yı kabul etmek ve yükleme işlemini başlatmak için "y" yazıp [Enter] tuşuna basın.
   • EULA'yı reddetmek ve yükleme işleminden çıkmak için "n" yazıp [Enter] tuşuna basın.
   • EULA'yı baştan incelemek için "v" yazıp [Enter] tuşuna basın.

Eski driver kaldırılacak ve yeni driver yüklenecektir.

7. Yüklemenin tamamlanmasını ("Tamamlandı!" ifadesiyle belirtilir) bekleyin ve ardından Veri Hareketi ağ geçidi hizmetini başlatın:

   sudo systemctl start repagent

8. İsteğe bağlı olarak hizmetin başladığını doğrulayın:

   sudo systemctl status repagent

   Durum aşağıdaki gibi olmalıdır:

   Active: active (running) since <timestamp> ago

driver öğesini kaldırma

driver öğesini kaldırmak istiyorsanız kaldırma komutunu çalıştırın.

driver öğesini kaldırmak için:

1. Bu bağlayıcıyı kullanmak için yapılandırılan tüm görevleri durdurun.

2. Veri Hareketi ağ geçidi makinesinde, çalışan dizini şu şekilde değiştirin:

   opt/qlik/gateway/movement/drivers/bin

3. Şu komutu çalıştırın:

   Söz Dizimi:

   ./uninstall snowflake

   driver kaldırılacaktır.

Sürücüyü manuel olarak yükleme

driver öğesini manuel olarak yüklemeyi yalnızca otomatik sürücü yükleme başarıyla tamamlanmadığında denemelisiniz.

Hem bir ODBC sürücüsü hem de bir JDBC sürücüsü yüklemeniz gerekir.

ODBC sürücüsünün yüklenmesi

1. Veri Hareketi ağ geçidi yüklendikten sonra /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml dizininde binary-artifacts altında listelenen snowflake-odbc-<version>x86_64.rpm sürücü dosyasını Veri Hareketi ağ geçidi makinesine indirin.
2. Sürücüyü Veri Hareketi ağ geçidi makinesine yükleyin.

JDBC sürücüsünün yüklenmesi

1. /opt/qlik/gateway/movement/drivers/manifests/snowflake.yaml dizininde binary-artifacts altında listelenen snowflake-jdbc-<version>.jar dosyasını indirin ve Veri Hareketi ağ geçidi makinesinde aşağıdaki klasöre kopyalayın:

   /opt/qlik/gateway/movement/qcs_agents/qdi-db-commands/lib

2. Veri Hareketi ağ geçidi hizmet komutları bölümünde açıklanan komutlarını çalıştırarak Veri Hareketi ağ geçidi hizmetini yeniden başlatın ve başladığını kontrol edin

Bağlantı noktası

Giden iletişim için güvenlik duvarı bağlantı noktası 443'ün açılması gerekir.

Performans ve veri hizmetleri kullanım iyileştirmesi

Sınırlamalar ve dikkate alınacak noktalar

Verileri bir Snowflake hedefine taşırken aşağıdaki sınırlamalar geçerlidir:

• Adlarında ters eğik çizgi bulunan tabloların (ör. SPECIAL\\TABLE\N) çoğaltılması desteklenmez.

Veri türleri

Aşağıdaki tabloda Qlik Cloud kullanırken desteklenen Snowflake veri türleri ve Qlik Cloud veri türlerine ait varsayılan eşlemeler gösterilmektedir.

Yerel veri türü bilgileri korunur ve veri kümesi görünümlerinde Yerel veri türü sütununda görüntülenir. Sütun görünür değilse veri kümesi görünümünün sütun seçicisini açmanız ve Yerel veri türü sütununu seçmeniz gerekir.

Desteklenen veri türleri

Qlik Cloud veri türleri	Snowflake veri türleri
BOOLEAN	BOOLEAN
BYTES	BINARY (Bayt olarak uzunluk)
DATE	DATE
TIME	TIME (kesinlik)
DATETIME	TIMESTAMP_NTZ (kesinlik)
INT1	BYTEINT
INT2	SMALLINT
INT4	INTEGER
INT8	BIGINT
NUMERIC	NUMBER (kesinlik, ölçek)
REAL4	FLOAT4
REAL8	FLOAT8
UINT1	BYTEINT
UINT2	INTEGER
UINT4	INTEGER
UINT8	BIGINT
STRING	VARCHAR (Bayt olarak uzunluk)
WSTRING	NVARCHAR (Bayt olarak uzunluk)
BLOB	BINARY (8388608)
NCLOB	NVARCHAR (8388608)
CLOB	VARCHAR (8388608)