AWS S3 Veri Akışı
AWS S3 Veri Akışınıza, Qlik Açık Göl Evi projelerinizde veri kaynağı olarak kullanmak için bağlanın. AWS S3 Veri Akışı bağlantıları yalnızca Akış yerleştirme görevi ve Akış dönüştürme görevi ile kullanılabilir.
Geleneksel S3 toplu ETL'sinin aksine, bu uygulama S3'ü sürekli izleme ve gerçek zamanlıya yakın veri alımı ile bir akış kaynağı olarak ele alır. Yeni dosyalar geldiğinde S3 demetlerinden verileri otomatik olarak almak için veri akışlarını yapılandırabilirsiniz. AWS S3 Veri Klasörü, S3'ten akış veri İşlem hatlarını dosya deseni eşleştirme, şema yapılandırması ve ilk geriye dönük doldurma seçenekleri dahil olmak üzere yapılandırmanıza olanak tanır. Klasör, S3'ü sürekli olarak izler ve yeni verileri neredeyse gerçek zamanlı (dakikalar içinde) alır ve günlükler, olaylar, harici sistemlerden dışa aktarımlar veya iş ortağı veri akışları gibi kurumsal veriler için idealdir.
Ön koşullar
AWS S3 Veri Klasörünüze bir Bağlantı oluşturmak için aşağıdakilere ihtiyacınız vardır:
-
Demete erişmek için rol tabanlı kimlik doğrulama kullanıyorsanız, şunlara ihtiyacınız vardır:
-
Bağlantı için kullanmak istediğiniz ağ entegrasyonuna erişim izni.
-
ARN rolü veya kurulum işlemi sırasında bir tane oluşturabilirsiniz. Ağ entegrasyon kümesinin ARN S3 hesabına erişimi olmalıdır.
-
-
Demete bağlanmak için erişim anahtarı kimlik doğrulamasını kullanıyorsanız, şunlara ihtiyacınız vardır:
-
AWS erişim anahtarı kimliğiniz.
-
AWS Parola Erişim Anahtarınız.
-
S3 veri klasörü bağlantı özelliklerini ayarlama
S3 Bağlantınızı yapılandırmak için aşağıdakileri yapın:
-
Bağlantılar'da Bağlantı oluştur'a tıklayın.
-
Bağlantıyı oluşturmak istediğiniz Alan öğesini seçin veya Yeni veri alanı oluştur seçeneğini belirleyin.
-
Bağlayıcı adı listesinden S3 öğesini seçin veya Ara kutusunu kullanın. Tür'ün Kaynak ve Kategori'nin Akış olduğundan emin olun.
-
S3 URI alanına, S3 demetiniz için URI'yi s3://<bucket-name>/<directory-name> biçiminde girin.
Daha fazla bilgi için bkz. Söz Dizimi örnekleri.
-
Kimlik doğrulama türü alanında, nasıl bağlanmak istediğinizi seçin ve ayarları yapılandırın.
Rol tabanlı
Rol tabanlı kimlik doğrulamayı kullanmak için aşağıdaki adımları tamamlayın.
ARN rolü oluşturun
-
Ağ entegrasyonu: Listeden ağ entegrasyonunu seçin.
-
ARN rolü: AWS'de oluşturulan ARN rolünü girin. Bu, arn:aws:iam::{account number}:role/{role name} biçiminde olmalıdır.
Bir AWS Rolü oluşturun
Bir AWS rolü oluşturmak için adımları izleyin:
-
Rol oluştur
-
AWS Konsolu'nda, IAM'a gidin.
-
Roller'de Rol oluştur'a tıklayın ve bunu yapılandırın:
-
Güvenilen varlık türü: Özel güven politikası öğesini seçin.
-
İfade: AWS rolü oluşturma bölümünde oluşturulan Güvenilen varlık politikasını Qlik Cloud içindeki AWS'deki kod bölmesine kopyalayın.
-
Rolü oluşturun.
-
-
Satır içi politikası oluştur
-
AWS Konsolu'nda, Roller bölümünde, 1. Adımda oluşturduğunuz role tıklayın.
-
İzin politikaları içinde, İzinleri ekle > Satır içi politika oluştur'a tıklayın.
-
Kodu Qlik Cloud içine kopyalayın ve AWS'deki ilkeye yapıştırın.
-
-
ARN rolünü kopyala
-
AWS konsolu'ndaki Roller sayfasından, ARN değerini Özet bölümünde bulun.
-
ARN'yi kopyalayın ve Qlik Cloud içindeki ARN rolü alanına yapıştırın.
-
Erişim anahtarı
Bağlantınızı doğrulamak için bir erişim anahtarı kullanmak üzere aşağıdaki adımları tamamlayın:
-
Erişim anahtarı: Kimlik doğrulaması için kullanmak üzere benzersiz AWS Erişim Anahtarı Kimliğinizi girin.
-
Gizli anahtar: Erişim anahtarınızla birlikte kullanmak üzere AWS Gizli Erişim Anahtarınızı girin.
- Politika oluştur
-
AWS Konsolu'nda, IAM'a gidin.
-
İlkeler> İlke oluştur bölümüne gidin.
-
Qlik Cloud içinde, Bir AWS rolü oluştur iletişim kutusunda, ilkeyi kopyalayın.
-
AWS içinde, İlke düzenleyici bölümünde, ilkeyi yapıştırın.
-
-
Yeni ilkeyi bir kullanıcıya ata
-
Yeni ilkeyi erişim sağlamak istediğiniz kullanıcıya atayın.
-
Bağlantıyı oluştur
Güvenlik yönteminizi yapılandırdıktan sonra, bağlantınızı oluşturmak için aşağıdaki adımları tamamlayın:
-
Ad alanına, bağlantının görünen adını girin, örneğin My AWS S3 Streaming Source connection.
-
Kimlik bilgilerini doğrulamak için Bağlantıyı test et seçeneğine tıklayın.
-
Oluştur'a tıklayın.
Söz dizimi örnekleri
| Söz dizimi | Açıklama | Örnek |
|---|---|---|
| Metin | AWS Amazon S3 nesnelerini adlandırma yönergelerine dayalı genel metin/dize girişi. | s3://MyS3Bucket/MyDir/MyFile.csv |
| Joker karakter | Yol/dosya adında "joker karakter" olarak işlev gören bir * karakteri. Bir yolda joker karakter kullanmak, o yoldaki tüm klasörleri ve alt klasörleri içerir. | myS3Bucket/myDir/* myS3Bucket/myDir/*.csv myS3Bucket/myDir/*_customers.csv myS3Bucket/regions/*/*_customers.csv |
| Desen | Tarih deseni söz dizimi, dosya adı içindeki tarih deseninin konumunu gösterir. | myS3Bucket/myDir/<yyyy>_<MM>_<dd>_<HH>_<mm>_orders.csv myS3Bucket/myDir/<yyyy>/<MM>/<dd>/<HH>_<mm>_orders.csv |
Hedef veri kümesi adlandırma kuralları
Hedef veri kümesi adı şunları yapmalıdır:
-
Benzersiz olmalı ve hedef katalogdaki diğer veri kümeleri tarafından kullanılmıyor olmalı.
-
Hedef katalog adlandırma kurallarına uymalı:
-
Bir harfle (A-Z, a-z) veya alt çizgi (_) ile başlamalı.
-
Yalnızca harfler, alt çizgiler, rakamlar (0-9) veya dolar işareti ($) içermeli.
-
Boşluklar dahil 255 karakteri aşmamalı.
-