Gå till huvudinnehåll Gå till ytterligare innehåll

Amazon S3

Amazon S3 kan användas som:

  • Ett mellanlagringsområde när du arbetar med Databricks- (valfritt) och Amazon Redshift- (obligatoriskt) datapipelineplattformar. I molnförberedelseområdet förbereds data och ändringar innan de tillämpas och lagras.
  • Ett mål i en "Mellanlagra data i datasjö"-replikeringsuppgift.

Behörigheter som krävs för mellanlagringsdata

  • Du måste ha en Amazon S3-bucket som finns tillgänglig från Data Movement gateway-datorn.

    Mer information om hur du registrerar dig för Amazon S3 finns på http://aws.amazon.com/s3/.

  • Bucket-inloggningsuppgifter: Anteckna namn, åtkomstnyckel och hemlig åtkomstnyckel till Bucket – du måste ange dessa i inställningarna för Amazon S3 koppling.
  • Bucket-åtkomstbehörigheter: Följande bucket-åtkomstbehörigheter krävs:

     
    {
    	"Version": "2012-10-17",
    	"Statement": [
    	    {
    	     "Sid": "Stmt1497347821000",
    	     "Effect": "Allow",
    	     "Action": [
                    "s3:GetBucketLocation",
                    "s3:ListBucket"
                ],
                "Resource": [
                    "arn:aws:s3:::YOUR_BUCKET_NAME"
                ]
            },
            {
                "Sid": "Stmt1497344984000",
                "Effect": "Allow",
                "Action": [
                    "s3:PutObject",
                    "s3:GetObject",
                    "s3:DeleteObject"
                ],
                "Resource": [
                    "arn:aws:s3:::YOUR_BUCKET_NAME/target_path",
                    "arn:aws:s3:::YOUR_BUCKET_NAME/target_path/*"
                ]
            }
        ]
    }
    

Där YOUR_BUCKET_NAME är namnet på din bucket och target_path är den avsedda platsen för målfilerna i din bucket.

Anteckning om information

Om målsökvägen är bucketroten, specificerar du “/target_path” med en tom sträng.

Qlik Data Gateway – dataflytt förutsättningar

Data Movement gateway kopplar till AWS med SSL. Detta kräver att det finns ett lämpligt CA-certifikat på Data Movement gateway-maskinen, annars misslyckas kopplingen. Syftet med CA-certifikatet är att autentisera äganderätten till AWS-servercertifikatet.

Kontrollera att det nödvändiga CA-certifikatet finns på följande plats på Linux-maskinen:

/etc/pki/tls/certs/ca-bundle.crt

Om det inte finns är den enklaste lösningen att kopiera certifikatpaketet från en annan Linux-maskin.

Ställa in anslutningsegenskaper för Amazon S3

Datamål

Datagateway: Välj den Gateway för dataflytt som du vill använda för att komma åt måldatabasen.

Beroende på användningsfall kan det vara samma Gateway för dataflytt som distribuerats för att mellanlagra data från datakällan eller någon annan. Information om mölliga Gateway för dataflytt distributionsalternativ finns i Vanlig användning.

Anteckning om informationGateway för dataflytt 2023.5.10 eller senare krävs.

Anslutningsegenskaper

  • Åtkomstnyckel: åtkomstnyckeln för din Amazon S3-bucket.
  • Hemlig nyckel: Den hemliga nyckeln till din Amazon S3-bucket.
  • Bucketnamn: namn på din Amazon S3-hink.

    Anteckning om information

    Den förvalda regioninställningen för bucket är auto-detect, vilket tar bort behovet av att ställa in en specifik region. Men av säkerhetsskäl kan du för vissa regioner (till exempel AWS GovCloud) behöva ställa in regionen explicit. I sådana fall kan du ställa in regionkoden med den interna egenskapen regionCode.

    En lista med regionkoder finns i avsnittet Region availability i:https://docs.aws.amazon.com/AmazonRDS/latest/UserGuide/Concepts.RegionsAndAvailabilityZones.html

    Instruktioner om att ställa in interna egenskaper finns nedan.

  • Använd AWS PrivateLink: Välj detta för att ansluta till en Amazon VPC och därefter ange URL:en till VPC-slutpunkten (exempelvis https://bucket.vpce-1a2b3c4d-5e6f.s3.us-east-1.vpce.amazonaws.com).

    Anteckning om informationAlternativet Använd AWS PrivateLink stöds inte när du använder Amazon S3 bucket som förberedelseområde för ett Databricks-mål. Mer information om att ställa in kopplingen till ett Databricks-mål finns i Databricks.

Interna egenskaper

Interna egenskaper är till för speciella användarfall och visas därför inte i dialogen. De ska bara användas om Qlik-supporten uppmanar dig att göra det.

Använd Skapa ny- och Avbryt-knapparna till höger om fälten för att lägga till och ta bort egenskaper efter behov.

Namn

Visningsnamnet för anslutningen.

Datatypsmappning

Följande tabell visar standardmappningen från Qlik Cloud-datatyper till Amazon S3-datatyper.

Anteckning om informationDatatypsmappningarna är bara relevanta om alternativet Skapa metadatafiler i målmappen i uppgiftsinställningarna "Mellanlagra data i datareservoar" har aktiverats.

Mappning från Qlik Cloud-datatyper till Amazon S3

Qlik Cloud och Amazon S3-datatyper
Qlik Cloud-datatyperAmazon S3-måldatatyper

Datum

Datum

Tid

Tid

Datum och tid:

Datum och tid:

Byte

BYTES (längd)

BLOB

BLOB

REAL4

REAL4 (7)

REAL8

REAL8 (14)

INT1

INT1 (3)

INT2

INT2 (5)

INT4

INT4 (10)

INT8

INT8 (19)

UINT1

UINT1 (3)

UINT2

UINT2 (5)

UINT4

UINT4 (10)

UINT8

UINT8 (20)

Numerisk

NUMERIC (p,s)

sträng

STRING (längd)

WSTRING

STRING (längd)

CLOB

CLOB

NCLOB

NCLOB

BOOLEAN

BOOLEAN (1)

Mappning från Qlik Cloud-datatyper till Parquet

När Parquet ställs in som filformat kommer datatypsmappningarna att se ut som följer på grund av det begränsade antalet datatyper som stöds av Parquet:

Datatypsmappningar i Parquet
Qlik Cloud-datatypPrimitive ParquettypLogisk typ

BOOLEAN

BOOLEAN

 

INT1

INT32

INT(8, true)

INT2

INT32

INT(16, true)

INT4

INT32

 

INT8

INT64

 

UINT1

INT32

INT(8, false)

UINT2

INT32

INT(16, false)

UINT4

INT64

 

UINT8

INT64

INT(64, false)

REAL4

FLOAT

 

REAL8

DOUBLE

 

Numerisk

FIXED_LEN_BYTE_ARRAY (16)

DECIMAL (precision, skala)

sträng

BYTE_ARRAY

sträng

WSTRING

BYTE_ARRAY

sträng

Byte

BYTE_ARRAY

 

BLOB

BYTE_ARRAY

 

CLOB

BYTE_ARRAY

sträng

NCLOB

BYTE_ARRAY

sträng

Datum

INT32

Datum

Tid

INT32

TIME (UTC=true, unit=MILLIS)

Datum och tid:

INT64

TIMESTAMP (UTC=true, unit=MICROS)

Var den här sidan till hjälp för dig?

Om du hittar några fel på denna sida eller i innehållet – ett stavfel, ett steg som saknas eller ett tekniskt fel – berätta för oss så att vi kan blir bättre!