Ladda nya och uppdaterade poster med inkrementell laddning

Om appen innehåller en stor mängd data från databaskällor som uppdateras fortlöpande kan det ta lång tid att ladda om hela datauppsättningen. I det här fallet behöver du bara ladda nya eller ändrade poster från databasen; alla andra uppgifter bör redan vara tillgängliga i appen. Inkrementell laddning med QVD-filer gör detta möjligt.

Grundläggande steg beskrivs nedan:

  1. Ladda nya eller uppdaterade data från databasens källtabell.

    Detta är en långsam process, men endast ett begränsat antal poster laddas.

  2. Ladda data som redan finns tillgängliga i appen från QVD-filen.

    Många poster är laddade, men detta är en mycket snabbare process.

  3. Skapa en ny QVD-fil.

    Det här är den fil som du kommer att använda nästa gång du gör en inkrementell laddning.

  4. Upprepa proceduren för alla laddade tabeller.

I följande exempel visas fall där inkrementell laddning används. Dock kan det krävas en mer komplex lösning beroende på källdatabasens struktur och driftläge.

  • Bifoga endast (används vanligtvis för loggfiler)
  • Infoga endast (ingen uppdatering eller borttagning)
  • Infoga och uppdatera (ingen borttagning)
  • Infoga, uppdatera och ta bort

Du kan läsa QVD-filer i antingen optimerat läge eller standardläge. (Den använda metoden väljs automatiskt av Qlik Sense-motorn beroende på hur komplex operationen är.) Optimerat läge är ungefär 10 gånger snabbare än standardläge, eller ungefär 100 gånger snabbare än när databasen laddas på vanligt sätt.

Mer information finns i Arbeta med QVD-filer.

Endast tillägg

Det enklaste fallet gäller loggfiler; filer där poster endast läggs till och aldrig tas bort. Följande villkor måste uppfyllas:

  • Databasen måste vara en loggfil (eller någon annan fil där poster endast läggs till på slutet och inga poster tas bort) som ligger inuti en textfil (ODBC, OLE DB eller andra databaser stöds inte).

  • Qlik Sense håller reda på hur många poster som har lästs in tidigare och laddar endast de poster som tillkommit i slutet av filen.

Example:  

Buffer (Incremental) Load * From LogFile.txt (ansi, txt, delimiter is '\t', embedded labels);

Infoga endast (ingen uppdatering eller borttagning)

Om data ligger på en annan databas än en enkel loggfil kommer inte tilläggsmetoden ovan att fungera. Problemet kan dock lösas med en liten extra arbetsinsats. Följande villkor måste uppfyllas:

  • Datakällan kan vara av vilken typ som helst

  • Qlik Sense laddar de poster som har infogats i databasen efter den senaste skriptexekveringen.

  • Ett ModificationTime-fält (eller liknande) krävs för att Qlik Sense ska veta vilka poster som är nya.

Example:  

QV_Table:

SQL SELECT PrimaryKey, X, Y FROM DB_TABLE

WHERE ModificationTime >= #$(LastExecTime)#

AND ModificationTime < #$(BeginningThisExecTime)#;

 

Concatenate LOAD PrimaryKey, X, Y FROM File.QVD;

STORE QV_Table INTO File.QVD;

Brädgårdarna i SQL WHERE-satsen anger början och slutet på ett datum. Kontrollera databasens dokumentation för att få rätt datumsyntax för din databas.

Infoga och uppdatera (ingen borttagning)

Nästa exempel gäller data från tidigare inlästa poster som kan ha ändrats mellan skriptexekveringar. Följande villkor måste uppfyllas:

  • Datakällan kan vara av vilken typ som helst

  • Qlik Sense laddar poster som har infogats i databasen, eller som har uppdaterats där efter den senaste skriptexekveringen.

  • Ett ModificationTime-fält (eller liknande) krävs för att Qlik Sense ska veta vilka poster som är nya.

  • Ett primärt nyckelfält krävs för att Qlik Sense ska kunna sortera ut uppdaterade poster från QVD-filen.

  • Denna lösning innebär att läsningen av QVD-filen görs i standardläget (och inte i det optimerade läget), vilket fortfarande är betydligt snabbare än att ladda hela databasen.

Example:  

QV_Table:

SQL SELECT PrimaryKey, X, Y FROM DB_TABLE

WHERE ModificationTime >= #$(LastExecTime)#;

 

Concatenate LOAD PrimaryKey, X, Y FROM File.QVD

WHERE NOT Exists(PrimaryKey);

 

STORE QV_Table INTO File.QVD;

Infoga, uppdatera och ta bort

Det mest komplicerade fallet att hantera är när posterna faktiskt har tagits bort från källdatabasen mellan skriptexekveringarna. Följande villkor måste uppfyllas:

  • Datakällan kan vara av vilken typ som helst

  • Qlik Sense laddar poster som har infogats i databasen, eller som har uppdaterats där efter den senaste skriptexekveringen.

  • Qlik Sense tar bort poster som har tagits bort i databasen efter den senaste skriptexekveringen.

  • Ett fält ModificationTime (eller liknande) krävs för att Qlik Sense ska veta vilka poster som är nya.

  • Ett primärt nyckelfält krävs för att Qlik Sense ska kunna sortera ut uppdaterade poster från QVD-filen.

  • Denna lösning innebär att läsningen av QVD-filen görs i standardläget (och inte i det optimerade läget), vilket fortfarande är betydligt snabbare än att ladda hela databasen.

Example:  

Let ThisExecTime = Now( );

 

QV_Table:

SQL SELECT PrimaryKey, X, Y FROM DB_TABLE

WHERE ModificationTime >= #$(LastExecTime)#

AND ModificationTime < #$(ThisExecTime)#;

 

Concatenate LOAD PrimaryKey, X, Y FROM File.QVD

WHERE NOT EXISTS(PrimaryKey);

 

SQL SELECT PrimaryKey, X, Y FROM DB_TABLE

 

If ScriptErrorCount = 0 then

STORE QV_Table INTO File.QVD;

Let LastExecTime = ThisExecTime;

End If

Hjälpte den här informationen?

Tack för att du berättar det här. Är det något du vill säga om det här avsnittet?

Varför var informationen inte till hjälp och hur kan vi förbättra den?