Best practices voor QVD-architectuur bij migratie naar Qlik Cloud
Laatst bijgewerkt: 14-10-2026Qlik Cloud ondersteunt grote bestanden, en native DataFiles-opslag kan grote QVD-bestanden verwerken. Architecturale overwegingen verschillen echter bij het gebruik van grote bestanden in Qlik Cloud vergeleken met Qlik Sense Enterprise on Windows.
QVD-laadprestaties verschilt tussen Qlik Sense Enterprise on Windows en Qlik Cloud:
-
In Qlik Sense Enterprise on Windows, Qlik Engine leest de QVD rechtstreeks vanaf de lokale schijfopslag. Wanneer de bestanden op de lokale server worden opgeslagen, is er ook minimale latentie bij het laden van gegevens.
-
In Qlik Cloud, Qlik Engine doet een netwerkoproep om de bestandsinhoud van webbestandsopslag te lezen. Dit voegt op twee manieren laadtijd toe. Ten eerste, het lezen van webbestandsopslag via het netwerk voegt overdrachtslatentie toe die door lokale schijflezen wordt vermeden. Ten tweede, de versleuteling die vereist is voor compliance-certificeringen, zoals SOC 2/3 en HIPAA, voegt verwerkingsoverhead toe.
InformatieGa voor meer informatie over beveiliging en naleving naar Betrouwbaarheid en beveiliging bij Qlik.
Bij het opslaan van QVD-bestanden in Qlik Cloud, neem de lees- en schrijftijd van bestanden op in uw herlaadstrategie. Overweeg de volgende benaderingen bij het plannen van uw QVD-architectuur in Qlik Cloud:
-
Handhaaf optimale QVD-groottes
-
Optimaliseer QVD-laadbewerkingen
Voor meer informatie over het werken met QVD-bestanden, zie:
Voor meer informatie over QVD-prestaties, zie de volgende Qlik Learning-cursussen:
-
QVD Prestatie Fundamenten (Gratis)
-
QVD Prestaties Essenties (Alleen met abonnement)
Handhaaf optimale QVD-groottes
Hoewel Qlik Cloud grote bestanden kan verwerken, houd uw QVD-bestanden klein genoeg om aan uw prestatievereisten te voldoen. Er is geen vaste doelgrootte, dus valideer de prestaties als onderdeel van uw gegevensontwerp en optimaliseer verder om aan uw behoeften te voldoen. De volgende benaderingen kunnen helpen om uw QVD-bestanden binnen optimale groottes te houden voor tijdig laden.
Voor meer informatie over het optimaliseren van applicatieprestaties met grote datavolumes, zie:
Segmenteer uw gegevens
Beperk de grootte van individuele bestanden door uw gegevens te segmenteren op basis van natuurlijke dimensies, zoals:
-
Tijdsbestek: Segmenteer uw gegevens op basis van tijdsbestekken, zoals jaren of maanden. Bijvoorbeeld, zou u een QVD die al uw gegevens bevat kunnen splitsen in twee QVD's:
-
Een QVD dat gegevens bevat van de twee meest recente jaren.
-
Een QVD dat historische gegevens bevat die ouder zijn dan twee jaar.
-
-
Categorie: Segmenteer uw gegevens op logische categorieën, zoals:
-
Landen of regio's.
-
Productgroepen.
-
Afdelingen.
Bijvoorbeeld, kunt u een QVD met al uw gegevens splitsen per land of administratieve gebieden van het tweede niveau, zoals staten of provincies.
-
-
Aggregatieniveau: Aggregeer uw gegevens naar een hoger niveau om een kleinere dataset te creëren. Bijvoorbeeld:
-
Aggregeer dagelijkse gegevens tot maandelijkse overzichten.
-
Aggregeer individuele klantgegevens tot regionale overzichten.
-
Verminder de cardinaliteit van gegevens
Het verminderen van de cardinaliteit van gegevens in de QVD-bestanden verbetert de compressie en verkleint de QVD-bestandsgrootte. Overweeg de volgende benaderingen:
-
Afronding: Rond numerieke waarden met een hoge kardinaliteit af wanneer dit analytisch zinvol is. Dit vermindert het aantal unieke waarden, wat leidt tot kleinere datasets en snellere verwerking van de symbolentabel.
-
Tijdstempels splitsen: Splits tijdstempelvelden in afzonderlijke Datum en Tijd velden. Dit verlaagt de cardinaliteit aanzienlijk en verbetert de compressie.
-
Tekstvelden optimaliseren: Tekstvelden kunnen een hoge cardinaliteit hebben, vooral velden die lange beschrijvingen bevatten. Om uw QVD-bestanden te optimaliseren, vermijd het opnemen van deze tekstvelden in meerdere QVD-bestanden. Verplaats ze naar speciale QVD-bestanden om primaire QVD-gegevensbestanden slank te houden. Als een enkele tekst-QVD nog steeds niet performant is, segmenteer deze dan verder.
Beoordeel QVD-laagstrategie
QVD-bestanden kunnen in de loop van de tijd groeien en zijn mogelijk niet langer geoptimaliseerd voor hun oorspronkelijke gebruiksscenario's. Beoordeel uw laagstrategie en bepaal of u een meer gedetailleerde structuur kunt aannemen. Het gebruik van meer, kleinere bestanden kan de impact van het laden van bestanden beperken.
Bijvoorbeeld, het opsplitsen van verkoopgegevens in QVD's per jaar kan de herlaadtijden versnellen en applicaties in staat stellen minder gegevens te lezen, wanneer deze alleen gegevenspunten van de meest recente jaren nodig hebben.
Voor meer informatie over het bouwen en opslaan van QVD-lagen, zie:
Optimaliseer QVD-laadbewerkingen
Bij het laden van gegevens uit QVD-bestanden in Qlik Cloud, optimaliseer uw laadbewerkingen. De volgende benaderingen kunnen de laadtijden bij het lezen van QVD-bestanden helpen verkorten.
Minimaliseer opslagleesbewerkingen
Vermijd het laden van dezelfde QVD-bestanden meerdere keren binnen één load-script. Om de overhead te verminderen, laadt u de gegevens één keer in een tijdelijke tabel en hergebruikt u deze via RESIDENT-ladingen.
Voor meer informatie over het laden van gegevens en resident tabellen, zie:
Benut geoptimaliseerde ladingen
Voor niet-geoptimaliseerde scenario's, zoals het laden van gegevens met complexe WHERE-clausules of datatransformaties, overweeg om de QVD eerst in zijn geoptimaliseerde formaat in een tijdelijke tabel te laden. U kunt dan de nodige manipulaties en filtering uitvoeren via een RESIDENT-load in uw uiteindelijke doeltabel, waarbij de verwerkingslast verschuift van het laden van de QVD naar het motorgeheugen.
Voor meer informatie over geoptimaliseerde en standaard QVD-laadmodi, zie:
Alternatieve bestandsopslagoplossingen
Als de governance-overhead van het opslaan van uw QVD's in Qlik Cloud lees- en schrijfprestatieproblemen veroorzaakt, overweeg dan om alternatieve bestandsopslagoplossingen met configureerbare beveiligingsniveau-opties te testen.
Voor Qlik Cloud-ondersteunde oplossingen voor bestandsopslag, zie Qlik Web Storage Provider Connectors (alleen in het Engels). Om latentieproblemen te minimaliseren, zorg ervoor dat uw alternatieve bestandsopslagoplossing zo dicht mogelijk bij de tenant van uw Qlik Cloud regio wordt geïmplementeerd.
Voor meer informatie over het beheren van gegevensbestanden, zie: