Accéder au contenu principal Passer au contenu complémentaire

Données à analyser

La métrique Données à analyser indique la quantité de votre capacité Qlik Cloud en cours de consommation. Elle mesure le volume total de données chargées et stockées dans votre environnement. Cette rubrique explique quels types de données sont comptabilisés dans votre consommation, quels types sont exclus et la manière dont la consommation est calculée. Comprendre ces détails vous aide à voir ce qui consomme votre capacité Qlik Cloud et à gérer vos données plus efficacement.

Données incluses dans la métrique

Les données suivantes sont comptabilisées :

  • Données chargées dans Qlik Cloud provenant de sources externes. Pour les actualisations, les nouvelles données incrémentielles augmentent le nombre de données. Si l'actualisation comporte moins de données, le nombre de données diminue.

  • Fichiers de données chargés ou créés dans Qlik Cloud. La taille de fichier est comptée. Si vous copiez des fichiers de données dans Qlik Cloud, les nouveaux fichiers de données sont inclus dans le nombre. Si vous dupliquez une application dans un espace partagé sans l'actualiser, elle ne sera pas comptabilisée.

La métrique Données analysées est calculée comme suit :

  • Le volume des données externes ingérées dans Qlik Cloud via une application Qlik Sense.

  • La taille du fichier QVD obtenu provenant des données externes chargées dans Qlik Cloud via Passerelle de données Qlik - Déplacement des données.

  • La taille de fichier des fichiers de données chargés dans Qlik Cloud.

  • Taille d'octet statique de l'application.

Les données chargées dans différents clients sont comptées plusieurs fois, tandis que les données chargées une seule fois et utilisées dans différentes applications sont comptées une seule fois.

Note InformationsSi une application n'utilise que des données chargées à partir de fichiers de données, l'application ne contribuera pas aux données pour l'analyse. En effet, les données sont déjà prises en compte dans la contribution des fichiers de données.

Les éléments suivants ne sont pas comptés dans la métrique :

  • Applications et données chargées dans un espace personnel via On-Demand App Generation (ODAG).

  • Applications dans l'espace personnel. Y compris celles qui utilisent une connexion de données stockée dans un espace partagé.

  • Applications qui se contentent de charger binairement une autre application. L'application originale faisant l'objet du chargement binaire est déjà comptabilisée.

  • Applications qui ne chargent que des fichiers QVD. Les QVD sont déjà comptabilisés séparément.

  • Applications et données publiées dans des espaces gérés.

    Note InformationsLes actualisations d'applications dans des espaces gérés sont comptabilisées dans la métrique.
  • Données chargées via Direct Query.

Abonnement à la capacité Données à analyser

Vous vous abonnez à des packs de données en fonction de vos besoins en matière de Données à analyser. Chaque utilisateur dispose d'une certaine capacité Données à analyser dans son espace personnel. Ces données personnelles ne sont pas comptées dans le volume total de Données à analyser. Cependant, si l'utilisateur déplace les données vers un espace partagé à des fins de collaboration, ces données sont incluses dans la capacité totale.

L'édition Qlik Cloud Analytics Starter (Débutant) a une capacité de données fixe. Dans cette édition, les abonnements sont basés sur le nombre d'utilisateurs.

Déplacement de données vers Qlik Cloud

Vos options, pour déplacer des données, incluent les suivantes :

  • Connexions de données directes depuis Qlik Sense

  • Passerelle de données Qlik - Accès direct

  • Déplacement de données vers Qlik Cloud avec Qlik Talend Data Integration

    Vous pouvez déplacer des données vers Qlik Cloud depuis n'importe quelle source avec les éditions Premium et Enterprise de Qlik Cloud Analytics. Avec Qlik Cloud Analytics - Standard, vous pouvez déplacer des données provenant de n'importe quelle source sauf de SAP, de mainframe (grand système) et de sources héritées.

Calcul du volume Données à analyser

Le fait de savoir comment la valeur Données à analyser est calculée peut vous aider à optimiser l'utilisation de votre capacité. Cette section explique comment sont mesurés le pic mensuel, le chargement de données, les actualisations d'applications et la création de données.

Pic mensuel

Lorsque vous achetez une capacité Données à analyser, vous bénéficiez d'un espace défini pour le stockage et l'analyse de données. Cette capacité est une limite maximale et non un crédit consommable. Par exemple, si vous achetez 250 Go de capacité, vous pouvez stocker et analyser jusqu'à 250 Go de données à tout moment. Si vous allez au-delà de cette limite, des dépassements peuvent se produire et font l'objet d'un suivi distinct.

Mode de suivi de l'utilisation quotidienne

Votre utilisation est suivie au quotidien. Chaque jour, le système calcule votre pic quotidien comme étant le total des valeurs suivantes :

  • Taille totale de fichiers stockés

  • Quantité de données ingérées lors des actualisations d'applications

  • Quantité de données dérivées ou créées

Comportement de report

Si aucune actualisation n'a lieu un jour donné, le système reporte la valeur des données ingérées de l'actualisation la plus récente. Au début d'un nouveau mois, le pic mensuel est réinitialisé. Si aucune actualisation n'a lieu le premier jour du nouveau mois, la dernière valeur d'actualisation du mois précédent est appliquée à ce jour.

Les données stockées et les données dérivées sont toujours mesurées à partir de zéro chaque jour, sans report.

Cas particuliers

  • La valeur d'utilisation reflète la dernière actualisation aboutie de chaque application. Si une application est actualisée ultérieurement avec un modèle de données vide (par exemple, uniquement pour créer et exporter des fichiers QVD), l'utilisation indiquée peut continuer à afficher la taille de la dernière actualisation aboutie.

  • La valeur d'utilisation ne se met à jour que lorsque l'application est actualisée de nouveau. Cela peut entraîner des différences entre les données visibles dans l'application et l'utilisation Données à analyser indiquée. Pour réduire l'utilisation indiquée, actualisez l'application avec un jeu de données plus petit.

Exemples de report

Les exemples suivants montrent comment les valeurs d'actualisation sont reportées en l'absence de nouvelle actualisation, et comment ce comportement interagit avec les données stockées et créées.

Exemple 1 - Report régulier :

  • Jour 1 : 70 Go de fichiers de données stockés, 40 Go d'actualisations d'applications, 30 Go de fichiers de données créés. Le pic quotidien est de 140 Go.

  • Jour 2 : 60 Go de fichiers de données stockés, 0 Go d'actualisations d'applications, 20 Go de fichiers de données créés. La valeur d'actualisation du jour 1 (40 Go) est reportée. Le pic quotidien est de 120 Go.

Exemple 2 - Scénario d'application QVD uniquement

  • Jour 1 : actualisation de l'application avec 10 Go de données externes, création de fichiers QVD et abandon de toutes les tables. Le modèle d'application final est vide. Le pic journalier est de 10 Go (portion d'actualisation).

  • Jour 2 : aucune actualisation n'a lieu. Le pic journalier reste de 10 Go (portion d'actualisation reportée), même si l'application n'a désormais plus de tables.

Cette valeur n'est mise à jour que lors d'une nouvelle actualisation.

Cela signifie que le pic quotidien peut refléter à la fois les données d'actualisation reportées (même si l'application elle-même est vide, comme dans le scénario QVD uniquement) et toutes les nouvelles données stockées ou créées pour ce jour.

Pic mensuel et limite supérieure

Le pic mensuel est le pic quotidien le plus élevé enregistré au cours du mois. Il joue le rôle de limite supérieure, qui indique le jour où votre utilisation de données totale a été la plus élevée. Le pic mensuel est comparé à la capacité que vous avez achetée pour déterminer si des frais de dépassement s'appliquent.

Exemple - Identification du pic mensuel à partir de l'utilisation quotidienne

Pour montrer comment le pic mensuel est déterminé, cet exemple utilise un scénario simplifié couvrant seulement quatre jours et une capacité achetée de 250 Go. Les valeurs d'utilisation permettent d'illustrer la manière dont le pic quotidien le plus élevé devient le pic mensuel.

Le tableau présente l'utilisation de données sur quatre jours, catégorisées par type :

Jour Stocké Recharger Créé Pic quotidien
1 50 Go 30 Go 15 Go 95 Go
2 70 Go 40 Go 30 Go 140 Go
3 60 Go 0 Go 20 Go 120 Go
4 80 Go 50 Go 40 Go 170 Go

Compréhension des données du tableau :

  • Le jour 3 ne comporte pas d'actualisation de données. La portion d'actualisation du jour 2 (40 Go) est reportée et contribue au pic quotidien (120 Go).

  • Le jour 4 présente le pic quotidien le plus élevé (170 Go), qui devient le pic mensuel.

Comme le pic mensuel ne dépasse pas la capacité achetée de 250 Go, aucun dépassement ne s'applique. Si l'utilisation avait dépassé 250 Go un jour donné, des frais de dépassement auraient pu s'appliquer ou une mise à niveau de la capacité aurait pu s'avérer nécessaire.

Utilisation quotidienne sur quatre jours, montrant les données stockées, ingérées (actualisation) et créées. La ligne verte indique la capacité achetée de 250 Go.

Graphique à barres illustrant l'utilisation de données sur quatre jours

Chargement de données dans Qlik Cloud

Les données chargées dans Qlik Cloud depuis des sources externes sont comptabilisées dans le pic quotidien. Lorsque vous chargez des données dans un client, elles sont comptées une fois et peuvent être analysées et utilisées plusieurs fois. Les données chargées dans plusieurs clients sont comptabilisées plusieurs fois.

Les données qui contribuent au pic quotidien sont mesurées comme suit :

  • Les données basées sur des fichiers chargées via une application Qlik Sense sont mesurées en fonction de leur taille de fichier.

  • Les actualisations d'applications qui utilisent des requêtes ou des connecteurs sont comptabilisées comme le nombre maximal d'octets ingérés depuis la source de données. Lorsque plusieurs actualisations ont lieu le même jour, la taille d'application maximale est celle qui sera comptabilisée dans le pic quotidien. Par exemple, si une application est actualisée au cours d'une journée avec 0,75 Go, 1,25 Go et 1 Go, respectivement, la valeur utilisée pour la journée en question sera de 1,25 Go.

    S'il existe une application dans le client Qlik Cloud, le nombre maximal d'octets ingérés est évalué pour l'application.

  • Les données chargées dans Qlik Cloud via Passerelle de données Qlik - Déplacement des données sont mesurées en fonction de la taille du fichier QVD obtenu.

  • Les applications chargées ou téléversées via l'import de fichiers, que ce soit dans le Analytiques centre d'activités ou via qlik-cli, sont mesurées en fonction de la taille d'octet statique de l'application.

  • Les fichiers QVD chargés sont mesurés en fonction de leur taille de fichier.

Différentes manières de charger des données dans Qlik Cloud : via des applications, le déplacement des données ou leur import via le centre d'activités Analytiques ou qlik-cli.

Illustration de différentes méthodes de chargement des données dans Qlik Cloud.

Dans les cas suivants, les données ne sont pas incluses dans le calcul du pic quotidien :

  • Les données chargées dans un espace personnel d'un utilisateur ne sont pas comptées, à condition qu'elles soient limitées à cet espace. Si l'utilisateur déplace les données vers un espace partagé pour collaborer avec d'autres, ces données seront comptées.

  • En cas d'échec d'une actualisation, les octets ingérés ne sont pas comptés. Cependant, tous les fichiers QVD obtenus sont comptés.

  • Lorsque vous chargez une application avec des données qui réside déjà dans Qlik Cloud, le chargement de données n'est pas compté. Par exemple, les données copiées ou chargées au format binaire (chargement de données provenant d'une autre application Qlik Sense) n'ont pas d'impact sur le pic quotidien, à condition qu'elles ne soient pas actualisées d'une source externe.

Les actualisations d'applications provenant de sources internes n'ont aucun impact sur le pic quotidien.

Illustration d'actualisations d'applications non comptabilisées dans le pic quotidien.

Mesure des octets ingérés pour les actualisations d'applications

Les règles suivantes s'appliquent lorsque vous actualisez une application Qlik Sense depuis une source externe :

  • Vous pouvez actualiser une application plusieurs fois depuis le même jeu de données source sans affecter le pic quotidien, à condition que le volume de données reste inchangé.

  • Si la taille du jeu de données source augmente, le pic quotidien est affecté. Chaque Go de données supplémentaire ajouté au jeu de données contribue en quantité équivalente aux données ingérées lors de l'actualisation.

  • Inversement, si la taille du jeu de données source diminue, cette réduction est elle aussi reflétée dans le pic quotidien. Par exemple, si la taille du jeu de données est réduite de 0,25 Go, la taille de l'actualisation diminue de la même quantité. En revanche, si une actualisation de 1 Go a eu lieu plus tôt dans la journée, le pic quotidien pour la journée en question sera de 1 Go. La réduction sera reflétée uniquement dans le pic quotidien du jour suivant.

  • Les changements de contenu du jeu de données source, sans altération de sa taille, n'ont pas d'impact sur le pic quotidien. Le pic quotidien est affecté uniquement par le volume des données.

Mesure des octets ingérés lorsque la taille ou le contenu du jeu de données source est modifié.

Illustration d'actualisations d'applications provenant de jeux de données de taille différente.
  • Si vous interrogez le même jeu de données plusieurs fois dans un seul script de chargement, l'ensemble de ces requêtes sont comptabilisées séparément, et leurs volumes de données sont additionnés. Par exemple, si vous avez un script de chargement incluant trois requêtes de 1 Go chacune provenant du même jeu de données, l'ensemble de ces trois requêtes sont comptabilisées individuellement. Par conséquent, la quantité totale de données comptabilisée dans le pic quotidien est de 3 Go.

  • Le fait de charger une application, puis d'abandonner la table, ne réduit pas le pic quotidien, car ce dernier est basé sur la taille d'actualisation d'applications maximale de la journée.

  • Si vous chargez une application et si vous la supprimez ensuite le même jour, elle contribuera tout de même au pic quotidien de la journée en question. En revanche, si l'application n'existe plus, le pic quotidien du jour suivant sera réduit.

Mesure des octets ingérés pour les différents scénarios d'actualisation d'applications.

Illustration de différents scénarios d'actualisation d'applications.

Mesure des données chargées dans des fichiers QVD avec Qlik Talend Data Integration

Les règles suivantes s'appliquent lorsque vous chargez des données dans un fichier QVD depuis une source externe via Passerelle de données Qlik - Déplacement des données :

  • Vous pouvez charger, importer ou générer un jeu de données plusieurs fois sans affecter le pic quotidien, à condition que le volume de données reste inchangé.

  • Si la taille du jeu de données source augmente, le pic quotidien est affecté. Chaque Go de données supplémentaire ajouté au jeu de données contribue en quantité équivalente à la taille du fichier QVD obtenu.

  • Inversement, si la taille du jeu de données source diminue, cette réduction est elle aussi reflétée dans le pic quotidien. Par exemple, si la taille du jeu de données est réduite de 0,25 Go, la taille du fichier QVD obtenu diminue de la même quantité.

  • Les changements de contenu du jeu de données source, sans altération de sa taille, n'ont pas d'impact sur le pic quotidien. Le pic quotidien est affecté uniquement par le volume des données.

Mesure de la taille du fichier QVD lorsque la taille ou le contenu du jeu de données source est modifié.

Illustration de chargements de QVD provenant de jeux de données de taille différente.

Chargement d'applications provenant de sources internes et externes

Il est important de comprendre la manière dont les données chargées dans des applications affectent le pic quotidien, suivant la source de données. Prenons les scénarios suivants, dans lesquels des données sont chargées de différentes sources.

  • Chargement d'une application depuis une source externe.

    Lorsque vous chargez des données provenant d'une source externe dans une application, elles sont comptées en termes d'octets ingérés. Par exemple, si vous chargez 10 Go, la contribution au pic quotidien est de 10 Go.

  • Chargement d'une application depuis un QVD dans Qlik Cloud

    Le chargement de données dans une application depuis un fichier QVD résidant dans Qlik Cloud n'est pas comptabilisé dans le pic quotidien. Si 10 Go de données sont chargés dans une application depuis le QVD, aucune donnée n'est comptabilisée, en raison de l'absence d'ingestion de données externes. La contribution au pic quotidien est de 0 Go.

  • Génération d'un nouveau fichier QVD depuis un QVD dans Qlik Cloud

    Les données chargées dans une application génératrice de QVD depuis un QVD basé dans Qlik Cloud ne sont pas comptabilisées dans le pic quotidien. En revanche, le fichier QVD obtenu généré depuis l'application est comptabilisé. Par exemple, si un fichier QVD de 10 Go est transformé en nouveau QVD de 5 Go, la contribution au pic quotidien est la somme des deux fichiers, à savoir, 15 Go. Étant donné l'absence d'ingestion de données externes, le chargement de l'application génératrice de QVD (une application dédiée qui crée un modèle de données et génère un QVD) n'est pas comptabilisé.

  • Chargement d'une application depuis des sources externe et internes

    Si une application charge 10 Go depuis une source externe et 5 Go depuis un QVD dans Qlik Cloud, la contribution totale au pic quotidien de l'application est de 10 Go, car seules les données chargées depuis la source externe sont comptabilisées.

Mesure du total des fichiers de données plus les données ingérées lors du chargement depuis des sources internes et externes.

Illustration d'exemples de calcul de la quantité totale de données chargée.

Création de données dans Qlik Cloud

Lorsque vous créez des données dans Qlik Cloud, que ce soit en copiant des fichiers de données ou en les dérivant via la combinaison et le traitement de données brutes existantes, elles sont comptabilisées dans le pic quotidien. Les données sont mesurées comme la taille totale des fichiers générés lors du processus de création de données. Les données créées sont comptabilisées une seule fois, quel que soit le nombre d'applications qui les utilisent.

Prenons ces exemples de création de données :

  • La création d'un fichier QVD de 1 Go via l'instruction STORE ajoute 1 Go au pic quotidien.

  • La copie d'un fichier QVD de 1 Go ajoute 1 Go au pic quotidien, car les deux copies contribuent au total.

  • La création d'un fichier QVD de 0,5 Go via une transformation ajoute 0,5 Go au pic quotidien. Seul le fichier QVD obtenu est comptabilisé ; l'application génératrice de QVD n'est pas comptabilisée, car elle charge des données qui figurent déjà dans Qlik Cloud.

Mesure de fichiers de données créés dans Qlik Cloud.

Illustration d'exemples de calcul de la quantité totale de données créée.

Bonnes pratiques pour la gestion des données

Une gestion efficace des données vous aide à tirer le meilleur parti de votre capacité Données à analyser. Les recommandations ci-dessous expliquent comment optimiser le chargement de données, réduire le stockage inutile et gérer le contenu plus ancien ou inactif dans Qlik Cloud.

Création de fichiers QVD à des fins de réutilisation des données

Utilisez des fichiers QVD lorsque les données sont partagées entre plusieurs applications. Le chargement des données externes une seule fois et leur stockage sous forme de fichiers QVD réduit l'ingestion répétée et aide à abaisser le pic quotidien. La création de fichiers QVD à des fins de réutilisation des données avec Passerelle de données Qlik - Déplacement des données est généralement plus efficace que l'actualisation des données directement dans les applications.

Exemple :

Si vous chargez 10 Go de données externes une seule fois et si vous les stockez sous forme de fichier QVD de 5 Go, le total des données comptabilisées dans le pic quotidien est de 15 Go. Les applications qui chargent le fichier QVD de 5 Go ne réingèrent pas les 10 Go d'origine. Si, au lieu de cela, vous chargez les mêmes 10 Go de données externes directement dans deux applications, l'ingestion a lieu deux fois, ce qui entraîne un comptage de 20 Go.

La création d'un QVD et le chargement d'applications à partir de ce fichier s'avèrent plus efficaces que le chargement de données externes directement dans plusieurs applications.

Illustration montrant la quantité totale de données lors de l'utilisation d'un QVD pour le chargement d'applications et lors du chargement directement dans des applications.

Utilisation de méthodes de chargement de données efficaces

Poussez autant de filtrage et de transformation que possible vers la source de données (pushdown SQL). Cela réduit la quantité de données transférées lors des actualisations.

Exemple :

Select * from my-external-database-table where my_column = 10

Dans cette requête, le filtre est appliqué à la source, de sorte que seul un sous-ensemble des données est transféré.

Note InformationsLors du chargement de fichiers QVD, Excel ou CSV, le filtrage a lieu après la lecture du fichier depuis la source, de sorte que la taille de fichier totale est toujours comptée.

Utilisation d'applications On-demand pour les jeux de données volumineux

ODAG (On-Demand App Generation - Génération d'applications à la demande) vous permet de travailler avec des jeux de données volumineux en commençant par charger les données agrégées et en récupérant des sous-ensembles détaillés uniquement lorsque cela est nécessaire.

Pour plus d'informations, consultez Applications On-demand.

Gestion des jeux de données volumineux avec Direct Query et Vues dynamiques

Direct Query et Vues dynamiques vous permettent d'interroger des jeux de données volumineux à la demande sans charger toutes les données en mémoire. Ces approches réduisent l'ingestion et aident à maintenir la consommation dans les limites de votre capacité.

Pour plus d'informations, consultez :

Gestion des applications anciennes ou inutilisées

Les applications du client continuent de contribuer à la consommation Données à analyser en fonction de leur dernière actualisation réussie. Tant qu'une application existe avec ses données chargées, elle continue de contribuer à votre rapport de capacité.

Pour éviter une utilisation inutile :

Réduisez ou supprimez les données inutiles

Supprimez les données des applications qui ne nécessitent plus de jeux de données complets ou créez des applications sans données lorsque seule la structure est nécessaire. L'actualisation d'une application avec un jeu de données plus petit met à jour sa consommation indiquée.

Évitez les duplications inutiles

Copiez les applications uniquement lorsque cela est nécessaire. Chaque copie est traitée comme une application distincte et contribue à la consommation de capacité.

Utilisez les espaces partagés intentionnellement

Les espaces partagés peuvent aider à contrôler le lieu où et la manière dont se produisent les actualisations.

Supprimez les applications dont vous n'avez plus besoin

Un nettoyage régulier empêche le contenu obsolète de consommer de la capacité.

  • Identifiez les éléments non utilisés dans le Catalogue en consultant Dernière mise à jour, Visité par et Utilisé dans.

  • Utilisez l'analyse de l'impact et la traçabilité pour comprendre où les fichiers de données sont utilisés.

  • Supprimez les applications et les fichiers de données non utilisés des centres d'activités. Les administrateurs peuvent également supprimer des applications d'Administration.

Pour plus d'informations, consultez :

Réduction de la consommation liée aux actualisations

La taille d'actualisation indiquée d'une application ne diminue que si l'actualisation produit un jeu de données plus petit. Pour réduire la taille indiquée, actualisez l'application avec moins de données afin que la taille indiquée soit mise à jour.

Comportement d'actualisation des applications

  • Si une application est actualisée sans nouvelles données, la taille indiquée reste la même.

  • Lorsqu'une application est copiée dans un autre espace, elle est traitée comme une application distincte et est de nouveau comptabilisée dans la consommation de capacité.

Approches pour limiter la consommation liée aux actualisations

Vous pouvez réduire la consommation de données liée aux actualisations en utilisant l'une des deux méthodes suivantes. Les deux méthodes suppriment les données de l'application.

  • Arrêt prématuré du script de chargement : ajoutez une instruction Exit script; au début du script de chargement pour actualiser l'application sans données. Lorsque toutes les données sont nécessaires, commentez l'instruction ou appliquez une condition afin qu'elle ne s'exécute que dans des scénarios spécifiques (par exemple, lorsque l'application se trouve dans un espace en particulier).

  • Recréation de l'application sans données : téléchargez l'application sans données et importez-la comme une nouvelle application. Après avoir validé la nouvelle version, supprimez l'application d'origine.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.