Dépôt temporaire de données dans un lac de données avec un abonnement Standard, Premium ou Enterprise

Vous pouvez configurer une tâche Déposer temporairement les données dans un lac de données pour déposer temporairement des données dans les cibles suivantes :

• Amazon S3

  Pour savoir comment configurer une connexion à Amazon S3, voir Amazon S3.

• Azure Data Lake Storage

  Pour savoir comment configurer une connexion à Azure Data Lake Storage, voir Azure Data Lake Storage.

• Google Cloud Storage

  Pour savoir comment configurer une connexion à Google Cloud Storage, voir Google Cloud Storage.

Pour des informations sur la configuration de connexions à vos sources de données, voir Configuration des connexions aux sources de données.

Pour configurer une tâche de dépôt temporaire de lac de données :

1. Dans Intégration des données > Projets, cliquez sur Créer > Projet.

2. Dans la boîte de dialogue Nouveau projet, procédez comme suit :

   1. Donnez un Nom à votre projet.

   2. Sélectionnez l'Espace dans lequel vous souhaitez créer le projet.
   3. Vous pouvez éventuellement saisir une Description.
   4. Sélectionnez Réplication comme Cas d'utilisation.
   5. Vous pouvez décocher la case Ouvrir si vous souhaitez créer un projet vide sans configurer aucun paramètre.

   6. Cliquez sur Créer.

      Il se produit une des choses suivantes :

      • Si la case Ouvrir de la boîte de dialogue Nouveau projet était cochée (par défaut), le projet s'ouvre.
      • Si vous avez décochez la case Ouvrir de la boîte de dialogue Nouveau projet, le projet est ajouté à votre liste de projets. Vous pourrez ouvrir le projet ultérieurement en sélectionnant Ouvrir dans le menu du projet.

3. Une fois le projet ouvert, cliquez sur Déposer temporairement les données dans un lac de données.

   L'assistant Déposer temporairement les données dans un lac de données s'ouvre.

4. Dans l'onglet Général, spécifiez un nom et une description pour la tâche de dépôt temporaire de lac de données. Cliquez ensuite sur Suivant.

   Note InformationsLes noms contenant une barre oblique (/) ou une barre oblique inversée (\) ne sont pas supportés.

5. Dans l'onglet Sélectionner une connexion source, sélectionnez une connexion aux données sources. Vous pouvez éventuellement modifier les paramètres de connexion en sélectionnant Modifier dans le menu dans la colonne Actions.

   Si vous n'avez pas encore de connexion aux données sources, vous devez commencer par en créer une en cliquant sur Créer une connexion dans le coin supérieur droit de l'onglet.

   Vous pouvez filtrer la liste de connexions via les filtres à gauche. Il est possible de filtrer les connexions en fonction du type de source, de la passerelle, de l'espace et du propriétaire. Le bouton Tous les filtres au-dessus de la liste de connexions affiche le nombre de filtres en cours. Vous pouvez utiliser ce bouton pour fermer ou ouvrir le panneau Filtres à gauche. Les filtres actuellement actifs sont également indiqués au-dessus de la liste de connexions disponibles.

   Vous pouvez également trier la liste en sélectionnant Dernière modification, Dernière création ou Alphabétiquedans la liste déroulante à droite. Cliquez sur la flèche à droite de la liste pour modifier l'ordre de tri.

   Une fois que vous avez sélectionnez une connexion de source de données, vous pouvez cliquer sur Tester la connexion dans le coin supérieur droit de l'onglet (recommandé), puis cliquez sur Suivant.

6. Dans l'onglet Sélectionner des jeux de données, sélectionnez des tables et/ou des vues à inclure dans la tâche de dépôt temporaire de lac de données. Vous pouvez également utiliser des caractères génériques et créer des règles de sélection, comme décrit à la section Sélection de données à partir d'une base de données.

   Note InformationsLes noms de schéma ou les noms de table contenant une barre oblique (/) ou une barre oblique inversée (\) ne sont pas supportés.

7. Dans l'onglet Sélectionner une connexion cible, sélectionnez une cible dans la liste de connexions disponibles, puis cliquez sur Suivant. En termes de fonctionnalités, l'onglet est identique à l'onglet Sélectionner une connexion source décrit précédemment.

8. Dans l'onglet Paramètres, vous pouvez modifier les paramètres suivants, puis cliquez sur Suivant.

   Méthode de mise à jour :

   • Change Data Capture (CDC) : Les tâches de dépôt temporaire dans un lac de données démarrent avec un chargement complet (au cours duquel toutes les tables sélectionnées sont chargées dans la cible). Les données cibles sont ensuite maintenues à jour via la technologie CDC (Change Data Capture).

     Note InformationsL'opération CDC (Change Data Capture) des opérations DDL n'est pas supportée.

     Lors de l'utilisation de Data Movement gateway, les modifications sont capturées auprès de la source quasiment en temps réel. Si vous travaillez sans Data Movement gateway, les modifications sont capturées en fonction des paramètres du planificateur. Pour plus d'informations, consultez Planification de tâches sans utiliser Data Movement gateway.

   • Charger : effectue un chargement complet des données des tables sources sélectionnées dans la plateforme cible et crée les tables cibles, si nécessaire. Le chargement complet s'effectue automatiquement lorsque la tâche démarre, mais il peut également être effectué manuellement ou planifié de sorte à se produire périodiquement, si nécessaire.

   Si vous sélectionnez Change Data Capture (CDC) et si vos données contiennent également des tables qui ne prennent pas en charge CDC, ou des vues, deux pipelines de données seront créés. Un pipeline avec l'ensemble des tables prenant en charge CDC, et un autre pipeline avec l'ensemble des autres tables et vues utilisant Charger.

   Dossier à utiliser :

   Sélectionnez une des options suivantes, suivant le dossier de compartiment dans lequel vous souhaitez écrire les fichiers :

   • Dossier par défaut : Le format de dossier par défaut est <votre-nom-de-projet>/<votre-nom-de-tâche>.
   • Dossier racine : Les fichiers seront directement écrits dans le compartiment.

   • Dossier : Saisissez le nom de dossier. Le dossier sera créé lors de la tâche de dépôt temporaire de lac de données, s'il n'existe pas.

     Note Informations Le nom de dossier ne peut pas contenir de caractères spéciaux (par exemple, @, #, !, etc.).

9. L'onglet Récapitulatif affiche visuellement le pipeline de données. Décidez si vous souhaitez Ouvrir la tâche <nom> ou Ne rien faire. Cliquez ensuite sur Créer.

   Suivant votre sélection, la tâche s'ouvre ou une liste de projets apparaît.

10. Si vous avez décidé d'ouvrir la tâche, l'onglet Jeux de données indique la structure et les métadonnées des tables de jeux de données sélectionnées. Sont concernées toutes les tables répertoriées de manière explicite ainsi que les tables correspondant aux règles de sélection.

    Si vous souhaitez ajouter d'autres tables provenant de la source de données, cliquez sur Sélectionner des données sources.

11. Vous pouvez éventuellement modifier les paramètres de tâche comme décrit à la section Paramètres des cibles de stockage cloud.

12. Vous pouvez effectuer des transformations sur les jeux de données, filtrer des données ou ajouter des colonnes.

    Pour plus d'informations, consultez Gestion des jeux de données.

13. Lorsque vous avez ajouté les transformations souhaitées, vous pouvez valider les jeux de données en cliquant sur Valider les jeux de données. Si la validation échoue, corrigez les erreurs avant de poursuivre.

    Pour plus d'informations, consultez Validation et ajustement des jeux de données.

14. Lorsque vous êtes prêt, cliquez sur Préparer pour cataloguer la tâche de dépôt temporaire et la préparer pour l'exécution.

15. Lorsque la tâche de données a été préparée, cliquez sur Exécuter.

16. La tâche de dépôt temporaire de lac de données devrait maintenant démarrer. Vous pouvez surveiller sa progression dans la vue Surveiller. Pour plus d'informations, consultez Surveillance d'une tâche de données individuelle

Définition de la priorité de chargement des ensembles de données

Vous pouvez contrôler l'ordre de chargement des ensembles de données de votre tâche de données en attribuant une priorité de chargement à chaque ensemble de données. Cela peut être utile, par exemple, si vous souhaitez charger les ensembles de données plus petits avant les grands.

1. Cliquez sur Priorité de chargement.

2. Sélectionnez une priorité de chargement pour chaque ensemble de données.

   La priorité de chargement par défaut est Normale. Les ensembles de données seront chargés dans l'ordre de priorité suivant :

   • La plus élevée

   • Plus élevée

   • Élevée

   • Normale

   • Faible

   • Plus faible

   • La plus faible

   Les ensembles de données ayant la même priorité ne sont pas chargés dans un ordre particulier.

3. Cliquez sur OK.

Actualisation des métadonnées

Vous pouvez actualiser les métadonnées de la tâche pour les aligner sur les modifications apportées aux métadonnées de la source dans la vue Conception d'une tâche. Pour les applications SaaS qui utilisent Metadata manager, il convient d'actualiser Metadata manager avant de pouvoir actualiser les métadonnées de la tâche de données.

1. Vous pouvez effectuer l'une des opérations suivantes :

   • Cliquez sur ..., puis sur Actualiser les métadonnées pour actualiser les métadonnées de la totalité des jeux de données de la tâche.

   • Cliquez sur ... sur un jeu de données dans Jeux de données, puis sur Actualiser les métadonnées pour actualiser les métadonnées d'un seul jeu de données.

   Vous pouvez afficher le statut de l'actualisation des métadonnées sous Actualiser les métadonnées dans la partie inférieure de l'écran. Vous pouvez voir à quel moment les métadonnées ont été actualisées pour la dernière fois en survolant à l'aide du curseur.

2. Préparez la tâche de données de sorte à appliquer les modifications.

   Une fois la tâche de données préparée et les modifications appliquées, les modifications sont supprimées de Actualiser les métadonnées.

Pour pouvoir propager les modifications, vous devez préparer des tâches de stockage qui consomment cette tâche.

Si une colonne est retirée, une transformation avec des valeurs Null est ajoutée pour garantir que le stockage ne perdra pas de données historiques.

Limitations de l'actualisation des métadonnées

• Un renommage avec une colonne abandonnée avant cela, dans le même laps de temps, sera traduit en renommage de la colonne abandonnée si elles ont le même type de données et la même longueur de données.

   

  Avant : a b c d

  Après : a c1 d

  Dans cet exemple, la colonne b a été abandonnée et la colonne c a été renommée c1, et b et c ont le même type de données et la même longueur de données.

  Cela sera identifié comme le renommage de la colonne b en c1 et un abandon de la colonne c.

• Le renommage de la dernière colonne n'est pas reconnu, même si la dernière colonne a été abandonnée et celle d'avant a été renommée.

   

  Avant : a b c d

  Après : a b c1

  Dans cet exemple, la colonne d a été abandonnée et la colonne c a été renommée c1.

  Cela sera identifié comme un abandon de la colonne c et de la colonne d et un ajout de la colonne c1.

• Les nouvelles colonnes sont supposées être ajoutées à la fin. Si les colonnes sont ajoutées au milieu avec le même type de données que celui de la colonne suivante, elles peuvent être interprétées comme un abandon et un renommage.

Évolution du schéma

L'évolution du schéma vous permet de détecter facilement les modifications structurelles apportées à différentes sources de données, puis de contrôler la manière dont ces modifications seront appliquées à votre tâche. L'évolution du schéma peut être utilisée pour détecter les modifications des DDL qui ont été apportées au schéma des données sources. Vous pouvez également appliquer certaines modifications automatiquement.

Pour chaque type de modification, vous pouvez sélectionner le mode de traitement des modifications dans la section Évolution du schéma des paramètres de tâche. Vous pouvez appliquer la modification, l'ignorer, suspendre la table ou arrêter le traitement de la tâche.

Vous pouvez définir l'action à utiliser pour traiter la modification de DDL pour chaque type de modification. Certaines actions ne sont pas disponibles pour tous les types de modification.

• Appliquer à la cible

  Appliquez les modifications automatiquement.

• Ignoré

  Ignorez les modifications.

• Suspendre la table

  Suspendez la table. La table sera affichée comme en état d'erreur dans Surveiller.

• Arrêter la tâche

  Arrêtez le traitement de la tâche. Cela s'avère utile si vous souhaitez traiter manuellement toutes les modifications du schéma. Cela entraînera également l'arrêt de la planification, à savoir, les exécutions planifiées ne seront pas effectuées.

Les modifications suivantes sont supportées :

• Ajouter une colonne

• Renommer la colonne

• Modifier le type de données de la colonne

• Ajouter une table correspondant au modèle de sélection
  

  Si vous avez utilisé une Règle de sélection pour ajouter des jeux de données correspondant à un pattern, les nouvelles tables répondant au pattern seront détectées et ajoutées.

Pour plus d'informations sur les paramètres de tâche, consultez Évolution du schéma.

Vous pouvez également recevoir des notifications sur les modifications gérées par l'évolution du schéma. Pour plus d'informations, consultez Définition de notifications en cas de modifications du fonctionnement.

Limitations de l'évolution du schéma

Les limitations suivantes s'appliquent à l'évolution du schéma :

• L'évolution du schéma est supportée uniquement si vous utilisez l'opération CDC comme méthode de mise à jour.

• Si vous avez modifié les paramètres d'évolution du schéma, vous devez préparer de nouveau la tâche.

• Si vous renommez des tables, l'évolution du schéma n'est pas supportée. Dans ce cas, vous devez actualiser les métadonnées avant de préparer la tâche.

• Si vous concevez une tâche, vous devez actualiser le navigateur pour recevoir les modifications de l'évolution du schéma. Vous pouvez définir des notifications pour être alerté des modifications.

• Dans les tâches de dépôt temporaire, l'abandon d'une colonne n'est pas supporté. Si vous abandonnez une colonne et que vous l'ajoutez, cela entraînera une erreur de table.

• Dans les tâches de dépôt temporaire, une opération d'abandon de table n'entraîne pas l'abandon de la table. Le fait d'abandonner une table, puis d'ajouter une table, ne fera que tronquer l'ancienne table, et il ne sera pas ajouté de nouvelle table.

• La modification de la longueur d'une colonne n'est pas possible pour toutes les cibles suivant le support dans la base de données cible.

• Si le nom d'une colonne est modifié, les transformations explicites définies à l'aide de cette colonne ne seront pas prises en compte, car elles sont basées sur le nom de la colonne.

• Les limitations liées à l'actualisation des métadonnées s'appliquent également à l'évolution du schéma.

Lors de la capture des modifications apportées aux DDL, les limitations suivantes s'appliquent :

• Lorsqu'une séquence rapide d'opérations se produit dans la base de données source (par exemple, DDL>DML>DDL), Qlik Talend Data Integration peut analyser le journal dans le mauvais ordre, ce qui entraîne des données manquantes ou un comportement imprévisible. Pour minimiser ce risque, le mieux est d'attendre que les modifications soient appliquées à la cible avant d'effectuer l'opération suivante.

  Par exemple, lors de la capture des modifications, si une table source est renommée à plusieurs reprises proches l'une de l'autre (et si la deuxième opération réattribue à la table son nom d'origine), il risque de se produire une erreur indiquant que la table existe déjà dans la base de données cible.

• Si vous modifiez le nom d'une table utilisée dans une tâche et que vous arrêtez ensuite la tâche, Qlik Talend Data Integration ne capturera pas les modifications apportées à cette table après la reprise de la tâche.

• Il n'est pas possible de renommer une table source lorsqu'une tâche est arrêtée.

• La réaffectation des colonnes de clé primaire d'une table n'est pas supportée (et ne sera donc pas écrite dans la table de contrôle de l'historique DDL).
• Lorsque le type de données d'une colonne est modifié et que la (même) colonne est ensuite renommée alors que la tâche est arrêtée, la modification de la DDL apparaîtra dans la table de contrôle Historique DDL sous la forme « Supprimer la colonne, puis « Ajouter une colonne » lors de la reprise de la tâche. Notez que le même comportement peut également se produire en raison d'une latence prolongée.
• Les opérations CREATE TABLE effectuées sur la source alors qu'une tâche est arrêtée seront appliquées à la cible lorsque la tâche reprendra, mais ne seront pas enregistrées sous forme de DDL dans la table de contrôle Historique DDL.

• Les opérations associées aux modifications des métadonnées (telles que ALTER TABLE (modifier la table), reorg (réorganiser), la reconstruction d'un index en cluster, etc.) peuvent entraîner un comportement imprévisible si elles sont effectuées :

  • Lors d'une opération Chargement complet

    -OU-

  • Entre l'horodatage Démarrer le traitement des modifications depuis et l'heure actuelle (c'est-à-dire le moment où l'utilisateur clique sur OK dans la boîte de dialogue Options d'exécution avancées).

    Exemple :

    SI :

    L'heure spécifiée pour Démarrer le traitement des modifications depuis est 10h00

    ET :

    Une colonne nommée Âge a été ajoutée à la table Employés à 10h10

    ET :

    L'utilisateur clique sur OK dans la boîte de dialogue Options d'exécution avancées à 10h15

    ALORS :

    Les modifications qui se sont produites entre 10h00 et 10h10 peuvent entraîner des erreurs d'opération CDC.

  Note Informations

  Dans l'un des cas ci-dessus, la ou les tables concernées doivent être actualisées pour que les données puissent être correctement envoyées (déplacé) à la cible.

• L'instruction DDL ALTER TABLE ADD/MODIFY <column> <data_type> DEFAULT <> ne réplique pas la valeur par défaut sur la cible et la colonne nouvelle/modifiée est définie sur NULL. Notez que cela peut se produire même si la DDL qui a ajouté/modifié la colonne a été exécutée dans le passé. Si la colonne nouvelle/modifiée est nullable, le point de terminaison source met à jour toutes les lignes de la table avant d'enregistrer la DDL à proprement parler. Par conséquent, Qlik Talend Data Integration capture les modifications, mais ne met pas la cible à jour. Comme la colonne nouvelle/modifiée est définie sur NULL, si la table cible n'a pas de clé primaire/d'index unique, les mises à jour ultérieures généreront un message « zéro ligne affectée ».

• Les modifications apportées aux colonnes de précision TIMESTAMP et DATE ne seront pas capturées.

Limitations et considérations générales lors du dépôt temporaire de données dans un lac de données

Les transformations sont soumises aux limitations suivantes :

• Les transformations ne sont pas supportées pour les colonnes dont les langues s'écrivent de droite à gauche.

• Aucune transformation ne peut être effectuée sur des colonnes dont le nom contient des caractères spéciaux (par ex. #, \, /, -).

• La seule transformation supportée pour les types de données LOB/CLOB est le dépôt de la colonne sur la cible.
• L'utilisation d'une transformation pour renommer une colonne, puis l'ajout d'une nouvelle colonne portant le même nom ne sont pas supportés.

La modification de la nullabilité n'est pas supportée sur les colonnes déplacées, soit en la modifiant directement, soit en utilisant une règle de transformation. En revanche, les nouvelles colonnes créées dans la tâche sont nullables par défaut.