Dépôt temporaire de données dans un lac de données avec un abonnement Standard, Premium ou Enterprise

Vous pouvez configurer une tâche Déposer temporairement les données dans un lac de données pour déposer temporairement des données dans les cibles suivantes :

• Amazon S3

  Pour savoir comment configurer une connexion à Amazon S3, voir Amazon S3.

• Azure Data Lake Storage

  Pour savoir comment configurer une connexion à Azure Data Lake Storage, voir Azure Data Lake Storage.

• Google Cloud Storage

  Pour savoir comment configurer une connexion à Google Cloud Storage, voir Google Cloud Storage.

Pour des informations sur la configuration de connexions à vos sources de données, voir Configuration des connexions aux sources de données.

Pour configurer une tâche de dépôt temporaire de lac de données :

1. Dans Intégration des données > Projets, cliquez sur Créer un projet.

2. Dans la boîte de dialogue Nouveau projet, procédez comme suit :

   1. Donnez un Nom à votre projet.

   2. Sélectionnez l'Espace dans lequel vous souhaitez créer le projet.
   3. Vous pouvez éventuellement saisir une Description.
   4. Sélectionnez Réplication comme Cas d'utilisation.
   5. Vous pouvez décocher la case Ouvrir si vous souhaitez créer un projet vide sans configurer aucun paramètre.

   6. Cliquez sur Créer.

      Il se produit une des choses suivantes :

      • Si la case Ouvrir de la boîte de dialogue Nouveau projet était cochée (par défaut), le projet s'ouvre.
      • Si vous avez décochez la case Ouvrir de la boîte de dialogue Nouveau projet, le projet est ajouté à votre liste de projets. Vous pourrez ouvrir le projet ultérieurement en sélectionnant Ouvrir dans le menu du projet.

3. Une fois le projet ouvert, cliquez sur Déposer temporairement les données dans un lac de données.

   L'assistant Déposer temporairement les données dans un lac de données s'ouvre.

4. Dans l'onglet Général, spécifiez un nom et une description pour la tâche de dépôt temporaire de lac de données. Cliquez ensuite sur Suivant.

   Note InformationsLes noms contenant une barre oblique (/) ou une barre oblique inversée (\) ne sont pas supportés.

5. Dans l'onglet Sélectionner une connexion source, sélectionnez une connexion aux données sources. Vous pouvez éventuellement modifier les paramètres de connexion en sélectionnant Modifier dans le menu dans la colonne Actions.

   Si vous n'avez pas encore de connexion aux données sources, vous devez commencer par en créer une en cliquant sur Créer une connexion dans le coin supérieur droit de l'onglet.

   Vous pouvez filtrer la liste de connexions via les filtres à gauche. Il est possible de filtrer les connexions en fonction du type de source, de la passerelle, de l'espace et du propriétaire. Le bouton Tous les filtres au-dessus de la liste de connexions affiche le nombre de filtres en cours. Vous pouvez utiliser ce bouton pour fermer ou ouvrir le panneau Filtres à gauche. Les filtres actuellement actifs sont également indiqués au-dessus de la liste de connexions disponibles.

   Vous pouvez également trier la liste en sélectionnant Dernière modification, Dernière création ou Alphabétiquedans la liste déroulante à droite. Cliquez sur la flèche à droite de la liste pour modifier l'ordre de tri.

   Une fois que vous avez sélectionnez une connexion de source de données, vous pouvez cliquer sur Tester la connexion dans le coin supérieur droit de l'onglet (recommandé), puis cliquez sur Suivant.

6. Dans l'onglet Sélectionner des jeux de données, sélectionnez des tables et/ou des vues à inclure dans la tâche de dépôt temporaire de lac de données. Vous pouvez également utiliser des caractères génériques et créer des règles de sélection, comme décrit à la section Sélection de données à partir d'une base de données.

   Note InformationsLes noms de schéma ou les noms de table contenant une barre oblique (/) ou une barre oblique inversée (\) ne sont pas supportés.

7. Dans l'onglet Sélectionner une connexion cible, sélectionnez une cible dans la liste de connexions disponibles, puis cliquez sur Suivant. En termes de fonctionnalités, l'onglet est identique à l'onglet Sélectionner une connexion source décrit précédemment.

8. Dans l'onglet Paramètres, vous pouvez modifier les paramètres suivants, puis cliquez sur Suivant.

   Méthode de mise à jour :

   • Change Data Capture (CDC) : Les tâches de dépôt temporaire dans un lac de données démarrent avec un chargement complet (au cours duquel toutes les tables sélectionnées sont temporairement déposées). Les données temporairement déposées sont ensuite maintenues à jour via la technologie CDC (Change Data Capture).

     Note InformationsL'opération CDC (Change Data Capture) des opérations DDL n'est pas prise en charge.

     Lors de l'utilisation de Data Movement gateway, les modifications sont capturées auprès de la source quasiment en temps réel. Si vous travaillez sans Data Movement gateway, les modifications sont capturées en fonction des paramètres du planificateur. Pour plus d'informations, consultez Planification de tâches sans utiliser Data Movement gateway.

   • Charger : effectue un chargement complet des données des tables sources sélectionnées dans la plate-forme cible et crée les tables cibles, si nécessaire. Le chargement complet s'effectue automatiquement lorsque la tâche démarre, mais il peut également être effectué manuellement ou planifié de sorte à se produire périodiquement, si nécessaire.

   Si vous sélectionnez Change Data Capture (CDC) et si vos données contiennent également des tables qui ne prennent pas en charge CDC, ou des vues, deux pipelines de données seront créés. Un pipeline avec l'ensemble des tables prenant en charge CDC, et un autre pipeline avec l'ensemble des autres tables et vues utilisant Charger.

   Dossier à utiliser :

   Sélectionnez une des options suivantes, suivant le dossier de compartiment dans lequel vous souhaitez écrire les fichiers :

   • Dossier par défaut : Le format de dossier par défaut est <votre-nom-de-projet>/<votre-nom-de-tâche>.
   • Dossier racine : Les fichiers seront directement écrits dans le compartiment.

   • Dossier : Saisissez le nom de dossier. Le dossier sera créé lors de la tâche de dépôt temporaire de lac de données, s'il n'existe pas.

     Note Informations Le nom de dossier ne peut pas contenir de caractères spéciaux (par exemple, @, #, !, etc.).

9. L'onglet Récapitulatif affiche visuellement le pipeline de données. Décidez si vous souhaitez Ouvrir la tâche <nom> ou Ne rien faire. Cliquez ensuite sur Créer.

   Suivant votre sélection, la tâche s'ouvre ou une liste de projets apparaît.

10. Si vous avez décidé d'ouvrir la tâche, l'onglet Jeux de données indique la structure et les métadonnées des tables de jeux de données sélectionnées. Sont concernées toutes les tables répertoriées de manière explicite ainsi que les tables correspondant aux règles de sélection.

    Si vous souhaitez ajouter d'autres tables provenant de la source de données, cliquez sur Sélectionner des données sources.

11. Vous pouvez éventuellement modifier les paramètres de tâche comme décrit à la section Paramètres des cibles de stockage cloud.

12. Vous pouvez effectuer des transformations sur les jeux de données, filtrer des données ou ajouter des colonnes.

    Pour plus d'informations, consultez Gestion des jeux de données.

13. Lorsque vous avez ajouté les transformations souhaitées, vous pouvez valider les jeux de données en cliquant sur Valider les jeux de données. Si la validation échoue, corrigez les erreurs avant de poursuivre.

    Pour plus d'informations, consultez Validation et ajustement des jeux de données.

14. Lorsque vous êtes prêt, cliquez sur Préparer pour cataloguer la tâche de dépôt temporaire et la préparer pour l'exécution.

15. Lorsque la tâche de données a été préparée, cliquez sur Exécuter.

16. La tâche de dépôt temporaire de lac de données devrait maintenant démarrer. Vous pouvez surveiller sa progression dans la vue Surveiller. Pour plus d'informations, consultez Surveillance d'une tâche de données individuelle

Définition de la priorité de chargement des ensembles de données

Vous pouvez contrôler l'ordre de chargement des ensembles de données de votre tâche de données en attribuant une priorité de chargement à chaque ensemble de données. Cela peut être utile, par exemple, si vous souhaitez charger les ensembles de données plus petits avant les grands.

1. Cliquez sur Priorité de chargement.

2. Sélectionnez une priorité de chargement pour chaque ensemble de données.

   La priorité de chargement par défaut est Normale. Les ensembles de données seront chargés dans l'ordre de priorité suivant :

   • La plus élevée

   • Plus élevée

   • Élevée

   • Normale

   • Faible

   • Plus faible

   • La plus faible

   Les ensembles de données ayant la même priorité ne sont pas chargés dans un ordre particulier.

3. Cliquez sur OK.

Actualisation des métadonnées

Vous pouvez actualiser les métadonnées de la tâche pour les aligner sur les modifications apportées aux métadonnées de la source dans la vue Conception d'une tâche. Pour les applications SaaS qui utilisent Metadata manager, il convient d'actualiser Metadata manager avant de pouvoir actualiser les métadonnées de la tâche de données.

1. Vous pouvez effectuer l'une des opérations suivantes :

   • Cliquez sur ..., puis sur Actualiser les métadonnées pour actualiser les métadonnées de la totalité des jeux de données de la tâche.

   • Cliquez sur ... sur un jeu de données dans Jeux de données, puis sur Actualiser les métadonnées pour actualiser les métadonnées d'un seul jeu de données.

   Vous pouvez afficher le statut de l'actualisation des métadonnées sous Actualiser les métadonnées dans la partie inférieure de l'écran. Vous pouvez voir à quel moment les métadonnées ont été actualisées pour la dernière fois en survolant à l'aide du curseur.

2. Préparez la tâche de données de sorte à appliquer les modifications.

   Une fois la tâche de données préparée et les modifications appliquées, les modifications sont supprimées de Actualiser les métadonnées.

Pour pouvoir propager les modifications, vous devez préparer des tâches de stockage qui consomment cette tâche.

Si une colonne est retirée, une transformation avec des valeurs Null est ajoutée pour garantir que le stockage ne perdra pas de données historiques.

Limitations

• Un renommage avec une colonne abandonnée avant cela, dans le même laps de temps, sera traduit en renommage de la colonne abandonnée si elles ont le même type de données et la même longueur de données.

   

  Avant : a b c d

  Après : a c1 d

  Dans cet exemple, la colonne b a été abandonnée et la colonne c a été renommée c1, et b et c ont le même type de données et la même longueur de données.

  Cela sera identifié comme le renommage de la colonne b en c1 et un abandon de la colonne c.

• Le renommage de la dernière colonne n'est pas reconnu, même si la dernière colonne a été abandonnée et celle d'avant a été renommée.

   

  Avant : a b c d

  Après : a b c1

  Dans cet exemple, la colonne d a été abandonnée et la colonne c a été renommée c1.

  Cela sera identifié comme un abandon de la colonne c et de la colonne d et un ajout de la colonne c1.

• Les nouvelles colonnes sont supposées être ajoutées à la fin. Si les colonnes sont ajoutées au milieu avec le même type de données que celui de la colonne suivante, elles peuvent être interprétées comme un abandon et un renommage.

Limitations et considérations générales lors du dépôt temporaire de données dans un lac de données

Les transformations sont soumises aux limitations suivantes :

• Les transformations ne sont pas supportées pour les colonnes dont les langues s'écrivent de droite à gauche.

• Aucune transformation ne peut être effectuée sur des colonnes dont le nom contient des caractères spéciaux (par ex. #, \, /, -).

• La seule transformation supportée pour les types de données LOB/CLOB est le dépôt de la colonne sur la cible.
• L'utilisation d'une transformation pour renommer une colonne, puis l'ajout d'une nouvelle colonne portant le même nom ne sont pas supportés.

La modification de la nullabilité n'est pas supportée sur les colonnes déplacées, soit en la modifiant directement, soit en utilisant une règle de transformation. En revanche, les nouvelles colonnes créées dans la tâche sont nullables par défaut.