Propriétés du tDeltaLakeInput Standard
Ces propriétés sont utilisées pour configurer le tDeltaLakeInput s'exécutant dans le framework de Jobs Standard.
Le composant tDeltaLakeInput Standard appartient à la famille Bases de données.
Le composant de ce framework est disponible dans tous les produits Talend nécessitant une souscription.
Si vous avez installé la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une mise à jour plus récente fournie par Talend, ce composant génère des messages d'erreur à cause des conflits entre Log4j2 et le pilote Delta Lake. Vous pouvez éviter ce type d'erreur en ajoutant EnableArrow=0 dans le champ JDBC URL.
Basic settings
Base de données |
Sélectionnez le type de base de données dans la liste et cliquez sur Apply (Appliquer). |
Property Type |
Sélectionnez la manière de configurer les informations de connexion.
Cette propriété n'est pas disponible lorsqu'un autre composant de connexion est sélectionné dans la liste Connection Component. |
|
Cliquez sur cette icône pour ouvrir l'assistant de connexion à la base de données et stocker les paramètres de connexion configurés dans la vue Basic settings du composant. Pour plus d'informations concernant la configuration et le stockage des paramètres de connexion à la base de données, consultez Centraliser des métadonnées de base de données. |
Connection Component |
Sélectionnez le composant établissant la connexion à la base de données à réutiliser par ce composant. |
JDBC URL |
URL JDBC de la base de données Delta Lake à utiliser, qui commence par jdbc:spark:// (déjà presentée). Si vous avez installé la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend, l'URL JDBC de la base de données Delta Lake commence par jdbc:databricks// (déjà présenté). Consultez la section Configure JDBC URL sur JDBC and ODBC drivers and configuration parameters pour des informations compélmentaires (en anglais). Note InformationsRemarque : Il n'y a pas d'opération de migration pour les composants Delta Lake lorsque la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend est installée. Dans ce cas, vous devez mettre à jour manuellement l'URL JDBC et d'autres paramètres associés pour les Jobs existants, pour vous assurer que l'URL JDBC commence bien par jdbc:databricks//.
|
Pilotes |
Renseignez cette table pour charger les pilotes Jar requis. Pour ce faire, cliquez sur le bouton [+], sous la table, pour ajouter autant de lignes que nécessaire, chaque ligne pour un Jar de pilote. Sélectionnez la cellule et cliquez sur le bouton [...] à droite de la cellule pour ouvrir la boîte de dialogue Module, dans laquelle vous pouvez sélectionner le Jar du pilote à utiliser. Le JAR du pilote SparkJDBC42-2.6.14.1018.jar est utilisé pour les bases de données Delta Lake (déjà présenté). Si vous avez installé la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend, le pilote databricks-jdbc-{version_number}.jar est utilisé (déjà présenté). Pour plus d'informations, consultez Importer un pilote de base de données. Note InformationsRemarque : Il n'y a pas d'opération de migration pour les composants Delta Lake lorsque la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend est installée. Dans ce cas, vous devez mettre à jour manuellement le pilote et d'autres paramètres associés pour les Jobs existants, pour vous assurer que le pilote databricks-jdbc-{version_number}.jar est utilisé.
|
Driver Class |
Saisissez entre guillemets doubles le nom de la classe pour le pilote spécifié. Pour le pilote SparkJDBC42-2.6.14.1018.jar, le nom à saisir est com.simba.spark.jdbc.Driver (déjà présenté). Si vous avez installé la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend, le pilote databricks-jdbc-{version_number}.jar est utilisé et la classe du pilote à saisir est com.databricks.client.jdbc.Driver (déjà présenté). Note InformationsRemarque : Il n'y a pas d'opération de migration pour les composants Delta Lake lorsque la mise à jour mensuelle 8.0.1-R2023-05 du Studio Talend ou une plus récente fournie par Talend est installée. Dans ce cas, vous devez mettre à jour manuellement la classe du pilote et d'autres paramètres associés pour les Jobs existants, pour vous assurer que la classe du pilote com.databricks.client.jdbc.Driver est utilisée.
|
User Id et Password |
Données d'authentification de l'utilisateur ou de l'utilisatrice de la base de données. Consultez la section Username and password authentication sur JDBC and ODBC drivers and configuration parameters pour plus d'informations (en anglais). Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres. |
Schema et Edit schema |
Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.
Créez le schéma en cliquant sur le bouton Edit Schema. Si vous effectuez des modifications, le schéma passe automatiquement en type built-in.
Ce composant offre la fonction de schéma dynamique. Cela vous permet de récupérer des colonnes inconnues de fichiers sources ou de copier des lots de colonnes d'une source sans avoir à mapper chaque colonne individuellement. Pour plus d'informations concernant les schémas dynamiques, consultez Schéma dynamique. Cette fonctionnalité de schéma dynamique est conçue pour permettre de récupérer des colonnes inconnues d'une table. Il est recommandé de l'utiliser uniquement à cet effet et non pour créer des tables. |
Table Name |
Nom de la table de laquelle récupérer les données. |
Query Type et Query |
Saisissez votre requête de base de données en faisant attention à ce que l'ordre des champs corresponde à celui défini dans le schéma.
Si vous utilisez la fonctionnalité de schéma dynamique, la requête SELECT doit contenir le caractère * de remplacement, afin de récupérer toutes les colonnes de la table sélectionnée. |
Guess Query |
Cliquez sur ce bouton pour générer la requête dans le champ Query à partir de la table et du schéma définis. |
Guess schema |
Cliquez sur ce bouton pour générer les colonnes du schéma à partir de la requête définie dans le champ Query. |
Specify a data source alias |
Cochez cette case et, dans le champ Data source alias qui s'affiche, spécifiez l'alias d'une source de données créée du côté Talend Runtime, pour utiliser le pool de connexions partagées défini dans la configuration de la source de données. Cette option fonctionne uniquement lorsque vous déployez et exécutez votre Job dans Talend Runtime. Cette propriété n'est pas disponible lorsqu'un autre composant de connexion est sélectionné dans la liste Connection Component. |
Advanced settings
Use cursor |
Cochez cette case et définissez le nombre de lignes avec lesquelles vous souhaitez travailler en une fois. Cette option permet d'optimiser les performances. |
Trim all the String/Char columns |
Cochez cette case pour supprimer les espaces en début et en fin de champ dans toutes les colonnes de type String/Char. |
Check column to trim |
Cochez cette case pour la colonne dont vous souhaitez supprimer les espaces en début et fin de champ. Cette propriété n'est pas disponible lorsque la case Trim all the String/Char columns est cochée. |
Enable Mapping File for Dynamic |
Cochez cette case pour utiliser le fichier de mapping de métadonnées spécifié lors de la lecture de données d'une colonne de type dynamique. Cette case est cochée par défaut. Une fois cette case cochée, vous pouvez spécifier le fichier de mapping des métadonnées à utiliser, en sélectionnant un type de base de données dans la liste déroulante Mapping File. Pour plus d'informations concernant les fichiers de mapping de métadonnées, consultez Accéder aux fichiers de mapping et définir les mappings de types. |
Use PreparedStatement |
Cochez cette case si vous souhaitez interroger la base de données à l'aide d'une instruction préparée. Dans la table Set PreparedStatement Parameters qui s'affiche, spécifiez la valeur pour chaque paramètre représenté par un point d'interrogation ?, dans l'instruction SQL définie dans le champ Query.
Pour un cas d'usage de cette propriété, consultez Utiliser l'instance PreparedStatement pour faire une requête sur des données. |
Allow special character in Dynamic table name |
Sélectionnez cette option pour utiliser les noms de colonnes réels de la table d'entrée dans la colonne dynamique. Cette option empêche la conversion des caractères spéciaux (par exemple, $) des noms de colonnes de la table d'entrée en _ dans la colonne dynamique. Cette option est cochée par défaut. |
tStatCatcher Statistics |
Cochez cette case pour collecter les métadonnées de traitement du Job, aussi bien au niveau du Job qu'au niveau de chaque composant. |
Variables globales
ERROR_MESSAGE |
Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. |
NB_LINE |
Nombre de lignes traitées. Cette variable est une variable After et retourne un entier. |
QUERY |
Instruction de requête en cours de traitement. Cette variable est une variable Flow et retourne une chaîne de caractères. |
Utilisation
Règle d'utilisation |
Ce composant couvre toutes les possibilités de requête SQL dans les bases de données utilisant une connexion Delta Lake. |
Dynamic settings |
Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend. Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Paramètres dynamiques et les variables de contexte, consultez Schéma dynamique et Créer un groupe de contextes et définir les variables de contexte. |