Propriétés du tHiveCreateTable Standard
Ces propriétés sont utilisées pour configurer le tHiveCreateTable s'exécutant dans le framework de Jobs Standard.
Le composant tHiveCreateTable Standard appartient aux familles Big Data et Bases de données.
Le composant de ce framework est disponible dans tous les produits Talend avec Big Data et dans Talend Data Fabric.
Basic settings
-
Lorsque vous utilisez ce composant avec Google Dataproc :
Project ID
Saisissez l'ID de votre projet Google Cloud Platform.
Si vous n'êtes pas certain de l'ID de votre projet, vérifiez dans la page Manage Resources de vos services Google Cloud Platform.
Cluster ID
Saisissez l'ID de votre cluster Dataproc à utiliser.
Region Dans cette liste déroulante, sélectionnez la région Google Cloud à utiliser.
Google Storage staging bucket Comme un Job Talend nécessite ses fichiers .jar dépendants pour être exécuté, spécifiez le répertoire Google Storage dans lequel ces fichiers .jar sont transférés afin que votre Job accède à ces fichiers lors de l'exécution.
Le répertoire à saisir doit se terminer par une barre oblique (/). Si le répertoire n'existe pas, un répertoire est créé à la volée mais le bucket à utiliser doit déjà exister.
Database
Saisissez dans ce champ le nom de la base de données.
Provide Google Credentials in file
Lorsque vous lancez votre Job à partir d'une machine donnée sur laquelle Google Cloud SDK a été installé et vous a autorisé à utiliser vos identifiants de compte utilisateur·rice pour accéder à Google Cloud Platform, ne cochez pas cette case. Dans cette situation, cette machine est souvent votre machine locale.
Lorsque vous lancez votre Job à partir d'une machine distante, comme un Talend JobServer, cochez cette case et dans le champ Path to Google Credentials file qui s'affiche, saisissez le répertoire dans lequel ce fichier JSON est stocké dans la machine du Talend JobServer. Vous pouvez également cliquer sur le bouton [...] puis, dans la boîte de dialogue qui s'ouvre, parcourir le fichier JSON.
Pour plus d'informations concernant le fichier Google Credentials, contactez l'administrateur·trice de votre Google Cloud Platform ou consultez Google Cloud Platform Auth Guide.
-
Lorsque vous utilisez ce composant avec la distribution Microsoft HDInsight :
Livy configuration
Saisissez l'adresse et les informations d'authentification du cluster Microsoft HDInsight à utiliser. Par exemple, l'adresse peut être https://your_hdinsight_cluster_name.azurehdinsight.net et les informations d'authentification peuvent être votre nom de compte Azure : yourname. Le Studio Talend utilise ce service pour soumettre le Job au cluster HDInsight.
Dans le champ Job result folder, saisissez l'emplacement où vous souhaitez stocker les résultats d'exécution du Job dans Azure Storage.
Job status polling configuration
Dans le champ Poll interval when retrieving Job status (in ms), saisissez l'intervalle de temps (en millisecondes) à l'issue duquel vous souhaitez que le Studio Talend interroge Spark au sujet du statut du Job. Par exemple, ce statut peut être Pending (en attente) ou Running (en cours d'exécution).
Dans le champ Maximum number of consecutive statuses missing, saisissez le nombre maximal de tentatives du Studio Talend pour obtenir un statut lorsqu'il n'y a pas de réponse.
HDInsight configuration
- L'identifiant Username est celui défini lors de la création de votre cluster. Vous pouvez le trouver dans le panneau SSH + Cluster login, dans votre cluster.
- Le mot de passe Password est défini lors de la création de votre cluster HDInsight pour authentification dans ce cluster.
Windows Azure Storage configuration
Saisissez l'adresse et les informations d'authentification du compte Azure Storage ou ADLS Gen2 à utiliser. Dans cette configuration, vous ne définissez pas l'emplacement où lire ou écrire vos données métier, seulement où déployer votre Job.
Dans le champ Container, saisissez le nom du conteneur à utiliser. Vous pouvez trouver les conteneurs disponibles dans le panneau Blob, dans le compte Azure Storage à utiliser.
Dans le champ Deployment Blob, saisissez l'emplacement où vous souhaitez stocker le Job et ses bibliothèques dépendantes dans le compte Azure Storage.
Dans le champ Hostname, saisissez l'endpoint du service du Blob primaire de votre compte Azure Storage, sans la partie https://. Vous pouvez trouver cet endpoint dans le panneau Properties de ce compte de stockage.
Dans le champ Username, saisissez le nom du compte Azure Storage à utiliser.
Dans le champ Password, saisissez la clé d'accès du compte Azure Storage à utiliser. Cette clé se trouve dans le panneau Access keys de ce compte de stockage.
Database
Saisissez dans ce champ le nom de la base de données.
-
Lorsque vous utilisez d'autres distributions :
Connection mode
Sélectionnez un mode de connexion dans la liste. Les options varient en fonction de la distribution que vous utilisez.
Version de Hive
Sélectionnez la version de Hive que vous utilisez.
Host
Adresse IP du serveur de base de données.
Port
Numéro du port d'écoute du serveur de base de données.
Database
Saisissez dans ce champ le nom de la base de données.
Username et Password
Informations d'authentification de l'utilisateur ou de l'utilisatrice de base de données.
Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.
Use kerberos authentication
Si vous accédez au Metastore de Hive avec une sécurité Kerberos, cochez cette case et saisissez ensuite les paramètres appropriés dans les champs qui s'affichent.
Les valeurs des paramètres suivants peuvent être trouvées dans le fichier hive-site.xml du système Hive utilisé.-
Hive principal utilise la valeur de hive.metastore.kerberos.principal. C'est le principal du service du Metastore de Hive.
-
HiveServer2 local user principal utilise la valeur de hive.server2.authentication.kerberos.principal.
-
HiveServer2 local user keytab utilise la valeur de hive.server2.authentication.kerberos.keytab
-
Metastore URL utilise la valeur de javax.jdo.option.ConnectionURL. C'est la chaîne JDBC de connexion au Metastore de Hive.
-
Driver class utilise la valeur de javax.jdo.option.ConnectionDriverName. C'est le nom du pilote de la connexion JDBC.
-
Username utilise la valeur de javax.jdo.option.ConnectionUserName. Ce paramètre, ainsi que le paramètre Password, sont utilisés pour les informations de connexion de l'utilisateur ou de l'utilisatrice au Metastore de Hive.
-
Password utilise la valeur de javax.jdo.option.ConnectionPassword.
Cette case est disponible ou non selon la distribution Hadoop à laquelle vous vous connectez.
Use a keytab to authenticate Cochez la case Use a keytab to authenticate pour vous connecter à un système utilisant Kerberos à l'aide d'un fichier keytab. Un fichier Keytab contient les paires des Principaux et clés cryptées Kerberos. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab. Ce fichier keytab doit être stocké sur la machine où s'exécute votre Job, par exemple, sur un Talend JobServer.
l'utilisateur ou l'utilisatrice exécutant un Job utilisant un fichier Keytab n'est pas nécessairement celui désigné par un Principal mais doit avoir le droit de lire le fichier Keytab utilisé. Par exemple, le nom d'utilisateur ou d'utilisatrice que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier Keytab à utiliser.
Use SSL encryption
Cochez cette case pour activer la connexion chiffrée SSL ou TLS.
Les champs qui s'affichent ensuite fournissent les informations d'authentification :-
Dans le champ Trust store path, saisissez le chemin ou parcourez votre système jusqu'au fichier TrustStore à utiliser. Par défaut, les types TrustStore supportés sont JKS et PKCS 12.
-
Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.
Cette fonctionnalité n'est disponible que pour HiveServer2 en mode Standalone pour les distributions suivantes :-
Hortonworks Data Platform 2.0 +
-
Cloudera CDH4 +
-
Pivotal HD 2.0 +
-
Amazon EMR 4.0.0 +
Set Resource Manager
Cochez cette case et, dans le champ qui s'affiche, saisissez l'emplacement du ResourceManager de votre distribution. Par exemple tal-qa114.talend.lan:8050.
Vous pouvez continuer à configurer les paramètres suivants selon la configuration du cluster Hadoop à utiliser (si vous ne cochez pas la case d'un paramètre, alors la configuration de ce paramètre dans le cluster Hadoop à utiliser sera ignorée lors de l'exécution) :-
Cochez la case Set resourcemanager scheduler address et saisissez l'adresse de l'ordonnanceur (Scheduler) dans le champ qui apparaît.
-
Cochez la case Set jobhistory address et saisissez l'emplacement du serveur JobHistory du cluster Hadoop à utiliser. Cela permet de stocker les informations relatives aux métriques du Job courant sur le serveur JobHistory.
-
Cochez la case Set staging directory et saisissez le chemin d'accès au répertoire défini dans votre cluster Hadoop pour les fichiers temporaires créés par l'exécution de programmes. Ce répertoire se trouve sous la propriété yarn.app.mapreduce.am.staging-dir dans les fichiers de configuration comme yarn-site.xml ou mapred-site.xml de votre distribution.
-
Allouez des volumes de mémoire aux calculs Map et Reduce et au service ApplicationMaster de YARN en cochant la case Set memory dans la vue Advanced settings.
-
Cochez la case Set Hadoop user et saisissez le nom de l'utilisateur ou de l'utilisatrice avec lequel vous souhaitez exécuter le Job. Puisque les fichiers et répertoires dans Hadoop ont un auteur spécifique avec les droits appropriés de lecture ou d'écriture, ce champ vous permet d'exécuter le Job directement avec l'utilisateur ou l'utilisatrice ayant les droits d'accès appropriés au fichier ou répertoire à traiter.
-
Cochez la case Use datanode hostname pour permettre au Job d'accéder aux nœuds de données via leurs hébergeurs. Cela permet de configurer la propriété dfs.client.use.datanode.hostname à true. Lorsque vous vous connectez à un système de fichiers S3N, vous devez cocher cette case.
Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop (en anglais).
Set NameNode URI
Cochez cette case et, dans le champ qui s'affiche, saisissez l'URI du NameNode Hadoop, le nœud maître d'un système Hadoop. Par exemple, si vous avez choisi une machine nommée masternode comme NameNode, l'emplacement est hdfs://masternode:portnumber. Si vous utilisez WebHDFS, l'emplacement doit être webhdfs://masternode:portnumber ; WebHDFS avec SSL n'est pas supporté.
Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop (en anglais).
Spark catalog
Sélectionnez l’implémentation Spark à utiliser.- In-memory : sélectionnez cette valeur pour configurer Hive thrift metastore sur un métastore Hive qui n'est pas externe.
- Hive : sélectionnez cette valeur pour configurer Hive thrift metastore sur un métastore Hive externe à votre cluster.
-
Les autres propriétés :
Property type |
Peut être Built-in ou Repository. |
|
Built-In : propriétés utilisées ponctuellement. |
|
Repository : sélectionnez le référentiel dans lequel sont stockées les propriétés. Les champs suivants sont automatiquement renseignés à l'aide des données récupérées. |
Use an existing connection |
Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie. Note InformationsRemarque : Lorsqu'un Job contient un Job parent et un Job enfant, si vous devez partager une connexion existante entre ces deux niveaux, par exemple pour partager la connexion créée par le Job parent au Job enfant, procédez comme suit.
Pour un exemple de partage d'une connexion à une base de données à travers différents niveaux de Jobs, consultez Partager une connexion à une base de données. |
Distribution |
Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Parmi ces options, les suivantes nécessitent une configuration spécifique :
Note InformationsRemarque : À partir de la version 8.0 R2024-04 du Studio Talend, le paramètre Distribution est supprimé.
|
Version de Hive |
Sélectionnez la version de la distribution Hadoop que vous utilisez. Les options disponibles dépendent du composant que vous utilisez. Note InformationsRemarque : À partir de la version 8.0 R2024-04 du Studio Talend, le paramètre Hive version (Version de Hive) est supprimé.
|
Hiver Server | Sélectionnez la version de Hive que vous utilisez. |
Hadoop version | Sélectionnez la version de Hive que vous utilisez. |
Schema et Edit Schema |
Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs. Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :
|
|
Built-in : le schéma est créé et conservé localement pour ce composant seulement. |
|
Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. Lorsque le schéma à réutiliser contient des valeurs par défaut de type Integer ou Function, assurez-vous que ces valeurs par défaut ne sont pas entourées de guillemets. Si elles le sont, supprimez manuellement les guillemets. Pour plus d'informations, consultez Récupérer les schémas de table. |
Table Name |
Nom de la table à créer. |
Action on table |
Sélectionnez l'action à effectuer pour créer une table. |
Format |
Sélectionnez le format de données auquel la table à créer sera dédiée. Les formats de données disponibles varient selon la distribution Hadoop que vous utilisez. Notez que, lorsque le format de fichier à utiliser est PARQUET, il est possible qu'il vous soit demandé de trouver le fichier JAR Parquet spécifique et de l'installer dans le Studio Talend.
|
Inputformat class et Outputformat class |
Ces champs apparaissent uniquement lorsque vous avez sélectionné INPUTFORMAT and OUTPUTFORMAT dans la liste Format. Ces champs vous permettent de saisir le nom des fichiers Jar à utiliser pour les formats de données non disponibles dans la liste Format. |
Storage class |
Saisissez le nom du gestionnaire de stockage à utiliser pour créer une table non-native (table Hive stockée et gérée dans d'autres systèmes que Hive, par exemple Cassandra ou MongoDB). Ce champ est disponible uniquement lorsque vous avez sélectionné STORAGE dans la liste Format. Pour plus d'informations concernant les gestionnaires de stockage, consultez Hive Storage Handlers (en anglais). |
Set partitions |
Cochez cette case pour ajouter des colonnes de partition à la table à créer. Une fois cochée, vous devez définir le schéma des colonnes de partition à ajouter. |
Set file location |
Si vous souhaitez créer une table Hive dans un répertoire différent de celui par défaut, cochez cette case et saisissez le chemin d'accès au répertoire HDFS à utiliser pour le contenu de la table. Cela est utile lorsque vous devez créer une table Hive externe en cochant la case Create an external table dans l'onglet Advanced settings. |
Utiliser un endpoint S3 |
La case Use S3 endpoint apparaît lorsque vous cochez la case Set file location pour créer une table Hive externe. Après avoir coché la case Use S3 endpoint, vous devez renseigner les paramètres suivants dans les champs qui apparaissent :
Étant donné que la table Hive créée dans S3 est une table externe, la case Use S3 endpoint ne peut être utilisée qu'en cochant la case Create an external table. |
Advanced settings
Like table |
Cochez cette case et saisissez le nom de la table Hive à copier. Cela vous permet de copier la définition d'une table existante sans copier ses données. Pour plus d'informations concernant le paramètre Like, consultez la documentation Apache relative au langage de définition des données Hive. |
Create an external table |
Cochez cette case afin de faire de la table créée une table Hive externe. Ce type de table Hive laisse les données brutes où elles sont si les données sont dans HDFS. Une table externe est habituellement le meilleur choix pour accéder aux données partagées existant dans un système de fichiers. Pour plus d'informations concernant une table externe Hive, consultez la documentation Apache relative à Hive. |
Table comment |
Saisissez la description à utiliser pour la table à créer. |
As select |
Cochez cette case et saisissez l'instruction As select pour créer une table Hive basée sur une instruction Select. |
Set clustered_by or skewed_by statement |
Saisissez l'instruction Clustered by pour mettre en cluster les données d'une table ou diviser une partition en buckets, et/ou saisissez l'instruction Skewed by pour autoriser Hive à extraire les données très asymétriques et les mettre dans des fichiers séparés. Cela est généralement utilisé pour obtenir de meilleures performances durant les requêtes. |
SerDe properties |
Si vous utilisez le format de lignes SerDe, vous pouvez ajouter des propriétés SerDe personnalisées pour écraser les propriétés par défaut utilisées par le moteur Hadoop du Studio Talend. |
Propriétés des tables |
Ajoutez une table de propriétés Hive personnalisée pour écraser les propriétés utilisées par défaut par le moteur Hadoop du Studio Talend. |
Temporary path |
Si vous ne souhaitez pas configurer le Jobtracker et le NameNode lorsque vous exécutez la requête select * from your_table_name, vous devez paramétrer un chemin d'accès temporaire. Par exemple, /C:/select_all sous Windows. |
Hadoop Properties |
Le Studio Talend utilise une configuration par défaut pour son moteur, afin d'effectuer des opérations dans une distribution Hadoop. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut.
Pour plus d'informations concernant les propriétés requises par Hadoop et ses systèmes associés, tels que HDFS et Hive, consultez la documentation de la distribution Hadoop utilisée ou consultez la documentation Apache Hadoop (en anglais) en sélectionnant la version de la documentation souhaitée. À titre d'exemple, les liens vers certaines propriétés sont listés ci-après :
|
Hive properties |
Le Studio Talend utilise une configuration par défaut pour que son moteur effectue des opérations sur une base de données Hive. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut. Pour plus d'informations, consultez Hive dedicated properties (en anglais).
|
Mapred job map memory mb et Mapred job reduce memory mb |
Vous pouvez personnaliser les opérations map et reduce en cochant la case Set memory, pour configurer les allocations de mémoire pour ces opérations à effectuer par le système Hadoop. Dans ce cas, vous devez saisir les valeurs que vous souhaitez utiliser pour la mémoire allouée aux opérations map et reduce dans les champs Mapred job map memory mb et Mapred job reduce memory mb, respectivement. Par défaut, les valeurs sont toutes les deux 1000, ce qui est normalement adapté pour l'exécution de ces opérations. Les paramètres de mémoire à définir sont Map (in Mb), Reduce (in Mb) et ApplicationMaster (in Mb). Ces champs permettent d'allouer dynamiquement de la mémoire aux opérations map et reduce et à l'ApplicationMaster de YARN. |
Path separator in server |
Laissez le champ Path separator in server tel quel, sauf si vous changez le séparateur utilisé par la machine hôte de votre distribution Hadoop pour sa variable PATH. En d'autres termes, changez le séparateur si celui-ci n'est pas le signe deux points (:). Dans ce cas, vous devez remplacer cette valeur par celle utilisée dans votre hôte. |
Set application name |
Cochez cette case pour éviter les doublons lorsque vous exécutez votre requête sur MapReduce ou Tez. Sur MapReduce, mapred.job.name est modifié et sur Tez, hive.query.name est modifié. Les deux noms sont modifiés avec la concaténation du nom du projet, du nom du Job, de la version du Job, de la date et de l'heure. |
Statistiques du tStatCatcher |
Cochez cette case pour collecter les données de log au niveau des composants. |
Variables globales
Variables globales |
QUERY : requête en cours de traitement. Cette variable est une variable Flow et retourne une chaîne de caractères. ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables. |
Utilisation
Règle d'utilisation |
Ce composant fonctionne en standalone. Si le Studio Talend utilisé pour vous connecter à une base de données Hive fonctionne sous Windows, vous devez créer manuellement un dossier appelé tmp à la racine du disque où le Studio Talend est installé. |
Row format |
Set Delimited row format |
Set SerDe row format |
|
Die on error |
|
Dynamic settings |
Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend. La table Dynamic settings est disponible uniquement lorsque la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable. Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Paramètres dynamiques et les variables de contexte, consultez Schéma dynamique et Créer un groupe de contextes et définir les variables de contexte. |
Prérequis |
La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend . La liste suivante présente des informations d'exemple relatives à MapR.
Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez. |