Propriétés du tHiveLoad Standard

Ces propriétés sont utilisées pour configurer le tHiveLoad s'exécutant dans le framework de Jobs Standard.

Le composant tHiveLoad Standard appartient aux familles Big Data et Bases de données.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data et dans Talend Data Fabric.

Basic settings

Configuration de la connexion :

Lorsque vous utilisez ce composant avec Qubole sur AWS :

API Token	Cliquez sur le bouton ... à côté du champ API Token pour saisir le jeton d'authentification généré pour le compte utilisateur·rice Qubole à utiliser. Pour plus d'informations concernant l'obtention de ce jeton, consultez Manage Qubole account (uniquement en anglais) dans la documentation Qubole. Ce jeton vous permet de spécifier le compte utilisateur·rice à utiliser pour accéder à Qubole. Votre Job utilise automatiquement les droits et autorisations attribués à ce compte utilisateur·rice dans Qubole.
Cluster label	Cochez la case Cluster label et saisissez le nom du cluster Qubole à utiliser. Si vous laissez cette case décochée, le cluster par défaut est utilisé. Si vous avez besoin de plus d'informations concernant votre cluster par défaut, contactez l'administrateur·trice de votre service Qubole. Vous pouvez également lire cet article (uniquement en anglais) de la documentation Qubole pour trouver plus de détails concernant la configuration d'un cluster Qubole par défaut.
Change API endpoint	Cochez la case Change API endpoint et sélectionnez la région à utiliser. Lorsque cette case est décochée, la région par défaut est utilisée. Pour plus d'informations concernant les Endpoints Qubole supportés par QDS-on-AWS, consultez Supported Qubole Endpoints on Different Cloud Providers (uniquement en anglais) (en anglais).

API Token

Cliquez sur le bouton ... à côté du champ API Token pour saisir le jeton d'authentification généré pour le compte utilisateur·rice Qubole à utiliser. Pour plus d'informations concernant l'obtention de ce jeton, consultez Manage Qubole account (uniquement en anglais) dans la documentation Qubole.

Ce jeton vous permet de spécifier le compte utilisateur·rice à utiliser pour accéder à Qubole. Votre Job utilise automatiquement les droits et autorisations attribués à ce compte utilisateur·rice dans Qubole.

Cluster label

Cochez la case Cluster label et saisissez le nom du cluster Qubole à utiliser. Si vous laissez cette case décochée, le cluster par défaut est utilisé.

Si vous avez besoin de plus d'informations concernant votre cluster par défaut, contactez l'administrateur·trice de votre service Qubole. Vous pouvez également lire cet article (uniquement en anglais) de la documentation Qubole pour trouver plus de détails concernant la configuration d'un cluster Qubole par défaut.

Change API endpoint

Cochez la case Change API endpoint et sélectionnez la région à utiliser. Lorsque cette case est décochée, la région par défaut est utilisée.

Pour plus d'informations concernant les Endpoints Qubole supportés par QDS-on-AWS, consultez Supported Qubole Endpoints on Different Cloud Providers (uniquement en anglais) (en anglais).

Lorsque vous utilisez ce composant avec Google Dataproc :

Project identifier	Saisissez l'ID de votre projet Google Cloud Platform. Si vous n'êtes pas certain de l'ID de votre projet, vérifiez dans la page Manage Resources de vos services Google Cloud Platform.
Cluster identifier	Saisissez l'ID de votre cluster Dataproc à utiliser.
Region	Dans cette liste déroulante, sélectionnez la région Google Cloud à utiliser.
Google Storage staging bucket	Comme un Job Talend nécessite ses fichiers .jar dépendants pour être exécuté, spécifiez le répertoire Google Storage dans lequel ces fichiers .jar sont transférés afin que votre Job accède à ces fichiers lors de l'exécution. Le répertoire à saisir doit se terminer par une barre oblique (/). Si le répertoire n'existe pas, un répertoire est créé à la volée mais le bucket à utiliser doit déjà exister.
Database	Saisissez dans ce champ le nom de la base de données.
Provide Google Credentials in file	Lorsque vous lancez votre Job à partir d'une machine donnée sur laquelle Google Cloud SDK a été installé et vous a autorisé à utiliser vos identifiants de compte utilisateur·rice pour accéder à Google Cloud Platform, ne cochez pas cette case. Dans cette situation, cette machine est souvent votre machine locale. Lorsque vous lancez votre Job à partir d'une machine distante, comme un Jobserver, cochez cette case et dans le champ Path to Google Credentials file qui s'affiche, saisissez le répertoire dans lequel ce fichier JSON est stocké dans la machine du Jobserver. Vous pouvez également cliquer sur le bouton [...] puis, dans la boîte de dialogue qui s'ouvre, parcourir le fichier JSON. Pour plus d'informations concernant le fichier Google Credentials, contactez l'administrateur·trice de votre Google Cloud Platform ou consultez Google Cloud Platform Auth Guide (uniquement en anglais).

Lorsque vous utilisez ce composant avec HDInsight :

WebHCat configuration	Saisissez l'adresse et les informations d'authentification du cluster Microsoft HDInsight à utiliser. Par exemple, l'adresse peut être `nom_de_votre_cluster_hdinsight.azurehdinsight.net` et les informations d'authentification peuvent être votre nom de compte Azure : `ychen`. Le Studio utilise ce service pour soumettre le Job au cluster HDInsight. Dans le champ Job result folder, saisissez l'emplacement où vous souhaitez stocker les résultats d'exécution du Job dans Azure Storage.
Job status polling configuration	Dans le champ Poll interval when retrieving Job status (in ms), saisissez l'intervalle de temps (en millisecondes) à l'issue duquel vous souhaitez que le Studio interroge Spark au sujet du statut du Job. Par exemple, ce statut peut être Pending (en attente) ou Running (en cours d'exécution). Dans le champ Maximum number of consecutive statuses missing, saisissez le nombre maximal de tentatives du Studio pour obtenir un statut lorsqu'il n'y a pas de réponse.
HDInsight configuration	Saisissez l'adresse et les informations d'authentification du cluster Microsoft HDInsight à utiliser. Par exemple, l'adresse peut être `nom_de_votre_cluster_hdinsight.azurehdinsight.net` et les informations d'authentification peuvent être votre nom de compte Azure : `ychen`. Le Studio utilise ce service pour soumettre le Job au cluster HDInsight. Dans le champ Job result folder, saisissez l'emplacement où vous souhaitez stocker les résultats d'exécution du Job dans Azure Storage.
Windows Azure Storage configuration	Saisissez l'adresse et les informations d'authentification du compte Azure Storage ou ADLS Gen2 à utiliser. Dans cette configuration, vous ne définissez pas l'emplacement où lire ou écrire vos données métier, seulement où déployer votre Job. Dans le champ Container, saisissez le nom du conteneur à utiliser. Vous pouvez trouver les conteneurs disponibles dans le panneau Blob, dans le compte Azure Storage à utiliser. Dans le champ Deployment Blob, saisissez l'emplacement où vous souhaitez stocker le Job et ses bibliothèques dépendantes dans le compte Azure Storage. Dans le champ Hostname, saisissez l'endpoint du service du Blob primaire de votre compte Azure Storage, sans la partie https://. Vous pouvez trouver cet endpoint dans le panneau Properties de ce compte de stockage. Dans le champ Username, saisissez le nom du compte Azure Storage à utiliser. Dans le champ Password, saisissez la clé d'accès du compte Azure Storage à utiliser. Cette clé se trouve dans le panneau Access keys de ce compte de stockage.
Database	Saisissez dans ce champ le nom de la base de données.

Lorsque vous utilisez d'autres distributions :

Connection mode	Sélectionnez un mode de connexion dans la liste. Les options varient en fonction de la distribution que vous utilisez.
Hive server	Sélectionnez le serveur Hive sur lequel vous souhaitez que le Job utilisant ce composant exécute des requêtes dans Hive. La liste Hive server est disponible uniquement lorsque la distribution Hadoop à utiliser, par exemple HortonWorks Data Platform V1.2.0 (Bimota) supporte HiveServer2. Vous pouvez sélectionner HiveServer2 (Hive 2), le serveur supportant mieux les connexions simultanées de différents clients que HiveServer (Hive 1). Pour plus d'informations concernant HiveServer2, consultez la page https://cwiki.apache.org/confluence/display/Hive/Setting+Up+HiveServer2 (uniquement en anglais) (en anglais).
Host	Adresse IP du serveur de base de données.
Port	Numéro du port d'écoute du serveur de base de données.
Database	Saisissez dans ce champ le nom de la base de données. Note InformationsRemarque : Ce champ n'est pas disponible lorsque vous sélectionnez l'option Embedded dans la liste Connection mode.
Username et Password	Informations d'authentification de l'utilisateur ou de l'utilisatrice de base de données. Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres.
Use kerberos authentication	Si vous accédez au Metastore de Hive avec une sécurité Kerberos, cochez cette case et saisissez ensuite les paramètres appropriés dans les champs qui s'affichent. Si ce cluster est un cluster MapR de version 5.0.0 ou supérieure, vous pouvez paramétrer la configuration de l'authentification par ticket MapR en plus ou comme alternative, en suivant les explications dans Connexion sécurisée à MapR. Gardez à l'esprit que cette configuration génère un nouveau ticket de sécurité MapR pour le nom d'utilisateur ou d'utilisatrice défini dans le Job dans chaque exécution. Si vous devez réutiliser un ticket existant provenant du même utilisateur, laissez décochées les cases Force MapR ticket authentication et Use Kerberos authentication. MapR devrait pouvoir trouver automatiquement ce ticket à la volée. Les valeurs des paramètres suivants peuvent être trouvées dans le fichier hive-site.xml du système Hive utilisé. Hive principal utilise la valeur de hive.metastore.kerberos.principal. C'est le principal du service du Metastore de Hive. HiveServer2 local user principal utilise la valeur de hive.server2.authentication.kerberos.principal. HiveServer2 local user keytab utilise la valeur de hive.server2.authentication.kerberos.keytab Metastore URL utilise la valeur de javax.jdo.option.ConnectionURL. C'est la chaîne JDBC de connexion au Metastore de Hive. Driver class utilise la valeur de javax.jdo.option.ConnectionDriverName. C'est le nom du pilote de la connexion JDBC. Username utilise la valeur de javax.jdo.option.ConnectionUserName. Ce paramètre, ainsi que le paramètre Password, sont utilisés pour les informations de connexion de l'utilisateur ou de l'utilisatrice au Metastore de Hive. Password utilise la valeur de javax.jdo.option.ConnectionPassword. Pour les autres paramètres affichés, veuillez consulter les fichiers de configuration Hadoop auxquels ils appartiennent. Par exemple, le Principal du NameNode (Namenode principal) peut être trouvé dans le fichier hdfs-site.xml ou le fichier hdfs-default.xml de la distribution que vous utilisez. Cette case est disponible ou non selon la distribution Hadoop à laquelle vous vous connectez.
Use a keytab to authenticate	Cochez la case Use a keytab to authenticate pour vous connecter à un système utilisant Kerberos à l'aide d'un fichier keytab. Un fichier Keytab contient les paires des Principaux et clés cryptées Kerberos. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab. Ce fichier keytab doit être stocké sur la machine où s'exécute votre Job, par exemple, sur un serveur de Jobs Talend. l'utilisateur ou l'utilisatrice exécutant un Job utilisant un fichier Keytab n'est pas nécessairement celui désigné par un Principal mais doit avoir le droit de lire le fichier Keytab utilisé. Par exemple, le nom d'utilisateur ou d'utilisatrice que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier Keytab à utiliser.
Use SSL encryption	Cochez cette case pour activer la connexion chiffrée SSL ou TLS. Les champs qui s'affichent ensuite fournissent les informations d'authentification : Dans le champ Trust store path, saisissez le chemin ou parcourez votre système jusqu'au fichier TrustStore à utiliser. Par défaut, les types TrustStore supportés sont JKS et PKCS 12. Pour saisir le mot de passe, cliquez sur le bouton [...] à côté du champ Password, puis, dans la boîte de dialogue qui s'ouvre, saisissez le mot de passe entre guillemets doubles et cliquez sur OK afin de sauvegarder les paramètres. Cette fonctionnalité n'est disponible que pour HiveServer2 en mode Standalone pour les distributions suivantes : Hortonworks Data Platform 2.0 + Cloudera CDH4 + Pivotal HD 2.0 + Amazon EMR 4.0.0 +
Set Resource Manager	Cochez cette case et, dans le champ qui s'affiche, saisissez l'emplacement du ResourceManager de votre distribution. Par exemple `tal-qa114.talend.lan:8050`. Vous pouvez continuer à configurer les paramètres suivants selon la configuration du cluster Hadoop à utiliser (si vous ne cochez pas la case d'un paramètre, alors la configuration de ce paramètre dans le cluster Hadoop à utiliser sera ignorée lors de l'exécution) : Cochez la case Set resourcemanager scheduler address et saisissez l'adresse de l'ordonnanceur (Scheduler) dans le champ qui apparaît. Cochez la case Set jobhistory address et saisissez l'emplacement du serveur JobHistory du cluster Hadoop à utiliser. Cela permet de stocker les informations relatives aux métriques du Job courant sur le serveur JobHistory. Cochez la case Set staging directory et saisissez le chemin d'accès au répertoire défini dans votre cluster Hadoop pour les fichiers temporaires créés par l'exécution de programmes. Ce répertoire se trouve sous la propriété yarn.app.mapreduce.am.staging-dir dans les fichiers de configuration comme yarn-site.xml ou mapred-site.xml de votre distribution. Allouez des volumes de mémoire aux calculs Map et Reduce et au service ApplicationMaster de YARN en cochant la case Set memory dans la vue Advanced settings. Cochez la case Set Hadoop user et saisissez le nom de l'utilisateur ou de l'utilisatrice avec lequel vous souhaitez exécuter le Job. Puisque les fichiers et répertoires dans Hadoop ont un auteur spécifique avec les droits appropriés de lecture ou d'écriture, ce champ vous permet d'exécuter le Job directement avec l'utilisateur ou l'utilisatrice ayant les droits d'accès appropriés au fichier ou répertoire à traiter. Cochez la case Use datanode hostname pour permettre au Job d'accéder aux nœuds de données via leurs hébergeurs. Cela permet de configurer la propriété dfs.client.use.datanode.hostname à true. Lorsque vous vous connectez à un système de fichiers S3N, vous devez cocher cette case. Pour plus d'informations concernant ces paramètres, consultez la documentation ou contactez l'administrateur du cluster Hadoop à utiliser. Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (uniquement en anglais) (en anglais).
Set NameNode URI	Cochez cette case et, dans le champ qui s'affiche, saisissez l'URI du NameNode Hadoop, le nœud maître d'un système Hadoop. Par exemple, si vous avez choisi une machine nommée `masternode` comme NameNode, l'emplacement est `hdfs://masternode:portnumber`. Si vous utilisez WebHDFS, l'emplacement doit être webhdfs://masternode:portnumber ; WebHDFS avec SSL n'est pas supporté. Pour plus d'informations concernant le framework Hadoop Map/Reduce, consultez le tutoriel Map/Reduce dans la documentation de Apache Hadoop : http://hadoop.apache.org (uniquement en anglais) (en anglais).
Spark catalog	Sélectionnez l’implémentation Spark à utiliser. In-memory : sélectionnez cette valeur pour configurer Hive thrift metastore sur un métastore Hive qui n'est pas externe. Hive : sélectionnez cette valeur pour configurer Hive thrift metastore sur un métastore Hive externe à votre cluster.

Les autres propriétés :

Property type	Peut être Built-In ou Repository. Built-In : aucune propriété n'est stockée de manière centrale. Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.
Use an existing connection	Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie. Note InformationsRemarque : Notez que lorsqu'un Job contient un Job parent et un Job enfant, si vous devez partager une connexion existante entre ces deux niveaux, par exemple pour partager la connexion créée par le Job parent au Job enfant, vous devez : au niveau du Job parent, enregistrer la connexion à la base de données à partager dans la vue Basic settings du composant de connexion créant cette connexion à la base de données. au niveau du Job enfant, utiliser un composant de connexion dédié afin de lire cette connexion enregistrée. Pour un exemple de partage d'une connexion à une base de données à travers différents niveaux de Jobs, consultez le Guide d'utilisation du Studio Talend .
Distribution	Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Parmi ces options, les suivantes nécessitent une configuration spécifique : Si disponible dans la liste de Distribution, l'option Microsoft HDInsight vous permet d'utiliser un cluster Microsoft HDInsight. Dans cette optique, vous devez configurer les connexions au cluster HDInsight et au service Windows Azure Storage du cluster dans les zones affichées. Pour des explications détaillées au sujet de ces paramètres, recherchez Configuration manuelle de la connexion sur Talend Help Center (https://help.talend.com (uniquement en anglais)). Si vous avez sélectionné Amazon EMR, obtenez davantage d'informations concernant Amazon EMR - Prise en main dans Talend Help Center (https://help.talend.com (uniquement en anglais)). L'option Custom vous permet de vous connecter à un cluster différent des clusters de la liste, par exemple une distribution non supportée officiellement par Talend . Sélectionner Import from existing version pour importer une distribution de base officiellement supportée et ajouter manuellement les autres Jars requis non fournis par cette distribution. Sélectionner Import from zip pour importer le fichier .zip de configuration pour la distribution personnalisée à utiliser. Ce fichier .zip doit contenir les bibliothèques des différents éléments Hadoop et le fichier d'index de ces bibliothèques. Notez que les versions personnalisées ne sont pas officiellement supportées par Talend . Talend et sa Communauté fournissent l'opportunité de vous connecter à des versions personnalisées depuis le Studio mais ne peuvent garantir que la configuration de la version choisie sera simple, car de nombreuses versions et distributions d'Hadoop différentes sont disponibles. Il est recommandé de configurer une telle connexion uniquement si vos connaissances relatives à Hadoop sont suffisantes pour réparer les problèmes par vous-même. Note InformationsRemarque : Dans cette boîte de dialogue, la case de la zone active doit être cochée, afin d'importer les fichiers .jar correspondant à la connexion créée entre la distribution personnalisée et ce composant. Pour un exemple étape par étape expliquant comment se connecter à une distribution personnalisée et partager cette connexion, consultez Hortonworks (en anglais).
Version de Hive	Sélectionnez la version de la distribution Hadoop que vous utilisez. Les options disponibles dépendent du composant que vous utilisez.
Load action	Sélectionnez l'action à effectuer pour écrire des données à l'emplacement spécifié. Lorsque vous sélectionnez LOAD, cela permet de déplacer ou copier des données depuis un répertoire spécifié. Lorsque vous sélectionnez INSERT, cela permet de déplacer ou copier des données à partir de requêtes.
Execution engine	Cochez cette case et, dans la liste déroulante, sélectionnez le framework à utiliser pour effectuer l'action INSERT. Cette liste est disponible lorsque vous utilisez le mode Embedded pour la connexion à Hive et que la distribution que vous utilisez est : Custom : cette option vous permet de vous connecter à une distribution supportant Tez mais n'étant pas elle-même officiellement supportée par Talend . Avant d'utiliser Tez, vérifiez que votre cluster Hadoop supporte Tez. Vous devez configurer l'accès aux bibliothèques Tez correspondantes via la vue Advanced settings de ce composant. Pour plus d'informations concernant Hive avec Tez, consultez la documentation Apache à l'adresse https://cwiki.apache.org/confluence/display/Hive/Hive+on+Tez (uniquement en anglais) (en anglais). Des exemples vous sont présentés afin d'expliquer comment Tez peut être utilisé pour optimiser les performances par rapport à MapReduce.
Target type	Cette liste déroulante apparaît uniquement lorsque vous avez sélectionné INSERT dans la liste Load action. Sélectionnez dans cette liste le type d'emplacement dans lequel écrire des données. Si vous sélectionnez Table comme destination, vous pouvez choisir d'écrire les données à la suite ou d'écraser le contenu dans la table spécifiée. Si vous sélectionnez Directory (répertoire) comme destination, le contenu de répertoire spécifié sera écrasé.
Table Name	Saisissez le nom de la table Hive dans laquelle écrire les données. Notez qu'avec l'action INSERT, ce champ est disponible uniquement lorsque vous avez sélectionné Table dans la liste Target type.
File path	Saisissez le chemin d'accès au répertoire duquel lire les données ou dans lequel écrire des données, selon l'action sélectionnée dans la liste Load action. Si vous avez sélectionné LOAD : saisissez le chemin d'accès aux données à copier ou déplacer dans la table Hive spécifiée. Si vous avez sélectionné INSERT : saisissez le chemin d'accès au répertoire dans lequel exporter les données à partir d'une table Hive. Avec cette option, le champ File path est disponible uniquement lorsque vous avez sélectionné Directory dans la liste Target type.
The target table uses the Parquet format	Si la table dans laquelle vous devez écrire les données est une table Parquet, cochez cette case. Notez que, lorsque le format de fichier à utiliser est PARQUET, il est possible qu'il vous soit demandé de trouver le fichier Jar Parquet spécifique et de l'installer dans le Studio. Lorsque le mode de connexion à Hive est Embedded, le Job est exécuté sur votre machine locale et appelle ce Jar installé dans le Studio. Lorsque le mode de connexion à Hive est Standalone, le Job est exécuté sur le serveur hébergeant Hive et ce fichier Jar est envoyé au système HDFS du cluster auquel vous vous connectez. Assurez-vous d'avoir correctement défini l'URI du NameNode dans le champ correspondant de la vue Basic settings. Ce fichier Jar est téléchargeable depuis le site Web d'Apache. Pour plus d'informations concernant l'installation de modules externes, consultez Installer des modules externes dans les produits Talend. Pour plus d'informations concernant l'installation de modules externes, consultez Talend Help Center (https://help.talend.com (uniquement en anglais)). Dans la liste Compression qui apparaît, sélectionnez le mode de compression à utiliser pour gérer le fichier Parquet. Le mode par défaut est Uncompressed.
Action on file	Sélectionnez l'action à effectuer pour écrire les données. Cette liste est disponible uniquement lorsque la cible est une table Hive. Si la cible est un répertoire, l'action à effectuer est automatiquement OVERWRITE.
Query	Ce champ apparaît uniquement lorsque vous avez sélectionné INSERT dans la liste Load action. Saisissez la requête appropriée pour sélectionner les données à exporter dans la table ou le répertoire Hive spécifié(e).
local	Cochez cette case pour utiliser l'instruction Hive LOCAL pour accéder à un répertoire local. Notez que ce répertoire local est en fait la machine sur laquelle le Job est exécuté. Ainsi, lorsque le mode de connexion à Hive sélectionné est Standalone, le Job s'exécute sur la machine sur laquelle l'application Hive est installée. Le dossier local se trouve alors sur cette machine. Cette instruction est utilisée avec le répertoire défini dans le champ File path. La case Local est disponible uniquement lorsque le champ File path est disponible. Si vous sélectionnez l'action LOAD, le tHiveLoad copie les données locales dans la table cible. Si vous sélectionnez l'action INSERT, le tHiveLoad copie les données dans un répertoire local. Si vous laissez la case Local décochée, le répertoire défini dans le champ File path est supposé être dans le système HDFS à utiliser et les données sont déplacées à l'emplacement cible. Pour plus d'informations concernant cette instruction LOCAL, consultez la documentation Apache concernant le langage Hive.
Set partitions	Cochez cette case pour utiliser la clause Hive Partition pour charger ou insérer des données dans une table Hive. Vous devez saisir les clés de partition et leur valeur à utiliser dans le champ qui apparaît. Par exemple, saisissez contry='US', state='CA'. Cela permet de créer une clause de partition Partition (contry='US', state='CA'), c'est-à-dire une partition US and CA. Il est également recommandé de cocher la case Create partition if not exist qui apparaît afin de vous assurer de ne pas créer une partition en doublon.
Die on error	Cochez cette case si vous souhaitez arrêter le Job en cas d'erreur.

Advanced settings

Tez lib	Choisissez comment accéder aux bibliothèques de Tez : Auto install : lors de l'exécution, le Job charge et déploie les bibliothèques de Tez fournies par le Studio dans le répertoire spécifié dans le champ Install folder in HDFS, par exemple, /tmp/usr/tez. Si vous avez configuré la propriété tez.lib.uris dans la table des propriétés, ce répertoire écrase la valeur de la propriété lors de l'exécution. Les autres propriétés configurées dans la table sont toujours prises en compte. Use exist : le Job accède aux bibliothèques de Tez déjà déployées dans le cluster Hadoop à utiliser. Vous devez saisir le chemin d'accès pointant vers ces bibliothèques dans le champ Lib path (folder or file). Lib jar : cette table s'affiche lorsque vous avez sélectionné Auto install dans la liste Tez lib et que vous utilisez une distribution personnalisée (Custom). Dans cette table, vous devez ajouter les bibliothèques de Tez à charger.
Temporary path	Si vous ne souhaitez pas configurer le Jobtracker et le NameNode lorsque vous exécutez la requête select * from your_table_name, vous devez paramétrer un chemin d'accès temporaire. Par exemple, /C:/select_all sous Windows.
Hadoop Properties	Le Studio Talend utilise une configuration par défaut pour son moteur, afin d'effectuer des opérations dans une distribution Hadoop. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut. Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in. Pour plus d'informations concernant les propriétés requises par Hadoop et ses systèmes associés, tels que HDFS et Hive, consultez la documentation de la distribution Hadoop utilisée ou consultez la documentation d'Apache Hadoop sur http://hadoop.apache.org/docs (uniquement en anglais) en sélectionnant la version de la documentation souhaitée. À titre d'exemple, les liens vers certaines propriétés sont listés ci-après : Généralement, les propriétés relatives à HDFS peuvent être trouvées dans le fichier hdfs-default.xml de votre distribution, par exemple dans http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml (uniquement en anglais). Apache fournit également une page listant toutes les propriétés relatives à Hive : https://cwiki.apache.org/confluence/display/Hive/Configuration+Properties (uniquement en anglais) (en anglais).
Hive properties	Le Studio Talend utilise une configuration par défaut pour que son moteur effectue des opérations sur une base de données Hive. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut. Pour plus d'informations concernant les propriétés dédiées à Hive, consultez https://cwiki.apache.org/confluence/display/Hive/AdminManual+Configuration (uniquement en anglais) (en anglais). Si vous devez utiliser Tez pour exécuter votre Job Hive, ajoutez hive.execution.engine à la colonne Properties et Tez à la valeur Value, en entourant ces chaînes de caractères de guillemets doubles. Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in.
Mapred job map memory mb et Mapred job reduce memory mb	Vous pouvez personnaliser les opérations map et reduce en cochant la case Set memory, pour configurer les allocations de mémoire pour ces opérations à effectuer par le système Hadoop. Dans ce cas, vous devez saisir les valeurs que vous souhaitez utiliser pour la mémoire allouée aux opérations map et reduce dans les champs Mapred job map memory mb et Mapred job reduce memory mb, respectivement. Par défaut, les valeurs sont toutes les deux 1000, ce qui est normalement adapté pour l'exécution de ces opérations. Les paramètres de mémoire à définir sont Map (in Mb), Reduce (in Mb) et ApplicationMaster (in Mb). Ces champs permettent d'allouer dynamiquement de la mémoire aux opérations map et reduce et à l'ApplicationMaster de YARN.
Path separator in server	Laissez le champ Path separator in server tel quel, sauf si vous changez le séparateur utilisé par la machine hôte de votre distribution Hadoop pour sa variable PATH. En d'autres termes, changez le séparateur si celui-ci n'est pas le signe deux points (:). Dans ce cas, vous devez remplacer cette valeur par celle utilisée dans votre hôte.
tStatCatcher Statistics	Cochez cette case pour collecter les données de log au niveau des composants.

Variables globales

Variables globales	QUERY : requête en cours de traitement. Cette variable est une variable Flow et retourne une chaîne de caractères. ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

QUERY : requête en cours de traitement. Cette variable est une variable Flow et retourne une chaîne de caractères.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

Utilisation

Règle d'utilisation	Ce composant est utilisé en standalone et supporte l'écriture d'une grande variété de formats de données comme les formats RC, ORC et AVRO. Si le Studio utilisé pour vous connecter à une base de données Hive fonctionne sous Windows, vous devez créer manuellement un dossier appelé tmp à la racine du disque où le Studio Talend est installé.
Dynamic settings	Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend. La table Dynamic settings est disponible uniquement lorsque la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable. Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les paramètres dynamiques (Dynamic settings) et les variables de contexte, consultez le Guide d'utilisation du Studio Talend.
Prérequis	La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend . La liste suivante présente des informations d'exemple relatives à MapR. Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les bibliothèques du client MapR correspondant à chaque OS peuvent être trouvées dans MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (uniquement en anglais) (en anglais). Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path. Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue Preferences dans le menu Window. Cet argument fournit au Studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs et utilisatrices en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le Studio les données stockées dans MapR. Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Règle d'utilisation

Ce composant est utilisé en standalone et supporte l'écriture d'une grande variété de formats de données comme les formats RC, ORC et AVRO.

Si le Studio utilisé pour vous connecter à une base de données Hive fonctionne sous Windows, vous devez créer manuellement un dossier appelé tmp à la racine du disque où le Studio Talend est installé.

Dynamic settings

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend.

La table Dynamic settings est disponible uniquement lorsque la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable.

Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les paramètres dynamiques (Dynamic settings) et les variables de contexte, consultez le Guide d'utilisation du Studio Talend.

Prérequis

La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend . La liste suivante présente des informations d'exemple relatives à MapR.

Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les bibliothèques du client MapR correspondant à chaque OS peuvent être trouvées dans MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (uniquement en anglais) (en anglais).

Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path.
Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue Preferences dans le menu Window. Cet argument fournit au Studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs et utilisatrices en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le Studio les données stockées dans MapR.

Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.

Laissez vos commentaires ici