Propriétés du tHDFSList Standard

Ces propriétés sont utilisées pour configurer le tHDFSList s'exécutant dans le framework de Jobs Standard.

Le composant tHDFSList Standard appartient aux familles Big Data et Fichier.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data et dans Talend Data Fabric.

Basic settings

Property type	Peut être Built-in ou Repository. Built-In : propriétés utilisées ponctuellement sans stockage dans le référentiel. Repository : sélectionnez le référentiel dans lequel sont stockées les propriétés. Les champs suivants sont automatiquement renseignés à l'aide des données récupérées.
Use an existing connection	Cochez cette case et, dans la liste Component List, cliquez sur le composant HDFS de connexion dont vous souhaitez réutiliser les informations de connexion précédemment définies. Notez que lorsqu'un Job contient un Job parent et un Job enfant, la liste Component List présente uniquement les composants de connexion du Job du même niveau.
Distribution	Sélectionnez dans la liste le cluster que vous utilisez. Les options de la liste varient selon le composant que vous utilisez. Parmi ces options, les suivantes nécessitent une configuration spécifique : Si disponible dans la liste de Distribution, l'option Microsoft HDInsight vous permet d'utiliser un cluster Microsoft HDInsight. Dans cette optique, vous devez configurer les connexions au cluster HDInsight et au service Windows Azure Storage du cluster dans les zones affichées. Pour des explications détaillées au sujet de ces paramètres, recherchez Configuration manuelle de la connexion sur Talend Help Center (https://help.talend.com (uniquement en anglais)). Si vous avez sélectionné Amazon EMR, obtenez davantage d'informations concernant Amazon EMR - Prise en main dans Talend Help Center (https://help.talend.com (uniquement en anglais)). L'option Custom vous permet de vous connecter à un cluster différent des clusters de la liste, par exemple une distribution non supportée officiellement par Talend . Sélectionner Import from existing version pour importer une distribution de base officiellement supportée et ajouter manuellement les autres Jars requis non fournis par cette distribution. Sélectionner Import from zip pour importer le fichier .zip de configuration pour la distribution personnalisée à utiliser. Ce fichier .zip doit contenir les bibliothèques des différents éléments Hadoop et le fichier d'index de ces bibliothèques. Notez que les versions personnalisées ne sont pas officiellement supportées par Talend . Talend et sa Communauté fournissent l'opportunité de vous connecter à des versions personnalisées depuis le Studio mais ne peuvent garantir que la configuration de la version choisie sera simple, car de nombreuses versions et distributions d'Hadoop différentes sont disponibles. Il est recommandé de configurer une telle connexion uniquement si vos connaissances relatives à Hadoop sont suffisantes pour réparer les problèmes par vous-même. Note InformationsRemarque : Dans cette boîte de dialogue, la case de la zone active doit être cochée, afin d'importer les fichiers .jar correspondant à la connexion créée entre la distribution personnalisée et ce composant. Pour un exemple étape par étape expliquant comment se connecter à une distribution personnalisée et partager cette connexion, consultez Hortonworks (en anglais).
Version	Sélectionnez la version de la distribution Hadoop que vous utilisez. Les options disponibles dépendent du composant que vous utilisez.
Scheme	Sélectionnez le schéma (scheme) du système de fichiers à utiliser, dans la liste déroulante Scheme. Ce schéma peut être : HDFS WebHDFS. WebHDFS avec SSL n'est pas supporté. ADLS Seul Azure Data Lake Storage Gen1 est supporté. Les schémas présents dans cette liste varient selon la distribution que vous utilisez. Seul le schéma s'affichant dans la liste pour une distribution donnée est officiellement supporté par Talend. Une fois qu'un schéma est sélectionné, la syntaxe correspondante, par exemple webhdfs://localhost:50070/ pour WebHDFS, s'affiche dans le champ pour l'emplacement du NameNode de votre cluster. Si vous avez sélectionné ADLS, les paramètres de connexion à définir sont désormais : Dans les champs Client ID et Client key, saisissez respectivement l'ID et la clé d'authentification générés après enregistrement de l'application que le Job que vous développez utilise pour accéder à Azure Data Lake Storage. Assurez-vous que l'application à utiliser a les droits d'accès à Azure Data Lake. Vous pouvez vérifier dans la vue Required permissions de cette application, dans Azure. Pour plus d'informations, consultez la documentation Azure Affecter l’application Azure AD au dossier ou fichier de compte Azure Data Lake Storage (uniquement en anglais). Dans le champ Token endpoint, copiez-collez l'endpoint du jeton OAuth 2.0 que vous pouvez obtenir à partir de la liste Endpoints dans la page App registrations de votre portail Azure. Pour une démonstration vidéo, consultez Configure and use Azure in a Job (uniquement en anglais) (en anglais).
NameNode URI	Saisissez l'URI du NameNode Hadoop, nœud maître d'un système Hadoop. Par exemple, si vous avez choisi une machine nommée mastermode comme NameMode, son emplacement est `hdfs://masternode:portnumber`. Si vous utilisez WebHDFS, l'emplacement doit être webhdfs://masternode:portnumber ; WebHDFS avec SSL n'est pas supporté.
Use kerberos authentication	Si vous accédez au cluster Hadoop fonctionnant avec la sécurité Kerberos, cochez cette case, puis saisissez le Principal Name de Kerberos pour le NameNode dans le champ affiché. Cela vous permet d'utiliser votre identifiant pour vous authentifier, en le comparant aux identifiants stockés dans Kerberos. Si ce cluster est un cluster MapR de version 5.0.0 ou supérieure, vous pouvez paramétrer la configuration de l'authentification par ticket MapR en plus ou comme alternative, en suivant les explications dans Connexion sécurisée à MapR. Gardez à l'esprit que cette configuration génère un nouveau ticket de sécurité MapR pour le nom d'utilisateur ou d'utilisatrice défini dans le Job dans chaque exécution. Si vous devez réutiliser un ticket existant provenant du même utilisateur, laissez décochées les cases Force MapR ticket authentication et Use Kerberos authentication. MapR devrait pouvoir trouver automatiquement ce ticket à la volée. Cette case est disponible ou non selon la distribution Hadoop à laquelle vous vous connectez.
Use a keytab to authenticate	Cochez la case Use a keytab to authenticate pour vous connecter à un système utilisant Kerberos à l'aide d'un fichier keytab. Un fichier Keytab contient les paires des Principaux et clés cryptées Kerberos. Vous devez saisir le principal à utiliser dans le champ Principal et le chemin d'accès au fichier keytab dans le champ Keytab. Ce fichier keytab doit être stocké sur la machine où s'exécute votre Job, par exemple, sur un serveur de Jobs Talend. l'utilisateur ou l'utilisatrice exécutant un Job utilisant un fichier Keytab n'est pas nécessairement celui désigné par un Principal mais doit avoir le droit de lire le fichier Keytab utilisé. Par exemple, le nom d'utilisateur ou d'utilisatrice que vous utilisez pour exécuter le Job est user1 et le principal à utiliser est guest. Dans cette situation, assurez-vous que user1 a les droits de lecture pour le fichier Keytab à utiliser.
User name	Le champ User name est disponible lorsque vous n'utilisez pas Kerberos pour vous authentifier. Dans le champ User name, saisissez votre identifiant pour cette distribution. Si vous laissez le champ vide, le nom de la machine hébergeant le Studio sera utilisé.
Group	Identifiant de l'utilisateur ou de l'utilisatrice et nom du groupe sous lesquels les instances HDFS ont été lancées. Ce champ peut être disponible ou indisponible selon la distribution que vous utilisez.
HDFS Directory	Parcourez votre système ou saisissez le chemin d'accès aux données à utiliser dans le système de fichiers.
FileList Type	À partir de la liste, sélectionnez le type d'entrée sur lequel itérer : Files si l'entrée est un ensemble de fichiers, Directories si l'entrée est un ensemble de répertoires, Both si l'entrée est un mélange des deux types ci-dessus.
Include subdirectories	Cochez cette case si le type de source d'entrée sélectionné comprend des sous-répertoires.
Case Sensitive	Sélectionnez dans la liste le mode de casse, afin de créer des filtres sur les noms de fichiers, sensibles à la casse ou non.
Use Glob Expressions as Filemask	Cette case est cochée par défaut. Elle permet de filtrer les résultats à l'aide d'une Expression Globale (Glob Expressions).
Files	Cliquez sur le bouton [+] pour ajouter autant de lignes de filtre que nécessaire : Filemask : dans les lignes de filtre ajoutées, saisissez un nom ou un masque de fichier à l'aide de caractères spéciaux ou d'expressions régulières.
Order by	Les dossiers sont listés en premier, les fichiers ensuite. Vous pouvez définir les priorités des dossiers et des fichiers de différentes manières : By default : par ordre alphabétique, par dossier puis par fichier, By file name : par ordre alphabétique ou ordre alphabétique inversé, By file size : du plus petit au plus grand ou du plus grand au plus petit, By modified date : du plus récent au plus ancien ou du plus ancien au plus récent. Note InformationsRemarque : Si vous sélectionnez by file name et que des fichiers ont le même nom, l'option modified date prime. Si vous sélectionnez by file size, si vous possédez des fichiers de taille identique, l'option file name prime. Si vous sélectionnez modified date et que des fichiers ont été modifiés à la même date, l'option file name prime.
Order action	Sélectionnez l'ordre de tri en cliquant sur l'un des boutons radio : ASC : ordre croissant. DESC : ordre décroissant.

Advanced settings

Use Exclude Filemask	Cochez cette case pour activer le champ Exclude Filemask et exclure les conditions de filtre selon le type de fichier : Exclude Filemask : saisissez dans le champ les types de fichiers à exclure, du tableau Filemasks dans la vue Basic settings. Note InformationsRemarque : Les types de fichier doivent être entre guillemets doubles et séparés par une virgule.
Hadoop properties	Le Studio Talend utilise une configuration par défaut pour son moteur, afin d'effectuer des opérations dans une distribution Hadoop. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut. Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in. Pour plus d'informations concernant les propriétés requises par Hadoop et ses systèmes associés, tels que HDFS et Hive, consultez la documentation de la distribution Hadoop utilisée ou consultez la documentation d'Apache Hadoop sur http://hadoop.apache.org/docs (uniquement en anglais) en sélectionnant la version de la documentation souhaitée. À titre d'exemple, les liens vers certaines propriétés sont listés ci-après : Généralement, les propriétés relatives à HDFS peuvent être trouvées dans le fichier hdfs-default.xml de votre distribution, par exemple dans http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml (uniquement en anglais). Apache fournit également une page listant toutes les propriétés relatives à Hive : https://cwiki.apache.org/confluence/display/Hive/Configuration+Properties (uniquement en anglais) (en anglais).
tStatCatcher Statistics	Cochez cette case pour collecter les métadonnées de traitement du Job au niveau du Job ainsi qu'au niveau de chaque composant.

Use Exclude Filemask

Cochez cette case pour activer le champ Exclude Filemask et exclure les conditions de filtre selon le type de fichier :

Exclude Filemask : saisissez dans le champ les types de fichiers à exclure, du tableau Filemasks dans la vue Basic settings.

Remarque :

Les types de fichier doivent être entre guillemets doubles et séparés par une virgule.

Hadoop properties

Le Studio Talend utilise une configuration par défaut pour son moteur, afin d'effectuer des opérations dans une distribution Hadoop. Si vous devez utiliser une configuration personnalisée dans une situation spécifique, renseignez dans cette table la ou les propriété(s) à personnaliser. Lors de l'exécution, la ou les propriété(s) personnalisée(s) va (vont) écraser celle(s) par défaut.

Notez que, si vous utilisez les métadonnées stockées centralement dans le Repository, cette table hérite automatiquement des propriétés définies dans ces métadonnées et passe en lecture seule jusqu'à ce que, dans la liste Property type, vous passiez de Repository à Built-in.

Pour plus d'informations concernant les propriétés requises par Hadoop et ses systèmes associés, tels que HDFS et Hive, consultez la documentation de la distribution Hadoop utilisée ou consultez la documentation d'Apache Hadoop sur http://hadoop.apache.org/docs (uniquement en anglais) en sélectionnant la version de la documentation souhaitée. À titre d'exemple, les liens vers certaines propriétés sont listés ci-après :

Généralement, les propriétés relatives à HDFS peuvent être trouvées dans le fichier hdfs-default.xml de votre distribution, par exemple dans http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml (uniquement en anglais).
Apache fournit également une page listant toutes les propriétés relatives à Hive : https://cwiki.apache.org/confluence/display/Hive/Configuration+Properties (uniquement en anglais) (en anglais).

tStatCatcher Statistics

Cochez cette case pour collecter les métadonnées de traitement du Job au niveau du Job ainsi qu'au niveau de chaque composant.

Variables globales

Variables globales	CURRENT_FILE : nom du fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères. CURRENT_FILEDIRECTORY : répertoire du fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères. CURRENT_FILEEXTENSION : extension du fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères. CURRENT_FILEPATH : chemin d'accès au fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères. NB_FILE : nombre de fichiers itérés. Cette variable est une variable Flow et retourne un entier. ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

CURRENT_FILE : nom du fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères.

CURRENT_FILEDIRECTORY : répertoire du fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères.

CURRENT_FILEEXTENSION : extension du fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères.

CURRENT_FILEPATH : chemin d'accès au fichier courant. Cette variable est une variable Flow et retourne une chaîne de caractères.

NB_FILE : nombre de fichiers itérés. Cette variable est une variable Flow et retourne un entier.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

Utilisation

Règle d'utilisation	Le composant tHDFSList fournit une liste de fichiers ou dossiers à partir du répertoire HDFS sur lequel il effectue une boucle.
Dynamic settings	Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion SCP parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à des fichiers dans différents systèmes HDFS ou dans différentes distributions, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté dans un Studio Talend indépendant. La table Dynamic settings est disponible uniquement lorsque la case Use an existing connection est cochée dans la vue Basic settings. Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable. Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les paramètres dynamiques (Dynamic settings) et les variables de contexte, consultez le Guide d'utilisation du Studio Talend.
Connections	Liens de sortie (de ce composant à un autre) : Row : Iterate Trigger : OnSubjobOk, OnSubjobError, Run if, OnComponentOk, OnComponentError. Liens d'entrée (d'un autre composant à celui-ci) : Row : Iterate. Trigger : Run if, OnSubjobOk, OnSubjobError, OnComponentOk, OnComponentError, Synchronize, Parallelize. Pour plus d'informations concernant les liens, consultez le Guide d'utilisation du Studio Talend.
Prérequis	La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le Studio Talend . La liste suivante présente des informations d'exemple relatives à MapR. Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les bibliothèques du client MapR correspondant à chaque OS peuvent être trouvées dans MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR. Pour plus d'informations, consultez la page suivante sur le site de MapR : http://www.mapr.com/blog/basic-notes-on-configuring-eclipse-as-a-hadoop-development-environment-for-mapr (uniquement en anglais) (en anglais). Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path. Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue Preferences dans le menu Window. Cet argument fournit au Studio le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs et utilisatrices en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le Studio les données stockées dans MapR. Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez.
Limitation	La version 1.6+ de JRE est requise.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.

Laissez vos commentaires ici