Propriétés du tAzureFSConfiguration pour Apache Spark Batch

Ces propriétés sont utilisées pour configurer le tAzureFSConfiguration s'exécutant dans le framework de Jobs Spark Batch.

Le composant tAzureFSConfiguration Spark Batch appartient à la famille Stockage.

Le composant de ce framework est disponible dans tous les produits Talend avec Big Data nécessitant une souscription et dans Talend Data Fabric.

Basic settings

Azure FileSystem	Sélectionnez le système de fichiers à utiliser. Les paramètres à définir sont affichés en fonction. Ce composant est conçu pour stocker vos données utilisateur·rice ou vos données métier dans un système Data Lake Storage et n'est pas compatible avec un Data Lake Storage défini en tant que stockage principal dans HDInsight. Pour cette raison, si vous utilisez ce composant avec HDInsight, lorsque vous lancez HDInsight, configurez toujours Blob storage et non Data Lake Storage, comme stockage principal.

Azure FileSystem

Sélectionnez le système de fichiers à utiliser. Les paramètres à définir sont affichés en fonction.

Ce composant est conçu pour stocker vos données utilisateur·rice ou vos données métier dans un système Data Lake Storage et n'est pas compatible avec un Data Lake Storage défini en tant que stockage principal dans HDInsight. Pour cette raison, si vous utilisez ce composant avec HDInsight, lorsque vous lancez HDInsight, configurez toujours Blob storage et non Data Lake Storage, comme stockage principal.

Lorsque vous utilisez ce composant avec Azure Blob Storage :

Blob storage account	Saisissez le nom du compte de stockage auquel vous devez accéder. Vous pouvez trouver un nom de compte de stockage dans le dashboard Storage accounts du système Microsoft Azure Storage à utiliser. Assurez-vous que l'administrateur du système a donné les droits d'accès appropriés à ce compte de stockage.
Account key	Saisissez la clé associée au compte de stockage auquel vous devez accéder. Deux clés sont disponibles pour chaque compte. Par défaut, n'importe laquelle peut être utilisée pour accéder au compte. Sélectionnez dans la liste déroulante le composant dont les informations de connexion seront utilisées pour configurer la connexion à Azure Storage.
Container	Saisissez le nom du conteneur de blob à utiliser.

Lorsque vous utilisez ce composant avec Azure Data Lake Storage Gen1 :

Data Lake Storage account	Saisissez le nom du compte Data Lake Store auquel accéder. Assurez-vous que l'administrateur du système vous a donné les droits d'accès appropriés pour ce compte.
Client ID et Client key	Dans les champs Client ID et Client key, saisissez respectivement l'ID et la clé d'authentification générés après enregistrement de l'application que le Job que vous développez utilise pour accéder à Azure Data Lake Storage. Assurez-vous que l'application à utiliser a les droits d'accès à Azure Data Lake. Vous pouvez vérifier dans la vue Required permissions de cette application, dans Azure. Pour plus d'informations, consultez la documentation Azure Affecter l’application Azure AD au dossier ou fichier de compte Azure Data Lake Storage.
Token endpoint	Dans le champ Token endpoint, copiez-collez l'endpoint du jeton OAuth 2.0 que vous pouvez obtenir à partir de la liste Endpoints dans la page App registrations de votre portail Azure.

Data Lake Storage account

Saisissez le nom du compte Data Lake Store auquel accéder. Assurez-vous que l'administrateur du système vous a donné les droits d'accès appropriés pour ce compte.

Client ID et Client key

Dans les champs Client ID et Client key, saisissez respectivement l'ID et la clé d'authentification générés après enregistrement de l'application que le Job que vous développez utilise pour accéder à Azure Data Lake Storage.

Assurez-vous que l'application à utiliser a les droits d'accès à Azure Data Lake. Vous pouvez vérifier dans la vue Required permissions de cette application, dans Azure. Pour plus d'informations, consultez la documentation Azure Affecter l’application Azure AD au dossier ou fichier de compte Azure Data Lake Storage.

Token endpoint

Dans le champ Token endpoint, copiez-collez l'endpoint du jeton OAuth 2.0 que vous pouvez obtenir à partir de la liste Endpoints dans la page App registrations de votre portail Azure.

Lorsque vous utilisez ce composant avec Azure Data Lake Storage Gen2 :

Mode d'authentification	Configurez le type d'authentification pour vous connecter à Azure ADLS Gen2. Les options suivantes sont fournies : Secret Key : sélectionnez cette option pour accéder à Azure ADLS Gen2 à l'aide de la clé du système de fichiers de votre compte de stockage Azure. Azure Active Directory : sélectionnez cette option pour accéder à Azure ADLS Gen2 à l'aide de vos identifiants Azure Active Directory (Azure AD).
Data Lake Storage account	Saisissez le nom du compte Data Lake Store auquel accéder. Assurez-vous que l'administrateur du système vous a donné les droits d'accès appropriés pour ce compte.
Application ID et Directory ID	Dans les champs Application ID et Directory ID, copiez-collez respectivement l'ID de l'application (client) et l'ID du répertoire (tenant), que vous pouvez obtenir depuis l'onglet Overview accessible sur la page App registrations dans votre portail Azure. Ces champs sont disponibles uniquement si vous sélectionnez Azure Active Directory dans la liste déroulante Authentication mode.
Client Key	Dans le champ Client key, saisissez la clé d'authentification générée après enregistrement de l'application que le Job que vous développez utiliser pour accéder à Azure Data Lake Storage. Assurez-vous que l'application à utiliser a les droits d'accès à Azure Data Lake. Vous pouvez vérifier dans la vue Required permissions de cette application, dans Azure. Pour plus d'informations, consultez la documentation Azure Affecter l’application Azure AD au dossier ou fichier de compte Azure Data Lake Storage. Ce champ est disponible uniquement si vous sélectionnez Azure Active Directory dans la liste déroulante Authentication mode.
Account key	Saisissez la clé de compte pour accéder au système de fichiers de votre compte de stockage Azure. Ce champ est disponible uniquement si vous sélectionnez Secret Key dans la liste déroulante Authentication mode.
File system	Entrez dans ce champ le système de fichiers ADLS Gen2 à utiliser. Les systèmes de fichiers ADLS Gen2 sont hiérarchiques et donc, compatibles avec HDFS.
Create remote file system during initialization	Si le système de fichiers ADLS Gen2 à utiliser n'existe pas, cochez cette case pour le créer à la volée.

Variables globales

Variables globales	ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables.

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant. Une variable After fonctionne après l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez Utiliser les contextes et les variables.

Utilisation

Usage rule	Vous pouvez utiliser plusieurs composants tAzureFSConfiguration dans un sous-Job pour fournir la configuration de connexion à plusieurs systèmes de fichiers Azure (ADLS Gen2 uniquement) pour le Job complet. Pour d'autres systèmes de fichiers Azure (ADLS Gen1 et Azure Blob Storage), ce composant est utilisé en standalone dans un sous-Job. Si vous utilisez plusieurs composants tAzureFSConfiguration, assurez-vous de configurer la même valeur pour la propriété createRemoteFileSystemDuringInitialization pour toutes les instances Azure ADLS Gen2. Le tAzureFSConfiguration ne supporte pas l'accès à Google Cloud Dataproc V1.1 via SSL. Les fichiers de sortie de Spark ne peuvent pas être fusionnés en un seul fichier sur Azure Data Lake Storage, car cette fonction n'est pas supportée par Azure Data Lake Storage. En outre, cette fonction a été abandonnée dans la dernière API Hadoop.
Spark Connection	Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers : Lorsque vous utilisez HDInsight, spécifiez le blob à utiliser pour le déploiement du Job, dans la zone Windows Azure Storage configuration de l'onglet Spark configuration. Lorsque vous utilisez Altus, spécifiez le bucket S3 ou le stockage Azure Data Lake Storage (aperçu technique) pour le déploiement du Job, dans l'onglet Spark configuration. Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Usage rule

Vous pouvez utiliser plusieurs composants tAzureFSConfiguration dans un sous-Job pour fournir la configuration de connexion à plusieurs systèmes de fichiers Azure (ADLS Gen2 uniquement) pour le Job complet. Pour d'autres systèmes de fichiers Azure (ADLS Gen1 et Azure Blob Storage), ce composant est utilisé en standalone dans un sous-Job.

Si vous utilisez plusieurs composants tAzureFSConfiguration, assurez-vous de configurer la même valeur pour la propriété createRemoteFileSystemDuringInitialization pour toutes les instances Azure ADLS Gen2.

Le tAzureFSConfiguration ne supporte pas l'accès à Google Cloud Dataproc V1.1 via SSL.

Les fichiers de sortie de Spark ne peuvent pas être fusionnés en un seul fichier sur Azure Data Lake Storage, car cette fonction n'est pas supportée par Azure Data Lake Storage. En outre, cette fonction a été abandonnée dans la dernière API Hadoop.

Spark Connection

Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :

Lorsque vous utilisez HDInsight, spécifiez le blob à utiliser pour le déploiement du Job, dans la zone Windows Azure Storage configuration de l'onglet Spark configuration.
Lorsque vous utilisez Altus, spécifiez le bucket S3 ou le stockage Azure Data Lake Storage (aperçu technique) pour le déploiement du Job, dans l'onglet Spark configuration.

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.

Laissez vos commentaires ici