Propriétés du tWriteJSONField pour Apache Spark Streaming
Ces propriétés sont utilisées pour configurer le tWriteJSONField s'exécutant dans le framework de Jobs Spark Streaming.
Le composant tWriteJSONField Spark Streaming appartient à la famille Processus en cours.
Ce composant est disponible dans Talend Real Time Big Data Platform et dans Talend Data Fabric.
Basic settings
Output type |
Sélectionnez le type de données à écrire en sortie dans le fichier cible. Les données sont de classe ByteArrays si vous sélectionnez byte[]. |
Editor |
Cliquez pour ouvrir l'interface de création de la structure de données JSON. Pour plus d'informations, consultez Configurer une arborescence JSON. |
Schema et Edit Schema |
Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs. Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :
|
|
Built-in : le schéma est créé et conservé localement pour ce composant seulement. |
|
Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. |
Sync colonnes |
Cliquez sur ce bouton pour synchroniser le schéma de sortie avec celui d'entrée. La fonction Sync s'affiche uniquement lorsque le lien Row est connecté au composant de sortie. |
Group by |
Définissez l'ensemble d'agrégation, les colonnes que vous souhaitez utiliser pour regrouper les données. Note InformationsAvertissement :
Assurez-vous que les données à grouper sont en ordre séquentiel. Note InformationsRemarque :
Si le champ Group by n'est pas vide, l'ordre des lignes au sein du groupe n'est pas garanti par Spark. |
Remove root node |
Cochez cette case pour supprimer le nœud racine du champ JSON généré. |
Utilisation
Règle d'utilisation |
Ce composant est utilisé comme étape intermédiaire. Ce composant, ainsi que les composants Spark Streaming de la Palette à laquelle il appartient, s'affichent uniquement lorsque vous créez un Job Spark Streaming. Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données. |
Connexion à Spark |
Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. |