Propriétés du tWriteJSONField pour Apache Spark Streaming
Ces propriétés sont utilisées pour configurer le tWriteJSONField s'exécutant dans le framework de Jobs Spark Streaming.
Le composant tWriteJSONField Spark Streaming appartient à la famille Processus en cours.
Ce composant est disponible dans Talend Real-Time Big Data Platform et dans Talend Data Fabric.
Basic settings
Propriétés | Description |
---|---|
Output type |
Sélectionnez le type de données à écrire en sortie dans le fichier cible. Les données sont de classe ByteArrays si vous sélectionnez byte[]. |
Editor |
Cliquez pour ouvrir l'interface de création de la structure de données JSON. Pour plus d'informations, consultez Configurer une arborescence JSON. |
Schema et Edit Schema |
|
Sync colonnes |
Cliquez sur ce bouton pour synchroniser le schéma de sortie avec celui d'entrée. La fonction Sync s'affiche uniquement lorsque le lien Row est connecté au composant de sortie. |
Group by |
Définissez l'ensemble d'agrégation, les colonnes que vous souhaitez utiliser pour regrouper les données. Note InformationsAvertissement :
Assurez-vous que les données à grouper sont en ordre séquentiel. Note InformationsRemarque :
Si le champ Group by n'est pas vide, l'ordre des lignes au sein du groupe n'est pas garanti par Spark. |
Remove root node |
Cochez cette case pour supprimer le nœud racine du champ JSON généré. |
Utilisation
Conseils d'utilisation | Description |
---|---|
Règle d'utilisation |
Ce composant est utilisé comme étape intermédiaire. Ce composant, ainsi que les composants Spark Streaming de la Palette à laquelle il appartient, s'affichent uniquement lorsque vous créez un Job Spark Streaming. Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données. |
Connexion à Spark |
Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. |