Propriétés du tWritePositionalFields pour Apache Spark Streaming
Ces propriétés sont utilisées pour configurer le tWritePositionalFields s'exécutant dans le framework de Jobs Spark Streaming.
Le composant tWritePositionalFields Spark Streaming appartient à la famille Processus en cours.
La version Streaming de ce composant est disponible dans Talend Real Time Big Data Platform et dans Talend Data Fabric.
Basic settings
Output type |
Sélectionnez le type de données à écrire en sortie dans le fichier cible. Les données sont de classe ByteArrays si vous sélectionnez byte[]. |
Schema et Edit Schema |
Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs. Le schéma de ce composant est en lecture seule. Vous pouvez cliquer sur Edit schema afin de visualiser le schéma. Lorsque le type de sortie est String, la colonne en lecture seule est messageContent. Cette colonne est utilisée pour fournir des chaînes de caractères aux composants de sortie, comme le tJMSOutput. Lorsque le type de sortie est byte, la colonne en lecture seule est serializedValue. Cette colonne est utilisée pour fournir des Byte Arrays aux composants de sortie, comme le tKafkaOutput. Vous pouvez voir le schéma de sortie et sa colonne en lecture seule en cliquant sur le lien Row > Output vers le composant suivant dans le même Job. Le schéma s'affiche dans l'onglet Basic settings de la vue Component. |
Include Header |
Cochez cette case pour inclure l'en-tête des colonnes dans le fichier. |
Custom encoding |
Il est possible de rencontrer des problèmes d'encodage lorsque vous traitez les données stockées. Dans ce cas, cochez cette case pour afficher la liste Encoding. Sélectionnez l'encodage à partir de la liste ou sélectionnez Custom et définissez-le manuellement. Ce champ est obligatoire pour la manipulation des données de base de données. Les encodages supportés dépendent de la JVM que vous utilisez. Pour plus d'informations, consultez https://docs.oracle.com (uniquement en anglais). |
Formats |
Personnalisez le format des données du fichier positionnel pour chaque colonne du schéma d'entrée.
|
Advanced settings
Advanced separator (for number) |
Cochez cette case pour modifier le séparateur utilisé pour les nombres. Par défaut, le séparateur des milliers est une virgule (,) et le séparateur décimal est un point (.). |
Utilisation
Règle d'utilisation |
Ce composant est utilisé comme étape intermédiaire. Ce composant, ainsi que les composants Spark Streaming de la Palette à laquelle il appartient, s'affichent uniquement lorsque vous créez un Job Spark Streaming. Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données. |
Connexion à Spark |
Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. |