Propriétés du tElasticSearchOutput pour Apache Spark Streaming
Ces propriétés sont utilisées pour configurer le tElasticSearchOutput s'exécutant dans le framework de Jobs Spark Streaming.
Le composant tElasticSearchOutput Spark Streaming appartient à la famille ElasticSearch.
Ce composant est disponible dans Talend Real Time Big Data Platform et dans Talend Data Fabric.
Basic settings
Schema et Edit Schema |
Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs. |
|
Built-in : le schéma est créé et conservé localement pour ce composant seulement. |
|
Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. |
Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :
|
|
Use an existing configuration |
Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie. |
Nodes |
Saisissez l'emplacement du cluster hébergeant le système Elasticsearch à utiliser. |
Indexer |
Saisissez le nom de l'index dans lequel écrire les documents. L'index est la plus grande unité de stockage dans le système Elastisearch. |
Type |
Saisissez le nom du type auquel appartiennent les documents à écrire. Par exemple, blogpost_en et blogpost_fr peuvent être deux types représentant des articles de blogs en anglais et en français, respectivement. Vous pouvez dynamiquement utiliser les valeurs d'une colonne donnée pour qu'elles soient des types de documents. Si vous devez les utiliser ainsi, saisissez le nom de la colonne entre accolades ({}), par exemple, {blog_author}. |
Output document |
Choisissez comment écrire le document dans Elasticsearch.
|
Advanced settings
Document metadata |
Renseignez cette table afin de sélectionner les colonnes d'entrée à utiliser pour fournir les métadonnées pour chaque document. Cette table est généralement utilisée avec l'option json_document de la liste Output document dans la vue Basic settings. La colonne Column est automatiquement alimentée avec les colonnes du schéma d'entrée. Dans la colonne As metadata, vous devez cocher la case correspondant aux colonnes à utiliser. Dans la colonne Metadata type, sélectionnez le type de métadonnées de document que chaque colonne fournit. Pour plus d'informations concernant les types de métadonnées d'un document Elasticsearch, consultez https://www.elastic.co/guide/en/elasticsearch/guide/current/_document_metadata.html (uniquement en anglais). |
Use SSL/TLS |
Cochez cette case pour activer la connexion chiffrée SSL ou TLS. Utilisez le composant tSetKeystore dans le même Job afin de spécifier les informations de chiffrement. |
Configuration |
Ajoutez les paramètres acceptés par ElasticSearch pour effectuer plus d'actions personnalisées. Par exemple, saisissez es.mapping.id dans la colonne Key et true dans la colonne Value pour que l'ID du document soit contenu dans le nom de la propriété ou du champ. Notez que vous devez saisir des guillemets doubles autour des informations saisies. Pour la liste des paramètres que vous pouvez utiliser, consultez https://www.elastic.co/guide/en/elasticsearch/hadoop/master/configuration.html (uniquement en anglais) (en anglais). |
Utilisation
Règle d'utilisation |
Ce composant est utilisé en tant que composant de fin et requiert un lien d'entrée. Déposez un tElasticSearchConfiguration dans le même Job afin de vous connecter à ElasticSearch. Vous devez cocher la case Use an existing configuration et sélectionner le composant tElasticSearchConfiguration à utiliser.
Ce composant, ainsi que les composants Spark Streaming de la Palette à laquelle il appartient, s'affichent uniquement lorsque vous créez un Job Spark Streaming. Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données. |
Connexion à Spark |
Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. |