Propriétés du tSynonymSearch pour Apache Spark Batch
Ces propriétés sont utilisées pour configurer le tSynonymSearch s'exécutant dans le framework de Jobs Spark Batch.
Le composant tSynonymSearch Spark Batch appartient à la famille Qualité de données.
Le composant de ce framework est disponible dans tous les produits Talend Platform avec Big Data et dans Talend Data Fabric.
Basic settings
Schema et Edit schema |
Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs. Les colonnes sont fournies par défaut dans le schéma de ce composant afin de présenter les détails de mise en correspondance entre les données d'entrée et les données de référence. Pour plus d'informations concernant les colonnes par défaut du schéma, consultez Colonnes par défaut du schéma. Cliquez sur Sync columns pour récupérer le schéma du composant précédent dans le Job. Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :
|
|
Built-in : le schéma est créé et conservé localement pour ce composant seulement. |
|
Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets. |
Limit of each group |
Saisissez le nombre maximum d'entrées de référence correspondant à chaque groupe de données d'entrée à afficher. Chaque ligne des données d'entrée est reconnue par ce composant comme étant un groupe. Si le nombre d'entrées dépasse la limite indiquée, ce composant affiche celles qui ont le score le plus élevé. Pour plus d'informations concernant les scores utilisés sur les entrées mises en correspondance, consultez Colonnes par défaut du schéma. |
Columns to search |
Complétez ce tableau pour renseigner les paramètres utilisés pour mettre en correspondance les données d'entrée et les entrées de référence dans un index donné. Les colonnes à renseigner sont : - Input column : sélectionnez la ou les colonne·s souhaitées dans le schéma des données d'entrée. - Reference output column : sélectionnez la ou les colonne·s dans le schéma des données de sortie pour présenter les entrées de référence correspondantes trouvées dans l'index des synonymes. Index path : saisissez le chemin d'accès de l'index que vous souhaitez récupérer sur le cluster. Cette valeur doit se trouver entre guillemets doubles. Lorsque vous utilisez le mode Spark Local, utilisez un chemin vers un dossier local. Pour Apache Spark 2.0 et les versions précédentes, le chemin doit commencer par file:///. Vous ne pouvez pas utiliser de chemin vers un dossier HDFS. Sinon, utilisez un chemin vers le dossier où est stocké l'index dans HDFS. Le chemin doit commencer par hdfs://. Vous ne pouvez pas utiliser de chemin vers un dossier local. - Search mode : sélectionnez le mode de recherche à utiliser pour mettre en correspondance les chaînes de caractères d'entrée par rapport aux chaînes de caractères de l'index. Pour plus d'informations concernant les modes de recherche disponibles, consultez Modes de recherche pour les règles d'Index. - Score threshold (disponible pour tous les modes) : configurez une valeur numérique, supérieure à 0.0, avec laquelle vous souhaitez filtrer les résultats. Configurez le seuil à 0.0 pour désactiver le filtre. La valeur du score est retournée par le moteur Lucene et est supérieure à 0. Plus le score est élevé, plus la similarité de la correspondance est élevée. Utilisez le seuil afin de supprimer des résultats en sortie les correspondances dont le score est faible. Il n'y a pas de méthode simple pour déterminer la bonne valeur du seuil. Cela dépend des données d'entrée et des données indexées. - Max edits (basé sur l'algorithme de Levenshtein et disponible pour les modes Match all fuzzy et Match any fuzzy) : sélectionnez une distance de modification, 1 ou 2, dans la liste. Tout terme dans la distance de modification depuis les données d'entrée est mis en correspondance. Avec une distance maximale de modification de 2, par exemple, vous pouvez effectuer deux insertions, suppressions ou substitutions. Les performances du rapprochement flou sont nettement améliorées avec l’option Max edits for fuzzy match. Note InformationsRemarque :
Les Jobs migrés dans le Studio depuis d'anciennes versions s'exécutent correctement, mais les résultats peuvent être légèrement différents, car l'option Max edits for fuzzy match est utilisée à la place de l'option Minimum similarity for fuzzy match. Word distance (disponible pour le Match partial) : définissez le nombre maximal de mots autorisés dans une séquence de mots pouvant être trouvée dans l'index. La valeur par défaut est 1. - Limit : saisissez le nombre maximum d'entrées de référence à mettre en correspondance avec chaque enregistrement de la colonne d'entrée correspondante que vous avez sélectionnée. |
Global Variables
Variables globales |
ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case. Une variable Flow fonctionne durant l'exécution d'un composant. Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser. Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend. |
Utilisation
Règle d'utilisation |
Ce composant est utilisé comme étape intermédiaire. Ce composant, ainsi que la Palette Spark Batch à laquelle il appartient, ne s'affiche que lorsque vous créez un Job Spark Batch. Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données. |
Connections |
Liens de sortie (de ce composant à un autre) : Row : Main, Reject. Trigger : Run if, OnComponentOk, OnComponentError. Liens d'entrée (d'un autre composant à celui-ci) : Row : Main, Reject. Pour plus d'informations concernant les liens, consultez le Guide d'utilisation du Studio Talend. |
Spark Connection |
Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. |