Propriétés du tAggregateRow MapReduce (déprécié)

Schema et Edit Schema

Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

Créez le schéma en cliquant sur le bouton Edit Schema. Si le schéma est en mode Repository, trois options sont disponibles :

• View schema : sélectionnez cette option afin de voir uniquement le schéma.

• Change to built-in property : sélectionnez cette option pour passer le schéma en mode Built-In et effectuer des modifications locales.

• Update repository connection : sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs. Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur No et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre Repository Content.

Built-in : le schéma est créé et conservé localement pour ce composant seulement.

Repository : le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.

Group by

Définissez les ensembles d'agrégation, dont les valeurs sont utilisées pour les calculs.

Output Column : sélectionnez le libellé de colonne dans la liste fournie, basée sur la structure de schéma que vous avez définie. Vous pouvez ajouter autant de colonnes de sortie que vous le souhaitez, afin d'effectuer des agrégations plus précises.

Exemple : Sélectionnez Country (Pays) pour calculer la moyenne des valeurs pour chaque pays ou sélectionnez Country et Region pour comparer les résultats des régions d'un pays par rapport aux régions d'un autre pays.

Input Column : faites le lien entre les libellés des colonnes d'entrée et ceux des colonnes de sortie, dans le cas où vous souhaitez que les libellés du schéma de sortie soient différents du schéma d'entrée.

Operations

Sélectionnez le type d'opération et la valeur à utiliser pour le calcul et le champ de sortie.

Output Column : sélectionnez le champ de destination dans la liste.

Function : sélectionnez l'opérateur parmi :

• count : calcule le nombre de ligne,

• min : sélectionne la plus petite valeur,

• max : sélectionne la plus grande valeur,

• avg : calcule la moyenne,

• sum : calcule la somme,

• list : liste les valeurs d'une agrégation de plusieurs clés,

• list (object) : liste les valeurs Java d'une agrégation de plusieurs clés,

• count (distinct) : compte le nombre de lignes sans les doublons,

• standard deviation : calcule la variabilité d'un jeu de valeurs.

• union (geometry) : fusionne un ensemble d'objets Geometry.

Certaines fonctionnalités disponibles dans un Job ETL traditionnel, comme first ou last, ne sont pas disponibles dans les Jobs MapReduce, car ces fonctionnalités ne sont pas utiles dans un environnement distribué.

Input column : sélectionnez la colonne d'entrée à partir de laquelle les valeurs sont récupérées avant d'être agrégées.

Ignore null values : cochez cette case devant le nom de toutes les colonnes pour lesquelles vous voulez que les valeurs nulles soient ignorées.

Delimiter(only for list operation)

Saisissez le séparateur que vous souhaitez utiliser afin de séparer les différentes opérations.

Use financial precision, this is the max precision for "sum" and "avg" operations, checked option heaps more memory and slower than unchecked.

Sélectionnez cette case pour utiliser la précision financière. C'est une précision maximale, mais qui consomme plus de mémoire et rend le processus plus lent.

Check type overflow (slower)

Vérifie les types des données afin d'éviter que le Job ne plante.

Check ULP (Unit in the Last Place), ensure that a value will be incremented or decremented correctly, only float and double types. (slower)

Cochez cette case afin d'avoir la meilleure précision possible pour les types Float et Double.

Variables globales

ERROR_MESSAGE : message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement si la case Die on error est décochée, lorsque le composant contient cette case.

Une variable Flow fonctionne durant l'exécution d'un composant.

Pour renseigner un champ ou une expression à l'aide d'une variable, appuyez sur les touches Ctrl+Espace pour accéder à la liste des variables. À partir de cette liste, vous pouvez choisir la variable que vous souhaitez utiliser.

Pour plus d'informations concernant les variables, consultez le Guide d'utilisation du Studio Talend.

Règle d'utilisation

Dans un Job Map/Reduce Talend, il est utilisé comme étape intermédiaire, avec d'autres composants Map/Reduce. Ils génèrent nativement du code Map/Reduce pouvant être exécuté directement dans Hadoop.

Pour plus d'informations concernant les Jobs Map/Reduce Talend, consultez les sections décrivant comment créer, convertir et configurer un Job Map/Reduce Talend, dans le Guide de prise en main de Talend Big Data.

Notez que, dans cette documentation, sauf mention contraire, un scénario présente uniquement des Jobs Standard, c'est-à-dire des Jobs Talend traditionnels d'intégration de données et non des Jobs Map/Reduce.