# tMapRStreamsInputAvro Ce composant transmet des messages au format Avro au Job exécutant des transformations sur ces messages. Ce composant supporte uniquement les versions 5.2 et suivantes de MapR. ## Propriétés du tMapRStreamsInputAvro pour Apache Spark Streaming Ces propriétés sont utilisées pour configurer le tMapRStreamsInputAvro s'exécutant dans le framework de Jobs Spark Streaming. Le composant tMapRStreamsInputAvro Spark Streaming appartient à la famille Messaging. La version Streaming de ce composant est disponible dans Talend Real-Time Big Data Platform et dans Talend Data Fabric. ## Basic settings | Propriétés | Description | | --- | --- | | Schema et Edit schema | Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé line lors du nommage des champs.

Notez que le schéma de ce composant est en lecture seule. Il stocke le corps du message envoyé du producteur du message. | | Démarrage de l''offset | Sélectionnez le point de départ duquel les messages d'un topic sont consommés.

Dans MapR Streams, le numéro d'ID séquentiel d'un message se nomme *offset*. Lorsqu'un nouveau groupe de consommateurs démarre, dans cette liste, vous pouvez sélectionner beginning pour commencer la consommation depuis le message le plus ancien du topic entier ou sélectionner latest pour attendre un nouveau message.

Notez que le groupe de consommateurs prend en compte uniquement les messages dont l'offset a été commité comme point de départ.

Chaque groupe de consommateurs possède son propre compteur pour se rappeler la position d'un message consommé. Pour cette raison, une fois qu'un groupe de consommateurs a commencé à consommer des messages d'un topic donné, un groupe de consommateurs reconnaît le message le plus récent en voyant simplement la position où son groupe a arrêté la consommation, plutôt que le topic complet. Partant de ce principe, les comportements suivants peuvent être attendus :

Si vous reprenez un groupe de consommateurs existant, cette option détermine le point de départ de ce groupe de consommateurs uniquement s'il n'a pas déjà de point de départ commité. Sinon, ce groupe de consommateurs démarre du point de départ commité. Par exemple, un topic contient 100 messages. Si un groupe de consommateurs existant a traité 50 messages et a commité leurs offsets, le même groupe de consommateurs reprend à partir de l'offset 51.
Si vous créez un nouveau groupe de consommateurs ou en réinitialisez un existant, ce qui signifie que ce groupe n'a consommé aucun message de ce topic, lorsque vous le démarrez depuis le dernier message, ce nouveau groupe démarre et attend l'offset 101.

| | Topic name | Saisissez le nom du topic duquel le tMapRStreamsInput reçoit le flux des messages. Vous devez saisir le nom du flux auquel ce topic appartient. La syntaxe est la suivante : *chemin\_du\_flux:nom\_du\_topic* | | Configurer le nombre d'enregistrements à lire par seconde de chaque partition Kafka | Saisissez ce nombre entre guillemets doubles afin de limiter la taille de chaque lot à envoyer pour traitement.

Par exemple, si vous saisissez *100* et que la valeur du batch définie dans l'onglet Spark configuration est *2* secondes, la taille de partition pour chaque batch est de *200* messages.

Si vous laissez cette case décochée, le composant essaie de lire tous les messages disponibles en une seconde dans un batch avant d'envoyer ce dernier, ce qui peut conduire le Job à ne plus répondre s'il gère une grande quantité de messages. | ## Advanced settings | Propriétés | Description | | --- | --- | | Propriétés du consommateur | Ajoutez les propriétés de consommation Kafka nécessaires pour personnaliser cette table. | | Utiliser le mode hiérarchique | Cochez cette case pour mapper le schéma binaire (y compris le schéma hiérarchique) Avro au schéma plat défini dans l'éditeur de schéma du composant. Si le message Avro à traiter est plat, laissez cette case décochée.

Une fois cochée, vous devez configurer le(s) paramètre(s) suivant(s) :

Local path to the avro schema : parcourez jusqu'au fichier définissant le schéma de données Avro à traiter.
Mapping : créez le mapping entre les colonnes du schéma du composant courant et les données stockées dans le message hiérarchique Avro à gérer. Dans la colonne Node, vous devez saisir le chemin d'accès à JSON pointant vers les données à lire du message Avro.

| ## Utilisation | Conseils d'utilisation | Description | | --- | --- | | **Règle d'utilisation** | Ce composant est utilisé en tant que composant de début et nécessite un lien de sortie. | | Spark Connection | Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :

Yarn mode (Yarn Client ou Yarn Cluster) :
- Lorsque vous utilisez Google Dataproc, spécifiez un bucket dans le champ Google Storage staging bucket de l'onglet Spark configuration.
- Lorsque vous utilisez HDInsight, spécifiez le blob à utiliser pour le déploiement du Job, dans la zone Windows Azure Storage configuration de l'onglet Spark configuration.
- Lorsque vous utilisez Altus, spécifiez le bucket S3 ou le stockage Azure Data Lake Storage (aperçu technique) pour le déploiement du Job, dans l'onglet Spark configuration.
- Lorsque vous utilisez des distributions sur site (on-premises), utilisez le composant de configuration correspondant au système de fichiers utilisé par votre cluster. Généralement, ce système est HDFS et vous devez utiliser le tHDFSConfiguration.
Standalone mode : utilisez le composant de configuration correspondant au système de fichiers que votre cluster utilise, comme le tHDFSConfiguration Apache Spark Batch ou le tS3Configuration Apache Spark Batch.

Si vous utilisez Databricks sans composant de configuration dans votre Job, vos données métier sont écrites directement dans DBFS (Databricks Filesystem).

Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. | | Prérequis | La distribution Hadoop doit être correctement installée afin de garantir les interactions avec le *Studio Talend* . La liste suivante présente des informations d'exemple relatives à MapR.

Assurez-vous d'avoir installé le client MapR sur la même machine que le Studio Talend et d'avoir ajouté la bibliothèque client de MapR dans la variable PATH de cette machine. D'après la documentation de MapR, la ou les bibliothèques du client MapR correspondant à chaque OS peuvent être trouvées dans MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native. Par exemple, pour Windows, la bibliothèque est lib\MapRClient.dll dans le fichier Jar du client MapR.

Si vous n'ajoutez pas de librairie, il est possible que vous rencontriez l'erreur suivante : no MapRClient in java.library.path.
Configurez l'argument -Djava.library.path, par exemple, dans la zone Job Run VM arguments de la vue Run/Debug de la boîte de dialogue Preferences dans le menu Window. Cet argument fournit au Studio Talend le chemin d'accès à la bibliothèque native du client MapR. Cela permet aux utilisateurs et utilisatrices en souscription d'utiliser entièrement l'aperçu des données (Data viewer) afin de visualiser localement dans le Studio Talend les données stockées dans MapR.

Pour plus d'informations concernant l'installation d'une distribution Hadoop, consultez le manuel correspondant à la distribution Hadoop que vous utilisez. |