# tChunking

Disponible dans...

* Cloud Data Fabric
* Data Fabric
* Qlik Talend Cloud Enterprise Edition
* Real-Time Big Data Platform

Ce composant scinde de grands textes en morceaux plus petits et plus gérables.

Ce composant n'est pas intégré par défaut à votre Studio Talend. Vous devez l'installer à l'aide du gestionnaire des fonctionnalités. Pour plus d'informations, consultez [Installer les fonctionnalités à l'aide du Gestionnaire des fonctionnalités](https://help.qlik.com/talend/r/fr-FR/8.0/studio-user-guide/install-features-to-talend-studio).

## Propriétés du tChunking Standard

Ces propriétés sont utilisées pour configurer le tChunking s'exécutant dans le framework de Jobs Standard.

Le composant tChunking Standard appartient à la famille IA.

## Basic settings

| Propriétés | Description |
| --- | --- |
| Schema et Edit Schema | <ul> <li> <p>Un schéma est une description de lignes. Il définit le nombre de champs (colonnes) à traiter et à passer au composant suivant. Lorsque vous créez un Job Spark, évitez le mot réservé <kbd>line</kbd> lors du nommage des champs.</p> <p>Cliquez sur <span>Sync columns</span> pour récupérer le schéma du composant précédent dans le Job.</p> <p>Créez le schéma en cliquant sur le bouton <span>Edit Schema</span>. Si le schéma est en mode <span>Repository</span>, trois options sont disponibles&nbsp;:</p> <ul> <li> <p> <span>View schema</span>&nbsp;: sélectionnez cette option afin de voir uniquement le schéma.</p> </li> <li> <p> <span>Change to built-in property</span>&nbsp;: sélectionnez cette option pour passer le schéma en mode <span>Built-In</span> et effectuer des modifications locales.</p> </li> <li> <p> <span>Update repository connection</span>&nbsp;: sélectionnez cette option afin de modifier le schéma stocké dans le référentiel et décider de propager ou non les modifications à tous les Jobs.</p> <p>Si vous souhaitez propager les modifications uniquement au Job courant, cliquez sur <span>No</span> et sélectionnez à nouveau la métadonnée du schéma dans la fenêtre <span>Repository Content</span>.</p> </li> </ul> </li> <li> <p> <span>Built-in</span>&nbsp;: le schéma est créé et conservé localement pour ce composant seulement.</p> </li> <li> <p> <span>Repository</span>&nbsp;: le schéma existe déjà et est stocké dans le Repository. Ainsi, il peut être réutilisé dans des Jobs et projets.</p> </li> </ul> |
| Split column | Sélectionnez la colonne à scinder en morceaux. |
| Chunking method | Sélectionnez la méthode dans la liste déroulante :<br><br><ul> <li> <span>Fixed-size</span>&nbsp;: chaque morceau contient le même nombre de caractères.</li> <li> <span>Token-based</span>&nbsp;: chaque morceau contient le même nombre de jetons.</li> </ul><br><br>Les morceaux auront au maximum la taille définie. |
| Chunk size | Saisissez le nombre de caractères ou de jetons devant être contenus dans un morceau.<br><br>Lorsque la méthode est Chunking method :<br><br><ul> <li> <span>Fixed-size</span>. La taille se base sur le nombre de caractères. Par exemple, <kbd>How are you?</kbd> équivaut à 12&nbsp;caractères.</li> <li> <span>Token-based</span>. La taille se base sur le jeton. <kbd>How are you?</kbd> équivaut à 4&nbsp;jetons. 										<kbd>How</kbd>, <kbd>are</kbd>, <kbd>you</kbd> et <kbd>?</kbd> valent chacun un jeton.</li> </ul> |
| Chunk overlap | Saisissez le nombre de caractères ou de jetons devant se chevaucher entre deux morceaux adjacents. Ce nombre doit être inférieur à la valeur définie dans Chunk size.<br><br>Le chevauchement assure la continuité et le contexte entre les morceaux. Il empêche également la segmentation de perturber le flux et la cohérence du texte.<br><br>Le chevauchement se base sur la méthode de scission en morceaux, Fixed-size ou Token-based. |
| Tokenizer | Cette option est disponible lorsque l'option Token-based est sélectionnée dans la liste Chunking method.<br><br>Sélectionnez le modèle dans la liste déroulante.<br><br>Hugging Face peut nécessiter davantage de temps que les autres modèles. |

## Advanced settings

| Propriétés | Description |
| --- | --- |
| tStatCatcher Statistics | Cochez cette case pour collecter les métadonnées de traitement du Job, aussi bien au niveau du Job qu'au niveau de chaque composant. |

## Utilisation

| Conseils d'utilisation | Description |
| --- | --- |
| **Règle d'utilisation** | Ce composant est utilisé comme étape intermédiaire. Il nécessite un flux d'entrée et un flux de sortie. |