Accéder au contenu principal Passer au contenu complémentaire

tS3List

Ce composant de liste les fichiers dans Amazon S3 selon les paramètres de préfixe du bucket ou du fichier.

Propriétés du tS3List Standard

Ces propriétés sont utilisées pour configurer le tS3List s'exécutant dans le framework de Jobs Standard.

Le composant tS3List Standard appartient à la famille Cloud.

Le composant de ce framework est disponible dans tous les produits Talend.

Basic settings

Propriétés Description
Property type

Peut être Built-In ou Repository.

Built-In : aucune propriété n'est stockée de manière centrale.

Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Credential provider

Spécifiez la manière d'obtenir les identifiants de sécurité AWS.

  • Static credentials : utilisez access key et secret key comme identifiants de sécurité AWS.
  • Inherit credentials from AWS role : obtenez les identifiants de sécurité AWS pour vos métadonnées d'instance EMR. Pour utiliser cette option, le cluster Amazon EMR doit être démarré et votre Job doit s'exécuter sur ce cluster. Pour plus d'informations, consultez Utilisation d'un rôle IAM pour accorder des autorisations à des applications s'exécutant sur des instances Amazon EC2. Cette option vous permet de développer votre Job sans avoir à mettre de clé AWS dans le Job et ainsi satisfaire à la politique de sécurité de votre entreprise.
  • Web Identity Token : utilisez le jeton Web pour établir la connexion à Amazon S3.
  • Profile credentials or inherit from AWS role: utilisez les informations d'authentification stockées dans un fichier (appelé fichier de configuration de profil) comme informations d'authentification de sécurité AWS ou héritez de ces informations du rôle AWS.

    Les informations d'authentification de sécurité peuvent être regroupées dans des profils dans les fichiers de configuration de profils. Un fichier de configuration de profils peut contenir un ou plusieurs profils. Vous pouvez choisir de spécifier le fichier de configuration de profils dans le champ Profile path et spécifier le profil à utiliser dans le champ Profile name.

    Si les champs Profile path et Profile name sont vides, <user folder>/.aws/credentials sera utilisé comme fichier de configuration de profils et le profil default sera utilisé.

    Dans le cas des instances EC2, si le profil (spécifié ou profil par défaut) n'existe pas, le composant tentera d'hériter des informations d'authentification de sécurité AWS du rôle AWS.

Cette option peut fonctionner comme paramètre dynamique et se voir attribuer une valeur à l'aide d'une variable de contexte.

Note InformationsRemarque : Les composants tRedshiftBulkExec, tRedshiftOutputBulk et tRedshiftOutputBulkExec supportent les connexions S3 qui sont établies avec la valeur de Credential Provider configurée à Static Credentials ou Inherit credentials from AWS role.

Assume Role (Endosser un rôle)

Si vous avez temporairement besoin d'autorisations d'accès relatives à un rôle AWS IAM qui n'est pas octroyé à votre compte d'utilisateur·trice, cochez cette case afin d'assumer ce rôle. Puis, spécifiez les valeurs des paramètres suivants pour créer une session du rôle.

Assurez-vous que l'accès à ce rôle a été octroyé à votre compte d'utilisateur ou d'utilisatrice par la politique de sécurité associée à ce rôle. En cas de doute, adressez-vous au propriétaire de ce rôle ou à votre administrateur AWS.

  • ARN : nom Amazon Resource Name (ARN) du rôle à endosser. Vous pouvez trouver ce nom ARN sur la page Summary du rôle à utiliser sur votre portail AWS. Ce ARN de rôle pourrait être par exemple am:aws:iam::[aws_account_number]:role/[role_name].

    Role session name : saisissez le nom que vous souhaitez utiliser pour identifier de façon unique votre session de rôle. Ce nom peut être composé de caractères alphanumériques en majuscules ou en minuscules, sans espaces. Vous pouvez également inclure des tirets bas ou les caractères suivants : =,.@-.
  • Session duration (minutes) : durée (en minutes) pour laquelle vous souhaitez que la session du rôle soit active. Cette durée ne peut pas être supérieure à la durée maximale définie par votre administrateur AWS. La durée par défaut est de 3 600 secondes si vous ne configurez pas de valeur.

Pour consulter un exemple relatif au rôle IAM et à ses types de politiques associés, accédez à Create and Manage AWS IAM Roles depuis la documentation AWS (en anglais).
Region

Spécifiez la région AWS en sélectionnant ou saisissant le nom d'une région entre guillemets doubles ("us-east-1" par exemple). Pour plus d'informations concernant les zones géographiques AWS, consultez Régions et points de terminaison AWS .

List all bucket objects Cochez cette case pour lister tous les fichiers sur le serveur S3.

Key prefix : saisissez le préfixe des fichiers à lister. Ainsi, seuls les fichiers contenant ce préfixe seront listés.

Bucket Cliquez sur le bouton [+] pour ajouter une ou plusieurs lignes afin de définir les préfixes des buckets et fichiers.

Bucket name : saisissez le nom du bucket, le dossier de plus haut niveau, duquel lister les fichiers.

Key prefix : saisissez le préfixe des fichiers à lister.

Cette option est indisponible lorsque la case List all bucket objects est cochée.

Die on error Cette case est décochée par défaut, ce qui vous permet de terminer le traitement avec les lignes sans erreur, et d'ignorer les lignes en erreur.

Paramètres avancés

Propriétés Description
tStatCatcher Statistics Cochez cette case afin de collecter les données de log au niveau du composant.
Use a custom region endpoint (Utiliser un endpoint de région personnalisé) Cochez cette case pour utiliser un endpoint personnalisé et, dans le champ qui s'affiche, spécifiez l'URL de l'endpoint personnalisé à utiliser.

Cette option peut fonctionner comme paramètre dynamique et se voir attribuer une valeur à l'aide d'une variable de contexte.

Signing region

Sélectionnez la région AWS du service STS. Si la région n'est pas dans la liste, vous pouvez saisir son nom entre guillemets doubles. La valeur par défaut est us-east-1.

Cette liste déroulante est disponible uniquement lorsque la case Assume role est cochée.

Specify STS endpoint

Cochez cette case afin de spécifier l'endpoint du service AWS Security Token Service duquel les informations d'authentification sont récupérées. Par exemple, saisissez sts.amazonaws.com.

Ce service vous permet d'effectuer une requête pour obtenir des identifiants temporaires, avec des droits limités, pour l'authentification utilisateur·trice à AWS. Vous devez fournit la clé d'accès et la clé secrète pour vous authentifier au compte AWS à utiliser.

Pour la liste des endpoints STS que vous pouvez utiliser, consultez AWS Security Token Service. Pour plus d'informations concernant les identifiants STS temporaires, consultez Temporary Security Credentials. Ces deux articles proviennent de la documentation AWS.

Cette case est disponible uniquement lorsque la case Assume role est cochée.

External ID

Si l'administrateur du compte auquel le rôle appartient vous a fourni un ID externe, saisissez sa valeur ici. L'ID externe (External Id) est un identifiant unique permettant à un nombre d'utilisateurs et d'utilisatrices limité d'avoir ce rôle.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Serial number

Lorsque vous avez un rôle attribué, la politique de confiance de ce rôle peut nécessiter une authentification multifacteur. Dans ce cas, vous devez indiquer le numéro d'identification du matériel ou de l'appareil d'authentification multifacteur virtuel associé à l'utilisateur ou l'utilisatrice ayant ce rôle.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Token code

Lorsque vous avez un rôle attribué, la politique de confiance de ce rôle peut nécessiter une authentification multifacteur. Dans ce cas, vous devez indiquer un code de jeton. Ce code de jeton est un mot de passe à utilisation unique produit par l'appareil d'authentification multifacteur.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Tags (Mots-clés)

Liste les balises de session sous forme de paires clé-valeur. Vous pouvez utiliser ces balises de session dans des politiques afin de permettre d'autoriser ou l'accès aux requêtes.

Transitive : cochez cette case pour indiquer qu'une balise persiste vers le rôle suivant dans une chaîne de rôles.

Pour plus d'informations concernant les balises, consultez Chaînage des rôles avec des balises de session.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

IAM policy ARNs

Saisissez les noms ARN (Amazon Resource Names) des stratégies gérées par IAM que vous souhaitez utiliser comme stratégies de sessions gérées. Utiliser les stratégies de sessions gérées afin de limiter les autorisations de la session. Les politiques doivent exister dans le même compte que le rôle. Les autorisations de la session sont au croisement de la stratégie des rôles basée sur l'identité et des stratégies de sessions.

Pour plus d'informations concernant les stratégies de sessions, consultez la documentation Stratégies de session.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Policy

Saisissez une politique IAM au format JSON, à utiliser comme politique de session. Utilisez les politiques de session afin de limiter les autorisations de la session. Les autorisations de la session sont au croisement de la stratégie des rôles basée sur l'identité et des stratégies de sessions.

Pour plus d'informations concernant les stratégies de sessions, consultez la documentation Stratégies de session.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Config client

Cochez cette case et spécifiez les paramètres du client en cliquant sur le bouton [+] pour ajouter autant de lignes que nécessaire, chaque ligne pour un paramètre client. Configurez la valeur des champs suivants pour chaque paramètre :
  • Client parameter : cliquez dans la cellule et sélectionnez un paramètre dans la liste déroulante.

  • Value : saisissez la valeur du paramètre sélectionné.

Cette case est disponible uniquement lorsque la case Use an existing connection est décochée.

Pour plus d'informations, consultez la documentation AWS.

Get owner information Cochez cette case pour récupérer le propriétaire du bucket S3. Pour utiliser cette opération, vous devez avoir les autorisations s3:GetObjectAcl.

Variables globales

Variables Description

CURRENT_BUCKET_NAME

Nom du bucket courant. Cette variable est une variable Flow et retourne une chaîne de caractères.

CURRENT_KEY

Clé courante. Cette variable est une variable Flow et retourne une chaîne de caractères.

NB_BUCKET

Nombre de buckets. Cette variable est une variable After et retourne un entier.

NB_BUCKET_OBJECT

Nombre d'objets dans tous les buckets. Cette variable est une variable After et retourne un entier.

ERROR_MESSAGE

Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement lorsque la case Die on error est cochée.

CURRENT_SIZE

Taille du fichier (en octets). Cette variable est une variable Flow et retourne un nombre entier.

CURRENT_LASTMODIFIED

Date de dernière modification du fichier. Cette variable est une variable Flow et retourne une date (au format MM-DD-YYYY).

CURRENT_OWNER

Nom du ou de la propriétaire de l'objet. Cette variable est une variable Flow et retourne une chaîne de caractères.

CURRENT_OWNER_ID

ID AWS du ou de la propriétaire de l'objet. Cette variable est une variable Flow et retourne une chaîne de caractères.

CURRENT_ETAG

Valeur hexadécimale de hachage MD5 (128 bits) du contenu de l'objet. Cette variable est une variable Flow et retourne une chaîne de caractères.

CURRENT_STORAGECLASS

Classe de stockage utilisée pour l'objet. Cette variable est une variable Flow et retourne une chaîne de caractères.

Utilisation

Conseils d'utilisation Description
Règle d'utilisation Ce composant peut être utilisé en standalone ou avec d'autres composants S3, comme le tS3Delete.
Paramètres dynamiques

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend.

Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable.

Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Paramètres dynamiques et les variables de contexte, consultez Schéma dynamique et Créer un groupe de contextes et définir les variables de contexte.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.