Accéder au contenu principal Passer au contenu complémentaire

tS3Get

Ce composant récupère un fichier d'Amazon S3.

Propriétés du tS3Get Standard

Ces propriétés sont utilisées pour configurer le tS3Get s'exécutant dans le framework de Jobs Standard.

Le composant tS3Get Standard appartient à la famille Cloud.

Le composant de ce framework est disponible dans tous les produits Talend.

Basic settings

Propriétés Description
Property type

Peut être Built-In ou Repository.

Built-In : aucune propriété n'est stockée de manière centrale.

Repository : Sélectionnez le fichier dans lequel sont stockées les propriétés du composant.

Use an existing connection

Cochez cette case et sélectionnez le composant de connexion adéquat dans la liste Component list pour réutiliser les paramètres d'une connexion que vous avez déjà définie.

Credential provider

Spécifiez la manière d'obtenir les identifiants de sécurité AWS.

  • Static credentials : utilisez access key et secret key comme identifiants de sécurité AWS.
  • Inherit credentials from AWS role : obtenez les identifiants de sécurité AWS pour vos métadonnées d'instance EMR. Pour utiliser cette option, le cluster Amazon EMR doit être démarré et votre Job doit s'exécuter sur ce cluster. Pour plus d'informations, consultez Utilisation d'un rôle IAM pour accorder des autorisations à des applications s'exécutant sur des instances Amazon EC2. Cette option vous permet de développer votre Job sans avoir à mettre de clé AWS dans le Job et ainsi satisfaire à la politique de sécurité de votre entreprise.
  • Web Identity Token : utilisez le jeton Web pour établir la connexion à Amazon S3.
  • Profile credentials or inherit from AWS role: utilisez les informations d'authentification stockées dans un fichier (appelé fichier de configuration de profil) comme informations d'authentification de sécurité AWS ou héritez de ces informations du rôle AWS.

    Les informations d'authentification de sécurité peuvent être regroupées dans des profils dans les fichiers de configuration de profils. Un fichier de configuration de profils peut contenir un ou plusieurs profils. Vous pouvez choisir de spécifier le fichier de configuration de profils dans le champ Profile path et spécifier le profil à utiliser dans le champ Profile name.

    Si les champs Profile path et Profile name sont vides, <user folder>/.aws/credentials sera utilisé comme fichier de configuration de profils et le profil default sera utilisé.

    Dans le cas des instances EC2, si le profil (spécifié ou profil par défaut) n'existe pas, le composant tentera d'hériter des informations d'authentification de sécurité AWS du rôle AWS.

Cette option peut fonctionner comme paramètre dynamique et se voir attribuer une valeur à l'aide d'une variable de contexte.

Note InformationsRemarque : Les composants tRedshiftBulkExec, tRedshiftOutputBulk et tRedshiftOutputBulkExec supportent les connexions S3 qui sont établies avec la valeur de Credential Provider configurée à Static Credentials ou Inherit credentials from AWS role.

Assume Role (Endosser un rôle)

Si vous avez temporairement besoin d'autorisations d'accès relatives à un rôle AWS IAM qui n'est pas octroyé à votre compte d'utilisateur·trice, cochez cette case afin d'assumer ce rôle. Puis, spécifiez les valeurs des paramètres suivants pour créer une session du rôle.

Assurez-vous que l'accès à ce rôle a été octroyé à votre compte d'utilisateur ou d'utilisatrice par la politique de sécurité associée à ce rôle. En cas de doute, adressez-vous au propriétaire de ce rôle ou à votre administrateur AWS.

  • ARN : nom Amazon Resource Name (ARN) du rôle à endosser. Vous pouvez trouver ce nom ARN sur la page Summary du rôle à utiliser sur votre portail AWS. Ce ARN de rôle pourrait être par exemple am:aws:iam::[aws_account_number]:role/[role_name].

    Role session name : saisissez le nom que vous souhaitez utiliser pour identifier de façon unique votre session de rôle. Ce nom peut être composé de caractères alphanumériques en majuscules ou en minuscules, sans espaces. Vous pouvez également inclure des tirets bas ou les caractères suivants : =,.@-.
  • Session duration (minutes) : durée (en minutes) pour laquelle vous souhaitez que la session du rôle soit active. Cette durée ne peut pas être supérieure à la durée maximale définie par votre administrateur AWS. La durée par défaut est de 3 600 secondes si vous ne configurez pas de valeur.

Pour consulter un exemple relatif au rôle IAM et à ses types de politiques associés, accédez à Create and Manage AWS IAM Roles depuis la documentation AWS (en anglais).
Region

Spécifiez la région AWS en sélectionnant ou saisissant le nom d'une région entre guillemets doubles ("us-east-1" par exemple). Pour plus d'informations concernant les zones géographiques AWS, consultez Régions et points de terminaison AWS .

Client-side encryption
Cochez cette case et dans la liste déroulante Key type (Type de clé) affichée, sélectionnez l'une des trois options suivantes pour chiffrer les données côté client avant de les envoyer à Amazon S3. Pour plus d'informations, consultez Protection des données via le chiffrement côté client .
  • KMS-managed customer master key : utilisez une clé maître client (CMK) gérée par KMS pour le chiffrement des données côté client. Dans le champ Key (Clé), spécifiez l'identifiant de la clé maître client AWS gérée par KMS (CMK ID).

  • Symmetric Master Key (Clé maître symétrique) : utilisez une clé maître symétrique (clé secrète AES 256 bits) pour le chiffrement des données côté client.

    • Algorithm : sélectionnez l'algorithme associé à la clé dans la liste. Par défaut, il n'y a qu'un seul algorithme nommé AES.

    • Encoding (Encodage) : sélectionnez le type de chiffrement associé à la clé dans la liste, Base64 ou X509.

    • Key (Clé) ou Key file (Fichier de clé) : spécifiez la clé ou le chemin du fichier contenant la clé.

  • Asymmetric Master Key (Clé maître asymétrique) : utilisez une clé maître asymétrique (une paire de clés RSA 1024 bits) pour le chiffrement des données côté client.

    • Algorithm (Algorithme) : sélectionnez l'algorithme associé à la clé dans la liste. Par défaut, il n'y a qu'un seul algorithme nommé RSA.

    • Public key file (Fichier de clé publique) : spécifiez le chemin du fichier contenant la clé publique.

    • Private key file (Fichier de clé privée) : spécifiez le chemin du fichier contenant la clé privée.

Bucket Spécifiez le nom du bucket, le dossier de plus haut niveau, sur le serveur S3.
Key Spécifiez le chemin d'accès au fichier sauvegardé sur le serveur S3.
Note InformationsAvertissement : Ce champ ne doit pas commencer par une barre oblique (/).
File Saisissez le nom du fichier à sauvegarder localement.
Die on error Cette case est décochée par défaut, ce qui vous permet de terminer le traitement avec les lignes sans erreur, et d'ignorer les lignes en erreur.

Paramètres avancés

Propriétés Description
tStatCatcher Statistics Cochez cette case afin de collecter les données de log au niveau du composant.
Use a custom region endpoint (Utiliser un endpoint de région personnalisé) Cochez cette case pour utiliser un endpoint personnalisé et, dans le champ qui s'affiche, spécifiez l'URL de l'endpoint personnalisé à utiliser.

Cette option peut fonctionner comme paramètre dynamique et se voir attribuer une valeur à l'aide d'une variable de contexte.

Signing region

Sélectionnez la région AWS du service STS. Si la région n'est pas dans la liste, vous pouvez saisir son nom entre guillemets doubles. La valeur par défaut est us-east-1.

Cette liste déroulante est disponible uniquement lorsque la case Assume role est cochée.

Specify STS endpoint

Cochez cette case afin de spécifier l'endpoint du service AWS Security Token Service duquel les informations d'authentification sont récupérées. Par exemple, saisissez sts.amazonaws.com.

Ce service vous permet d'effectuer une requête pour obtenir des identifiants temporaires, avec des droits limités, pour l'authentification utilisateur·trice à AWS. Vous devez fournit la clé d'accès et la clé secrète pour vous authentifier au compte AWS à utiliser.

Pour la liste des endpoints STS que vous pouvez utiliser, consultez AWS Security Token Service. Pour plus d'informations concernant les identifiants STS temporaires, consultez Temporary Security Credentials. Ces deux articles proviennent de la documentation AWS.

Cette case est disponible uniquement lorsque la case Assume role est cochée.

External ID

Si l'administrateur du compte auquel le rôle appartient vous a fourni un ID externe, saisissez sa valeur ici. L'ID externe (External Id) est un identifiant unique permettant à un nombre d'utilisateurs et d'utilisatrices limité d'avoir ce rôle.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Serial number

Lorsque vous avez un rôle attribué, la politique de confiance de ce rôle peut nécessiter une authentification multifacteur. Dans ce cas, vous devez indiquer le numéro d'identification du matériel ou de l'appareil d'authentification multifacteur virtuel associé à l'utilisateur ou l'utilisatrice ayant ce rôle.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Token code

Lorsque vous avez un rôle attribué, la politique de confiance de ce rôle peut nécessiter une authentification multifacteur. Dans ce cas, vous devez indiquer un code de jeton. Ce code de jeton est un mot de passe à utilisation unique produit par l'appareil d'authentification multifacteur.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Tags (Mots-clés)

Liste les balises de session sous forme de paires clé-valeur. Vous pouvez utiliser ces balises de session dans des politiques afin de permettre d'autoriser ou l'accès aux requêtes.

Transitive : cochez cette case pour indiquer qu'une balise persiste vers le rôle suivant dans une chaîne de rôles.

Pour plus d'informations concernant les balises, consultez Chaînage des rôles avec des balises de session.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

IAM policy ARNs

Saisissez les noms ARN (Amazon Resource Names) des stratégies gérées par IAM que vous souhaitez utiliser comme stratégies de sessions gérées. Utiliser les stratégies de sessions gérées afin de limiter les autorisations de la session. Les politiques doivent exister dans le même compte que le rôle. Les autorisations de la session sont au croisement de la stratégie des rôles basée sur l'identité et des stratégies de sessions.

Pour plus d'informations concernant les stratégies de sessions, consultez la documentation Stratégies de session.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Policy

Saisissez une politique IAM au format JSON, à utiliser comme politique de session. Utilisez les politiques de session afin de limiter les autorisations de la session. Les autorisations de la session sont au croisement de la stratégie des rôles basée sur l'identité et des stratégies de sessions.

Pour plus d'informations concernant les stratégies de sessions, consultez la documentation Stratégies de session.

Ce champ est disponible uniquement lorsque la case Assume role est cochée.

Config client Cochez cette case et spécifiez les paramètres du client en cliquant sur le bouton [+] pour ajouter autant de lignes que nécessaire, chaque ligne pour un paramètre client. Configurez la valeur des champs suivants pour chaque paramètre :
  • Client Parameter : cliquez dans la cellule et sélectionnez un paramètre dans la liste.

  • Value : saisissez la valeur du paramètre sélectionné.

Cette case est disponible uniquement lorsque la case Use an existing connection est décochée.

Pour plus d'informations, consultez la documentation AWS.

Enable accelerate mode Cochez cette case pour activer les transferts de fichiers rapides, simples et sécurisés longue distance entre votre client et un bucket S3. Pour que cela soit pris en compte, vous devez activer à l'avance ce mode d'accélération sur le bucket S3.
Use Select Cochez cette case afin de personnaliser la manière de récupérer un fichier depuis Amazon S3.
  • File Type : type du fichier à récupérer.
  • Query : requête à utiliser pour récupérer le fichier.
  • Compressed Type : type de compression du fichier à compresser.
  • Header Type et Field Separator : type d'en-tête et de séparateur de champs à utiliser pour récupérer le fichier.
S3 CSV Input Options Cochez cette case pour configurer les paramètres du fichier CSV d'entrée.

Cette propriété est disponible uniquement lorsque vous cochez la case Use Select.

Configure Output Cochez case afin de configurer les paramètres utilisés pour écrire des fichiers en sortie.

Cette propriété est disponible uniquement lorsque vous cochez la case Use Select.

JSON Record Delimiter Configurez le séparateur utilisé pour séparer les enregistrements JSON.

Cette propriété est disponible uniquement lorsque vous sélectionnez JSON dans la liste Output Type.

Add the InputStream in Global variables Cochez cette case pour ajouter InputStream aux variables globales afin que les autres composants du Job puissent utiliser ces données d'entrée.

Cette propriété est disponible uniquement lorsque vous cochez la case Use Select.

Variables globales

Variables Description

ERROR_MESSAGE

Message d'erreur généré par le composant lorsqu'une erreur survient. Cette variable est une variable After et retourne une chaîne de caractères. Cette variable fonctionne uniquement lorsque la case Die on error est cochée.

Records InputStream

Flux d'entrée en cours de traitement. Cette variable est une variable After et retourne un enregistrement.

Utilisation

Conseils d'utilisation Description
Règle d'utilisation Ce composant peut être utilisé en standalone ou avec d'autres composants S3, par exemple le tS3Connection.

Actuellement, aucun composant ne permet de récupérer directement des données d'un objet S3 dans un Job Standard. Pour récupérer des données d'un objet S3 via un Job Standard, vous pouvez télécharger l'objet S3 en tant que fichier, à l'aide du composant tS3Get et récupérer les données depuis le fichier, à l'aide d'un composant fichier d'entrée. Consultez Récupérer des données d'un objet S3 pour plus d'informations.

Paramètres dynamiques

Cliquez sur le bouton [+] pour ajouter une ligne à la table. Dans le champ Code, saisissez une variable de contexte afin de sélectionner dynamiquement votre connexion à la base de données parmi celles prévues dans votre Job. Cette fonctionnalité est utile si vous devez accéder à plusieurs tables de bases de données ayant la même structure mais se trouvant dans différentes bases de données, en particulier lorsque vous travaillez dans un environnement dans lequel vous ne pouvez pas changer les paramètres de votre Job, par exemple lorsque votre Job doit être déployé et exécuté indépendamment d'un Studio Talend.

Lorsqu'un paramètre dynamique est configuré, la liste Component List de la vue Basic settings devient inutilisable.

Pour des exemples d'utilisation de paramètres dynamiques, consultez Lire des données dans des bases de données MySQL à l'aide de connexions dynamiques basées sur les variables de contexte et Lire des données à partir de différentes bases de données MySQL à l'aide de paramètres de connexion chargés dynamiquement. Pour plus d'informations concernant les Paramètres dynamiques et les variables de contexte, consultez Schéma dynamique et Créer un groupe de contextes et définir les variables de contexte.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.