Propriétés du tGoogleCloudConfiguration pour Apache Spark Streaming
Ces propriétés sont utilisées pour configurer le tGoogleCloudConfiguration s'exécutant dans le framework de Jobs Spark Streaming.
Le composant tGoogleCloudConfiguration Spark Streaming appartient à la famille Stockage.
Ce composant est disponible dans Talend Real Time Big Data Platform et dans Talend Data Fabric.
Basic settings
Project identifier |
Saisissez l'ID de votre projet Google Cloud Platform. Si vous n'êtes pas certain de l'ID de votre projet, vérifiez dans la page Manage Resources de vos services Google Cloud Platform. |
Use Google Cloud Platform credentials file |
Lorsque vous lancez votre Job à partir d'une machine donnée sur laquelle Google Cloud SDK a été installé et vous a autorisé à utiliser vos identifiants de compte utilisateur·rice pour accéder à Google Cloud Platform, ne cochez pas cette case. Dans cette situation, cette machine est souvent votre machine locale. Lorsque vous lancez votre Job à partir d'une machine distante, comme un Jobserver, cochez cette case, puis sélectionnez le format du fichier de vos identifiants. Dans le champ Path to Google Credentials file qui s'affiche, saisissez le répertoire dans lequel ce fichier d'identifiants est stocké dans la machine du Jobserver. Dans le champ Service account Id qui s'affiche, saisissez l'identifiant de votre compte de service pour lequel ce fichier d'identifiant P12 a été créé. Pour plus d'informations concernant le fichier Google Credentials, contactez l'administrateur·trice de votre Google Cloud Platform ou consultez Google Cloud Platform Auth Guide. |
Utilisation
Règle d'utilisation |
Ce composant est généralement utilisé lorsque votre Job doit se connecter à Google Cloud Platform, si le cluster que vous utilisez pour exécuter Spark n'est pas Dataproc. Il fonctionne en standalone dans un sous-Job, afin de fournir la configuration de la connexion pour le Job complet. |
Spark Connection |
Dans l'onglet Spark Configuration de la vue Run, définissez la connexion à un cluster Spark donné pour le Job complet. De plus, puisque le Job attend ses fichiers .jar dépendants pour l'exécution, vous devez spécifier le répertoire du système de fichiers dans lequel ces fichiers .jar sont transférés afin que Spark puisse accéder à ces fichiers :
Cette connexion fonctionne uniquement pour le Job dans lequel vous l'avez définie. |