Laissez vos commentaires ici
Définir les paramètres de connexion à Cloudera Data Engineering avec Spark Universal
Pourquoi et quand exécuter cette tâche
Le se connecte au service Cloudera Data Engineering (CDE) pour exécuter le Job Spark depuis ce cluster.
Procédure
- Cliquez sur la vue Run sous l'espace de modélisation graphique, puis cliquez sur la vue Spark configuration.
-
Sélectionnez Built-in dans la liste déroulante Property type.
Si vous avez déjà configuré les paramètres de connexion dans le Repository, comme expliqué dans Centraliser une connexion à Hadoop, vous pouvez réutiliser ces paramètres. Pour ce faire, sélectionnez Repository dans la liste Property type, cliquez sur le bouton [...] pour ouvrir la boîte de dialogue Repository Content et sélectionnez la connexion à Hadoop à utiliser.Note InformationsConseil : Configurer la connexion dans le Repository vous permet d'éviter de configurer cette connexion chaque fois que vous en avez besoin dans la vue Spark Configuration de vos Jobs Spark. Les champs sont automatiquement renseignés.
- Sélectionnez Universal dans la liste déroulante Distribution, la version Spark de votre choix dans la liste déroulante Version et Cloudera Data Engineering dans la liste déroulante Runtime mode/environment (Mode/environnement du Runtime).
-
Saisissez les informations simples de Configuration :
-
Renseignez les paramètres CDE configuration :
Paramètre Utilisation CDE API endpoint Saisissez l'endpoint de l'API CDE. Vous pouvez trouver l'URL depuis le lien JOBS API URL. CDE API token Saisissez le jeton CDE à utiliser pour l'authentification à l'API. L'URL doit respecter le format suivant : [BASE_URL]/gateway/authtkn. Pour plus d'informations, consultez CDE API access token dans la documentation Cloudera (en anglais). Cette propriété est disponible uniquement lorsque la case Auto generate token est décochée.
Auto generate token Cochez cette case pour créer un jeton avant de soumettre le Job. - CDE token endpoint : saisissez le jeton CDE à utiliser.
- Workload user : saisissez le nom d'utilisateur·trice de workload CDP à utiliser pour générer un jeton. Pour plus d'informations, consultez la CDP workload user dans la documentation Cloudera (en anglais).
- Workload password : saisissez le mot de passe associé à l'utilisateur·trice de workload.
Enable client debugging Cochez cette case pour activer le log de débogage pour le client d'API CDE. Override dependencies Cochez cette case pour écraser les dépendances requises pour Spark. Job status/logs polling interval (in ms) Saisissez l'intervalle de temps (en millisecondes) à la fin duquel vous souhaitez que le demande à Spark le statut de votre Job. Fetch driver logs Cochez cette case pour récupérer les logs du pilote lors de l'exécution. Vous pouvez choisir de récupérer les informations suivantes en cochant la case : - Standard output
- Error output
Advanced parameters Cochez cette case pour saisir les paramètres avancés d'API CDE suivants : - Number of executors : saisissez le nombre d'exécuteurs.
- Driver cores : saisissez le nombre de cœurs de pilotes.
- Driver memory : saisissez la taille de la mémoire à allouer à chaque pilote.
- Executor cores : saisissez le nombre de cœurs d'exécuteurs.
- Executor memory : saisissez la taille de la mémoire à allouer à chaque exécuteur.
Résultats
Cette page vous a-t-elle aidé ?
Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.