Accéder au contenu principal Passer au contenu complémentaire

Définir les paramètres de connexion standalone avec Spark Universal

Pourquoi et quand exécuter cette tâche

Le se connecte à un cluster configuré pour Spark afin d'exécuter le Job depuis ce cluster.

Procédure

  1. Cliquez sur la vue Run sous l'espace de modélisation graphique, puis cliquez sur la vue Spark configuration.
  2. Sélectionnez Built-in dans la liste déroulante Property type.
    Si vous avez déjà configuré les paramètres de connexion dans le Repository, comme expliqué dans Centraliser une connexion à Hadoop, vous pouvez réutiliser ces paramètres. Pour ce faire, sélectionnez Repository dans la liste Property type, cliquez sur le bouton [...] pour ouvrir la boîte de dialogue Repository Content et sélectionnez la connexion à Hadoop à utiliser.
    Note InformationsConseil : Configurer la connexion dans le Repository vous permet d'éviter de configurer cette connexion chaque fois que vous en avez besoin dans la vue Spark Configuration de vos Jobs Spark. Les champs sont automatiquement renseignés.
  3. Sélectionnez Universal dans la liste déroulante Distribution, la version Spark de votre choix dans la liste déroulante Version et Standalone dans la liste déroulante Runtime mode/environment (Mode/environnement du Runtime).
  4. Saisissez les informations de configuration Standalone :
    Paramètre Utilisation
    Standalone master Renseignez le serveur du master sur lequel soumettre votre Job Spark.
    Configure executors Cochez cette case pour spécifier la configuration des exécuteurs :
    • Executors memory : saisissez la taille de la mémoire à allouer à chaque exécuteur Spark.
    • Executors core : saisissez le nombre de cœurs à utiliser par exécuteur.

    Si vous laissez cette case décochée, les valeurs par défaut de Spark sont utilisées : 1g pour la mémoire des exécuteurs et 1 pour le cœur des exécuteurs. Pour plus d'informations, consultez la documentation Spark officielle (en anglais).

  5. Saisissez les informations simples de configuration :

Résultats

Les informations de connexion sont renseignées. Vous êtes prêt·e à ordonnancer les exécutions de votre Job Spark ou à l'exécuter immédiatement.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.