Accéder au contenu principal Passer au contenu complémentaire

Passer d'un mode à l'autre, d'une distribution à l'autre ou d'un environnement à l'autre avec Spark Universal

Le mécanisme Spark Universal vous permet de passer rapidement et facilement d'un mode Spark à un autre, d'une distribution Spark à une autre et d'un environnement Spark à un autre, en modifiant le fichier JAR de configuration Hadoop, tout en conservant la configuration du Job. L'opération de passage d'un élément à un autre peut s'effectuer :

  • en mode Spark mode : vous pouvez passer du mode Local au mode Yarn cluster pour tester d'abord votre Job sur votre machine locale, avant de l'envoyer sur un cluster.
  • sur la Distribution : vous pouvez passer d'une distribution Big Data disponible à une autre pour une version Spark donnée.
  • sur l'environnement (Environment) : vous pouvez passer d'un environnement à l'autre parmi les environnements suivants : développement, intégration et production.

Pourquoi et quand exécuter cette tâche

Cette procédure utilise un Job sur lequel vous travaillez en mode Local.

Procédure

  1. Pour envoyer votre Job à un cluster, sélectionnez Yarn cluster dans la liste déroulante Spark Mode, dans la vue Spark configuration de votre Job.
  2. Spécifiez le chemin d'accès au fichier JAR de configuration Hadoop fournissant les paramètres de connexion au cluster de développement à utiliser :
  3. Pour modifier l'environnement ou la distribution, spécifiez le chemin d'accès à un autre fichier JAR de configuration Hadoop.
    Note InformationsRemarque : Si vous avez configuré les paramètres de connexion dans le Repository, comme expliqué dans Centraliser une connexion Hadoop, vous pouvez également modifier l'environnement ou la distribution en sélectionnant Repository dans la liste Propriety type et en sélectionnant le cluster.

Cette page vous a-t-elle aidé ?

Si vous rencontrez des problèmes sur cette page ou dans son contenu – une faute de frappe, une étape manquante ou une erreur technique – faites-le-nous savoir.