Spark Universalでモード、ディストリビューション、環境を切り替え
Spark Universalメカニズムを使い、同じジョブ設定を保持したままHadoop設定JARファイルを変更すれば、さまざまなSparkモード、ディストリビューション、環境を容易かつ迅速に切り替えることができます。切り替え操作は以下で実行できます。
- [Spark mode] (Sparkモード): [Local] (ローカル)モードと[Yarn cluster] (Yarnクラスター)モードを切り替えて、クラスターに送信する前に、ローカルマシン上でまずジョブをテストできます。
- [Distribution] (ディストリビューション): 特定のSparkバージョンに対して使用できるさまざまなビッグデータディストリビューションを切り替えられます。
- [Environment] (環境): 開発、統合、本番環境を切り替えられます。