Apache Spark StreamingのtGoogleCloudConfigurationプロパティ
これらのプロパティは、Spark Streamingジョブのフレームワークで実行されているtGoogleCloudConfigurationを設定するために使われます。
Spark StreamingのtGoogleCloudConfigurationコンポーネントは、ストレージファミリーに属しています。
このコンポーネントは、Talend Real Time Big Data PlatformおよびTalend Data Fabricで利用できます。
基本設定
|
[Project identifier] (プロジェクト識別子) |
Google Cloud PlatformプロジェクトのIDを入力します。 プロジェクトIDがわからない場合は、Google Cloud Platformサービスの[Manage Resources]ページでご確認ください。 |
|
[Use Google Cloud Platform credentials file] (Google Cloud Platform認証情報ファイルを使用) |
Google Cloud SDKがインストールされており、Google Cloud Platformへのアクセスでユーザーアカウント認証情報の使用が許可されている特定のマシンからジョブを起動する場合は、このチェックボックスをオフにします。この状況では多くの場合、このマシンはお使いのローカルマシンです。 JobServerなど、リモートマシンからジョブを起動する場合は、このチェックボックスをオンにしてから、認証情報ファイルの形式を選択し、[Path to Google Credentials file] (Googleクレデンシャルファイルへのパス)フィールドが表示されたら、このJSONファイルを保存するJobServerマシン内のディレクトリーを入力します。 [Service account Id] (サービスアカウントID)フィールドが表示されたら、P12認証情報ファイルが作成されたサービスアカウントのIDを入力します。 Googleクレデンシャルファイルの詳細は、Google Cloud Platformの管理者に問い合わせるか、Google Cloud Platform Auth Guide (英語のみ)をご覧ください。 |
使用方法
|
使用ルール |
このコンポーネントは、Sparkの実行に使うクラスターがDataprocではない時に、ジョブがGoogle Cloud Platformに接続する必要がある場合にのみ使います。 サブジョブでスタンドアロンとして動作し、ジョブ全体の接続設定を提供します。 |
|
[Spark Connection] (Spark接続) |
[Run] (実行)ビューの[Spark configuration] (Spark設定)タブで、ジョブ全体でのSparkクラスターへの接続を定義します。また、ジョブでは、依存jarファイルを実行することを想定しているため、Sparkがこれらのjarファイルにアクセスできるように、これらのファイルの転送先にするファイルシステム内のディレクトリーを指定する必要があります。
この接続は、ジョブごとに有効になります。 |