# Apache Spark BatchのtBigQueryConfigurationプロパティ

これらのプロパティは、Spark Batchジョブのフレームワークで実行されているtBigQueryConfigurationを設定するために使われます。

Spark BatchのtBigQueryConfigurationコンポーネントは、ストレージファミリーとデータベースファミリーに属しています。

このフレームワークのコンポーネントは、すべてのサブスクリプションベースのビッグデータ対応のTalend製品およびTalend Data Fabricで利用できます。

このコンポーネントはSpark 4.0.xではサポートされていません。

## 基本設定

このコンポーネントをGoogle Dataprocと併用する場合:

| [Properties] (プロパティ) | 説明 |
| --- | --- |
| BigQuery一時GCSパス | Google BigQueryで使用するデータを一時的に保管するには、Google Storageにディレクトリーを入力します。ディレクトリーがない場合はただちに作成されますが、このディレクトリーを含むバケットはあらかじめ存在している必要があります。ディレクトリーの構文はgs://my\_bucket/my\_directoryにする必要があります。<br><br>Google Cloud PlatformでGoogle BigQueryをDataprocで使用する場合は、Dataprocクラスターの実行と同じ領域をBigQueryデータセットとして選択します。 |
| [Location] (ロケーション) | データの読み取りまたは書き込みを行うGoogle複数地域ロケーションを1つ選択します。リソースデータセットとターゲットデータセットは、同じ場所になければなりません。<br><br>Sparkジョブでは、米国とEUのロケーションのみがサポートされています。<br><br>Googleロケーションとそのロケーションを適切に使用する方法の詳細は、 Google Cloudのドキュメンテーションで[Dataset Locations](https://cloud.google.com/bigquery/docs/dataset-locations)をご覧ください。 |

このコンポーネントをその他のディストリビューションと併用する場合

| [Properties] (プロパティ) | 説明 |
| --- | --- |
| [Project ID] (プロジェクトID) | Google Cloud PlatformプロジェクトのIDを入力します。<br><br>プロジェクトIDがわからない場合は、Google Cloud Platformサービスの[Manage Resources]ページでご確認ください。 |
| [Path to Google Credentials file] (Googleクレデンシャルファイルへのパス) | 使用するユーザーアカウントに関連付けられている認証情報ファイルのパスを入力します。このファイルはTalendジョブが実際に起動および実行されるコンピューターに保管されている必要があります。<br><br>Talend JobServerを使用してジョブを実行する場合、ジョブを起動するTalend JobServerのマシンだけでなく、ジョブを実行するSparkクラスターのワーカーマシンにも認証情報ファイルを保管します。Talend JobServerを使用しない場合は、ジョブを起動するローカルマシンとSparkクラスターのワーカーマシンに認証情報ファイルを保管します。 |
| [Use P12 credentials file format] (P12認証情報ファイル形式を使用) | 使用するGoogleクレデンシャルファイルがP12形式の場合は、このチェックボックスをオンにし、表示される[Service account Id] (サービスアカウントID)フィールドにP12認証情報ファイルが作成されたサービスアカウントのIDを入力します。 |
| BigQuery一時GCSパス | Google BigQueryで使用するデータを一時的に保管するには、Google Storageにディレクトリーを入力します。ディレクトリーがない場合はただちに作成されますが、このディレクトリーを含むバケットはあらかじめ存在している必要があります。ディレクトリーの構文はgs://my\_bucket/my\_directoryにする必要があります。<br><br>Google Cloud PlatformでGoogle BigQueryをDataprocで使用する場合は、Dataprocクラスターの実行と同じ領域をBigQueryデータセットとして選択します。 |
| [Location] (ロケーション) | データの読み取りまたは書き込みを行うGoogle複数地域ロケーションを1つ選択します。リソースデータセットとターゲットデータセットは、同じ場所になければなりません。<br><br>Sparkジョブでは、米国とEUのロケーションのみがサポートされています。<br><br>Googleロケーションとそのロケーションを適切に使用する方法の詳細は、 Google Cloudのドキュメンテーションで[Dataset Locations](https://cloud.google.com/bigquery/docs/dataset-locations)をご覧ください。 |

## 使用方法

| 使用方法のガイダンス | 説明 |
| --- | --- |
| **使用ルール** | このコンポーネントは、サブジョブでスタンドアロンとして使い、ジョブ全体のGoogle BigQueryとGoogleストレージへの接続設定を提供します。 |
| [Spark Connection] (Spark接続) | [Run] (実行)ビューの[Spark configuration] (Spark設定)タブで、ジョブ全体でのSparkクラスターへの接続を定義します。また、ジョブでは、依存jarファイルを実行することを想定しているため、Sparkがこれらのjarファイルにアクセスできるように、これらのファイルの転送先にするファイルシステム内のディレクトリーを指定する必要があります。<br><br><ul> <li> <div> <span>Yarnモード</span>(YarnクライアントまたはYarnクラスター):<ul> <li> <p>Google Dataprocを使用している場合、<span>[Spark configuration] (Spark設定)</span>タブの<span>[Google Storage staging bucket] (Google Storageステージングバケット)</span>フィールドにバケットを指定します。</p> </li> <li> <p>HDInsightを使用している場合、<span>[Spark configuration] (Spark設定)</span>タブの<span>[Windows Azure Storage configuration] (Windows Azure Storage設定)</span>エリアでジョブのデプロイメントに使用するブロブを指定します。</p> </li> <li>Altusを使用する場合は、<span>[Spark configuration] (Spark設定)</span>タブでジョブのデプロイにS3バケットまたはAzure Data Lake Storageを指定します。</li> <li> <p>オンプレミスのディストリビューションを使用する場合は、クラスターで使われているファイルシステムに対応する設定コンポーネントを使用します。一般的に、このシステムはHDFSになるため、<a href="https://help.qlik.com/talend/r/ja-JP/8.0/components/hdfs/thdfsconfiguration">tHDFSConfiguration</a>を使用します。</p> </li> </ul> </div> </li> <li> <p> <span>[Standalone mode] (スタンドアロンモード)</span>: クラスターで使われているファイルシステム(<a href="https://help.qlik.com/talend/r/ja-JP/8.0/components/hdfs/thdfsconfiguration-properties-for-apache-spark-batch">tHDFSConfiguration Apache Spark Batch</a>や<a href="https://help.qlik.com/talend/r/ja-JP/8.0/components/amazon-s3/ts3configuration-properties-for-apache-spark-batch">tS3Configuration Apache Spark Batch</a>など)に対応する設定コンポーネントを使用します。</p> <p>ジョブ内に設定コンポーネントがない状態でDatabricksを使用している場合、ビジネスデータはDBFS (Databricks Filesystem)に直接書き込まれます。</p> </li> </ul><br><br>この接続は、ジョブごとに有効になります。 |