# Apache Spark BatchのtBigQueryInputプロパティ

これらのプロパティは、Spark Batchジョブのフレームワークで実行されているtBigQueryInputを設定するために使われます。

Spark BatchのtBigQueryInputコンポーネントは、データベースファミリーに属しています。

このフレームワークのコンポーネントは、すべてのサブスクリプションベースのビッグデータ対応のTalend製品およびTalend Data Fabricで利用できます。

このコンポーネントはSpark 4.0.xではサポートされていません。

## 基本設定

| [Properties] (プロパティ) | 説明 |
| --- | --- |
| ソースタイプ | Google BigQueryからtBigQueryInputでデータに読み取る方法を選択します。<br><br><ul> <li> <p> <kbd>[Table] (テーブル)</kbd>: テーブル全体をコピーします。</p> </li> <li> <p> <kbd>[Query] (クエリー)</kbd>: データを選択するクエリーを書き込みます。</p> </li> </ul> |
| [Schema] (スキーマ)と[Edit Schema] (スキーマを編集) | <ul> <li> <p>スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語の<kbd>line</kbd>を避けます。</p> <p>スキーマを変更するには<span>[Edit schema] (スキーマを編集)</span>をクリックします。現在のスキーマが<span>リポジトリー</span>タイプの場合は、3つのオプションを利用できます。</p> <ul> <li> <p> <span>[View schema] (スキーマを表示)</span>: スキーマのみを表示する場合は、このオプションを選択します。</p> </li> <li> <p> <span>[Change to built-in property] (組み込みのプロパティに変更)</span>: ローカルで変更を行うためにスキーマを<span>組み込み</span>に変更する場合は、このオプションを選択します。</p> </li> <li> <p> <span>[Update repository connection] (リポジトリー接続をアップデート)</span>: リポジトリーに保存されているスキーマに変更を加え、変更後にそのコンテンツをすべてのジョブにプロパゲートするかどうかを決める場合は、このオプションを選択します。</p> <p>変更を現在のジョブにのみ反映する場合は、変更後、<span>[No] (いいえ)</span>を選択し、<span>[Repository Content] (リポジトリーコンテンツ)</span>ウィンドウで再びこのスキーマのメタデータを選択します。</p> </li> </ul> </li> <li> <p> <span>[Built-in] (組み込み)</span>: そのコンポーネントに対してのみスキーマを作成し、ローカルに保管します。</p> </li> <li> <p> <span>[Repository] (リポジトリー)</span>: スキーマは作成済みで、リポジトリーに保管されています。さまざまなプロジェクトやジョブデザインで再利用できます。</p> </li> </ul> |

[Source type] (ソースタイプ)が[Table] (テーブル)の場合:

| [Properties] (プロパティ) | 説明 |
| --- | --- |
| [Project ID] (プロジェクトID) | Google BigQueryサービスでGoogle Cloud PlatformプロジェクトIDが使用される場合、このチェックボックスをオフにして、tBigQueryInputで[Spark configuration] (Spark設定)タブまたはtBigQueryConfigurationコンポーネントからこのIDを読み取れるようにします。<br><br>Google BigQueryサービスでカスタムIDを使用する場合は、このチェックボックスをオンにしてIDを入力します。<br><br>プロジェクトのIDは、Google API ConsoleのURL、またはBigQuery Browser Toolでプロジェクト名にマウスを重ねると表示されます。 |
| [Dataset] (データセット) | コピーするテーブルのデータセットの名前を入力します。<br><br>Google Cloud PlatformでGoogle BigQueryをDataprocで使用する場合は、Dataprocクラスターの実行と同じ領域をBigQueryデータセットとして選択します。 |
| [Table] (テーブル) | コピーするテーブルの名前を入力します。 |

[Source type] (ソースタイプ)が[Query] (クエリー)の場合:

| [Properties] (プロパティ) | 説明 |
| --- | --- |
| [Query] (クエリー) | 使用するクエリーを入力します。<br><br>Google Cloud PlatformでGoogle BigQueryをDataprocで使用する場合は、Dataprocクラスターの実行と同じ領域をBigQueryデータセットとして選択します。<br><br>使用するクエリーがBigQueryのレガシーSQLである場合は、この[Use legacy SQL] (レガシーSQLを使用)チェックボックスをオンにします。このレガシーSQLの詳細は、Google Cloudのドキュメンテーションで[Legacy SQL query reference](https://cloud.google.com/bigquery/docs/reference/legacy-sql)をご覧ください。 |

## 使用方法

| 使用方法のガイダンス | 説明 |
| --- | --- |
| **使用ルール** | これは入力コンポーネントです。BigQueryから抽出されたデータを、続くコンポーネントに送信します。<br><br>tBigQueryConfigurationによって提供される BigQuery設定情報を使用する必要があるため、同じジョブにtBigQueryConfigurationコンポーネントを配置します。 |
| [Spark Connection] (Spark接続) | [Run] (実行)ビューの[Spark configuration] (Spark設定)タブで、ジョブ全体でのSparkクラスターへの接続を定義します。また、ジョブでは、依存jarファイルを実行することを想定しているため、Sparkがこれらのjarファイルにアクセスできるように、これらのファイルの転送先にするファイルシステム内のディレクトリーを指定する必要があります。<br><br><ul> <li> <div> <span>Yarnモード</span>(YarnクライアントまたはYarnクラスター):<ul> <li> <p>Google Dataprocを使用している場合、<span>[Spark configuration] (Spark設定)</span>タブの<span>[Google Storage staging bucket] (Google Storageステージングバケット)</span>フィールドにバケットを指定します。</p> </li> <li> <p>HDInsightを使用している場合、<span>[Spark configuration] (Spark設定)</span>タブの<span>[Windows Azure Storage configuration] (Windows Azure Storage設定)</span>エリアでジョブのデプロイメントに使用するブロブを指定します。</p> </li> <li>Altusを使用する場合は、<span>[Spark configuration] (Spark設定)</span>タブでジョブのデプロイにS3バケットまたはAzure Data Lake Storageを指定します。</li> <li> <p>オンプレミスのディストリビューションを使用する場合は、クラスターで使われているファイルシステムに対応する設定コンポーネントを使用します。一般的に、このシステムはHDFSになるため、<a href="https://help.qlik.com/talend/r/ja-JP/8.0/components/hdfs/thdfsconfiguration">tHDFSConfiguration</a>を使用します。</p> </li> </ul> </div> </li> <li> <p> <span>[Standalone mode] (スタンドアロンモード)</span>: クラスターで使われているファイルシステム(<a href="https://help.qlik.com/talend/r/ja-JP/8.0/components/hdfs/thdfsconfiguration-properties-for-apache-spark-batch">tHDFSConfiguration Apache Spark Batch</a>や<a href="https://help.qlik.com/talend/r/ja-JP/8.0/components/amazon-s3/ts3configuration-properties-for-apache-spark-batch">tS3Configuration Apache Spark Batch</a>など)に対応する設定コンポーネントを使用します。</p> <p>ジョブ内に設定コンポーネントがない状態でDatabricksを使用している場合、ビジネスデータはDBFS (Databricks Filesystem)に直接書き込まれます。</p> </li> </ul><br><br>この接続は、ジョブごとに有効になります。 |