# Apache Spark BatchのtExtractJSONFieldsプロパティ

これらのプロパティは、Spark Batchジョブのフレームワークで実行されているtExtractJSONFieldsを設定するために使われます。

Spark BatchのtExtractJSONFieldsコンポーネントは、変換処理ファミリーに属しています。

このフレームワーク内のコンポーネントは、ビッグデータ対応のTalend 製品すべて、およびTalend Data Fabricで使用できます。

## 基本設定

| [Property type] (プロパティタイプ) | [Built-in] (組み込み)と[Repository] (リポジトリー)のいずれかです。 |
| --- | --- |
|  | [Built-In] (組み込み): 一元的に保存されるプロパティデータはありません。 |
|  | [Repository] (リポジトリー): プロパティが保存されているリポジトリーファイルを選択します。 |
| [Schema] (スキーマ)と[Edit Schema] (スキーマを編集) | スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語のlineを避けます。<br><br>スキーマを変更するには[Edit schema] (スキーマを編集)をクリックします。現在のスキーマがリポジトリータイプの場合は、3つのオプションを利用できます。<br><br><ul> <li> <p> <span>[View schema] (スキーマを表示)</span>: スキーマのみを表示する場合は、このオプションを選択します。</p> </li> <li> <p> <span>[Change to built-in property] (組み込みのプロパティに変更)</span>: ローカルで変更を行うためにスキーマを<span>組み込み</span>に変更する場合は、このオプションを選択します。</p> </li> <li> <p> <span>[Update repository connection] (リポジトリー接続をアップデート)</span>: リポジトリーに保存されているスキーマに変更を加え、変更後にそのコンテンツをすべてのジョブにプロパゲートするかどうかを決める場合は、このオプションを選択します。変更を現在のジョブにのみ反映する場合は、変更後、<span>[No] (いいえ)</span>を選択し、<span>[Repository Content] (リポジトリーコンテンツ)</span>ウィンドウで再びこのスキーマのメタデータを選択します。</p> </li> </ul> |
|  | [Built-in] (組み込み): そのコンポーネントに対してのみスキーマを作成し、ローカルに保管します。 |
|  | [Repository] (リポジトリー): スキーマは作成済みで、リポジトリーに保管されています。さまざまなプロジェクトやジョブデザインで再利用できます。 |
| [Read By] (読み取り) | ファイル内のJSONデータを抽出する方法を選択します。<br><br><ul> <li> <p> <span>Xpath</span>: XPathクエリーに基づいてJSONデータを抽出します。</p> </li> <li> <p> <span>JsonPath</span>: JSONPathクエリーに基づいてJSONデータを抽出します。より良いパフォーマンスを得るためには、JSONPathでデータを読み取ることをお勧めします。</p> </li> </ul> |
| JSONフィールド | 抽出されるJSONフィールドのリスト。 |
| ループJasonpathクエリー | ループのベースとなるノードのJsonpathまたはXPathを入力します。<br><br>[Read By] (読み取り)ドロップダウンリストから[Xpath]を選択した場合は、代わりに[Loop Xpath query] (Xpathクエリーをループ)フィールドが表示されます。 |
| [Mapping] (マッピング) | スキーマで定義されたカラムを対応するJSONノードにマップするには、このテーブルを完成させてください。<br><br><ul> <li> <p> <span>[Column] (カラム)</span>: <span>[Column] (カラム)</span>セルには、定義されたスキーマカラム名が自動的に入力されます。</p> </li> <li> <p> <span>Json query</span>/<span>JSONPath query</span>(Jsonクエリー/JSONPathクエリー): 目的のデータを保持するJSONPathノードを指定します。JSONPath式の詳細は、<a href="http://goessner.net/articles/JsonPath/" target="_blank">http://goessner.net/articles/JsonPath/</a><span> (英語のみ)</span>をご覧ください。</p> <p>このカラムは、<span>[Read By] (読み取り)</span>リストから<span>JsonPath</span>が選択されている場合のみ利用できます。</p> </li> <li> <p> <span>[XPath query] (XPathクエリー)</span>: 目的のデータを保持するXPathノードを指定します。</p> <p>このカラムは、<span>[Read By] (読み取り)</span>リストから<span>Xpath</span>が選択されている場合のみ利用できます。</p> </li> <li> <p> <span>[Get Nodes] (ノードを取得)</span>: このチェックボックスを選択すると、すべてのノードのJSONデータを抽出、または特定のノードの横にあるチェックボックスをオンにしてそのノードのデータを抽出します。</p> <p>このカラムは、<span>[Read By] (読み取り)</span>リストから<span>Xpath</span>が選択されている場合のみ利用できます。</p> </li> <li> <p> <span>[Is Array]</span>: 抽出するJSONフィールドがオブジェクトではなく配列の場合は、このチェックボックスを選択します。</p> <p>このカラムは、<span>[Read By] (読み取り)</span>リストから<span>Xpath</span>が選択されている場合のみ利用できます。</p> </li> </ul> |
| [Die on error] (エラー発生時に強制終了) | このチェックボックスを選択すると、エラー発生時にジョブの実行が停止されます。 |

## 詳細設定

| [Encoding] (エンコーディング) | リストからエンコーディングを選択するか、[CUSTOM] (カスタム)を選択して、手動で定義します。このフィールドはデータベースデータ処理の必須フィールドです。サポートされるエンコーディングは、使用しているJVMに応じて異なります。詳細は、[https://docs.oracle.com](https://docs.oracle.com/) (英語のみ)をご覧ください。 |
| --- | --- |

## 使用方法

| **使用ルール** | このコンポーネントは、中間ステップとして使用されます。<br><br>このコンポーネントは、所属するSpark Batchのコンポーネントのパレットと共に、Spark Batchジョブを作成している場合にだけ表示されます。<br><br>特に明記していない限り、このドキュメントのシナリオでは、標準ジョブ、つまり従来の Talend データ統合ジョブだけを扱います。 |
| --- | --- |
| [Spark Connection] (Spark接続) | [Run] (実行)ビューの[Spark configuration] (Spark設定)タブで、ジョブ全体でのSparkクラスターへの接続を定義します。また、ジョブでは、依存jarファイルを実行することを想定しているため、Sparkがこれらのjarファイルにアクセスできるように、これらのファイルの転送先にするファイルシステム内のディレクトリーを指定する必要があります。<br><br><ul> <li> <div> <span>Yarnモード</span>(YarnクライアントまたはYarnクラスター):<ul> <li> <p>Google Dataprocを使用している場合、<span>[Spark configuration] (Spark設定)</span>タブの<span>[Google Storage staging bucket] (Google Storageステージングバケット)</span>フィールドにバケットを指定します。</p> </li> <li> <p>HDInsightを使用している場合、<span>[Spark configuration] (Spark設定)</span>タブの<span>[Windows Azure Storage configuration] (Windows Azure Storage設定)</span>エリアでジョブのデプロイメントに使用するブロブを指定します。</p> </li> <li>Altusを使用する場合は、<span>[Spark configuration] (Spark設定)</span>タブでジョブのデプロイにS3バケットまたはAzure Data Lake Storageを指定します。</li> <li>Quboleを使用する場合は、ジョブに<span>tS3Configuration</span>を追加し、QuboleでS3システム内に実際のビジネスデータを書き込みます。<span>tS3Configuration</span>を使用しないと、このビジネスデータはQubole HDFSシステムに書き込まれ、クラスターをシャットダウンすると破棄されます。</li> <li> <p>オンプレミスのディストリビューションを使用する場合は、クラスターで使われているファイルシステムに対応する設定コンポーネントを使用します。一般的に、このシステムはHDFSになるため、<a href="https://help.qlik.com/talend/r/ja-JP/7.3/components/hdfs/thdfsconfiguration">tHDFSConfiguration</a>を使用します。</p> </li> </ul> </div> </li> <li> <p> <span>[Standalone mode] (スタンドアロンモード)</span>: クラスターで使われているファイルシステム(<a href="https://help.qlik.com/talend/r/ja-JP/7.3/components/hdfs/thdfsconfiguration-properties-for-apache-spark-batch">tHDFSConfiguration Apache Spark Batch</a>や<a href="https://help.qlik.com/talend/r/ja-JP/7.3/components/amazon-s3/ts3configuration-properties-for-apache-spark-batch">tS3Configuration Apache Spark Batch</a>など)に対応する設定コンポーネントを使用します。</p> <p>ジョブ内に設定コンポーネントがない状態でDatabricksを使用している場合、ビジネスデータはDBFS (Databricks Filesystem)に直接書き込まれます。</p> </li> </ul><br><br>この接続は、ジョブごとに有効になります。 |