# Apache Spark BatchのtFileInputPositionalプロパティ これらのプロパティは、Spark Batchジョブのフレームワークで実行されているtFileInputPositionalを設定するために使われます。 Spark BatchのtFileInputPositional コンポーネントは、ファイルファミリーに属しています。 このフレームワークのコンポーネントは、すべてのサブスクリプションベースのビッグデータ対応のTalend製品およびTalend Data Fabricで利用できます。 ## 基本設定 | プロパティ | 説明 | | --- | --- | | [Define a storage configuration component] (ストレージ設定コンポーネントを定義) | HDFSなどのターゲットファイルシステムへの接続の設定情報を提供するために使用する設定コンポーネントを選択します。

このチェックボックスをオフにすると、ターゲットファイルシステムはローカルシステムになります。

使用する接続設定は同じジョブ内にあることが必要です。たとえば、tHDFSConfigurationコンポーネントをジョブにドロップした場合は、このコンポーネントを選択して、所定のHDFSシステム内で結果を書き込むことができます。 | | [Property type] (プロパティタイプ) | | | [Schema] (スキーマ)と[Edit schema] (スキーマを編集) | | | [Folder/File] (フォルダー/ファイル) | ファイルシステムで使用するデータを参照するか、パスを入力します。

設定したパスがフォルダーを指す場合、このコンポーネントによりフォルダーに保管されているすべてのファイル(/user/talend/inなど)が読み取られます。サブフォルダーが存在する場合、[Spark configuration] (Spark設定)タブの[Advanced properties] (詳細プロパティ)テーブルでプロパティspark.hadoop.mapreduce.input.fileinputformat.input.dir.recursiveをtrueに設定しない限り、サブフォルダーは自動的に無視されます。



このフィールドに複数のファイルまたはディレクトリーを指定する場合は、パスをそれぞれコンマ(,)で区切ります。

読み取るファイルが圧縮されている場合は、拡張子を付けてファイル名を入力します。するとtFileInputPositionalは実行時に自動的に解凍します。サポートされている圧縮形式と対応する拡張子は次のとおりです。



参照用のボタンはSpark Localモードでは機能しません。お使いのディストリビューションで、Talend Studioがサポートしているその他のSpark Yarnモードを使用している場合は、同じジョブ内の設定コンポーネントで接続を適切に設定したことを確認する必要があります。使用されるファイルシステムに応じて設定コンポーネントを使用します。 | | [Die on error] (エラー発生時に強制終了) | このチェックボックスを選択すると、エラー発生時にジョブの実行が停止されます。 | | [Row separator] (行区切り) | 行の終端を識別するために使用される区切り。 | | [Customize] (カスタマイズ) | 位置ファイルのデータ形式をカスタマイズし、テーブルカラムを定義するには、このチェックボックスをオンにします。

[Column] (カラム): カスタマイズするカラムを選択します。

[Size] (サイズ): カラムのサイズを入力します。

[Padding char] (埋め込み文字): 二重引用符の間に、フィールドから削除する必要のある埋め込み文字を入力します。デフォルトの埋め込み文字はスペースです。

[Alignment] (整列): 適切な整列パラメーターを選択します。 | | [Pattern] (パターン) | 長さの値はコンマで区切られ、引用符で囲まれた文字列として解釈されます。このフィールドに入力された値が、定義されたスキーマと一貫していることをご確認ください。 | | [Header] (ヘッダー) | ファイルの先頭でスキップする行の数を入力します。

たとえば、*0*を入力すると、ヘッダー行を無視する設定になり、最初の行にヘッダーが含まれるデータの場合は*1*をセットします。 | | [Skip empty rows] (空の行をスキップ) | このチェックボックスを選択すると、空白行はスキップされます。 | ## 詳細設定 | プロパティ | 説明 | | --- | --- | | [Set minimum partitions] (最小パーティションを設定) | このチェックボックスを選択すると、Sparkのデフォルトのパーティショニング動作により入力データから作成されるパーティションの数を制御できます。

表示されたフィールドに、取得するパーティションの最小数を引用符なしで入力します。

一般に、パーティション数の制御においては、少なくとも並列処理を実行するパーティションの数を設定できますが、利用可能なメモリ容量およびネットワークのデータ転送負荷を考慮する必要があります。 | | [Custom Encoding] (カスタムエンコーディング) | 保管データを処理する際、エンコーディングの問題が発生することがあります。このような場合は、チェックボックスをオンにして[Encoding] (エンコーディング)リストを表示します。

リストからエンコーディングを選択するか、[CUSTOM] (カスタム)を選択して、手動で定義します。 | | [Advanced separator (for number)] (高度な区切り文字:数値) | 数値に使用する区切りを変更する場合は、このチェックボックスを選択します。デフォルトでは、桁区切りはコンマ(*,*)で、小数点区切りはピリオド(*.*)です。 | | [Trim column] (カラムをトリミング) | このチェックボックスを選択すると、先行ホワイトスペースおよび後続ホワイトスペースがすべてのカラムから削除されます。このチェックボックスをオフにすると、[Check column to trim] (トリミングするカラムをチェック)テーブルが表示され、トリミングする特定のカラムを選択できます。 | ## 使用方法 | 使用方法のガイダンス | 説明 | | --- | --- | | **使用ルール** | このコンポーネントは、開始コンポーネントとして使用され、出力リンクを必要とします。

このコンポーネントは、所属するSpark Batchのコンポーネントのパレットと共に、Spark Batchジョブを作成している場合にだけ表示されます。

特に明記していない限り、このドキュメンテーションのシナリオでは、標準ジョブ、つまり従来の Talend Data Integrationジョブだけを扱います。 | | [Spark Connection] (Spark接続) | [Run] (実行)ビューの[Spark configuration] (Spark設定)タブで、ジョブ全体でのSparkクラスターへの接続を定義します。また、ジョブでは、依存jarファイルを実行することを想定しているため、Sparkがこれらのjarファイルにアクセスできるように、これらのファイルの転送先にするファイルシステム内のディレクトリーを指定する必要があります。



この接続は、ジョブごとに有効になります。 |