Apache Spark StreamingのtWriteDelimitedFieldsプロパティ
これらのプロパティは、Spark Streamingジョブのフレームワークで実行されているtWriteDelimitedFieldsを設定するために使われます。
Spark StreamingのtWriteDelimitedFieldsコンポーネントは、変換処理ファミリーに属しています。
このコンポーネントのストリーミングバージョンは、Talend Real-Time Big Data PlatformおよびTalend Data Fabricで使用できます。
基本設定
|
[Output type] (出力タイプ) |
対象ファイルに出力するデータの種類を選択します。[byte] (バイト)を選択すると、データはバイト配列になります。 |
|
[Schema] (スキーマ)と[Edit schema] (スキーマを編集) |
スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語のlineを避けます。 このコンポーネントのスキーマは読み取り専用です。[Edit schema] (スキーマを編集)をクリックすると、スキーマを表示できます。 出力タイプがString (文字列)の場合、読み取り専用の単一カラムはmessageContentになります。このカラムは、tJMSOutputなどの出力コンポーネントに文字列を提供します。 出力タイプが[byte] (バイト)の場合、読み取り専用の単一カラムはserializedValueになります。このカラムは、tKafkaOutputなどの出力コンポーネントにバイト配列を提供します。 |
|
[Include header] (ヘッダーを含める) |
このチェックボックスを選択すると、カラムヘッダーがファイルに追加されます。 |
|
[Field separator] (フィールド区切り) |
転送されたデータのフィールドを区切る場合は、文字、文字列、正規表現のいずれかを入力します。 |
|
[Custom encoding] (カスタムエンコーディング) |
保管データを処理する際、エンコーディングの問題が発生することがあります。このような場合は、チェックボックスをオンにして[Encoding] (エンコーディング)リストを表示します。 リストからエンコーディングを選択するか、[CUSTOM] (カスタム)を選択して、手動で定義します。このフィールドはデータベースデータ処理の必須フィールドです。サポートされるエンコーディングは、使用しているJVMに応じて異なります。詳細は、https://docs.oracle.comをご覧ください。 |
詳細設定
|
[Advanced separator (for number)] (高度な区切り文字:数値) |
数値に使用する区切りを変更する場合は、このチェックボックスを選択します。デフォルトでは、桁区切りはコンマ(,)で、小数点区切りはピリオド(.)です。 |
|
[CSV options] (CSVオプション) |
このチェックボックスを選択すると、[Escape char] (エスケープ文字)や[Text enclosure] (テキストエンクロージャー)などCSV固有のパラメーターが含まれます。
情報メモ重要: Sparkのバージョン2.0以降では特殊文字をエスケープする必要があるため、"\"と"""は "\\"と "\""となります。
|
使用方法
|
使用ルール |
このコンポーネントは中間ステップとして使用されます。 このコンポーネントは、所属するSpark Streamingのコンポーネントのパレットと共に、Spark Streamingジョブを作成している場合にだけ表示されます。 特に明記していない限り、このドキュメンテーションのシナリオでは、標準ジョブ、つまり従来の Talend Data Integrationジョブだけを扱います。 |
|
[Spark Connection] (Spark接続) |
[Run] (実行)ビューの[Spark configuration] (Spark設定)タブで、ジョブ全体でのSparkクラスターへの接続を定義します。また、ジョブでは、依存jarファイルを実行することを想定しているため、Sparkがこれらのjarファイルにアクセスできるように、これらのファイルの転送先にするファイルシステム内のディレクトリーを指定する必要があります。
この接続は、ジョブごとに有効になります。 |