tAggregateRow MapReduceプロパティ(非推奨)
これらのプロパティは、MapReduceジョブのフレームワークで実行されているtAggregateRowを設定するために使われます。
MapReduce tAggregateRowコンポーネントは、変換処理ファミリーに属しています。
このフレームワーク内のコンポーネントは、ビッグデータ対応のTalend 製品すべて、およびTalend Data Fabricで使用できます。
MapReduceのフレームワークは、Talend 7.3以降非推奨となります。Apache SparkのTalendジョブを使って、インテグレーションタスクを実行します。基本設定
[Schema] (スキーマ)と[Edit Schema] (スキーマを編集) |
スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語のlineを避けます。 スキーマを変更するには[Edit schema] (スキーマを編集)をクリックします。現在のスキーマがリポジトリータイプの場合は、3つのオプションを利用できます。
|
|
[Built-in] (組み込み): そのコンポーネントに対してのみスキーマを作成し、ローカルに保管します。 |
|
[Repository] (リポジトリー): スキーマは作成済みで、リポジトリーに保管されています。さまざまなプロジェクトやジョブデザインで再利用できます。 |
[Group by] (グループ基準) |
集計セットを定義し、その値を計算に使用します。 |
|
[Output Column] (出力カラム): 定義したスキーマストラクチャーに基づいて提供されるリストのカラムラベルを選択します。必要に応じて複数の出力カラムを追加することで、より正確に集計を行うことができます。 例: リストの各国の平均値を算出する場合はCountryを選択し、国内の地域ごとに値を比較する場合はCountryとRegionを選択します。 |
|
[Input Column] (入力カラム): 集計セットの出力ラベルが異なる必要がある場合に備えて、入力カラムと出力カラムを照合します。 |
[Operations] (操作) |
操作の種類、また計算および出力フィールドに使用する値を選択します。 |
|
[Output Column] (出力カラム): リストの宛先フィールドを選択します。 |
[Function] (ファンクション): 以下の中から演算子を選択します。
従来のETLジョブ内で利用できる一部のファンクション(firstやlastなど)は分散環境では意味をなさないため、MapReduceジョブでは利用できません。 |
|
|
[Input Column] (入力カラム): 集計対象の値を取得する入力カラムを選択します。 |
|
[Ignore null values] (NULL値を無視): NULL値を無視するカラムの名前に対応するチェックボックスをオンにします。 |
詳細設定
[Delimiter(only for list operation)] (区切り(操作リストのみ)) |
さまざまな操作を区切るために使う区切りを入力します。 |
金融計算精度を使用します。これはSUMおよびAVG操作の最大精度です。オプションにチェックを入れるとチェックを入れない場合と比べてヒープメモリが増加し、処理が遅くなります。 |
財務精度を使うには、このチェックボックスをオンにします。これは最大精度ですが、より多くのメモリを消費し、処理が遅くなります。 情報メモ警告:
正確な結果を取得するために、出力にはBigDecimal型を使うことをお勧めします。 |
[Check type overflow (slower)] (タイプのオーバーフローをチェック :低速) |
データのタイプをチェックして、ジョブがクラッシュしないことを確認します。 |
[Check ULP (Unit in the Last Place), ensure that a value will be incremented or decremented correctly, only float and double types. (slower) ] (ULP (Unit in the Last Place)をチェックし、Float型とDouble型のみ値が正しく増減することをご確認ください(低速)) |
Float型とDouble型で最も正確な結果を得られるようにするには、チェックボックスをオンにします。 |
[Global Variables] (グローバル変数)
グローバル変数 |
ERROR_MESSAGE: エラーが発生した時にコンポーネントによって生成されるエラーメッセージ。これはAfter変数で、文字列を返します。この変数はコンポーネントにこのチェックボックスが存在し、[Die on error] (エラー発生時に強制終了)がオフになっている場合のみ機能します。 Flow変数はのコンポーネントの実行中に機能し、After変数はコンポーネントの実行後に機能します。 フィールドまたは式に変数を入れるには、Ctrl + スペースを押して変数リストにアクセスし、リストから使用する変数を選択します。 変数の詳細は、Talend Studioユーザーガイドをご覧ください。 |
使用方法
使用ルール |
Talend Map/Reduceジョブでは、このコンポーネントは、中間ステップとして使用されますが、併用する他のコンポーネントもMap/Reduceのコンポーネントにする必要があります。Hadoopで直接実行できるネイティブMap/Reduceコードを生成します。 Talend Map/Reduceジョブの詳細は、Talend Big Data入門ガイドでTalend Map/Reduceジョブを作成、変換、設定する方法のセクションをご覧ください 。 本書では、特に明記されていない限り、標準ジョブ、つまり従来の Talend データ統合ジョブ、およびMap/Reduce以外のジョブのシナリオで説明しています。 |