tDataShufflingの標準プロパティ
これらのプロパティは、標準ジョブのフレームワークで実行されているtDataShufflingを設定するために使われます。
標準のtDataShufflingコンポーネントは、データクオリティファミリーに属しています。
このフレームワーク内のコンポーネントは、Talend Data Management PlatformTalend Big Data Platform、Talend Real-Time Big Data PlatformTalend Data Services Platform、およびTalend Data Fabricで使用できます。
基本設定
[Schema] (スキーマ)と[Edit Schema] (スキーマを編集) |
スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語のlineを避けます。 ジョブで接続している先行コンポーネントからスキーマを取得するためには、[Sync columns] (カラムを同期)をクリックします。 スキーマを変更するには[Edit schema] (スキーマを編集)をクリックします。現在のスキーマがリポジトリータイプの場合は、3つのオプションを利用できます。
|
|
[Built-in] (組み込み): そのコンポーネントに対してのみスキーマを作成し、ローカルに保管します。 |
|
[Repository] (リポジトリー): スキーマは作成済みで、リポジトリーに保管されています。さまざまなプロジェクトやジョブデザインで再利用できます。 |
[Shuffling columns] (カラムのシャッフル) |
シャッフルするカラムのグループを定義します:
|
詳細設定
[Seed for random generator] (ランダムジェネレーターをシード) |
ジョブの実行ごとに同じ順序でデータをシャッフルする場合は、乱数を設定するために使われます。シードはデフォルトでは設定されません。 シードを設定しないと、コンポーネントが各ジョブの実行に対して新しいランダムシードを作成します。このフィールドに異なる値を指定して実行を繰り返すと、別の順序でデータがシャッフルされます。 |
[Buffer size] (バッファーサイズ) |
処理されたデータに割り当てる物理メモリのサイズ(行数)を入力します。 |
[Partitioning columns] (カラムのパーティショニング) |
データの分割に使用するカラムを追加します。 選択されたカラムは、シャッフルプロセスで小さなパーティションに分割されます。パーティション内の行のみシャッフルできます。 |
[tStat Catcher Statistics] (tStatCatcher統計) |
このチェックボックスを選択すると、ジョブレベルおよび各コンポーネントレベルでジョブ処理メタデータが収集されます。 |
使用方法
使用ルール |
このコンポーネントは、通常、中間コンポーネントとして使用されます。入力コンポーネントと出力コンポーネントが必要です。 |