tHDFSListの標準プロパティ
これらのプロパティは、標準ジョブのフレームワークで実行されているtHDFSListを設定するために使われます。
標準のtHDFSListコンポーネントは、ビッグデータファミリーとファイルファミリーに属しています。
このフレームワーク内のコンポーネントは、ビッグデータ対応のTalend 製品すべて、およびTalend Data Fabricで利用できます。
基本設定
[Property type] (プロパティタイプ) |
[Built-in] (組み込み)と[Repository] (リポジトリー)のいずれかです。 [Built-in] (組み込み): 一元的に保存されるプロパティデータはありません。 [Repository] (リポジトリー): プロパティが保管されるリポジトリーファイルを選択します。後続フィールドは、取得されたデータを使用して自動的に入力されます。 |
[Use an existing connection] (既存の接続を使用) |
このチェックボックスをオンにして、[Component List] (コンポーネントリスト)で、定義済みの接続詳細を再利用するHDFS接続コンポーネントをクリックします。 ジョブに親ジョブと子ジョブが含まれている場合、[Component List] (コンポーネントリスト)には同じジョブレベルの接続コンポーネントのみが表示されます。 |
[Distribution] (ディストリビューション) |
ドロップダウンリストから、使用するクラスターを選択します。リストのオプションは使用するコンポーネントによって異なります。これらのオプションの中でも、以下のオプションを使用するには特定の設定が必要です。
|
[Version] (バージョン) |
使用しているHadoopのディストリビューションのバージョンを選択します。使用可能なオプションは、使用しているコンポーネントによって異なります。 |
[Scheme] (スキーム) | [Scheme] (スキーム)ドロップダウンリストから、使用するファイルシステムのURIスキームを選択します。このスキームは
このリストにあるスキームは、使用しているディストリビューションによって異なります。また、特定のディストリビューションでこのリストに表示されるスキームのみが、Talendによって正式にサポートされています。 スキームを選択すると、WebHDFS用のwebhdfs://localhost:50070/などの対応する構文が、クラスターのNameNodeロケーションのフィールドに表示されます。 ADLSを選択した場合、定義の必要な接続パラメーターは以下のとおりです。
|
[NameNode URI] (ネームノードURI) |
Hadoopシステムのマスターノード、Hadoop NameNodeのURIを入力します。たとえば、NameNodeとしてmasternodeという名前のマシンを選択した場合、その場所はhdfs://masternode:portnumberになります。 WebHDFSを使用している場合、ロケーションはwebhdfs://masternode:portnumberとなります。WebHDFS with SSLはまだサポートされていません。 |
[Use Kerberos authentication] (Kerberos認証を使用) |
Kerberosセキュリティを実行しているHadoopクラスターにアクセスする場合は、このチェックボックスをオンにし、表示されるフィールドにネームノードとしてKerberosのプリンシパル名を入力します。これにより、ユーザー名を使って、Kerberosに保存された認証情報に対して認証を実行できます。
接続しているHadoopのディストリビューションによってはこのチェックボックスが表示されないこともあります。 |
[Use a keytab to authenticate] (Keytabを認証に使用) |
[Use a keytab to authenticate] (Keytabを認証に使用)チェックボックスをオンにして、所定のkeytabファイルを使ってKerberos対応のシステムにログインします。keytabファイルには、Kerberosのプリンシパルと暗号化されたキーのペアが含まれています。使用するプリンシパルを[Principal] (プリンシパル)フィールドに入力し、keytabファイルへのアクセスパスを[Keytab] フィールドに入力します。このkeytabファイルは、ジョブが実際に実行されているマシン、たとえば、Talend Jobserverに保存する必要があります。 keytabが有効なジョブは、プリンシパルに任命されたユーザーでなくても実行できますが、使用するkeytabファイルの読み取り権限が必要です。たとえばuser1というユーザー名でジョブを実行し、使用するプリンシパルがguestの場合、user1に使用するキータブファイルの読み取り権限があることをご確認ください。 |
[User name] (ユーザー名) |
[User name] (ユーザー名)フィールドは、認証にKeroberosを使っていない場合に利用できます。[User name] (ユーザー名)フィールドに、ディストリビューションにログインするためのユーザー名を入力します。このフィールドを空白のままにすると、Studioをホストするマシンのユーザー名が使用されます。 |
Group (グループ) |
HDFSインスタンスが起動された認証ユーザーを含めたメンバーシップを入力します。このフィールドは、使用しているHadoopのディストリビューションによっては、表示されないことがあります。 |
HDFS Directory (HDFSディレクトリー) |
ファイルシステムで使用するデータを参照するか、パスを入力します。 |
FileListタイプ |
繰り返し処理を行わせる入力のタイプをリストから選択します。 Files (ファイル): 一連のファイルの場合 Directories (ディレクトリー): 一連のディレクトリーの場合 Both (両方) 一連のファイルとディレクトリーの場合 |
Include subdirectories (サブディレクトリーを含める) |
選択した入力ソースタイプにサブディレクトリーが含まれる場合、このチェックボックスをオンにします。 |
[Case Sensitive] (大文字と小文字を区別) |
リストから大文字/小文字モードを設定して、ファイル名に対して大文字と小文字を区別するフィルターを作成するかどうかを決めます。 |
Use Glob Expressions as Filemask (ファイルマスクとしてグロブ表現を使用する) |
このチェックボックスは、デフォルトで選択されています。グローバル表現(グロブ表現)を使って結果をフィルター処理します。 |
ファイル |
[+]ボタンをクリックして、必要な数のフィルター行を追加します。 Filemask (ファイルマスク): 追加したフィルター行に、特殊文字または正規表現を使ってファイル名またはファイルマスクを入力します。 |
[Order by] (並べ替え順) |
最初にフォルダーが並び、次にファイルが並びます。フォルダーとファイルのソート順を、以下を基準に優先付けることができます。 By default (デフォルトの順序): アルファベット順、最初にフォルダー、次にファイル By file name (ファイル名順7): アルファベット順または逆のアルファベット順 By file size (ファイルサイズ順): 最小から最大、または最大から最小 By modified date (変更日順): 最終変更日から初回変更日、または初回変更日から最終変更日 情報メモ注:
[By file name] (ファイル名順)のソートで同一のファイル名がある場合は、[By modified date] (変更日順)が優先します。[By file size] (ファイルサイズ順)のソートで同一のファイルサイズがある場合は、[By file name] (ファイル名順)が優先します。[By modified date] (変更日順)のソートで同一の日付がある場合は、[By file name] (ファイル名順)が優先します。 |
順序 |
以下のラジオボタンのいずれかをクリックして、ソート順を選択します。 ASC: 昇順 DESC: 降順 |
詳細設定
Use Exclude Filemask (ファイルマスクの除外を使用する) |
このチェックボックスをオンにすると、[Exclude Filemask] (ファイルマスクを除外)フィールドを有効にして、ファイルタイムに基づくフィルター処理条件を除外できます。 [Exclude Filemask] (ファイルマスクを除外): [Basic settings] (基本設定)ビューの[Filemasks] (ファイルマスク)から除外するファイルタイプをこのフィールドに入力します。 情報メモ注:
このフィールドのファイルタイムは二重引用符で囲み、コンマで区切る必要があります。 |
[Hadoop properties] (Hadoopプロパティ) |
Talend Studio では、Hadoopディストリビューションの処理を実行するエンジンに、デフォルト設定を使用しています。特定の場合にカスタム設定を使用する必要がある場合は、カスタマイズするプロパティをこのテーブルで設定します。設定後、カスタマイズしたプロパティによってこれらのデフォルトのプロパティが実行時に上書きされます。
Hadoop、およびHDFSやHiveなどのその関連システムで必要なプロパティの詳細は、使用しているHadoopディストリビューションのドキュメンテーションを参照するか、http://hadoop.apache.org/docs (英語のみ)に掲載されているApacheのHadoopのドキュメンテーションを参照し、必要なバージョンのドキュメンテーションを選択してください。以下のリンクでは、一部のプロパティについて実例を紹介しています。
|
[tStatCatcher Statistics] (tStatCatcher統計) |
このチェックボックスを選択すると、ジョブレベルやコンポーネントレベルでジョブ処理メタデータが収集されます。 |
グローバル変数
グローバル変数 |
CURRENT_FILE: 現在のファイル名。これはFlow変数で、文字列を返します。 CURRENT_FILEDIRECTORY: 現在のファイルディレクトリー。これはFlow変数で、文字列を返します。 CURRENT_FILEEXTENSION: 現在のファイルの拡張子。これはFlow変数で、文字列を返します。 CURRENT_FILEPATH: 現在のファイルパス。これはFlow変数で、文字列を返します。 NB_FILE: これまでに繰り返しが行われたファイルの数。これはFlow変数で、整数を返します。 ERROR_MESSAGE: エラーが発生した時にコンポーネントによって生成されるエラーメッセージ。これはAfter変数で、文字列を返します。この変数はコンポーネントにこのチェックボックスが存在し、[Die on error] (エラー発生時に強制終了)がオフになっている場合のみ機能します。 Flow変数はのコンポーネントの実行中に機能し、After変数はコンポーネントの実行後に機能します。 フィールドまたは式に変数を入れるには、Ctrl + スペースを押して変数リストにアクセスし、リストから使用する変数を選択します。 変数の詳細は、Talend Studioユーザーガイドをご覧ください。 |
使用方法
使用ルール |
tHDFSListは、定義されたHDFSディレクトリー内にある、繰り返し処理を実行するファイルまたはフォルダーのリストを提供します。 |
[Dynamic settings] (ダイナミック設定) |
[+]ボタンをクリックしてテーブルに行を追加し、[Code] (コード)フィールドにコンテキスト変数を入力して、ジョブ内で計画した複数の接続からHDFS接続をダイナミックに選択します。この機能は、異なるHDFSシステムまたは異なるディストリビューション内のファイルにアクセスする必要がある場合、特に、 Talend Studio を介さずにジョブをデプロイおよび実行する必要がある時など、ジョブの設定を変更できない環境で作業している場合に役立ちます。 [Dynamic settings] (ダイナミック設定)テーブルは、[Basic settings] (基本設定)ビューで[Use an existing connection] (既存の接続を使用)チェックボックスがオンになっている場合のみ利用できます。ダイナミックパラメーターを定義すると、[Basic settings] (基本設定)ビューの[Component List] (コンポーネントリスト)ボックスは利用できなくなります。 ダイナミックパラメーターの定義法を示すユースケースについては、コンテキストベースのダイナミック接続によってデータベースからデータを読み取りと、ダイナミックにロードされた接続パラメーターを使って異なるMySQLデータベースからデータを読み取りをご覧ください。[Dynamic settings] (ダイナミック設定)とコンテキスト変数については、Talend Studioユーザーガイドをご覧ください。 |
[Connections] (接続) |
外部リンク(このコンポーネントから別のコンポーネントへのリンク): [Row] (行): 繰り返します。 [Trigger] (トリガー): サブジョブがOkの場合、サブジョブがエラーの場合、コンポーネントがOkの場合、ifを実行、コンポーネントがエラーの場合
受信リンク (あるコンポーネントからこのコンポーネントへのリンク): [Row] (行): 繰り返します。 [Trigger] (トリガー): [Run if] (条件付き実行)、[On Subjob Ok] (サブジョブがOKの場合)、[On Subjob Error] (サブジョブがエラーの場合)、[On Component Ok] (コンポーネントがOKの場合)、[On Component Error] (コンポーネントがエラーの場合)、[Synchronize] (同期)、[Parallelize] (並列)
接続に関する詳細は、 Talend Studio ユーザーガイドをご覧ください。 |
前提条件 |
Talend Studio との操作を確実に行うには、Hadoopディストリビューションを適切にインストールする必要があります。以下のリストに、MapR関連の情報などを示します。
Hadoopディストリビューションのインストール方法は、使用しているHadoopディストリビューションに対応するマニュアルをご覧ください。 |
制限事項 |
JRE 1.6+が必要です。 |