tHDFSPut
Hadoop分散ファイルシステムに接続して、大規模ファイルを最適なパフォーマンスでこのファイルシステムにロードします。
tHDFSPutは、ユーザー定義ディレクトリーからファイルをコピーして特定のHadoop分散ファイルシステム(HDFS)に貼り付けて、必要な場合はこれらのファイルの名前を変更します。
デフォルトで、このコンポーネントはTalend Studioと共には出荷されていません。機能マネージャーを使ってインストールする必要があります。 詳細は、機能マネージャーを使って機能をインストールをご覧ください。
tHDFSPutの標準プロパティ
これらのプロパティは、標準ジョブのフレームワークで実行されているtHDFSPutを設定するために使われます。
標準のtHDFSPutコンポーネントは、ビッグデータファミリーとファイルファミリーに属しています。
このフレームワークのコンポーネントは、すべてのビッグデータ対応のTalend製品およびTalend Data Fabricで利用できます。
基本設定
| プロパティ | 説明 |
|---|---|
|
[Property Type] (プロパティタイプ) |
接続の詳細を設定する方法を選択します。
|
|
[Use an existing connection] (既存の接続を使用) |
このチェックボックスをオンにして、[Component List] (コンポーネントリスト)で、定義済みの接続詳細を再利用するHDFS接続コンポーネントをクリックします。 ジョブに親ジョブと子ジョブが含まれている場合、[Component List] (コンポーネントリスト)には同じジョブレベルの接続コンポーネントのみが表示されます。 |
| [Hadoop version] (Hadoopのバージョン) |
使用しているディストリビューションのHadoopバージョンを選択します。 |
| [Scheme] (スキーム) | [Scheme] (スキーム)ドロップダウンリストから、使用するファイルシステムのURIスキームを選択します。このスキームは
このリストにあるスキームは、使用しているディストリビューションによって異なります。また、特定のディストリビューションでこのリストに表示されるスキームのみが、Talendによって正式にサポートされています。 スキームをオンにすると、WebHDFS用のwebhdfs://localhost:50070/などの対応する構文が、クラスターのNameNodeロケーションのフィールドに表示されます。 ADLSを選択した場合、定義の必要な接続パラメーターは以下のとおりです。
|
|
[NameNode URI] (ネームノードURI) |
Hadoopシステムのマスターノード、Hadoop NameNodeのURIを入力します。たとえば、NameNodeとしてmasternodeという名前のマシンを選択した場合、その場所はhdfs://masternode:portnumberになります。 WebHDFSを使用している場合、ロケーションはwebhdfs://masternode:portnumberとなります。WebHDFS with SSLはまだサポートされていません。 |
| [Use Kerberos authentication] (Kerberos認証を使用) |
Kerberosセキュリティを実行しているHadoopクラスターにアクセスする場合は、このチェックボックスをオンにし、表示されるフィールドにネームノードとしてKerberosのプリンシパル名を入力します。これにより、ユーザー名を使って、Kerberosに保存された認証情報に対して認証を実行できます。 接続しているHadoopのディストリビューションによってはこのチェックボックスが表示されないこともあります。 |
| MapRチケットを使用した認証 | MapRチケットを使用して認証するには、このチェックボックスをオンにして、次の情報を入力します。
|
| [Use a keytab to authenticate] (Keytabを認証に使用) |
[Use a keytab to authenticate] (Keytabを認証に使用)チェックボックスをオンにして、所定のkeytabファイルを使ってKerberos対応のシステムにログインします。keytabファイルには、Kerberosのプリンシパルと暗号化されたキーのペアが含まれています。使用するプリンシパルを[Principal] (プリンシパル)フィールドに入力し、keytabファイルへのアクセスパスを[Keytab] フィールドに入力します。このキータブファイルは、ジョブが実際に実行されているマシン(Talend JobServerなど)に保存する必要があります。 keytabが有効なジョブは、プリンシパルに任命されたユーザーでなくても実行できますが、使用するkeytabファイルの読み取り権限が必要です。たとえばuser1というユーザー名でジョブを実行し、使用するプリンシパルがguestの場合、user1に使用するキータブファイルの読み取り権限があることをご確認ください。 |
| [User name] (ユーザー名) |
[User name] (ユーザー名)フィールドは、認証にKeroberosを使っていない場合に利用できます。[User name] (ユーザー名)フィールドに、ディストリビューションにログインするためのユーザー名を入力します。このフィールドを空白のままにすると、Talend Studioをホストするマシンのユーザー名が使用されます。 |
| グループ |
HDFSインスタンスが起動された認証ユーザーを含めたメンバーシップを入力します。このフィールドは、使用しているHadoopのディストリビューションによっては、表示されないことがあります。 |
| ローカルディレクトリー | HDFSにロードされるファイルが保管されるローカルディレクトリー。 |
| HDFS directory (HDFSディレクトリー) |
ファイルシステムで使用するデータを参照するか、パスを入力します。 |
| [Action on file] (ファイルでのアクション) | ファイルに対して実行するアクションを選択します。
|
| [Use Perl5 Regex Expression as Filemask] (Perl5正規表現をファイルマスクとして使用) |
[Files] (ファイル)フィールドでPerl5正規表現をファイルフィルターとして使う場合は、このチェックボックスをオンにします。これは、使用するファイルの名前に括弧などの特殊文字が含まれている場合に役立ちます。 Perl5正規表現構文の詳細は、Perl5 Regular Expression Syntaxをご覧ください。 |
| ファイル | [Files] (ファイル)エリアで以下のフィールドを完成させます。
|
| [Die on error] (エラー発生時に強制終了) | このチェックボックスはデフォルトで選択されています。エラーの発生した行をスキップし、エラーが発生していない行の処理を完了するには、このチェックボックスをオフにします。 |
詳細設定
| プロパティ | 説明 |
|---|---|
| [tStatCatcher Statistics] (tStatCatcher統計) | このチェックボックスをオンにすると、コンポーネントレベルでログデータを収集できます。 |
| [Hadoop properties] (Hadoopプロパティ) |
Talend Studio では、Hadoopディストリビューションの処理を実行するエンジンに、デフォルト設定を使用しています。特定の場合にカスタム設定を使用する必要がある場合は、カスタマイズするプロパティをこのテーブルで設定します。設定後、カスタマイズしたプロパティによってこれらのデフォルトのプロパティが実行時に上書きされます。
Hadoopやその関連システム(HDFS、Hiveなど)で必要なプロパティの詳細は、使用しているHadoopディストリビューションのドキュメンテーションか、ApacheのHadoopドキュメンテーションをご覧になって、必要なバージョンのドキュメンテーションを選択してください。以下のリンクでは、一部のプロパティについて実例を紹介しています。
|
グローバル変数
| 変数 | 説明 |
|---|---|
| グローバル変数 |
NB_FILE: 処理されたファイルの数。これはAfter変数で、整数を返します。 TRANSFER_MESSAGES: ファイル転送情報。これはAfter変数で、文字列を返します。 ERROR_MESSAGE: エラーが発生した時にコンポーネントによって生成されるエラーメッセージ。これはAfter変数で、文字列を返します。この変数はコンポーネントにこのチェックボックスが存在し、[Die on error] (エラー発生時に強制終了)がオフになっている場合のみ機能します。 Flow変数はのコンポーネントの実行中に機能し、After変数はコンポーネントの実行後に機能します。 フィールドまたは式に変数を入力する場合は、Ctrl + スペースを押して変数リストにアクセスし、使用する変数を選択します。 変数の詳細は、コンテキストと変数を使用をご覧ください。 |
使用方法
| 使用方法のガイダンス | 説明 |
|---|---|
| 使用ルール | このコンポーネントは、HDFS接続とデータ抽出を組み合わせたものであるため、通常、ユーザー定義のローカルディレクトリーからHDFSにデータを移動するための単一コンポーネントのサブジョブとして使用されます。 コンポーネントtHDFSInputおよびtHDFSOutputとは異なり、スタンドアロンで実行され、他のコンポーネント用の入力フローや出力フローを生成しません。 ほとんどの場合、コンテキストに応じて、OnSubjobOkまたはOnComponentOkリンクを使ってジョブに接続します。 |
| [Dynamic settings] (ダイナミック設定) |
[+]ボタンをクリックしてテーブルに行を追加し、[Code] (コード)フィールドにコンテキスト変数を入力して、ジョブ内で計画した複数の接続からHDFS接続をダイナミックに選択します。この機能は、異なるHDFSシステムまたは異なるディストリビューション内のファイルにアクセスする必要がある場合、特に、 Talend Studio を介さずにジョブをデプロイおよび実行する必要がある時など、ジョブの設定を変更できない環境で作業している場合に役立ちます。 [Dynamic settings] (ダイナミック設定)テーブルは、[Basic settings] (基本設定)ビューで[Use an existing connection] (既存の接続を使用)チェックボックスがオンになっている時のみ利用可能です。ダイナミックパラメーターを定義すると、[Basic settings] (基本設定)ビューの[Component List] (コンポーネントリスト)ボックスは利用できなくなります。 ダイナミックパラメーターの定義法を示すユースケースについては、コンテキストベースのダイナミック接続によってデータベースからデータを読み取りと、ダイナミックにロードされた接続パラメーターを使って異なるMySQLデータベースからデータを読み取りをご覧ください。ダイナミック設定とコンテキスト変数の詳細は、ダイナミックスキーマとコンテキストグループを作成し、その中でコンテキスト変数を定義をご覧ください。 |
| 前提条件 |
Talend Studio との操作を確実に行うには、Hadoopディストリビューションを適切にインストールする必要があります。以下のリストに、MapR関連の情報などを示します。
Hadoopディストリビューションのインストール方法の詳細は、使用しているHadoopディストリビューションに対応するマニュアルをご覧ください。 |
| 制限事項 |
JRE 1.6+が必要です。 |