# tHDFSPut

Hadoop分散ファイルシステムに接続して、大規模ファイルを最適なパフォーマンスでこのファイルシステムにロードします。

tHDFSPutは、ユーザー定義ディレクトリーからファイルをコピーして特定のHadoop分散ファイルシステム(HDFS)に貼り付けて、必要な場合はこれらのファイルの名前を変更します。

デフォルトで、このコンポーネントはTalend Studioと共には出荷されていません。機能マネージャーを使ってインストールする必要があります。 詳細は、[機能マネージャーを使って機能をインストール](https://help.qlik.com/talend/r/ja-JP/8.0/studio-user-guide/install-features-to-talend-studio)をご覧ください。

## tHDFSPutの標準プロパティ

これらのプロパティは、標準ジョブのフレームワークで実行されているtHDFSPutを設定するために使われます。

標準のtHDFSPutコンポーネントは、ビッグデータファミリーとファイルファミリーに属しています。

このフレームワークのコンポーネントは、すべてのビッグデータ対応のTalend製品およびTalend Data Fabricで利用できます。

## 基本設定

| [Properties] (プロパティ) | 説明 |
| --- | --- |
| プロパティタイプ | 接続の詳細を設定する方法を選択します。<br><br><ul> <li> <p> <span>[Built-In] (組み込み)</span>: このコンポーネントの接続の詳細がローカルに設定されます。関連するすべての接続のプロパティ値を手動で指定する必要があります。</p> </li> <li> <p> <span>[Repository] (リポジトリー)</span>: <span><span>[Repository] (リポジトリー)</span><abbr> &gt; </abbr><span>[Metadata] (メタデータ)</span></span>で一元的に保存された接続の詳細が、このコンポーネントによって再使用されます。 </p> <p>このチェックボックスの横にある <span>[...]</span> ボタンをクリックし、表示された <span>[Repository Content] (リポジトリーのコンテンツ)</span>ダイアログボックスで、再使用する接続の詳細をオンにすると、関連するすべての接続のプロパティに値が自動的に入力されます。</p> </li> </ul> |
| *[Use an existing connection] (既存の接続を使用)* | このチェックボックスをオンにして、[Component List] (コンポーネントリスト)で、定義済みの接続詳細を再利用するHDFS接続コンポーネントをクリックします。<br><br>ジョブに親ジョブと子ジョブが含まれている場合、[Component List] (コンポーネントリスト)には同じジョブレベルの接続コンポーネントのみが表示されます。 |
| [Hadoop version] (Hadoopのバージョン) | 使用しているディストリビューションのHadoopバージョンを選択します。 |
| [Scheme] (スキーム) | [Scheme] (スキーム)ドロップダウンリストから、使用するファイルシステムのURIスキームを選択します。このスキームは<br><br><ul> <li>HDFS</li> <li>WebHDFSである場合があります。WebHDFS with SSLはまだサポートされていません。</li> <li>ADLS サポート対象はAzure Data Lake Storage Gen1のみです。</li> </ul><br><br>このリストにあるスキームは、使用しているディストリビューションによって異なります。また、特定のディストリビューションでこのリストに表示されるスキームのみが、Talendによって正式にサポートされています。<br><br>スキームをオンにすると、WebHDFS用のwebhdfs://localhost:50070/などの対応する構文が、クラスターのNameNodeロケーションのフィールドに表示されます。<br><br>ADLSを選択した場合、定義の必要な接続パラメーターは以下のとおりです。<br><br><ul> <li> <p> <span><span>[Client ID] (クライアントID)</span>フィールドと<span>[Client key] (クライアントキー)</span>フィールドに、開発中である現行のジョブがAzure Data Lake Storageへのアクセスに使うアプリケーションを登録する際に生成された認証IDと認証キーをそれぞれ入力します。</span> </p> <p>使用するアプリケーションにAzure Data Lakeへのアクセス権があることを確認します。Azureでこのアプリケーションの[Required permissions] (必要な権限)ビューをチェックしてください。詳細は、Azureのドキュメンテーションである<a href="https://docs.microsoft.com/en-us/azure/data-lake-store/data-lake-store-service-to-service-authenticate-using-active-directory#step-3-assign-the-azure-ad-application-to-the-azure-data-lake-store-account-file-or-folder" target="_blank">Assign the Azure AD application to the Azure Data Lake Storage account file or folder</a>をご覧ください。</p> </li> <li> <p> <span><span>[Token endpoint] (トークンエンドポイント)</span>フィールドで、Azureポータルの<span>[App registrations] (アプリの登録)</span>ページの<span>[Endpoints] (エンドポイント)</span>リストから取得できるOAuth 2.0トークンエンドポイントをコピーして貼り付けます。</span> </p> </li> </ul><br><br><br>デモンストレーション動画については、[Configure and use Azure in a Job](https://www.youtube.com/watch?v=Ww9-sp5Kd1o)をご覧ください。 |
| Use Knox | スキームがWebHDFSに設定されている場合にApache Knoxのサポートを有効にするには、このチェックボックスを選択してください。選択すると、セキュアゲートウェイアクセスに関するKnox固有の追加オプションが利用できるようになります。<br><br><ul> <li><span>Knox Gateway</span>: KnoxゲートウェイのURLを入力します。</li> <li><span>[User] (ユーザー)</span>: 認証用のKnoxユーザー名を入力します。</li> <li><span>[Password (パスワード)]</span>: 認証用のKnoxパスワードを入力します。</li> <li><span>Knoxタイムアウトを設定(秒)</span>: カスタム接続タイムアウトを定義するオプション。有効にすると、<span>Knoxタイムアウト</span>フィールドが表示されます。</li> </ul><br><br><br>[Knoxを使用]を選択すると、次のオプションは非表示になります。<br><br><ul> <li><span>[NameNode URI] (ネームノードURI)</span></li> <li><span>[Use Datanode Hostname] (データノードホスト名を使用)</span></li> <li><span>[Use Kerberos authentication] (Kerberos認証を使用)</span></li> <li><span>ユーザー名</span></li> <li><span>MapRチケットを使用した認証</span></li> </ul> |
| [NameNode URI] (ネームノードURI) | Hadoopシステムのマスターノード、Hadoop NameNodeのURIを入力します。たとえば、NameNodeとして*masternode*という名前のマシンを選択した場合、その場所はhdfs://masternode:portnumberになります。 WebHDFSを使用している場合、ロケーションはwebhdfs://masternode:portnumberとなります。WebHDFS with SSLはまだサポートされていません。 |
| [Use Kerberos authentication] (Kerberos認証を使用) | Kerberosセキュリティを実行しているHadoopクラスターにアクセスする場合は、このチェックボックスをオンにし、表示されるフィールドにネームノードとしてKerberosのプリンシパル名を入力します。これにより、ユーザー名を使って、Kerberosに保存された認証情報に対して認証を実行できます。<br><br>このチェックボックスは、接続しているHadoopのディストリビューションによっては、表示されないことがあります。 |
| MapRチケットを使用した認証 | MapRチケットを使用して認証するには、このチェックボックスをオンにして、次の情報を入力します。<br><br><ul> <li><span>ユーザー名</span>: ユーザー名を入力します。</li> <li><span>グループ</span>: グループの名前を入力します。</li> <li><span>パスワード</span>: パスワードを入力してMapRチケットを認証します。</li> <li><span>クラスター名</span>: 使用したいクラスターの名前を入力します。</li> <li><span>チケットの有効期間</span>: チケットの有効期間(秒単位)を入力します。例: <span>86400L</span>(<span>L</span>は長整数に相当)</li> </ul> |
| [Use a keytab to authenticate] (Keytabを認証に使用) | [Use a keytab to authenticate] (Keytabを認証に使用)チェックボックスをオンにして、所定のkeytabファイルを使ってKerberos対応のシステムにログインします。keytabファイルには、Kerberosのプリンシパルと暗号化されたキーのペアが含まれています。使用するプリンシパルを[Principal] (プリンシパル)フィールドに入力し、keytabファイルへのアクセスパスを[Keytab] フィールドに入力します。このキータブファイルは、ジョブが実際に実行されているマシン(Talend JobServerなど)に保存する必要があります。<br><br>keytabが有効なジョブは、プリンシパルに任命されたユーザーでなくても実行できますが、使用するkeytabファイルの読み取り権限が必要です。たとえば*user1*というユーザー名でジョブを実行し、使用するプリンシパルが*guest*の場合、*user1*に使用するキータブファイルの読み取り権限があることをご確認ください。 |
| [User name] (ユーザー名) | [User name] (ユーザー名)フィールドは、認証にKeroberosを使っていない場合に利用できます。[User name] (ユーザー名)フィールドに、ディストリビューションにログインするためのユーザー名を入力します。このフィールドを空白のままにすると、Talend Studioをホストするマシンのユーザー名が使用されます。 |
| グループ | HDFSインスタンスが起動された認証ユーザーを含めたメンバーシップを入力します。このフィールドは、使用しているHadoopのディストリビューションによっては、表示されないこともあります。 |
| ローカルディレクトリー | HDFSにロードされるファイルが保管されるローカルディレクトリー。 |
| HDFS directory (HDFSディレクトリー) | ファイルシステムで使用するデータを参照するか、パスを入力します。 |
| [Action on file] (ファイルでのアクション) | ファイルに対して実行するアクションを選択します。<br><br><ul> <li> <span>[Create] (作成)</span>: 新しいファイルを作成します。</li> <li> <span>[Overwrite] (上書き)</span>: 既存のファイルでデータを上書きします。</li> </ul> |
| [Use Perl5 Regex Expression as Filemask] (Perl5正規表現をファイルマスクとして使用) | [Files] (ファイル)フィールドでPerl5正規表現をファイルフィルターとして使う場合は、このチェックボックスをオンにします。これは、使用するファイルの名前に括弧などの特殊文字が含まれている場合に役立ちます。<br><br>Perl5正規表現構文の詳細は、[Perl5 Regular Expression Syntax](http://perldoc.perl.org/perlre.html#Regular-Expressions)をご覧ください。 |
| ファイル | [Files] (ファイル)エリアで以下のフィールドを完成させます。<br><br><ul> <li><span>File mask (ファイルマスク)</span>: ローカルディレクトリーから選択するファイルの名前を入力します。正規表現を利用できます。</li> <li><span>[New name] (新しい名前)</span>: ロードしたファイルに新しい名前を付けます。</li> </ul> |
| [Die on error] (エラー発生時に強制終了) | このチェックボックスは、デフォルトで選択されています。エラーの発生した行をスキップし、エラーが発生していない行の処理を完了するには、このチェックボックスをオフにします。 |

## 詳細設定

| [Properties] (プロパティ) | 説明 |
| --- | --- |
| [tStatCatcher Statistics] (tStatCatcher統計) | このチェックボックスをオンにすると、コンポーネントレベルでログデータを収集できます。 |
| [Hadoop properties] (Hadoopプロパティ) | *Talend Studio* では、Hadoopディストリビューションの処理を実行するエンジンに、デフォルト設定を使用しています。特定の場合にカスタム設定を使用する必要がある場合は、カスタマイズするプロパティをこのテーブルで設定します。設定後、カスタマイズしたプロパティによってこれらのデフォルトのプロパティが実行時に上書きされます。<br><br><ul> <li> <p><span>[Repository] (リポジトリー)</span>に一元的に保管されたメタデータを使用している場合、テーブルにはそのメタデータで定義されたプロパティが自動的に継承されます。<span>[Property type] (プロパティタイプ)</span>を<span>[Repository] (リポジトリー)</span>から<span>[Built-in] (組み込み)</span>に変更しないと、テーブルは編集できなくなります。</p> </li> </ul><br><br>Hadoopやその関連システム(HDFS、Hiveなど)で必要なプロパティの詳細は、使用しているHadoopディストリビューションのドキュメンテーションか、[ApacheのHadoopドキュメンテーション](http://hadoop.apache.org/docs)をご覧になって、必要なバージョンのドキュメンテーションを選択してください。以下のリンクでは、一部のプロパティについて実例を紹介しています。<br><br><ul> <li> <p>通常、HDFS関連のプロパティは、 <a href="http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml" target="_blank">http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml</a>など、ディストリビューションの<em>hdfs-default.xml</em>ファイル内にあります。</p> </li> <li> <p>Apacheは、<a href="https://cwiki.apache.org/confluence/display/Hive/Configuration+Properties" target="_blank">Hive関連のプロパティ</a>をリスト表示するページも提供しています。</p> </li> </ul> |

## [Global Variables] (グローバル変数)

| 変数 | 説明 |
| --- | --- |
| グローバル変数 | NB\_FILE: 処理されたファイルの数。これはAfter変数で、整数を返します。<br><br>TRANSFER\_MESSAGES: ファイル転送情報。これはAfter変数で、文字列を返します。<br><br>ERROR\_MESSAGE: エラーが発生した時にコンポーネントによって生成されるエラーメッセージ。これはAfter変数で、文字列を返します。この変数はコンポーネントにこのチェックボックスが存在し、[Die on error] (エラー発生時に強制終了)がオフになっている場合のみ機能します。<br><br>Flow変数はコンポーネントの実行中に機能し、After変数はコンポーネントの実行後に機能します。<br><br>フィールドまたは式に変数を入力する場合は、Ctrl + スペースを押して変数リストにアクセスし、使用する変数を選択します。<br><br>変数の詳細は、[コンテキストと変数を使用](https://help.qlik.com/talend/r/ja-JP/8.0/studio-user-guide/contexts-and-variables)をご覧ください。 |

## 使用方法

| 使用方法のガイダンス | 説明 |
| --- | --- |
| **使用ルール** | このコンポーネントは、HDFS接続とデータ抽出を組み合わせたものであるため、通常、ユーザー定義のローカルディレクトリーからHDFSにデータを移動するための単一コンポーネントのサブジョブとして使用されます。<br><br>コンポーネントtHDFSInputおよびtHDFSOutputとは異なり、スタンドアロンで実行され、他のコンポーネント用の入力フローや出力フローを生成しません。<br><br>ほとんどの場合、コンテキストに応じて、OnSubjobOkまたはOnComponentOkリンクを使ってジョブに接続します。 |
| [Dynamic settings] (ダイナミック設定) | [+]ボタンをクリックしてテーブルに行を追加し、[Code] (コード)フィールドにコンテキスト変数を入力して、ジョブ内で計画した複数の接続からHDFS接続をダイナミックに選択します。この機能は、異なるHDFSシステムまたは異なるディストリビューション内のファイルにアクセスする必要がある場合、特に、 *Talend Studio* を介さずにジョブをデプロイおよび実行する必要がある時など、ジョブの設定を変更できない環境で作業している場合に役立ちます。<br><br>[Dynamic settings] (ダイナミック設定)テーブルは、[Basic settings] (基本設定)ビューで[Use an existing connection] (既存の接続を使用)チェックボックスがオンになっている時のみ利用可能です。ダイナミックパラメーターを定義すると、[Basic settings] (基本設定)ビューの[Component List] (コンポーネントリスト)ボックスは利用できなくなります。<br><br>ダイナミックパラメーターの定義法を示すユースケースについては、[コンテキストベースのダイナミック接続によってデータベースからデータを読み取り](https://help.qlik.com/talend/r/ja-JP/8.0/components/defining-context-groups/reading-data-from-databases-through-context-based-dynamic-connections)と、[ダイナミックにロードされた接続パラメーターを使って異なるMySQLデータベースからデータを読み取り](https://help.qlik.com/talend/r/ja-JP/8.0/components/context/reading-data-from-different-mysql-databases-using-dynamically-loaded-connection-parameters)をご覧ください。ダイナミック設定とコンテキスト変数の詳細は、[ダイナミックスキーマ](https://help.qlik.com/talend/r/ja-JP/8.0/studio-user-guide/dynamic-schema)と[コンテキストグループを作成し、その中でコンテキスト変数を定義](https://help.qlik.com/talend/r/ja-JP/8.0/studio-user-guide/creating-context-group-and-define-context-variables-in-it)をご覧ください。 |
| 前提条件 | *Talend Studio* との操作を確実に行うには、Hadoopディストリビューションを適切にインストールする必要があります。以下のリストに、MapR関連の情報などを示します。<br><br><ul> <li> <p>MapRクライアントは必ず<span>Talend Studio</span>のあるマシンにインストールして、そのマシンのPATH変数にMapRクライアントライブラリーを追加します。MapRのドキュメンテーションによると、各OSバージョンに対応するMapRクライアントのライブラリーは、<em>MAPR_INSTALL\ hadoop\hadoop-VERSION\lib\native</em>にあります。たとえば、Windows版のライブラリーは、<em>\lib\native\MapRClient.dll</em>にあるMapRクライアントのjarファイルにあります。</p> <p>指定のライブラリーを追加しないと、<span>no MapRClient in java.library.path</span>というエラーが発生する可能性があります。</p> </li> <li> <p>たとえば、<span>[Window] (ウィンドウ)</span>メニューの<span>[Preferences] (環境設定)</span>ダイアログボックスにある<span>[Run/Debug] (実行/デバッグ)</span>ビューの<span>[Job Run VM arguments] (ジョブ実行VMの引数)</span>エリアで、<span>-Djava.library.path</span>引数を設定します。この引数により、そのMapRクライアントのネイティブライブラリーへのパスが<span>Talend Studio</span>に渡されるので、サブスクリプションベースのユーザーは<span>データビューアー</span>をフルに活用して、MapRに保存されたデータを<span>Talend Studio</span>でローカルに表示できます。</p> </li> </ul><br><br>Hadoopディストリビューションのインストール方法の詳細は、使用しているHadoopディストリビューションに対応するマニュアルを参照してください。 |
| 制限事項 | JRE 1.6+が必要です。 |

**関連概念**

* [Hadoop分散ファイルシステムでのデータの計算](https://help.qlik.com/talend/ja-JP/components/8.0/hdfs/thdfsget-thdfsput-tfileinputdelimited-tlogrow-computing-data-with-hadoop-distributed-file-system-standard-component-bigdata-the)