tKafkaOutputの標準プロパティ
これらのプロパティは、標準ジョブのフレームワークで実行されているtKafkaOutputを設定するために使われます。
標準のtKafkaOutputコンポーネントは、インターネットファミリーに属しています。
このフレームワークのコンポーネントは、すべてのビッグデータ対応のTalend製品およびTalend Data Fabricで使用できます。
基本設定
[Input type] (入力タイプ) |
ドロップダウンリストで、Kafkaに読み取らせるメッセージのタイプとして次のいずれかを選択します。
これらのプロパティは、Kafka 2.2.1以降で利用できます。 |
[Schema] (スキーマ)と[Edit schema] (スキーマを編集) |
スキーマとは行の説明のことです。処理して次のコンポーネントに渡すフィールド(カラム)数を定義します。Sparkジョブを作成する場合、フィールドの命名時は予約語のlineを避けます。 このコンポーネントのスキーマは読み取り専用です。公開するメッセージを保管します。 |
[Use an existing connection] (既存の接続を使用) |
定義済みの接続の詳細を再利用する場合は、このチェックボックスを選択して、[Component List] (コンポーネントリスト)ドロップダウンリストから、目的の接続コンポーネントを選択します。 |
[Version] (バージョン) |
使うKafkaクラスターのバージョンを選択します。 Talendが提供する8.0.1-R2024-02以降のTalend Studioマンスリーアップデートをインストール済みである場合、Kafka 2.4.x以前のバージョンは非推奨となります。 |
[Broker list] (ブローカーリスト) |
使用するKafkaクラスターのブローカーノードのアドレスを入力します。 このアドレスの形式はhostname:portです。この情報は、このKafkaクラスター内のホスティングノードの名前とポートです。 複数のアドレスを指定する必要がある場合は、コンマ(,)で区切ります。 |
トピック名 |
メッセージを公開するトピックの名前を入力します。このトピックは既に存在している必要があります。 このプロパティは、[Input type] (入力タイプ)ドロップダウンリストでByte[]が選択されている場合のみ利用できます。 |
[Compress the data] (データを圧縮) |
[Compress the data] (データの圧縮)チェックボックスをオンにすると、出力データが圧縮されます。 |
[Use SSL/TLS] (SSL/TLSを使用) |
SSLまたはTLS暗号化接続を有効にする場合は、このチェックボックスを選択します。 このチェックボックスはKafka 0.9.0.1以降で使えます。 |
[Set keystore] (キーストアを設定) |
このチェックボックスを選択すると、tSetKeystoreコンポーネント経由のSSLまたはTLS暗号化接続が有効になります。 次に、同じジョブ内のtSetKeyStoreコンポーネントを使用して暗号化情報を指定する必要があります。 このチェックボックスは、[Use SSL/TLS] (SSL/TLSを使用)チェックボックスをオンにすると使用できます。 情報メモ注: このオプションは、Talendが提供する8.0.1-R2022-05以降のTalend Studioマンスリーアップデートをインストール済みである場合に利用できます。詳細は管理者にお問い合わせください。
|
[Use Kerberos authentication] (Kerberos認証を使用) |
使用するKafkaクラスターをKerberosで保護する場合は、このチェックボックスを選択して、定義する関連パラメーターを表示します。
KafkaクラスターをKerberosで保護する方法は、SASLを使用した認証をご覧ください。 このチェックボックスはKafka 0.9.0.1以降で使えます。 |
詳細設定
[Kafka properties] (Kafkaのプロパティ) |
カスタマイズする必要がある新しいKafkaプロデューサープロパティをこのテーブルに追加します。 このテーブルで定義できる新しいプロデューサーのプロパティに関する詳細は、Kafkaの公式ドキュメンテーションで新しいプロデューサーの設定を説明しているセクションをご覧ください。 |
[Set Headers] (ヘッダーを設定) |
送信するメッセージにヘッダーを追加するには、このチェックボックスを選択します。 この機能は、Kafka 1.1.0以降で使えます。 |
[Use schema registry] (スキーマレジストリーを使用) |
このチェックボックスを選択すると、Confluent Schema Registryが使用され、定義する次の関連パラメーターが表示されます。
スキーマレジストリーの詳細は、Confluentのドキュメンテーションをご覧ください。 このオプションは、[Basic settings] (基本設定)ビューで[Input type] (入力タイプ)ドロップダウンリストからProducerRecordが選択されている場合のみ利用できます。 情報メモ注: このオプションは、Talendが提供する8.0.1-R2022-01以降のTalend Studioマンスリーアップデートをインストール済みである場合に利用できます。詳細は管理者にお問い合わせください。
|
[tStatCatcher Statistics] (tStatCatcher統計) |
このチェックボックスを選択すると、ジョブレベルおよび各コンポーネントレベルで処理メタデータが収集されます。 |
グローバル変数
ERROR_MESSAGE |
エラー発生時にコンポーネントによって生成されるエラーメッセージ。これはAfter変数で、文字列を返します。この変数は、[Die on error] (エラー発生時に強制終了)チェックボックスがオンになっている場合のみ機能します。 |
NB_LINE |
処理された行数。これはAfter変数で、整数を返します。 |
NB_ERRORS |
The number of rows processed with errors. これはAfter変数で、整数を返します。 |
NB_SUCCESS |
正しく処理された行数。これはAfter変数で、整数を返します。 |
使用方法
使用ルール |
このコンポーネントは、終了コンポーネントです。受信データをシリアライズされたバイト配列に変換するには、tJavaRowまたはtJavaコンポーネントが必要です。 次のサンプルは、この変換を実行するステートメントを作成する方法を示しています。
このコードでは、output_row変数はtKafkaOutputに出力されるデータのスキーマを、output_row.serializedValueはそのスキーマの単一の読み取り専用カラムを、input_row変数は受信データのスキーマを、input_row.usersはgetBytes()メソッドによってバイト配列に変換されるusersという名前の入力カラムを表します。 |