Creazione di regole per trasformare i dataset
È possibile creare regole di trasformazione riutilizzabili per eseguire una trasformazione globale sui dataset nelle attività di dati Replication, Landing, Storage, Transform, e Data mart.
Selezionare Dataset, fare clic su Regole di trasformazione e quindi su Aggiungi regola di trasformazione per creare una nuova regola di trasformazione.
-
Selezionare il tipo di trasformazione e fare clic su Avanti.
È possibile eseguire le seguenti trasformazioni:
-
Rinominare i dataset
-
Sostituire la pubblicazione dei messaggi di dati
Nota informatica-
Disponibile solo per la destinazione Kafka.
-
Se si utilizza il Data Movement gateway (richiesto con Kafka on-premise), è necessaria la versione 2025.5.40 o successiva.
-
-
Rinominare le colonne
-
Aggiungere colonne
-
Eliminare colonne
-
Convertire i tipi di dati
-
Sostituzione dei valori delle colonne
-
-
Selezionare l'ambito della trasformazione e fare clic su Avanti.
-
Selezionare quale azione di trasformazione eseguire e fare clic su Avanti.
-
Aggiungere un nome e una descrizione per la regola e fare clic su Fine.
La regola verrà applicata quando si esegue l'attività di dati. Se si aggiunge più di una regola, le regole verranno eseguite nell'ordine in cui sono elencate.
Ambito della trasformazione
Quando diverse trasformazioni si applicano allo stesso dataset o alle stesse colonne, l'ambito si riferisce sempre ai nomi delle sorgenti originali, mentre l'azione si riferisce al valore dopo l'applicazione della regola precedente. Ad esempio, se si hanno queste regole:
-
Rinominare tutti i dataset che iniziano con Abc_ (Abc_%) per modificare il prefisso in ABC_.
-
Aggiungere il suffisso _zzz ai dataset che iniziano con ABC_ (ABC_%).
L'applicazione delle regole a questi dataset fornirebbe questi risultati. Si noti che dopo la seconda regola, il suffisso _zzz non viene aggiunto a ABC_customers poiché l'ambito si riferisce sempre al nome originale (Abc_customers).
| Nome dataset originale | Nome dataset dopo la regola 1 | Nome dataset dopo la regola 2 |
|---|---|---|
|
Abc_customers |
ABC_customers |
ABC_customers |
|
ABC_Suppliers |
ABC_Suppliers |
ABC_Suppliers_zzz |
Ridenominazione dei dataset
-
Selezionare Rinomina dataset, quindi fare clic su Avanti.
-
Impostare l'ambito della trasformazione, ovvero quali dataset rinominare. È possibile utilizzare % come carattere jolly per selezionare diversi dataset da uno o più asset di dati.
Click Avanti.
-
Impostare l'azione di trasformazione. È possibile eseguire le seguenti azioni:
-
Rinominare il dataset con un nome fisso.
-
Aggiungere un prefisso o un suffisso.
-
Rimuovere un prefisso o un suffisso.
-
Sostituire un prefisso o un suffisso.
-
Modificare le lettere in minuscolo o maiuscolo.
-
Sostituire i nomi dei dataset utilizzando un'espressione.
-
Sostituire i nomi dei dataset utilizzando un dizionario.
Per ulteriori informazioni, vedere Ridenominazione di dataset o colonne utilizzando un dizionario.
Fare clic su Avanti quando si è pronti.
-
-
Impostare il nome della regola e fare clic su Fine.
Personalizzazione della pubblicazione dei messaggi di dati
-
Selezionare Personalizza pubblicazione messaggi di dati, quindi fare clic su Avanti.
-
Impostare l'ambito della trasformazione, ovvero per quali dataset sostituire le impostazioni di pubblicazione dei messaggi di dati. È possibile utilizzare % come carattere jolly per selezionare diversi dataset da uno o più asset di dati.
Fare clic su Avanti.
-
Impostare l'azione di trasformazione.
Per ogni impostazione, l'impostazione dell'attività corrente è indicata dal campo Impostazione attività: <impostazione> (ad esempio, Impostazione attività: Argomento specifico).
Per una descrizione di queste impostazioni, vedere Pubblicazione messaggi dati.
È possibile mantenere l'impostazione dell'attività o utilizzare l'Expression Builder per specificare un argomento personalizzato, una chiave di messaggio o una chiave di partizione.
Nota informaticaQueste impostazioni sovrascriveranno le impostazioni delle attività, ma non sovrascriveranno le impostazioni configurate per i singoli set di dati.Per utilizzare l'Expression Builder:
-
Selezionare, a seconda dei casi, il campo Argomento personalizzato, Chiave messaggio personalizzata o Chiave partizione personalizzata e fare clic su
.
Nota informaticaGli argomenti personalizzati devono essere già presenti o il broker deve essere configurato per crearli.Si apre il Generatore di espressioni.
-
Crea un'espressione.
È possibile utilizzare funzioni, operatori e metadati per generare l'espressione.
Fare clic su
per spostare un elemento nell'espressione.
È inoltre possibile utilizzare nell'espressione tutte le funzioni supportate da Kafka.
-
Fare clic su Estrai parametri.
È ora possibile aggiungere un valore di prova a Valore da verificare per tutti i parametri.
-
Fare clic su Prova espressione.
Ora si dovrebbe vedere il risultato dell'espressione, usando i valori del test.
-
Quando si è pronti, fare clic su OK.
L'espressione viene aggiunta al campo.
Generazione di espressioni
È necessario generare un'espressione che definisca valori personalizzati. È possibile utilizzare:
-
Funzioni
Funzioni di stringa, funzioni numeriche, funzioni di controllo nullo, funzioni di data e ora e funzioni logiche.
-
Operatori
Operatori matematici e logici. Alcuni operatori sono disponibili anche nella barra degli strumenti sopra l'espressione. Questo è anche il punto in cui si trova l'operatore per la concatenazione di stringhe, ||.
-
Metadati
I seguenti metadati sono disponibili:
- $Q_M_NOME_SCHEMA
- $Q_M_SOURCE_SCHEMA_NAME
- $Q_M_ORIGINE_NOME_TABELLA
- $Q_M_NOME_TABELLA
Fare clic su
per spostare un elemento nell'espressione.
È inoltre possibile utilizzare nell'espressione tutte le funzioni supportate da Kafka.
Fare clic su Avanti quando si è pronti.
-
-
Impostare il nome della regola e fare clic su Fine.
Ridenominazione delle colonne
-
Selezionare Rinomina colonna, quindi fare clic su Avanti.
-
Impostare l'ambito della trasformazione, ovvero quali colonne rinominare. È possibile utilizzare % come carattere jolly per selezionare diverse colonne da una o più attività di dati e dataset.
È anche possibile limitare l'azione a un determinato tipo di dati. Impostare il tipo di dati su UNSPECIFIED per eseguire l'azione per tutte le colonne corrispondenti, indipendentemente dal tipo di dati.
Fare clic su Avanti.
È anche possibile limitare l'ambito alle colonne che sono chiavi o che ammettono valori null.
-
Impostare l'azione di trasformazione. È possibile eseguire le seguenti azioni:
-
Rinominare la colonna con un nome fisso.
-
Aggiungere un prefisso o un suffisso.
-
Rimuovere un prefisso o un suffisso.
-
Sostituire un prefisso o un suffisso.
-
Modificare le lettere della colonna in minuscolo o maiuscolo.
-
Sostituire i nomi delle colonne utilizzando un'espressione.
-
Sostituire i nomi delle colonne utilizzando un dizionario.
Per ulteriori informazioni, vedere Ridenominazione di dataset o colonne utilizzando un dizionario.
Fare clic su Avanti quando si è pronti.
-
-
Impostare il nome della regola e fare clic su Fine.
Aggiunta di colonne
-
Selezionare Aggiungi colonna, quindi fare clic su Avanti.
-
Impostare l'ambito della trasformazione, ovvero a quale dataset aggiungere la colonna. È possibile utilizzare % como carattere jolly per aggiungere la colonna a uno o più dataset.
Fare clic su Avanti.
-
Impostare i dettagli della nuova colonna:
-
Nome colonna.
-
Utilizzare il generatore di espressioni per impostare il Valore per la colonna.
-
Selezionare Aggiungi a chiave primaria per utilizzare questa colonna come chiave primaria.
-
Impostare il tipo di dati in Tipo di dati di destinazione.
-
Se il tipo di dati è BYTES, STRING o WSTRING, specificare anche una Lunghezza.
Se il tipo di dati è NUMERIC, specificare anche Precisione e Scala.
Fare clic su Avanti quando si è pronti.
-
-
Impostare il nome della regola e fare clic su Fine.
Eliminazione di colonne
-
Selezionare Elimina colonna, quindi fare clic su Avanti.
-
Impostare l'ambito della trasformazione, ovvero quali colonne eliminare. È possibile utilizzare % come carattere jolly per selezionare diverse colonne da uno o più asset di dati e dataset.
È anche possibile limitare l'azione a un determinato tipo di dati. Impostare il tipo di dati su UNSPECIFIED per eseguire l'azione per tutte le colonne corrispondenti, indipendentemente dal tipo di dati.
Fare clic su Avanti.
È anche possibile limitare l'ambito alle colonne che sono chiavi o che ammettono valori null.
-
Impostare il nome della regola e fare clic su Fine.
Conversione dei tipi di dati
-
Selezionare Converti tipo di dati, quindi fare clic su Avanti.
-
Impostare l'ambito della trasformazione, ovvero per quali colonne convertire il tipo di dati. È possibile utilizzare % come carattere jolly per selezionare diverse colonne da uno o più asset di dati e dataset.
È anche possibile limitare l'azione a un determinato tipo di dati. Impostare il tipo di dati su UNSPECIFIED per eseguire l'azione per tutte le colonne corrispondenti, indipendentemente dal tipo di dati.
Fare clic su Avanti.
È anche possibile limitare l'ambito alle colonne che sono chiavi o che ammettono valori null.
-
Impostare l'azione di trasformazione.
-
Impostare Tipo di dati di destinazione sul tipo di dati in cui convertire.
-
Se il tipo di dati è BYTES, STRING o WSTRING, specificare anche una Lunghezza.
Se il tipo di dati è NUMERIC, specificare anche Precisione e Scala.
Fare clic su Avanti quando si è pronti.
-
-
Impostare il nome della regola e fare clic su Fine.
Vedere anche: Gestione dei tipi di dati
Sostituzione dei valori delle colonne
-
Selezionare Sostituisci valori colonna, quindi fare clic su Avanti.
-
Impostare l'ambito della trasformazione, ovvero per quali colonne sostituire i valori. È possibile utilizzare % come carattere jolly per selezionare diverse colonne da uno o più asset di dati e dataset.
È anche possibile limitare l'azione a un determinato tipo di dati. Impostare il tipo di dati su UNSPECIFIED per eseguire l'azione per tutte le colonne corrispondenti, indipendentemente dal tipo di dati.
Fare clic su Avanti.
È anche possibile limitare l'ambito alle colonne che sono chiavi o che ammettono valori null.
-
Impostare l'azione di trasformazione.
-
Impostare un'espressione per definire i valori di sostituzione in Valore di destinazione.
-
Impostare Tipo di dati di destinazione sul tipo di dati per le colonne sostituite.
-
Se il tipo di dati è BYTES, STRING o WSTRING, specificare anche una Lunghezza.
Se il tipo di dati è NUMERIC, specify Precisione e Scala as well.
Fare clic su Avanti quando si è pronti.
-
-
Impostare il nome della regola e fare clic su Fine.
Ridenominazione di dataset o colonne utilizzando un dizionario
È possibile utilizzare un dizionario per rinominare dataset o colonne. Ciò è utile quando si lavora con un numero elevato di oggetti che utilizzano convenzioni di denominazione criptiche. È possibile aggiungere traduzioni in un editor di dizionari o importare un file CSV contenente le traduzioni. È inoltre possibile esportare il dizionario in un file CSV e riutilizzarlo in un altro asset di dati.
L'opzione Rinomina in base al dizionario è disponibile in Azioni di trasformazione dopo aver selezionato Rinomina dataset o Rinomina colonne. Fare clic su per aprire l'editor del dizionario.
-
Fare clic su Aggiungi traduzione e compilare Nome sorgente e Nome tradotto per aggiungere una traduzione al dizionario.
Dopo aver creato le traduzioni necessarie, fare clic su OK per chiudere l'editor del dizionario.
Importazione delle traduzioni
È possibile importare traduzioni da un file CSV contenente un dizionario. Il file deve contenere una traduzione per riga. Esempio:
-
Fare clic su Accoda da CSV e selezionare il file CSV da importare.
Le traduzioni nel dizionario importato vengono accodate al proprio dizionario.
Esportazione delle traduzioni
È possibile esportare il proprio dizionario in un file CSV per poterlo riutilizzare in altri asset di dati.
-
Fare clic su Esporta in CSV.
Il dizionario viene esportato in un file CSV.
Inclusione di metadati in un'espressione
La scheda Metadati nell'editor delle espressioni contiene le seguenti variabili che è possibile utilizzare in un'espressione in una regola di trasformazione.
| Variabile | Descrizione |
|---|---|
|
$Q_D_COLUMN_DATA |
Il valore della colonna nella tabella sorgente. |
|
$Q_M_COLUMN_NAME |
Il nome della colonna modificato. |
|
$Q_M_DATATYPE_LENGTH |
La lunghezza del tipo di dati modificata di una colonna. |
|
$Q_M_DATATYPE_NAME |
Il tipo di dati modificato di una colonna. |
|
$Q_M_DATATYPE_PRECISION |
La precisione del tipo di dati modificata di una colonna. |
|
$Q_M_DATATYPE_SCALE |
La scala del tipo di dati modificata di una colonna. |
|
$Q_M_SCHEMA_NAME |
Il nome dello schema sorgente. |
|
$Q_M_SOURCE_COLUMN_NAME |
Il nome di una colonna nella tabella sorgente. |
|
$Q_M_SOURCE_DATATYPE_LENGTH |
La lunghezza del tipo di dati di una colonna nella tabella sorgente. |
| $Q_M_SOURCE_DATATYPE_NAME | Il tipo di dati di una colonna nella tabella sorgente. |
|
$Q_M_SOURCE_DATATYPE_PRECISION |
La precisione del tipo di dati di una colonna nella tabella sorgente. |
|
$Q_M_SOURCE_DATATYPE_SCALE |
La scala del tipo di dati di una colonna nella tabella sorgente. |
|
$Q_M_SOURCE_TABLE_NAME |
Il nome della tabella sorgente. |
|
$Q_M_TABLE_NAME |
Il nome modificato della tabella sorgente. |
È possibile rinominare tutte le tabelle che rientrano nell'ambito della trasformazione per aggiungere il nome dello schema come prefisso con la seguente espressione:
${Q_M_SCHEMA_NAME}||'.'||${Q_M_SOURCE_TABLE_NAME}.
Questo, ad esempio, rinominerebbe la tabella products nello schema dwprod in dwprod.products.
Gestione delle regole
È possibile gestire le regole nel riquadro Regole .
-
Fare clic su Regole.
È possibile abilitare/disabilitare una regola, eliminare una regola e modificare una regola.