跳到主要內容 跳至補充內容

從資料來源登陸資料

上線時傳輸資料的第一步是登陸資料。這涉及持續將資料從內部部署資料來源傳輸到登陸區域。

您可以從若干資料來源,經由來源連線登陸資料。

當您建立資料專案時,會定義登陸區域。

  • Qlik Cloud (透過 Amazon S3)

    將資料登陸到 Qlik Cloud (透過 Amazon S3) 時,您可以用來在 Qlik Cloud 中產生準備好進行分析的 QVD 表格。

  • 雲端資料倉庫

    若您將資料登陸到雲端資料倉庫,例如 SnowflakeAzure Synapse Analytics,您可以在相同的雲端資料倉庫中儲存表格。

資訊備註資料任務可在擁有者的脈絡下操作。如需有關所需角色和權限的詳細資訊,請參閱 資料空間角色和權限

建立並設定登陸資料任務

本文說明如何建立登陸資料任務。建立資料管道最快的方式是讓資料上線,以建立登陸資料任務和儲存空間資料任務,隨即可進行準備及執行。如需詳細資訊,請參閱上線資料

  1. 在資料專案中按一下新增,並選取登陸資料
  2. 登陸資料對話方塊,輸入資料任務的名稱和描述。

    選取開啟以在建立時開啟登陸資料任務。

    按一下建立

  3. 按一下選取來源資料

  4. 選取前往來源資料的資料連線並按一下下一步

    您可以使用左側面板的篩選,以對來源類型、空間和擁有者篩選連線清單。

    若您還沒有前往來源資料的資料連線,則需要先建立;作法是按一下新增連線

    關於對支援的來源設定連線如需詳細資訊,請參閱連線至資料來源

    資訊備註您在下一個步驟中選取表格之後,即無法將來源資料連線從內部部署資料來源變更為雲端資料來源,反之亦然。只能變更連線到相同類型的另一個資料來源。
  5. 選取要包含在資料資產內的表格和檢視。選項對話方塊會視您連線的來源類型而各不相同。

    完成選取表格後,按一下儲存

    即顯示資料集

  6. 您可為登陸變更設定。這並非必備。

    • 按一下設定

    如需關於設定的詳細資訊,請參閱 登陸設定

  7. 現在您可以預覽所選的資料資產表格的結構和中繼資料。這包括所有明確列出的表格,與符合選取規則的表格。

    若您想要從資料來源新增更多表格,按一下選取來源資料

  8. 您可以執行基本資料集轉換,例如篩選資料或新增欄。這並非必備。

    如需詳細資訊,請參閱管理資料集

  9. 您已新增所需的轉換之後,可按一下驗證資料集以驗證資料集。如果驗證後發現錯誤,請先修正錯誤再繼續進行。

    如需詳細資訊,請參閱驗證和調整資料集

  10. 當您就緒時,按一下準備以將資料任務編入目錄,為執行做好準備。

    您可以在畫面下方的準備進度之下追蹤進度。

  11. 準備好資料任務且您準備好可開始複寫資料時,按一下執行

即可開始複寫,您可在監控中看見進度。如需詳細資訊,請參閱監控個別資料任務

從資料庫中選取資料

您可以選取特定表格或檢視,或使用選取規則以納入或排除表格群組。

資訊備註如果選取項目包含檢視,則不支援 CDC。

可使用 % 作為萬用字元,為架構和表格定義選取標準。

  • %.% 可定義所有架構中的所有表格。

  • Public.% 可定義架構 Public 中的所有表格。

選取標準可依照您的選取項目提供預覽。

您現在可以:

  • 建立規則,以基於選取標準納入或排除表格群組。

    按一下從選取標準新增規則以建立規則,再選取納入排除

    您可在選取規則之下看見此規則。

  • 選取一或多個資料集,按一下新增所選的資料集

    您可在明確選取的資料集之下看見新增的資料集。

選取規則僅套用到目前的表格和檢視組,不會套用到日後新增的表格和檢視。

透過變更資料擷取 (CDC) 執行登陸任務

您可以在準備就緒後執行登陸任務。這會開始複寫,將資料從內部部署資料來源傳輸至登陸區域。

  • 按一下執行以開始登陸資料。

即可開始複寫,資料任務的狀態應為正在執行。首先,會複製完整資料來源,然後追蹤變更。這表示會在探索時持續追蹤並傳輸變更。這會讓登陸區域中的登陸資料保持最新狀態。

Qlik Cloud 資料整合 首頁中,您可以檢視更新登陸資料的狀態、日期和時間,以及發生錯誤的表格數量。您也可以開啟資料任務並選取表格索引標籤,以檢視表格的基本中繼資料資訊。

您可開啟監控索引標籤,以監控詳細進度。如需詳細資訊,請參閱監控個別資料任務

載入所有表格並處理第一組變更後,資料任務卡片上的資料更新至會指示可在資料任務中使用直到該時間的來源變更。

載入表格

您可以自來源重新載入資料。

載入單一表格

您可以手動載入特定表格,不會干擾變更資料擷取。若一個或多個表格有 CDC 問題,這很實用。

  1. 開啟登陸資料任務並選取監控索引標籤。

  2. 選取您要載入的表格。

  3. 按一下載入表格

資訊備註此選項將在登陸任務執行了至少一次後提供使用。若在登陸任務未執行時點選,將會在下次任務執行時載入表格。

若您無法透過載入表格來解決問題,或者若影響了整個任務,可以改為將所有表格載入到目標。這將會重新啟動變更資料擷取。

將所有表格載入到目標

若您遇到無法透過載入特定表格來解決的 CDC 問題,可以將所有表格載入到目標。問題範例包括遺失事件、來源資料庫重組造成的問題,或讀取來源資料庫事件失敗。

資訊備註此操作僅可用於具有更新方法變更資料擷取 (CDC) 且已執行至少一次的任務。

  1. 停止資料任務和取用資料任務的所有任務。
  2. 開啟資料任務並選取監控索引標籤。

  3. 按一下 ...,然後按一下載入目標

這會使用捨棄-建立將所有表格載入到目標,並且將會重新啟動從現在起的所有變更資料擷取。

  • 將會在下次執行以進行同步時透過比較和套用載入取用登陸資料任務的儲存任務。將會保留現有歷史記錄。將會更新類型 2 歷史記錄,以在執行載入並比較流程後反映變更。

    類型 2 歷史記錄中的起始日期時間戳記將會反映載入日期,而不必是來源中發生變更的日期。

  • 在儲存同步之前,儲存即時檢視在載入目標操作期間並不可靠。儲存將會在下列情況完全同步:

    • 使用比較和套用載入所有表格,

    • 為每個表格執行一次變更循環。

資訊備註不支援中繼資料變更。若來源中有中繼資料變更,會在載入資料時傳播至登陸,但不會正常處理。這可能會造成取用儲存空間失敗。

透過載入並比較執行登陸資料任務

您可以在準備就緒後使用登陸資料任務複製資料。

  • 按一下執行以開始完整載入。

資料現在將會開始複製,資料任務的狀態將會是執行中。複製完整資料來源後,狀態為已完成

Qlik Cloud 資料整合 首頁中,您可以檢視更新登陸資料的狀態、日期和時間,以及發生錯誤的表格數量。您也可以開啟資料任務並選取表格索引標籤,以檢視表格的基本中繼資料資訊。

您可開啟監控索引標籤,以監控詳細進度。如需詳細資訊,請參閱監控個別資料任務

載入所有表格後,資料任務卡片上的資料更新至會指示可在資料資產中使用直到該時間的來源變更。不過,資料任務的某些表格可更新至之後的時間,視載入開始時間而定。這表示不保證資料一致性。例如,若載入於 08:00 開始並花費 4 小時,資料更新至將會在載入完成時顯示 08:00。不過,在 11:30 開始載入的表格將會包括 08:00 和 11:30 之間發生的來源變更。

資料更新至僅反映成功載入的表格。這不會針對載入失敗的表格指示任何內容。在雲端目標中,若連同所有發生錯誤的表格完成載入,欄位將會空白。

在使用載入並比較時載入資料

使用載入並比較作為更新方法時,您需要載入資料,以透過資料來源保持最新狀態。

  • 按一下載入以執行所有表格手動載入。

  • 設定排程載入。

載入單一表格

您可以手動載入特定表格。若一個或多個表格有問題,這很實用。

  1. 開啟登陸資料任務並選取監控索引標籤。

  2. 選取您要載入的表格。

  3. 按一下載入表格

資訊備註
  • 此選項將在登陸任務執行了至少一次後提供使用,且只會在任務沒有在執行時提供使用。
  • 不支援中繼資料變更。若來源中有中繼資料變更,會在載入資料時傳播至登陸,但不會正常處理。這可能會造成取用儲存空間失敗。

排程載入並比較登陸資料任務

若您在資料任務的空間中有可以操作角色,則您可以為登陸資料任務排程定期載入。資料任務狀態必須至少為已準備才能讓排程處於作用中。

  • 按一下資料任務上的 ... 並選取排程

    您可以設定基於時間的排程。

資訊備註若在排程載入即將開始時,資料任務仍在載入,則會略過排程載入,直到下次排程載入事件為止。

設定資料集的載入優先順序

您可以透過為每個資料集指定載入優先順序,控制資料任務中資料集的載入順序。例如,如果您希望在大型資料集之前先載入較小的資料集,這會很有用。

  1. 按一下載入優先順序

  2. 為每個資料集選擇一種載入優先順序。

    預設的載入優先順序為一般。資料集將會依照下列優先順序載入:

    • 最高

    • 較高

    • 正常

    • 較低

    • 最低

    具有相同優先順序的資料集不會按特定順序載入。

  3. 按一下確定

資訊備註SaaS 應用程式來源中的資料集可能依載入順序包含相依性。設定載入優先順序時,請考慮這一點。

操作登陸資料任務

您可以從任務功能表在登陸資料任務執行下列操作。

  • 開啟

    這會開啟登陸資料任務。您可以檢視表格結構和關於資料任務的詳細資訊。

  • 編輯

    您可以編輯任務的名稱和說明。

  • 刪除

    您可以刪除資料任務。

    不會刪除下列物件,需要手動刪除:

    • 登陸區域中的資料。

  • 執行

    您可以執行資料任務以開始複製資料。

    透過變更資料擷取 (CDC) 執行登陸任務

    透過載入並比較執行登陸資料任務

  • 停止

    您可以停止執行之資料任務的操作。不會以變更的資料更新登陸區域。

    若您透過載入排程停止完整載入資料任務,只會停止目前的載入。若資料任務狀態為已停止並且有作用中的載入排程,將會在下一個排程時間重新載入。您必須在重新載入排程中關閉重新載入排程。

  • 載入

    您可以透過載入並比較更新模式執行手動載入資料任務。

  • 準備

    可準備要執行的任務。這包括:

    • 驗證設計有效。

    • 建立或改變實體表格和檢視以符合設計。

    • 產生資料任務的 SQL 代碼。

    • 建立或改變任務輸出資料集的目錄項目。

    您可以在畫面下方的準備進度之下追蹤進度。

  • 重新建立表格

    可從來源重新建立資料集。

    您也必須重新建立取用此資料任務的所有下游資料任務。

  • 排程

    您可以在完整載入模式中為登陸資料任務設定已排程的載入。您可以設定可自訂且基於時間的排程。

    您也可以開啟或關閉排程載入。

    您必須在資料任務的空間有可以操作角色,才能排程載入。

  • 儲存資料

    您可以建立從此登陸資料任務使用資料的儲存資料任務。

移除欄

若您在啟用歷史記錄的情況下捨棄儲存資料任務取用的欄,您需要按照這些步驟保留歷史記錄並避免可能的資料損失。

  1. 停止登陸資料任務。

  2. 執行儲存資料任務以確保讀取所有登陸資料。

  3. 捨棄登陸中的欄。

  4. 執行登陸資料任務。

  5. 在儲存空間中,新增具有預設運算式 (Null 或預設值) 的欄,或捨棄欄。

維護登陸區域

不支援自動清理登陸區域。這會影響效能。
我們建議您執行手動清理登陸區域中的舊的完整載入資料。

  • Qlik Cloud (透過 Amazon S3)

    若有幾個完整載入資料的資料夾,可以刪除全部,僅保留最新的資料夾。也可以刪除已處理的變更資料分割。

  • 雲端資料倉庫

    您可以刪除完整載入和已處理的變更表格記錄。

建議

  • 若可以更新來源表格中的主要金鑰,請在變更處理微調更新主要金鑰欄選項時啟用刪除和插入

限制

  • 不支援複寫超過 8000 個位元組的 varchar 資料,或是超過 4000 個位元組的 Nvarchar 資料。

瞭解更多資訊

此頁面是否對您有幫助?

若您發現此頁面或其內容有任何問題——錯字、遺漏步驟或技術錯誤——請告知我們可以如何改善!