監控個別資料任務
您可以從資料任務視窗左上方的下拉式功能表選取監控,以監控資料任務的狀態和進度。
您也可以建立監控檢視,以監控數個資料任務。如需詳細資訊,請參閱監控和操作您的資料工作。
一般監控概述
監控檢視適用於所有任務類型,並可讓您追蹤任務狀態和指標:
-
標籤
根據任務類型,在可用的索引標籤 (例如 資訊、完整載入、變更處理、批次 或 串流) 之間切換。如需每個分頁的詳細資訊,請參閱下方相關工作區段。
-
資料集狀態篩選器
資料集表格上方的一個長條圖,顯示每個狀態中的資料集數量:已排入佇列、正在載入、已完成和錯誤。圖會隨著資料集狀態的變更而動態更新。按一下狀態區段,以篩選資料集表格,僅顯示該狀態的資料集。
-
隱藏小工具
按一下隱藏小工具以收合度量小工具。這提供了更多空間以檢視下方的資料集表格。
-
開始日期
目前工作執行開始的日期和時間。
-
結束日期
任務執行結束的日期和時間。這只會顯示已完成的任務執行。
-
執行歷史記錄
點擊 執行歷史記錄 以檢視過去任務執行的清單及其結果。
監控資料移動任務
可用的監控選項由任務類型和連接器類型決定。由於某些連接器不支援 CDC (例如 Epicor),因此這些連接器不會顯示與 CDC 相關的監控選項。同樣地,由於某些連接器不支援完整載入,因此這些連接器不會顯示與完整載入相關的監控選項。
資料管道使用情況:登陸任務
所有登陸任務必須以來源資料至目標的完整載入開始。初始完整載入完成後,會以來源資料的變更來更新目標資料。這可以根據任務定義,使用載入並比較或變更資料擷取 (CDC) 來進行。
如需更多關於登陸任務的資訊,請參閱 從資料來源登陸資料。
複寫使用情況:「複寫資料」任務
「複寫資料」任務通常以來源資料至目標的完整載入開始。下表概述了完整載入使用案例。
| 使用案例 | 完整載入 |
|---|---|
| 從 SaaS 應用程式複寫。 | 必填 |
| 從其他資料來源類型 (例如資料庫) 複寫 | 選用 |
從非 SaaS 應用程式來源複寫時,若來源資料已存在於目標,且您只希望將來源變更套用至目標 (或儲存以供之後套用),則複寫模式可以是套用變更、儲存變更或兩者皆是。這兩種複寫模式都顯示在 CDC 監控中。
如需更多關於「複寫資料」任務的資訊,請參閱下列主題:
透過 Qlik Talend Cloud 啟動器 訂閱複寫資料
複寫使用情況:「在資料湖中登陸資料」任務
「在資料湖中登陸資料」任務類似於必須以完整載入開始的登陸任務。初始完整載入完成後,會以來源資料的變更來更新目標資料。這可以使用載入或變更資料擷取 (CDC) 來進行。雖然與登陸任務類似,但「在資料湖中登陸資料」任務被視為複寫任務,因為這只包含來源至目標複寫。這不可能進一步在下游操縱資料 (例如,使用轉換和資料超市),而在資料管道則可這麼做。
如需更多關於「在資料湖中登陸資料」任務的資訊,請參閱 透過標準、進階或企業訂閱在資料湖中登陸資料。
在將新資料行新增至 SaaS 應用程式來源之後,重新整理中繼資料
當新的欄位新增至 SaaS 應用程式來源,且任務已執行之後,您需要重新整理中繼資料以防止資料遺失。
要執行的操作:
-
開啟並重新儲存連線。
-
依照建立與管理資料管道專案中的說明準備任務。
監控詳細資訊
提供以下監控詳細資訊:
-
資料
-
完整載入
-
變更處理
-
串流
僅適用於串流登陸任務。
資訊監控詳細資訊
您可以檢視任務的一般資訊、執行 ID,以及資料更新的時間。對於 CDC 任務,排程資訊也可在此索引標籤中取得。
完整載入監控詳細資訊
您可在完整載入中檢視資料任務的以下統計資料:
-
總資料集
已載入的資料集數量。
-
資料集發生錯誤
錯誤資料集的數量。
-
總延遲
任務目前的延遲 (hh:mm:ss)。這段持續時間表示自變更在來源處可用起,至套用變更、在目標或登陸處可用為止的時間。
-
總輸送量
目標輸送量,單位:KB/秒。這表示變更記錄載入至目標端點的速度有多快。
您可以檢視資料任務中每個資料集的下列詳細資訊:
-
名稱
目標資料集的名稱。
-
狀態
表格狀態將會是:已排入佇列、載入中、已完成、完整載入未完成或錯誤。
從 SaaS 應用程式來源載入資料時,由於暫時中斷,監控器中可能會顯示「完整載入未完成」狀態。這種中斷可能由 SaaS 應用程式的資料配額超出、服務不穩定等原因引起。
任務將在下一個排定的 CDC 實例中自動恢復。然而,完整載入可能會保持暫停狀態,如果導致中斷的問題尚未解決。您也可以手動恢復任務,而不是等待下一個排定的 CDC 實例。
-
已開始
開始載入的時間。
-
已結束
結束載入的時間。
-
持續時間
載入的持續時間,格式為 hh:mm:ss。
-
記錄
載入期間寫入目標的記錄數量。
資訊備註當來源資料集經過篩選時,記錄將會取代為下列區段:
-
讀取記錄: 在篩選之前,從來源資料集讀取的記錄數。
-
寫入的記錄 (篩選後):篩選後實際寫入目標的記錄數。
如需關於篩選資料集的資訊,請參閱 篩選資料集。
-
-
訊息
在未成功處理載入時顯示錯誤訊息。
變更處理監控詳細資訊
變更處理 顯示上次 CDC 執行期間或目前執行期間(如果尚未完成)套用到所有資料表的變更數量。若要檢視自工作開始以來套用至個別資料集的變更數目,請參閱資料集資料表。
您可以檢視下列變更處理統計資料:
-
總資料集
已載入的資料集數量。
-
資料集發生錯誤
錯誤資料集的數量。
-
總延遲
任務目前的延遲 (hh:mm:ss)。這段持續時間表示自變更在來源處可用起,至套用變更、在目標或登陸處可用為止的時間。
-
總輸送量
目標輸送量,單位:KB/秒。這表示變更記錄載入至目標端點的速度有多快。
-
總計即將進行的變更
存在於來源處,等待處理的變更數量。您可檢視來源中累積的數量,以及套用的數量。
-
已套用變更總數
已套用至目標或登陸的變更數量。您可以檢視新增、刪除和更新的數量。
您可以檢視資料任務中每個表格的下列詳細資訊:
-
名稱
登陸資產中的目標表格名稱。
-
狀態
表格狀態將為下列其中一項:累積變更、錯誤或已完成 (適用於排程的 CDC 任務)。
-
上次處理
上次對表格進行變更的日期與時間。
-
插入、更新和刪除
資訊備註篩選來源資料集時,插入、更新和刪除 欄將分組如下:
-
讀取: 在篩選之前,從來源資料集讀取的變更 (插入、更新和刪除) 數量。
-
已寫入 (篩選後):篩選後實際寫入目標的變更數 (插入、更新和刪除)。
如需關於篩選資料集的資訊,請參閱 篩選資料集。
-
插入
插入操作的數量。
-
更新
更新操作的數量。
資訊備註更新會作為 SaaS 應用程式來源的插入內容來處理。 -
刪除
刪除操作的數量。
-
-
DML (插入/更新)
資訊備註只有對於使用 SaaS 應用程式連接器定義的任務,才會顯示此欄。資訊備註篩選來源資料集時,插入、更新和刪除 欄將分組如下:
-
讀取的 DML (插入/更新): 篩選前從來源資料集讀取的 DML (插入和更新) 數。
-
已寫入的 DML (插入/更新): 篩選後實際寫入目標的 DML (插入和更新) 數量。
如需關於篩選資料集的資訊,請參閱 篩選資料集。
-
-
DDL 操作
DDL 操作的數量
資訊備註僅可用於「複寫資料」任務。 -
訊息
若對表格進行變更時失敗而未處理,會顯示錯誤訊息。
如果您是從內部部署的來源登陸資料,並選取完整載入模式,則當登陸資產執行時,會自動重新載入表格。
如果您是從內部部署的來源登陸資料,並選取完整載入與 CDC 模式,則在初次完整載入之後,會持續以新資料更新表格。
載入所選表格
您可以從來源手動載入所選表格。若您想要復原具有錯誤的單一表格,這很實用。載入表格不會影響 CDC 時間表,若您使用重新建立表格,這就會重設。載入表格時不會散佈中繼資料變更。
-
若要載入所選表格,在監控下半部選取表格並按一下載入表格。
您需要執行資料任務時所需的相同權限,亦即擁有者或可以操作角色。
首次執行資料任務後,有載入表格可用。若更新方法是載入並比較,則資料任務執行時沒有載入表格可用。
將會在下次執行時同步下游儲存資料任務。若儲存任務啟用了歷史記錄,將會維持。
若無法透過載入表格來復原,下一步是修復資料任務。
將所有表格載入到目標
若您遇到無法透過載入特定表格來解決的 CDC 問題,可以將所有表格載入到目標。問題範例包括遺失事件、來源資料庫重組造成的問題,或讀取來源資料庫事件失敗。
- 停止資料任務和取用資料任務的所有任務。
-
開啟資料任務並選取監控索引標籤。
-
按一下 ...,然後按一下載入目標。
這會使用捨棄-建立將所有表格載入到目標,並且將會重新啟動從現在起的所有變更資料擷取。
-
將會在下次執行以進行同步時透過比較和套用載入取用登陸資料任務的儲存任務。將會保留現有歷史記錄。將會更新類型 2 歷史記錄,以在執行載入並比較流程後反映變更。
類型 2 歷史記錄中的起始日期時間戳記將會反映載入日期,而不必是來源中發生變更的日期。
-
在儲存同步之前,儲存即時檢視在載入目標操作期間並不可靠。儲存將會在下列情況完全同步:
-
使用比較和套用載入所有表格,
-
為每個表格執行一次變更循環。
-
監控儲存、轉換、資料超市、鏡像、和知識超市任務
您可以監控儲存、轉換、資料超市、鏡像、或知識超市任務的狀態和進度。
提供以下監控詳細資訊:
-
資料
-
完整載入
-
批次
資訊監控詳細資訊
您可以檢視有關任務的一般資訊、執行 ID 以及資料更新的時間。
完整載入監控詳細資訊
您可在完整載入中檢視資料任務的以下統計資料:
-
總資料集
已載入的資料集數量。
-
資料集發生錯誤
錯誤資料集的數量。
-
總輸送量
目標輸送量,單位:KB/秒。這表示變更記錄載入至目標端點的速度有多快。
批次監控詳細資訊
您可以檢視變更批次的統計資料:
-
總資料集
已載入的資料集數量。
-
資料集發生錯誤
錯誤資料集的數量。
-
總延遲
任務目前的延遲 (hh:mm:ss)。這段持續時間表示自變更在來源處可用起,至套用變更、在目標或登陸處可用為止的時間。
-
總輸送量
目標輸送量,單位:KB/秒。這表示變更記錄載入至目標端點的速度有多快。
-
來源
來源中的延遲和輸送量。
-
目標
延遲和輸送量在目標中。
-
總計即將進行的變更
存在於來源處,等待處理的變更數量。您可檢視來源中累積的數量,以及套用的數量。
-
已套用變更總數
已套用至目標或登陸的變更數量。您可以檢視新增、刪除和更新的數量。
檢視狀態和進度
您可以檢視每個資料集或變更的下列詳細資訊:在 Datasets 中:
-
名稱
目標資料集的名稱。
-
狀態
表格狀態將會是:已排入佇列、載入中、已完成或錯誤。
-
已開始
開始載入的時間。
-
已結束
結束載入的時間。
-
持續時間
載入的持續時間,格式為 hh:mm:ss。
-
記錄
載入期間寫入目標的記錄數量。
資訊備註當來源資料集經過篩選時,記錄將會取代為下列區段:
-
讀取記錄: 在篩選之前,從來源資料集讀取的記錄數。
-
寫入的記錄 (篩選後):篩選後實際寫入目標的記錄數。
如需關於篩選資料集的資訊,請參閱 篩選資料集。
-
-
訊息
在未成功處理載入時顯示錯誤訊息。
截至資料任務更新至顯示的時間,來自所有來源交易的資料都可從此資料任務取用。載入所有表格並且套用第一組變更後,此資訊即可用於資料任務。若您選取以產生即時檢視,也可以在即時檢視更新時檢視。
若在完成初始載入之前有變更批次,則在完成初始載入並套用第一個變更批次之前,將不會更資料任務更新至。例如,假設您正在載入包含訂單資料集 (其中含有 1 百萬筆訂單) 和訂單明細資料集 (其中含有 1 千萬筆訂單明細) 的資料資產。資料集分別需要 10 和 20 分鐘執行完整載入。會先載入訂單資料集,再載入訂單明細資料集。訂單資料集載入時,插入了新的訂單。因此,訂單明細載入時,可能包含新訂單的明細,而這尚未存在於訂單資料集中。只有套用第一個變更批次後,訂單和訂單明細資料集才會同步並且完全更新至相同時間。
檢視詳細資訊
您可以在 SQL 陳述式層級檢視詳細資訊。
-
選取要詳細監控的資料集。
-
按一下監控詳細資訊。
就會顯示監控詳細資訊,您可以檢視對每個載入步驟或變更流程執行的命令。您可以按一下命令以檢視已執行的完整 SQL 陳述式。
-
按一下匯出為 CSV 以為所有列出的命令匯出含有完整 SQL 陳述式的文字檔。
用於檢視畫面的資料任務更新至
資料任務更新至欄位顯示最舊檢視畫面更新的時間。
-
標準檢視
資料任務更新至顯示最舊標準檢視畫面更新的時間。
例如,假設任務有兩個表格:「訂單」和「訂單詳細資訊」。訂單更新至 10:01,具有來自 10:00 和 10:01 的記錄,而訂單詳細資訊只有來自 10:00 的記錄。在此情況下,資料任務更新至 10:00。這不應與資料任務載入的開始和結束時間 (可能是 10:02 至 10:03) 混淆。
-
即時檢視 (儲存資料任務)
資料更新至顯示最舊即時檢視畫面更新的時間。
例如,假設任務有一個「訂單」表格。登陸中的訂單更新至 10:01,具有來自 10:00 和 10:01 的記錄,但儲存中的訂單僅更新至來自 10:00 的記錄。在此情況下,訂單的即時檢視更新至 10:01,而標準檢視更新至 10:00。
檢視執行歷程記錄
您可以檢視任務的執行歷程記錄,以識別根本原因並瞭解一段時間內的模式。
-
在任務的 監控 檢視中,按一下 執行歷程記錄。
-
在 監控檢視 中任務的 ... 功能表中,按一下 執行歷程記錄。
根據您的篩選條件選擇,執行歷程記錄中最多會顯示 100 次執行。精簡您的篩選條件以查看其他執行。您可以根據執行結束日期和任務狀態進行篩選。執行資訊會保留 13 個月。執行中的資料集中繼資料會保留 30 天。