저장소 Qlik 오픈 레이크하우스 작업 모니터링
Qlik 오픈 레이크하우스 프로젝트의 저장소 작업은 일괄 모드가 아닌 연속적으로 실행되므로 다른 프로젝트와 다릅니다. 그 결과, 모니터링 지표가 다릅니다.
일반 모니터링 세부 정보
이 섹션에서는 전반적인 작업 상태에 대한 요약을 제공합니다:
-
데이터 작업이 다음으로 업데이트됨
모든 테이블이 완전히 동기화될 때까지의 타임스탬프. 이것은 해당 시점까지 커밋된 모든 소스 변경 사항이 대상 테이블에서 이미 사용 가능한 최신 시점을 나타냅니다.
새로운 소스 변경 사항이 감지되지 않으면 이 값은 현재 시간으로 설정됩니다.
-
데이터 집합 수
이 작업에 포함된 총 데이터 세트 수.
-
오류가 있는 데이터 집합
이 작업에서 오류가 발생한 총 데이터세트 수입니다.
-
레이크하우스 클러스터
이 작업이 실행 중인 클러스터의 이름 및 상태입니다.
전체 로드 모니터링 세부 정보
전체 로드 상태에서 데이터 작업에 대한 다음 세부 정보를 볼 수 있습니다.
-
대기 중: 현재 대기 중인 테이블 수입니다.
-
로드 중: 현재 로드 중인 테이블 수입니다.
-
완료됨: 완료된 테이블 수입니다.
-
오류: 오류가 발생한 테이블 수입니다.
데이터 작업의 각 테이블에 대해 다음 세부 정보를 볼 수 있습니다.
-
이름
대상 테이블의 이름입니다.
-
상태
테이블 상태는 대기 중, 로드 중, 완료 또는 오류 중 하나입니다.
-
시작됨
로드가 시작된 시간입니다.
-
종료됨
로드가 종료된 시간입니다.
-
기간
hh:mm:ss 서식의 로드 기간입니다.
-
레코드
로드 중에 복제된 레코드 수입니다.
-
메시지
로드가 성공적으로 처리되지 않은 경우 오류 메시지를 표시합니다.
데이터 변경 내용 캡처(CDC) 모니터링 세부 정보
데이터 작업에 대한 다음 CDC 세부 정보를 보고 CDC 상태의 변경 처리를 모니터링할 수 있습니다.
-
변경 내용 수신 중: 소스에 존재하고 처리 대기 중인 변경 내용의 수입니다. 누적된 횟수와 적용 중인 항목을 확인할 수 있습니다.
-
변경 내용이 처리됨: (지난 24시간 동안) 처리 및 적용된 변경 내용의 수입니다.
-
지연 시간: 랜딩에서 스토리지로 처리되지 않은 가장 오래된 소스 이벤트 日付と時刻과 현재 시간 사이의 시간 차이(시:분:초). 이 기간은 소스에서 변경 내용을 사용할 수 있을 때부터 변경 내용이 적용되고 랜딩 자산에서 사용할 수 있을 때까지의 시간을 나타냅니다.
데이터 작업의 각 테이블에 대해 다음 세부 정보를 볼 수 있습니다.
-
이름
랜딩 자산에 있는 대상 테이블의 이름입니다.
-
상태
테이블 상태는 변경 내용 누적 중 또는 오류 중 하나입니다.
-
변경 내용 수신 중
스토리지 작업에 의해 적용되기를 기다리는 랜딩 작업에 의해 처리된 변경 사항 수.
-
변경 내용이 처리됨
데이터 세트가 마지막으로 전체 로드(초기 전체 로드 또는 다시 로드 작업에 의해)된 이후 대상에 적용된 총 변경 사항 수.
-
마지막으로 처리됨
대상 데이터 세트에 삽입된 마지막 소스 데이터 시간(현지 시간으로 변환됨).
-
최적화되지 않은 변경 내용
뷰를 통해 쿼리 가능하지만 아직 최적화된 Iceberg 파티션으로 병합되지 않은 레코드 수. 백그라운드 최적화가 완료될 때까지 높은 수치가 성능에 영향을 미칠 수 있습니다.
이는 변경 파티션에 현재 있으며 현재 또는 히스토리 파티션에 아직 적용되지 않은 레코드 수를 반영합니다.
이 숫자가 지속적으로 높으면 최적화를 가속화하기 위해 클러스터 컴퓨팅 용량을 늘리는 것을 고려하십시오.
-
메시지
테이블 변경이 실패하고 처리되지 않으면 오류 메시지를 표시합니다.