监视Qlik Open Lakehouse存储任务
Qlik Open Lakehouse项目中的存储任务与其他项目不同,因为它持续运行,而不是以批处理模式运行。因此,监视指标也不同。
一般监控概览
监控视图可让您跟踪任务状态和指标:
-
标签
在 信息、全量加载 和 变更处理 之间切换,以查看任务每个阶段的相关指标。
-
数据集状态筛选器
数据集表上方的一个条形图显示了每个状态中的数据集数量:排队中、加载中、已完成和错误。图表会随着数据集状态的变化而动态更新。单击状态段可筛选数据集表,使其仅显示处于该状态的数据集。
-
隐藏小组件
单击隐藏小组件以折叠指标小组件。这提供了更多空间来查看下面的数据集表。
-
开始日期
当前任务运行开始的日期和时间。
-
结束日期
任务运行结束的日期和时间。这仅显示已完成的任务运行。
-
运行历史
点击运行历史记录以查看以前的任务运行列表及其结果。
信息监控详细信息
信息部分提供了整体任务状态的摘要:
-
运行
显示当前运行的运行 ID。
-
数据
数据任务已更新为显示最旧视图更新的时间。它表示所有在该时刻之前提交的源更改都已在目标表中可用的最新时间点。
如果未检测到新的源更改,此值将设置为当前时间。
-
任务
显示此任务正在运行的集群的名称和状态,以及常规任务信息和状态。
满负载监视详细信息
您可以查看处于全量加载状态的数据任务的以下统计信息:
-
数据集总数
已加载的数据集数量。
-
有错误的数据集
出错的数据集数量。
-
传入的更改
传入更改的数量。
-
总延迟
任务的当前延迟 (hh:mm:ss)。此持续时间表示变更从源中可用到应用到目标并可用之间的时间。
您可以查看数据任务中每个表的以下详细信息:
-
名称
目标表的名称。
-
州/省
表状态将为:已排队、正在加载、已完成或错误。
-
开始
加载开始的时间。
-
结束
加载结束的时间。
-
持续时间
hh:mm:ss 格式加载的持续时间。
-
记录
加载期间复制的记录数。
-
信息
如果加载未成功处理,则显示错误消息。
更改处理监视详细信息
您可以查看数据任务的以下详细信息,以监控 更改处理:
-
数据集总数
已加载的数据集数量。
-
有错误的数据集
出错的数据集数量。
-
传入的更改
传入更改的数量。
-
处理的更改
已处理的更改数。
-
总延迟
任务的当前延迟 (hh:mm:ss)。此持续时间表示变更从源中可用到应用到目标并可用之间的时间。
您可以查看数据任务中每个表的以下详细信息:
-
名称
登陆资产中目标表的名称。
-
州/省
表格状态将为:累积更改或错误。
-
传入更改
由登陆任务处理的、正在等待存储任务应用的更改数量。
-
处理的更改
自数据集上次完全加载(通过初始满负载或重新加载操作)以来,已应用于目标的更改总数。
-
上次处理
插入到目标数据集的最后源数据时间,已转换为本地时间。
-
未优化更改
可通过视图查询但尚未合并到优化的 Iceberg 分区中的记录数量。高计数可能会影响性能,直到后台优化完成。
这反映了当前在更改分区中尚未应用于当前或历史分区的记录数量。
如果此数字持续很高,请考虑增加集群计算容量以加速优化。
-
信息
如果对表的更改失败且未处理,则显示错误消息。
查看运行历史记录
您可以查看任务的运行历史记录,以确定根本原因并了解随时间推移而呈现的模式。
-
在任务的 监控 视图中,单击 运行历史记录。
-
在 监控视图 中,单击任务的 ... 菜单中的 运行历史记录。
根据您的筛选选择,运行历史记录中最多显示 100 次执行。优化您的筛选条件以查看其他执行。您可以根据执行结束日期和任务状态进行筛选。运行信息保留 13 个月。运行中的数据集元数据保留 30 天。