目标更新方法 | Qlik Cloud帮助
跳到主要内容 跳到补充内容

目标更新方法

您可以在初始任务设置期间或稍后在数据任务设置中设置要使用的更新方法。一旦准备好数据任务,就无法更改更新方法。

可用的更新方法由任务类型和连接器功能决定。可用的数据移动任务类型有登陆、复制或数据湖中的登陆数据。

在数据管道项目中登陆数据时更新方法

  • 使用变更表更改数据捕获 (CDC)

    数据任务以满负载开始。然后使用基于日期字段的增量加载来保持目标数据的最新状态。CDC可能并非所有数据源都支持。

    信息注释不支持 DELETE 操作。这意味着,如果在源中删除某行,则不会在平台数据中删除该行。如果删除处理很重要,请改用重新加载并比较

    不使用 数据移动网关 或使用 SaaS 应用程序的常规连接器时,您可以使用调度程序设置间隔。有关更多信息,请参阅Scheduling tasks。在使用 数据移动网关 和使用 SaaS 应用程序精简连接器 时,您可以在 设置 > 更改处理调谐 中设置从源读取更改之间的间隔。

  • 重新加载并比较

    数据任务仅从源执行满负载。例如,如果您的源不支持 CDC,或者您希望将 DELETE 操作(CDC 不支持)传播到目标,这将非常有用。重新加载和比较可以与任何支持的数据源一起使用,并且可以定期进行。

复制到数据库或数据仓库目标时更新方法

  • 完全加载: 将数据从选定的源表加载到目标平台,并在必要时创建目标表。当任务启动时,满负载会自动发生,但如果需要,也可以手动执行。例如,如果需要复制视图的更新(CDC 期间不会捕获视图更新),或者从不支 持 CDC 的数据源进行复制,则需要手动满负载。

    信息注释当使用 SaaS 应用程序连接器时,此选项将始终启用,因为需要满负载。
  • 应用更改: 使目标表更新对源表所做的任何更改。

  • 存储更改: 将对源表的更改存储在“更改表”中(每个源表一个)。

    有关更多信息,请参阅存储更改

使用 数据移动网关 时,除了使用 SaaS 应用程序源,更改会从源几乎实时地捕获。当不使用 数据移动网关 工作时(例如,使用 Qlik Talend Cloud Starter 订阅或选择 时)或使用 SaaS 应用程序源时,将根据调度程序设置捕获更改。有关更多信息,请参阅Scheduling tasks

复制到云存储(数据湖)时更新方法

  • 变更数据捕获 (CDC) 使用更改表: 数据湖登陆任务从满负载开始(在此期间,所有选定的表都将加载到目标)。然后使用 CDC(更改数据捕获)技术使目标数据保持最新。

    信息注释不支持 DDL 操作的 CDC(更改数据捕获)。

    使用 数据移动网关 时,除非使用 SaaS 应用程序源,否则会几乎实时地从源捕获更改。在不使用 数据移动网关 或使用 SaaS 应用程序源的情况下工作时,会根据调度程序设置捕获更改。有关更多信息,请参阅Scheduling tasks

  • 重新加载: 将数据从选定的源表满负载到目标平台,并在必要时创建目标表。任务启动时会自动进行满负载,但也可以手动执行或根据需要安排定期进行。

    信息注释使用 SaaS 应用程序连接器时,此设置不可用。
信息注释

将设置复制到云存储的过程因订阅级别而异。

了解计划更改数据捕获 (CDC)

当不使用 数据移动网关 或使用 SaaS 应用程序连接器 不是精简版连接器 时,会根据预定的间隔捕获更改。重要的是要了解调度的工作原理,最好通过示例来演示。在下面的示例中,一个任务被计划为从 9:00 开始每 30 分钟运行一次。

  • 任务从 9:00 开始,满负载。
  • 满负载在 9:40 结束,这意味着 9:30 的运行将被跳过。
  • 下一次运行从 10:00 开始,并捕获 10:00 之前提交的任何更改。
  • 10:00 的运行在 10:15 结束。
  • 下一次运行从 10:30 开始,捕获 10:00 到 10:30 之间发生的任何更改。
信息注释根据系统上的负载、并发运行的任务数量以及可用的 Pod 数量,下一个计划实例可能不会在预定的时间启动。

本页面有帮助吗?

如果您发现此页面或其内容有任何问题 – 打字错误、遗漏步骤或技术错误 – 请告诉我们!