跳到主要内容 跳到补充内容

Azure Synapse Analytics

您可以使用 Azure Synapse Analytics 作为数据平台来登陆和存储数据集。

Qlik Cloud 数据集成 中创建数据连接时会设置以下连接属性,并且无法更改:

  • Allow non-Select queries 已启用。

  • Enable Bulk Reader 已禁用。

有关连接到 Azure Synapse Analytics 的更多信息,请参阅创建 Azure Synapse Analytics 连接 (仅提供英文版本)

您还需要一个 Azure Data Lake Storage 云暂存区,在应用和存储之前,数据和更改都在那里暂存。有关更多信息,请参阅连接到作为云暂存区域的 Azure Data Lake Storage

信息注释Azure Synapse Analytics 中,MERGE 更新被实现为删除和插入对。这意味着当显示受影响的行数时,MERGE 更新计数为 2 个受影响的行。

登陆数据所需的权限

存储权限

必须向 Azure Synapse Analytics 连接器中指定的用户授予以下存储权限。

  • 在 ADLS Gen2 存储容器上:列表
  • 在 ADLS Gen2 存储文件夹上:READ、WRITE 和 DELETE
  • 在 ADLS Gen2 文件系统的访问控制 (IAM) 设置中,将“存储 Blob 数据贡献者”角色分配给 Data Movement gateway(AD 应用程序 ID)。角色可能需要几分钟才能生效。

数据库权限

必须向 Azure Synapse Analytics 连接器中指定的用户授予以下权限:

  • 一般权限:

    • db_owner ROLE
  • 表格权限:

    • SELECT、INSERT、UPDATE 和 DELETE
    • 批量加载
    • CREATE、ALTER、DROP(如果任务定义要求)

连接到作为云暂存区域的 Azure Data Lake Storage

创建数据项目时,您需要连接到 Azure Data Lake Storage 云暂存区域。需要以下设置:

  • 存储帐户

    存储帐户的名称。

  • 容器名称

    要用作云暂存区域的容器的名称。

  • Azure Active Directory 租户 ID

    Azure Active Directory 中订阅的租户 ID。

  • Azure 应用程序注册客户端 ID

    Azure Active Directory 中应用程序的客户端 ID。

  • Azure 应用程序注册密码

    Azure Active Directory 中应用程序的密码

  • 访问密钥

    存储帐户的访问密钥。

您还可以选择自动创建 SQL Server 凭据。

Qlik 数据网关 - 数据移动 先决条件

您需要在数据移动网关计算机上满足以下先决条件。

驱动程序设置

您可以使用驱动程序安装实用程序(推荐)安装 driver 或手动安装。只有在您遇到驱动程序安装实用程序发生问题的少见情况下,才应尝试手动安装。

使用驱动程序安装实用程序安装驱动程序

本部分介绍如何安装所需的 driver。这个过程包括运行一个脚本,该脚本将自动下载、安装和配置所需的 driver。您还可以根据需要运行脚本来更新和卸载 driver

  • 请确保在 数据移动 网关服务器上安装了 Python 3.6 或更高版本。

    Python 预装在大多数 Linux 发行版上。您可以通过运行以下命令来检查系统上安装了哪个 Python 版本。

    python --version

下载并安装 driver

  1. 数据移动 网关计算机上,将工作目录更改为:

    opt/qlik/gateway/movement/drivers/bin

  2. 然后运行以下命令:

    语法:

    ./install sqlserver

    如果无法下载 driver(由于访问限制或技术问题),将显示一条消息,为您指示在 数据移动 网关机器上下载 driver 的位置和复制驱动程序的位置。完成此操作后,请再次运行 install sqlserver 命令。

    否则,将显示 driver 的 EULA。

  3. 执行以下选项之一:

    • 重复按 [Enter] 可在 EULA 中缓慢滚动。
    • 重复按空格键可快速滚动 EULA。
    • 按 q 退出许可证文本并显示 EULA 接受选项。
  4. 执行以下操作之一:

    • 键入 "y" 并按 [Enter] 接受 EULA 并开始安装。
    • 键入 "n" 并按 [Enter] 拒绝 EULA 并退出安装。
    • 键入“v”并按 [Enter] 以再次查看 EULA。

  5. 将会安装 driver

如果要在安装提供的 driver 之前卸载以前版本的 driver,请运行 update 命令。

下载并更新 driver

  1. 数据移动 网关计算机上,将工作目录更改为:

    opt/qlik/gateway/movement/drivers/bin

  2. 然后运行以下命令:

    语法:

    ./update sqlserver

    如果无法下载 driver(由于访问限制或技术问题),将显示一条消息,为您指示在 数据移动 网关机器上下载 driver 的位置和复制驱动程序的位置。完成此操作后,请再次运行 install sqlserver 命令。

    否则,将显示 driver 的 EULA。

  3. 执行以下选项之一:

    • 重复按 [Enter] 可在 EULA 中缓慢滚动。
    • 重复按空格键可快速滚动 EULA。
    • 按 q 退出许可证文本并显示 EULA 接受选项。
  4. 执行以下操作之一:

    • 键入 "y" 并按 [Enter] 接受 EULA 并开始安装。
    • 键入 "n" 并按 [Enter] 拒绝 EULA 并退出安装。
    • 键入“v”并按 [Enter] 可从头开始查看 EULA。
  5. 将卸载旧的 driver,并安装新的 driver

如果要卸载 driver,请运行 uninstall 命令。

卸载 driver

  1. 如果 数据移动 网关用于登陆数据,请停止所有登陆陆任务。如果使用不同的 数据移动 网关对目标执行 ELT 过程,请停止所有相关任务(数据注册、存储、转换和数据集市)。如果单个 数据移动 网关用于登陆数据并在目标上执行 ELT 任务,则停止所有上述任务。

  2. 数据移动 网关计算机上,将工作目录更改为:

    opt/qlik/gateway/movement/drivers/bin

  3. 然后运行以下命令:

    语法:

    ./uninstall sqlserver

    将卸载 driver

手动安装驱动程序

只有在自动驱动程序安装未成功完成的情况下,才应尝试手动安装 driver

  1. 根据您的 数据移动网关 版本,从 Microsoft 软件包下载以下驱动程序之一:

    • 数据移动网关 版本 2022.11.70:下载 Microsoft ODBC Driver for SQL Server 17.x

      示例文件名: msodbcsql17-17.10.1.1-1.x86_64.rpm

    • 数据移动网关 版本 2022.11.74 或更高版本:下载 Microsoft ODBC Driver for SQL Server 18.x

      示例文件名称: msodbcsql18-18.3.1.1-1.x86_64.rpm

  2. 停止 Data Movement gateway 服务:

    sudo service repagent stop
  3. 可选择确认服务已停止:

    sudo service repagent status
  4. 输出应如下:

    not running: /opt/qlik/gateway/movement/bin/agentctl -d /opt/qlik/gateway/movement/data service host

  5. Data Movement gateway 计算机上安装驱动程序。

  6. 如下将驱动程序位置复制到 site_arep_login.sh 文件:

    echo "export LD_LIBRARY_PATH=\$LD_LIBRARY_PATH:/opt/microsoft/msodbcsql<parent-version>/lib64/" >> site_arep_login.sh

    其中 <parent version>是 17 或 18,具体取决于您安装的驱动程序版本。

    假设已安装 Microsoft ODBC Driver for SQL Server 18.x 的示例:

    echo "export LD_LIBRARY_PATH=\$LD_LIBRARY_PATH:/opt/microsoft/msodbcsql18/lib64/" >> site_arep_login.sh

    这将把驱动程序添加到 "LD_LIBRARY_PATH" 并更新驱动程序位置于 site_arep_login.sh 文件。

  7. 可选择确认已将驱动程序位置复制:

    cat site_arep_login.sh
  8. 启动 Data Movement gateway 服务:

    sudo service repagent start
  9. 可选择确认服务已启动:

    sudo service repagent status

    输出应如下:

    running: /opt/qlik/gateway/movement/bin/agentctl -d /opt/qlik/gateway/movement/data service host

端口

  • 在 Azure 之外的计算机上 Data Movement gateway 运行时 - 打开端口 1433 进行出站通信。
  • Data Movement gateway 在 AzureVM 上运行时 - 打开以下端口进行出站通信:
    • 1433
    • 11000-11999
    • 14000-14999

数据类型

下表显示了使用 Qlik Cloud 时支持的 Azure Synapse Analytics 数据类型以及自 Qlik Cloud 数据类型的默认映射。

支持的数据类型
Qlik Cloud 数据类型Azure Synapse Analytics 数据类型

BOOLEAN

BYTES

VARBINARY(以字节计算的长度)

DATE

DATE

TIME

TIME

DATETIME

DATETIME

INT1

BYTEINT

INT2

SMALLINT

INT4

INTEGER

INT8

BIGINT

NUMERIC

NUMERIC(精确度、刻度)

REAL4

REAL

REAL8

FLOAT

UINT1

BYTEINT

UINT2

INTEGER

UINT4

INTEGER

UINT8

BIGINT

STRING

VARCHAR(以字节计算的长度)

WSTRING

NVARCHAR(以字节计算的长度)

BLOB

VARBINARY(以字节计算的长度)

NCLOB

NVARCHAR(以字节计算的长度)

CLOB

VARCHAR(以字节计算的长度)

本页面有帮助吗?

如果您发现此页面或其内容有任何问题 – 打字错误、遗漏步骤或技术错误 – 请告诉我们如何改进!