Предварительные требования
Перед промежуточным сохранением или репликацией данных необходимо выполнить следующие предварительные требования:
-
Установите необходимый driver на сервере Data Movement Gateway
Примечание к информацииЭто требуется, только если выбрана работа с Data Movement Gateway. Для получения информации о преимуществах Data Movement Gateway и о том, когда его необходимо использовать, см. раздел Qlik Data Gateway — Data Movement.
Обратите внимание, что Data Movement Gateway не поддерживается для подписки Qlik Talend Cloud Starter.
-
Предоставьте необходимые разрешения в источнике данных
-
Настройка коннектора источника данных
Настройка драйвера
driver можно установить с помощью программы для установки драйверов (рекомендуется) или вручную. Ручную установку следует выполнять только в том маловероятном случае, если возникла проблема с программой для установки драйверов.
Использование программы для установки драйверов для установки драйвера
В этом разделе описывается процедура установки необходимого driverа. Она включает выполнение скрипта, который автоматически загружает, устанавливает и настраивает необходимый driver. Также можно выполнять скрипты для обновления и удаления driverа по необходимости.
Подготовка к установке
-
Убедитесь, что на сервере шлюза Перемещение данных установлена версия Python 3.6 или более поздняя.
Python предустанавливается в большинстве дистрибутивов Linux. Чтобы проверить, какая версия Python установлена в системе, выполните следующую команду:
python3 --version
Установка driver
Чтобы загрузить и установить driver, выполните следующие действия.
-
На компьютере шлюза Перемещение данных измените рабочую папку на:
opt/qlik/gateway/movement/drivers/bin
-
Выполните следующую команду:
Синтаксис:
./install sqlserver
Если не удается загрузить driver (из-за ограничений доступа или технических проблем), появится сообщение с указанием места, откуда можно загрузить driver и куда его скопировать на компьютере шлюза Перемещение данных. После этого выполните команду install sqlserver еще раз.
В противном случае откроется лицензионное соглашение с конечным пользователем driverа.
-
Выполните одно из следующих действий:
- Нажмите клавишу [Enter] несколько раз, чтобы медленно прокрутить лицензионное соглашение.
- Нажимайте клавишу «Пробел» несколько раз, чтобы быстро прокрутить лицензионное соглашение.
- Нажмите клавишу «q», чтобы закрыть текст лицензионного соглашения и перейти к шагу принятия/отклонения.
-
Затем выполните одно из следующих действий:
- Введите «y» и нажмите клавишу [Enter], чтобы принять лицензионное соглашение и запустить установку.
- Введите «n» и нажмите клавишу [Enter], чтобы отклонить лицензионное соглашение и отменить установку.
-
Введите «v» и нажмите клавишу [Enter], чтобы снова открыть лицензионное соглашение для просмотра.
Будет установлен driver.
Обновление driverа
Выполните команду обновления, если требуется удалить предыдущие версии driverа перед установкой предоставленной версии driverа.
Чтобы загрузить и обновить driver, выполните следующие действия.
-
На компьютере шлюза Перемещение данных измените рабочую папку на:
opt/qlik/gateway/movement/drivers/bin
-
Выполните следующую команду:
Синтаксис:
./update sqlserver
Если не удается загрузить driver (из-за ограничений доступа или технических проблем), появится сообщение с указанием места, откуда можно загрузить driver и куда его скопировать на компьютере шлюза Перемещение данных. После этого выполните команду update sqlserver еще раз.
В противном случае откроется лицензионное соглашение с конечным пользователем driverа.
-
Выполните одно из следующих действий:
- Нажмите клавишу [Enter] несколько раз, чтобы медленно прокрутить лицензионное соглашение.
- Нажимайте клавишу «Пробел» несколько раз, чтобы быстро прокрутить лицензионное соглашение.
- Нажмите клавишу «q», чтобы закрыть текст лицензионного соглашения и перейти к шагу принятия/отклонения.
-
Затем выполните одно из следующих действий:
- Введите «y» и нажмите клавишу [Enter], чтобы принять лицензионное соглашение и запустить установку.
- Введите «n» и нажмите клавишу [Enter], чтобы отклонить лицензионное соглашение и отменить установку.
- Введите «v» и нажмите клавишу [Enter], чтобы снова просмотреть лицензионное соглашение от начала.
Будет удален старый driver и установлен новый driver.
Удаление driverа
Выполните команду удаления, если требуется удалить driver.
Чтобы удалить driver, выполните следующие действия.
-
Остановите все задачи, использующие данный коннектор.
-
На компьютере шлюза Перемещение данных измените рабочую папку на:
opt/qlik/gateway/movement/drivers/bin
-
Выполните следующую команду:
Синтаксис:
./uninstall sqlserver
driver будет удален.
Установка драйвера вручную
Установку driver вручную следует пытаться выполнить только в том случае, если автоматическая установка драйвера не завершилась успешно.
После установки Data Movement Gateway загрузите драйвер msodbcsql<версия>.x86_64.rpm. Прямую ссылку для загрузки поддерживаемой версии можно найти в разделе binary-artifacts в /opt/qlik/gateway/movement/drivers/manifests/sqlserver.yaml. После завершения загрузки скопируйте RPM на компьютер Data Movement Gateway.
На сервере Data Movement gateway откройте приглашение оболочки и выполните действия, указанные ниже.
-
Остановите службу Data Movement gateway:
sudo systemctl stop repagent
-
Если нужно, подтвердите, что служба остановлена:
sudo systemctl status repagent
-
Установите драйвер (RPM).
-
Замените рабочую папку на <product_dir>/bin.
-
Скопируйте местоположение драйвера в файл
site_arep_login.sh
следующим образом:echo "export LD_LIBRARY_PATH=\$LD_LIBRARY_PATH:/opt/microsoft/
msodbcsql<version>
/lib64/" >> site_arep_login.sh
После этого драйвер будет добавлен в "LD_LIBRARY_PATH", а в файле site_arep_login.sh обновится расположение драйвера.
-
При необходимости подтвердите, что расположение драйвера скопировано.
cat site_arep_login.sh
-
Запустите службу Data Movement gateway.
sudo systemctl start repagent
-
При необходимости подтвердите, что служба запущена.
sudo systemctl status repagent
Статус должен быть следующим:
Active: active (running) since <timestamp> ago
-
Для Data Movement gateway требуется следующая библиотека ODBC: msodbcsql-18.1.so.1.1
Чтобы проверить, какая версия библиотеки установлена в данный момент, выполните следующую команду:
ls /opt/microsoft/msodbcsql<version>/lib64/
Если у имеющейся библиотеки другой номер версии (например, libmsodbcsql-18.0.so.1.1), необходимо создать символическую ссылку между имеющейся и нужной библиотеками.
Для этого выполните следующие команды:
cd /opt/microsoft/msodbcsql<version>/lib64/
ln -s existing_library_name
msodbcsql-18.1.so.1.1где
existing_library_name
— это имя установленной в данный момент библиотеки (например, libmsodbcsql-18.0.so.1.1).
Статус должен быть следующим:
Active: inactive (dead) since <timestamp> ago
Выбор базы данных
Чтобы обеспечить возможность выбора базы данных (щелчком параметра Загрузить базы данных в диалоговом окне коннектора), пользователя, указанного в параметрах коннектора, необходимо создать в основной базе данных.
Порт
По умолчанию для исходящего трафика необходимо открыть порт 1434 на сервере Data Movement Gateway. Порт можно изменить в настройках подключения.
Подготовка базы данных для CDC
В этом разделе описано, как настроить базу данных для CDC.
Чтобы настроить базу данных для CDC, выполните действия, указанные ниже.
-
Настройте базу данных для MS-CDC, выполнив следующее:
exec source_db_name.dbo.sp_cdc_enable_db
где source_db_name — это имя исходной базы данных.
-
Задача репликации (landing) автоматически включает MS-CDC для всех исходных таблиц. Однако при желании включить MS-CDC вручную выполните следующий скрипт (для каждой из нужных исходных таблиц):
exec sys.sp_cdc_enable_table
@source_schema = N'schema_name',
@source_name = N'table_name',
@role_name = NULL
где schema_name и table_name — это имена исходной схемы и исходной таблицы соответственно.
Примечание к информации- Имена таблиц CT должны быть в формате по умолчанию: <SchemaName>_<TableName>_CT.
-
Таблицы CT должны содержать следующие столбцы: [__$start_lsn], [__$end_lsn], [__$seqval], [__$operation], [__$update_mask], <все столбцы данных>, [__$command_id].
-
Убедитесь, что задания захвата и очистки MS-CDC запущены.
Примечание к информации- Управлять заданиями можно с помощью sys.sp_cdc_change_job. Для получения дополнительной информации см. сайт справки Microsoft.
- Чтобы уменьшить задержку, задайте для параметра @pollinginterval небольшое значение.