Настройки проекта конвейера данных
Можно изменить настройки проекта конвейера данных в Qlik Talend Data Integration. Свойства являются общими для проекта и всех включенных задач данных. Некоторые настройки доступны только для определенных платформ данных.
-
Нажмите Настройки в проекте.
Платформа данных
Можно изменить следующие настройки:
-
Подключение
Подключение для проекта.
-
Подключение к промежуточной области
Этот параметр недоступен, если платформой данных является Snowflake.
Метаданные
Можно задать суффикс для внутренних артефактов и суффиксы по умолчанию для создаваемых представлений.
-
Настройки внутренних артефактов
Задайте суффикс, который будет использоваться для схем, используемых для хранения внутренних артефактов, в поле Суффикс схемы.
-
Суффиксы внешних представлений
Задайте суффиксы по умолчанию для представлений, которые создаются в задачах данных, включенных в проект.
-
Хэш
Можно задать строку соли хэша, которая будет использоваться при хэшировании столбца, например, для маскировки конфиденциальной информации. Это сгенерирует хэш SHA-256 входного столбца после его объединения со строкой соли хэша.
Можно использовать идентификатор проекта в качестве строки соли или задать пользовательскую строку соли.
Примечание к информацииЭта настройка доступна только в проектах Открытое озеро данных Qlik. Функция хэширования доступна в задачах потокового промежуточного хранения.
Настройки по умолчанию для новых задач
Можно задать значения по умолчанию для задач данных, которые создаются в проекте. При создании задачи данных можно изменить это значение.
Можно задать базу данных по умолчанию для создания целевых артефактов для всех типов задач данных.
Настройки промежуточного хранения по умолчанию
-
При использовании Data Movement gateway подключаться через прокси-сервер к
При использовании Шлюз движения данных можно подключиться к целевой платформе и промежуточной платформе (области) через прокси-сервер.
Для получения дополнительной информации о настройке Шлюз движения данных для использования прокси-сервера см. Настройка клиента Qlik Cloud и прокси-сервера.
-
Целевая платформа
Примечание к информацииДоступно при использовании Snowflake, Google BigQuery и Databricks. -
Промежуточная платформа
Примечание к информацииДоступно при использовании Azure Synapse Analytics, Amazon Redshift и Databricks.
-
Настройки хранения по умолчанию
-
Хранилище исторических данных (тип 2)
Можно сохранять исторические данные об изменениях, чтобы легко воссоздавать данные в том виде, в котором они были в определенный момент времени. Для просмотра исторических данных можно использовать представления истории и динамические представления истории.
-
Динамические представления
Динамические представления показывают представление для каждой выбранной исходной таблицы, которое объединяет таблицу с изменениями из таблицы изменений. Это обеспечивает запросам динамическое представление данных без необходимости ждать следующего цикла применения.
База данных по умолчанию
Можно использовать базу данных проекта по умолчанию или указать другую базу данных.
Каталог
-
Опубликовать в каталоге
Выберите этот параметр, чтобы опубликовать эту версию данных в Каталоге в качестве набора данных. Содержимое каталога будет обновлено при следующей подготовке этой задачи.
Настройки преобразования по умолчанию
-
Хранилище исторических данных (тип 2)
Можно сохранять исторические данные об изменениях, чтобы легко воссоздавать данные в том виде, в котором они были в определенный момент времени. Для просмотра исторических данных можно использовать представления истории и динамические представления истории.
Материализация
-
Нематериализованные (только представления)
Выберите этот параметр, чтобы создавать только представления, которые выполняют преобразования на лету.
-
Материализованные (таблицы и представления)
Выберите этот параметр, чтобы создавать как таблицы, так и представления.
База данных по умолчанию
Можно использовать базу данных проекта по умолчанию или указать другую базу данных.
Каталог
-
Опубликовать в каталоге
Выберите этот параметр, чтобы опубликовать эту версию данных в Каталоге в качестве набора данных. Содержимое каталога будет обновлено при следующей подготовке этой задачи.
Настройки витрины данных по умолчанию
База данных по умолчанию
Можно использовать базу данных проекта по умолчанию или указать другую базу данных.
Каталог
-
Опубликовать в каталоге
Выберите этот параметр, чтобы опубликовать эту версию данных в Каталоге в качестве набора данных. Содержимое каталога будет обновлено при следующей подготовке этой задачи.
Настройки зарегистрированных данных по умолчанию
База данных по умолчанию
Можно использовать базу данных проекта по умолчанию или указать другую базу данных.
Каталог
-
Опубликовать в каталоге
Выберите этот параметр, чтобы опубликовать эту версию данных в Каталоге в качестве набора данных. Содержимое каталога будет обновлено при следующей подготовке этой задачи.
Настройки инкрементальной загрузки
Эти настройки доступны, если выбрано Инкрементальная с использованием верхнего предела.
-
Таблицы изменений
Если изменения находятся в той же таблице, выберите Изменения находятся в той же таблице.
Если нет, отмените выбор Изменения находятся в той же таблице и укажите шаблон таблицы изменений.
-
Столбец предела
Задайте имя столбца предела в поле Имя.
-
Столбец «С даты»
Можно указать «С даты» по времени начала или с помощью выбранного столбца.
Если выбрано Выбранный столбец «С даты», необходимо определить Шаблон «С даты».
-
Мягкие удаления
Можно включить мягкие удаления в изменения, выбрав Изменения включают мягкие удаления и определив выражение индикации.
Выражение индикации должно иметь значение True, если изменение является мягким удалением.
Пример: ${is_deleted} = 1
-
Образ до
Можно отфильтровать записи образа до в изменениях таблиц изменений, выбрав Образ до и определив выражение индикации.
Выражение индикации должно иметь значение True, если строка содержит образ до обновления.
Пример: ${header__change_oper} = 'B'
Среда выполнения
Можно определить настройки производительности среды выполнения по умолчанию для ресурсов данных, включенных в проект.
Значения промежуточного хранения по умолчанию
-
Можно задать максимальное количество подключений к базе данных в разделе Параллельное выполнение.
Значения хранения по умолчанию
-
Можно задать настройки расписания по умолчанию на расписание на основе времени. Это будет значением по умолчанию для каждой созданной задачи хранения.
-
Можно задать хранилище данных по умолчанию, если платформой проекта является Snowflake.
Значения преобразования по умолчанию
-
Можно задать настройки расписания по умолчанию на расписание на основе времени или При успешном завершении любой задачи входных данных. Это будет значением по умолчанию для каждой созданной задачи преобразования.
-
Можно задать хранилище данных по умолчанию, если платформой проекта является Snowflake.
Значения витрины данных по умолчанию
-
Можно задать настройки расписания по умолчанию на расписание на основе времени или При успешном завершении любой задачи входных данных. Это будет значением по умолчанию для каждой созданной задачи витрины данных.
-
Можно задать хранилище данных по умолчанию, если платформой проекта является Snowflake.
Значения зеркалирования по умолчанию
-
Можно задать хранилище данных по умолчанию, если платформой проекта является Snowflake.