Pré-requisitos
Antes de fazer a aterrissagem ou a replicação dos dados, certifique-se de atender aos seguintes pré-requisitos:
-
Instalar o driver necessário no servidor do Data Movement gateway
Nota informativaIsso apenas será necessário se você optar por trabalhar com o Data Movement gateway. Para obter informações sobre os benefícios do Data Movement gateway e quando ele é necessário, consulte Qlik Data Gateway - Data Movement.
Observe que o Data Movement gateway não está disponível com a assinatura do Iniciante do Qlik Talend Cloud.
-
Conceder as permissões necessárias na fonte de dados
-
Configurar o conector de fontes de dados
Edições com suporte
As seguintes edições do MySQL são compatíveis:
- MySQL Community Edition
- MySQL Standard Edition
- MySQL Enterprise Edition
- MySQL Cluster Carrier Grade Edition
Configuração do driver
Você pode instalar o driver usando o utilitário de instalação do driver (recomendado) ou manualmente. A instalação manual só deve ser tentada no caso improvável de você encontrar um problema com o utilitário de instalação do driver.
Usando o utilitário de instalação de driver para instalar o driver
Esta seção descreve como instalar o driver necessário. O processo envolve a execução de um script que baixará, instalará e configurará automaticamente os driver necessários. Você também pode executar scripts para atualizar e desinstalar o driver como necessário.
Preparando a instalação
-
Certifique-se de que o Python 3.6.x ou mais recente esteja instalado no servidor de gateway do Movimentação de dados.
O Python vem pré-instalado na maioria das distribuições do Linux. Você pode verificar qual versão do Python está instalada em seu sistema executando o seguinte comando:
python3 --version
Instalando o driver
Para baixar e instalar o driver:
-
Na máquina do gateway do Movimentação de dados, altere o diretório de trabalho para:
opt/qlik/gateway/movement/drivers/bin
-
Execute o seguinte comando:
Sintaxe:
./install mysql
Se o driver não puder ser baixado (devido a restrições de acesso ou problemas técnicos), uma mensagem será exibida informando onde baixar o driver e onde copiá-lo na máquina de gateway do Movimentação de dados. Depois de fazer isso, execute o comando install mysql novamente.
Caso contrário, o EULA do driver será exibido.
-
Realize uma das seguintes ações:
- Pressione [Enter] repetidamente para percorrer lentamente o EULA.
- Pressione a barra de espaço repetidamente para rolar rapidamente pelo EULA.
- Pressione q para sair do texto da licença e ser apresentado às opções de aceitação do EULA.
-
Realize uma das seguintes ações:
- Digite "y" e pressione [Enter] para aceitar o EULA e iniciar a instalação.
- Digite "n" e pressione [Enter] para rejeitar o EULA e sair da instalação.
-
Digite "v" e pressione [Enter] para visualizar o EULA novamente.
O driver será instalado.
Atualizando o driver
Execute o comando de atualização se quiser desinstalar versões anteriores do driver antes de instalar o driver fornecido.
Para baixar e atualizar o driver:
-
Na máquina do gateway do Movimentação de dados, altere o diretório de trabalho para:
opt/qlik/gateway/movement/drivers/bin
-
Execute o seguinte comando:
Sintaxe:
./update mysql
Se o driver não puder ser baixado (devido a restrições de acesso ou problemas técnicos), uma mensagem será exibida informando onde baixar o driver e onde copiá-lo na máquina de gateway do Movimentação de dados. Depois de fazer isso, execute o comando update mysql novamente.
Caso contrário, o EULA do driver será exibido.
-
Realize uma das seguintes ações:
- Pressione [Enter] repetidamente para percorrer lentamente o EULA.
- Pressione a barra de espaço repetidamente para rolar rapidamente pelo EULA.
- Pressione q para sair do texto da licença e ser apresentado às opções de aceitação do EULA.
-
Realize uma das seguintes ações:
- Digite "y" e pressione [Enter] para aceitar o EULA e iniciar a instalação.
- Digite "n" e pressione [Enter] para rejeitar o EULA e sair da instalação.
- Digite "v" e pressione [Enter] para revisar o EULA desde o início.
O driver antigo será desinstalado, e o novo driver será instalado.
Desinstalando o driver
Execute o comando de desinstalação se quiser desinstalar o driver.
Para desinstalar o driver:
-
Pare todas as tarefas configuradas para usar esse conector.
-
Na máquina do gateway do Movimentação de dados, altere o diretório de trabalho para:
opt/qlik/gateway/movement/drivers/bin
-
Execute o seguinte comando:
Sintaxe:
./uninstall mysql
O driver será desinstalado.
Instalando o driver manualmente
Você só deve tentar instalar o driver manualmente se a instalação automática do driver não for concluída com êxito.
Após a instalação do Data Movement gateway, baixe o driver mysql-connector-odbc-<version>.x86_64.rpm. Você pode encontrar um link de download direto para a versão compatível em binary-artifacts em /opt/qlik/gateway/movement/drivers/manifests/mysql.yaml. Assim que o download for concluído, copie o RPM para a máquina Data Movement gateway.
No servidor do Gateway Data Movement, abra um prompt de shell e faça o seguinte:
-
Pare o serviço do Gateway Data Movement:
sudo systemctl stop repagent
-
Opcionalmente, confirme se o serviço foi interrompido:
sudo systemctl status repagent
O status deverá ser o seguinte:
Active: inactive (dead) since <timestamp> ago
- Instale o driver na máquina do Gateway Data Movement.
-
Altere o diretório de trabalho para <Gateway Data Movement-Install-Dir>/bin.
-
Copie a localização do driver para o arquivo site_arep_login.sh:
echo "export LD_LIBRARY_PATH=\$LD_LIBRARY_PATH:/usr/lib64" >> site_arep_login.sh
Isso adicionará o driver a "LD_LIBRARY_PATH" e atualizará a localização do driver no arquivo site_arep_login.sh.
-
Opcionalmente, confirme se a localização do driver foi copiada:
cat site_arep_login.sh
-
Certifique-se de que o arquivo /etc/odbcinst.inicontenha uma entrada para o MySQL, como no exemplo a seguir:
[MySQL ODBC 8.0 Unicode Driver]
Driver = /usr/lib64/libmyodbc8w.so
UsageCount = 1
-
Inicie o serviço do Gateway Data Movement:
sudo systemctl start repagent
-
Opcionalmente, confirme se o serviço foi iniciado:
sudo systemctl status repagent
O status deverá ser o seguinte:
Active: active (running) since <timestamp> ago
Porta
Por padrão, a porta 3306 precisa ser aberta para comunicação de saída no servidor do Gateway Data Movement. Você pode alterar isso nas configurações do conector.
Pré-requisitos gerais
Verifique se os seguintes pré-requisitos foram atendidos:
- Uma conta MySQL com o Permissões necessárias.
- MySQL 8: Autenticação padrão para capturar alterações
-
As versões certificadas do MySQL suportam o valor fracionário para tipos de dados temporais (introduzidos no MySQL 5.6). Consequentemente, o movendo de formato de tipo de dados temporal antigo não tem mais suporte.
Nota informativaObserve que a atualização para versões do MySQL que oferecem suporte ao valor fracionário para tipos de dados temporais não atualiza o formato de tipo de dados temporal automaticamente. Isso precisa ser feito separadamente. Isso também se aplica ao atualizar do MariaDB 10.1. Para obter instruções sobre como atualizar o formato do tipo de dados temporal, consulte a ajuda online do fornecedor.
Capturando alterações de um banco de dados do MySQL instalado pelo cliente
A seção a seguir descreve os requisitos para capturar alterações de um banco de dados do MySQL local.
Habilitar registro em log binário
Para habilitar o registro em log binário (necessário para CDC movendo), os seguintes parâmetros devem ser configurados nos arquivos my.ini (Windows) ou my.cnf (UNIX) do MySQL.
Parâmetro | Valor |
---|---|
server_id |
Qualquer valor de 1. Exemplo: server_id=1 |
log-bin=<caminho> |
Caminho para o arquivo de log binário (sem extensão). Exemplo: log-bin=E:\MySql_Logs\BinLog |
binlog_format |
Deve ser: binlog_format=row |
expire_logs_days |
Para evitar problemas de espaço em disco, é altamente recomendável não usar o valor padrão (0). Exemplo: expire_logs_days=5 |
binlog_row_image |
Deve ser: binlog_row_image=full |
Pré-requisitos do cluster
Para poder Mover tabelas em cluster (NDB) (conectando-se a qualquer um dos nós do cluster), os seguintes parâmetros devem ser configurados nos arquivos my.ini (Windows) ou my.cnf (UNIX) do MySQL.
Ao usar o Percona como fonte, não há necessidade de realizar os procedimentos descritos nesta seção.
Parâmetro | Valor |
---|---|
ndb_log_bin |
Deve ser: ndb_log_bin=on Garante que as alterações nas tabelas em cluster serão registradas no log binário. |
ndb_log_update_as_write |
Deve ser: ndb_log_update_as_write=OFF Impede que UPDATEs sejam gravados como INSERTs no log binário. |
ndb_log_updated_only |
Deve ser: ndb_log_updated_only=OFF Garante que o log binário conterá a linha inteira e não apenas as colunas alteradas. |
Capturando alterações do Google Cloud for MySQL
Registro em log binário
O registro em log binário é necessário para capturar as alterações. Para verificar se o registro em log binário está habilitado (o padrão), certifique-se de que o parâmetro binlog_row_image
do banco de dados esteja definido como full
.
Replicação
A replicação permite que os dados do servidor de banco de dados primário sejam copiados para um ou mais servidores secundários.
Os dados podem ser desembarcados de um servidor primário ou de um servidor secundário.
Para capturar alterações de um servidor secundário, o parâmetro de registro em log binário log_slave_updates
precisa ser definido como true
(1
).
Leitura adicional: https://cloud.google.com/sql/docs/mysql/replication
Capturar alterações do Amazon RDS for MySQL e Amazon Aurora for MySQL
Registro em log binário
Para configurar o Amazon RDS for MySQL ou o Amazon Aurora for MySQL para CDC:
-
Siga as instruções na Ajuda da AWS para criar um novo grupo de parâmetros (consulte a seção Formato de registro em log binário).
-
Ao criar o novo grupo de parâmetros, defina:
binlog_format=row
- Salve o novo grupo de parâmetros.
- Se você tiver uma instância existente do Amazon RDS for MySQL, edite essa instância para usar o parâmetro especificado na Etapa 2 acima. Se você estiver provisionando uma nova instância do Amazon RDS for MySQL, faça referência ao novo grupo de parâmetros criado na Etapa 1 acima.
- Por fim, certifique-se de que o backup automático esteja habilitado (o padrão).
Leitura adicional: https://docs.aws.amazon.com/AmazonRDS/latest/UserGuide/USER_LogAccess.MySQL.BinaryFormat.html
Replicação
A replicação permite que os dados do servidor de banco de dados primário sejam copiados para um ou mais servidores secundários.
Os dados podem ser desembarcados de um servidor primário ou de um servidor secundário.
Para capturar alterações de um servidor secundário, o parâmetro de registro em log binário log_slave_updates
precisa ser definido como true
(1
).
Leitura adicional: https://docs.aws.amazon.com/AmazonRDS/latest/UserGuide/USER_MySQL.Replication.html
Capturando alterações do banco de dados do Microsoft Azure for MySQL
O registro em log binário é necessário para capturar as alterações. Para verificar se o registro em log binário está habilitado (o padrão), certifique-se de que o parâmetro binlog_row_image
do banco de dados esteja definido como full
.