Monitorando uma tarefa de dados individual | Qlik Cloud Ajuda
Ir para conteúdo principal Pular para conteúdo complementar

Monitorando uma tarefa de dados individual

Você pode monitorar o status e o progresso das suas tarefas de dados selecionando Monitorar no menu suspenso no canto superior esquerdo da janela da tarefa de dados.

Também pode criar exibições de monitor para monitorar diversas tarefas de dados. Para obter mais informações, consulte Monitorando e operando suas tarefas de dados.

Visão geral do monitoramento geral

A visualização de monitoramento está disponível para todos os tipos de tarefa e permite rastrear o status e as métricas da tarefa:

  • Guias

    Alterne entre as guias disponíveis — como Informações, Carregamento total e Processamento de alterações, Lote ou Fluxo — dependendo do tipo de tarefa. Para obter detalhes sobre cada guia, consulte a seção de tarefa relevante abaixo.

  • Filtro de status do conjunto de dados

    Um gráfico de barras acima da tabela de conjuntos de dados mostra quantos conjuntos de dados estão em cada status: Na fila, Carregando, Concluído e Erro. O gráfico é atualizado dinamicamente à medida que os status dos conjuntos de dados mudam. Clique em um segmento de status para filtrar a tabela de conjuntos de dados e mostrar apenas os conjuntos de dados nesse status.

  • Ocultar widgets

    Clique em Ocultar widgets para recolher os widgets de métricas. Isso oferece mais espaço para visualizar a tabela de conjuntos de dados abaixo.

  • Data de início

    A data e hora em que a execução da tarefa atual foi iniciada.

  • Data de término

    Data e hora em que a execução da tarefa terminou. Isso é exibido apenas para execuções de tarefas concluídas.

  • Histórico de execução

    Clique em Histórico de execução para visualizar uma lista de execuções de tarefas anteriores e seus resultados.

Monitorando tarefas de movimento de dados

As opções de monitoramento disponíveis são determinadas pelo tipo de tarefa e pelo tipo de conector. Como alguns conectores não oferecem suporte para CDC (por exemplo, Epicor), as opções de monitoramento relevantes para a CDC não serão mostradas para esses conectores. Da mesma forma que alguns conectores não são compatíveis com Carregamento total (por exemplo, Conectores Preview), as opções de monitoramento relevantes para Carregamento total não serão mostradas para esses conectores.

Caso de uso do pipeline de dados: tarefas de aterrisagem

Todas as tarefas de aterrisagem devem começar com um carregamento total dos dados de origem para o destino. Depois que o carregamento total inicial for concluído, os dados de destino serão atualizados com alterações nos dados de origem. Isso pode ser feito usando Recarregar e comparar ou Alterar captura de dados (CDC) de acordo com a definição da tarefa.

Para obter mais informações sobre tarefas de aterrisagem, consulte Aterrissagem de dados de fontes de dados.

Caso de uso de replicação: tarefas "Replicar dados"

As tarefas "Replicar dados" geralmente começam com um carregamento total dos dados de origem para o destino. A tabela a seguir resume os casos de uso de carregamento total.

Caso de uso Carregamento total
Replicando aplicativos SaaS acessados por meio de conectores Lite Obrigatório
Replicação de aplicativos SaaS acessados por meio de Conectores Preview. Não é relevante, pois os conectores Preview não são compatíveis com carregamento total.
Replicando de bancos de dados Opcional

Ao replicar de bancos de dados, se os dados de origem já existirem no destino e você quiser apenas aplicar as alterações de origem ao destino (ou armazená-las para aplicação posterior), o modo de replicação poderá ser Aplicar alterações, Armazenar alterações ou ambos. Ambos os modos de replicação são mostrados no monitoramento da CDC.

Para obter mais informações sobre tarefas "Replicar dados", consulte os seguintes tópicos:

Replicando dados com uma assinatura Standard, Premium ou Enterprise

Replicando dados com uma assinatura do Iniciante do Qlik Talend Cloud

Caso de uso de replicação: tarefas "Aterrisar dados no data lake"

As tarefas "Aterrisar dados no data lake" são semelhantes às tarefas de aterrisagem, pois devem começar com carregamento total. Depois que o carregamento total inicial for concluído, os dados de destino serão atualizados com alterações nos dados de origem. Isso pode ser feito usando a opção Recarregar ou Alterar captura de dados (CDC). Apesar de sua semelhança com as tarefas de aterrisagem, as tarefas "Aterrisar dados no data lake" são consideradas tarefas de replicação, pois consistem apenas na replicação da origem ao destino. Elas não oferecem a possibilidade de manipular os dados posteriormente (por exemplo, usando transformações e data marts), que estão disponíveis em um pipeline de dados.

Nota informativaAs etapas para criar uma tarefa separada "Aterrisar dados no data lake" não são relevantes com uma assinatura do Iniciante do Qlik Talend Cloud. Com uma assinatura do Iniciante do Qlik Talend Cloud, a replicação para destinos de armazenamento na nuvem é feita por meio de uma tarefa padrão "Replicar dados".

Para obter mais informações sobre tarefas "Aterrisar dados no data lake", consulte Aterrisar ddados em um data lake com uma assinatura Standard, Premium ou Enterprise.

Monitorando detalhes

Os seguintes detalhes de monitoramento estão disponíveis:

  • Informações

  • Carregamento total

  • Alterar processamento

  • Fluxos

    Disponível apenas para tarefas de aterrisagem de fluxo.

Detalhes do monitoramento de informações

Você pode visualizar informações gerais sobre a tarefa, o ID da execução e quando os dados foram atualizados. Para tarefas de CDC, as informações de agendamento também estão disponíveis nesta guia.

Detalhes do monitoramento de carregamento total

Nota informativaAs informações de monitoramento de carregamento total não são mostradas para tarefas definidas com um conector Preview de aplicativos SaaS. Conectores Preview são indicados por um botão Imagem do botão Visualizar, tanto no diálogo Criar conexão quanto na ajuda online.

Você pode visualizar as seguintes estatísticas para a tarefa de dados em Carregamento total:

  • Total de conjuntos de dados

    O número de conjuntos de dados carregados.

  • Conjuntos de dados com erro

    Número de conjuntos de dados com erros.

  • Latência total

    Latência atual da tarefa (hh:mm:ss). Essa duração representa o tempo de quando a alteração está disponível na origem até que a alteração seja aplicada e esteja disponível no destino ou na aterrisagem.

  • Produtividade total

    Taxa de transferência de destino em Kilobytes/segundo. Isso indica a rapidez com que os registros de alteração são carregados no terminal de destino.

Você pode ver os seguintes detalhes de cada conjunto de dados na tarefa de dados:

  • Nome

    O nome do conjunto de dados de destino.

  • Estado

    O estado da tabela será: Em fila, Carregando, Concluído ou Erro

  • Iniciado

    A hora em que o carregamento começou.

  • Encerrado

    A hora em que o carregamento terminou.

  • Duração

    Duração do carregamento no formato hh:mm:ss.

  • Registros

    O número de registros que foram gravados no destino durante o carregamento.

    Nota informativa

    Quando os conjuntos de dados de origem forem filtrados, Registros serão substituídos pelas seguintes seções:

    • Registros lidos: O número de registros lidos dos conjuntos de dados de origem antes da filtragem.

    • Registros gravados (após a filtragem): o número de registros realmente gravados no destino após a filtragem.

    Para obter mais informações sobre a filtragem de conjuntos de dados, consulte Filtrando um conjunto de dados.

  • Mensagem

    Exibe uma mensagem de erro quando o carregamento não foi processado com êxito.

Detalhes do monitoramento de processamento de alterações

Processamento de alterações exibe o número de alterações aplicadas a todas as tabelas durante a última execução de CDC ou durante a execução atual, caso ainda não tenha sido concluída. Para ver o número de alterações aplicadas a conjuntos de dados individuais desde o início da tarefa, consulte a tabela Conjuntos de dados.

Você pode visualizar as seguintes estatísticas de processamento de alterações:

  • Total de conjuntos de dados

    O número de conjuntos de dados carregados.

  • Conjuntos de dados com erro

    Número de conjuntos de dados com erros.

  • Latência total

    Latência atual da tarefa (hh:mm:ss). Essa duração representa o tempo de quando a alteração está disponível na origem até que a alteração seja aplicada e esteja disponível no destino ou na aterrisagem.

  • Produtividade total

    Taxa de transferência de destino em Kilobytes/segundo. Isso indica a rapidez com que os registros de alteração são carregados no terminal de destino.

  • Total de alterações recebidas

    O número de alterações presentes na origem e aguardando para serem processadas. Você pode ver quantas estão acumuladas na origem e quantas estão sendo aplicadas.

  • Total de alterações aplicadas

    O número de alterações aplicadas ao destino ou à aterrissagem. Você pode visualizar o número de adições, exclusões e atualizações.

Você pode ver os seguintes detalhes de cada tabela na tarefa de dados:

Nota informativaAs colunas Inserções, Atualizações e Exclusões não são mostradas para tarefas definidas com um Conector Preview de aplicativos SaaS. Conectores Preview são indicados por um botão Imagem do botão Visualizar, tanto no diálogo Criar conexão quanto na ajuda online.
  • Nome

    O nome da tabela de destino no ativo de aterrisagem.

  • Estado

    O estado da tabela será um dos seguintes: Acumulando alterações, Erro ou Concluído (para tarefas de CDC agendadas).

  • Último processado

    A data e hora em que as últimas alterações foram feitas na tabela.

  • Inserções, Atualizações e Exclusões

    Nota informativa

    Quando os conjuntos de dados de origem forem filtrados, as colunas Inserções, Atualizações e Exclusões serão agrupadas da seguinte forma:

    • Lidos: O número de alterações (inserções, atualizações e exclusões) lidas dos conjuntos de dados de origem antes da filtragem.

    • Gravados (após a filtragem): o número de alterações (inserções, atualizações e exclusões) realmente gravadas no destino após a filtragem.

    Para obter mais informações sobre a filtragem de conjuntos de dados, consulte Filtrando um conjunto de dados.

    • Inserções

      O número de operações de inserção.

    • Atualizações

      O número de operações de atualização.

      Nota informativaAs atualizações são tratadas como inserções para fontes de aplicativos SaaS.
    • Exclusões

      O número de operações de exclusão.

  • DMLs (Inserções/Atualizações)

    Nota informativaEsta coluna é mostrada somente para tarefas definidas com um Conector Preview de aplicativos SaaS. Conectores Preview são indicados por um botão Imagem do botão Visualizar, tanto no diálogo Criar conexão quanto na ajuda online.
    Nota informativa

    Quando os conjuntos de dados de origem forem filtrados, as colunas Inserções, Atualizações e Exclusões serão agrupadas da seguinte forma:

    • DMLs lidos (inserções/atualizações): O número de DMLs (inserções e atualizações) lidos dos conjuntos de dados de origem antes da filtragem.

    • DMLs gravados (inserções/atualizações): O número de DMLs (inserções e atualizações) realmente gravadas no destino após a filtragem.

    Para obter mais informações sobre a filtragem de conjuntos de dados, consulte Filtrando um conjunto de dados.

  • Operações de DDL

    O número de operações de DDL

    Nota informativaDisponível apenas para tarefas "Replicar dados".
  • Mensagem

    Exibe uma mensagem de erro se as alterações na tabela falharem e não forem processadas.

Se você estiver acessando dados de uma fonte local e escolher o modo Carregamento total, as tabelas serão carregadas automaticamente quando o ativo de aterrisagem for Executado.

Se você estiver acessando dados de uma fonte local e escolher o modo Carregamento total e CDC, as tabelas serão atualizadas continuamente com novos dados após o carregamento total inicial.

Carregando tabelas selecionadas

Você pode carregar manualmente as tabelas selecionadas da fonte. Isto é útil quando você deseja recuperar tabelas únicas com erro. O carregamento das tabelas não afetará a linha do tempo do CDC, que será redefinida se você usar Recriar tabelas. Alterações de metadados não são propagadas ao recarregar tabelas.

  • Para carregar as tabelas selecionadas, selecione as tabelas na metade inferior do Monitor e clique em Carregar tabelas.

    Você precisa das mesmas permissões necessárias para executar a tarefa de dados, ou seja, a função Proprietário ou Pode operar.

A opção Carregar tabelas está disponível após a primeira execução da tarefa de dados. Se o método de atualização for Carregar e comparar, a opção Carregar tabelas não estará disponível quando a tarefa de dados estiver em execução.

As tarefas de armazenamento de dados downstream serão sincronizadas na próxima vez em que forem executadas. Se a tarefa de armazenamento tiver o histórico habilitado, ela será mantida.

Caso não seja possível recuperar recarregando as tabelas, o próximo passo é reparar a tarefa de dados.

Recarregando todas as tabelas para o alvo

Você poderá recarregar todas as tabelas no destino se tiver problemas de CDC que não possam ser resolvidos recarregando tabelas específicas. Exemplos de problemas são eventos ausentes, problemas causados pela reorganização do banco de dados de origem ou falha na leitura de eventos do banco de dados de origem.

Nota informativaEssa operação está disponível apenas para tarefas com o método de atualização Captura de dados alterados (CDC) e que tenham sido executadas pelo menos uma vez.

  1. Pare a tarefa de dados e todas as tarefas que os consomem.
  2. Abra a tarefa de dados e selecione a guia Monitor.

  3. Clique em ... e depois em Recarregar alvo.

Isso recarregará todas as tabelas no destino usando Drop-Create e reiniciará toda a captura de dados alterados a partir de agora.

  • As tarefas de armazenamento que consumirem a tarefa de dados de aterrissagem serão recarregadas por meio de comparação e aplicação na próxima execução para sincronização. O histórico existente será mantido. O histórico do tipo 2 será atualizado para refletir as alterações após a execução do processo de recarregamento e comparação.

    O carimbo de data/hora para a data inicial no histórico tipo 2 refletirá a data de recarregamento e não necessariamente a data em que a alteração ocorreu na origem.

  • Exibições ao vivo do armazenamento não serão confiáveis durante a operação de destino de recarregamento e até que o armazenamento esteja sincronizado. O armazenamento será totalmente sincronizado quando:

    • Todas as tabelas forem recarregadas usando comparação e aplicação,

    • Um ciclo de alterações é executado para cada tabela.

Monitorando tarefas de armazenamento, transformação, datamart, espelhamento e datamart de conhecimento

Você pode monitorar o status e o progresso de uma tarefa de armazenamento, transformação, datamart, espelhamento ou datamart de conhecimento.

Os seguintes detalhes de monitoramento estão disponíveis:

  • Informações

  • Carregamento total

  • Lote

Detalhes do monitoramento de informações

Você pode visualizar informações gerais sobre a tarefa, o ID da execução e quando os dados foram atualizados.

Detalhes do monitoramento de carregamento total

Nota informativaAs informações de monitoramento de carregamento total não são mostradas para tarefas definidas com um conector Preview de aplicativos SaaS. Conectores Preview são indicados por um botão Imagem do botão Visualizar, tanto no diálogo Criar conexão quanto na ajuda online.

Você pode visualizar as seguintes estatísticas para a tarefa de dados em Carregamento total:

  • Total de conjuntos de dados

    O número de conjuntos de dados carregados.

  • Conjuntos de dados com erro

    Número de conjuntos de dados com erros.

  • Produtividade total

    Taxa de transferência de destino em Kilobytes/segundo. Isso indica a rapidez com que os registros de alteração são carregados no terminal de destino.

Detalhes do monitoramento de lote

Você pode visualizar estatísticas para lotes de alterações:

  • Total de conjuntos de dados

    O número de conjuntos de dados carregados.

  • Conjuntos de dados com erro

    Número de conjuntos de dados com erros.

  • Latência total

    Latência atual da tarefa (hh:mm:ss). Essa duração representa o tempo de quando a alteração está disponível na origem até que a alteração seja aplicada e esteja disponível no destino ou na aterrisagem.

  • Produtividade total

    Taxa de transferência de destino em Kilobytes/segundo. Isso indica a rapidez com que os registros de alteração são carregados no terminal de destino.

  • Origem

    Latência e taxa de transferência na origem.

  • Destino

    Latência e taxa de transferência no destino.

  • Total de alterações recebidas

    O número de alterações presentes na origem e aguardando para serem processadas. Você pode ver quantas estão acumuladas na origem e quantas estão sendo aplicadas.

  • Total de alterações aplicadas

    O número de alterações aplicadas ao destino ou à aterrissagem. Você pode visualizar o número de adições, exclusões e atualizações.

Visualização do status e do progresso

Você pode exibir os seguintes detalhes de cada conjunto de dados ou alteração em Conjuntos de dados:

  • Nome

    O nome do conjunto de dados de destino.

  • Estado

    O estado da tabela será: Em fila, Carregando, Concluído ou Erro

  • Iniciado

    A hora em que o carregamento começou.

  • Encerrado

    A hora em que o carregamento terminou.

  • Duração

    Duração do carregamento no formato hh:mm:ss.

  • Registros

    O número de registros que foram gravados no destino durante o carregamento.

    Nota informativa

    Quando os conjuntos de dados de origem forem filtrados, Registros serão substituídos pelas seguintes seções:

    • Registros lidos: O número de registros lidos dos conjuntos de dados de origem antes da filtragem.

    • Registros gravados (após a filtragem): o número de registros realmente gravados no destino após a filtragem.

    Para obter mais informações sobre a filtragem de conjuntos de dados, consulte Filtrando um conjunto de dados.

  • Mensagem

    Exibe uma mensagem de erro quando o carregamento não foi processado com êxito.

Os dados de todas as transações de origem até o momento mostrado em A tarefa de dados está atualizada até estão disponíveis para consumo a partir desta tarefa de dados. Essas informações estarão disponíveis para uma tarefa de dados depois que todas as tabelas forem carregadas e o primeiro conjunto de alterações for aplicado. Se você optou por gerar exibições ao vivo, também pode ver quando essas exibições são atualizadas.

Se houver um lote de alterações antes da conclusão do carregamento inicial, a opção A tarefa de dados está atualizada até não será atualizada até que o carregamento inicial seja concluído e o primeiro lote de alterações seja aplicado. Por exemplo, suponha que você esteja carregando um ativo de dados que contém um conjunto de dados do pedido contendo 1 milhão de pedidos e um conjunto de dados de detalhes de pedidos contendo 10 milhões de detalhes de pedidos. Os conjuntos de dados demoram 10 e 20 minutos para realizar um carregamento total, respectivamente. O conjunto de dados de pedidos é carregado primeiro, seguido pelo conjunto de dados de detalhes de pedidos. Enquanto o conjunto de dados de pedidos estava sendo carregado, um novo pedido foi inserido. Portanto, quando os detalhes do pedido são carregados, eles podem conter detalhes do novo pedido que ainda não existem no conjunto de dados de pedidos. Os conjuntos de dados de pedidos e detalhes de pedidos só estarão sincronizados e totalmente atualizados ao mesmo tempo após a aplicação do primeiro lote de alterações.

Visualizando informações detalhadas

Você pode visualizar informações detalhadas no nível da instrução SQL.

  1. Selecione os conjuntos de dados para monitorar em detalhes.

  2. Clique em Detalhes do monitor.

Detalhes do monitor é exibido, e você pode visualizar os comandos que são executados para cada etapa do processo de carregamento ou alteração. Você pode clicar em um comando para visualizar as instruções SQL completas que foram executadas.

  • Clique em Exportar para CSV para exportar um arquivo de texto com instruções SQL completas para todos os comandos listados.

A tarefa de dados está atualizada até para exibições

O campo A tarefa de dados está atualizada até mostra a hora em que a exibição mais antiga está atualizada.

  • A tarefa de dados está atualizada até mostra a hora em que a exibição padrão mais antiga está atualizada.

    Por exemplo, suponha que uma tarefa tenha duas tabelas: Pedidos e Detalhes do pedido. Os pedidos são atualizados para 10h01 com registros de 10h e 10h01, e os detalhes do pedido possuem registros apenas de 10h. Nesse caso, a tarefa de dados é atualizada para 10h. Isso não deve ser confundido com os horários de início e término do carregamento da tarefa de dados, que podem ser de 10h02 às 10h03.

  • A tarefa de dados está atualizada até mostra a hora em que a exibição ao vivo mais antiga está atualizada.

    Por exemplo, suponha que uma tarefa tenha uma tabela Pedidos. Os pedidos em aterrisagem são atualizados para 10h01 com registros de 10h e 10h01, mas os pedidos em armazenamento são atualizados para registros apenas a partir de 10h. Nesse caso, as exibições ao vivo dos pedidos são atualizadas para 10h01 e as exibições padrão são atualizadas para 10h.

Visualizando o histórico de execução

Você pode visualizar o histórico de execução de uma tarefa para identificar as causas raiz e entender os padrões ao longo do tempo.

  • Clique em Histórico de execução na exibição Monitor de uma tarefa.

  • Clique em Histórico de execução no menu ... de uma tarefa em Monitorar exibições.

Até 100 execuções são exibidas no histórico de execução com base nas suas seleções de filtro. Refine seus critérios de filtro para ver outras execuções. Você pode filtrar por data de término da execução e status da tarefa. As informações de execução são retidas por 13 meses. Os metadados do conjunto de dados nas execuções são retidos por 30 dias.

Esta página ajudou?

Se você encontrar algum problema com esta página ou seu conteúdo – um erro de digitação, uma etapa ausente ou um erro técnico – avise-nos!