Entrar em Contato

Programa do Curso

Introdução ao Apache Airflow

  • O que é orquestração de fluxos de trabalho
  • Principais recursos e benefícios do Apache Airflow
  • Melhorias do Airflow 2.x e visão geral do ecossistema

Arquitetura e Conceitos Fundamentais

  • Processo de agendamento, servidor web e trabalhadores (workers)
  • DAGs, tarefas e operadores
  • Executores e backends (Local, Celery, Kubernetes)

Instalação e Configuração

  • Instalando o Airflow em ambientes locais e em nuvem
  • Configurando o Airflow com diferentes executores
  • Configurando bancos de dados de metadados e conexões

Navegando pela Interface e CLI do Airflow

  • Explorando a interface web do Airflow
  • Monitorando execuções de DAGs, tarefas e logs
  • Utilizando a CLI do Airflow para administração

Criação e Gerenciamento de DAGs

  • Criando DAGs com a TaskFlow API
  • Utilizando operadores, sensores e hooks
  • Gerenciando dependências e intervalos de agendamento

Integrando o Airflow com Serviços de Dados e Nuvem

  • Conectando-se a bancos de dados, APIs e filas de mensagens
  • Executando pipelines ETL com Airflow
  • Integrações em nuvem: operadores AWS, GCP e Azure

Monitoramento e Observabilidade

  • Logs de tarefas e monitoramento em tempo real
  • Métricas com Prometheus e Grafana
  • Alertas e notificações via e-mail ou Slack

Segurança do Apache Airflow

  • Controle de acesso baseado em funções (RBAC)
  • Autenticação com LDAP, OAuth e SSO
  • Gerenciamento de segredos com Vault e cofres de segredos em nuvem

Escalonamento do Apache Airflow

  • Paralelismo, concorrência e filas de tarefas
  • Utilizando CeleryExecutor e KubernetesExecutor
  • Implantando o Airflow no Kubernetes com Helm

Melhores Práticas para Produção

  • Controle de versão e CI/CD para DAGs
  • Teste e depuração de DAGs
  • Manutenção de confiabilidade e desempenho em escala

Solução de Problemas e Otimização

  • Depuração de DAGs e tarefas falhas
  • Otimizando o desempenho das DAGs
  • Erros comuns e como evitá-los

Resumo e Próximos Passos

Requisitos

  • Experiência com programação em Python
  • Familiaridade com conceitos de engenharia de dados ou DevOps
  • Compreensão de ETL ou orquestração de fluxos de trabalho

Público-Alvo

  • Cientistas de dados
  • Engenheiros de dados
  • Engenheiros de DevOps e infraestrutura
  • Desenvolvedores de software
 21 Horas

Número de participantes


Preço por participante

Testemunhos de Clientes (7)

Próximas Formações Provisórias

Categorias Relacionadas