Curso de Data Warehousing: Conceitos, Projeto e Implementação

Este treinamento ao vivo com instrutor em Brasil (online ou presencial) destina-se a profissionais de dados de nível avançado que desejam otimizar fluxos de trabalho de processamento de dados, garantir a integridade dos dados e implementar soluções robustas de lakehouse capazes de lidar com as complexidades das aplicações modernas de big data.

Ao final deste treinamento, os participantes serão capazes de:

• Obter uma compreensão aprofundada da arquitetura do Iceberg, incluindo gerenciamento de metadados e layout dos arquivos.
• Configurar o Iceberg para desempenho ótimo em vários ambientes e integrá-lo com múltiplos motores de processamento de dados.
• Gerenciar tabelas Iceberg em larga escala, realizar alterações complexas de esquema e lidar com a evolução das partições.
• Dominar técnicas para otimizar o desempenho das consultas e a eficiência da varredura de dados em grandes conjuntos de dados.
• Implementar mecanismos para garantir a consistência dos dados, gerenciar garantias transacionais e lidar com falhas em ambientes distribuídos.

Este treinamento ao vivo com instrutor em Brasil (online ou presencial) é voltado para profissionais de dados iniciantes que desejam adquirir os conhecimentos e as habilidades necessários para utilizar efetivamente o Apache Iceberg no gerenciamento de conjuntos de dados em grande escala, garantir a integridade dos dados e otimizar os fluxos de processamento.

Ao final deste treinamento, os participantes serão capazes de:

• Obter uma compreensão profunda da arquitetura, recursos e benefícios do Apache Iceberg.
• Aprender sobre formatos de tabela, particionamento, evolução de esquemas e recursos de viagem no tempo.
• Instalar e configurar o Apache Iceberg em diferentes ambientes.
• Criar, gerenciar e manipular tabelas Iceberg.
• Compreender o processo de migração de dados de outros formatos de tabela para o Iceberg.

Este treinamento ao vivo, ministrado por instrutor em Brasil (online ou presencial), é direcionado a cientistas de dados e engenheiros de nível intermediário que desejam utilizar o Google Colab e o Apache Spark para processamento e análise de big data.

Ao final deste treinamento, os participantes serão capazes de:

• Configurar um ambiente de big data usando o Google Colab e o Spark.
• Processar e analisar grandes conjuntos de dados de forma eficiente com o Apache Spark.
• Visualizar big data em um ambiente colaborativo.
• Integrar o Apache Spark a ferramentas baseadas em nuvem.

Esta formação presencial (online ou no local) destina-se a engenheiros de dados, analistas de dados e profissionais que desejam utilizar o Databricks e o PySpark para criar pipelines de dados escaláveis e migrar fluxos de trabalho SQL existentes.

Esta formação oferece uma introdução prática à construção de fluxos de trabalho escalonáveis de processamento de dados e aprendizado de máquina utilizando PySpark. Os participantes aprenderão como o Apache Spark opera dentro dos modernos ecossistemas de Big Data e como processar grandes conjuntos de dados de maneira eficiente, aplicando os princípios da computação distribuída.

Este curso prático de três dias tem como foco a construção e a otimização de workloads eficientes de processamento de dados utilizando PySpark, Pandas e Polars em ambientes baseados em Kubernetes.

Os participantes desenvolverão uma compreensão prática de como os aplicativos Spark são executados no Kubernetes e como as decisões de configuração no nível da aplicação influenciam o desempenho, a escalabilidade, o consumo de recursos e os custos. O curso cobre áreas-chave de otimização, incluindo dimensionamento de executores, alocação de memória, alocação dinâmica, estratégias de particionamento, comportamento de shuffle, problemas de arquivos pequenos e processamento eficiente de Parquet.

O curso também aborda desafios comuns ao trabalhar com Pandas, incluindo limitações de memória e falhas por esgotamento de memória, e introduz o Polars como uma alternativa de alto desempenho para workloads selecionados de processamento de dados. Por meio de exercícios práticos, os participantes diagnosticarão problemas de desempenho e memória, compararão diferentes estratégias de configuração e aplicarão técnicas de otimização a cenários realistas de ETL e aprendizado de máquina.

A ênfase ao longo do curso é na tomada de decisões prática: compreender como identificar gargalos, selecionar a ferramenta adequada, configurar o Spark de forma eficiente e equilibrar o desempenho com o consumo de recursos de infraestrutura e os custos.

Este treinamento ao vivo, ministrado por instrutor em Brasil (online ou presencial), é voltado para engenheiros que desejam configurar e implantar o sistema Apache Spark para processar grandes volumes de dados.

Ao final deste treinamento, os participantes serão capazes de:

• Instalar e configurar o Apache Spark.
• Processar rapidamente e analisar grandes conjuntos de dados.
• Compreender as diferenças entre o Apache Spark e o Hadoop MapReduce, e saber quando usar cada um.
• Integrar o Apache Spark com outras ferramentas de aprendizado de máquina.

Esta formação ao vivo com instrutor em Brasil (online ou presencial) destina-se a administradores de sistemas iniciantes a intermediários que desejam implantar, manter e otimizar clusters Spark.

Ao final desta formação, os participantes serão capazes de:

• Instalar e configurar o Apache Spark em diversos ambientes.
• Gerir recursos de cluster e monitorar aplicações Spark.
• Otimizar o desempenho dos clusters Spark.
• Implementar medidas de segurança e garantir alta disponibilidade.
• Depurar e solucionar problemas comuns do Spark.

Em treinamento ao vivo conduzido por um instrutor em Brasil, os participantes aprenderão a utilizar Python e Spark juntos para analisar big data, por meio de exercícios práticos.

Ao final deste treinamento, os participantes serão capazes de:

• Aprender a usar o Spark com Python para analisar Big Data.
• Realizar exercícios que simulam casos do mundo real.
• Utilizar diferentes ferramentas e técnicas para análise de big data usando PySpark.

Este treinamento ao vivo, ministrado por instrutor em Brasil (online ou presencial), é direcionado a desenvolvedores que desejam utilizar e integrar Spark, Hadoop e Python para processar, analisar e transformar conjuntos de dados grandes e complexos.

Ao final deste treinamento, os participantes serão capazes de:

• Configurar o ambiente necessário para começar a processar big data com Spark, Hadoop e Python.
• Compreender as funcionalidades, componentes principais e arquitetura do Spark e do Hadoop.
• Aprender como integrar Spark, Hadoop e Python para o processamento de big data.
• Explorar as ferramentas do ecossistema do Spark (Spark MLlib, Spark Streaming, Kafka, Sqoop, Kafka e Flume).
• Construir sistemas de recomendação por filtragem colaborativa semelhantes aos da Netflix, YouTube, Amazon, Spotify e Google.
• Utilizar o Apache Mahout para escalonar algoritmos de aprendizado de máquina.