Programa do Curso
Introdução à Containerização Acelerada por GPU
- Entendendo o uso de GPUs em fluxos de trabalho de deep learning
- Como o Docker suporta workloads baseados em GPU
- Considerações-chave de desempenho
Instalação e Configuração do NVIDIA Container Toolkit
- Configuração de drivers e compatibilidade com CUDA
- Validação do acesso à GPU dentro dos contêineres
- Configuração do ambiente de execução
Construindo Imagens Docker Habilitadas para GPU
- Usando imagens base de CUDA
- Embalagem de frameworks de IA em contêineres prontos para GPU
- Gestão de dependências para treinamento e inferência
Executando Workloads de IA Acelerados por GPU
- Executando jobs de treinamento usando GPUs
- Gerenciando workloads de múltiplas GPUs
- Monitorando a utilização da GPU
Otimizando Desempenho e Alocação de Recursos
- Limitando e isolando recursos de GPU
- Otimizando memória, tamanhos de lote e posicionamento de dispositivos
- Ajuste fino de desempenho e diagnósticos
Inferência em Contêineres e Serviço de Modelos
- Construindo contêineres prontos para inferência
- Servindo workloads de alta carga em GPUs
- Integrando executores de modelos e APIs
Escala de Workloads de GPU com Docker
- Estratégias para treinamento distribuído de GPU
- Escala de microsserviços de inferência
- Coordenação de sistemas de IA multicontêiner
Segurança e Confiabilidade para Contêineres Habilitados por GPU
- Garantindo acesso seguro à GPU em ambientes compartilhados
- Fortalecendo imagens de contêineres
- Gerenciando atualizações, versões e compatibilidade
Resumo e Próximos Passos
Requisitos
- Compreensão dos fundamentos de deep learning
- Experiência com Python e frameworks de IA comuns
- Familiaridade com conceitos básicos de containerização
Público-Alvo
- Engenheiros de deep learning
- Equipes de pesquisa e desenvolvimento
- Treinadores de modelos de IA
Testemunhos de Clientes (3)
Como os instrutores entregam o conhecimento de forma tão eficaz
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Máquina Traduzida
o instrutor tinha muito conhecimento e paciência para compartilhar conosco
Bogdan Olaru
Curso - Introduction to Docker
Máquina Traduzida
O conhecimento e as trocas com Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Máquina Traduzida