Programa do Curso
Introdução à Containerização com Aceleração por GPU
- Entendendo o uso de GPUs em fluxos de trabalho de aprendizado profundo
- Como o Docker suporta cargas de trabalho baseadas em GPU
- Considerações-chave de desempenho
Instalação e Configuração do NVIDIA Container Toolkit
- Configuração de drivers e compatibilidade CUDA
- Validação do acesso à GPU dentro dos contêineres
- Configuração do ambiente de runtime
Construção de Imagens Docker Habilitadas para GPU
- Uso de imagens base CUDA
- Empacotamento de frameworks de IA em contêineres prontos para GPU
- Gerenciamento de dependências para treinamento e inferência
Execução de Cargas de Trabalho de IA Aceleradas por GPU
- Execução de tarefas de treinamento usando GPUs
- Gerenciamento de cargas de trabalho multi-GPU
- Monitoramento da utilização da GPU
Otimização de Desempenho e Alocação de Recursos
- Limitação e isolamento de recursos de GPU
- Otimização de memória, tamanhos de lote e posicionamento de dispositivos
- Ajuste de desempenho e diagnósticos
Inferência em Contêineres e Servimento de Modelos
- Construção de contêineres prontos para inferência
- Servimento de cargas de trabalho de alto volume em GPUs
- Integração de executadores de modelos e APIs
Escala de Cargas de Trabalho de GPU com Docker
- Estratégias para treinamento de GPU distribuído
- Escala de microsserviços de inferência
- Coordenação de sistemas de IA com múltiplos contêineres
Segurança e Confiabilidade para Contêineres Habilitados por GPU
- Garantia de acesso seguro à GPU em ambientes compartilhados
- Endurecimento (hardening) de imagens de contêineres
- Gerenciamento de atualizações, versões e compatibilidade
Resumo e Próximos Passos
Requisitos
- Compreensão dos fundamentos de aprendizado profundo
- Experiência com Python e frameworks de IA comuns
- Familiaridade com conceitos básicos de containerização
Público-Alvo
- Engenheiros de aprendizado profundo
- Equipes de pesquisa e desenvolvimento
- Treinadores de modelos de IA
Testemunhos de Clientes (2)
Como mencionei anteriormente, para uma pessoa como eu (sem experiência), isso foi uma porta de entrada para compreender os recursos e as funções dessas ferramentas e programas.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Curso - Docker and Kubernetes
Máquina Traduzida
programa de curso estruturado em múltiplos níveis.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Máquina Traduzida