Programa do Curso
Introdução à Containerização Acelerada por GPU
- Compreensão do uso de GPUs em fluxos de trabalho de aprendizado profundo
- Como o Docker suporta cargas de trabalho baseadas em GPU
- Considerações-chave de desempenho
Instalação e Configuração do NVIDIA Container Toolkit
- Configurando drivers e compatibilidade com CUDA
- Validando o acesso à GPU dentro dos contêineres
- Configurando o ambiente de tempo de execução
Criando Imagens Docker Habilitadas para GPU
- Usando imagens base CUDA
- Empacotando frameworks de IA em contêineres prontos para GPU
- Gerenciando dependências para treinamento e inferência
Executando Cargas de Trabalho de IA Aceleradas por GPU
- Executando tarefas de treinamento usando GPUs
- Gerenciando cargas de trabalho com múltiplas GPUs
- Monitorando a utilização da GPU
Otimização de Desempenho e Alocação de Recursos
- Limitando e isolando recursos de GPU
- Otimizando memória, tamanhos de lote e posicionamento de dispositivos
- Ajuste de desempenho e diagnósticos
Inferência em Contêineres e Servidorização de Modelos
- Criando contêineres prontos para inferência
- Servindo cargas de trabalho de alta demanda nas GPUs
- Integrando motores de execução de modelos e APIs
Escalonamento de Cargas de Trabalho de GPU com Docker
- Estratégias para treinamento distribuído de GPUs
- Dimensionando microsserviços de inferência
- Coordenando sistemas de IA multi-contêiner
Segurança e Confiabilidade para Contêineres Habilitados por GPU
- Garantindo acesso seguro à GPUs em ambientes compartilhados
- Endurecimento das imagens de contêiner
- Gerenciamento de atualizações, versões e compatibilidade
Resumo e Próximos Passos
Requisitos
- Compreensão dos fundamentos do aprendizado profundo
- Experiência com Python e frameworks de IA comuns
- Familiaridade com conceitos básicos de containerização
Público-Alvo
- Engenheiros de aprendizado profundo
- Equipes de pesquisa e desenvolvimento
- Treinadores de modelos de IA
Testemunhos de Clientes (3)
Como os instrutores entregam o conhecimento de forma tão eficaz
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Máquina Traduzida
o instrutor tinha muito conhecimento e paciência para compartilhar conosco
Bogdan Olaru
Curso - Introduction to Docker
Máquina Traduzida
O conhecimento e as trocas com Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Máquina Traduzida