Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Programa do Curso
Conceitos e Métricas de Desempenho
- Latência, taxa de transferência, consumo de energia, utilização de recursos
- Gargalos em nível de sistema vs. modelo
- Perfilamento para inferência vs. treinamento
Perfilamento no Huawei Ascend
- Uso do CANN Profiler e MindInsight
- Diagnóstico de kernels e operadores
- Padrões de offload e mapeamento de memória
Perfilamento na GPU Biren
- Funcionalidades de monitoramento de desempenho do SDK da Biren
- Fusão de kernels, alinhamento de memória e filas de execução
- Perfilamento consciente de energia e temperatura
Perfilamento na MLU Cambricon
- Ferramentas de desempenho BANGPy e Neuware
- Visibilidade em nível de kernel e interpretação de logs
- Integração do profiler MLU com frameworks de implantação
Otimização em Nível de Grafo e Modelo
- Estratégias de poda de grafo e quantização
- Fusão de operadores e reestruturação do grafo computacional
- Padronização do tamanho de entrada e ajuste de lote (batch)
Otimização de Memória e Kernel
- Otimização do layout e reutilização de memória
- Gerenciamento eficiente de buffers entre chipsets
- Técnicas de ajuste fino em nível de kernel por plataforma
Boas Práticas entre Plataformas
- Portabilidade de desempenho: estratégias de abstração
- Criação de pipelines de ajuste fino compartilhados para ambientes multi-chip
- Exemplo: ajuste fino de um modelo de detecção de objetos em Ascend, Biren e MLU
Resumo e Próximos Passos
Requisitos
- Experiência em treinamento ou implantação de pipelines de modelos de IA
- Compreensão dos princípios de computação GPU/MLU e otimização de modelos
- Familiaridade básica com ferramentas e métricas de perfilamento de desempenho
Público-Alvo
- Engenheiros de desempenho
- Equipes de infraestrutura de aprendizado de máquina
- Arquitetos de sistemas de IA
21 Horas
