Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Programa do Curso
Visão geral das capacidades de otimização do CANN
- Como o desempenho da inferência é gerenciado no CANN
- Objetivos de otimização para sistemas de IA em borda e embarcados
- Compreensão da utilização do AI Core e alocação de memória
Utilizando o Graph Engine para Análise
- Introdução ao Graph Engine e ao pipeline de execução
- Visualização dos gráficos de operadores e métricas de tempo de execução
- Modificação dos grafos computacionais para otimização
Ferramentas de Profiling e Métricas de Desempenho
- Utilização da Ferramenta de Profiling do CANN (profiler) para análise de carga de trabalho
- Análise do tempo de execução de kernels e identificação de gargalos
- Profiling de acesso à memória e estratégias de tileagem
Desenvolvimento de Operadores Personalizados com TIK
- Visão geral do TIK e do modelo de programação de operadores
- Implementação de um operador personalizado utilizando o DSL do TIK
- Testes e benchmarking do desempenho do operador
Otimização Avançada de Operadores com TVM
- Introdução à integração do TVM com o CANN
- Estratégias de auto-tuning para grafos computacionais
- Quando e como alternar entre TVM e TIK
Técnicas de Otimização de Memória
- Gestão do layout da memória e posicionamento de buffers
- Técnicas para reduzir o consumo de memória no chip
- Boas práticas para execução assíncrona e reutilização
Implantação em Cenários Reais e Estudos de Caso
- Estudo de caso: ajuste de desempenho para o pipeline de câmeras de cidade inteligente
- Estudo de caso: otimização da pilha de inferência de veículos autônomos
- Diretrizes para profiling iterativo e melhoria contínua
Resumo e Próximos Passos
Requisitos
- Forte compreensão das arquiteturas de modelos de aprendizado profundo e fluxos de trabalho de treinamento
- Experiência com implantação de modelos utilizando CANN, TensorFlow ou PyTorch
- Conhecimento da CLI do Linux, scripting de shell e programação em Python
Público-alvo
- Engenheiros de desempenho de IA
- Especialistas em otimização de inferência
- Desenvolvedores que trabalham com IA na borda ou sistemas em tempo real
14 Horas