Curso de Otimização do Desempenho de Redes Neurais com o CANN SDK

Visão Geral das Capacidades de Otimização do CANN

• Como o desempenho de inferência é tratado no CANN
• Objetivos de otimização para sistemas de IA embarcados e edge
• Compreensão do uso do AI Core e da alocação de memória

Usando o Graph Engine para Análise

• Introdução ao Graph Engine e ao pipeline de execução
• Visualização de grafos de operadores e métricas de execução
• Modificação de grafos computacionais para otimização

Ferramentas de Perfil e Métricas de Desempenho

• Uso da Ferramenta de Perfis do CANN (profiler) para análise de carga de trabalho
• Análise do tempo de execução dos kernels e de gargalos
• Perfil de acesso à memória e estratégias de tiling

Desenvolvimento de Operadores Personalizados com TIK

• Visão geral do TIK e do modelo de programação de operadores
• Implementação de um operador personalizado usando TIK DSL
• Testes e benchmark do desempenho do operador

Otimização Avançada de Operadores com TVM

• Introdução à integração do TVM com o CANN
• Estratégias de auto-tuning para grafos computacionais
• Quando e como alternar entre TVM e TIK

Técnicas de Otimização de Memória

• Gestão do layout de memória e posicionamento de buffers
• Técnicas para reduzir o consumo de memória no chip
• Boas práticas para execução assíncrona e reuso

Implantação no Mundo Real e Estudos de Caso

• Estudo de caso: ajuste de desempenho para o pipeline de câmeras de cidades inteligentes
• Estudo de caso: otimização da pilha de inferência de veículos autônomos
• Diretrizes para análise de perfis iterativa e melhoria contínua

Resumo e Próximos Passos