Entrar em Contato

Programa do Curso

Visão geral das capacidades de otimização do CANN

  • Como o desempenho da inferência é gerenciado no CANN
  • Objetivos de otimização para sistemas de IA em borda e embarcados
  • Compreensão da utilização do AI Core e alocação de memória

Utilizando o Graph Engine para Análise

  • Introdução ao Graph Engine e ao pipeline de execução
  • Visualização dos gráficos de operadores e métricas de tempo de execução
  • Modificação dos grafos computacionais para otimização

Ferramentas de Profiling e Métricas de Desempenho

  • Utilização da Ferramenta de Profiling do CANN (profiler) para análise de carga de trabalho
  • Análise do tempo de execução de kernels e identificação de gargalos
  • Profiling de acesso à memória e estratégias de tileagem

Desenvolvimento de Operadores Personalizados com TIK

  • Visão geral do TIK e do modelo de programação de operadores
  • Implementação de um operador personalizado utilizando o DSL do TIK
  • Testes e benchmarking do desempenho do operador

Otimização Avançada de Operadores com TVM

  • Introdução à integração do TVM com o CANN
  • Estratégias de auto-tuning para grafos computacionais
  • Quando e como alternar entre TVM e TIK

Técnicas de Otimização de Memória

  • Gestão do layout da memória e posicionamento de buffers
  • Técnicas para reduzir o consumo de memória no chip
  • Boas práticas para execução assíncrona e reutilização

Implantação em Cenários Reais e Estudos de Caso

  • Estudo de caso: ajuste de desempenho para o pipeline de câmeras de cidade inteligente
  • Estudo de caso: otimização da pilha de inferência de veículos autônomos
  • Diretrizes para profiling iterativo e melhoria contínua

Resumo e Próximos Passos

Requisitos

  • Forte compreensão das arquiteturas de modelos de aprendizado profundo e fluxos de trabalho de treinamento
  • Experiência com implantação de modelos utilizando CANN, TensorFlow ou PyTorch
  • Conhecimento da CLI do Linux, scripting de shell e programação em Python

Público-alvo

  • Engenheiros de desempenho de IA
  • Especialistas em otimização de inferência
  • Desenvolvedores que trabalham com IA na borda ou sistemas em tempo real
 14 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas