Entrar em Contato

Programa do Curso

Conceitos e Métricas de Performance

  • Latência, taxa de transferência, uso de energia, utilização de recursos
  • Gargalos em nível de sistema vs. em nível de modelo
  • Perfilamento para inferência vs. treinamento

Perfilamento na Huawei Ascend

  • Uso do CANN Profiler e MindInsight
  • Diagnostics de kernel e operador
  • Padrões de descarregamento (offload) e mapeamento de memória

Perfilamento na GPU Biren

  • Recursos de monitoramento de performance do SDK da Biren
  • Fusão de kernels, alinhamento de memória e filas de execução
  • Perfilamento consciente de energia e temperatura

Perfilamento no MLU Cambricon

  • Ferramentas de performance BANGPy e Neuware
  • Visibilidade em nível de kernel e interpretação de logs
  • Integração do profiler MLU com frameworks de implantação

Otimização em Nível de Grafo e Modelo

  • Estratégias de poda de grafo e quantização
  • Fusão de operadores e reestruturação do grafo computacional
  • Padronização do tamanho de entrada e ajuste de lote (batch)

Otimização de Memória e Kernel

  • Otimização do layout e reuso de memória
  • Gestão eficiente de buffers entre diferentes chipsets
  • Técnicas de afinação em nível de kernel por plataforma

Melhores Práticas Multi-Plataforma

  • Portabilidade de performance: estratégias de abstração
  • Criação de pipelines de afinação compartilhados para ambientes multi-chip
  • Exemplo: ajustando um modelo de detecção de objetos entre Ascend, Biren e MLU

Resumo e Próximos Passos

Requisitos

  • Experiência trabalhando com fluxos de trabalho de treinamento ou implantação de modelos de IA
  • Compreensão dos princípios de cálculo de GPU/MLU e otimização de modelos
  • Conhecimento básico de ferramentas e métricas de perfilamento de performance

Público-Alvo

  • Engenheiros de performance
  • Equipes de infraestrutura de machine learning
  • Arquitetos de sistemas de IA
 21 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas