Entrar em Contato

Programa do Curso

Introdução ao Desenvolvimento de Operadores Personalizados

  • Por que construir operadores personalizados? Casos de uso e restrições
  • Estrutura do tempo de execução do CANN e pontos de integração de operadores
  • Visão geral do TBE, TIK e TVM no ecossistema de IA da Huawei

Usando o TIK para Programação de Operadores de Baixo Nível

  • Compreendendo o modelo de programação do TIK e as APIs suportadas
  • Gerenciamento de memória e estratégia de tiling no TIK
  • Criando, compilando e registrando um op personalizado com o CANN

Testes e Validação de Ops Personalizados

  • Testes unitários e testes de integração de ops no grafo
  • Depuração de problemas de desempenho em nível de kernel
  • Visualização da execução do op e do comportamento dos buffers

Escalonamento e Otimização Baseados no TVM

  • Visão geral do TVM como um compilador para ops de tensores
  • Escrevendo um escalonamento para um op personalizado no TVM
  • Ajuste, benchmarking e geração de código no TVM para Ascend

Integração com Frameworks e Modelos

  • Registrando ops personalizados para MindSpore e ONNX
  • Verificando a integridade do modelo e o comportamento de fallback
  • Suportando grafos com múltiplos operadores utilizando precisão mista

Estudos de Caso e Otimizações Especializadas

  • Estudo de caso: convolução de alta eficiência para formas de entrada pequenas
  • Estudo de caso: otimização do operador de atenção com consciência de memória
  • Melhores práticas na implantação de ops personalizados em dispositivos

Resumo e Próximos Passos

Requisitos

  • Conhecimento sólido dos internals de modelos de IA e da computação em nível de operador
  • Experiência com ambientes de desenvolvimento Python e Linux
  • Familiaridade com compiladores de redes neurais ou otimizadores em nível de grafo

Público-Alvo

  • Engenheiros de compiladores que trabalham em toolchains de IA
  • Desenvolvedores de sistemas focados na otimização de baixo nível da IA
  • Desenvolvedores criando ops personalizados ou direcionados a novas cargas de trabalho de IA
 14 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas