Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Duração 14 horas
Programa do Curso
Introdução ao Desenvolvimento de Operadores Personalizados
- Por que construir operadores personalizados? Casos de uso e restrições
- Estrutura do runtime CANN e pontos de integração de operadores
- Visão geral de TBE, TIK e TVM no ecossistema de IA da Huawei
Uso do TIK para Programação de Operadores de Baixo Nível
- Compreensão do modelo de programação TIK e das APIs suportadas
- Gerenciamento de memória e estratégia de tiling no TIK
- Criação, compilação e registro de um operador personalizado no CANN
Teste e Validação de Operadores Personalizados
- Testes unitários e testes de integração de operadores no grafo
- Depuração de problemas de desempenho em nível de kernel
- Visualização da execução de operadores e comportamento de buffers
Agendamento e Otimização Baseados em TVM
- Visão geral do TVM como compilador para operadores tensoriais
- Escrevendo um agendamento para um operador personalizado no TVM
- Ajuste, benchmarking e geração de código do TVM para Ascend
Integração com Frameworks e Modelos
- Registro de operadores personalizados para MindSpore e ONNX
- Verificação da integridade do modelo e comportamento de fallback
- Suporte a grafos multi-operadores com precisão mista
Estudos de Caso e Otimizações Especializadas
- Estudo de caso: convolução de alta eficiência para pequenas formas de entrada
- Estudo de caso: otimização de operador de atenção com consciência de memória
- Boas práticas na implantação de operadores personalizados em vários dispositivos
Resumo e Próximos Passos
Requisitos
- Conhecimento sólido dos mecanismos internos de modelos de IA e da computação em nível de operador
- Experiência com Python e ambientes de desenvolvimento Linux
- Familiaridade com compiladores de redes neurais ou otimizadores em nível de grafo
Público-Alvo
- Engenheiros de compiladores que trabalham em toolchains de IA
- Desenvolvedores de sistemas focados em otimização de IA de baixo nível
- Desenvolvedores que constroem operadores personalizados ou visam cargas de trabalho de IA inovadoras
