Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Programa do Curso
Introdução ao Desenvolvimento de Operadores Personalizados
- Por que construir operadores personalizados? Casos de uso e restrições
- Estrutura do tempo de execução do CANN e pontos de integração de operadores
- Visão geral do TBE, TIK e TVM no ecossistema de IA da Huawei
Usando o TIK para Programação de Operadores de Baixo Nível
- Compreendendo o modelo de programação do TIK e as APIs suportadas
- Gerenciamento de memória e estratégia de tiling no TIK
- Criando, compilando e registrando um op personalizado com o CANN
Testes e Validação de Ops Personalizados
- Testes unitários e testes de integração de ops no grafo
- Depuração de problemas de desempenho em nível de kernel
- Visualização da execução do op e do comportamento dos buffers
Escalonamento e Otimização Baseados no TVM
- Visão geral do TVM como um compilador para ops de tensores
- Escrevendo um escalonamento para um op personalizado no TVM
- Ajuste, benchmarking e geração de código no TVM para Ascend
Integração com Frameworks e Modelos
- Registrando ops personalizados para MindSpore e ONNX
- Verificando a integridade do modelo e o comportamento de fallback
- Suportando grafos com múltiplos operadores utilizando precisão mista
Estudos de Caso e Otimizações Especializadas
- Estudo de caso: convolução de alta eficiência para formas de entrada pequenas
- Estudo de caso: otimização do operador de atenção com consciência de memória
- Melhores práticas na implantação de ops personalizados em dispositivos
Resumo e Próximos Passos
Requisitos
- Conhecimento sólido dos internals de modelos de IA e da computação em nível de operador
- Experiência com ambientes de desenvolvimento Python e Linux
- Familiaridade com compiladores de redes neurais ou otimizadores em nível de grafo
Público-Alvo
- Engenheiros de compiladores que trabalham em toolchains de IA
- Desenvolvedores de sistemas focados na otimização de baixo nível da IA
- Desenvolvedores criando ops personalizados ou direcionados a novas cargas de trabalho de IA
14 Horas