Programa do Curso

Introdução ao Cambricon e à Arquitetura MLU

  • Visão geral do portfólio de chips AI da Cambricon
  • Arquitetura MLU e pipeline de instruções
  • Tipos de modelos suportados e casos de uso

Instalando a Cadeia de Ferramentas de Desenvolvimento

  • Instalação do BANGPy e Neuware SDK
  • Configuração do ambiente para Python e C++
  • Compatibilidade e pré-processamento do modelo

Desenvolvimento de Modelos com BANGPy

  • Estrutura e gerenciamento de forma de tensores
  • Construção do grafo computacional
  • Suporte a operações personalizadas no BANGPy

Implantação com o Neuware Runtime

  • Conversão e carregamento de modelos
  • Controle de execução e inferência
  • Práticas de implantação em borda e centro de dados

Otimização de Desempenho

  • Mapeamento de memória e ajuste de camadas
  • Rastreamento e perfil de execução
  • Bottlenecks comuns e correções

Integração do MLU em Aplicações

  • Utilização das APIs Neuware para integração de aplicações
  • Suporte a fluxo contínuo e múltiplos modelos
  • Cenários híbridos de inferência CPU-MLU

Projeto End-to-End e Use Case

  • Laboratório: Implantação de um modelo de visão ou NLP
  • Inferência na borda com integração BANGPy
  • Teste de precisão e throughput

Resumo e Próximos Passos

Requisitos

  • Compreensão das estruturas de modelos de aprendizado de máquina
  • Experiência com Python e/ou C++
  • Familiaridade com conceitos de implantação e aceleração de modelos

Público-alvo

  • Desenvolvedores de IA embarcada
  • Engenheiros de ML que implantam em borda ou datacenter
  • Desenvolvedores trabalhando com infraestrutura de IA chinesa
 21 Horas

Número de participantes


Preço por Participante

Próximas Formações Provisórias

Categorias Relacionadas